マイクロソフト、警察による顔認識用AIツールの使用を阻止

AI が日に日に強力になっているように見えるため、政府機関が AI を使用して自分たちを追跡できるのではないかと多くの人が心配しています。 少なくとも 1 つの AI 顔認識ツールが、Microsoft の Azure OpenAI サービスを使用して誰かを検出および識別するために、米国の警察署および世界中の法執行機関によって使用が禁止されました。

Microsoft が最近追加した文言は、同社の Azure OpenAI サービスが顔認識に関して法執行機関に公開されていないことを再確認しています。 追加された箇条書きには、法執行機関が OpenAI の現在およびおそらく将来の画像分析モデルとの統合を使用できないことも記載されています。 このすべての中心にあるのは、AI が人々のあらゆる動きを追跡するために使用されるだけでなく、幻覚を起こしやすくなるのではないかという市民の集団的な懸念です。 これらには、人種的偏見や容疑者の不適切な特定が含まれる可能性があります。

Microsoft が新たに追加した用語では、同社の AI ツールは「米国の警察による、または警察のための顔認識目的に使用することはできない」と述べられています。 または、世界中の法執行機関が管理されていない「野生の」環境で個人を識別しようとするために使用されているモバイルカメラのリアルタイム顔認識技術に使用されます。これには、身体に装着したり、身体に装着したものを使用してパトロール中の警察官が含まれますが、これに限定されません顔認識技術を使用して、容疑者または以前の受刑者のデータベースに存在する個人を識別しようとするダッシュボードカメラ。」

Microsoftの追加用語は、軍と法執行機関の両方向けに武器や製品を製造する企業であるAxonが、法執行機関が装着しているボディカメラからキャプチャされた音声の概要を提供するためにOpenAIのGPT-4生成テキストモデルを独自に使用すると発表したというニュースに続くものである。将校、または軍人。

ホワイトハウスは最近、連邦機関が顔認識などの技術に対して明確なオプトアウトオプションを提供する必要があるとの条項を含むAIに関する政策を発表した。 新しい規定のポイントは、個人が顔認識以外の代替の識別方法を選択する選択肢を確実に持つことである。

どれにも関わらず 保護措置, AIは必ず誰かによって凶悪な目的に利用されます。 しかし、Microsoft のような企業が少なくとも AI を抑制しようとしていると知るのは嬉しいことです。 ただし、覚えておくことも重要ですが、世界中の政府は依然として独自の AI 対応デバイスやソフトウェアを作成して使用することができ、おそらく同じことを行う必要があります。