날이 갈수록 AI가 더욱 강력해지면서 많은 사람들은 AI를 정부 기관에서 추적하는 데 사용할 수 있다고 우려하고 있습니다. 글쎄, 적어도 하나의 AI 얼굴 인식 도구는 미국 경찰서와 전 세계 법 집행 기관에서 Microsoft의 Azure OpenAI 서비스를 사용하는 사람을 감지하고 식별하는 데 사용이 금지되었습니다.
최근 Microsoft가 추가한 언어는 Azure OpenAI 서비스가 얼굴 인식에 대한 법 집행 기관에 공개되지 않음을 재확인합니다. 또한 추가된 글머리 기호에는 법 집행 기관이 OpenAI의 현재 및 미래의 이미지 분석 모델과 포함된 통합을 사용하지 않을 수 있다고 명시되어 있습니다. 이 모든 것의 중심에는 AI가 모든 움직임을 추적하는 데 사용될 뿐만 아니라 환각을 일으키기 쉽다는 시민들의 집단적 우려가 있습니다. 여기에는 인종적 편견이나 용의자를 부적절하게 식별하는 것이 포함될 수 있습니다.
Advertisement
마이크로소프트가 새로 추가한 용어에는 자사의 AI 도구가 “미국 경찰서에 의한 또는 경찰서를 위한 얼굴 인식 목적으로 사용될 수 없다”고 명시되어 있다. 또는 통제되지 않은 '야생' 환경에서 개인 식별을 시도하기 위해 전 세계 법 집행 기관에서 사용하는 모바일 카메라의 실시간 안면 인식 기술에 사용될 수 있습니다. 얼굴 인식 기술을 사용하는 대시 장착형 카메라를 사용하여 용의자 또는 이전 수감자의 데이터베이스에 있는 개인을 식별하려고 시도합니다.”
마이크로소프트가 추가한 용어는 군대와 법 집행 기관을 위한 무기와 제품을 만드는 회사인 Axon이 OpenAI의 GPT-4 생성 텍스트 모델을 자체적으로 사용하여 법 집행 기관이 착용한 보디캠에서 캡처한 오디오 요약을 제공한다고 발표한 소식에 따른 것입니다. 장교든, 군인이든.
백악관은 또한 최근 연방 기관이 얼굴 인식과 같은 기술에 대한 명확한 거부 옵션을 제공해야 한다는 조항을 포함하는 AI에 대한 정책을 발표했습니다. 새로운 조항의 요점은 개인이 얼굴 인식 이외의 대체 식별 방법을 선택할 수 있도록 보장하는 것입니다.
무엇이든 상관없이 보호 장치, AI는 항상 누군가에 의해 사악한 목적으로 사용될 것입니다. 그러나 Microsoft와 같은 회사가 최소한 AI를 견제하려고 시도하고 있다는 사실을 아는 것은 좋은 일입니다. 그러나 전 세계 정부는 여전히 자체 AI 지원 장치와 소프트웨어를 만들어 동일한 작업을 수행할 수 있으며, 아마도 그렇게 할 가능성이 높다는 점을 기억하는 것도 중요합니다.