Google의 새로운 AI 미래는 멋진 새 기능과 개인정보 보호의 균형을 맞춰야 합니다.

2024년에 거의 모든 다른 기술 회사와 마찬가지로 Google은 가능한 모든 제품에 AI를 적용하기로 결정했습니다. Google은 소비자 기술 AI의 최초 개척자 중 하나였으며 수년 동안 눈에 띄지 않게 숨겨왔기 때문에 이는 별로 놀라운 일이 아닙니다. 이제 AI가 새로운 유행어이기 때문에 모든 베팅은 취소되었습니다.

Google이 우리에게 보여준 것 중 많은 부분이 곧 제공될 예정이거나 이미 제공되고 있습니다. 다른 것들은 결코 빛을 볼 수 없는 뜬금없는 프로젝트입니다. 프로젝트 룬을 기억하시나요? 실제 제품과 결코 시장에 나오지 않을 제품 모두에는 한 가지 공통점이 있습니다. 즉, 잠재적인 개인 정보 보호 문제가 있다는 점입니다.

이 역시 구글에게는 새로운 것이 아니다. 회사의 운영 방식 때문에 가지다 약간 침략적인 측면에 있습니다. 우리의 데이터가 수익을 창출하는 원동력이 될 때 우리의 데이터는 수집되고 분석될 것입니다. 인생에서 무료는 없습니다. 심지어 Gmail도 마찬가지입니다.

앞으로 나올 것의 대부분은 Gemini Nano의 일부 기능 덕분에 로컬에서 관리될 것입니다. 나는 Google이 내 전화 통화를 듣는 것을 원하지 않습니다. 그러나 그것이 내 전화에서 이루어지고 어딘가의 클라우드 서버 룸이 아닌 한 나는 그것에 대해 놀라지 않을 것입니다. 마찬가지로 “새” Gmail은 AI를 사용하여 받은편지함을 관리합니다. 해당 데이터는 이미 Google 클라우드에 있으므로 상관하지 않습니다. 켤 수도 있겠네요.

다른 몇 가지 예는 좀 더 걱정스러웠습니다.

Google은 사용자의 모든 정보를 확인하며 절대 잊지 않습니다.

Google은 또한 개인 정보 보호를 위협하는 몇 가지 아이디어를 선보였습니다. 머지않아 우리는 Google의 얼굴 인식에 대해 걱정해야 하는 것처럼 Google의 객체 인식에 대해서도 걱정해야 할 수도 있습니다.

Project Astra는 아마도 끔찍한 I/O 기조 프레젠테이션에서 Google이 발표한 가장 멋진 발표일 것입니다. 우리는 우리가 볼 수 있는 모든 것을 보고 들을 수 있으며 수집한 정보에 따라 조치를 취할 수 있는 대화형 보조자를 보았습니다.

많은 사람들이 데모에서 선보인 잠재적인 차세대 Google Glass에 레이저 초점을 맞추었지만 Astra가 “당신의 안경은 빨간 사과 옆 탁자 위에 있습니다.”라고 말했을 때 나는 주목을 받았습니다. 🚨🚨

나는 거짓말을 하지 않을 것이다. 이것은 많은 사람들에게 여러 면에서 유용한 도구가 될 수 있습니다. 나는 리모콘을 다시는 잃어버리지 않을 것이라고 농담으로 말했지만 실제로는 실용적인 용도가 있습니다. 예를 들어, EpiPen이나 응급 흡입기는 어디에 있나요? 그 중 하나를 찾는 것이 대부분의 상황에서 키를 찾는 것보다 조금 더 중요합니다.

그러나 항상 그렇지만은 있지만 이로 인해 몇 가지 심각한 문제가 발생할 수 있습니다. Astra가 집에서 어떤 종류의 밀수품을 본 적이 있는지 묻는 Google 사용자 데이터에 대한 소환장을 상상해보십시오. 마리화나부터 탄약, 피임에 이르기까지 모든 것이 유죄가 될 수 있으며, Google이 이 데이터에 액세스할 수 있다면 합법적인 소환장을 준수할 것입니다.. 그래야 합니다.

나는 당신이 집 안에서 무엇을 하는지는 내가 상관할 바가 아니기 때문에 불법적인 것을 용납하지 않습니다. 또한 이런 방식으로 사용되는 도구가 항상 나쁠 것이라는 말은 아닙니다. 때로는 경찰이 얻을 수 있는 모든 도움이 필요할 수도 있습니다. 나는 단지 그런 일이 일어날 수 있다고 말하는 것뿐입니다.

겉으로는 더 무해해 보이지만 잠재적으로 훨씬 더 위험한 것은 Google이 자동차의 번호판 번호를 알고 있다는 것입니다. 맙소사, 이것이 편리하고 도움이 될 수 있는 방법은 많지만 물론 문제도 있습니다.

Google에서는 모든 사진을 스캔하여 어떤 사진이 자동차인지 확인할 수 있습니다. 위치 데이터를 사용하여 어떤 사진이 찍혔는지 확인하고 특정 자동차가 나타나는 횟수를 확인하여 어떤 자동차가 귀하의 것인지 결정할 수 있습니다. 그런 다음 자동차 번호판 번호를 읽고 이를 추적합니다.

이 데이터를 상호 참조할 수 있는 방법을 생각해 보기 전까지는 아무 문제 없이 들립니다. 판사는 범죄가 저질러졌을 당시 범죄 현장에 있던 차량에 대한 사진이나 데이터에 대한 소환장에 서명할 수 있습니다.

이는 범인을 잡는 데 도움이 될 수 있지만 누군가가 경찰서를 강탈하기 직전에 간식이나 음료를 마시기 위해 Circle K에 들렀기 때문에 질문에 대답하기 위해 경찰서로 끌려갈 가능성이 높습니다.

사진을 통해 훈련된 이러한 유형의 물체 인식은 자동차 번호판에만 국한되지 않습니다.

이와 같은 도구는 강력하므로 위험할 수 있습니다. 구글은 이런 종류의 것들을 개발하는 데 정말 능숙합니다. 그리고 저는 이 기술이 군사나 법 집행에 어떻게 사용될 수 있는지 생각하지 않을 것입니다. 그러나 수요가 높을 것입니다.

이는 Google이 올바른 일을 해야 한다는 것을 의미합니다. 그리고 그것은 가능합니다. 이 기술이 수행하는 작업이 정확히 무엇인지, 수행 방법에 대한 개요, 보관되는 데이터 및 암호화 상태에 대한 명확하고 간결한 정보가 필수입니다. Google이 거기서 시작하지 않으면 다른 어떤 것도 중요하지 않습니다. 우리 대부분은 확인 버튼을 누르기 전에는 그 내용을 전혀 읽지 않을 것입니다. 하지만 일반 언어로 되어 있어야 합니다.

다음 단계는 이 모든 것을 옵트인하는 것입니다. 당신이 “나는 그것을 원해요!”라고 말하지 않는 한 당신은 그것을 얻지 못하고 있습니다. 구글은 대개 이것에 대해서는 꽤 좋지만 새롭고 침입적인 것들을 당신에게 버리는 “실수”가 있었습니다.

마지막으로 이러한 기능을 다른 모든 기능과 분리해야 합니다. 문제가 있으면 시스템을 종료하고 수정한 다음 다시 켜기 전에 모든 사람에게 수정 사항을 푸시하세요. 우리는 Motorola가 이 중요한 문제를 해결하기 위해 전화기를 업데이트하기로 결정할 때까지 기다릴 여유가 없습니다.

나는 조심스럽게 낙관하고 있다. Google은 이미 복잡하고 놀라운 일을 하고 있기 때문에 우리에게 보여준 멋진 새로운 기술을 해낼 수 있다는 데 의심의 여지가 없습니다. 나는 또한 Astra와 같은 도구가 많은 상황에서 유용할 수 있다고 확신하며, 용어가 나에게 좋다고 느껴지면 아마도 사용할 것입니다.

안타깝게도 Google이 그 과정에서 개인 정보 보호 실수를 저지르지는 않을까 걱정됩니다. 그것들이 없었다면 Google 제품이 아니었을 것입니다.