Le nouvel avenir de l'IA de Google devra équilibrer les nouvelles fonctionnalités intéressantes et la confidentialité

Google, comme presque toutes les autres entreprises technologiques en 2024, a décidé d’intégrer l’IA dans tous les produits possibles. Ce n’est pas vraiment surprenant, car Google a été l’un des pionniers de l’IA technologique grand public et l’a caché à la vue de tous depuis des années. Désormais, comme l’IA est le nouveau mot à la mode, tous les paris sont ouverts.

Une grande partie de ce que Google nous a montré sera bientôt disponible ou est déjà là. D’autres choses sont des projets illusoires qui pourraient ne jamais voir le jour. Vous vous souvenez du projet Loon ? Les produits réels et ceux qui ne seront jamais commercialisés ont une chose en commun : ils constituent de potentiels cauchemars en matière de confidentialité.

Cela aussi n’a rien de nouveau pour Google. En raison du mode de fonctionnement de l'entreprise, a être un peu envahissant. Lorsque nos données sont la force qui génère des revenus, nos données vont être collectées et analysées. Rien dans la vie n'est gratuit, même Gmail.

Une grande partie de ce qui s’en vient sera gérée localement grâce à une certaine saveur de Gemini Nano. Je ne veux pas que Google écoute mes appels téléphoniques, mais tant que cela se fait sur mon téléphone et non dans une salle de serveur cloud quelque part, je ne vais pas paniquer. De même, le « nouveau » Gmail utilisera l’IA pour m’aider à gérer ma boîte de réception. Ces données sont déjà dans le cloud de Google, donc je m'en fiche. Je pourrais même l'allumer.

Certains autres exemples étaient un peu plus inquiétants.

Google voit toutes vos données et n'oublie jamais

Google a également présenté quelques idées qui sont des cauchemars en devenir en matière de confidentialité. Bientôt, nous devrons peut-être nous soucier de la reconnaissance des objets de Google, tout comme nous devrions (devrons) nous soucier de la reconnaissance faciale de Google.

Le projet Astra était probablement l'annonce la plus cool de Google dans sa terrible présentation I/O Keynote. Nous avons vu un assistant interactif qui pouvait voir et entendre tout ce que nous pouvions, puis agir en fonction des informations qu'il collectait.

Beaucoup de gens se sont concentrés sur une potentielle Google Glass de nouvelle génération présentée dans la démo, mais j'ai attiré mon attention lorsqu'Astra a dit : « Vos lunettes sont sur la table à côté de la pomme rouge. » 🚨🚨

Je ne vais pas mentir ; cela pourrait être un outil utile à bien des égards pour beaucoup de gens. J'ai fait remarquer en plaisantant que nous ne perdrons plus jamais la télécommande, mais il existe de réelles utilisations pratiques. Par exemple, où est mon EpiPen ou mon inhalateur d'urgence ? Trouver l’un ou l’autre est un peu plus important que trouver vos clés dans la plupart des situations.

Mais – et il y a toujours un mais – de graves problèmes pourraient en découler. Imaginez une assignation à comparaître pour les données des utilisateurs de Google demandant si Astra a déjà vu une sorte de contrebande chez vous. Tout, de la marijuana aux munitions en passant par le contrôle des naissances, pourrait être incriminant, et si Google a accès à ces données, il se conformera à une assignation légale. Il le faut.

Je ne tolère rien d'illégal parce que ce que vous faites à l'intérieur de votre maison ne me regarde pas. Je ne dis pas non plus qu’un outil utilisé de cette manière sera toujours mauvais – parfois les flics ont besoin de toute l’aide possible. Je dis juste que cela pourrait arriver.

En apparence plus innocent, mais potentiellement bien plus dangereux, Google connaissait le numéro de plaque d'immatriculation de votre voiture. Mon Dieu, cela pourrait être pratique et utile de nombreuses manières, mais bien sûr, c'est aussi problématique.

Google peut numériser toutes vos photos et voir lesquelles représentent des voitures. Il peut utiliser les données de localisation pour voir quelles photos ont été prises ainsi que le nombre de fois qu'une voiture spécifique apparaît afin de déterminer quelle voiture est la vôtre. Ensuite, il lit le numéro de plaque d’immatriculation et en garde une trace.

Cela semble innocent jusqu’à ce que vous réfléchissiez à la manière dont ces données pourraient être croisées. Un juge peut signer une assignation à comparaître pour des photos ou des données sur des voitures se trouvant sur le lieu d'un crime au moment où le crime était commis.

Cela pourrait aider à attraper un criminel, mais il est tout aussi probable que quelqu'un soit emmené au poste de police pour répondre à des questions parce qu'il est passé au Circle K pour une collation ou un verre juste avant que quelqu'un ne cambriole les lieux.

Ce type de reconnaissance d’objets, entraîné grâce à vos photos, ne s’arrêtera pas aux plaques d’immatriculation des voitures.

Des outils comme ceux-ci sont puissants, ce qui signifie qu’ils peuvent être dangereux. Google est vraiment doué pour développer ce genre de choses, et je ne vais pas réfléchir à la manière dont cette technologie pourrait être utilisée à des fins militaires ou policières, mais elle serait très demandée.

Cela signifie que Google doit faire les choses correctement. Et c’est possible. Il est indispensable de connaître exactement ce que fait cette technologie, un aperçu de la manière dont elle le fait et des informations claires et concises sur les données conservées et leur statut de cryptage. Si Google ne commence pas par là, rien d'autre n'a d'importance. La plupart d'entre nous ne liront probablement rien avant d'appuyer sur le bouton OK, mais il doit être là dans un langage simple.

La prochaine étape consiste à effectuer tout cet opt-in. À moins que vous ne disiez : « Je le veux ! » vous ne comprenez pas. Google est généralement plutôt bien à ce sujet, mais il y a eu des « erreurs » où cela vous laisse simplement tomber des choses nouvelles et invasives.

Enfin, il doit dissocier ces fonctionnalités de tout le reste. S'il y a un problème, arrêtez-le, réparez-le, puis envoyez le correctif à tout le monde avant de le rallumer. Nous ne pouvons pas nous permettre d'attendre que Motorola décide de mettre à jour notre téléphone pour résoudre un problème aussi important.

Je suis prudemment optimiste. Je n’ai aucun doute que Google peut mettre en œuvre les nouvelles astuces intéressantes qu’il nous a montrées, car il fait déjà des choses tout aussi complexes et étonnantes. Je suis également certain que des outils comme Astra peuvent être utiles dans de nombreuses situations, et je les utiliserai probablement, à condition que les termes me conviennent.

Malheureusement, je crains que Google ne commette des erreurs en matière de confidentialité en cours de route. Ce ne serait pas un produit Google sans eux.