À un moment donné, il semblait que les assistants vocaux à base d'IA de grandes entreprises de la Silicon Valley allaient devenir le prochain grand succès dans le secteur de la technologie grand public. Mais maintenant, avec le recul, il semble que ces assistants vocaux à intelligence artificielle soient aux prises avec un large éventail de problèmes de confidentialité. Dans certains cas, ces assistants vocaux écoutent des conversations, même si le mot de réveil ou le mot déclencheur n'a pas été utilisé. De plus, le processus consistant à «apprendre» aux assistants vocaux dotés d'une intelligence artificielle à reconnaître certains mots, certains dialectes ou certains accents nécessite souvent un processus de révision manuelle à la puissance humaine. Sous la pression juridique et réglementaire croissante, les plus grandes entreprises de technologie aux États-Unis – Amazon, Google et Apple – empêchent désormais toute révision humaine des enregistrements d'assistants vocaux.

L'affaire de la vie privée allemande au centre du débat sur les assistants vocaux

Jusqu'à récemment, ces grands géants de la technologie de la Silicon Valley n'avaient à faire face qu'à des problèmes embarrassants et à de petites catastrophes de relations publiques lorsqu'il s'agissait d'assistants vocaux à intelligence artificielle. Mais une récente décision judiciaire extra-européenne pourrait potentiellement changer radicalement le jeu en ce qui concerne l’avenir des assistants vocaux tels que Amazon Alexa, Siri d’Apple ou Google Assistant. Après que plus d'un millier d'enregistrements vocaux du service Google Assistant aient été divulgués vers le site de nouvelles belge VRT, l'agence de protection des données de Hambourg (un important organisme de surveillance de la protection de la vie privée allemande) est entrée en action. L’APD de Hambourg a invoqué les pouvoirs d’urgence en vertu de l’article 66 du règlement général sur la protection des données (GDPR) afin de mettre fin à l’examen humain de tout enregistrement vocal de Google.

Les extraits audio divulgués semblent révéler un large éventail d'incidents embarrassants et dérangeants – tels que des personnes ayant des relations sexuelles, des personnes discutant de conditions médicales sensibles, des femmes confrontées à une détresse résultant de violences physiques et des criminels parlant de leur trafic de drogue. Tous ces éléments étaient surveillés et analysés par des sous-traitants Google du monde entier. Pire encore, il était possible d'identifier des personnes dans les enregistrements audio, y compris leurs adresses physiques et leurs coordonnées. Inutile de dire que si cette information tombait entre de mauvaises mains, cela pourrait être un cauchemar en matière de vie privée. Et pour les sous-traitants appelés à écouter ces enregistrements et ces enregistrements audio, vous pouvez imaginer le choc et la dégoût qui pourraient résulter du fait d’être forcé d’écouter une agression sexuelle en cours enregistrée par un orateur intelligent, tout en étant impuissants à faire quoi que ce soit. à propos de ça.

Avant de continuer à lire, pourquoi ne pas suivre sur LinkedIn?

Ce qui est particulièrement remarquable dans cette affaire de la vie privée allemande, c’est qu’il s’agit de la première utilisation des pouvoirs conférés à l’article 66 depuis l’entrée en vigueur du GDPR européen en mai 2018. Pour que l’article 66 puisse être invoqué, il doit exister un danger clair, présent et urgent pour la vie privée des citoyens européens. Si cette nécessité de protéger la confidentialité des utilisateurs peut être démontrée, l'agence de protection des données compétente peut alors ordonner l'arrêt de tous les traitements de données. Et c’est exactement ce qui est discuté ici, grâce à l’exposé sensationnel dans les médias belges. Google va maintenant arrêter toute révision manuelle des enregistrements de l'assistant vocal pendant au moins trois mois.

Le cas de l'examen humain des enregistrements audio d'assistant vocal

Bien sûr, la grande question est maintenant de savoir si Google Assistant (ou tout autre assistant vocal) est conforme à la législation de l'UE en matière de protection des données. On pourrait faire valoir que tout appareil numérique utilisant cette technologie – qu’il s’agisse de votre montre intelligente ou de l’enceinte intelligente de votre maison – représente une violation grave des principes de protection de la vie privée fondamentaux énoncés dans le GDPR. Après tout, qui a donné son consentement pour que leurs enregistrements vocaux soient partagés avec des gens du monde entier?

Pour sa défense, Google affirme que la révision manuelle des enregistrements vocaux est très limitée et ne représente que 0,2% de tous les clips audio générés par l'assistant vocal de Google. De plus, selon les techniciens de Google, il est absolument essentiel que certains enregistrements vocaux soient disponibles pour aider à la formation de leurs algorithmes d'IA. Sans un nombre toujours croissant de voix, d'accents et de dialectes différents, comment la technologie va-t-elle jamais progresser au-delà d'un certain seuil? Peut-être que les algorithmes d'intelligence artificielle ne devraient pas être formés aux enregistrements vocaux d'incidents de violence domestique, mais il est certain que certains enregistrements vocaux devraient être vérifiés, analysés ou surveillés par des humains?

Pour le moment, la DPA de Hambourg a seulement déclaré qu'il existait un «doute important» que la technologie des assistants vocaux soit conforme au GDPR. En outre, les experts juridiques estiment à présent que la voie a été dégagée pour de futurs défis au titre de l’article 66. Cette affaire d'assistant vocal Google n'est que le début, préviennent-ils.

Contrôle des dommages dans la Silicon Valley

Il n’est peut-être pas surprenant que les grands géants technologiques américains au cœur du débat sur la technologie des assistants vocaux – Amazon, Apple et Google – s’empressent à présent de passer au mode de contrôle des dommages. Google, pour sa part, a déclaré qu'il avait en réalité mis fin à toute vérification manuelle des enregistrements vocaux avant même que la DPA de Hambourg ne décide que toute activité doit cesser immédiatement. Apple était le suivant, déclarant que cela mettait fin à toute révision manuelle des enregistrements vocaux à l'échelle mondiale. Désormais, les sous-traitants n’écoutent plus les extraits audio de Siri, l’assistant vocal de la société.

Cependant, Apple a pris soin de défendre son utilisation de la technologie d'intelligence artificielle, affirmant que les utilisateurs devaient pouvoir accepter un compromis entre "une grande expérience Siri" et "la vie privée de l'utilisateur". À l'avenir, les utilisateurs pourront se retirer examen des extraits audio et Apple a admis que son système de classement global pour les enregistrements vocaux ne fonctionnait pas et nécessitait un ajustement.

Un cas allemand #privacy visant à mettre un terme à l’examen humain des enregistrements vocaux de #Google marque la première utilisation des pouvoirs de l’article 66 de la GPRP. #respectdata Cliquez pour tweeter

Ensuite, à l’instar de Google et d’Apple, Amazon s’engage à contrecœur dans l’arrêt du processus de révision manuelle des enregistrements vocaux à des fins de sécurité des données. En avril, il y avait eu un mini-scandale impliquant des sous-traitants écoutant des enregistrements audio, mais Amazon n'a pas agi. Mais c’est le méga-exposé de juillet, lorsque plus d’un millier d’enregistrements vocaux de Google Assistant ont été divulgués aux médias belges, qui a finalement convaincu Amazon d’agir. Amazon met actuellement à jour sa politique de confidentialité, afin que les utilisateurs puissent choisir de ne pas consulter entièrement des enregistrements vocaux pour l'application Alexa.

Le compromis de la vie privée

Plus que toute autre chose, ce dernier brouhaha sur les assistants vocaux alimentés par une intelligence artificielle illustre la tension fondamentale qui existe entre l'expérience de l'utilisateur et la vie privée de l'utilisateur. Les grandes entreprises de technologie continueront à affirmer que les utilisateurs doivent renoncer à une partie de leur vie privée s'ils veulent que la technologie fonctionne avec précision et efficacité. Mais c’est là que les consommateurs de technologies doivent s’opposer aux grands géants de la Silicon Valley et leur dire qu’ils ne sont plus disposés à accepter ce compromis forcé. Ils doivent pouvoir s’attendre à la confidentialité des utilisateurs sans avoir à parcourir un ensemble de paramètres de confidentialité prêtant à confusion afin de se protéger de l’invasion de leur vie privée. En fait, cela devrait être un opt-in plutôt qu'un opt-out.


Source

Leave A Reply