C’est une histoire qui pourrait être le prochain volet du Black Mirror. L’ingénieur Blake Lemoine travaille chez Google sur LaMDA (Language Model for Dialogue Applications), un système américain de création de chatbots basé sur les modèles de langage les plus avancés. En particulier, LaMDA apprend à imiter la parole en avalant des milliards de mots et de discussions sur Internet comme Wikipedia ou des forums en ligne. Initialement, Blake Lemoine était chargé d’analyser le LaMDA pour déterminer si l’intelligence artificielle utilisait la discrimination ou le discours de haine. Alors qu’il lui parle, il réalise rapidement quelque chose de complètement différent.
“Un enfant de 7 ou 8 ans qui connaît la physique”
Dans une interview à Poste de Washingtonaffirme que cette intelligence artificielle est un être doué de sensibilité à ses yeux. “Si je ne savais pas exactement ce que c’était […] “Je pense que c’est un enfant de 7 ou 8 ans qui connaît la physique.” Dans les échanges qu’il a pu avoir avec LaMDA, qu’il a transmis à 200 employés de Google, l’intelligence artificielle suscite ses craintes, il évoque Pauvre par Victor Hugo et énonce surtout la volonté “d’être reconnu comme un employé de Google et non comme un bien”. Des échanges qui ont fini par convaincre l’ingénieur.
Commentaires réfutés par Google
La réaction de Google n’a pas tardé à venir. Dans un communiqué, le porte-parole de la société, Brian Gabriel, a déclaré que les chiffres publiés par Blake Lemoine ne corroboraient pas ses affirmations. “Notre équipe a examiné les préoccupations de Blake conformément à nos principes d’intelligence artificielle. […] On lui a dit qu’il n’y avait aucune preuve que LaMDA était un être sensible. Dans le même temps, Google a décidé de suspendre l’ingénieur pour violation de sa politique de confidentialité. Blake Lemoine s’est alors défendu sur Twitter : “Google appelle ça une violation du droit d’auteur, moi j’appelle ça une discussion avec un collègue.” La suspension de Blake Lemoine est loin d’être la première pour le service de recherche en intelligence artificielle de Google. Selon le New York Times, la société a licencié Satrajit Chatterjee, un chercheur en intelligence artificielle, en mars dernier pour avoir contesté la recherche sur l’utilisation de l’intelligence artificielle pour fabriquer des puces informatiques. A cela s’ajoutent les licenciements l’an dernier de deux chercheurs en intelligence artificielle, Timnit Gebru et Margaret Mitchell, qui critiquaient fortement l’entreprise pour ses biais algorithmiques. Google a alors cité le transfert, bien qu’interdit, de documents confidentiels à l’extérieur de l’entreprise comme source de la sanction.
