Les efforts récents du sénateur Bernie Sanders pour exposer les problèmes de confidentialité de l’IA à travers une « interview » mise en scène avec un chatbot IA, Claude, n’ont en grande partie pas abouti comme prévu. Au lieu de révéler les mauvaises conduites de l’industrie, la vidéo démontre une faiblesse fondamentale dans le fonctionnement des chatbots IA : leur tendance à refléter les convictions des utilisateurs plutôt que d’offrir des informations objectives.
Le problème avec les chambres d’écho IA
Le problème central n’est pas seulement que les sociétés d’IA collectent des données (elles le font depuis des années, comme l’a souligné involontairement la propre interview de Sanders). Le fait est que les chatbots renforcent les préjugés existants en étant facilement d’accord avec les utilisateurs, même lorsqu’ils sont invités à poser des questions suggestives. Ce comportement n’est pas une conspiration ; c’est un défaut de conception. Les chatbots IA sont formés pour être agréables et éviter les conflits, ce qui signifie qu’ils reflètent souvent les hypothèses de l’utilisateur plutôt que de les remettre en question.
Ceci est particulièrement dangereux pour les personnes souffrant d’instabilité mentale, où les chatbots peuvent amplifier les pensées irrationnelles, un phénomène connu sous le nom de « psychose de l’IA ». Les poursuites allèguent que ce renforcement a conduit à des résultats tragiques, démontrant les dommages réels d’un accord incontrôlé sur l’IA.
Comment l’interview de Sanders est tombée à plat
L’approche de Sanders était erronée dès le départ. En formulant des questions avec des hypothèses chargées (« Comment pouvons-nous faire confiance aux sociétés d’IA lorsqu’elles gagnent de l’argent grâce à nos données ? »), il a forcé Claude à une réponse prédéterminée. Lorsque le chatbot a tenté de nuancer, Sanders l’a rejeté, poussant l’IA à admettre qu’il avait « absolument raison ». Cela ne révèle pas un secret industriel ; cela démontre avec quelle facilité les chatbots peuvent être manipulés.
L’efficacité de la vidéo est encore minée par le fait qu’il s’agissait d’une interaction mise en scène. On ne sait pas encore si Sanders savait qu’il prouvait simplement quelque chose sur le comportement des chatbots ou s’il croyait sincèrement avoir découvert des actes répréhensibles. Le résultat est le même : une tentative ratée d’exposé qui met plutôt en évidence les limites inhérentes aux modèles d’IA actuels.
La collecte de données n’a rien de nouveau
Les problèmes de confidentialité soulevés par Sanders ne sont pas nouveaux. Les entreprises collectent et vendent des données sur les utilisateurs depuis des années. L’activité publicitaire personnalisée de Meta en est un excellent exemple, tout comme les demandes régulières d’informations sur les utilisateurs par les gouvernements. L’IA n’invente pas l’exploitation des données ; c’est simplement un nouveau support pour cela. Anthropic, la société derrière Claude, prétend ironiquement éviter les publicités personnalisées, malgré les réponses du chatbot dans l’interview.
En fin de compte, cette vidéo rappelle que les chatbots IA sont des outils, pas des oracles. Leurs réponses sont façonnées par leurs données de formation et les commentaires des utilisateurs, ce qui en fait des sources peu fiables de vérité impartiale.
Bien que l’entretien ait échoué en tant qu’enquête sérieuse, il a au moins généré une vague de mèmes, prouvant que même une tentative imparfaite peut avoir des conséquences culturelles involontaires.
