Grammarly, l’outil populaire d’aide à la rédaction, fait face à un recours collectif intenté par la journaliste Julia Angwin concernant sa fonctionnalité controversée « Expert Review ». Cette fonctionnalité aurait utilisé les noms et les ressemblances d’écrivains et d’universitaires – y compris ceux de The Verge – sans leur consentement pour générer des suggestions basées sur l’IA, volant ainsi leur identité à des fins commerciales.
Le cœur du litige : vie privée et exploitation commerciale
Le procès allègue que Grammarly a violé les droits à la vie privée et à la publicité en exploitant l’identité des individus à des fins lucratives sans autorisation. Angwin a découvert que son propre nom était utilisé dans l’outil après avoir été alerté par Casey Newton de The Verge, qui a également confirmé leur inclusion non autorisée. Plusieurs membres du personnel de Verge, dont la rédactrice en chef Nilay Patel, ont été identifiés comme étant exploités par cette fonctionnalité.
Cette pratique soulève de sérieuses questions sur l’éthique du développement de l’IA, notamment en ce qui concerne l’utilisation des données personnelles. Des entreprises comme Grammarly partent du principe que les outils d’IA sont neutres, mais en réalité, elles s’appuient fortement sur la contribution humaine et la crédibilité. L’utilisation non autorisée des noms de ces experts suggère un mépris des droits individuels dans le but de renforcer l’autorité perçue de l’IA.
Réponse de Grammarly et suspension des fonctionnalités
Suite à la réaction négative, le PDG de Grammarly, Shishir Mehrotra, a présenté des excuses et a annoncé la suspension immédiate de la fonctionnalité « Expert Review ». La société avait initialement proposé une option de désinscription par courrier électronique, mais a finalement décidé de désactiver complètement l’outil.
Mehrotra a déclaré que la fonctionnalité visait à connecter les experts avec leur public, mais a reconnu que l’exécution avait échoué. Cet incident met en évidence les difficultés d’équilibrer l’innovation avec les considérations éthiques dans le paysage en évolution rapide des produits basés sur l’IA.
Implications et préoccupations futures
Le procès contre Grammarly souligne une tendance croissante à des poursuites judiciaires contre les sociétés d’IA qui abusent des données personnelles. L’affaire soulève des questions plus larges sur la transparence, le consentement et la responsabilité dans le développement d’outils d’IA. À mesure que ces technologies deviennent plus sophistiquées, la nécessité de cadres juridiques solides pour protéger les droits individuels deviendra de plus en plus cruciale.
Ce procès constitue un avertissement clair pour les développeurs d’IA : exploiter l’identité humaine à des fins commerciales sans consentement explicite est non seulement contraire à l’éthique, mais peut désormais donner lieu à des poursuites judiciaires.
