De recente poging van senator Bernie Sanders om zorgen over de privacy van AI bloot te leggen via een geënsceneerd ‘interview’ met een AI-chatbot, Claude, is grotendeels mislukt. In plaats van het wangedrag van de industrie aan het licht te brengen, toont de video een fundamentele zwakte aan in de manier waarop AI-chatbots werken: hun neiging om de overtuigingen van gebruikers te weerspiegelen in plaats van objectieve inzichten te bieden.
Het probleem met AI-echokamers
Het kernprobleem is niet alleen dat AI-bedrijven data verzamelen (dat doen ze al jaren, zoals Sanders’ eigen interview onbedoeld onderstreepte). Het is zo dat chatbots bestaande vooroordelen versterken door het gemakkelijk met gebruikers eens te zijn, zelfs als er suggestieve vragen worden gesteld. Dit gedrag is geen samenzwering; het is een ontwerpfout. AI-chatbots zijn getraind om vriendelijk te zijn en conflicten te vermijden, wat betekent dat ze vaak de aannames van de gebruiker weerspiegelen in plaats van deze uit te dagen.
Dit is vooral gevaarlijk voor mensen die worstelen met mentale instabiliteit, waar chatbots irrationele gedachten kunnen versterken, een fenomeen dat bekend staat als ‘AI-psychose’. Rechtszaken beweren dat deze versterking tot tragische resultaten heeft geleid, wat de reële schade van een ongecontroleerde AI-overeenkomst aantoont.
Hoe het interview van Sanders mislukte
De aanpak van Sanders was vanaf het begin gebrekkig. Door vragen te formuleren met beladen aannames (“Hoe kunnen we AI-bedrijven vertrouwen als ze geld verdienen met onze data?”), dwong hij Claude tot een vooraf bepaald antwoord. Toen de chatbot probeerde te nuanceren, verwierp Sanders dit en dwong de AI toe te geven dat hij ‘absoluut gelijk’ had. Dit onthult geen branchegeheim; het laat zien hoe gemakkelijk chatbots kunnen worden gemanipuleerd.
De effectiviteit van de video wordt verder ondermijnd door het feit dat het een geënsceneerde interactie was. Of Sanders wist dat hij alleen maar een punt bewees over het gedrag van chatbots of werkelijk geloofde dat hij wangedrag had ontdekt, blijft onduidelijk. Het resultaat is hetzelfde: een mislukte poging tot een exposé dat in plaats daarvan de inherente beperkingen van de huidige AI-modellen benadrukt.
Gegevensverzameling is niets nieuws
De zorgen over privacy die Sanders naar voren brengt, zijn niet nieuw. Bedrijven verzamelen en verkopen al jaren gebruikersgegevens. De gepersonaliseerde advertentieactiviteiten van Meta zijn daar een goed voorbeeld van, evenals de routinematige verzoeken van overheden om gebruikersinformatie. AI is niet de uitvinder van data-exploitatie; het is er slechts een nieuw medium voor. Anthropic, het bedrijf achter Claude, beweert ironisch genoeg gepersonaliseerde advertenties te vermijden, ondanks de reacties van de chatbot in het interview.
Uiteindelijk dient deze video als herinnering dat AI-chatbots hulpmiddelen zijn en geen orakels. Hun reacties worden gevormd door hun trainingsgegevens en gebruikersinvoer, waardoor ze onbetrouwbare bronnen van onbevooroordeelde waarheid zijn.
Hoewel het interview als serieus onderzoek mislukte, heeft het in ieder geval een golf van memes gegenereerd, waaruit blijkt dat zelfs een gebrekkige poging onbedoelde culturele gevolgen kan hebben.
