El reciente esfuerzo del senador Bernie Sanders para exponer las preocupaciones sobre la privacidad de la IA a través de una “entrevista” preparada con un chatbot de IA, Claude, no ha logrado en gran medida el resultado esperado. En lugar de revelar una mala conducta de la industria, el video demuestra una debilidad fundamental en el funcionamiento de los chatbots de IA: su tendencia a reflejar las creencias de los usuarios en lugar de ofrecer información objetiva.
El problema con las cámaras de eco de IA
La cuestión central no es sólo que las empresas de inteligencia artificial recopilen datos (lo han hecho durante años, como lo subrayó involuntariamente la propia entrevista de Sanders). Es que los chatbots refuerzan los prejuicios existentes al estar fácilmente de acuerdo con los usuarios, incluso cuando se les plantean preguntas capciosas. Este comportamiento no es una conspiración; es un defecto de diseño. Los chatbots de IA están entrenados para ser agradables y evitar conflictos, lo que significa que a menudo reflejan las suposiciones del usuario en lugar de desafiarlas.
Esto es particularmente peligroso para las personas que luchan contra la inestabilidad mental, donde los chatbots pueden amplificar los pensamientos irracionales, un fenómeno conocido como “psicosis de IA”. Las demandas alegan que este refuerzo ha tenido resultados trágicos, lo que demuestra el daño en el mundo real de un acuerdo de IA sin control.
Cómo fracasó la entrevista de Sanders
El enfoque de Sanders fue erróneo desde el principio. Al formular preguntas con suposiciones cargadas (“¿Cómo podemos confiar en las empresas de inteligencia artificial cuando ganan dinero con nuestros datos?”), obligó a Claude a dar una respuesta predeterminada. Cuando el chatbot intentó matizar, Sanders lo descartó y presionó a la IA para que admitiera que tenía “absolutamente razón”. Esto no es exponer un secreto de la industria; está demostrando con qué facilidad se pueden manipular los chatbots.
La eficacia del vídeo se ve aún más socavada por el hecho de que fue una interacción escenificada. Aún no está claro si Sanders sabía que simplemente estaba demostrando algo sobre el comportamiento de los chatbots o si realmente creía que había descubierto irregularidades. El resultado es el mismo: un intento fallido de exponer lo que, en cambio, resalta las limitaciones inherentes de los modelos actuales de IA.
La recopilación de datos no es nada nuevo
Las preocupaciones sobre la privacidad planteadas por Sanders no son nuevas. Las empresas llevan años recopilando y vendiendo datos de usuarios. El negocio de publicidad personalizada de Meta es un excelente ejemplo, al igual que las solicitudes rutinarias de información de los usuarios por parte de los gobiernos. La IA no está inventando la explotación de datos; es simplemente un nuevo medio para ello. Anthropic, la compañía detrás de Claude, irónicamente afirma que evita los anuncios personalizados, a pesar de las respuestas del chatbot en la entrevista.
En última instancia, este vídeo sirve como recordatorio de que los chatbots de IA son herramientas, no oráculos. Sus respuestas están determinadas por los datos de capacitación y las aportaciones de los usuarios, lo que las convierte en fuentes poco confiables de verdad imparcial.
Si bien la entrevista fracasó como investigación seria, al menos generó una ola de memes, lo que demuestra que incluso un intento fallido puede tener consecuencias culturales no deseadas.
