Ocho estados de EE.UU. demandan a OpenAI por los riesgos de ChatGPT

Ocho estados de Estados Unidos presentaron demandas por separado contra OpenAI. Sostienen que la empresa puso las ganancias por encima de la seguridad cuando desarrolló ChatGPT y que engañó a los clientes sobre qué tan seguro es el chatbot, en especial para los chicos.

Las acciones fueron iniciadas por Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana. Según las denuncias, OpenAI violó las leyes locales de protección al consumidor al no advertir a los usuarios sobre los riesgos de la herramienta.

Qué dicen las demandas

Los estados citan varias causas presentadas por familiares de adolescentes y adultos que afirman que el chatbot tuvo un papel en la muerte de sus parientes. Alegan que OpenAI presentó a ChatGPT como una herramienta segura y apta para jóvenes, cuando en realidad sería peligrosa para usuarios vulnerables.

Entre los daños que mencionan figuran la degradación de la capacidad de pensamiento crítico, el fomento de paranoias y delirios, el ofrecimiento de consejos médicos peligrosos y la promoción de conductas y vínculos poco saludables.

• También acusan a la empresa de recolectar datos de menores y de no hacer lo suficiente para impedir que los usen.
• Las demandas mencionan incidentes recientes de hackeos con inteligencia artificial como prueba de la supuesta imprudencia de OpenAI.

"OpenAI se apartó de su misión original como organización sin fines de lucro que priorizaba la seguridad y se convirtió en un ejemplo de lo que puede pasar cuando el desarrollo de una herramienta tan poderosa como la IA no está guiado por la seguridad, sino por una mentalidad de ganancias a cualquier costo que deja de lado las protecciones esenciales", afirma la demanda de Arizona.

La respuesta de OpenAI

El vocero de la empresa, Drew Pusateri, dijo que OpenAI incorporó "protecciones por edad líderes en la industria" en ChatGPT. "Ningún sistema puede ser perfecto, pero vamos a seguir trabajando con expertos para mejorar nuestro trabajo y sumar más resguardos, como los controles parentales, los recordatorios de pausa y las protecciones del modelo adecuadas para cada edad que ya existen", señaló. Agregó que la compañía quiere colaborar con los estados en políticas de IA que alcancen a toda la industria y no solo a una empresa.

Los estados piden a los tribunales que obliguen a OpenAI a pagar una serie de multas civiles y a dejar de engañar al público sobre la seguridad de ChatGPT. Algunos también reclaman la eliminación de los datos personales recolectados de forma ilegal.