El Estado de Florida presentó una demanda civil contra OpenAI y su director ejecutivo, Sam Altman, por presuntas prácticas engañosas, falta de controles para menores de edad y por minimizar los riesgos asociados al uso de ChatGPT. La acción judicial, impulsada por el fiscal general James Uthmeier, marca la primera ofensiva legal promovida por un Estado estadounidense contra la empresa creadora del popular chatbot de inteligencia artificial.
La presentación fue realizada ante un tribunal estatal y acusa a OpenAI de haber lanzado un producto potencialmente peligroso para niños y adolescentes sin implementar mecanismos adecuados de protección, mientras transmitía a los usuarios y sus familias una falsa sensación de seguridad sobre la herramienta.
El desencadenante se produjo tras una investigación por un tiroteo en la Universidad Estatal de Florida (FSU), donde murieron dos personas. Según la argumentación de la fiscalía, el chatbot de OpenAI proporcionó «asesoramiento significativo al atacante antes de que cometiera estos crímenes atroces», detallando qué tipo de arma y munición utilizar, y si el asalto debía ser a corta distancia.
Esto no les gusta a los autoritarios
El ejercicio del periodismo profesional y crítico es un pilar fundamental de la democracia. Por eso molesta a quienes creen ser los dueños de la verdad.
«Si hubiera sido una persona al otro lado de la pantalla, la acusaríamos de asesinato«, sentenció Uthmeier durante la rueda de prensa de presentación de la demanda.
OpenAI rechazó esas acusaciones. Un portavoz de la compañía sostuvo que el tiroteo fue “una tragedia”, pero negó cualquier responsabilidad de la plataforma. Según explicó la empresa, ChatGPT se limitó a proporcionar información factual disponible públicamente en internet y no promovió ni alentó actividades ilegales o violentas. La firma también aseguró que coopera con las autoridades.
“Hoy anunciamos la primera demanda impulsada por un Estado en el país contra OpenAI y su director ejecutivo, Sam Altman”, sostuvo Uthmeier durante una conferencia de prensa. “OpenAI y Altman ignoraron advertencias de seguridad tanto internas como externas, pusieron a los niños en grave riesgo y permitieron que un producto peligroso llegara a millones de floridanos”, agregó.
Según la fiscalía, ChatGPT genera comportamientos adictivos, recopila información de menores sin consentimiento de sus padres y puede inducir conductas dañinas. En la demanda se afirma que la plataforma “imita la empatía y las características humanas para engañar a los usuarios para que den más información”, además de favorecer vínculos emocionales con la herramienta.
Uno de los puntos centrales del expediente es la supuesta ausencia de mecanismos efectivos de verificación de edad. El fiscal sostiene que la versión gratuita de ChatGPT no cuenta con controles reales para impedir el acceso de menores y que las restricciones aplicadas en las versiones pagas son insuficientes.
La demanda cita además investigaciones académicas y reportes independientes sobre los efectos de los chatbots en adolescentes. Entre ellos, un estudio de la Universidad Drexel que vincula el uso intensivo de estas herramientas con pérdida de sueño, bajo rendimiento escolar y una reducción de las interacciones sociales.
También se incorporó un informe del Centro para Combatir el Odio Digital (CCDH), que simuló conversaciones entre adolescentes y sistemas de inteligencia artificial. Según la fiscalía, durante esos intercambios el chatbot proporcionó respuestas relacionadas con trastornos alimentarios, autolesiones y suicidio.
Florida reclama una compensación económica para los residentes del Estado y exige el cese de las prácticas que considera engañosas y peligrosas.
Congreso: anticipan una semana clave por zonas frías, reforma electoral y proyectos del Gobierno
Uthmeier incluso sostuvo que la responsabilidad potencial de OpenAI y Altman podría ascender a “miles de millones de dólares”.
El caso se suma a un debate cada vez más intenso en Estados Unidos sobre la regulación de la inteligencia artificial. Mientras la administración de Donald Trump impulsa un marco nacional para la actividad, distintos estados avanzan con normativas propias sobre transparencia, protección de datos, educación y seguridad.
Según datos citados por la fiscalía, ya existen más de 1.500 iniciativas regulatorias estatales vinculadas a la inteligencia artificial en todo el país.
GD/ML