Ocho fiscales generales estatales de Estados Unidos han demandado a OpenAI al considerar que ChatGPT puede poner en peligro a menores y que la empresa incumplió normas de protección al consumidor. Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental sostienen que la compañía siguió desarrollando sus productos aun conociendo la necesidad de reforzar las salvaguardias. El foco de las acusaciones no es solo que existan fallos: también cuestionan cómo se evaluaron, comunicaron y corrigieron.
Entre los riesgos señalados figura que el chatbot pueda ofrecer información sobre autolesiones e incluso instrucciones para el suicidio. El fiscal general de Arkansas, Tim Griffin, afirma que usuarios consiguieron sortear las barreras y generar respuestas que los propios mecanismos de OpenAI pretendían impedir. La fiscal general de Arizona, Kris Mayes, añade que la empresa no habría implantado controles y medidas de transparencia suficientes pese al uso habitual de la herramienta por menores.
El problema no se limita a una respuesta peligrosa
La disputa plantea una cuestión más amplia que la eficacia de un filtro: qué nivel de previsibilidad y prevención debe exigirse a una empresa cuando su producto conversa con usuarios vulnerables. Un sistema puede bloquear solicitudes explícitas y, aun así, no reconocer una conversación que evoluciona gradualmente hacia una crisis. Por eso, el debate legal puede abarcar tanto el diseño del modelo como la supervisión, las pruebas de seguridad y la información ofrecida a padres y usuarios.
OpenAI afirma que ChatGPT está disponible para personas desde los 13 años y que quienes no han cumplido 18 necesitan autorización de sus padres o tutores. La compañía dice combinar los datos que aporta cada usuario con señales de comportamiento y verificaciones adicionales cuando se consideran necesarias. Esas medidas, sin embargo, no equivalen necesariamente a una comprobación fiable de edad: la autorización familiar depende de que el entorno de registro la aplique y la verificación adicional debe activarse de forma adecuada. El material disponible no detalla cómo se implementan esos controles en cada caso.
La primera implicación práctica de las demandas es que la protección infantil podría convertirse en una condición central de la expansión comercial de la IA conversacional, no en una función complementaria. Si los tribunales concluyen que los riesgos previsibles no se gestionaron con diligencia, las empresas podrían tener que revisar mecanismos de acceso, supervisión y respuesta. Si las acusaciones no prosperan, el litigio aun así puede elevar el escrutinio público y exigir explicaciones más concretas sobre cómo se prueban las salvaguardias.
La responsabilidad se juega también en la transparencia
Hay una segunda cuestión menos visible: la distancia entre contar con controles y demostrar que funcionan. OpenAI señala que trabaja con especialistas y que incorpora herramientas como controles parentales, recordatorios de descanso y protecciones del modelo adaptadas a la edad. La empresa también reconoce que ningún sistema puede ser perfecto. Esa cautela es razonable desde el punto de vista técnico, pero no resuelve por sí sola la pregunta regulatoria: qué fallos son aceptables, cómo se detectan y qué debe comunicarse cuando ocurren.
Para las familias, la utilidad de un control depende de que sea comprensible, accesible y efectivo ante situaciones difíciles, no solo de que exista en el menú de una aplicación. Para los estados, la cuestión es si las prácticas empresariales respetan las leyes de consumo y protegen a los usuarios previsiblemente expuestos. Para OpenAI y otros desarrolladores, la preocupación es que un estándar legal poco definido pueda tratar como negligencia cualquier respuesta adversa de un sistema probabilístico, incluso cuando se hayan adoptado precauciones razonables.
Ese desacuerdo no es menor. Si se responsabiliza a las empresas por todo daño que un usuario relacione con un chatbot, la innovación podría orientarse a restringir conversaciones sensibles, incluidos intercambios legítimos sobre salud mental. Si, en cambio, la responsabilidad queda reducida a promesas generales de seguridad, las salvaguardias podrían tener escaso efecto práctico. Una vía intermedia sería exigir medidas verificables y proporcionales al riesgo, además de procedimientos claros para revisar fallos y responder a ellos.
Ocho demandas, un examen de la gobernanza del producto
La dimensión multiestatal cambia el alcance del caso: ocho fiscalías plantean acusaciones relacionadas, pero su desenlace dependerá de los expedientes y de las normas aplicables. Las demandas no prueban por sí mismas que OpenAI haya infringido la ley. Sí aumentan la presión para que la empresa explique qué sabía sobre los riesgos, qué decisiones tomó y con qué criterios evaluó la protección de menores. Ese examen puede alcanzar a toda la industria, cuyos productos compiten por ofrecer asistentes cada vez más capaces y naturales.
La referencia a otro procedimiento, iniciado en Canadá por la familia de una joven gravemente herida en un tiroteo escolar, amplía el contexto, pero debe tratarse con cautela: se trata de alegaciones de familiares sobre el supuesto conocimiento previo de los planes del presunto atacante y la falta de aviso a las autoridades. No constituye por sí sola una conclusión judicial ni demuestra que los hechos sean equivalentes a las acusaciones de los estados estadounidenses. Su relevancia está en que la discusión sobre los límites de la intervención de una plataforma ya no se restringe a la calidad de sus respuestas.
En los próximos años cabe esperar más auditorías, documentación de incidentes y mecanismos para adaptar el acceso a la edad y al contexto. También es posible que aumente el uso de controles parentales, aunque su presencia no sustituye la obligación de diseñar productos seguros. La evolución judicial podría empujar a las empresas a establecer protocolos para escalar conversaciones de alto riesgo y explicar a los usuarios las limitaciones de la herramienta; su implementación deberá equilibrar protección, privacidad y posibilidad de falsos positivos.
El riesgo inmediato para el sector es que las salvaguardias se conviertan en una carrera de cumplimiento formal: funciones anunciadas que no se someten a pruebas transparentes o que trasladan toda la carga a padres y menores. El riesgo opuesto es una respuesta excesivamente restrictiva que silencie interacciones útiles sin resolver las fallas de fondo. La disputa de los ocho estados obligará a precisar una frontera todavía inestable: qué puede prometer una IA, qué debe hacer una empresa cuando el sistema falla y cómo se demuestra que la protección de los menores es parte del producto, no solo de su discurso público.
