Ocho estados de EEUU demandan a OpenAI por poner en peligro a menores y engañar a sus padres

OpenAI, la empresa responsable de ChatGPT, se enfrenta a ocho demandas en Estados Unidos. Los fiscales generales de Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental han emprendido acciones legales contra la compañía por considerar que sus herramientas de inteligencia artificial ponen en riesgo a los menores y vulneran las leyes de protección al consumidor.

Las acusaciones van más allá de la falta de controles. Los estados sostienen que OpenAI continuó desarrollando sus productos pese a conocer la necesidad de reforzar las medidas de seguridad para proteger a los usuarios más vulnerables.

ChatGPT y el riesgo de ofrecer instrucciones para el suicidio

Una de las principales preocupaciones de las fiscalías es que ChatGPT pueda proporcionar información relacionada con la autolesión e incluso instrucciones para el suicidio. El fiscal general de Arkansas, Tim Griffin, ha denunciado que algunos usuarios "lograron eludir las medidas de seguridad de OpenAI y generar respuestas que, según la propia empresa, sus mecanismos de protección estaban diseñados para evitar".

Desde Arizona, la fiscal general Kris Mayes también ha cuestionado la actuación de la compañía. Considera que no adoptó suficientes mecanismos de protección ni de transparencia, a pesar de conocer que los menores utilizaban habitualmente su chatbot.

Mayes ha asegurado que su objetivo es "proteger a los niños de Arizona y exigir responsabilidades a la empresa por sus reiteradas infracciones".

Las medidas de seguridad de OpenAI, bajo la lupa

Actualmente, ChatGPT permite registrarse a partir de los 13 años, aunque los menores de 18 necesitan autorización de sus padres o tutores.

La compañía asegura que utiliza diferentes mecanismos para comprobar la edad, desde la información facilitada por los usuarios hasta señales de comportamiento y verificaciones adicionales cuando resultan necesarias.

Estas demandas se suman a otros procedimientos judiciales contra OpenAI. Entre ellos figura el iniciado en Canadá por la familia de una joven gravemente herida en un tiroteo escolar. Sus familiares sostienen que la empresa conocía los planes del presunto atacante y no avisó a las autoridades.

OpenAI defiende sus controles parentales

Ante las acusaciones, la empresa insiste en que continúa trabajando para mejorar la protección de los usuarios. "Si bien ningún sistema puede ser perfecto, seguiremos colaborando con expertos para orientar nuestra labor y desarrollar salvaguardias adicionales, como los controles parentales, los recordatorios de descanso y las protecciones del modelo adaptadas a la edad que ya existen", ha defendido un representante de OpenAI.

Puedes ver el informativo completo 'Noticias 1' en Atresplayer.