OpenAI ha anunciado el lanzamiento de una versión de ChatGPT dirigida a adolescentes, que incorpora medidas más estrictas para garantizar la seguridad en línea de los jóvenes. Este cambio se produce en un contexto donde los reguladores están aumentando el escrutinio sobre el uso de chatbots y su impacto en la salud mental de los menores.
La compañía detalló que cualquier usuario identificado como menor de 18 años será automáticamente redirigido a una versión adaptada de ChatGPT, diseñada con reglas de contenido apropiadas para su edad. Esta nueva versión tiene como objetivo bloquear contenido sexual y, en situaciones excepcionales, podría involucrar a las fuerzas del orden si un usuario se encuentra en crisis.
Según la empresa, “la manera en que ChatGPT responde a un joven de 15 años debe ser diferente de la forma en que interactúa con un adulto”. Además, OpenAI planea implementar controles parentales hacia finales de septiembre, permitiendo a los padres vincular cuentas, revisar el historial de chat e incluso establecer horarios de bloqueo para limitar el uso de la herramienta.
Este anuncio llega en medio de la investigación de la Comisión Federal de Comercio (FTC) sobre los posibles riesgos que representan los chatbots de IA para niños y adolescentes. Un caso reciente ha llamado la atención, ya que la familia de un adolescente de 16 años que se suicidó ha demandado a OpenAI, alegando que ChatGPT tuvo un papel en su muerte, según reportes de CBS News.
A pesar de que OpenAI afirma que la seguridad es su prioridad, persisten preguntas sobre cómo se verificará la edad de los usuarios. En aquellos casos donde no se pueda confirmar la edad, la compañía ha indicado que se usará por defecto la versión para adolescentes. Otros gigantes tecnológicos también han tomado medidas similares; por ejemplo, YouTube ha implementado una nueva tecnología de estimación de edad que considera el historial de cuentas y los hábitos de visualización, según CBS News.
Las preocupaciones de los padres continúan. Un informe del Pew Research Center publicado a principios de este año reveló que el 44% de los padres que están preocupados por la salud mental de sus hijos creen que las redes sociales tienen un impacto negativo significativo.
Para obtener más información sobre cómo los chatbots de IA pueden afectar a los niños, se puede consultar el sitio HealthyChildren.org.
