OpenAI lanza "ChatGPT para adolescentes": limita las conversaciones con filtros de seguridad y controles parentales

OpenAI anunció este martes el lanzamiento de una nueva versión de su famoso 'ChatGPT' pensada para los adolescentes, modalidad en la que el chatbot limita automáticamente ciertas conversaciones para proteger mejor a los usuarios jóvenes y ofrece controles parentales.

En especial, frenará ciertos diálogos de alto riesgo relacionadas con autolesiones, violencia, trastornos alimentarios y contenido sexual explícito o gráfico. Por lo demás, la compañía asegura que la IA mantiene las mismas capacidades que la versión original y que busca "ayudar a los adolescentes a aprender, resolver problemas y explorar nuevas ideas".

En algunos casos, ChatGPT enviará alertas a los adultos que hayan optado por activar los controles parentales y las notificaciones. No obstante, los controles parentales no permiten que el padre o el tutor lea o supervise las conversaciones del adolescente. "Si OpenAI envía una notificación de seguridad, solo comparte la información necesaria para proteger el bienestar del joven", precisa el comunicado.

Además, para ayudar a los jóvenes con sus estudios, ofrece "recordatorios de tareas" que pueden sugerir el uso de un modo educativo y ayudar a completar las asignaciones paso a paso, en lugar de proporcionar la respuesta en la primera consulta.

A la hora de activar esta nueva función la empresa lo hará de forma automática gracias a un rastreo de más de 2.000 señales, como los horarios habituales de inicio de sesión, para detectar si un usuario es menor de 18 años.

Con este lanzamiento, OpenAI da un paso adelante ante sus críticas por no proteger la salud mental de los adolescentes. Entre la comunidad, muchos rupos de padres en ciudades como Nueva York y Los Ángeles están presionando a las escuelas para que detengan la implementación de productos de IA por temor a que obstaculicen el pensamiento crítico.