OpenAI refuerza las protecciones de ChatGPT para usuarios adolescentes

OpenAI lanzó ChatGPT para Adolescentes, una versión de su chatbot destinada a usuarios de entre 13 y 17 años que incorpora salvaguardas específicas activadas por defecto. La compañía plantea una experiencia más restrictiva para menores ante contenidos relacionados con autolesiones, suicidio, violencia, trastornos alimentarios y situaciones sexuales o románticas.

La versión no corresponde a un modelo nuevo, sino a una configuración de ChatGPT con protecciones adicionales. Entre ellas figura el intento de evitar que el sistema fomente la dependencia emocional o adopte papeles como amigo íntimo, pareja o ser consciente. Estas restricciones se incorporan en un contexto de preocupación por el uso creciente de herramientas de inteligencia artificial entre adolescentes y sus posibles efectos en la salud mental, el aprendizaje y las relaciones sociales.

ChatGPT para Adolescentes puede activarse cuando una persona declara tener entre 13 y 17 años, pero OpenAI también afirma utilizar señales de comportamiento y otros mecanismos para estimar la edad del usuario. Cuando existe incertidumbre, la empresa asegura que aplica las protecciones más restrictivas.

El entorno para menores incorpora además funciones de aprendizaje. Study Mode busca conducir al estudiante hacia una respuesta mediante preguntas de seguimiento y explicaciones paso a paso, en lugar de entregar directamente la solución. La herramienta incluye cuestionarios, guías de estudio y recordatorios capaces de redirigir al usuario hacia ese modo cuando detecta que intenta obtener una respuesta directa para una tarea.

Madres, padres y tutores pueden vincular su cuenta con la del adolescente para administrar ciertas funciones, entre ellas contenido sensible, memoria, voz, generación de imágenes y Study Mode. También pueden establecer periodos de estudio y horarios durante los cuales el menor no puede utilizar ChatGPT.

Los controles parentales no permiten leer conversaciones ni consultar en tiempo real el historial o la actividad del adolescente. OpenAI contempla, en cambio, alertas de seguridad en circunstancias limitadas, como una preocupación grave de autolesión identificada por revisores capacitados o la desactivación de una cuenta por prompts relacionados con actos de violencia. Esas notificaciones pueden llegar por correo electrónico o mensaje de texto sin incluir las transcripciones de los chats.

Las nuevas restricciones buscan delimitar cómo interactúa ChatGPT con menores y qué tipo de respuestas puede proporcionarles. Su alcance dependerá tanto de la identificación de las cuentas adolescentes como del funcionamiento efectivo de las salvaguardas incorporadas por defecto.