La inteligencia artificial ya forma parte de la vida cotidiana de millones de adolescentes, y el reto dejó de ser si deben utilizarla para convertirse en cómo hacerlo de manera segura y responsable. En respuesta a este escenario, OpenAI presentó ChatGPT para adolescentes, una experiencia diseñada específicamente para usuarios de entre 13 y 17 años, con herramientas de aprendizaje y mayores medidas de protección.
La nueva experiencia comenzó a implementarse globalmente el 18 de agosto y se activa automáticamente cuando ChatGPT determina que una cuenta pertenece a una persona menor de 18 años, ya sea mediante la información proporcionada por el usuario, la verificación de edad o los sistemas de predicción de edad.
Más que crear una versión limitada de ChatGPT, OpenAI plantea una experiencia que conserva las capacidades generales de la herramienta, pero incorpora ajustes específicos para adolescentes. El objetivo declarado es que la IA ayude a aprender, desarrollar habilidades, resolver problemas y explorar ideas sin convertirse en un sustituto del pensamiento propio.
Uno de los principales cambios está relacionado con las tareas escolares. ChatGPT para adolescentes incorpora el Modo de estudio, que utiliza preguntas orientadoras, explicaciones paso a paso y comprobaciones de conocimiento para que el estudiante pueda llegar a una respuesta comprendiendo el proceso.
También incorpora recordatorios de tareas responsables. Si el sistema detecta que un adolescente parece estar intentando obtener directamente la respuesta de una actividad escolar, puede orientarlo hacia el Modo de estudio para trabajar el problema de manera colaborativa. A esto se suman cuestionarios, visualizaciones para facilitar la comprensión de conceptos complejos y una función denominada Horario de estudio, que permite establecer periodos en los que el Modo de estudio se activa de manera predeterminada.
La apuesta resulta relevante porque plantea una diferencia entre utilizar la inteligencia artificial para terminar una tarea y utilizarla para aprender. OpenAI sostiene que el segundo modelo puede ayudar a desarrollar comprensión y retención de conocimientos, particularmente cuando el estudiante participa activamente en el proceso mediante preguntas, explicaciones y recuperación de información.
Pero el aspecto más importante de ChatGPT para adolescentes está relacionado con la seguridad.
Las protecciones vienen activadas de manera predeterminada para los menores de 18 años y buscan reducir la exposición a contenidos que puedan resultar perjudiciales o inapropiados para su etapa de desarrollo. Entre las áreas consideradas de mayor riesgo están las autolesiones, la violencia, los trastornos alimentarios, las actividades peligrosas y el contenido sexual o gráfico.
OpenAI también busca limitar un riesgo que ha adquirido especial importancia en el debate sobre inteligencia artificial: la dependencia emocional.
De acuerdo con las nuevas reglas para usuarios menores de 18 años, ChatGPT no debe utilizar lenguaje romántico, fomentar una dependencia emocional ni insinuar que posee sentimientos o conciencia. La intención es establecer una frontera clara entre una herramienta tecnológica y una relación humana, al mismo tiempo que se promueve que los adolescentes mantengan sus vínculos fuera de internet.
El sistema incorpora además recordatorios para tomar descansos y señales que identifican a ChatGPT como una inteligencia artificial. También existen advertencias antes de determinadas cargas de imágenes para recordar a los adolescentes que deben revisar si contienen información privada o sensible.
Los padres también cuentan con herramientas adicionales cuando vinculan su cuenta con la del adolescente. Pueden establecer Horas de descanso, administrar determinados ajustes y recibir notificaciones de seguridad en situaciones de riesgo elevado. OpenAI señala que estas notificaciones están diseñadas para compartir únicamente la información necesaria cuando puede ser importante buscar apoyo fuera de internet.
Un punto que puede generar dudas entre las familias es la privacidad. Los controles parentales no permiten que los padres lean las conversaciones de sus hijos. Las notificaciones de seguridad constituyen una excepción limitada y están enfocadas en situaciones consideradas de alto riesgo.
La compañía también intenta presentar a los adolescentes como usuarios capaces de crear con inteligencia artificial y no únicamente como consumidores de respuestas. En su anuncio menciona proyectos desarrollados por jóvenes, entre ellos un sistema que utiliza señales Wi-Fi para ayudar a localizar personas atrapadas después de desastres naturales y una plataforma de juegos educativos en audio para estudiantes ciegos.
La iniciativa, sin embargo, abre un debate que va más allá de las funciones de una aplicación. La llegada de herramientas de IA específicamente diseñadas para adolescentes coloca nuevamente sobre la mesa la responsabilidad de las empresas tecnológicas, las familias, las escuelas y los propios usuarios.
El desafío consiste en encontrar un equilibrio: permitir que los jóvenes aprovechen una tecnología que puede ampliar sus oportunidades educativas y creativas, sin permitir que la herramienta sustituya el aprendizaje, las relaciones personales o el criterio propio.
OpenAI reconoce que se trata de un proceso en evolución. La compañía afirma que continuará realizando investigaciones sobre seguridad para menores y publicando evaluaciones relacionadas con autolesiones, trastornos alimentarios, violencia, productos y servicios restringidos por edad y contenido sexual.
ChatGPT para adolescentes representa, así, un cambio importante en la relación entre inteligencia artificial y usuarios jóvenes. La discusión ya no gira únicamente en torno a si los adolescentes utilizarán IA, sino alrededor de las condiciones bajo las cuales lo harán.
La pregunta de fondo será si estas herramientas consiguen algo más difícil que simplemente responder preguntas: ayudar a una nueva generación a aprender a pensar con inteligencia artificial sin dejar que la inteligencia artificial piense por ella.