ChatGPT refuerza la seguridad para los usuarios adolescentes con sus nuevas actualizaciones
’ChatGPT for Teens' incorpora protecciones adicionales y controles parentales para reducir los riesgos asociados al uso de inteligencia artificial entre adolescentes de 13 a 17 años.
La nueva experiencia está diseñada para que los jóvenes puedan utilizar la inteligencia artificial para estudiar, crear y desarrollar habilidades dentro de un entorno adaptado a su edad, de acuerdo con un análisis de ESET Latinoamérica sobre las medidas anunciadas por OpenAI.
Las protecciones contemplan situaciones relacionadas con autolesiones, violencia gráfica, desafíos peligrosos, contenido sexual o romántico y aspectos vinculados con la imagen corporal, además de establecer límites para interacciones que puedan incentivar comportamientos de riesgo.
La estrategia parte de cuatro compromisos: priorizar la seguridad de los adolescentes, fomentar el apoyo en el mundo real, tratarlos de acuerdo con su etapa de desarrollo y mantener transparencia sobre el comportamiento de los sistemas.
Más control parental
Los padres, madres o tutores pueden vincular su cuenta con la del adolescente para administrar determinadas configuraciones, entre ellas el Modo Estudio, los horarios de silencio y otras opciones de seguridad.
En situaciones consideradas de alto riesgo, el sistema puede enviar una notificación a los responsables. Sin embargo, esta vinculación no permite a los adultos leer las conversaciones de los adolescentes, ya que el propósito de los controles es establecer límites y configurar la experiencia, no convertir la herramienta en un mecanismo de vigilancia.
La propuesta también refuerza el componente educativo.
El Modo Estudio busca evitar que la inteligencia artificial se limite a proporcionar respuestas y utiliza preguntas orientadoras, explicaciones y acompañamiento paso a paso para favorecer la comprensión y el razonamiento.
Cuando el sistema identifica que un adolescente intenta obtener únicamente una respuesta directa para una tarea escolar, puede redirigir la conversación hacia este modo. Asimismo, las denominadas Horas de Estudio permiten establecer períodos en los que determinadas conversaciones comienzan automáticamente bajo esta modalidad.
Riesgos más allá
ESET advierte que la seguridad de los adolescentes frente a la inteligencia artificial no depende únicamente de bloquear contenidos inapropiados.
Entre los desafíos señala la antropomorfización, es decir, la tendencia a atribuir emociones, características humanas o vínculos afectivos a un sistema tecnológico.
Este aspecto cobra especial importancia porque los adolescentes pueden utilizar un chatbot no solo como herramienta de búsqueda o apoyo académico, sino también como un interlocutor disponible permanentemente.
“Hacer que una IA sea más segura para este público no consiste solo en filtrar temas sensibles; también implica definir límites sobre cómo el sistema interactúa con los adolescentes y dejar en claro que no sustituye las relaciones, la orientación ni el apoyo en el mundo real”, señala Mario Micucci, investigador de seguridad informática de ESET Latinoamérica.
Para el especialista, fortalecer las medidas de protección resulta necesario ante el creciente uso de la IA para aprender, comunicarse y buscar información.
También considera que la seguridad y la privacidad deben incorporarse desde el diseño de estas tecnologías y evolucionar a medida que surjan nuevos riesgos.
El desafío, plantea ESET, ya no se limita a determinar si los adolescentes deben utilizar inteligencia artificial, sino a establecer cómo pueden hacerlo de manera segura y consciente, aprovechando sus posibilidades sin perder de vista sus límites.
Te puede interesar: El grooming se desplaza a videojuegos y chats privados para captar a menores
