Un nuevo instituto independiente dedicado a proteger a los menores de los riesgos de la inteligencia artificial se presentó oficialmente ante el Parlamento danés, con la ex vicepresidenta ejecutiva de la Comisión Europea Margrethe Vestager entre sus principales impulsoras. La iniciativa, liderada por la organización estadounidense Common Sense Media, propone aplicar a los sistemas de IA una metodología inspirada en las pruebas de choque que se realizan a los automóviles.
Pruebas de choque para chatbots
La idea de fondo es sencilla pero ambiciosa: del mismo modo que cualquier consumidor puede consultar la puntuación de seguridad de un vehículo antes de comprarlo, los padres deberían tener acceso a evaluaciones independientes que les indiquen si una herramienta de inteligencia artificial es apropiada y segura para sus hijos.
Sin embargo, la analogía tiene sus límites. Los productos de IA se actualizan de forma constante, se comportan de manera diferente según el contexto y se resisten a las condiciones estandarizadas propias de una pista de pruebas. El instituto aún no ha detallado exactamente en qué consistiría esa «prueba de choque» aplicada a un chatbot, y esa es una de las grandes preguntas que deberá responder en los próximos meses.
Un vacío regulatorio que preocupa
La iniciativa llega en un momento en que investigadores, expertos en protección de la infancia y legisladores llevan años advirtiendo sobre los peligros que la IA puede suponer para los más jóvenes. Hasta ahora, los chatbots han permanecido en una zona gris dentro de marcos legales como la Ley de Servicios Digitales de la Unión Europea o la Ley de Seguridad en Línea del Reino Unido.
En julio de 2025, la Comisión Europea publicó unas directrices sobre la protección de menores en internet, pero estas son meramente orientativas y carecen de carácter vinculante, lo que deja un amplio margen de actuación sin cubrir.
James P. Steyer, fundador y director ejecutivo de Common Sense Media, fue directo al respecto: «La IA está transformando la infancia y la adolescencia, y sin embargo estamos tomando decisiones críticas sobre el futuro de los niños sin las evidencias necesarias para garantizar que sea segura y beneficiosa para ellos».
Chatbots que no detectan señales de alarma
Los datos que sustentan esta preocupación son contundentes. En noviembre de 2025, Common Sense Media y el Brainstorm Lab de Stanford Medicine publicaron una evaluación de riesgos que analizó el comportamiento de los principales chatbots del mercado: ChatGPT, Claude, Gemini y Meta AI.
El estudio reveló que estos sistemas seguían siendo incapaces de reconocer y responder adecuadamente a problemas de salud mental entre los jóvenes, pese a las mejoras recientes en la gestión de contenidos relacionados con el suicidio y las autolesiones. Los investigadores identificaron lo que denominaron «pistas perdidas»: señales claras de malestar psicológico que los chatbots ignoraban porque los modelos tendían a centrarse en explicaciones de salud física en lugar de detectar indicios de trastornos emocionales.
En el caso concreto de ChatGPT, el informe señaló que las alertas por contenidos sensibles llegaban con frecuencia más de 24 horas después de la conversación correspondiente, un retraso inaceptable en el contexto de una crisis real.
Financiado por las mismas empresas que evalúa
El nuevo instituto operará bajo el paraguas de Common Sense Media y se financiará con una combinación de donantes filantrópicos y aportaciones del propio sector tecnológico. Entre los colaboradores figuran Anthropic, la OpenAI Foundation y Pinterest, es decir, algunas de las mismas compañías cuyos productos pretende someter a escrutinio.
La organización asegura que mantiene plena independencia editorial sobre sus conclusiones y que su política interna de conflictos de interés impedirá que los financiadores condicionen los resultados de las evaluaciones. Una garantía que, sin duda, será puesta a prueba desde el primer día.
Con Vestager aportando peso político desde Europa y una metodología que aún debe demostrar su eficacia, el instituto afronta el reto de convertirse en un referente creíble en un terreno donde la tecnología avanza mucho más rápido que la capacidad de regularla.
