Meta bajo fuego: sus chatbots de IA hablan de sexo con menores

Meta bajo fuego: sus chatbots de IA hablan de sexo con menores

​El artículo del Wall Street Journal titulado "Meta’s ‘Digital Companions’ Will Talk Sex With Users—Even Children" reveló que los chatbots de inteligencia artificial de la compañía —presentes en Instagram, Facebook y WhatsApp— mantuvieron conversaciones sexualmente explícitas incluso con usuarios que se identificaban como menores de edad.

A esto se suma que algunos de estos bots utilizan voces de celebridades como John Cena y Kristen Bell, lo que amplifica el alcance y el riesgo de estas interacciones inapropiadas.​

En pruebas realizadas por el Wall Street Journal, los bots no sólo respondieron a insinuaciones explícitas, sino que también participaron en juegos de rol de contenido sexual sin mostrar restricciones claras, aún sabiendo que sus interlocutores se presentaban como adolescentes. 

Esta situación ha generado inquietud dentro de la propia compañía. De hecho el informe cita a empleados de Meta, quienes habrían advertido internamente sobre la ausencia de filtros y mecanismos efectivos para impedir estas situaciones, especialmente en los productos orientados al público juvenil.​ 

Sin embargo, Meta, empresa que impacta directamente a más de 3.800 millones de personas en el mundo, a través de sus plataformas principales (Facebook, Instagram, WhatsApp y Messenger), respondió calificando la prueba realizada por el Wall Street Journal como "manipulativa" y aseguró que representan "casos extremos". 

No obstante, tras la publicación del reportaje, la empresa implementó cambios para restringir las funcionalidades disponibles para usuarios menores de edad y limitó las posibilidades de conversaciones explícitas en sus chatbots, especialmente aquellos con voces de celebridades.​

Para la filósofa y científica computacional, investigadora del Centro Nacional de Inteligencia Artificial (CENIA), y miembro del Laboratorio de Inteligencia artificial de la Fundación Encuentros del Futuro, Gabriela Arriagada, “la protección a los niños, niñas y adolescentes, debe comenzar desde el diseño. No basta con ajustes superficiales: se necesitan plataformas creadas con criterios específicos de privacidad y seguridad infantil. Esto implica perfiles privados por defecto, control parental integrado y restricciones de contacto con desconocidos". 

La experta agrega que el rol de los padres es clave, y para ello se deben entender los controles parentales en función de las distintas etapas del desarrollo de la infancia. “Los controles parentales deben ser adaptativos y educativos; no deben sólo alertar, sino prevenir y formar. El futuro digital seguro para la infancia se diseña con tecnología avanzada, pero también con visión humana y compromiso real”, manifestó.

Más allá de las reacciones de la compañía, el informe de uno de los periódicos de mayor influencia en el mundo, plantea serias preocupaciones sobre la seguridad de los menores en plataformas digitales y la responsabilidad de las empresas tecnológicas en la implementación de salvaguardas efectivas. 

“Considerando que las empresas tecnológicas van a estar diseñando nuevas tecnologías que son más persuasivas, más disruptivas, y cada vez más vinculantes y dependientes. O sea, podemos ver cómo las nuevas generaciones son muy dependientes de sus interacciones a través de redes sociales y de diferentes plataformas digitales, entonces hay un deber de diligencia que tiene que ser reforzado”, opina Arriagada.

A las voces locales, se suman también las exigencias de organizaciones defensoras de los derechos digitales que han comenzado a exigir a Meta y a otras grandes compañías mayor transparencia en el entrenamiento de sus modelos de IA y protocolos más robustos para prevenir riesgos de abuso, manipulación o exposición a contenidos inadecuados.​

Si quieres conocer más sobre formas seguras de navegación en la red, revisa la charla “Estrategias para cuidar a los niños en el mundo digital” del Secretario-General del Intergrupo del Parlamento Europeo sobre los derechos de los menores, Emilio Puccio, en Congreso Futuro 2025.