IA genera contenido violento con estética infantil en plataformas brasileñas
Las "novelinhas de frutas" usan personajes coloridos para distribuir narrativas de abuso y misoginia a niños en TikTok e Instagram.
Un fenómeno preocupante está emergiendo en Brasil: contenido generado por inteligencia artificial que combina estética infantil con narrativas violentas y misóginas, dirigido inadvertidamente a menores de edad.
Las llamadas "novelinhas de frutas" surgieron como trend en TikTok e Instagram, inspiradas en el fenómeno internacional Fruit Love Island. Estos videos utilizan personajes coloridos con forma de frutas para contar historias que incluyen frases como "Mujer como tú no sirve para nada" o "Yo mando aquí, tú solo obedeces".
La problemática revela tres vectores críticos del ecosistema digital: la producción masiva facilitada por IA, la distribución orientada por engagement y la exposición temprana de audiencias vulnerables. Las herramientas de IA permiten generar personajes, voces y episodios completos con bajo costo y alta velocidad.
El contexto brasileño agrava la situación. Según TIC Kids Online Brasil 2025, el 92% de los brasileños de 9 a 17 años son usuarios de internet, y el 28% accedió por primera vez antes de los 6 años. Esto representa aproximadamente 24 millones de niños y adolescentes expuestos.
Expertos como Januária Cristina Alves, especialista en educación mediática, describen este material como "basura producida por IA" que normaliza violencia, misoginia y cyberbullying. La psicóloga Ana Paula Azevedo advierte sobre "disociación cognitiva" en niños que no tienen madurez para procesar estos contenidos.
La regulación intenta responder: desde septiembre de 2025 rige el Estatuto Digital de la Niñez y Adolescencia, que exige medidas preventivas a plataformas. Sin embargo, la moderación práctica en ecosistemas de videos cortos y circulación masiva sigue siendo un desafío.
El fenómeno expone el desequilibrio entre la velocidad de producción sintética, los algoritmos de recomendación y la capacidad de mediación de familias, escuelas y Estado en la era de la IA generativa.
Fuente original: MIT Technology Review Brasil
Este resumen fue generado con asistencia de IA y revisado editorialmente por Algoré.