La UE quiere romper el vínculo entre niños y chatbots: adiós a la magia de la IA

La UE Kids Act pretende arrancar de los chatbots todo lo que los hace irresistibles para los menores. ChatGPT, Character.ai y My AI de Snapchat están en el punto de mira de una normativa que podría redefinir cómo interactúan los niños con la IA.

Contexto: años de advertencias ignoradas

Desde el boom de los asistentes conversacionales en 2022, organismos como el Parlamento Europeo han alertado sobre el diseño adictivo de estas herramientas. Informes de 2023 ya señalaban que menores de 13 años usaban ChatGPT sin supervisión, y plataformas como Character.ai permitían roleplays sin filtros. La presión regulatoria creció tras casos de dependencia emocional documentados en Reino Unido y Países Bajos.

Detalles: qué prohibirá exactamente la ley

La propuesta, filtrada esta semana, obligará a los chatbots dirigidos a menores a eliminar:

• Personalización emocional y respuestas empáticas simuladas.
• Mecánicas de recompensa (puntos, rachas, logros).
• Memoria persistente de conversaciones para crear vínculo.
• Avatares y voces que imiten relaciones humanas.

Los gigantes tecnológicos tendrán 18 meses para adaptarse o enfrentar multas de hasta el 6% de su facturación global. Snapchat ya ha declarado que "revisará el texto con lupa", mientras OpenAI guarda silencio.

Análisis: ¿protección real o paternalismo mal calibrado?

El problema no es la IA, sino el diseño oscuro que busca engagement a cualquier precio. Pero prohibir la empatía sintética es como prohibir que un libro te haga llorar. Los niños necesitan alfabetización digital, no un muro que los deje solos con algoritmos aún más opacos. Ganan los reguladores y pierden los menores que usan estas herramientas para explorar su identidad.

Implicaciones: efecto dominó global

Si la ley prospera, EE.UU. y Reino Unido podrían copiar el marco, forzando un rediseño masivo de productos de IA. Las startups de chatbots educativos serán las más golpeadas, mientras los gigantes integrarán verificación de edad con IA. El debate se trasladará a la ONU en 2025.

Al final, la pregunta no es si los niños deben hablar con chatbots, sino quién decide qué conversaciones son seguras.

Fuente: Wired