China regula las IA que simulan emociones
China puso en vigor nuevas reglas para controlar a las plataformas de inteligencia artificial que simulan personalidades humanas y establecen vínculos emocionales con sus usuarios. La regulación, vigente desde el 15 de julio de 2026, busca impedir que estos sistemas provoquen dependencia, manipulen decisiones o sustituyan las relaciones personales.
La medida se enfoca principalmente en aplicaciones de compañía virtual, asistentes emocionales y servicios que funcionan como amigos, confidentes o parejas digitales.
No se trata de una prohibición general contra las IA con personalidad. Estas herramientas podrán continuar utilizando estilos de conversación, voces o respuestas emocionales. Sin embargo, las empresas tendrán que demostrar que dichas características no se emplean para controlar psicológicamente al usuario o mantenerlo conectado de forma compulsiva.
Los usuarios deberán saber que hablan con una IA
Las plataformas estarán obligadas a informar de manera visible que la conversación se realiza con un sistema automatizado y no con una persona.
También deberán vigilar el tiempo de uso. Cuando una sesión continua supere las dos horas, el servicio tendrá que mostrar un recordatorio. Si detecta señales de dependencia o uso excesivo, deberá emitir advertencias adicionales.
Las compañías tampoco podrán aprovechar la confianza creada durante las conversaciones para obtener información privada, presionar al usuario o influir en decisiones económicas y personales.
Protocolos ante situaciones de riesgo
La regulación exige mecanismos de respuesta cuando el sistema identifique mensajes relacionados con suicidio, autolesiones, violencia o crisis emocionales graves.
En esos casos, la plataforma deberá ofrecer orientación y recomendar apoyo humano. Cuando exista un peligro inmediato, tendrá que activar protocolos de intervención y contactar a tutores o personas registradas para emergencias.
Mayores restricciones para menores
Las disposiciones son más estrictas para los menores de edad. Las empresas no podrán ofrecerles servicios que simulen relaciones íntimas, como parejas virtuales o familiares digitales.
Los menores de 14 años necesitarán la autorización de sus padres o tutores para acceder a determinadas funciones. Las plataformas también deberán incluir límites de uso, controles de gasto y herramientas de protección.
Con esta regulación, China busca establecer límites para las inteligencias artificiales diseñadas para generar cercanía emocional. La norma no impide su desarrollo, pero obliga a las empresas a reducir los riesgos relacionados con la dependencia, la privacidad y la manipulación de los usuarios.
