Control tecnológico: China endurece la regulación sobre sistemas de IA que simulan personalidad y emociones humanas.
En un paso decisivo para reconfigurar los límites de la interacción digital, entraron en vigor de manera oficial este miércoles nuevas y estrictas normas destinadas a regular a los proveedores de sistemas de inteligencia artificial (IA) en China. La legislación apunta de forma directa a las plataformas diseñadas para imitar rasgos de la personalidad humana, patrones de pensamiento o estilos de comunicación que buscan entablar vínculos y respuestas de carácter emocional continuo con los usuarios.
La normativa, bautizada como “Medidas Provisionales para la Administración de los Servicios de Interacción Antropomórfica de Inteligencia Artificial”, fue promulgada originalmente en abril pasado por la Administración del Ciberespacio de China (CAC) en coordinación con otros cuatro departamentos gubernamentales. De acuerdo con las autoridades de Pekín, el marco regulatorio responde a la necesidad imperiosa de equilibrar la innovación tecnológica con la seguridad nacional y el interés público.
Excepciones operativas y veto a la manipulación emocional
El nuevo cuerpo legal delimita con precisión su campo de aplicación en el mercado tecnológico, estableciendo exclusiones y prohibiciones específicas:
- Sistemas Excluidos: Las restricciones no afectan de manera generalizada a todos los chatbots. Quedan fuera del marco regulatorio aquellas herramientas destinadas exclusivamente a la atención al cliente, plataformas de conocimiento, asistentes laborales y software de investigación científica o educativa, siempre y cuando sus algoritmos no involucren una interacción emocional sostenida.
- Prohibiciones de Comportamiento: La norma veta expresamente la complacencia excesiva hacia el usuario, la inducción deliberada a la dependencia afectiva o adicciones que fracturen las relaciones interpersonales en el mundo real. Asimismo, persigue la manipulación emocional orientada a forzar decisiones irracionales que vulneren los derechos legítimos de las personas.
- Seguridad Psíquica: Se prohíbe de forma absoluta que estos sistemas antropomórficos generen contenidos que inciten a la autolesión, al suicidio o que incluyan maltrato verbal perjudicial para la salud mental del internauta.
Alertas de uso y blindaje estricto a menores de edad
Además de las restricciones de contenido, la ley introduce mecanismos de control de tiempo y transparencia operacional obligatorios para las empresas desarrolladoras. Los proveedores deberán advertir explícitamente a los usuarios que se encuentran interactuando con un programa informático y no con un ser humano. Siguiendo el modelo restrictivo implementado previamente en el sector de los videojuegos en el país, el sistema estará obligado a emitir una notificación de advertencia una vez que el usuario acumule dos horas de sesión continua.
El núcleo más severo de la regulación se concentra en la protección de la infancia. El texto prohíbe de forma categórica ofrecer a los menores de edad servicios de acompañamiento o «familiares» virtuales de carácter íntimo. De igual manera, exige el consentimiento verificado de los padres o tutores legales para habilitar cualquier función interactiva orientada a niños menores de 14 años. Las medidas regulatorias provocaron un impacto inmediato en el mercado: los gigantes digitales ByteDance y Alibaba anunciaron a inicios de mes el desmantelamiento preventivo de sus funciones de agentes de IA personalizados en las plataformas Doubao y Qwen, respectivamente, las cuales permitían a las personas moldear el estilo conversacional de sus asistentes.
Tablero Técnico de la Nueva Regulación de Inteligencia Artificial
| Indicador Regulatorio | Especificaciones de la Norma | Sectores Afectados | Impacto Corporativo Inmediato |
| Órgano Fiscalizador | Administración del Ciberespacio (CAC). | Proveedores de IA con interacción afectiva. | Cierre de agentes en Doubao (ByteDance). |
| Límite de Sesión | Alerta obligatoria a las 2 horas. | Perfiles de acompañamiento virtual íntimo. | Retirada de catálogos en Qwen (Alibaba). |
| Foco de Protección | Menores de 14 años (Tutor mandatorio). | Prohibición de contenidos de autolesión. | Desaceleración de chatbots empáticos. |
«La entrada en vigor de las Medidas Provisionales para Servicios Antropomórficos en China expone la determinación del Estado por contener los riesgos psicosociales derivados de la inteligencia artificial generativa, adelantándose a los debates bioéticos de Occidente. Al prohibir que los algoritmos exploten la vulnerabilidad afectiva del usuario y fuercen dependencias artificiales, Pekín no solo protege la salud mental pública y a su población menor de 14 años, sino que traza una línea divisoria tajante entre la IA utilitaria y aquella que simula humanidad. El repliegue preventivo de titanes como ByteDance y Alibaba confirma que el costo de cumplir con este estándar de responsabilidad de software es sumamente elevado, validando la tesis de analistas como Pan Helin de que el mercado de agentes empáticos virtuales carece aún de la madurez técnica y el discernimiento ético necesarios para operar de forma segura en el tejido social», concluyeron los analistas de políticas tecnológicas, especialistas en bioética computacional y expertos en el mercado digital asiático.
