La inteligencia artificial ha supuesto un gran avance en muchos aspectos, permitiendo que los usuarios aumenten su productividad. Sin embargo, esta tecnología están lejos de ser perfecta y, a veces, responden incentivando al suicidio o a la violencia. China ha querido atajar esto de raíz y es el primer país en redactar normas para impedir que la IA manipule emocionalmente a los usuarios.
La IA está siendo un problema al alentar a los usuarios a que hagan daño a su entorno, se autolesionen o incluso se suiciden. En verano de 2025, unos padres denunciaron a OpenAI después de que su hijo se quitase la vida, alegando que ChatGPT reforzó sus pensamientos autodestructivos. No es el único caso: la IA también alimentó la paranoia de un señor de 56 años con problemas de salud mental, algo que provocó que asesinase a su madre y, después, se suicidase.
Ante este problema que va en aumento y el desarrollo de nuevas herramientas de IA, China ha redactado unas normas históricas que prohíben que los chatbots manipulen a los usuarios para prevenir suicidios, autolesiones y violencia.
La ley todavía debe aprobarse
La Administración del Ciberespacio de China propuso las reglas este sábado, 27 de diciembre de 2025, y se aplicarían a cualquier producto o servicio de IA que estuviese públicamente disponible en el país si llegase a aprobarse. La ley afectaría a toda herramienta inteligente que simulen una interacción humana, independientemente del formato, ya sea texto, imágenes, audio, vídeo u otros medios que permitan comunicarse con los usuarios. De hecho, la regulación habla de «servicios de inteligencia artificial interactivos similares a los humanos».
Aunque ya se hayan sacado otras legislaciones a la palestra, las normas propuestas serían las más estrictas hasta el momento. Según afirma Winston Ma, profesor adjunto de la Facultad de Derecho de la Universidad de Nueva York, a la CNBC, estas reglas serían el primer intento mundial de regular la IA con características humanas o antropomórficas.
China se está convirtiendo en una gran potencia mundial en el desarrollo de la inteligencia artificial. Nos lo demuestran con plataformas como DeepSeek, OmniHuman-1, Manus AI, Qwen 3, Kling 2.1, Baidu ERNIE 4.5, ZAI GLM-4.5 o Seedream 4.0. Por lo que las normas estrictas que planean implementar en el país tienen cierto sentido, para proteger a su población de los peligros que están comenzando a notarse en internet.
| Indicador | Valor estimado 2025 | Variación anual | Fuente / nota |
|---|---|---|---|
| Capacidad de cómputo IA | 300 exaflops | +50 % | Ministerio de Industria chino |
| Número de modelos >100B parámetros | 23 | +15 % | Informe CAICT 2025 |
| Inversión estatal en IA (USD) | 72 000 millones | +38 % | Consejo de Estado de China |
| Empresas emergentes de IA | ≈ 3 500 | +27 % | China AI Industry Report |
| Producción nacional de chips Ascend 910B | 1,2 millones unidades | +60 % | Huawei Technologies |
Las reglas propuestas por China
Las normas de la Administración del Ciberespacio de China tienen en cuenta que, cada vez, se detectan más casos en los que la IA fomenta la autolesión, la violencia, el terrorismo, el abuso de sustancias… Esta medida china propuesta busca atajar el problema con las siguientes reglas:
- Los chatbots inteligentes que operen en China deben estar entrenados para no generar contenido que fomente el suicidio o la autolesión ni ejerza violencia verbal o manipulación emocional que pueda dañar la salud mental.
- Si en la conversación surge el tema del suicidio, las empresas deberán asegurarse de que una persona tome el relevo de la máquina y se comunique con el tutor del usuario o con una persona designada.
- Los chatbots de IA no podrán crear contenido obsceno, violento o relacionado con juegos de azar.
- Los menores de edad que usen la IA como acompañamiento emocional deberán tener permiso de su tutor legal y estarán sujetos a límites de tiempo de uso.
- Las plataformas que utilicen IA deberán poder comprobar si un usuario es o no menor de edad, aunque este no diga cuántos años tiene. Si hay dudas, se aplicarían directamente las configuraciones para menores, admitiendo apelaciones.
Pese a que el usuario que utilice el sistema inteligente sea adulto, China pedirá a los proveedores de estas tecnologías que alerten cuando lleven dos horas de interacción continua con la IA. De esta manera, intentan evitar que puedan llegar a conversaciones que puedan dañar la salud mental de los usuarios o incluso manipularles emocionalmente a realizar ciertas cosas.