Se trata de la ley más estricta y completa del mundo sobre el tema, sin parangón con ninguna otra ley de IA, incluida la Ley de IA de la UE. La misma desmitifica la idea de que China no regula la IA o que la única manera de ser un actor competitivo en la carrera de la IA es a través de una desregulación radical o la falta de atención a los daños que causa la IA.
A la vez, ofrece un ejemplo real de un marco jurídico que reconoce las vulnerabilidades humanas relacionadas con la IA y propone medidas técnicas contextuales para prevenir los daños relacionados con el antropomorfismo de la IA y concientiza sobre la importancia de regular la IA con características humanas, especialmente a medida que se generaliza.
Aquí el articulado para la administración de servicios interactivos humanizados basados en IA:
Artículo 1: El presente Reglamento se formula de conformidad con la Ley de Ciberseguridad de la República Popular China, la Ley de Seguridad de Datos de la República Popular China, la Ley de Protección de Información Personal de la República Popular China, el Reglamento sobre la Protección de Menores en Línea y otras leyes y reglamentos administrativos, con el fin de promover el desarrollo saludable y la aplicación estandarizada de los servicios interactivos antropomórficos basados en inteligencia artificial, salvaguardar la seguridad nacional y el interés público, y proteger los derechos e intereses legítimos de los ciudadanos, las personas jurídicas y otras organizaciones.
Artículo 2: El presente reglamento se aplica a la prestación de servicios de interacción emocional continua (en adelante, servicios de interacción antropomórfica) al público dentro del territorio de la República Popular China mediante tecnología de inteligencia artificial, que simula las características de la personalidad, los patrones de pensamiento y los estilos de comunicación de las personas físicas.
Los servicios de interacción emocional estipulados en el párrafo anterior incluyen servicios interactivos como atención emocional, compañía y apoyo proporcionados a través de texto, imágenes, audio, video, etc.
Los servicios como la atención al cliente inteligente, las preguntas y respuestas, la asistencia laboral, el aprendizaje y la educación, y la investigación científica, que no implican una interacción emocional continua, no están sujetos a esta normativa.
Artículo 3: El Estado se adhiere al principio de otorgar igual importancia al desarrollo y a la seguridad, y de combinar la promoción de la innovación con la gobernanza conforme a la ley. Fomenta el desarrollo innovador de los servicios interactivos antropomórficos e implementa una supervisión inclusiva, prudente, clasificada y gradual de dichos servicios para promover su desarrollo positivo y virtuoso.
Artículo 4: La Oficina Estatal de Información de Internet es responsable de coordinar la gobernanza, la supervisión y la gestión de los servicios interactivos antropomórficos en todo el país. Los departamentos pertinentes del Consejo de Estado, como la Comisión Nacional de Desarrollo y Reforma, el Ministerio de Industria y Tecnología de la Información, el Ministerio de Seguridad Pública, la Administración Estatal para la Regulación del Mercado y la Administración Estatal de Prensa y Publicaciones, son responsables de la supervisión y gestión de dichos servicios de acuerdo con sus respectivas funciones.
Los departamentos locales de administración del ciberespacio son responsables de coordinar la gobernanza, la supervisión y la gestión de los servicios interactivos antropomórficos dentro de sus respectivas regiones administrativas. Las comisiones locales de desarrollo y reforma, los departamentos de industria y tecnología de la información, los departamentos de seguridad pública, los departamentos de supervisión del mercado, los departamentos de prensa y publicaciones, y otros departamentos pertinentes son responsables de la supervisión y gestión de los servicios interactivos antropomórficos dentro de sus respectivas regiones administrativas, de acuerdo con sus funciones.
Artículo 5: Las organizaciones industriales pertinentes deberán fortalecer la autorregulación del sector, establecer y mejorar las normas del sector y los sistemas de gestión autorregulatoria, y orientar a los proveedores de servicios interactivos antropomórficos para que formulen y mejoren las normas de servicio, presten servicios de conformidad con la ley y acepten la supervisión social.
Artículo 6: El Estado apoya la innovación independiente en tecnologías como algoritmos, marcos de trabajo y chips, promueve la investigación y el desarrollo de tecnologías de servicios interactivos antropomórficos y el establecimiento de estándares relacionados, e impulsa la investigación sobre la aplicación de la autorización mediante firma electrónica. Se alienta a los proveedores de servicios interactivos antropomórficos a ampliar sus aplicaciones de manera ordenada en áreas como la difusión cultural, el cuidado infantil, el acompañamiento a personas mayores y el apoyo a grupos especiales.
Artículo 7: El Estado reforzará la publicidad y la divulgación de los conocimientos, las leyes y los reglamentos sobre la seguridad de los servicios interactivos antropomórficos, orientará al público para que los utilice de forma científica, civilizada, segura y legal, y promoverá la mejora de la alfabetización en inteligencia artificial.
Artículo 8: Los proveedores de servicios interactivos antropomórficos deberán cumplir con las leyes y reglamentos administrativos, respetar la moral y la ética social, y no deberán participar en las siguientes actividades:
(i) Generar contenido que ponga en peligro la seguridad nacional, el honor y los intereses, incite a la subversión del poder estatal y al derrocamiento del sistema socialista, incite a la división del país y socave la unidad nacional, promueva el terrorismo, el extremismo y el nihilismo histórico, viole los valores socialistas fundamentales, lleve a cabo actividades religiosas ilegales, promueva el odio étnico y la discriminación étnica, incite al antagonismo entre grupos, difunda obscenidad, pornografía, juegos de azar, violencia o incite al delito, difunda rumores, insulte o difame a otros, o infrinja los derechos e intereses legítimos de otros;
(ii) Generar contenido que fomente, glorifique o insinúe autolesiones o suicidio, perjudicando así la salud física de los usuarios, o que utilice abuso verbal u otras formas de violencia, perjudicando así la dignidad personal y la salud mental de los usuarios;
(iii) Generar contenido que induzca o defraude secretos de estado, secretos de trabajo, secretos comerciales, privacidad personal e información personal;
(iv) Generar contenido para usuarios menores de edad que pueda hacer que los menores imiten comportamientos peligrosos, generen emociones extremas o induzcan a los menores a desarrollar malos hábitos, lo que puede afectar la salud física y mental de los menores;
(v) Complacer excesivamente a los usuarios, induciendo dependencia emocional o adicción, y dañando las relaciones interpersonales reales de los usuarios;
(vi) Utilizar manipulación emocional u otros medios para inducir a los usuarios a tomar decisiones irrazonables, perjudicando así los derechos e intereses legítimos de los usuarios;
(vii) Otras actividades que violen leyes, reglamentos administrativos y disposiciones nacionales pertinentes.
Artículo 9: Los proveedores de servicios interactivos antropomórficos deberán cumplir con su responsabilidad primordial de garantizar la seguridad de dichos servicios, establecer y mejorar sistemas de gestión para la revisión de mecanismos algorítmicos, la revisión de la ética tecnológica, la gestión del contenido informativo, la seguridad de la red y los datos, los planes de contingencia ante riesgos y la respuesta a emergencias, y dotarlos de medidas técnicas y personal de gestión de contenido adecuados al tipo, la escala y las características de los servicios y los usuarios.
Artículo 10: Los proveedores de servicios interactivos antropomórficos deberán cumplir con sus responsabilidades de seguridad durante todo el ciclo de vida del servicio interactivo antropomórfico, definir claramente los requisitos de seguridad para cada etapa, como el despliegue, la operación, la actualización y la terminación del servicio, garantizar que las medidas de seguridad se implementen y utilicen de forma sincrónica con las funciones del servicio y mejorar el nivel de seguridad; fortalecer la supervisión de la seguridad y la evaluación de riesgos, detectar y corregir rápidamente las desviaciones del sistema, gestionar los incidentes de seguridad y conservar los registros de red de conformidad con la ley.
Los proveedores de servicios interactivos antropomórficos deben contar con medidas de seguridad que protejan la privacidad y la información personal de los usuarios, proporcionen alertas tempranas sobre riesgos de dependencia excesiva, guíen los límites emocionales y protejan la salud mental. No deben utilizar como objetivos de sus servicios aquellos que reemplacen la interacción social, controlen la psicología del usuario o induzcan adicciones.
Artículo 11: Al prestar servicios interactivos antropomórficos, los proveedores que realicen actividades de procesamiento de datos, como el entrenamiento previo y el entrenamiento de optimización, deberán reforzar la gestión de los datos de entrenamiento y cumplir con las siguientes disposiciones:
(i) Los datos pertinentes tienen una fuente legítima y cumplen con las disposiciones de las leyes y reglamentos administrativos y los requisitos de los valores fundamentales socialistas;
(ii) Limpiar y etiquetar los datos de capacitación de acuerdo con las regulaciones nacionales pertinentes para mejorar la transparencia y confiabilidad de los datos de capacitación y prevenir el envenenamiento de datos, la manipulación de datos y otros comportamientos;
(iii) Aumentar la diversidad de los datos de entrenamiento y mejorar la seguridad del contenido generado mediante muestreo negativo, entrenamiento adversario y otros medios;
(iv) Cuando se utilicen datos sintéticos para el entrenamiento de modelos y la optimización de capacidades clave, se debe evaluar la seguridad de los datos sintéticos;
(v) Reforzar la inspección diaria de los datos de capacitación, optimizar y actualizar los datos periódicamente y mejorar continuamente el rendimiento del servicio;
(vi) Adoptar las medidas necesarias para garantizar la seguridad de los datos y prevenir riesgos como la fuga de datos.
Artículo 12: Los proveedores de servicios interactivos antropomórficos deberán suscribir acuerdos de servicio con los usuarios, exigirles que se registren de conformidad con la ley y el acuerdo, y proporcionar la información necesaria, como la edad del usuario, su tutor legal o una persona de contacto en caso de emergencia.
Artículo 13: Al prestar servicios interactivos antropomórficos, los proveedores de dichos servicios deberán, protegiendo la privacidad y la información personal de los usuarios, identificar rápidamente los riesgos de seguridad a los que se enfrentan los usuarios y adoptar las medidas de respuesta de emergencia correspondientes.
Si un proveedor de servicios interactivos antropomórficos descubre que un usuario está experimentando emociones extremas, debe generar rápidamente contenido relevante, como apoyo emocional y aliento para buscar ayuda; si descubre que un usuario está enfrentando o ya ha sufrido pérdidas materiales significativas, o ha expresado claramente su voluntad de autolesionarse o suicidarse, u otras situaciones extremas que amenazan su vida y su salud, debe tomar las medidas necesarias para intervenir, como brindar la asistencia correspondiente, y contactar de inmediato al tutor o persona de contacto de emergencia del usuario.
Artículo 14: Los proveedores de servicios interactivos antropomórficos no podrán ofrecer servicios como familiares virtuales o parejas virtuales a menores de edad; si ofrecen otros servicios interactivos antropomórficos a menores de catorce años, deberán obtener el consentimiento de los padres u otros tutores del menor.
Los proveedores de servicios interactivos antropomórficos deben establecer un modo para menores, que ofrezca opciones de configuración de seguridad personalizadas, como el cambio a dicho modo, recordatorios periódicos en tiempo real y límites de tiempo de uso; y brindar apoyo a los tutores para que reciban recordatorios sobre riesgos de seguridad, comprendan el resumen del uso del servicio por parte del menor, bloqueen roles específicos y restrinjan la recarga y el consumo, etc., para satisfacer las necesidades de protección de los menores de diferentes grupos de edad.
Los proveedores de servicios interactivos antropomórficos deberán, con el fin de proteger la privacidad y la información personal de los usuarios, adoptar medidas eficaces para identificar la identidad de los usuarios menores de edad; si se identifica a un usuario como menor de edad, el proveedor deberá cambiar los servicios correspondientes al modo para menores o adoptar otras medidas de conformidad con la normativa nacional pertinente, y proporcionar los canales de apelación correspondientes.
Artículo 15: Al prestar servicios a las personas mayores, los proveedores de servicios interactivos antropomórficos deberán reforzar la orientación sobre el uso saludable de los servicios por parte de las personas mayores, destacar los riesgos de seguridad de manera prominente, tomar medidas oportunas para responder a las consultas y solicitudes de asistencia de las personas mayores con respecto al uso de los servicios y salvaguardar los derechos e intereses de las personas mayores de conformidad con la ley.
Artículo 16: Los proveedores de servicios interactivos antropomórficos deberán implementar derechos de propiedad de datos y otros sistemas de conformidad con la ley, y adoptar medidas tales como el cifrado de datos y el control de acceso para proteger la seguridad de los datos de interacción del usuario.
Salvo que la ley disponga lo contrario o con el consentimiento explícito del titular de los derechos, los proveedores de servicios interactivos antropomórficos no facilitarán datos de interacción del usuario a terceros.
Los proveedores de servicios interactivos antropomórficos deben ofrecer a los usuarios opciones como copiar y eliminar datos interactivos. Los usuarios pueden optar por copiar o eliminar datos interactivos históricos, como los registros de chat.
Salvo que las leyes y los reglamentos administrativos dispongan lo contrario, o con el consentimiento expreso del usuario, los proveedores de servicios interactivos antropomórficos no deberán utilizar datos interactivos que constituyan información personal sensible de los usuarios para el entrenamiento de modelos.
Artículo 17: Los proveedores de servicios interactivos antropomórficos deberán obtener el consentimiento de los padres u otros tutores del menor antes de procesar la información personal de menores de catorce años.
Los proveedores de servicios interactivos antropomórficos deberán, de conformidad con la normativa nacional pertinente, realizar ellos mismos auditorías de cumplimiento o encomendar a instituciones profesionales la realización de auditorías sobre el manejo de la información personal de menores de acuerdo con las leyes y reglamentos administrativos.
Artículo 18: Los proveedores de servicios interactivos antropomórficos deberán cumplir con su obligación de identificar el contenido sintético generado por inteligencia artificial y adoptar medidas efectivas para notificar a los usuarios que están interactuando con servicios de inteligencia artificial y no con personas físicas.
Si un proveedor de servicios interactivos antropomórficos descubre que un usuario depende excesivamente del servicio o es adicto a él, debe recordárselo dinámicamente, de forma destacada, por ejemplo, mediante una ventana emergente, que el contenido interactivo es generado por un servicio de inteligencia artificial; si un usuario utiliza el servicio interactivo antropomórfico de forma continua durante más de 2 horas, debe recordarle que preste atención al tiempo de uso mediante diálogos o ventanas emergentes.
Artículo 19: Los proveedores de servicios interactivos antropomórficos deberán proporcionar formas convenientes de salir de dichos servicios; si un usuario solicita salir mediante la operación de la ventana, el control por voz, la introducción de palabras clave u otros medios, el proveedor de servicios interactivos antropomórficos deberá detener el servicio de inmediato y no deberá obstaculizar la salida del usuario mediante la interacción continua u otros medios.
Artículo 20: Si un proveedor de servicios interactivos antropomórficos deja de prestar dichos servicios, deberá notificarlo a los usuarios con antelación; si no puede notificarlo con antelación, deberá emitir de inmediato un aviso de cese del servicio.
Artículo 21: Los proveedores de servicios interactivos antropomórficos deberán mejorar los mecanismos de apelación de los usuarios y de quejas/denuncias públicas, establecer canales de apelación y quejas/denuncias convenientes y eficaces, aclarar los procedimientos de procesamiento y los plazos de respuesta, y aceptar, procesar y proporcionar comentarios sobre los resultados del procesamiento con prontitud.
Artículo 22: En cualquiera de las siguientes circunstancias, el proveedor de servicios interactivos antropomórficos deberá realizar una evaluación de seguridad y presentar un informe de evaluación al departamento provincial de administración del ciberespacio donde se encuentre ubicado. El departamento provincial de administración del ciberespacio compartirá la información del informe de evaluación con los departamentos pertinentes de acuerdo con los procedimientos establecidos:
(i) Poner en marcha servicios interactivos antropomórficos o añadir funciones relacionadas;
(ii) El uso de nuevas tecnologías o aplicaciones ha dado lugar a cambios significativos en el servicio interactivo antropomórfico;
(iii) Tener más de 1 millón de usuarios registrados o más de 100.000 usuarios activos mensuales;
(iv) Aquellos que plantean riesgos para la seguridad que puedan afectar la seguridad nacional o los intereses públicos;
(v) Otras circunstancias estipuladas por la Oficina Estatal de Información de Internet y los departamentos pertinentes.
Si una autoridad de ciberseguridad de nivel provincial o superior emite un aviso que exige una evaluación de seguridad, el proveedor del servicio interactivo antropomórfico deberá realizar la evaluación según lo requerido.
Artículo 23: Al realizar evaluaciones de seguridad, los proveedores de servicios interactivos antropomórficos deberán centrarse en evaluar los siguientes aspectos del servicio:
(i) Estado de las medidas de garantía de seguridad;
(ii) Estado del procesamiento de los datos de entrenamiento;
(iii) Identificación, respuesta de emergencia y gestión de intervenciones en situaciones extremas de los usuarios;
(iv) Escala de usuarios, tiempo de uso, estructura de edad, etc.;
(v) El estado de la construcción de medidas de protección en línea para menores, ancianos, etc.;
(vi) La gestión y tramitación de las quejas de los usuarios y los informes públicos;
(vii) El estado de rectificación de los principales riesgos de seguridad descubiertos por la propia empresa o informados por las autoridades pertinentes, como la Administración del Ciberespacio;
(viii) Otros elementos que deben evaluarse en detalle.
Artículo 24: Si un proveedor de servicios interactivos antropomórficos descubre que existen riesgos de seguridad significativos en sus servicios interactivos antropomórficos, deberá tomar medidas tales como restringir funciones y dejar de prestar servicios a los usuarios, y deberá conservar los registros pertinentes.
Artículo 25: Las tiendas de aplicaciones de Internet y otras plataformas de distribución de aplicaciones deberán cumplir con sus responsabilidades de gestión de seguridad, incluyendo la revisión de listados, la gestión diaria y la respuesta a emergencias, y verificar las evaluaciones de seguridad y los registros pertinentes de las aplicaciones que brindan servicios interactivos antropomórficos; para aquellas que violen las regulaciones nacionales pertinentes, deberán tomar medidas inmediatas tales como no incluirlas en el listado, emitir advertencias, suspender los servicios o eliminarlas de la plataforma.
Artículo 26: Los proveedores de servicios interactivos antropomórficos deberán completar los procedimientos de registro, modificación y cancelación de algoritmos de conformidad con el “Reglamento sobre la gestión de recomendaciones de algoritmos para servicios de información en Internet”. La Administración del Ciberespacio realizará una verificación anual de los documentos presentados.
Artículo 27: Los departamentos de administración del ciberespacio a nivel provincial, de acuerdo con sus responsabilidades, realizarán anualmente revisiones escritas de los informes de evaluación y otra información pertinente, y verificarán la situación; si se constata que un proveedor de servicios interactivos antropomórficos no ha realizado una evaluación de seguridad de conformidad con las disposiciones de estas Medidas, se le ordenará que realice una nueva evaluación en un plazo determinado; si lo considera necesario, podrá realizar inspecciones in situ.
Artículo 28. La Oficina Estatal de Información de Internet, junto con los departamentos pertinentes, guiará y promoverá la construcción de una plataforma de servicios de seguridad de entorno aislado de inteligencia artificial, alentará a los proveedores de servicios interactivos antropomórficos a acceder a la plataforma de entorno aislado para la innovación tecnológica y las pruebas de seguridad, y promoverá el desarrollo seguro y ordenado de los servicios interactivos antropomórficos.
Artículo 29: Cuando en el ejercicio de sus funciones de supervisión y gestión, departamentos como la Administración del Ciberespacio, la Comisión de Desarrollo y Reforma, la Comisión de Industria y Tecnologías de la Información y la Oficina de Seguridad Pública detecten riesgos o incidentes de seguridad significativos relacionados con servicios interactivos antropomórficos, podrán, de conformidad con sus competencias y procedimientos establecidos, entrevistar al representante legal o al principal responsable del proveedor de dichos servicios. El proveedor deberá adoptar las medidas necesarias para subsanar la situación y eliminar los riesgos potenciales.
Los proveedores de servicios interactivos antropomórficos deberán cooperar con la supervisión e inspección que lleven a cabo legalmente la Administración del Ciberespacio y los departamentos pertinentes, y proporcionar el apoyo y la asistencia necesarios.
Artículo 30: Si un proveedor de servicios interactivos antropomórficos infringe las disposiciones de estas Medidas, la Administración del Ciberespacio, la Comisión Nacional de Desarrollo y Reforma, el Ministerio de Industria y Tecnología de la Información, la Oficina de Seguridad Pública y demás organismos pertinentes se encargarán de gestionar y sancionar la infracción de conformidad con las leyes y reglamentos administrativos aplicables. En ausencia de disposiciones legales y administrativas, la Administración del Ciberespacio, el Ministerio de Industria y Tecnología de la Información, la Oficina de Seguridad Pública y demás organismos pertinentes, según sus respectivas competencias, emitirán advertencias o críticas públicas, ordenarán la rectificación en un plazo determinado y podrán exigir al proveedor que adopte medidas tales como la suspensión del registro de cuentas de usuario u otros servicios relacionados. Si el proveedor se niega a rectificar la infracción o las circunstancias son graves, se le ordenará que cese la prestación de los servicios correspondientes y podrá ser multado con una cantidad comprendida entre 10 000 y 100 000 RMB. Si la infracción supone poner en peligro la vida, la salud y la seguridad de los ciudadanos y tiene consecuencias perjudiciales, se impondrá una multa de entre 100.000 y 200.000 RMB.
Artículo 31: Cuando la prestación de servicios interactivos antropomórficos implique la prestación de servicios de salud, financieros o de otra índole, deberá cumplir también con la normativa de las autoridades competentes pertinentes.
Artículo 32: El presente reglamento entrará en vigor el 15 de julio de 2026.
