El regulador cibernético chino publicó el sábado un borrador de normas para consulta pública que reforzaría la supervisión de los servicios de inteligencia artificial diseñados para simular personalidades humanas e involucrar a los usuarios en interacciones emocionales.
Las normas propuestas se aplicarían a los productos y servicios de IA ofrecidos al público en China que presenten rasgos de personalidad, patrones de pensamiento y estilos de comunicación humanos simulados, e interactúen emocionalmente con los usuarios a través de texto, imágenes, audio, video u otros medios.
El borrador establece un enfoque regulatorio que exigiría a los proveedores advertir a los usuarios sobre el uso excesivo e intervenir cuando muestren signos de adicción.
Según la propuesta, los proveedores de servicios estarían obligados a asumir responsabilidades de seguridad durante todo el ciclo de vida del producto y a establecer sistemas para la revisión de algoritmos, la seguridad de los datos y la protección de la información personal.
El borrador también aborda los posibles riesgos psicológicos. Se espera que los proveedores identifiquen los estados de los usuarios y evalúen sus emociones y su nivel de dependencia del servicio. Si se detecta que los usuarios presentan emociones extremas o comportamientos adictivos, los proveedores deben tomar las medidas necesarias para intervenir, indicó.
Las medidas establecen límites en cuanto a contenido y conducta, estableciendo que los servicios no deben generar contenido que ponga en peligro la seguridad nacional, difunda rumores o promueva la violencia o la obscenidad.
