El regulador cibernético de China publicó el sábado un proyecto de normas, abiertas a comentarios del público, que reforzaría la supervisión de los servicios de inteligencia artificial (IA) diseñados para simular personalidades humanas e involucrar a los usuarios en interacciones emocionales. La medida destaca el esfuerzo de Pekín por dar forma al rápido despliegue de la IA orientada al consumidor con el refuerzo de los requisitos éticos y de seguridad. Las normas propuestas se aplicarían a los productos y servicios de IA ofrecidos al público en China que presenten rasgos de personalidad, patrones de pensamiento y estilos de comunicación humanos simulados, e interactúen emocionalmente con los usuarios a través de texto, imágenes, audio, vídeo u otros medios. El proyecto establece un enfoque regulador que obligaría a los proveedores a advertir a los usuarios contra el uso excesivo y a intervenir cuando los usuarios muestren señales de adicción. Según la propuesta, los proveedores de servicios tendrían que asumir responsabilidades de seguridad durante todo el ciclo de vida del producto y establecer sistemas de revisión de algoritmos, seguridad de datos y protección de la información personal. El proyecto también se centra en los posibles riesgos psicológicos. Los proveedores tendrían que identificar los estados de los usuarios y evaluar sus emociones y su nivel de dependencia del servicio. En caso de que los usuarios muestren emociones extremas o comportamientos adictivos, los proveedores deberán tomar las medidas necesarias para intervenir. Las medidas fijan líneas rojas en materia de contenidos y conducta, estableciendo que los servicios no deben generar contenidos que pongan en peligro la seguridad nacional, difundan rumores o promuevan la violencia o la obscenidad. China y la IA

China ha consolidado en los últimos años uno de los marcos regulatorios más estrictos del mundo en materia de tecnología digital.  Desde 2021, el país ha implementado normas específicas para algoritmos de recomendación, servicios de IA generativa y protección de datos, con el objetivo de mantener el control estatal sobre contenidos, flujos de información y riesgos sociales derivados de la automatización. El auge de sistemas de IA conversacional y asistentes virtuales con capacidad de simular emociones ha generado preocupación entre reguladores y expertos en salud mental. Estudios académicos y advertencias de organismos internacionales han señalado que este tipo de tecnologías puede fomentar dependencia emocional, distorsionar relaciones sociales y afectar especialmente a usuarios jóvenes o vulnerables. En el plano internacional, la iniciativa china se suma a esfuerzos similares en la Unión Europea y Estados Unidos, donde se debate cómo equilibrar innovación y protección del usuario.   

Únete a nuestro canal de WhatsApp para no perderte la información más importante 👉🏽 https://gmnet.vip/7Be3H Sin embargo, el enfoque de Pekín destaca por su énfasis en la seguridad nacional, el control de contenidos y la responsabilidad directa de las empresas durante todo el ciclo de vida de los productos de inteligencia artificial. Con información de Excélsior / AFP.