La Unión Europea exigirá identificar los contenidos creados o modificados mediante inteligencia artificial para que los ciudadanos sepan cuándo están interactuando con un sistema de IA o viendo material artificial. Estas obligaciones de transparencia comenzarán a aplicarse el 2 de agosto en virtud de la Ley europea de IA y buscan reducir el riesgo de engaño, manipulación y desinformación.
Los proveedores de sistemas de inteligencia artificial, como los responsables de chatbots, generadores de imágenes o herramientas de síntesis de voz, deberán informar expresamente a los usuarios cuando estén interactuando con una IA. También tendrán que incorporar marcas técnicas legibles por máquinas que permitan detectar si un contenido ha sido generado o manipulado artificialmente.
Por su parte, las empresas, medios de comunicación y demás organizaciones que utilicen estas herramientas deberán advertir a los ciudadanos cuando les muestren deepfakes, empleen sistemas de reconocimiento de emociones o categorización biométrica, o publiquen textos generados por IA sobre asuntos de interés público sin revisión humana ni responsabilidad editorial. El uso estrictamente personal quedará fuera de estas obligaciones, salvo que tenga una finalidad económica.
La Comisión Europea también ha aprobado un código de buenas prácticas con criterios para marcar y etiquetar estos contenidos, incluyendo una serie de iconos comunes. Aunque la adhesión al código es voluntaria, las obligaciones de transparencia establecidas por el Reglamento son legalmente exigibles. Su incumplimiento podrá dar lugar a sanciones de hasta 15 millones de euros o el 3 % de la facturación anual de la empresa infractora.
ADICAE valora positivamente que la Unión Europea avance en la identificación de contenidos generados mediante inteligencia artificial, especialmente ante el incremento de fraudes digitales, suplantaciones de identidad, falsos asesores financieros, anuncios manipulados y mensajes comerciales creados para aparentar una confianza o una autenticidad que no poseen.
No obstante, la asociación advierte de que el aviso deberá aparecer de manera clara, inmediata y comprensible, antes de que el consumidor tome una decisión económica, facilite sus datos personales o contrate un producto o servicio.
Además, ADICAE reclama una vigilancia efectiva sobre las grandes plataformas digitales, entidades financieras, comercios electrónicos y empresas de atención al cliente que utilicen sistemas automatizados. Los consumidores deben poder conocer cuándo hablan con una máquina, solicitar la intervención de una persona y reclamar fácilmente cuando la inteligencia artificial haya proporcionado información falsa, incompleta o engañosa.
