La Unión Europea ha marcado un hito al aprobar la primera ley sobre inteligencia artificial, una regulación global sobre la IA. La norma, aprobada en Bruselas después de más de dos años de intensos debates, aborda el desafío de regular las innovaciones tecnológicas en un contexto de rápidos avances y garantizar la seguridad. Este avance histórico se gestó en medio del auge del chatbot ChatGPT, desarrollado por OpenAI y presentado a finales de 2022. Este chatbot, capaz de mantener conversaciones en lenguaje natural y realizar tareas complejas, impulsó una revisión de la legislación original que no anticipaba una inteligencia artificial de tal magnitud.
La ley europea sobre IA establece una escala de riesgos para clasificar los diversos sistemas de inteligencia artificial que llegarán al mercado. En casos de «riesgo inaceptable,» aquellos que representen una amenaza clara para los derechos fundamentales serán directamente prohibidos. Esto incluye aplicaciones que manipulen el comportamiento humano, como juguetes con asistentes de voz que podrían fomentar conductas peligrosas en menores.
Se prohíben sistemas de reconocimiento de emociones en entornos laborales o educativos, así como la recopilación indiscriminada de imágenes faciales. También se veta el uso de sistemas de categorización o identificación biométrica remota en tiempo real con fines policiales en espacios públicos. Sin embargo, se introducen excepciones vinculadas a la seguridad nacional, sujetas a autorización judicial y limitadas a la prevención de amenazas terroristas o la búsqueda de personas condenadas.
Niveles de riesgo
En el nivel de «alto riesgo,» se incluyen sistemas vinculados a infraestructuras críticas, dispositivos médicos y aplicaciones en áreas como la educación, el control de fronteras, la administración de justicia y los procesos electorales. La normativa exige la implementación de «sistemas de mitigación de riesgos» y garantías de solidez, precisión y ciberseguridad.
Incluso las aplicaciones consideradas de «riesgo mínimo,» como sistemas de recomendación y filtros de spam, estarán sujetas a requisitos de transparencia. La ley establece multas por incumplimiento que van desde los 7,5 millones de euros hasta los 35 millones de euros o el 7% del volumen de negocios global, dependiendo de la infracción y el tamaño de la empresa.
Esta ley pionera consolida jurídicamente la necesidad de regular tecnologías avanzadas que respeten los derechos fundamentales de las personas. Además, establece un marco que busca equilibrar los avances tecnológicos con la seguridad y la protección de la privacidad. La Unión Europea se posiciona como líder en la regulación responsable de la inteligencia artificial a nivel mundial.
