Eurocámara aprueba nueva ley de inteligencia artificial: ¿Qué implica para ChatGPT y la vigilancia biométrica?

La Eurocámara ha dado luz verde este miércoles a una ley de inteligencia artificial en negociación en Bruselas, con el objetivo de impulsar su desarrollo y limitar riesgos asociados. La ley busca establecer un marco legal común en la Unión Europea que garantice la seguridad, el respeto a los derechos fundamentales y la confianza ciudadana.

Niveles de riesgo y sistemas prohibidos

La legislación clasifica los sistemas de inteligencia artificial en diferentes niveles de riesgo, desde los prohibidos hasta los de bajo riesgo. Entre los sistemas vetados se encuentran aquellos que manipulan el comportamiento humano, explotan la vulnerabilidad de las personas o suponen una vigilancia masiva. La Eurocámara también se opone a la identificación biométrica en tiempo real en espacios públicos, excepto en casos excepcionales y bajo supervisión judicial.

Requisitos para sistemas de alto riesgo

Los sistemas de alto riesgo, como los empleados en los ámbitos sanitario, educativo, financiero o judicial, deberán cumplir con requisitos de transparencia, precisión, supervisión humana y evaluaciones periódicas.

Regulación para modelos GPT y ChatGPT

Entre los sistemas regulados se encuentran los basados en modelos GPT, como ChatGPT, que generan textos a partir de datos introducidos por el usuario. La ley impone condiciones como informar al usuario de que está interactuando con una máquina, garantizar la calidad y fiabilidad de los datos utilizados y evitar sesgos o discriminaciones.

Incentivos para la innovación

La legislación también incluye incentivos para la innovación y la investigación en inteligencia artificial, así como medidas para fomentar la formación y las competencias digitales. Para la Eurocámara, la inteligencia artificial debe estar al servicio de las personas y contribuir al bienestar social, económico y medioambiental.

La nueva ley ha generado opiniones diversas entre los grupos políticos, organizaciones sociales y empresas del sector. Mientras algunos la ven como un paso adelante en la regulación de tecnologías emergentes y protección ciudadana, otros la consideran insuficiente o excesiva. La normativa es pionera a nivel mundial y sentará las bases para el desarrollo y la gobernabilidad de la inteligencia artificial. Las discusiones para aprobar un texto definitivo comenzarán de inmediato, con el objetivo de que la ley entre en vigor lo más pronto posible.