La normativa establece una serie de criterios para detectar las herramientas que puedan generar un riesgo para la sociedad. Los sistemas de IA generativa, en los que se basan modelos como ChatGPT, de OpenAI o Bard, de Google, tendrán que cumplir criterios de transparencia.
12 de diciembre 2023, 19:08hs
/cloudfront-us-east-1.images.arcpublishing.com/artear/RHF4OSWJCFBP3KITKTHJN7776A.png)
La Unión Europea aprobó este fin de semana su ley de inteligencia artificial que permite o prohíbe el uso de esta tecnología en función del peligro que suponga para las personas y busca impulsar a la industria europea frente a gigantes como China y Estados Unidos.
La normativa pretende garantizar la protección de los derechos fundamentales, la democracia, el Estado de Derecho y la sostenibilidad ambiental frente a la inteligencia artificial y establece obligaciones en función de sus riesgos potenciales y su nivel de impacto.
Leé también: Esta es la clave para que una inteligencia artificial no te reemplace en tu trabajo
“La ley de inteligencia artificial de la UE es pionera en el mundo. Un marco legal único para el desarrollo de estas herramientas”, dijo la presidenta de la Comisión Europea, Ursula von der Leyen, en un mensaje en Twitter/X.
/cloudfront-us-east-1.images.arcpublishing.com/artear/TEULAIFLEZEV7PCOKOUWQ5M4OQ.png)
Para que entre en vigencia, la ley ahora debe ser ratificada por el Parlamento Europeo y el Consejo de la UE, la institución que representa a los Gobiernos europeos.
Regulación de ChatGPT, Bard y la inteligencia artificial generativa
La principal novedad de la ley es la regulación de los sistemas de inteligencia artificial generativa, en los que se basan modelos como ChatGPT, de OpenAI o Bard, de Google. Estas herramientas ahora tendrán que cumplir criterios de transparencia, como especificar si un texto, una canción o una fotografía se han generado a través de la inteligencia artificial y garantizar que los datos que se emplearon para entrenar a los sistemas respetan los derechos de autor.
Está claro que la normativa no prohíbe el uso de estos populares chatbots o de programas como Midjourney, pero sí establece una serie de criterios para detectar los modelos que pueden generar un alto riesgo en función del contexto en el que se usen y obliga a sus desarrolladores a cumplir salvaguardas más estrictas.
Leé también: Analizamos con expertos el alcance del decreto de Joe Biden que regula la inteligencia artificial
Los límites a las cámaras de identificación biométrica en espacios públicos
Uno de los puntos más sensibles de la nueva ley es el uso que los gobiernos podrán hacer de las cámaras de identificación biométrica en espacios públicos. Según el texto del documento, las cámaras se podrán utilizar con previa autorización judicial para prevenir una amenaza terrorista genuina y previsible o genuina y presente, es decir, que se esté produciendo en ese momento.
También se podrán emplear para localizar o identificar a una persona que haya cometido delitos de terrorismo, tráfico de personas, explotación sexual o, por ejemplo, un crimen ambiental y para buscar a las víctimas de estos delitos.
Sin embargo, estarán prohibidos los sistemas para expandir o crear bases de datos faciales captando datos de manera indiscriminada a través de internet o de grabaciones audiovisuales.
¿Querés recibir más información de Tecno?
Suscribite acáAdemás, en los centros de trabajo o las escuelas también estarán prohibidos los sistemas de inteligencia artificial que pueden reconocer las emociones.
Durante las negociaciones, los gobiernos presionaron para ampliar la lista de delitos, mientras que la Eurocámara intentó limitarla lo máximo posible y obtener fuertes salvaguardas para los derechos fundamentales.
Creación de la Oficina Europea de Inteligencia Artificial
La ley prevé la creación de la Oficina Europea de Inteligencia Artificial, que coordinará el uso de la tecnología entre las autoridades nacionales y que estará asesorada por un panel de científicos y de organizaciones de la sociedad civil.
Leé también: Preocupa el crecimiento del uso de deepfakes de famosas en sitios de videos para adultos
Está previsto que la ley entre en vigor en 2026, pero se aplicará por fases: la oficina europea se creará de forma inmediata, la prohibición de los sistemas vedados de inteligencia artificial llegará a los seis meses y los requisitos para los sistemas y modelos de IA generativa, dentro de un año.
De no cumplir con las nuevas reglamentaciones, la norma prevé multas con un rango que va desde los 37,6 millones de dólares o el 7 % del volumen global de negocio de las empresas, hasta los 8 millones de dólares o el 1,5 % del volumen global de negocio.