El pasado 21 de mayo, la Comisión Europea presentó su propuesta para regular la Inteligencia Artificial. El documento pretende defender los derechos fundamentales de los ciudadanos sin limitar el desarrollo de esta tecnología y la innovación en la UE.
La futura regulación se ha enfocado teniendo en cuenta el riesgo que los distintos sistemas de IA puedan plantear. En ese sentido, se trata de una regulación novedosa, pues, sin limitar a priori el uso y el desarrollo de la IA, la propuesta permitiría proteger a usuarios y consumidores e incrementar la confianza de estos en una tecnología que, por otra parte, será un elemento clave en el crecimiento económico y la mejora de la sociedad.
En línea con la legislación europea anterior, el documento pone especial énfasis en la defensa de los derechos fundamentales de los ciudadanos, procurando que los principios y valores fundamentales de la Unión se vean respetados, sin que ello limite el desarrollo y la innovación. La voluntad de garantizar un uso ético de esta tecnología queda patente en las palabras de la Vicepresidenta y Comisaria para la Era Digital, Margrethe Vestager: “en inteligencia artificial, la confianza es imprescindible, no un lujo”.
De este modo, la propuesta se marca como objetivos:
- Asegurar que los sistemas de IA situados en el mercado de la Unión son seguros y respetan la ley existente sobre derechos fundamentales;
- Asegurar la seguridad jurídica para facilitar la inversión y la innovación;
- Reforzar la gobernanza y el cumplimiento eficaz de la ley ya existente y de los requerimientos de seguridad; y
- Facilitar el desarrollo de un mercado único para sistemas de IA legales, seguros y fiables, previniendo la fragmentación de mercado.
Categorización de los sistemas de IA
De acuerdo con esos objetivos, la propuesta distingue entre sistemas de “riesgo inadmisible”, de “alto riesgo”, de “riesgo limitado” y de “riesgo mínimo”. El nivel de requerimientos y restricciones dependerá, por lo tanto, de la categoría en que cada sistema se encuentre.
De este modo, hay algunos sistemas que la propuesta considera inadmisibles. Entre los sistemas de IA prohibidos podemos encontrar aquellos que presentan un gran potencial para manipular a los individuos a través de técnicas subliminales que vayan más allá de sus conciencias o que exploten vulnerabilidades específicas de ciertos grupos, como los niños o las personas con discapacidad, y que pueden distorsionar su comportamiento hasta el punto de generar, en ellos o en otras personas, un daño físico o psíquico. Asimismo, la propuesta también prohíbe cualquier sistema gubernamental de “puntuación social” basado en IA, como los que ya se aplican en China; o los sistemas de identificación biométrica remota en tiempo real en lugares públicos, como el reconocimiento facial (salvo en casos de extrema gravedad, como amenaza terrorista).
Entre los sistemas de alto riesgo, que se someterán a una serie de obligaciones estrictas antes de su posible comercialización, se encuentran tecnologías de IA relacionadas con infraestructuras críticas, como el transporte; aquellas relacionadas con el filtrado de currículums o perfiles profesionales en procesos de selección (susceptibles de replicar sesgos), o los sistemas de calificación crediticia. Todas estas tecnologías deberán acreditar instrumentos de supervisión humana, así como garantías de la calidad de los datos empleados y mecanismos de trazabilidad.
Por otro lado, en relación con el uso de algoritmos, la propuesta complementa la legislación europea ya existente con requerimientos específicos en busca de minimizar el riesgo de discriminación algorítmica, particularmente aquella referida al diseño y la calidad de los sets de datos utilizados para el desarrollo de sistemas de IA. Además, todo esto se complementará con obligaciones de testing, gestión de riesgos, documentación y supervisión humana a lo largo de todo el ciclo vital de los sistemas de IA.
La IA para fomentar la innovación
En términos generales, la Comisión concibe la IA de forma positiva y reconoce su potencial económico y social: la innovación y el desarrollo de esta tecnología permitirá ofrecer nuevos productos y servicios a consumidores y empresas y contribuirá, en gran medida, al interés general, gracias a las mejoras que incorporará a sectores clave como el de la salud. En ese sentido, la Comisión pretende que esta propuesta, en lugar de limitarla, ayude también a fomentar la innovación. En consecuencia, se prevé la creación de códigos de conducta voluntarios para aquellas aplicaciones de IA de bajo riesgo, además de sandboxes regulatorios para impulsar la innovación responsable. De hecho, es importante destacar que la propuesta abarca únicamente la IA destinada a usos civiles, dejando al margen el ámbito militar.
A nivel de gobernanza, la propuesta prevé la creación de un Consejo Europeo de Inteligencia Artificial, que junto a los organismos supervisores nacionales será la encargada de facilitar la implementación de estas medidas, así como de desarrollar estándares para el uso de la IA.
Próximos pasos
A nivel procedimental, la propuesta ya ha iniciado los primeros pasos del proceso legislativo. Este trámite será largo y se dilatará, como mínimo, durante un año. Debido a que se trata de una propuesta de regulación (y no de una directiva) la atención al detalle será mayor y, con total seguridad, la discusión en el Consejo será larga y compleja. En cualquier caso, desde la Comisión se ha trasladado que, a pesar de las más que probables modificaciones del texto original, la mayoría de los países se han mostrado favorables y satisfechos con la norma.
En ese sentido, cabe destacar el apoyo ya demostrado por el Gobierno español y la Secretaria de Estado e Inteligencia Artificial, Carme Artigas. La responsable española en materia de IA publicó, el pasado mes de mayo, un artículo celebrando una medida que, en su opinión, permitiría establecer unas “reglas de juego claras”. Así, remarcó el compromiso de España con la propuesta y su activa participación en el futuro Consejo Europeo de IA, principal organismo de gobernanza. Aprovechó la ocasión para destacar, también, el esfuerzo realizado por España en la defensa de los derechos fundamentales de los ciudadanos en la red, que se materializará, próximamente, en la prometida Carta de Derechos Digitales. Por otro lado, no debemos olvidar que España es uno de los países europeos que cuenta con su propia Estrategia Nacional de Inteligencia Artificial, que fue presentada por el Gobierno el pasado diciembre y cuyo objetivo es generar un entorno de confianza, desarrollar una IA inclusiva y sostenible y que sea respetuosa con la ciudadanía, a través de un “enfoque humanista”.
Estos pronunciamientos y las sensaciones transmitidas por la Comisión hacen pensar que, con seguridad, esta regulación llegará a buen puerto. Una vez aprobada, la implementación de esta regulación será competencia de los Estados miembros.
