1. ¿Qué es la Agencia Española de Supervisión de la Inteligencia Artificial?
La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), es la Agencia Estatal creada por el Gobierno español para la supervisión, el asesoramiento, la concienciación y la formación dirigidas a entidades de derecho público y privado para la adecuada implementación de toda la normativa nacional y europea en torno al adecuado uso y desarrollo de los sistemas de inteligencia artificial. Además, tendrá funciones de inspección, comprobación, sanción entre otras que le sean atribuidas por la normativa europea.(1)
La creación de la AESIA se fundamenta en la obligación nacida de una Propuesta de Reglamento del Parlamento Europeo y el Consejo por el que se establecen normas armonizadas en materia de Inteligencia Artificial (Ley de Inteligencia Artificial).
Mediante esta norma europea, la UE obligará a los Estados miembros a crear una autoridad nacional de supervisión encargada de supervisar la aplicación de lo dispuesto en la propia Ley de Inteligencia Artificial.
España es el primer país europeo en tener un órgano de estas características y se anticipa a la entrada en vigor de la Ley de Inteligencia Artificial creando la AESIA. El Gobierno español creó esta autoridad el pasado 22 de agosto a través del Real Decreto 729/2023 por el que se aprueba el Estatuto de la Agencia Española de Supervisión de Inteligencia Artificial.
La AESIA entra dentro de la Agenda digital 2026, concretamente, en la Estrategia Nacional de Inteligencia Artificial (ENIA). La ENIA tiene como objetivo proporcionar un marco de referencia para una IA inclusiva, sostenible y centrada en la ciudadanía, y para ello, cuenta con más de 600 millones de euros de fondos europeos Next Generation EU del Plan de Recuperación, Transformación y Resiliencia para cumplir los más de 250 proyectos innovadores recogidos en la ENIA donde destacan:
- La creación de la AESIA,
- Spain Neurotech (centro pionero en España para avanzar en el tratamiento de enfermedades crónicas como el Parkinson o el Alzheimer), o el
- Programa Nacional de Algoritmos Verdes para hacer que el desarrollo de la IAsea respetuoso con el medio ambiente.
La Ley de Inteligencia Artificial es el reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial de la UE. Cabe decir que está ley aún no está en vigor sino que, actualmente, la propuesta de la Comisión del 21 de abril del 2021 fue aprobada en primera lectura por el Parlamento Europeo con enmiendas el pasado 14 de junio.
En las razones y objetivos de la propuesta, la Comisión Europea define la Inteligencia Artificial como un conjunto de tecnologías que puede generar un amplio abanico de beneficios económicos y sociales en todos los sectores, necesarios en ámbitos como el cambio climático, el medio ambiente, la salud, las finanzas o el sector público. (2)
Sin embargo, la Comisión advierte de que los mismos medios con los que la IA puede beneficiar a la sociedad, pueden dar lugar a nuevos riesgos para personas y la sociedad en conjunto, por lo que la Inteligencia Artificial es un arma de doble filo.
Mediante la Ley de Inteligencia Artificial, se busca la consecución de los siguientes objetivos:
a) Garantizar que los sistemas de IA en el mercado de la UE sean seguros y respeten los derechos fundamentales y valores de la Unión.
b) Garantizar la seguridad jurídica para facilitar la inversión e innovación en IA.
c) Facilitar el desarrollo de un mercado único para hacer un uso legal, seguro y fiable de aplicaciones de IA sin fragmentar el mercado.
Se desprende de la Ley de Inteligencia Artificial que para conseguir los objetivos marcados por la propia regulación y garantizar el efectivo cumplimiento del
Reglamento, es necesaria una autoridad supranacional (Oficina de IA) y una autoridad nacional de supervisión de tal manera que habrá un primer nivel de supervisión de cumplimiento con la normativa establecida por la Ley de Inteligencia Artificial, y un segundo nivel a escala comunitaria (Oficina de IA) donde estarán representados los Estados miembro.
3. Estatuto de la Agencia Española de Supervisión de la Inteligencia Artificial
El Estatuto de la AESIA fue aprobado el pasado 22 de agosto por el Real Decreto 729/2023. Mediante el cual, el Gobierno crea la Agencia Estatal anticipándose y preparándose para la asunción de obligaciones y responsabilidades que imponga la Ley de Inteligencia Artificial de la Unión Europea.
El estatuto de la AESIA establece que tendrá su sede institucional en A Coruña. Entre sus funciones destacan la supervisión para el uso y desarrollo adecuado de los sistemas de inteligencia artificial así como, la importancia de las funciones de inspección, comprobación y sanción entre otras que le sean atribuidas por la Ley de Inteligencia Artificial europea. De esta manera, la Agencia ejercerá competencias como:
1. La promoción de entornos de prueba que permitan una correcta adaptación de sistemas innovadores de inteligencia artificial a la normativa en vigor.
2. El apoyo al desarrollo y uso de sistemas de inteligencia artificial desde una doble perspectiva ambiental y sostenible: promoviendo un desarrollo y uso energéticamente eficiente.
3. El apoyo al desarrollo y uso de sistemas de inteligencia artificial con perspectiva de género, incorporando el principio de igualdad de oportunidades entre mujeres y hombres en su diseño y ejecución.
4. La ayuda al fortalecimiento de la confianza en la tecnología y aplicación de la IA.
5. La supervisión de los sistemas de IA para garantizar el cumplimiento de la normativa, tanto nacional como europea. Es decir, tendrá competencia para supervisar y en su caso sancionar de acuerdo con la normativa nacional y europea vigente.
Finalmente, el Estatuto establece que la Agencia empezará a funcionar con la constitución del Consejo Rector en el plazo máximo de 3 meses.
4. ¿Por qué es necesaria la regulación de la Inteligencia Artificial?
Como advertía anteriormente, la Inteligencia Artificial es un arma de doble filo puesto que presenta beneficios pero también numerosos riesgos para la sociedad. A continuación, algunos ejemplos de controversias y riesgos causados por un uso inapropiado de la Inteligencia Artificial:
Estafas telefónicas mediante el uso de voces familiares clonadas con IA
Las estafas telefónicas existen desde hace tiempo, pero actualmente se han vuelto más peligrosas y creíbles. Y es que mediante el uso de la Inteligencia Artificial, los estafadores consiguen clonar las voces de familiares o personas cercanas a nuestro alrededor para hacer más creíble la estafa y que caigamos en ella.
Tal como explica la BBC en un artículo sobre este tipo de estafas, crear una copia realista de la voz de alguien es bastante sencillo y accesible hoy en día. Es así de accesible porque lo único que necesita este tipo de tecnología para conseguir clonar la voz es una muestra de voz de la persona que trata de clonar y, hoy en día, la mayoría de gente alguna vez ha publicado algún vídeo o nota de voz en internet.
El diario estadounidense Washington Post, publicó un artículo el pasado marzo donde explicaba el caso de la estafa a Ruth Card. Se trata de una señora canadiense de 73 años que fue estafada mediante una llamada que parecía ser la voz de su nieto y le decía que estaba en prisión y que necesitaba dinero para la fianza. Sin dudarlo, fue al banco y sacó 3000 dólares (máximo diario), pero cuando fue a la segunda entidad bancaria a sacar más dinero, le advirtieron de que habían tenido un caso similar hacía poco y se trataba de una estafa. Por lo que la señora Card, se dio cuenta de que quien había al otro lado del teléfono no era su nieto.
O el caso de Benjamin Perkin. Cuando un abogado se puso en contacto con sus padres diciendo que su hijo había matado a un diplomático estadounidense en un accidente de coche e incluso hizo que supuestamente se pusiera el propio Benjamin al teléfono (mediante el uso de IA) pidiéndoles 21.000 dólares. En este caso, los padres accedieron a pagarlos. Para su sorpresa, el verdadero Benjamin les llamó esa misma noche para preguntarles si estaba todo bien, entonces supieron que les habían estafado y que no había manera de recuperar el dinero.
Demanda del autor de Juego de Tronos a los creadores de ChatGPT
Los escritores George RR Martin (autor de Juego de Tronos) y hasta un total de 20 escritores demandaron a la compañía de detrás de la IA ChatGPT por violar sus derechos de autor para entrenar el algoritmo. Según explica la BBC en su artículo en relación a este tema, las Inteligencias Artificiales “aprenden” mediante el análisis de grandes cantidades de información.
Los escritores argumentan en la demanda que ChatGPT ha usado sus libros protegidos por derechos de autor sin su consentimiento para que el programa fuera capaz de resumir las obras o crear contenido acerca de las mismas sin permiso ni contraprestación alguna por el uso de los libros protegidos. De esta manera, acusan a OpenAI (empresa detrás de ChatGPT), de un robo sistemático a gran escala y no solo por la protección de los derechos de autor, sino que ven como un peligro la Inteligencia Artificial puesto que puede ser muy perjudicial para el sector la automatización y el reemplazo que ofrece la Inteligencia Artificial frente a la obra humana.
Falsos desnudos creados mediante IA en Almendralejo (Extremadura)
Este es el caso más destacado a nivel nacional del por qué es necesario un control de la Inteligencia Artificial y un ejemplo claro que demuestra los riesgos que puede comportar un uso inadecuado y deleznable de la tecnología de la Inteligencia Artificial.
En el municipio de Almendralejo situado en la província de Badajoz, se empezó a rumorear en un colegio que habían desnudos de chicas de entre 12 y 14 años del propio colegio. La noticia que recibían las menores al verse ellas o a compañeras suyas con falsos desnudos fue trasladada por su parte a las familias.
Se trata de imágenes extraídas de las redes sociales de las chicas, posteriormente editadas con un programa de IA que permitía modificar esas fotos y convertirlas en desnudos.
Las diferentes madres, viendo la gran afectación que eso estaba teniendo (actualmente suman 22 el número de víctimas), se unieron y denunciaron lo sucedido a la policía.
El caso se encuentra bajo investigación policial para identificar a los autores de estos hechos, que hasta ahora, han sido identificados un total de diez posibles autores de los hechos de entre 12 y 14 años.
Estos ejemplos de riesgos reales de usos indebidos, con fines distanciados de los fines que intenta conseguir la IA nos muestran como es totalmente necesaria una supervisión y una regulación acerca de la Inteligencia Artificial. En el caso de Europa, este control se hará mediante las Agencias nacionales de supervisión, control, inspección y sanción como la AESIA, en cumplimiento de la Ley de Inteligencia Artificial cuando ésta entre en vigor.
5. Conclusiones
A modo de conclusión, cabe decir que la Inteligencia Artificial es un arma de doble filo: Por un lado es una tecnología nueva que permite crecer como sociedad aportando muchos beneficios sociales y económicos al conjunto de la ciudadanía. Sin embargo, es necesaria la regulación para una supervisión, inspección y sanción para los supuestos en que la misma tecnología que aporta estos beneficios se convierte en un método para delinquir, ya sea a modo de estafa, vulneración de derechos de autor o la privacidad e intimidad de las personas.
Por esos motivos, creo que es necesario tener Agencias supervisoras de la actividad de las Inteligencias Artificiales con la finalidad de evitar los riesgos que las IA tienen hoy en día y que de ellas solo queden los beneficios que pueden aportar al conjunto de la sociedad.
Considero que la Unión Europea va por el buen camino al tratar de reducir a cero los casos en que la IA es utilizada de forma inadecuada y no cargar contra la Inteligencia Artificial en general porque se trata de una tecnología que puede aportar grandes beneficios y permitirnos avanzar como sociedad teniendo en cuenta la perspectiva de género, el cuidado del medio ambiente y la protección y seguridad de los ciudadanos y ciudadanas.
REFERENCIAS
(1 ) Artículo 4 Estatuto de la AESIA.
(2) Se desprende del artículo 1 del Reglamento: El objetivo del presente Reglamento es promover la adopción de una inteligencia artificial centrada en el ser humano y fiable y garantizar un elevado nivel de protección de la salud, la seguridad, los derechos fundamentales, la democracia y el Estado de Derecho y del medio ambiente frente a los efectos nocivos de los sistemas de inteligencia artificial en la Unión, apoyando al mismo tiempo la innovación.
Autor: Axel Jordan Bruch. Asociado de JJ y Estudiante Grado de Derecho en la UAB.
Revisión: Alba Kiernans García. Abogada y Presidenta de la Asociación Jóvenes Juristas.