El sector financiero se enfrenta a un nuevo desafío con la aparición de los deepfakes, una técnica que permite crear videos y audios falsos de gran realismo.
AESIA: un pilar en la regulación de la IA en España
España da un paso audaz hacia el futuro con la creación de la Autoridad Española de Supervisión de la Inteligencia Artificial (AESIA). Este nuevo organismo surge como respuesta a la necesidad de establecer un marco regulatorio que asegure un uso ético y responsable de la IA.
A
ESIA no solo se encargará de supervisar el cumplimiento de las normativas nacionales, sino que también actuará en estrecha colaboración con las directrices de la Unión Europea, buscando equilibrar la innovación tecnológica con la protección de los derechos fundamentales. Su misión es clara: minimizar los riesgos asociados a la IA, garantizando un desarrollo que beneficie a la sociedad en su conjunto.
La creación de AESIA sigue la aprobación en mayo de 2024 de la Estrategia Española de IA por el Consejo de Ministros, que establece un camino claro hacia la capitalización de los beneficios de la IA mientras se mitigan sus riesgos. Esta estrategia se alinea con el reglamento europeo de IA, que busca equilibrar la innovación tecnológica con la protección de los derechos y valores fundamentales.
Ejes de la estrategia española de IA
La Estrategia Española de IA se articula en torno a tres ejes fundamentales:
- Reforzar las palancas clave para el desarrollo de la IA: Esto incluye la inversión en infraestructura pública de modelos de lenguaje y el impulso del talento en este campo.
- Facilitar la expansión de la IA en el sector público y privado: Fomentando la innovación y la ciberseguridad, con un enfoque en la aplicación práctica de la IA en diversos ámbitos.
- Desarrollar una IA transparente, responsable y humanística: Esto implica promover estándares éticos y buenas prácticas en el uso de la IA.
Objetivos de AESIA
La Autoridad Española de Supervisión de la Inteligencia Artificial será una pieza clave en la Estrategia Española de IA, con cinco objetivos fundamentales:
- Think & Do Tank. AESIA actuará como un centro de reflexión y acción o laboratorio de ideas, anticipando tendencias en el ámbito de la IA. Esto incluirá la divulgación de conocimiento sobre sus aplicaciones y el fomento de un debate social activo sobre sus posibilidades y limitaciones.
- Supervisión y evaluación. La autoridad será responsable de supervisar los sistemas de IA en uso, coordinando su labor con las autoridades de vigilancia del mercado. Además, promoverá estándares y buenas prácticas, asegurando que los modelos de IA se ajusten a las normativas establecidas.
- Coordinación regulatoria. AESIA trabajará en estrecha colaboración con la Oficina Europea de IA y otras autoridades nacionales para garantizar una aplicación uniforme del reglamento. Su objetivo es adaptar la regulación a los cambios tecnológicos y del mercado, asegurando su efectividad.
- Fomento de la innovación. La autoridad se dedicará a promover la innovación en el sector de la IA, facilitando el cumplimiento de la normativa tanto en el ámbito público como privado. Esto incluirá el desarrollo de mejores prácticas y la implementación de entornos de prueba (sandboxes) que permitan a las empresas experimentar con nuevas tecnologías sin riesgos.
- Participación global. AESIA también tendrá un papel activo en el debate global sobre la IA, interviniendo en foros internacionales para establecer estándares globales mínimos. Abogará por una IA que sea confiable, responsable y humanista, alineando la regulación con la visión de la Estrategia Española de IA.
Propuestas e iniciativas clave de AESIA
- Sistema de certificación de IA: AESIA establecerá un sistema de certificación basado en los niveles de riesgo de los sistemas de IA. Esta certificación supervisará el cumplimiento de requisitos para sistemas de alto riesgo y garantizará la transparencia de aquellos considerados de riesgo mínimo.
- Legislación nacional sobre sanciones: Aunque el reglamento europeo establece marcos generales, AESIA trabajará en la elaboración de una ley nacional que defina los niveles de sanciones por incumplimientos y detalle los mecanismos de actuación de la autoridad.
- Sandbox regulatorio: Se está considerando la creación de un entorno sandbox, que proporcionará a las empresas un espacio controlado para experimentar con tecnologías de IA, incentivando la innovación sin los riesgos regulatorios habituales.
Impacto en los Proveedores Cualificados de Servicios de Confianza (QTSPs)
AESIA implementará un sistema de certificación que se asemeja al modelo ya existente para los Proveedores Cualificados de Servicios de Confianza (Qualified Trust Service Providers, QTSPs), lo que significará que las empresas tecnológicas estarán sujetas a procesos de auditoría estrictos antes de poder comercializar sus soluciones de IA. Esto garantizará que el uso de la IA se alinee con principios éticos y de seguridad.
Además, AESIA coordinará sus acciones con otras autoridades que afectan a los QTSPs, como el Banco de España o la Autoridad de Protección de Datos, evitando la duplicación de procesos de cumplimiento y facilitando la adaptación a los nuevos requisitos de IA.
Mientras se acreditan organismos externos para la emisión de certificaciones, AESIA asumirá temporalmente la función de autorizar la conformidad de sistemas de IA, lo que permitirá agilizar el proceso para empresas que ya operan bajo el modelo QTSP.
Recursos y presupuesto
AESIA contará con un equipo de 60 empleados y tendrá un presupuesto independiente, no vinculado a las multas impuestas. Este enfoque refuerza su compromiso de no ser una autoridad punitiva, sino más bien una entidad que apoya el desarrollo responsable y la regulación eficaz de la IA en España.
La creación de la AESIA representa un paso significativo hacia la regulación efectiva de la inteligencia artificial en España. Con su enfoque en la transparencia, la ética y la innovación, la AESIA no solo protegerá los derechos y valores fundamentales, sino que también fomentará un entorno donde la IA pueda prosperar de manera segura y responsable.