El gobierno activa primer entorno de prueba de la UE para asegurar responsabilidad en sistemas de IA

El ministro de transformación de funciones digitales y públicas, Óscar López, durante su discurso en el desayuno de información de la prensa Europa.

El Ministerio de Transformación Digital y la función pública, a través de su Secretario de Estado para la Digitización e Inteligencia Artificial (AI), publicó la resolución provisional de la primera caja de arena de inteligencia artificial, seleccionando 12 sistemas de alto riesgo.

El ministro Óscar López fue responsable de anunciar la publicación en el desayuno de información de la prensa Europa, donde declaró que «Sandbox promueve la competitividad de nuestras empresas, implementa la certeza legal europea y garantiza la capacitación y la democratización tecnológica».

Con esta resolución, España avanza en la implementación de la regulación europea, manteniendo la gestión en el desarrollo de la información artificial responsable en la UE y en el mundo. Este estándar establece una serie de requisitos para sistemas de alto nivel, como, por ejemplo, que siempre deben tener supervisión humana.

La fecha límite para enviar solicitudes se cerró el 30 de enero de 2025, con una excelente recepción, recibiendo 44 solicitudes de diferentes proveedores de sistemas de IA.

Para favorecer una mayor diversidad de sistemas de inteligencia artificial para comprender mejor las implicaciones en los sectores definidos como un alto riesgo de regulaciones de IA, los siguientes proveedores se seleccionan provisionalmente:

1. Acceso a servicios esenciales públicos o privados:

• Inteligencia artificial, SL: Sistema AI para la calificación de préstamos, análisis de solvencia y el riesgo de falta de pago de personas en sus datos de transacciones bancarias.
• El Centro de Investigación para la Investigación en Techloxías también proporciona información como comunicación en Galicia: el proceso de procesamiento de la transcripción inteligente de comunicaciones de emergencia en 112 El Centro de Operaciones en Galicia.

2. Biometría:

• VERIDAS Soluciones de autenticación digital, SL: Merrides Age. Sistema para verificar la edad de los usuarios en distribuidores automáticos, asegurando el cumplimiento de las regulaciones en la venta de productos regulados, como el tabaco o también las regulaciones regulares de vapor.
• Herta Security, SL: biosurve. Vidrovigilancia española de 100% de alto rendimiento, que funciona por reconocimiento facial (por biometría). Está especialmente diseñado para la identificación simultánea de sujetos de masa y entornos muy cambiantes.

3. Empleo:

• Adevina Jobs SL: Clasificación de registros a través de las PYME (la forma en que encaja). Adaptación a las vacaciones calculando la compatibilidad entre los programas de los candidatos y los requisitos de las ofertas de empleo en infojobs.
• Shakers Global Solutions: Shakers AI Matchmaker. Hacer un sistema dirigido por IA que utiliza recomendaciones personalizadas para conectar talento independiente con proyectos comerciales.

4. Infraestructura crítica:

• Imation Analytics, SL: GuardianMobility AI. Vigilancia avanzada real, diseñada para la seguridad y la optimización de las infraestructuras críticas de transporte. Detección temprana de incidentes y anormalidades en vehículos, multitudes y espacios estratégicos.
• Loradix Red, SL: Cibersecurity fortalecido con AI en el control del flujo de datos fuera del sistema eléctrico desde y hacia el sistema de televisión de distribución de electricidad (IoT Loradix).

5. Máquinas:

• Operaciones de Airbus, SL: Operadores Asistentes para el uso de SOI. Aplicación web utilizada por Google Cloud Platform (GCP) y el modelo multimodal multimodal multimodal de Google para responder preguntas de una instrucción operativa estándar (SOI).

6. Productos sanitarios:

• Bit & Brain Technologies, SL: CL@Udia. La plataforma de ayuda, tratamiento y prevención de problemas de sueño. Recopilar los datos multimodales obtenidos a través de los sistemas de adquisición utilizados por los usuarios en su propia casa.
• Tucuvi quién, SL: Gerente de Salud de Tucuvi. Software médico que automatiza el monitoreo clínico de los pacientes a través de llamadas telefónicas administradas de Lola, un asistente virtual basado en la conversación.

7. Productos sanitarios para el diagnóstico in vitro:

• Hecho de genes, SLU: Mogie-Metcare. Prevención de enfermedades metabólicas. Integra datos clínicos junto con marcadores analíticos y genéticos para evaluar de manera personalizada el riesgo de enfermedades metabólicas, como la diabetes u obesidad.

En abril, la Secretaría del Estado de Digitalización e IA, acompañada por la Oficina Europea de AI, presidirá la primera reunión de Sandbox en la que hasta 18 PYME y 6 nuevas empresas de toda la geografía española, incluida una entidad francesa.

López explicó que estos sistemas seleccionados comenzarán su viaje a Sandbox con un alto servicio de capacitación pública y consultoría pública, que analizará las obligaciones de la regulación y llevará a cabo un proceso de análisis y adaptación de sus sistemas para cumplir con estas obligaciones.

La Oficina de Digital 2030 y la Internacionalización acompañará a los participantes en esta iniciativa con la ayuda de un grupo de consejeros técnicos que serán consultados con las dudas técnicas en el proceso de adaptar los algoritmos.

Como resultado de esta experiencia con hasta 12 sistemas AI de alto riesgo, las guías técnicas se obtendrán para implementar los requisitos que se publicarán para el uso de todos los desarrolladores en España. Estas guías servirán a la influencia del desarrollo de regulaciones y estándares a nivel europeo, preparándose para nuestro ecosistema.

Con Ai Sandbox, el gobierno español quiere «promover la innovación y facilitar que las PYME, las nuevas empresas y las grandes empresas puedan cumplir con los requisitos europeos para los sistemas de inteligencia artificial de alta artificial, además de ayudar a los tejidos productivos españoles a desarrollar sistemas innovadores y confiables, anticipando un 2 de agosto».

Este entorno de prueba aumentará la tecnología responsable, lo que respeta los derechos y construye una sociedad consciente de riesgos tecnológicos, pero que aprovecha todas sus ventajas para superar los desafíos sociales y económicos actuales y futuros.