Adopción de la IA
La adopción regulada de la inteligencia artificial requiere catalogar sistemas, evaluar proveedores y asegurar la gobernanza ética a lo largo de todo su ciclo de vida.
Niveles de riesgo
El Reglamento Europeo de Inteligencia Artificial (RIA) estructura los requisitos técnicos en cuatro niveles según el impacto en la seguridad y los derechos fundamentales.
- Riesgo mínimo o nulo
Herramientas de productividad y filtros antispam sin impacto sobre derechos; permitidos sin obligaciones reglamentarias.
- Riesgo limitado (obligaciones de transparencia)
Asistentes conversacionales y generación de contenidos; obligan a advertir al usuario y marcar el material sintético.
- Alto riesgo (sistemas críticos SAR)
Sistemas de evaluación crediticia, selección de personal o sanidad; exigen evaluación de conformidad previa y marcado CE.
- Riesgo inaceptable (prácticas prohibidas)
Prácticas prohibidas como manipulación subliminal, categorización biométrica indebida o puntuación social discriminatoria.
Supervisión humana
La supervisión humana de la IA exige explicabilidad comprensible, autoridad de parada y registro inmutable de cada decisión profesional.
- Explicabilidad activa e inteligible
La aplicación expone el nivel de confianza y los factores clave de la inferencia para que el usuario comprenda el resultado.
- Capacidad real de anulación (override)
El analista dispone de formación y autoridad técnica para pausar, anular o corregir la recomendación del modelo.
- Registro inmutable de supervisión
Bitácora auditable donde se asienta la intervención humana, los datos adicionales evaluados y la justificación técnica.
- Prevención del sesgo de automatización
Protocolos operativos y formación para evitar que los revisores acepten automáticamente los resultados por exceso de confianza.