Conjunto de posibilidades de pérdida o impacto negativo asociado a una actividad, proceso o decisión. En el contexto de AI Guardian Protocol, incluye riesgos financieros tradicionales, pero también riesgos tecnológicos y organizativos derivados de introducir modelos algorítmicos en la supervisión. Su gestión exige identificar escenarios, medir su probabilidad aproximada y definir respuestas prudentes.

Situación en la que un modelo de inteligencia artificial, por su diseño, datos de entrenamiento o uso práctico, introduce efectos indeseados. Puede generar alertas erróneas, dejar sin detectar ciertos casos o comportarse de manera desigual entre colectivos. Gestionar este riesgo implica revisar datos, reglas, procesos de validación y el propio papel que se asigna a la IA en la toma de decisiones.

Capacidad de reconstruir qué ha ocurrido en un sistema, qué decisiones se han tomado y por qué. En soluciones basadas en IA implica guardar no solo resultados, sino también contexto: datos relevantes, reglas aplicadas, versiones de modelos y revisiones humanas. Sin trazabilidad, resulta difícil responder a auditorías, explicar incidentes o mejorar de forma ordenada la configuración de un sistema de supervisión.

Conjunto de técnicas que permiten entender mejor cómo un modelo algorítmico ha llegado a una recomendación o alerta. Puede incluir la identificación de variables influyentes, ejemplos similares y niveles de confianza. La explicabilidad no siempre es perfecta, pero ayuda a que personas de riesgo y cumplimiento puedan cuestionar y validar las conclusiones del sistema en lugar de aceptarlas a ciegas.

Documentación estructurada que describe cómo se ha configurado un sistema de supervisión, qué reglas y modelos utiliza, y cómo se revisan sus resultados. Incluye registros de cambios, actas de comités, informes de pruebas y descripciones técnicas accesibles para auditores. Una buena gobernanza de modelos facilita entender la evolución del sistema y asignar responsabilidades claras.