El riesgo que nadie ha asumido ante la implementación de la IA

Una empresa del sector financiero ha desplegado un modelo de IA para evaluar solicitudes de crédito. Seis meses de proyecto. Equipo comprometido. Lanzamiento celebrado.

Pero, nadie se ha preguntado: ¿cómo respondemos ante una auditoría si algo sale mal?

No por negligencia. Sino porque esa pregunta todavía no tiene dueño en la mayoría de las organizaciones y empresas españolas. La 

IA ya está en tu organización. La gobernanza, probablemente, no

Quienes llevan años gestionando riesgo, regulación y cambio en sus sectores reconocen este momento: es cuando la tecnología avanza más rápido que los marcos para gobernarla.

Ya ha ocurrido con la digitalización. Con el GDPR. Ahora ocurre con la IA, y la escala es mayor.

El AI Act europeo ya está en vigor. Establece obligaciones concretas sobre transparencia, auditoría y responsabilidad. No es una recomendación. Es regulación con consecuencias.

La pregunta no es si tu organización usa IA. Casi seguro que sí. La pregunta es quién tiene la responsabilidad de garantizar que ese uso es seguro, explicable y conforme a la ley.

Tres preguntas que vale la pena hacerse hoy

¿Puede tu organización explicar cómo toma decisiones un sistema de IA ante una auditoría externa?

¿Sabes si alguno de tus modelos introduce sesgos en decisiones que afectan a clientes o empleados?

¿Tienes documentado el nivel de riesgo de tus sistemas según el AI Act?

Si alguna respuesta es no, o no lo sé, no estás solo. La mayoría de las organizaciones están exactamente en ese punto. La diferencia está en quién decide abordarlo ahora.

La próxima vez que tu banco te deniegue un préstamo, o que no te llamen para una entrevista, puede que no haya sido una persona quien tomó esa decisión. Puede que haya sido un modelo entrenado con datos que no te representan. 

Entender de regulación, de gestión del cambio, de estructuras organizativas, de cómo se toman decisiones reales en empresas reales: eso no se aprende en un curso de IA generativa.

Lo que falta en muchas organizaciones no es tecnología. Es criterio para gobernarla. Y ese criterio lo tienen personas con trayectoria, si se les da el marco adecuado.  

El momento es ahora. Y no porque vayas tarde

La IA ya está incidiendo en decisiones de contratación, promoción y evaluación del talento. Los sesgos en esos sistemas son reales y documentados. Los profesionales senior son uno de los colectivos más afectados: algoritmos entrenados con datos históricos que perpetúan sesgos por experiencia sin que nadie lo haya decidido explícitamente, y sin que nadie en la organización sepa cómo auditarlo.