En talento humano, una recomendación automatizada puede afectar oportunidades reales. Por eso la eficiencia nunca es el único criterio. Antes de incorporar IA, defina qué decisión está en juego, quién conserva la autoridad y cómo puede una persona pedir explicación o corrección.
Siete preguntas de control
- ¿Qué datos se usarán y con qué autorización?
- ¿La herramienta infiere atributos que no necesitamos?
- ¿Quién revisa una recomendación antes de que produzca efectos?
- ¿Cómo se evalúan errores y diferencias entre grupos?
- ¿Qué información recibe la persona afectada?
- ¿Cómo puede controvertir o corregir el resultado?
- ¿Cuándo se elimina la información?
Un principio operativo
Mientras mayor sea el impacto de una decisión, menor debe ser la autonomía de la herramienta y mayor la trazabilidad de la revisión humana.