Adoptar herramientas de inteligencia artificial sin conocer qué datos utilizan, quién las configura o qué decisiones apoyan complica la gestión de riesgos. La gobernanza no es un documento que se guarda en una carpeta: es una forma verificable de asignar responsabilidades y revisar los sistemas.
Conviene adaptar las medidas al caso de uso, los datos y las obligaciones jurídicas aplicables, evitando tratar todas las herramientas como si tuvieran el mismo alcance.
Primer paso: inventariar los usos reales
- Sistema, proveedor, versión y finalidad declarada.
- Equipo responsable y personas usuarias.
- Tipo de datos, origen, destinatarios y retención.
- Acciones que el sistema puede ejecutar.
- Dependencias, límites, revisión y plan de retirada.
Incluye las herramientas contratadas directamente por equipos y las funcionalidades de IA incorporadas en aplicaciones ya existentes.
Asignar responsables y niveles de supervisión
| Función | Responsabilidad orientativa |
|---|---|
| Negocio o servicio | Define la finalidad y acepta el proceso. |
| Tecnología | Diseña controles, integraciones y continuidad. |
| Protección de datos y seguridad | Evalúa los tratamientos y riesgos de su ámbito. |
| Personas usuarias | Escalan errores y siguen las instrucciones de uso. |
| Dirección | Aprueba prioridades y revisa incidencias significativas. |
La intervención humana debe ser posible y eficaz, no limitarse a una casilla de aprobación automática.
Marco normativo y evaluación proporcionada
El Reglamento (UE) 2024/1689 sobre inteligencia artificial establece obligaciones diferentes según los usos, las funciones de cada operador y el calendario aplicable. La evaluación jurídica debe atender al sistema concreto.
Cuando existen datos personales, también hay que analizar las obligaciones del RGPD, contratos con proveedores, transferencias y medidas de seguridad. La documentación técnica no sustituye la valoración especializada.
De la política a la operación diaria
- Definir casos de uso autorizados y prácticas que requieren consulta previa.
- Probar resultados con datos representativos antes del despliegue.
- Registrar incidencias relevantes y mantener vías de respuesta manual.
- Revisar cambios del modelo, proveedor, permisos y fuentes de datos.
- Formar al personal según tareas y responsabilidades.
Podemos acompañar el diseño desde gobernanza de IA y formación en inteligencia artificial.
Del conocimiento al proceso
Ordenar el uso de la IA antes de ampliarlo
Ayudamos a inventariar herramientas, documentar controles y establecer una revisión técnica proporcionada.
Hablar de gobernanza ↗
