¿Por qué importa la gobernanza de la IA?
El uso de herramientas de IA puede crecer rápidamente dentro de una empresa. En muchos casos, distintas áreas comienzan a utilizarlas sin informar a tecnología, privacidad o legal.
Esto puede generar situaciones como:
- Ingresar nombres de clientes en herramientas públicas.
- Automatizar procesos con datos personales.
- Crear perfiles o recomendaciones mediante IA.
- Utilizar proveedores sin conocer cómo tratan la información.
- Tomar decisiones automatizadas sin revisión humana.
La gobernanza de IA permite identificar estos usos, evaluar sus riesgos y definir reglas comunes para toda la organización.
Las cinco preguntas inevitables
Antes de ampliar el uso de IA generativa, conviene responder cinco preguntas:
¿Cuántos usos de IA existen actualmente?
El primer paso es crear un inventario de herramientas, automatizaciones y proyectos activos.
¿Cuáles utilizan datos personales?
Es necesario identificar si se procesan nombres, correos, información laboral, financiera, sensible o de clientes.
¿Cuál es la base de licitud?
Cada tratamiento debe contar con una finalidad clara y una base que permita utilizar esos datos.
¿Podemos explicar las decisiones automatizadas?
Cuando un sistema influye en personas, la organización debe comprender sus criterios y mantener revisión humana.
¿Podemos detener el proceso si algo falla?
Todo flujo de IA debería contar con responsables y un mecanismo para suspenderlo rápidamente.
Algunos usos requieren mayor atención
Existen aplicaciones de IA generativa y protección de datos que pueden presentar riesgos más altos, especialmente cuando influyen en decisiones importantes.
Por ejemplo:
- Selección de personal mediante IA.
- Scoring financiero o de seguros.
- Atención automatizada que recibe datos personales.
- Análisis predictivo de clientes.
- Comunicaciones personalizadas a gran escala.
Estos casos requieren una evaluación previa, participación de los equipos de privacidad y controles para reducir errores o impactos sobre las personas.
Los proveedores también deben ser evaluados
Antes de contratar una plataforma de IA, la organización debe conocer cómo procesa la información.
Algunas preguntas relevantes son:
Ubicación
¿Dónde se almacenan los datos?
Entrenamiento
¿Los prompts se utilizan para entrenar otros modelos?
Conservación
¿Durante cuánto tiempo se conserva la información?
Derechos
¿Existen mecanismos para ejercer derechos?
Cierre
¿Qué ocurre con los datos cuando termina el contrato?
Estas respuestas ayudan a evaluar los riesgos asociados a los proveedores de inteligencia artificial y a las transferencias de datos.
¿Tu organización sabe cómo está utilizando la IA?
Prepararse para la Ley 21.719 requiere conocer los usos actuales de IA, definir responsables y establecer controles mínimos.
La guía IA generativa y datos personales: las cinco preguntas inevitables profundiza en el inventario de herramientas, la clasificación de riesgos, las políticas internas y las preguntas que deben realizarse a los proveedores.
Descarga la guía completa
Descarga la guía completa y revisa cómo fortalecer la gobernanza de IA y la protección de datos personales en tu organización.
Este contenido tiene fines informativos y no constituye asesoría legal.