De leer su correo a comprar por usted: La U. de San Buenaventura propone un protocolo de 5 pasos para decidir hasta dónde darle permiso a una IA
De leer su correo a comprar por usted: La U. de San Buenaventura propone un protocolo de 5 pasos para decidir hasta dónde darle permiso a una IA
Compartir:
Diana Dorado
Redacción
22 de septiembre de 2026
Ante el auge de los agentes de Inteligencia Artificial capaces de ejecutar tareas autónomas como realizar compras o gestionar correos, el programa de Ingeniería de Sistemas de la Universidad de San Buenaventura (sede Bogotá) plantea pautas clave para evitar riesgos financieros y de privacidad.
El debate global sobre la autonomía de los modelos de IA —impulsado por alertas de investigadores ex-OpenAI y Anthropic, así como por los nuevos estándares de seguridad del NIST— evidencia que la tecnología ha pasado de responder preguntas a ejecutar acciones complejas. Ante este cambio de paradigma, la clave radica en aplicar el principio de "mínimo privilegio" y conservar la supervisión humana en decisiones críticas.
1. El protocolo de 5 pasos para gestionar la autonomía de la IA
La propuesta liderada por Sergio Cristancho, director del programa de Ingeniería de Sistemas de la Universidad de San Buenaventura, establece una regla fundamental: cuanto más difícil sea corregir una acción y mayor sea el daño potencial, menor autonomía debe recibir la herramienta.
|
Paso del Protocolo |
Pregunta de Control |
Acción Recomendada / Criterio |
|---|---|---|
|
1. Nivel de acceso |
¿Qué necesita ver realmente la IA? |
Limitar los permisos solo a la información indispensable (evitar dar acceso total a bandejas de entrada o archivos). |
|
2. Consulta vs. Acción |
¿La tarea es buscar o ejecutar? |
Separar la lectura de datos de acciones operativas (ej. preparar una compra no implica autorizar el pago). |
|
3. Impacto a terceros |
¿A quiénes puede afectar un error? |
Evaluar las consecuencias en clientes, familiares o estudiantes si el sistema alucina o falla. |
|
4. Reversibilidad |
¿Es posible deshacer la acción? |
Si un error no se puede revertir (ej. transferencias o borrado definitivo), restringir la autonomía. |
|
5. Confirmación humana |
¿La decisión es delicada? |
Mantener una aprobación humana explícita para compras, envíos confidenciales o cambios de permisos. |
2. Riesgos emergentes: Prompt Injection y la "fatiga de aprobación"
Además del control de permisos, el análisis advierte sobre dos vulnerabilidades críticas en el uso cotidiano de agentes de IA:
-
Inyección de Prompts (Prompt Injection): Archivos, correos o sitios web pueden incluir instrucciones ocultas diseñadas para engañar a la IA, logrando que ignore sus restricciones, filtre datos o ejecute acciones no solicitadas por el usuario.
-
Aprobación en automático: El hábito de aceptar confirmaciones sin leer invalida las medidas de seguridad. Antes de dar "aceptar", se debe verificar qué datos usará la herramienta, qué compartirá, quién los recibirá y cuál será la acción final.
“La inteligencia artificial puede informar y recomendar, pero la persona debe conservar la aprobación sobre las acciones sensibles”, enfatiza Sergio Cristancho. Asimismo, recomienda auditar y revocar las conexiones y permisos activos de IA al menos cada seis meses.