NTT DATA: la confianza, el gran reto para la adopción de la IA autónoma

Transparencia y gobernanza como pilares

La inteligencia artificial ya no solo asiste: ahora recomienda, decide y ejecuta acciones con impacto directo en organizaciones, infraestructuras críticas y la vida cotidiana. En este escenario, NTT DATA reunió a periodistas, líderes de opinión y especialistas en una nueva edición de The Future Uncovered (TFU) para debatir cuál será el principal desafío de esta nueva etapa: construir confianza.

El encuentro se alineó con la tendencia “Intelligence We Trust”, identificada en el informe NTT DATA Foresight 2026, que plantea que la confianza será uno de los principales habilitadores para la adopción de la IA en los próximos años.

El desafío: decisiones críticas bajo IA

A medida que los sistemas de IA adquieren mayor autonomía, la pregunta deja de ser qué pueden hacer y pasa a ser cómo garantizar que sus decisiones sean confiables, transparentes y gobernadas de forma responsable.

La necesidad de fortalecer esa confianza se intensifica en un contexto donde el cibercrimen también incorpora IA para aumentar la velocidad y sofisticación de sus ataques:

• Reconocimiento automatizado de vulnerabilidades.

• Campañas de phishing personalizadas.

• Producción de deepfakes.

• Escalamiento de ataques de ingeniería social.

Ciberseguridad: proteger la toma de decisiones

“La IA dejó de ser una herramienta que simplemente responde preguntas. Cada vez más recomienda, decide e influye, y cuanto mayor sea esa influencia, mayor será nuestra exigencia de transparencia”, señaló María Pilar Torres Bruna, directora de Ciberseguridad de NTT DATA para Iberia y Latinoamérica.

La ciberseguridad deberá evolucionar hacia la protección de la propia toma de decisiones de la IA, garantizando:

• Integridad de los modelos.

• Identidad de los agentes inteligentes.

• Trazabilidad de las acciones.

• Gobernanza de ecosistemas multi-organizacionales.

Confianza como condición de adopción

Así como hoy investigamos a un médico o aerolínea antes de confiar en ellos, en el futuro también querremos saber quién desarrolló una IA, cómo fue entrenada y qué garantías ofrece antes de delegarle decisiones críticas.

La confianza será el factor que determine si las organizaciones adoptan o no sistemas autónomos, y dependerá de la capacidad de ofrecer transparencia, explicabilidad y gobernanza sólida.

Hacia modelos responsables y confiables

Con iniciativas como The Future Uncovered, NTT DATA impulsa espacios de análisis sobre las tendencias que marcarán el futuro de la tecnología, promoviendo un diálogo abierto sobre la necesidad de desarrollar modelos de IA responsables, seguros y confiables.