Table of Contents
La IA autónoma está dejando atrás la etapa en la que simplemente respondía preguntas o ayudaba a ejecutar tareas. Ahora comienza a recomendar, decidir y actuar con impacto directo en las organizaciones, las infraestructuras críticas y la vida cotidiana. Y mientras aumenta su capacidad para tomar decisiones, aparece una pregunta cada vez más difícil de ignorar: ¿qué necesitamos para confiar en una inteligencia artificial que puede actuar por sí sola?
Ese fue precisamente el eje de la nueva edición de The Future Uncovered (TFU), iniciativa impulsada por NTT DATA, que reunió a periodistas, líderes de opinión y especialistas para analizar uno de los grandes retos de la próxima etapa tecnológica: construir confianza alrededor de sistemas de inteligencia artificial cada vez más autónomos.
El debate cobra especial relevancia porque el avance de la inteligencia artificial generativa y de los sistemas capaces de ejecutar acciones por cuenta propia está cambiando la relación entre personas, empresas y tecnología.
IA autónoma: de responder preguntas a tomar decisiones
Durante años, buena parte de la conversación sobre inteligencia artificial estuvo centrada en lo que estas tecnologías podían hacer para asistir a las personas. Hoy el escenario está cambiando.
La pregunta ya no es únicamente qué puede hacer una IA, sino cómo garantizar que sus decisiones sean confiables, transparentes y gobernadas de manera responsable.
Esta evolución está alineada con la tendencia denominada Intelligence We Trust, identificada en el informe NTT DATA Foresight 2026, que plantea que la confianza será uno de los principales habilitadores para la adopción de la inteligencia artificial durante los próximos años.
En otras palabras, cuanto mayor sea la autonomía y la influencia de estos sistemas, mayor será también la exigencia de las personas y las organizaciones para entender cómo funcionan, qué información utilizan y por qué toman determinadas decisiones.
Transparencia y gobernanza: las nuevas condiciones para confiar
María Pilar Torres Bruna, directora de Ciberseguridad de NTT DATA para Iberia y Latinoamérica (en la foto), explicó que esta transformación obliga a replantear los modelos tradicionales de protección.
La IA dejó de ser una herramienta que simplemente responde preguntas. Cada vez más recomienda, decide e influye, y cuanto mayor sea esa influencia, mayor será nuestra exigencia de transparencia.
La frase resume uno de los grandes desafíos de esta nueva generación de sistemas inteligentes: la explicabilidad de la IA.
No basta con que una máquina entregue un resultado. Cuando esa decisión puede afectar a una persona, una empresa o una infraestructura crítica, será necesario conocer bajo qué criterios llegó a esa conclusión y quién responde por sus consecuencias.
Por eso, conceptos como gobernanza de la IA, transparencia y trazabilidad dejan de ser asuntos exclusivamente técnicos para convertirse en elementos centrales de la transformación digital.
El otro lado de la moneda: el cibercrimen también utiliza IA
La necesidad de fortalecer la confianza no aparece en el vacío. Mientras las organizaciones buscan aprovechar la inteligencia artificial, los actores maliciosos también están incorporando estas capacidades para aumentar la velocidad y sofisticación de sus ataques.
Según el informe CTI – Ciberinteligencia de Amenazas, Primer Semestre 2026, los ciberdelincuentes ya utilizan IA para automatizar el reconocimiento de vulnerabilidades, generar campañas de phishing altamente personalizadas, producir deepfakes y escalar ataques de ingeniería social con mayor eficacia.
Esto plantea un escenario especialmente complejo: la misma tecnología que puede ayudar a mejorar procesos, analizar información o automatizar decisiones también puede utilizarse para encontrar vulnerabilidades y desarrollar ataques más sofisticados.
Por eso, la ciberseguridad tendrá que evolucionar al mismo ritmo que la autonomía de los sistemas de IA.
Proteger la decisión, no solamente la infraestructura
Uno de los cambios más importantes que plantea este escenario consiste en ampliar el concepto tradicional de protección.
Hasta ahora, buena parte de las estrategias de ciberseguridad se han concentrado en aplicaciones, redes, dispositivos e infraestructuras. Con sistemas autónomos tomando cada vez más decisiones, será necesario proteger también el proceso mediante el cual la inteligencia artificial decide y actúa.
En este contexto aparecen varios elementos críticos:
- La integridad de los modelos de inteligencia artificial.
- La identidad de los agentes inteligentes.
- La trazabilidad de sus acciones.
- La transparencia sobre cómo se toman las decisiones.
- La gobernanza de ecosistemas donde interactúan múltiples organizaciones.
- Las garantías de seguridad y responsabilidad asociadas a estos sistemas.
El desafío es especialmente relevante cuando diferentes agentes inteligentes comiencen a interactuar entre sí y a ejecutar procesos que antes requerían intervención humana.
¿Confiarías en una IA sin saber quién la creó?
Torres Bruna planteó una comparación que ayuda a dimensionar el cambio que se avecina.
Así como hoy investigamos a un médico o a una aerolínea antes de ponernos en sus manos, en el futuro también queremos saber quién desarrolló una IA, cómo fue su entrenada y qué garantías ofrece antes de confiarle una decisión importante.
La analogía apunta a una transformación fundamental: la reputación y la confianza podrían convertirse en atributos tan importantes para una IA como lo son hoy para determinados profesionales, empresas o servicios.
A medida que estos sistemas pasen de sugerir a ejecutar, las personas necesitarán nuevos mecanismos para evaluar si una IA merece confianza o no.
Y ahí aparece una cuestión que va mucho más allá de la tecnología: ¿quién establece las reglas?, ¿quién supervisa al sistema?, ¿quién responde cuando una decisión automatizada sale mal?
El futuro de la IA también será una cuestión de confianza
Con iniciativas como The Future Uncovered, NTT DATA busca generar espacios de análisis y reflexión alrededor de las tendencias que marcarán el futuro tecnológico, promoviendo el diálogo sobre los desafíos que plantea la inteligencia artificial.
El mensaje que deja este encuentro es claro: la autonomía por sí sola no garantiza progreso.
Una inteligencia artificial capaz de actuar sin intervención humana puede ser extremadamente poderosa, pero su verdadero valor dependerá de que las personas puedan comprenderla, supervisarla y confiar razonablemente en sus decisiones.
El futuro no parece apuntar a elegir entre humanos o máquinas. El reto será construir una relación en la que la tecnología pueda asumir mayores responsabilidades sin que la sociedad tenga que renunciar a la transparencia, la seguridad y la capacidad de cuestionar sus decisiones.
Porque cuando una IA solo recomienda, podemos ignorarla. Cuando empieza a decidir, necesitamos razones para confiar en ella.
🌎 Punto de encuentro
