IA Agéntica en Operaciones: ¿Quién controla al agente?

🎙️ Klustomer Insights – Episodio 23

Hasta hace poco, trabajar con inteligencia artificial era un proceso de consulta. Le preguntabas algo, te respondía, y tú decidías el siguiente paso. El humano siempre era el último filtro antes de que algo ocurriera en el mundo real.

Eso cambió. Los agentes de IA ya pueden planificar, ejecutar pasos, usar herramientas externas —APIs, bases de datos, sistemas de pago— y hacerlo de manera completamente autónoma. Ya no son asistentes. Son operadores.

Según Gartner, el 40% de las aplicaciones empresariales tendrán agentes específicos por tarea integrados antes de que termine 2026 — frente a menos del 5% en 2025. Una adopción que se multiplica por ocho en doce meses.

La pregunta que define este episodio es simple, pero la mayoría de las organizaciones todavía no se la ha hecho: ¿quién responde cuando el agente se equivoca?

Escucha el episodio completo

En este episodio debatimos desde posiciones opuestas — velocidad de adopción vs. control — sin respuestas cómodas, pero con un marco práctico que cualquier líder puede aplicar.

▶ Escuchar en Spotify

También disponible en Apple Podcasts, YouTube y TuneIn.

¿Qué hace diferente a un agente de IA?

Un chatbot tradicional te dice cómo hacer una reserva. Un agente de IA hace la reserva, verifica disponibilidad, procesa el pago y envía la confirmación — todo sin que nadie apriete un botón.

Esa diferencia parece pequeña, pero cambia por completo el tipo de riesgo al que se expone una organización. Cuando un humano comete un error operativo, existe un protocolo: hay un responsable, hay consecuencias, hay un proceso de corrección. Cuando un agente comete el mismo error, la pregunta de «a quién se llama» muchas veces no tiene respuesta.

El debate: velocidad vs. control

Uno de los hallazgos más relevantes que encontramos al investigar para este episodio viene del reporte State of AI Trust in 2026 de McKinsey: el score promedio de madurez en IA responsable subió a 2.3 sobre 5 en organizaciones globales. Hay progreso — pero solo 1 de cada 3 organizaciones tiene controles maduros de gobernanza específicos para agentes.

Dos de cada tres están operando sin red.

Gartner lo confirma en su Hype Cycle 2026 para IA Agéntica: la gobernanza y el control no son un freno a la innovación — son la condición para que esa innovación pueda escalar de forma sostenible.

El marco práctico: 4 niveles de control

El episodio propone un marco de cuatro dimensiones que cualquier organización puede usar como punto de partida — sin necesidad de un proyecto de seis meses:

Nivel 1 – Control de acceso (RBAC)
¿Qué puede hacer el agente y qué no? Aplica el principio de mínimo privilegio: un agente de cotizaciones no necesita acceso a nómina, y si lo tiene, es un riesgo innecesario.

Nivel 2 – Observabilidad
¿Puedes ver lo que está haciendo el agente en tiempo real? Logs con timestamp y contexto, alertas automáticas cuando opera fuera de los rangos esperados.

Nivel 3 – Human-in-the-loop (HITL)
No se trata de que un humano revise todo —eso elimina la eficiencia—, sino de definir umbrales de riesgo claros que activen revisión humana antes de ejecutar. El EU AI Act (Artículo 14) lo exige legalmente para sistemas de alto riesgo desde agosto 2026.

Nivel 4 – Soberanía de datos
¿Dónde se procesan los datos que usa el agente? Especialmente relevante en Latinoamérica, donde el marco regulatorio varía por país (LFPDPPP en México, LGPD en Brasil, Ley 1581 en Colombia).

El caso Klarna: «Fuimos demasiado lejos»

Klarna, la fintech sueca, apostó fuerte por agentes autónomos de IA para su servicio al cliente — llegando a reemplazar el equivalente a 700 agentes humanos. Durante un tiempo, los resultados parecían justificar la apuesta: ahorro de costos, mayor velocidad de respuesta.

Pero con el tiempo aparecieron más quejas de clientes y casos donde la falta de empatía y criterio humano dañó la experiencia. El propio CEO, Sebastian Siemiatkowski, lo reconoció públicamente: «fuimos demasiado lejos». Hoy, Klarna está recontratando personas para los casos donde el criterio humano es insustituible.

La lección no es que la tecnología falló. Es que el agente optimiza exactamente lo que le dices que optimice — y si no defines correctamente qué es «éxito», el agente será muy eficiente logrando lo equivocado.

Fuente: Fortune, «As Klarna flips from AI-first to hiring people again», mayo 2025

Las 3 preguntas que todo líder debe poder responder

Si lideras tecnología, datos o innovación en tu organización, estas son las tres preguntas centrales del episodio:

1. ¿Tienes un registro de qué decisiones puede tomar cada agente de manera autónoma y cuáles requieren aprobación humana?

2. ¿Sabes exactamente qué datos está procesando cada agente y bajo qué política de acceso?

3. Si un agente comete un error con consecuencias reales ahora mismo, ¿tienes claro a quién llamas y qué protocolo activas?

Si la respuesta a cualquiera de ellas es «no» o «más o menos» — ese es exactamente el trabajo pendiente antes de escalar.

Recurso descargable: Marco de Responsabilidad para Agentes de IA

Preparamos una plantilla de reflexión individual para líderes, organizada alrededor de los 4 niveles de control: 12 preguntas de diagnóstico, las 3 preguntas clave del episodio, y compromisos de acción a 30 días.

📥 Descargar el Marco de Responsabilidad para Agentes de IA

Recurso gratuito disponible en la sección K-Learning Free.

Fuentes consultadas

• McKinsey, State of AI Trust in 2026: Shifting to the Agentic Era (2026)
• Gartner, 2026 Hype Cycle for Agentic AI (2026)
• Gartner, 40% of Enterprise Apps Will Feature Task-Specific AI Agents by 2026 (agosto 2025)
• Fortune, As Klarna Flips From AI-First to Hiring People Again (mayo 2025)
• Gartner, Top Predictions for Data & Analytics 2026 (marzo 2026)

Sigue la conversación

Si este episodio te hizo pensar diferente sobre cómo está desplegando IA tu organización, compártelo con tu equipo de liderazgo — esta conversación se tiene que dar en las salas de juntas.

▶ Escuchar Episodio 23 en Spotify

Klustomer Insights es el podcast de referencia para líderes de datos, tecnología e innovación en Latinoamérica. Nuevos episodios cada dos semanas.