La IA en las empresas no necesita parecer humana para transformar procesos: basta con que tenga autonomía, acceso y supervisión mal diseñada. Ahí empieza el verdadero reto.
En algún punto de la empresa, una cámara detecta una anomalía. Un agente de Inteligencia Artificial (IA) revisa el inventario, otro consulta el ERP, uno más abre un ticket, otro notifica a mantenimiento y otro prepara un reporte para dirección. No es una novela de Asimov, pero sí es la ciencia ficción alcanzando a la realidad; una realidad, de hecho, que suena bastante bien: menos fricción, menos captura manual, menos correos eternos y más operación conectada. Sin embargo, sí tenemos que formularnos una pregunta, ¿quién está viendo todo en el radar?
Recientemente, se habla mucho (y cada vez más) de la IA como si fuera un asistente aplicado. Empezamos pidiéndole que redactara, resumiera, tradujera o analizara información. Era poderosa, pero estaba relativamente contenida en una conversación. Pero todo ha evolucionado de manera vertiginosa, pues con la llegada de los agentes de IA no solo responden, ahora ejecutan. Consultan sistemas, interpretan imágenes, detonan flujos, generan órdenes, validan documentos y toman decisiones pequeñas que, sumadas, pueden mover procesos completos.
Aquí es donde sistemas como Open Cloud Claw se convierten, más que en una arquitectura, en parte del ambiente operativo. Una empresa real no vive en una sola aplicación, sino que transita entre soluciones de ERP, CRM, MES, WMS, bases de datos, hojas de cálculo, sensores, cámaras, sistemas heredados, nube pública, nube privada y servidores locales que nadie se atreve a apagar. Si los agentes van a operar en serio, necesitan moverse entre todo eso. Necesitan rutas abiertas, interoperabilidad y acceso controlado.
Pero abrir rutas no debería significar dejar el cielo sin torre de control.
La analogía del controlador aéreo ayuda más que la vieja imagen del robot. Recientemente hablaba de SkyNet con esa imagen cinematográfica (tan presente en nuestras mentes) del Terminator caminando con ojos rojos y cara de pocos amigos. Pero el robot era solo la postal, pues lo importante era el sistema; es decir, una red conectada, autónoma, con capacidad de decisión y acceso a infraestructura crítica. El riesgo no estaba en que pareciera humano, sino en que podía actuar sin suficiente supervisión humana.
La versión empresarial es menos dramática, pero sí es cercana. Tal vez no se trate de robots tomando pasillos corporativos, pero sí son agentes automatizando compras, reembolsos, mantenimiento, inventarios, atención al cliente, crédito, cobranza o seguridad. En esta nueva historia digna de otro largometraje, el riesgo no es que el agente “quiera” algo, sino que lo optimice mal; es decir, que reduzca costos donde no debía, que acelere un proceso que requería revisión, que convierta una excepción en regla porque el patrón parecía correcto o que escale un error porque tenía demasiados permisos.
Por eso el concepto de Human on the loop se vuelve clave. No significa que una persona revise cada clic de la IA, porque entonces mataríamos el valor de la automatización. Lo que quiere decir es que el sistema puede operar, pero bajo observación, límites y capacidad de intervención. El humano no pilotea cada avión; mira el radar, define rutas, autoriza maniobras delicadas y puede ordenar aterrizar cuando algo se sale de control.
Estoy convencido de que uno de los grandes retos de TI es diseñar agentes que vuelen, pero dentro de un espacio aéreo gobernado. Bajo este “espacio aéreo”, un elemento orquestar como Open Cloud Claw o LangGraph puede abrir las rutas, los agentes pueden ejecutar y los datos pueden alimentar mejores decisiones; pero la supervisión debe estar diseñada desde el inicio, no añadida cuando aparece el primer incidente.
Entonces, el dilema de la IA no tiene que ver con la idea de que reemplazará al humano. Es claro que esa discusión se está quedando corta. La interrogante más útil es ¿en qué parte del proceso debe estar el humano para que la automatización sea poderosa sin volverse ciega?
El futuro de la IA empresarial tendrá muchos agentes en el aire, pero lo importante, será que nosotros no quitemos la vista del radar.
Add a Comment