A medida que Santander amplía el uso de la Inteligencia Artificial (IA) en la atención al cliente, el desarrollo de software, las operaciones y la productividad interna, aumenta la necesidad de construir sistemas que hagan algo más que responder preguntas. Estos sistemas recuperan información, utilizan herramientas, toman decisiones, completan tareas e interactúan con otros sistemas. Esta evolución del chatbot al agente es uno de los avances más importantes en IA.
En este contexto, un agente es un sistema de IA capaz de decidir qué hacer a continuación, utilizar herramientas, evaluar los resultados y seguir trabajando para alcanzar un objetivo. Cuando se espera que un sistema actúe, en lugar de limitarse a generar texto, los retos de ingeniería también cambian. El foco deja de estar únicamente en el propio modelo y pasa a incluir el software que lo rodea y que le permite trabajar de manera segura y eficaz a lo largo de múltiples pasos. Una de las técnicas utilizadas para construir estos sistemas es lo que el equipo técnico denomina ‘Loop engineering’ o ingeniería de bucle.
Un sistema de control propio
Esto significa que la verdadera unidad de ingeniería no es la llamada al modelo en sí, sino el bucle que la rodea. En la práctica, este bucle está orquestado por lo que suele denominarse un harness: el conjunto de componentes que gestiona el estado, invoca herramientas, evalúa resultados, aplica límites y decide si el agente debe continuar, volver a intentarlo, escalar el caso a una persona o detenerse. En Santander hemos adoptado el término ‘Harness Engineering’ porque refleja bien este cambio. A medida que los sistemas de IA adquieren una mayor capacidad de actuación autónoma, gran parte del esfuerzo de ingeniería se desplaza desde el propio modelo hacia el harness que lo coordina.
En términos sencillos, el ciclo es el siguiente: observar, decidir, actuar, comprobar y repetir, y detenerse cuando corresponda.
state = observe()
while not done(state):
plan = model.decide(state) # choose the next action
result = act(plan) # a bounded, logged tool call
state = observe(result) # ground on real state, not just chat
if outside_limits(state):
halt() # stop and hand over to a human
El código es sencillo. La ingeniería no lo es. El comportamiento de un agente de IA depende menos del modelo situado en el centro del bucle que del harness que lo rodea. La fiabilidad, la seguridad, la gobernanza y el rendimiento surgen del diseño de ese sistema.
Decisiones de diseño
La primera decisión de diseño es clara: definir las condiciones de parada. Todo bucle necesita reglas explícitas que determinen cuándo debe detenerse, escalar el caso o transferirlo a una persona. También necesita límites en el número de iteraciones, para evitar costes innecesarios y acciones no deseadas que se prolonguen indefinidamente.
La segunda es el anclaje en información verificada. En lugar de razonar únicamente a partir del historial de la conversación, un agente debe volver a conectarse de manera periódica con fuentes de información contrastadas. Esto reduce el riesgo de que pequeños errores se acumulen y se conviertan en problemas mayores con el paso del tiempo.
La tercera es la evaluación. En cada etapa, el sistema debe ser capaz de determinar si ha completado la tarea, si necesita seguir trabajando o si la situación requiere intervención humana. Este paso de evaluación es, a menudo, lo que diferencia a un agente útil de otro que simplemente continúa funcionando sin realizar ningún progreso.
Por último, están los límites de acción. En un entorno regulado, no todas las acciones deben automatizarse. Algunas decisiones requieren escalado, aprobación o revisión. Un harness bien diseñado también define para qué puede utilizarse cada herramienta y distingue entre acciones que son únicamente de lectura, acciones reversibles y acciones que requieren una aprobación humana explícita. Estos límites no son una capa de control externa que se añade posteriormente. Forman parte del propio diseño del bucle.
Todas estas decisiones se apoyan en la observabilidad. Cada paso relevante se registra con el nivel de detalle adecuado, de manera que los resultados puedan reconstruirse, analizarse y auditarse cuando sea necesario, respetando al mismo tiempo los requisitos de gobernanza.
Desde esta perspectiva, el bucle más robusto suele ser también el más sencillo y acotado. Intentar realizar una tarea, comprobar el resultado de forma independiente, volver a intentarlo con un contexto nuevo si es necesario y detenerse cuando el progreso se estanca suele ofrecer mejores resultados que utilizar un único prompt cada vez más complejo.
Un ejemplo de ‘Loop Engineering’
Un ejemplo de este enfoque es Autoguardrails, uno de los proyectos de inteligencia artificial que Santander ha publicado como software de código abierto.
En lugar de depender únicamente de ajustes manuales de las políticas, Autoguardrails integra la mejora de las barreras de seguridad dentro de un bucle de evaluación. Una política candidata se prueba con un conjunto fijo de entradas tanto ordinarias como adversariales. Solo se conserva si mejora la protección sin reducir de forma significativa las respuestas legítimas. En caso contrario, se descarta.
En otras palabras, el bucle se convierte en el mecanismo de optimización: proponer un cambio, evaluarlo, medir el resultado, conservar lo que funciona y descartar lo que no.
La misma idea puede aplicarse mucho más allá de las barreras de seguridad. Ya sea para mejorar la seguridad, orquestar herramientas o completar un proceso de negocio, la inteligencia y la fiabilidad de un agente proceden del bucle y del harness que rodean al modelo, y no de un único prompt.
Relevancia
A medida que los sistemas de IA adquieren mayores capacidades, existe una tendencia natural a centrar la atención en el propio modelo. Los mejores modelos son importantes, pero la experiencia ha demostrado que la capacidad, por sí sola, no es suficiente. En la práctica, un agente solo es tan fiable como el bucle y el harness dentro de los que opera.
El trabajo de diseñar condiciones de parada, pasos de evaluación, vías de escalado, límites y mecanismos de observabilidad puede no ser la parte más visible de la inteligencia artificial. Sin embargo, suele ser lo que determina si se puede confiar en un sistema en un entorno de producción. Para los usuarios, todo esto debería ser invisible. No deberían tener que pensar en bucles, herramientas o evaluaciones. Simplemente deberían experimentar un sistema de inteligencia artificial que resulte útil, actúe con cautela y sepa pedir ayuda cuando sea necesario.
