Agentes y automatización Inteligencia artificial

El alma de los agentes de IA: qué separa su inteligencia de su identidad

Redacción LedSolEo

Cuando se habla de agentes de inteligencia artificial aparece una palabra inesperada: «alma». Suena a ciencia ficción, pero sirve para explicar algo concreto: una cosa es lo listo que es un sistema y otra, distinta, cómo se comporta y qué límites respeta. Vamos a separar esas dos ideas sin tecnicismos y sin misticismo.

Qué es un agente y en qué se diferencia de un chatbot

Un chatbot sencillo recibe una pregunta y devuelve una respuesta. Un agente va más allá: según la guía práctica de OpenAI, los agentes son sistemas que realizan tareas de forma independiente en nombre de quien los usa. Esa misma guía aclara que una aplicación que incluye un modelo de lenguaje, pero no lo usa para controlar el flujo de ejecución no es un agente.

Anthropic añade una distinción útil en «Building effective agents»: en un flujo de trabajo, el modelo y las herramientas siguen rutas de código predefinidas; en un agente, es el propio modelo quien dirige sus procesos y decide cómo usar las herramientas. IBM completa la idea: actuar exige «tool calling», es decir, que el modelo pueda llamar a herramientas externas. Si prefieres empezar por el principio, lo contamos en qué son los agentes de IA y en qué se diferencian de un chatbot.

La inteligencia: el modelo que comprende, razona y genera

En el núcleo de un agente hay un modelo de lenguaje: la parte que comprende lo que le pedimos, razona y genera respuestas. Cómo se llega hasta ahí lo explicamos en cómo funciona la IA generativa.

Un trabajo académico muy citado, ReAct, mostró que conviene intercalar razonamiento y acciones: así el modelo planifica, maneja excepciones y consulta fuentes externas, con menos alucinaciones en las tareas que probaron.

Pero la inteligencia, por sí sola, no dice cómo debe trabajar el agente. Es como saber conducir: estupendo, aunque no te indica por dónde ir. Un coche con un motor magnífico y sin nadie que decida el destino da vueltas con mucha elegancia.

El «alma»: una metáfora con letra pequeña

Aquí entra la metáfora. Llamamos «alma» a lo que da identidad operativa a un agente: su papel, su personalidad, sus instrucciones persistentes, sus criterios para decidir y sus límites. Es una explicación divulgativa de esta redacción, no un término técnico oficial. El mecanismo, en cambio, sí está documentado: el Cookbook de OpenAI explica que la personalidad de un agente se define en las instrucciones del sistema, y eso ayuda a controlar la extensión, la estructura y el estilo de decisión. Es una palanca operativa para ganar consistencia y reducir la deriva, no un adorno. Lo mismo ocurre al personalizar una IA con nuestras instrucciones y preferencias.

Conviene dejar algo muy claro: «alma» es una metáfora que se usa en determinados sistemas. No es un componente universal de la inteligencia artificial ni demuestra conciencia, sentimientos o vida propia. Un informe científico de Butlin y colaboradores evaluó sistemas de IA con indicadores de varias teorías de la conciencia y concluyó que ninguno de los actuales es consciente. Tener instrucciones bien escritas es una cosa; tener experiencia interior es otra.

Inteligencia, alma, memoria, herramientas y objetivos

Estas piezas se confunden a menudo, así que van por separado:

Inteligencia: el modelo que razona y genera respuestas.
Alma (identidad): las instrucciones persistentes que fijan papel, tono, criterios y límites.
Memoria: lo que el agente conserva de interacciones pasadas. La documentación de Claude la describe como una herramienta con almacenamiento propio del desarrollador (disco, base de datos o nube), distinta de la identidad.
Herramientas: funciones o servicios externos con los que el agente actúa.
Objetivos: lo que se quiere conseguir. IBM subraya que los objetivos y las reglas los fijan personas.

La guía de OpenAI resume el esqueleto en tres componentes: modelo, herramientas e instrucciones. La revisión académica de Wang y colaboradores propone un marco con perfil, memoria, planificación y acción. Anthropic, en su texto sobre ingeniería de contexto, recuerda que el modelo trabaja con una selección cuidada de instrucciones, herramientas y datos.

Diagrama de las capas de un agente de IA: el modelo aporta la inteligencia; la identidad, la memoria y las herramientas definen cómo trabaja; el objetivo lo pone la persona. — Las capas de un agente: el modelo aporta la inteligencia; la identidad, la memoria y las herramientas definen cómo trabaja.

Dos agentes con el mismo modelo, comportamientos distintos

Imaginemos dos agentes con exactamente el mismo modelo. A uno se le pide brevedad, pedir confirmación ante cualquier duda y no actuar sin permiso. Al otro, detalle, propuestas alternativas y avanzar por su cuenta en las tareas rutinarias.

Misma inteligencia de base, trabajo muy distinto. Es la diferencia entre el motor de un coche y el estilo de conducción: el motor es el mismo, pero uno llega descansado y el otro, con las marchas lloriqueando. Si además tienen memorias, herramientas u objetivos diferentes, la distancia crece.

Dos agentes que comparten el mismo modelo pero tienen instrucciones distintas: uno responde breve y pide permiso, el otro es detallado y actúa por su cuenta. — Mismo modelo, distintas instrucciones: dos formas de trabajar sin cambiar la inteligencia de base.

Qué ocurre si cambiamos el modelo y conservamos la identidad

Esta separación tiene una consecuencia práctica. La documentación de GitHub Copilot Chat indica que se puede cambiar de modelo durante una conversación, o regenerar una petición con otro modelo manteniendo el contexto completo. El SDK de agentes de OpenAI va en la misma línea: separa el agente del modelo que lo ejecuta y permite elegir uno u otro.

Eso no significa que el resultado sea idéntico. La propia guía de OpenAI recomienda empezar con el modelo más capaz como línea base y probar después modelos menores. La identidad se conserva en las instrucciones, pero la calidad de la ejecución depende del modelo.

Ejemplos cotidianos de agentes especializados

Asistente de programación: como Copilot Chat, que permite elegir el modelo que genera las respuestas en la misma conversación.
Agente con memoria: uno que guarda y recupera información entre sesiones mediante una herramienta de memoria.
Agente con revisión humana: según la guía de guardarraíles y revisión humana de OpenAI, puede pausar su flujo para pedir aprobación antes de una acción sensible y reanudarlo después. Lo detallamos en qué tareas puede hacer un agente de IA y en cómo operan cuando trabajan todo el día.
Agentes simulados: en Generative Agents, personajes de un entorno tipo videojuego que combinan memoria, planificación y reflexión para comportarse de forma creíble. Su credibilidad no implica conciencia.

Ventajas, limitaciones y riesgos de esta separación

Entre las ventajas están la consistencia, menos deriva en el comportamiento y la posibilidad de sustituir el modelo sin rehacer todo el agente. Las limitaciones existen: unas instrucciones no garantizan por sí solas un comportamiento perfecto y cambiar de modelo obliga a probar de nuevo. Y cuidado con el lenguaje: poner nombre y buenos modales a un agente no significa que haya alguien dentro tomándose un café.

Los riesgos son sobre todo prácticos:

Memoria: la documentación de Claude recomienda limitar el tamaño de los archivos y protegerse frente a rutas maliciosas.
Instrucciones: la guía de OpenAI contempla clasificadores de seguridad frente a intentos de fuga de instrucciones.
Acciones sensibles: conviene planificar la intervención humana ante acciones de alto riesgo o umbrales de fallo.
Permisos: lo tratamos en cómo dar permisos a un agente sin perder el control.

Posibilidades futuras (expectativa)

Lo que sigue es una expectativa, no un hecho confirmado. Podría ocurrir que los asistentes personales conserven sus preferencias y su forma de trabajar aunque cambie el modelo que los mueve. En el ámbito profesional, cabe esperar agentes con roles muy definidos, límites claros y revisión humana en los pasos críticos.

El informe de Butlin y colaboradores afirma, por su parte, que no ve barreras técnicas obvias para construir sistemas que cumplan los indicadores de conciencia que analiza. Es una declaración del propio informe, no una predicción de esta redacción, y hoy ningún sistema actual los cumple.