Agentes: IA que actúa
Lección 17 de 23 del curso «Bases de IA». Gratis, con animaciones y un test.
No solo responde, también actúa
Un chat normal escribe texto y lo demás lo haces tú. Un agente es un modelo al que le dieron herramientas, o sea, programas que puede usar por su cuenta: búsqueda, calculadora, ejecutar código, calendario. Ejemplo para toda la lección: «Busca un tren a la playa este fin de semana para los cuatro, calcula cuánto paga cada uno y agrega el viaje a mi calendario». El agente lo hace paso a paso.
Cómo el modelo usa una herramienta
Ejemplo: los boletos para cuatro cuestan 240 $. El modelo no aprieta botones por sí mismo: escribe una petición especial, «calculadora: 240 / 4». La app ejecuta la herramienta y devuelve el resultado al chat: 60. El modelo lo lee y escribe: «60 $ por persona». ¿Para qué? El modelo es flojo en cuentas exactas y datos recientes, y la calculadora y la búsqueda son confiables justo en eso.
El ciclo: piensa, actúa, mira
Un agente trabaja en ciclo. Piensa: qué hay que hacer ahora. Actúa: usa una herramienta. Mira el resultado. Decide: la tarea está lista o hace falta otra vuelta. Ejemplo: busca trenes para el sábado, ve que no hay boletos, decide buscar el domingo, encuentra uno, calcula el precio y agrega el viaje al calendario. Cada vuelta nueva se apoya en lo que el agente vio en la anterior.
Los errores se acumulan
La trampa es que cada paso se apoya en el anterior. Si el agente confunde dos ciudades con nombres parecidos, todo lo que sigue sale mal: precios, horarios, el evento del calendario. Ejemplo: si cada paso sale bien 9 de cada 10 veces, cinco pasos seguidos salen bien con probabilidad 0,9 × 0,9 × 0,9 × 0,9 × 0,9 ≈ 0,59, o sea, unas 6 de cada 10 veces. Por eso vigila los pasos y corrige sobre la marcha.
Reglas de seguridad para agentes
Dinero, mensajes, borrar cosas: solo después de tu «sí». Que el agente primero te muestre qué va a comprar o enviar, y tú confirmas. Dale permisos estrechos, o sea, acceso solo a lo que la tarea necesita. Ejemplo: el calendario sí, tu tarjeta bancaria y todo tu correo no. Los textos de las páginas que lee el agente también pueden ser trampas: de eso hablamos en la lección de seguridad.
Ponte a prueba
- ¿Qué es una herramienta para un agente de IA?
Respuesta correcta: Un programa que el modelo puede usar: búsqueda, calculadora, código. El modelo escribe una petición, la app ejecuta el programa y devuelve el resultado. Así el agente calcula exacto y consigue datos recientes. - ¿Por qué se acumulan los errores de un agente?
Respuesta correcta: Cada paso se apoya en el anterior y un error temprano sigue. Ejemplo: un paso sale bien 9 de cada 10 veces, pero cinco pasos seguidos salen bien solo unas 6 de cada 10. Por eso hay que revisar las tareas largas. - El agente encontró boletos y está listo para comprarlos. ¿Qué es lo correcto?
Respuesta correcta: Que te muestre la compra y tú la confirmes. Las acciones con dinero, mensajes y borrado solo las confirmas tú. Deshacer una compra después es más difícil que no hacerla.
← Imágenes, voz y video Seguridad: datos y prompt injection →