IA en la vida real: el modelo envejece
Lección 19 de 23 del curso «Bases de IA». Gratis, con animaciones y un test.
El modelo: una foto del pasado
Ejemplo: una app de banco tiene un filtro que detecta SMS de estafa. Lo entrenaron con mensajes viejos etiquetados como «estafa» o «normal». Una etiqueta es la respuesta correcta de un ejemplo, puesta por una persona. El filtro aprendió solo lo que había en esos datos. Si una etiqueta estaba mal, repite el error. Si un tipo de estafa no estaba en los datos, no sabe nada de él.
El mundo cambia y la calidad baja
Pasa un año. Los estafadores inventan algo nuevo: «trabajo extra, dale like a videos y gana dinero». Mensajes así no estaban en el entrenamiento, y el filtro los deja pasar. Esto es la deriva de datos: con el tiempo, los datos reales se parecen cada vez menos a los del entrenamiento. El modelo no se dañó solo; el mundo siguió adelante. Igual envejecen la jerga, los precios y las modas, y con ellos las respuestas del modelo.
Vigilar y actualizar
Por eso a un modelo dentro de un producto se le vigila. Eso se llama monitoreo: el equipo revisa cuántas estafas se colaron y cuántas quejas llegaron. ¿Bajó la calidad? Juntan ejemplos nuevos con etiquetas y reentrenan el modelo, es decir, lo vuelven a entrenar con datos nuevos. En la gráfica es el salto hacia arriba. Con los chatbots pasa algo parecido: salen versiones nuevas porque el conocimiento de las viejas se queda atrás.
Humano en el ciclo y el botón de opinión
Humano en el ciclo es un esquema donde una persona real revisa las decisiones importantes o dudosas de la IA. Por ejemplo, bloquear una tarjeta o negar un préstamo. Tu botón «no es spam» o «mala respuesta» también es parte del ciclo. Esas opiniones se vuelven nuevas etiquetas para probar y entrenar. Un clic no cambia el modelo al instante, pero para la próxima actualización ayuda a corregir sus errores.
IA responsable
La IA responsable se apoya en tres cosas. Justicia: si en los datos hay pocas personas con cierto acento o color de piel, el modelo funcionará peor justo para ellas. Privacidad: los datos personales de los usuarios se protegen y no se reparten. Transparencia: la gente sabe que habla con un bot y puede saber por qué decidió algo. La regla: si una IA decidió algo importante sobre ti, pide que lo revise una persona.
Ponte a prueba
- ¿Qué es la deriva de datos?
Respuesta correcta: Los datos reales se alejan con el tiempo de los del entrenamiento. El modelo no se daña solo. Cambia el mundo: nuevas estafas, jerga, precios, y el entrenamiento viejo deja de encajar. - ¿Por qué el filtro de estafas dejó pasar un nuevo tipo de estafa?
Respuesta correcta: No había ejemplos así en los datos de entrenamiento. El modelo solo sabe lo que había en sus datos. Detectará la estafa nueva solo cuando lo reentrenen con ejemplos recientes. - ¿Para qué pulsar «no es spam» o «mala respuesta»?
Respuesta correcta: Las opiniones se vuelven nuevas etiquetas para probar y entrenar. Las opiniones se juntan y se usan para encontrar errores y reentrenar el modelo. El efecto se ve en la próxima actualización, no al instante.
← Seguridad: datos y prompt injection Dónde la IA ayuda de verdad →