Los datos mandan
Lección 6 de 23 del curso «Bases de IA». Gratis, con animaciones y un test.
Un modelo es sus datos
Los datos son los ejemplos con los que aprende un modelo: textos, fotos, registros. El modelo no recibe reglas hechas. Busca patrones en los ejemplos por su cuenta. Por ejemplo: quieres un filtro para los comentarios de tus videos. Le das 10 000 comentarios viejos y aprende a distinguir los tóxicos de los normales. Lo que estaba en los ejemplos, lo sabe hacer. Lo que no estaba, no lo conoce.
Etiquetas: las respuestas correctas
Para que el filtro entienda qué es un comentario tóxico, cada ejemplo necesita una etiqueta. Una etiqueta es la respuesta correcta que le puso una persona, como «tóxico» o «normal». El modelo aprende a repetir esas etiquetas. La trampa: las etiquetas las ponen personas, y las personas se equivocan. Si un comentario agresivo está marcado como «normal», el modelo aprende también ese error y luego lo repite.
Basura entra, basura sale
Los programadores tienen una regla: basura entra, basura sale. Un modelo no es más listo que sus datos. Etiquetas erróneas, duplicados, spam mezclado entre los ejemplos: todo eso lo absorbe y lo repite en sus respuestas. Y agregar más datos no sirve si también están mal. En resumen: un conjunto pequeño pero limpio suele servir más que uno enorme y sucio.
Datos sesgados, respuestas sesgadas
Si en los datos hay muchos más ejemplos de un tipo que de otro, el modelo repite ese desequilibrio. A esto se le llama sesgo, en inglés bias. Por ejemplo: tu filtro aprendió sobre todo con comentarios en inglés y deja pasar groserías en jerga local. Con los chatbots pasa igual: en internet hay más texto en inglés que en cualquier otro idioma, así que los modelos suelen responder mejor en inglés y ver el mundo con los ojos de los países angloparlantes.
Datos viejos, modelo viejo
Los datos se reúnen en algún momento, y después el mundo sigue cambiando sin el modelo. Al año aparece jerga nueva y tu filtro no la entiende: un insulto nuevo se le escapa. En los chatbots esto es la fecha de corte de conocimiento de la primera lección: de lo que pasó después, el modelo puede no saber nada. Conclusión: las tendencias, precios y noticias recientes revísalos en fuentes actuales.
Los datos son textos de alguien
En los datos de entrenamiento puede haber cosas personales: nombres, publicaciones, conversaciones que alguien dejó públicas. El modelo normalmente no las guarda palabra por palabra, pero a veces puede repetir un pedazo. Tus propios chats también pueden terminar en el entrenamiento. Muchas apps de chat te dejan desactivarlo en la configuración, revisa la tuya. Lo básico: no mandes al chat nada que no darías a un desconocido.
Ponte a prueba
- ¿Por qué un modelo repite un error que estaba en sus ejemplos?
Respuesta correcta: Aprende de los datos, errores incluidos. Basura entra, basura sale: una etiqueta errónea en los ejemplos se convierte en una respuesta errónea del modelo. - Un filtro de comentarios se entrenó casi solo con ejemplos en inglés. ¿Qué es lo más probable?
Respuesta correcta: Detectará peor las groserías en otros idiomas. Es sesgo en los datos: lo que aparece poco en los ejemplos, el modelo lo conoce peor. - ¿Qué es una etiqueta en los datos de entrenamiento?
Respuesta correcta: La respuesta correcta que una persona le puso a un ejemplo. La etiqueta le dice al modelo cuál es la respuesta correcta para ese ejemplo, como «tóxico» o «normal».
← Por qué las respuestas cambian cada vez Cómo se entrena un chatbot: 3 etapas →