Alucinaciones y privacidad
Lección 8 de 23 del curso «Bases de IA». Gratis, con animaciones y un test.
La IA puede inventar cosas
A veces el modelo inventa datos, cifras, citas e incluso enlaces a artículos que no existen. A esos inventos se les llama alucinaciones. Ejemplo: el modelo escribe «según un estudio de 2019…», pero el enlace no lleva a ningún lado porque el estudio lo inventó. Las alucinaciones se ven tan convincentes como la verdad. Cualquier modelo puede fallar así.
Por qué la IA inventa
El modelo no busca la verdad: elige una continuación creíble del texto. Si no tiene la respuesta exacta, igual escribe algo que parece una respuesta. Puede decir «no lo sé», pero no siempre lo hace. Los inventos aparecen sobre todo en datos poco comunes, cifras exactas, fechas, citas y enlaces. Justo ahí tienes que tener más cuidado.
Cómo verificar
Cifras, fechas, leyes, salud y dinero: verifícalos siempre. La fuente original es donde apareció el dato por primera vez: el sitio de un organismo oficial, el propio artículo científico o un documento oficial. Pide al modelo la fuente, abre tú el enlace y comprueba que diga lo mismo. ¿El enlace no abre o dice otra cosa? Entonces no puedes confiar en ese dato.
No compartas de más
No pegues en el chat contraseñas, números de tarjeta, frases semilla ni datos personales de otras personas. La frase semilla (seed) suele ser de 12 o 24 palabras y da acceso total a una billetera cripto. Todo lo que envías llega a los servidores de la empresa y puede quedar guardado. Ya no es solo tuyo. Regla simple: no escribas en el chat lo que no le mostrarías a un desconocido.
Si ya lo enviaste
Sin pánico, pero actúa rápido. ¿Enviaste una contraseña? Cámbiala ya y activa la verificación en dos pasos, o sea, entrar con un código de una app o SMS. ¿Número de tarjeta? Llama al banco y pide una tarjeta nueva. ¿Frase semilla? Crea una billetera nueva y pasa todo ahí; da la vieja por perdida. Borrar el chat ayuda, pero puede que ya exista una copia.
Ponte a prueba
- La IA te dio un enlace a un estudio. ¿Qué haces?
Respuesta correcta: Abrirlo y comprobar que dice lo mismo. Los enlaces también pueden ser inventados. Preguntarle al modelo no basta: puede confirmar con seguridad su propio invento. - ¿Qué es una alucinación de la IA?
Respuesta correcta: Un dato inventado presentado como verdad. El modelo elige lo que suena creíble, no necesariamente lo verdadero. Por eso los inventos parecen reales. - ¿Qué puedes pegar tranquilo en un chat con IA?
Respuesta correcta: Tus propios apuntes de historia para repasar. Tus apuntes de estudio, sí. Contraseñas, frases semilla, datos de tarjeta y datos de otras personas, no.
← Cómo se entrena un chatbot: 3 etapas Cómo saber si una IA es buena →