Alucinações e privacidade
Aula 8 de 23 do curso “Básico de IA”. Grátis, com animações e teste.
A IA pode inventar coisas
Às vezes o modelo inventa fatos, números, citações e até links para artigos que não existem. Essas invenções se chamam alucinações. Exemplo: o modelo escreve “segundo um estudo de 2019…”, mas o link não leva a lugar nenhum, porque ele inventou o estudo. Alucinações parecem tão convincentes quanto a verdade. Qualquer modelo pode errar assim.
Por que a IA inventa
O modelo não procura a verdade: ele escolhe uma continuação plausível do texto. Se não tem a resposta exata, mesmo assim escreve algo com cara de resposta. Ele pode dizer “não sei”, mas nem sempre diz. As invenções aparecem mais em fatos raros, números exatos, datas, citações e links. É justamente aí que você precisa de mais atenção.
Como conferir
Números, datas, leis, saúde e dinheiro: confira sempre. A fonte original é onde o fato apareceu primeiro: o site de um órgão oficial, o próprio artigo científico ou um documento oficial. Peça a fonte ao modelo, abra o link você mesmo e veja se diz a mesma coisa. O link não abre ou diz outra coisa? Então não dá para confiar nesse fato.
Não compartilhe demais
Não cole no chat senhas, números de cartão, seed phrases nem dados pessoais de outras pessoas. A seed phrase costuma ter 12 ou 24 palavras e dá acesso total a uma carteira cripto. Tudo o que você manda vai para os servidores da empresa e pode ficar guardado lá. Já não é só seu. Regra simples: não escreva no chat o que você não mostraria a um desconhecido.
Se você já enviou
Sem pânico, mas aja rápido. Mandou uma senha? Troque na hora e ative a verificação em duas etapas, ou seja, login com código de um app ou SMS. Número do cartão? Ligue para o banco e peça outro cartão. Seed phrase? Crie uma carteira nova e passe tudo para lá; considere a antiga perdida. Apagar o chat ajuda, mas uma cópia pode já ter sido salva.
Teste-se
- A IA te deu um link para um estudo. E agora?
Resposta certa: Abrir e conferir se diz a mesma coisa. Links também podem ser inventados. Perguntar ao modelo não basta: ele pode confirmar com confiança a própria invenção. - O que é uma alucinação de IA?
Resposta certa: Um fato inventado apresentado como verdade. O modelo escolhe o que parece plausível, não necessariamente o que é verdade. Por isso as invenções parecem reais. - O que dá para colar tranquilo num chat com IA?
Resposta certa: Suas anotações de história para revisar. Suas anotações de estudo, pode. Senhas, seed phrases, dados de cartão e dados de outras pessoas ficam fora do chat.
← Como um chatbot é treinado: 3 etapas Como saber se uma IA é boa →