IA na vida real: o modelo envelhece
Aula 19 de 23 do curso “Básico de IA”. Grátis, com animações e teste.
O modelo é uma foto do passado
Exemplo: um app de banco tem um filtro que pega SMS de golpe. Ele foi treinado com mensagens antigas marcadas como “golpe” ou “normal”. Rótulo é a resposta certa de um exemplo, colocada por uma pessoa. O filtro aprendeu só o que estava nesses dados. Se um rótulo estava errado, ele repete o erro. Se um tipo de golpe não estava nos dados, ele não sabe nada sobre isso.
O mundo muda e a qualidade cai
Passa um ano. Os golpistas inventam algo novo: “trampo extra, curta vídeos e ganhe dinheiro”. Mensagens assim não estavam no treinamento, e o filtro deixa passar. Isso é deriva de dados: com o tempo, os dados reais ficam cada vez mais diferentes dos usados no treino. O modelo não estragou sozinho; o mundo andou. Gírias, preços e tendências envelhecem do mesmo jeito, e as respostas do modelo junto.
Monitorar e atualizar
Por isso um modelo dentro de um produto é monitorado. Monitoramento é a equipe acompanhar quantos golpes passaram e quantas reclamações chegaram. A qualidade caiu? Juntam exemplos novos com rótulos e retreinam o modelo, ou seja, treinam de novo, agora com dados novos. No gráfico, é o salto para cima. Com chatbots é parecido: saem versões novas porque o conhecimento das antigas fica velho.
Humano no circuito e o botão de feedback
Humano no circuito é um esquema em que uma pessoa de verdade revisa as decisões importantes ou duvidosas da IA. Por exemplo, bloquear um cartão ou negar um empréstimo. Seu botão “não é spam” ou “resposta ruim” também faz parte do circuito. Esse feedback vira novos rótulos para testar e treinar. Um clique não muda o modelo na hora, mas até a próxima atualização ajuda a corrigir os erros dele.
IA responsável
A IA responsável se apoia em três coisas. Justiça: se nos dados há poucas pessoas com certo sotaque ou cor de pele, o modelo vai funcionar pior justamente para elas. Privacidade: os dados pessoais dos usuários são protegidos e não são repassados. Transparência: as pessoas sabem que falam com um bot e podem saber por que ele decidiu algo. A regra: se uma IA decidiu algo importante sobre você, peça que uma pessoa revise.
Teste-se
- O que é deriva de dados?
Resposta certa: Os dados reais se afastam com o tempo dos dados de treino. O modelo não estraga sozinho. O mundo muda: golpes novos, gírias, preços, e o treino antigo deixa de combinar. - Por que o filtro de golpes deixou passar um golpe novo?
Resposta certa: Não havia exemplos assim nos dados de treino. O modelo só sabe o que estava nos dados dele. Vai pegar o golpe novo só depois de ser retreinado com exemplos recentes. - Para que apertar “não é spam” ou “resposta ruim”?
Resposta certa: O feedback vira novos rótulos para testar e treinar. O feedback é coletado e usado para achar erros e retreinar o modelo. O efeito aparece na próxima atualização, não na hora.
← Segurança: dados e prompt injection Onde a IA ajuda de verdade →