Os dados decidem tudo
Aula 6 de 23 do curso “Básico de IA”. Grátis, com animações e teste.
Um modelo é os seus dados
Dados são os exemplos com que um modelo aprende: textos, fotos, registros. O modelo não recebe regras prontas. Ele encontra padrões nos exemplos sozinho. Por exemplo: você quer um filtro para os comentários dos seus vídeos. Você dá a ele 10 mil comentários antigos, e ele aprende a separar os tóxicos dos normais. O que estava nos exemplos, ele sabe fazer. O que não estava, ele não conhece.
Rótulos: as respostas certas
Para o filtro entender o que é um comentário tóxico, cada exemplo precisa de um rótulo. Rótulo é a resposta certa que uma pessoa colocou, tipo “tóxico” ou “normal”. O modelo aprende a repetir esses rótulos. A pegadinha: quem coloca os rótulos são pessoas, e pessoas erram. Se um comentário agressivo foi marcado como “normal”, o modelo aprende esse erro também e depois repete.
Lixo entra, lixo sai
Programadores têm uma regra: lixo entra, lixo sai. Um modelo não é mais esperto que os seus dados. Rótulos errados, duplicatas, spam misturado nos exemplos: ele absorve tudo isso e repete nas respostas. E só jogar mais dados não resolve se eles também estiverem bagunçados. Resumindo: um conjunto pequeno e limpo muitas vezes vale mais que um enorme e sujo.
Dados enviesados, respostas enviesadas
Se os dados têm muito mais exemplos de um tipo do que de outro, o modelo repete esse desequilíbrio. Isso se chama viés, em inglês bias. Por exemplo: seu filtro aprendeu quase só com comentários em inglês e deixa passar grosseria em gíria brasileira. Com chatbots é igual: a internet tem mais texto em inglês do que em qualquer outra língua, então os modelos costumam responder melhor em inglês e ver o mundo pelos olhos dos países de língua inglesa.
Dados velhos, modelo velho
Os dados são coletados em algum momento, e depois o mundo continua mudando sem o modelo. Um ano depois surge gíria nova, e seu filtro não entende: um xingamento novo passa direto. Nos chatbots isso é a data de corte do conhecimento da primeira lição: sobre o que aconteceu depois dela, o modelo pode não saber nada. Conclusão: tendências, preços e notícias recentes, confira em fontes atualizadas.
Dados são textos de alguém
Nos dados de treinamento pode ter coisa pessoal: nomes, posts, conversas que alguém deixou públicas. O modelo normalmente não guarda isso palavra por palavra, mas às vezes pode repetir um trecho. Suas próprias conversas também podem ir para o treinamento. Muitos apps de chat deixam você desligar isso nas configurações, confira o seu. O básico: não mande no chat nada que você não entregaria a um estranho.
Teste-se
- Por que um modelo repete um erro que estava nos exemplos dele?
Resposta certa: Ele aprende com os dados, inclusive os erros. Lixo entra, lixo sai: um rótulo errado nos exemplos vira uma resposta errada do modelo. - Um filtro de comentários foi treinado quase só com exemplos em inglês. O que é mais provável?
Resposta certa: Ele vai pegar pior a grosseria em outras línguas. É viés nos dados: o que aparece pouco nos exemplos, o modelo conhece pior. - O que é um rótulo nos dados de treinamento?
Resposta certa: A resposta certa que uma pessoa colocou num exemplo. O rótulo diz ao modelo qual é a resposta certa para aquele exemplo, tipo “tóxico” ou “normal”.
← Por que as respostas mudam toda vez Como um chatbot é treinado: 3 etapas →