análise · 10 de outubro de 2026 · 61:07
Como um modelo de linguagem funciona por dentro
Por trás daquela caixa de texto existe uma máquina que faz uma coisa só o tempo inteiro: prever o próximo pedacinho de texto. O vídeo percorre as três etapas que constroem um assistente, o pré-treinamento, o ajuste fino e o aprendizado por reforço, e termina dizendo que o modelo é uma ferramenta e que o resultado precisa ser conferido.
O que muda na prática
01Três etapas até o assistente
Construir um assistente como o Chat GPT acontece em três etapas, uma depois da outra, e cada etapa começa com o modelo que saiu da anterior: pré-treinamento, ajuste fino supervisionado e aprendizado por reforço.
02Pré-treinamento: a etapa mais cara
É quando o modelo lê uma quantidade enorme de texto da internet e aprende como a linguagem funciona. É a etapa mais cara de todas, de longe, e no fim dela sai o que se chama de modelo base.
03Ajuste fino: o modelo vira assistente
Nessa etapa o modelo para de ler a internet e passa a estudar conversas entre uma pessoa e um assistente escritas com cuidado, por anotadores contratados que seguem as instruções da empresa.
04Aprendizado por reforço: praticar
O modelo resolve o mesmo problema muitas vezes, algumas tentativas acertam e ele é treinado nas que deram certo. É daqui que saem os modelos que raciocinam antes de responder.
05Ele vê tokens, não letras
O texto vira uma fila de tokens e o modelo prevê o próximo. Por isso ele vai mal em tarefas que dependem das letras de uma palavra, como soletrar, e a saída é pedir para ele usar código.
06Alucinação e queijo suíço
Quando não sabe, o modelo imita o tom confiante das respostas de treino e dá o palpite estatisticamente mais provável. É o que a aula chama de inteligência de queijo suíço: boa em muita coisa, com buracos em lugares imprevisíveis.
07Use como ferramenta
A recomendação final é conferir o resultado, pedir para o modelo usar código quando tiver conta e assumir a responsabilidade pelo que você entrega.
Nas palavras dele
“É uma máquina que faz uma coisa só o tempo inteiro. Adivinha qual é o próximo pedacinho de texto?”
ouvir em 0:00
“A primeira se chama pré-treinamento. É quando o modelo lê uma quantidade enorme de texto da internet e aprende como a linguagem funciona.”
ouvir em 1:31
“O modelo não vê palavras como você vê. Ele vê uma fila de pedacinhos de texto, cada um com um número de identificação.”
ouvir em 5:37
“Treinar a rede é encontrar a posição certa de todos os botões para que as previsões batam com o texto real.”
ouvir em 10:55
“Você está conversando com uma simulação estatística de um anotador humano que segue as instruções escritas pela empresa.”
ouvir em 27:58
“É por isso que os assistentes escrevem a resolução passo a passo. Aqueles passos intermediários não são para você, são para o modelo.”
ouvir em 37:05
“Trate o modelo como uma ferramenta. Confira o resultado e não copie e cole sem olhar.”
ouvir em 39:33
Perguntas
O modelo aprende com a conversa que eu envio?
Não. Segundo o vídeo, o treinamento já acabou há muito tempo, os parâmetros estão congelados e tudo o que você vê na conversa é inferência.
Por que o modelo inventa informação?
Porque ele aprendeu que perguntas do tipo quem é fulano recebem respostas confiantes. Então imita o formato e dá o palpite estatisticamente mais provável, sem pesquisar nada.
Por que o modelo erra contas simples?
Porque, para gerar cada token, a informação passa pela rede uma vez e a resposta precisa caber nessa passada. O vídeo mostra o modelo errando com números maiores e acertando quando é liberado para resolver passo a passo.
O que fazer quando a tarefa depende das letras de uma palavra?
Pedir para o modelo usar código. Copiar a palavra para dentro de um programa é fácil e o programa manipula as letras sem erro.
Quer ir além do vídeo?
Continue por aqui
Este resumo foi escrito a partir da transcrição do vídeo. As citações são literais. Para o conteúdo completo, assista no YouTube.