Cursos › Engenharia de Software em IA Aplicada › Fundamentos de IA e LLMs para Programadores

Aula M01-A03 · 1:50

Como um LLM funciona: tokens, embeddings e attention

Versão interativa: avance com “Próximo” ou com as setas do teclado.

Tela cheia

Módulo 1 · aula 3 — tokens, embeddings e atenção

Objetivos

  • Explicar o caminho token → embedding → attention → próximo token
  • Relacionar a attention ao uso de contexto em ChatGPT, Gemini e outros

Tempo de estudo sugerido: 25 min. As legendas já aparecem no vídeo; a faixa “Português” do player serve a leitores de tela e buscas.

Créditos dos trechos de terceiros

  • 3Blue1Brown — “Transformers, the tech behind LLMs | Deep Learning Chapter 5” · trecho 02:02.00–02:09.50 · ver no YouTube
  • 3Blue1Brown — “Attention in transformers, step-by-step | Deep Learning Chapter 6” · trecho 02:00.10–02:06.20 · ver no YouTube
  • 3Blue1Brown — “Attention in transformers, step-by-step | Deep Learning Chapter 6” · trecho 10:10.70–10:16.80 · ver no YouTube
Feito com IA, revisado por gente. Roteiro, narração (voz sintética) e animações destes cursos são produzidos com inteligência artificial pelas skills abertas do course-forge no GitHub, com curadoria e revisão de Carlos Eduardo Lopes (L4Tec). Trechos curtos de vídeos de terceiros aparecem com crédito e link para o original.