Módulo 1 · aula 3 — tokens, embeddings e atenção
Objetivos
- Explicar o caminho token → embedding → attention → próximo token
- Relacionar a attention ao uso de contexto em ChatGPT, Gemini e outros
Tempo de estudo sugerido: 25 min. As legendas já aparecem no vídeo; a faixa “Português” do player serve a leitores de tela e buscas.
Créditos dos trechos de terceiros
- 3Blue1Brown — “Transformers, the tech behind LLMs | Deep Learning Chapter 5” · trecho 02:02.00–02:09.50 · ver no YouTube
- 3Blue1Brown — “Attention in transformers, step-by-step | Deep Learning Chapter 6” · trecho 02:00.10–02:06.20 · ver no YouTube
- 3Blue1Brown — “Attention in transformers, step-by-step | Deep Learning Chapter 6” · trecho 10:10.70–10:16.80 · ver no YouTube
Feito com IA, revisado por gente. Roteiro, narração (voz sintética) e animações destes cursos são produzidos com inteligência artificial pelas skills abertas do course-forge no GitHub, com curadoria e revisão de Carlos Eduardo Lopes (L4Tec). Trechos curtos de vídeos de terceiros aparecem com crédito e link para o original.