⚙️ Unter der Haube
Attention
Der Mechanismus, mit dem ein Modell für jedes Token gewichtet, welche anderen Tokens im Kontext gerade relevant sind.
💭 Stell dir vor …
Im Satz „Die Katze jagte die Maus, weil sie hungrig war“ fragt sich das Modell: Wer ist „sie“? Attention gewichtet „Katze“ stark.
🔎 Beispiel
Beim Übersetzen schaut das Modell für jedes Wort auf die passenden Stellen im Ausgangstext.
🎯 Warum das wichtig ist
Erklärt, warum Modelle lange Zusammenhänge verstehen und warum der Rechenaufwand mit der Kontextlänge stark wächst.
🎓 Lieber Schritt für Schritt?
Der Kurs KI-Kompetenz: 6 kurze Module mit Quiz, in rund 60 Minuten zur soliden Basis.