Glossar
Die Begriffe, die im Handbuch vorkommen, in einem Satz erklärt.
- Lokale KI
- Ein Sprachmodell, das auf eigener Hardware läuft statt in der Cloud eines Anbieters. Die Daten verlassen dabei das eigene Netz nicht.
- Kapitel 1: Was lokale KI ist und wann sie sich lohntKapitel 2: Was deine Cloud-KI wirklich mitschicktKapitel 4: KI trotz Berufsgeheimnis und DSGVO
- Parameter
- Die Zahl im Modellnamen, etwa 12B für 12 Milliarden. Sie sagt, wie groß das Modell ist und wie viel Arbeitsspeicher es im Betrieb braucht.
- Kapitel 1: Was lokale KI ist und wann sie sich lohntKapitel 3: Welches Modell auf welchen Rechner passt
- Quantisierung
- Ein Verfahren, das die Zahlen im Modell gröber speichert. Das Modell wird deutlich kleiner und schneller, verliert dabei etwas Genauigkeit.
- Kapitel 3: Welches Modell auf welchen Rechner passt
- Sprachmodell (LLM)
- Ein Programm, das Text fortsetzt. Alles, was nach Verstehen aussieht, entsteht aus dieser einen Fähigkeit.
- Kapitel 1: Was lokale KI ist und wann sie sich lohntKapitel 3: Welches Modell auf welchen Rechner passt