
Language Models kompakt
Description
Alles über E-Books | Antworten auf Fragen rund um E-Books, Kopierschutz und Dateiformate finden Sie in unserem Info- & Hilfebereich.
More details
Other editions
Additional editions

Persons
Content
- Cover
- Stimmen zum Buch: Language Models kompakt
- Hinweise zur Benutzung
- Titel
- Impressum
- Widmung
- Inhalt
- Vorwort
- Einführung
- Für wen dieses Buch gedacht ist
- Was dieses Buch nicht ist
- Wie dieses Buch aufgebaut ist
- Beispiele und Wiki zum Buch
- Verwenden von Codebeispielen
- Danksagungen
- 1 Grundlagen des Machine Learning
- KI und Machine Learning
- Modelle
- Machine Learning - Prozess in vier Schritten Vektoren
- Neuronale Netze
- Matrizen
- Gradientenabstieg
- Automatisches Differenzieren
- 2 Grundlagen der Sprachmodellierung
- Bag-of-Words
- Wort-Embeddings
- Byte-Paar-Codierung
- Sprachmodelle
- Zählbasierte Sprachmodelle
- Sprachmodelle bewerten
- Perplexität
- ROUGE
- Menschliche Bewertung
- 3 Rekurrente neuronale Netze
- Elman-RNN
- Mini-Batch-Gradientenabstieg
- Ein RNN programmieren
- RNN als Sprachmodell
- Embedding-Schicht
- Ein RNN-Sprachmodell trainieren
- Die Klassen Dataset und DataLoader
- Trainingsdaten und Verlustberechnung
- 4 Transformer
- Decoder-Block
- Self-Attention
- Schritt 1 der Self-Attention
- Schritt 2 der Self-Attention
- Schritt 3 der Self-Attention
- Schritt 4 der Self-Attention
- Schritt 5 der Self-Attention
- Schritt 6 der Self-Attention
- Positionsbezogenes Multilayer Perceptron
- Rotary Position Embedding
- Multi-Head-Attention
- Residualverbindungen
- RMS-Normalisierung
- Schlüssel-Wert-Caching
- Transformer in Python
- 5 Große Sprachmodelle (LLMs)
- Warum größer besser ist
- Große Parameteranzahl
- Großer Kontextumfang
- Großer Trainingsdatensatz
- Großer Rechenaufwand
- Überwachtes Feintuning
- Ein vortrainiertes Modell feintunen
- Baseline für den Klassifizierer von Emotionen
- Emotionen erzeugen
- Feintuning zum Befolgen von Anweisungen
- Sampling von Sprachmodellen
- Einfaches Sampling mit Temperatur
- Top-k-Sampling
- Nucleus-(Top-p-)Sampling
- Strafen
- Low-rank Adaptation (LoRA)
- Die Kernidee
- Parametereffizientes Feintuning (PEFT)
- LLM als Klassifizierer
- Prompt Engineering
- Merkmale eines guten Prompts
- Folgeaktionen
- Codegenerierung
- Synchronisieren der Dokumentation
- Halluzinationen
- Gründe für Halluzinationen
- Halluzinationen verhindern
- LLMs, Urheberrecht und Ethik
- Trainingsdaten
- Generierte Inhalte
- Open-Weight-Modelle
- Allgemeine ethische Erwägungen
- 6 Fortgeschrittene Themen
- Mixture of Experts
- Model Merging
- Modellkomprimierung
- Präferenzbasierte Ausrichtung
- Advanced Reasoning
- Sicherheit von Sprachmodellen
- Vision Language Models
- Überanpassung verhindern
- Schlussbemerkungen
- Mehr vom Autor
- Fußnoten
- Index
- Über den Autor
System requirements
File format: PDF
Copy protection: Watermark-DRM (Digital Rights Management)
System requirements:
- Computer (Windows; MacOS X; Linux): Use the free software Adobe Reader, Adobe Digital Editions, or any other PDF viewer of your choice (see eBook Help).
- Tablet/Smartphone (Android; iOS): Install the free app Adobe Digital Editions or another reading app for eBooks, e.g., PocketBook (see eBook Help).
- E-reader: Bookeen, Kobo, Pocketbook, Sony, Tolino and many more (only limited: Kindle).
The file format PDF always displays a book page identically on any hardware. This makes PDF suitable for complex layouts such as those used in textbooks and reference books (images, tables, columns, footnotes). Unfortunately, on the small screens of e-readers or smartphones, PDFs are rather annoying, requiring too much scrolling.
This eBook uses Watermark-DRM, a „soft” copy protection. This means that there are no technical restrictions to prevent illegal distribution. However, there is a personalised watermark embedded in the eBook that can be used to identify the purchaser of the eBook in the event of misuse and to provide evidence for legal purposes.
For more information, see our eBook Help page.