Generative KI mit Python

Materialien zum Buch ... 13

1. Vorwort ... 15

1.1 ... Zielsetzung des Buches ... 16

1.2 ... Zielgruppe ... 17

1.3 ... Was Sie schon wissen sollten ... 18

1.4 ... Struktur des Buches ... 18

1.5 ... Wie man dieses Buch effektiv nutzt ... 22

1.6 ... Code zum Herunterladen und weitere Materialien ... 23

1.7 ... Systemeinrichtung ... 23

1.8 ... Danksagung ... 30

1.9 ... Konventionen in diesem Buch ... 30

2. Einführung in die generative KI ... 33

2.1 ... Einführung in die künstliche Intelligenz ... 36

2.2 ... Die Säulen des Fortschritts in der generativen KI ... 40

2.3 ... Deep Learning ... 43

2.4 ... Schwache und allgemeine KI ... 46

2.5 ... Natural Language Processing (NLP) ... 49

2.6 ... Large Language Models (LLMs) ... 55

2.7 ... Use-Cases ... 57

2.8 ... Die Grenzen von LLMs ... 59

2.9 ... Large Multimodal Models (LMMs) ... 60

2.10 ... Generative KI-Anwendungen ... 62

2.11 ... Zusammenfassung ... 64

3. Vortrainierte Modelle ... 67

3.1 ... Was sind vortrainierte Modelle? ... 69

3.2 ... Hugging Face ... 69

3.3 ... Modellauswahl ... 70

3.4 ... Coding: Textzusammenfassung ... 71

3.5 ... Übung: Übersetzung ... 73

3.6 ... Coding: Zero-Shot-Klassifikation ... 74

3.7 ... Coding: Füllmaske ... 78

3.8 ... Coding: Frage-Antwort Modelle ... 79

3.9 ... Coding: Erkennung bekannter Entitäten (Named Entity Recognition) ... 81

3.10 ... Coding: Text-zu-Bild ... 83

3.11 ... Übung: Text-zu-Audio ... 85

3.12 ... Abschlussprojekt: Kunden-Feedback analysieren ... 86

3.13 ... Zusammenfassung ... 89

4. Large Language Models ... 91

4.1 ... Eine kurze Geschichte der Sprachmodelle ... 92

4.2 ... LLMs mithilfe von Python nutzen ... 93

4.3 ... Modellparameter ... 107

4.4 ... Modellauswahl ... 111

4.5 ... Messages ... 115

4.6 ... Prompt Templates ... 116

4.7 ... Chains ... 120

4.8 ... LLM-Schutz und -Sicherheit ... 135

4.9 ... Modellverbesserungen ... 143

4.10 ... Neue Trends ... 144

4.11 ... Zusammenfassung ... 151

5. Prompt Engineering ... 153

5.1 ... Prompting -- die Grundlagen ... 154

5.2 ... Coding: Few-Shot Prompting ... 163

5.3 ... Chain-of-Thought ... 166

5.4 ... Zero-Shot Chain-of-Thought ... 166

5.5 ... Coding: Self-Consistency Chain-of-Thought ... 167

5.6 ... Coding: Prompt-Chaining ... 171

5.7 ... Coding: Self-Feedback ... 173

5.8 ... Zusammenfassung ... 178

6. Vektordatenbanken ... 181

6.1 ... Einleitung ... 181

6.2 ... Der Data-Ingestion-Prozess ... 184

6.3 ... Dokumente importieren ... 185

6.4 ... Dokumente aufteilen ... 193

6.5 ... Einbettungen erstellen ... 209

6.6 ... Daten speichern ... 225

6.7 ... Daten abrufen ... 231

6.8 ... Abschlussprojekt ... 238

6.9 ... Zusammenfassung ... 251

7. Retrieval-Augmented Generation ... 253

7.1 ... Einleitung ... 254

7.2 ... Ein einfaches System zur Retrieval-Augmented Generation ... 258

7.3 ... Fortgeschrittene Techniken ... 265

7.4 ... Coding: Prompt-Caching ... 287

7.5 ... Evaluierung ... 293

7.6 ... Zusammenfassung ... 299

8. Agentensysteme ... 301

8.1 ... Einführung in KI-Agenten ... 302

8.2 ... Verfügbare Frameworks ... 304

8.3 ... Einfache Agentensysteme ... 306

8.4 ... Agenten-Framework: LangGraph ... 314

8.5 ... Agenten-Framework: AG2 ... 330

8.6 ... Agenten-Framework: CrewAI ... 346

8.7 ... Agenten-Framework: OpenAI Agents ... 374

8.8 ... Agenten-Framework: Pydantic AI ... 379

8.9 ... Überwachung von Agentensytemen ... 382

8.10 ... Zusammenfassung ... 388

9. Deployment ... 391

9.1 ... Die Anwendungsarchitektur ... 392

9.2 ... Die Deploymentstrategie ... 394

9.3 ... Entwicklung einer eigenständigen Anwendung ... 403

9.4 ... Deployment auf Heroku ... 410

9.5 ... Deployment auf Streamlit.io ... 419

9.6 ... Deployment auf Render ... 421

9.7 ... Zusammenfassung ... 424

10. Ausblick ... 427

10.1 ... Fortschritte in der Modellarchitektur ... 427

10.2 ... Limitierungen und Probleme von LLMs ... 428

10.3 ... Regulatorische Entwicklungen ... 434

10.4 ... Künstliche allgemeine Intelligenz und künstliche Super-Intelligenz ... 434

10.5 ... KI-Fähigkeiten in der nahen Zukunft ... 435

10.6 ... Hilfreiche Ressourcen ... 438

10.7 ... Zusammenfassung ... 439

Über den Autor ... 441

Index ... 443