Grundkurs Theoretische Informatik

1. Einführung ... 15
1.1 ... Kompetenzen für die theoretische Arbeit ... 16
1.2 ... Themen der theoretischen Informatik ... 18
1.3 ... Anleitung fürs Buch ... 20
1.4 ... Danksagungen ... 21

2. Mathematische Notation ... 23
2.1 ... Logische Aussagen ... 24
2.2 ... Mengen ... 27
2.3 ... Relationen und Funktionen ... 32
2.4 ... Graphen ... 37
2.5 ... Unendlichkeiten und Abzählbarkeit ... 40
2.6 ... Beweistechniken ... 42
2.7 ... Aufgaben ... 57
2.8 ... Lösungen ... 58

TEIL I. Berechenbarkeit und formale Sprachen ... 65

3. Einführung in die Berechenbarkeitstheorie ... 67
3.1 ... Algorithmus ... 68
3.2 ... Zu viele Funktionen ... 69
3.3 ... Das Halteproblem ... 70
3.4 ... Kontrollfragen ... 72
3.5 ... Antworten ... 72

4. Problemtypen ... 73
4.1 ... Formalisierung von Problemen ... 73
4.2 ... Funktionen berechnen ... 75
4.3 ... Datencodierung ... 75
4.4 ... Sprachen entscheiden ... 78
4.5 ... Problemklassen der Berechenbarkeitstheorie ... 79
4.6 ... Aufgaben ... 82
4.7 ... Lösungen ... 83

5. Einführung in formale Sprachen ... 85
5.1 ... Definition ... 85
5.2 ... Die Chomsky-Hierarchie ... 88
5.3 ... Aufgaben ... 89
5.4 ... Lösungen ... 90

6. Reguläre Sprachen ... 91
6.1 ... Deterministische endliche Automaten ... 92
6.2 ... Nichtdeterministische endliche Automaten ... 103
6.3 ... Grammatiken ... 111
6.4 ... Reguläre Ausdrücke ... 120
6.5 ... Abschlusseigenschaften ... 127
6.6 ... Entscheidungsprobleme auf regulären Sprachen ... 132
6.7 ... Äquivalenzklassenzerlegung ... 134
6.8 ... Nichtreguläre Sprachen ... 139
6.9 ... Ausblick ... 144
6.10 ... Aufgaben ... 144
6.11 ... Lösungen ... 149

7. Kontextfreie Sprachen ... 161
7.1 ... Kontextfreie Grammatiken ... 162
7.2 ... Eindeutige Ableitungsbäume ... 164
7.3 ... Chomsky-Normalform ... 166
7.4 ... Exkurs: Kellerautomaten ... 170
7.5 ... Abschlusseigenschaften ... 175
7.6 ... Entscheidungsprobleme auf kontextfreien Sprachen ... 176
7.7 ... Nicht-kontextfreie Sprachen ... 181
7.8 ... Ausblick ... 183
7.9 ... Aufgaben ... 184
7.10 ... Lösungen ... 186

8. Kontextsensitive Sprachen ... 193
8.1 ... Kontextsensitive und monotone Grammatiken ... 194
8.2 ... Das Wortproblem auf kontextsensitiven Sprachen ... 195

9. Aufzählbare Sprachen ... 197
9.1 ... Turingmaschinen ... 199
9.2 ... While-Programme ... 202
9.3 ... Gödelnummern ... 218
9.4 ... Das universelle While-Programm ... 220
9.5 ... Das schrittbeschränkte universelle While-Programm ... 223
9.6 ... Diagonalisierung und min-Suche ... 224
9.7 ... Prädikate für semi-entscheidbare Sprachen ... 226
9.8 ... Semi-Entscheidbarkeit vs. Aufzählbarkeit ... 227
9.9 ... Das S-m-n-Theorem ... 228
9.10 ... Das kleenesche Rekursionstheorem ... 230
9.11 ... Weitere Modelle und Charakterisierungen ... 233
9.12 ... Aufgaben ... 233
9.13 ... Lösungen ... 235

10. Nicht Berechenbares ... 241
10.1 ... Beweise mit KRT ... 243
10.2 ... Der Satz von Rice ... 244
10.3 ... Reduktionen ... 246
10.4 ... RE-Vollständigkeit ... 250
10.5 ... Ausblick: Die arithmetische Hierarchie ... 251
10.6 ... Aufgaben ... 252
10.7 ... Lösungen ... 254

TEIL II. Algorithmik ... 259

11. Einführung in Algorithmik ... 261

12. Obere Schranken für Laufzeiten ... 263
12.1 ... Das Maschinenmodell ... 264
12.2 ... Die Laufzeit eines Algorithmus ... 267
12.3 ... Die Größe einer Eingabe ... 268
12.4 ... Die Landau-Notation ... 268
12.5 ... Aufgaben ... 271
12.6 ... Lösungen ... 272

13. Laufzeiten von Datenstrukturen ... 275
13.1 ... Arrays ... 275
13.2 ... Listen ... 277
13.3 ... Verschachtelte Datenstrukturen und Graphen ... 279
13.4 ... Aufgaben ... 281
13.5 ... Lösungen ... 282

14. Brute-Force-Algorithmen ... 285
14.1 ... Lineare Suche ... 286
14.2 ... Backtracking/Tiefensuche ... 288
14.3 ... Aufgaben ... 292
14.4 ... Lösungen ... 293

15. Greedy-Algorithmen ... 295
15.1 ... Beweis mit Austauschargument ... 296
15.2 ... Greedy stays ahead ... 302
15.3 ... Aufgaben ... 304
15.4 ... Lösungen ... 306

16. Divide and Conquer ... 313
16.1 ... Mergesort ... 314
16.2 ... Binäre Suche ... 319
16.3 ... Multiplikation großer Zahlen ... 321
16.4 ... Das Mastertheorem ... 325
16.5 ... Ausblick ... 326
16.6 ... Aufgaben ... 327
16.7 ... Lösungen ... 329

17. Dynamische Programmierung ... 335
17.1 ... Fibonacci-Zahlen ... 336
17.2 ... Rückgeld geben ... 337
17.3 ... Der Algorithmus von Dijkstra ... 341
17.4 ... Aufgaben ... 344
17.5 ... Lösungen ... 346

18. Amortisierte Analyse ... 351
18.1 ... Dynamische Arrays ... 351
18.2 ... Guthabenmethode ... 353
18.3 ... Ausblick ... 353

TEIL III. Komplexitätstheorie ... 355

19. Einführung in die Komplexitätstheorie ... 357
19.1 ... Die Komplexität eines Problems ... 358
19.2 ... Bedingte Schranken ... 358
19.3 ... Auswege für schwierige Probleme ... 359

20. Beweistechniken für untere Schranken ... 361
20.1 ... Die Ausgabegröße ... 362
20.2 ... Das informationstheoretische Argument ... 363
20.3 ... Das Adversary-Argument ... 367
20.4 ... Reduktionen ... 370
20.5 ... Aufgaben ... 372
20.6 ... Lösungen ... 374

21. P vs. NP: Bedingte untere Schranken ... 377
21.1 ... Die Komplexitätsklasse P ... 378
21.2 ... Die Komplexitätsklasse NP ... 380
21.3 ... Polynomialzeitreduktionen ... 388
21.4 ... NP-schwere und NP-vollständige Probleme ... 392
21.5 ... Ausblick: Mehr NP-vollständige Probleme ... 404
21.6 ... Aufgaben ... 405
21.7 ... Lösungen ... 406

22. Ausblick: Parametrisierte Analyse ... 408

Index ... 410