Grundwissen zur Künstlichen Intelligenz

1. Erkläre die Begriffe „Künstliche Intelligenz“, „Maschinelles Lernen“, „Neuronale Netzwerke“
2. Welche grundlegenden Prinzipien und Abläufe liegen der prozeduralen Programmierung, der objektorientierten Programmierung und neuronalen Netzwerken zugrunde, und worin unterscheiden sie sich? Erkläre an einem konkreten Beispiel.
3. Wie funktionieren Neuronale Netzwerke und Maschinelles Lernen konkret? Erkläre die Begriffe:
   1. Neuronen, Gewichte (weights), Bias (Schwellwert)
   2. Schichten (Layers)
   3. Kostenfunktion
   4. Backpropagation
   5. Aktivierungsfunktion (z.B. Sigmoid)
4. LLMs
   1. Erkläre grob, was ein LLM ist und wie es funktioniert
   2. Inwieweit kann man ein LLM als eine Mathematische Funktion bezeichnen?
   3. Was versteht man unter Pre-Training und RLHF (Reinforcement Learning from Human Feedback)?
   4. Warum brachte die Transformer-Architektur einen gewaltigen Vorteil gegenüber herkömmlichen Verfahren und worin besteht sie grob gesagt?
   5. Wie werden Wörter codiert? Was versteht man unter dem „Attention-Mechanismus“
5. Was ist der Unterschied zwischen generativer und prädiktiver KI?
6. Ein LLM gibt für ein und dieselbe Eingabe nicht immer dieselbe Ausgabe, ein Diffussionsmodell für die Bildgenerierung schon. Nimm zu dieser Aussage Stellung.
7. Warum sind GPU (Graphikkarten bzw. Graphikprozessoren) in der KI so wichtig?
8. Welche zwei Bedeutungen hat das Wort „Bias“ im Zusammenhang mit KI?
9. Gib ein persönliches kurzes Statement ab bezüglich der These „Durch KI werden die durch die Studenten eingereichgten Produkte immer besser, obwohl sie in mündlichen Prüfungen immer schlechter abschneiden.“
10. Was könnte unter den Begriffen „Skill Skipping“, „Kognitive Entlastung“ gemeint sein?
11. Nenne Bereiche, die in Zukunft durch den Einsatz von KI komplett verändert werden könnten. Erkläre kurz.
12. Nimm Stellung zu Problemen und ethischen Fragen, die durch KIs aufgeworfen werden.
    1. Dürfen KI-Modelle mithilfe von jeglichen Daten trainiert werden? (Urheberrecht)
    2. Dürfen KI-Systeme Entscheidungen selbst treffen (z.B. Verkehr)
    3. Welche Problematik stellen Deepfakes dar?

Neuronale Netzwerke: Deep Learning (3Blue1Brown)

Backpropagation (3Blue1Brown)

LLMs kurz erklärt (3Blue1Brown)