1. Erkläre die Begriffe „Künstliche Intelligenz“, „Maschinelles Lernen“, „Neuronale Netzwerke“
2. Welche grundlegenden Prinzipien und Abläufe liegen der prozeduralen Programmierung, der objektorientierten Programmierung und neuronalen Netzwerken zugrunde, und worin unterscheiden sie sich? Erkläre an einem konkreten Beispiel.
3. Wie funktionieren Neuronale Netzwerke und Maschinelles Lernen konkret? Erkläre die Begriffe:
   1. Neuronen, Gewichte (weights), Bias (Schwellwert)
   2. Schichten (Layers)
   3. Kostenfunktion
   4. Backpropagation
   5. Aktivierungsfunktion (z.B. Sigmoid)
4. LLMs
   1. Erkläre grob, was ein LLM ist und wie es funktioniert
   2. Inwieweit kann man ein LLM als eine Mathematische Funktion bezeichnen?
   3. Was versteht man unter Pre-Training und RLHF (Reinforcement Learning from Human Feedback)?
   4. Warum brachte die Transformer-Architektur einen gewaltigen Vorteil gegenüber herkömmlichen Verfahren und worin besteht sie grob gesagt?
   5. Wie werden Wörter codiert? Was versteht man unter dem „Attention-Mechanismus“

Neuronale Netzwerke: Deep Learning (3Blue1Brown)

Backpropagation (3Blue1Brown)

LLMs kurz erklärt (3Blue1Brown)

Stell dir vor, du schreibst „ein futuristisches Zürich bei Nacht“ – und eine KI erzeugt daraus in wenigen Sekunden ein realistisches Bild oder sogar ein Video.

Genau das machen moderne Bild- und Videogeneratoren.

Diese Seite erklärt, wie solche Systeme funktionieren – von den Grundbegriffen über die technischen Hintergründe bis zu den wichtigsten gesellschaftlichen Fragen.

Normale KI erkennt Dinge, zum Beispiel ob auf einem Bild eine Katze zu sehen ist. Generative KI geht einen Schritt weiter: Sie erzeugt neue Inhalte, die es vorher noch nicht gab.

Das Modell lernt aus sehr vielen Beispielen. Es erkennt dabei Muster – also wie typische Bilder, Texte oder Videos aussehen – und kann daraus neue Inhalte erzeugen, die ähnlich wirken.¹⁾

Bild- und Videogeneratoren gehören zu dieser Art von KI. Man gibt eine Beschreibung (den Prompt) ein und das Modell erzeugt daraus ein passendes Bild oder Video.

Ein guter Prompt beschreibt möglichst genau:

• Was im Bild zu sehen sein soll (Objekte, Personen, Ort)
• Wie es aussehen soll (Stil, Licht, Stimmung)
• Optional: Kameraeinstellung oder Perspektive

Damit ein Modell Bilder erzeugen kann, braucht es sehr viele Beispiele. Beim Training sieht es Millionen von Bildern zusammen mit passenden Textbeschreibungen.

So lernt das Modell, was Begriffe wie „Hund“ oder „Sonnenuntergang“ visuell bedeuten.²⁾

Ein neuronales Netz ist ein Computerprogramm, das grob vom menschlichen Gehirn inspiriert ist. Es besteht aus vielen kleinen Recheneinheiten, die miteinander verbunden sind.

Beim Training werden diese Verbindungen so angepasst, dass das Netz sinnvolle Ergebnisse erzeugt – in diesem Fall neue Bilder.³⁾

Transformer sind eine spezielle Art von neuronalen Netzen. Sie sind besonders gut darin, Zusammenhänge zu erkennen.

Ein Beispiel: Das Modell versteht, dass „sonnige Wiese“ bestimmte Farben, Lichtverhältnisse und Objekte bedeutet.

Der Mechanismus dahinter heisst Attention. Das Modell lernt dabei, welche Teile der Eingabe wichtig sind.⁴⁾

Viele Bildgeneratoren verwenden eine Struktur namens U-Net. Das Modell vereinfacht das Bild zuerst (Encoder) und baut es danach wieder auf (Decoder).

So kann es Bilder schrittweise verbessern und Details hinzufügen.⁵⁾

Ein VAE besteht aus zwei Teilen:

1. Encoder: Wandelt ein Bild in eine kompakte Darstellung (latenter Raum) um
2. Decoder: Baut aus dieser Darstellung wieder ein Bild auf

Dadurch muss das Modell nicht direkt mit Millionen von Pixeln rechnen, sondern mit einer kleineren, effizienteren Darstellung.⁶⁾

Diffusionsmodelle sind das Herz moderner Bildgeneratoren.

Die Idee kommt aus der Physik: Wenn sich ein Stoff verteilt (Diffusion), wird er mit der Zeit immer gleichmässiger.

Bei Bildern funktioniert das so:⁷⁾

1. Vorwärtsprozess: Ein Bild wird Schritt für Schritt verrauscht, bis nur noch Zufall übrig bleibt
2. Rückwärtsprozess: Das Modell lernt, dieses Rauschen wieder in ein sinnvolles Bild umzuwandeln
3. Anwendung: Man startet mit Rauschen und erzeugt daraus Schritt für Schritt ein Bild

Um Rechenleistung zu sparen, wird die Diffusion nicht direkt auf dem Bild durchgeführt, sondern im latenten Raum.

Das macht den Prozess deutlich schneller, ohne grosse Qualitätsverluste.⁸⁾

Der Prompt wird über Cross-Attention eingebunden, sodass das Modell weiss, welches Bild erzeugt werden soll.

Typischer Ablauf:

ControlNet erlaubt zusätzliche Kontrolle, z. B. über Formen oder Posen. Das Modell übernimmt die Struktur und kombiniert sie mit dem Stil aus dem Prompt.⁹⁾

Ein Video besteht aus vielen Bildern (Frames), die zusammenpassen müssen.

• Bewegung beschreiben
• Kamera angeben
• Szene einfach halten

• Kreativarbeit (Design, Werbung)
• Bildung
• Forschung
• Industrie
• Unterhaltung

Täuschend echte Fake-Inhalte können entstehen und zur Desinformation genutzt werden.

Rein KI-generierte Inhalte sind meist nicht geschützt. Die Rechtslage ist noch unklar.

Modelle übernehmen Verzerrungen aus den Trainingsdaten.

Training benötigt viel Energie.