Ethik, Bias und Verwantwortung im Bezug zu KI

Dies ist eine alte Version des Dokuments!

Seit dem Aufstieg von KI hat sich Vieles verändert. Viele Arbeiten, die vorher Stunden gedauert hätten, können nun innert Sekunden vervollständigt werden. Auch die Zugänglichkeit hat sich verbessert, denn nun können auch Menschen, die vorher nicht singen oder zeichnen konnten, ihre eigenen Lieder und Bilder erstellen. Ein Film oder eine Serie, die aufgehört hat, können nun von den Fans selbst mithilfe von Videomodellen fortgeführt werden. Interaktive Games können immersiver als je zuvor sein, Daten werden schneller analysiert, medizinische Probleme können früher diagnostiziert werden, Übersetzungen werden genauer.
Doch KI bringt nicht nur Positives mit sich. Viele dieser Funktionen sind nur möglich, in dem viele Leute ausgebeutet und Urheberrechte verletzt werden. Diese Aspekte werden oft vergessen oder ignoriert, weil KI sehr praktisch und nützlich ist. Dennoch muss man sich bewusst sein, was die Nutzung von KI mit sich bringt.

1.1.1 Folgen für die Umwelt

Damit KI reibungslos funktionieren kann, müssen verschiedenste Dinge getan werden. Nicht nur benötigt KI eine stetige Stromzufuhr, sie benötigt auch Wasserzufuhr, damit die Prozessoren abgekühlt werden können. Diese beiden Aspekte sind nicht nur problematisch für die Menschen, die in der Nähe der Data Centers leben, sondern auch für den Planeten im allgemeinen und somit für die Menschheit insgesammt.

Abb. 1: Wasser aus einem Bach in der Nähe eines Data Centers.

Die meisten Data Centers global gesehen befinden sich in den USA, wobei viele dieser Data Centers sich in Staaten wie Virginia befinden. Jährlich benutzen auf KI abgestimmte Data Centers zwischen 56 und 73 TWh. Dieser hohe Stromverbrauch kann sehr belastend sein für die Bewohner um diese Data Centers herum, da diese durch diesen Stromverbrauch höhere Stromkosten erleiden und erhöte Lebenskosten haben. Auch der Wasserkonsum ist verheerend. Eine Studie besagt, dass der globale Wasserkonsum von Data Centers um die 6.4 Billionen Liter beträgt. Auch dies führt dazu, dass Lebenskosten erhöht werden. Zudem führen die Data Centers auch dazu, dass das Grundwasser an Qualität verloren hat. Sedimente und Verfärbungen sind im Wasser zu erkennen, was nicht nur den sicheren Konsum von Wasser infrage stellt, sondern auch zu Leitungsproblemen führen kann und die generelle Lebensqualität von vielen Menschen negativ beeinflusst.
Doch die lokalen Probleme des Stromverbrauchs sind nicht die einzigen und bei weitem nicht die tragensten. Viele der Data Centers wurden in Staaten erbaut, die noch grösstenteils von Kohlekraftwerken abhängig sind. Dadurch ist der Stromverbrauch von KI nicht 'sauber' und trägt jährlich signifikant zum Klimawandel bei. Genaue Daten zur exakten Menge sind nicht bekannt, da KI-Firmen dies generell nicht veröffentlichen.

1.1.2 Data Workers

Abb. 2: Content-Moderator, der in Kenia über seine Arbeit redet

„I looked at people being slaughtered, people engaging in sexual activity with animals, people abusing children, physically, sexually, people committing suicide. […] 8 hours a day, 40 hours a week.“¹⁾

Ein weiterer Aspekt der nötig ist, damit KI funktioniert, sind Menschen, die Trainingsdaten labeln, sortieren und markieren. Die Arbeitsumstände dabei sind häufig nicht menschlich. Die Arbeit von Data Workers wird nicht in Amerika getan sondern wird outsourct in 3. Welt Länder wie z.B Kenia. Dort arbeiten die Leute entweder für weniger als 2 USD in der Stunde, oder werden pro Aufgabe bezahlt, die sie beenden. Diese Löhne sind extrem klein und können so niedrig wie 0.0004 USD sein. Diese Data Workers werden jedoch nie von den KI-Firmen direkt angestellt. Stattdessen werden die Jobaustellungen und Bewerbungen von einem Vermittler getätigt. Viele Arbeiter, die bei einem dieser Vermittler, Scale AI und deren Webseite Remotasks, arbeiten, haben gesagt, dass sie häufig gar nicht erst bezahlt wurden, sondern dass ihr Account ein Tag vor dem Tag, an dem sie Lohn bekommen würden, blockiert wurde, da sie anscheinend gegen die Richtlinien verstossen haben.

Ausserdem müssen diese Data Workers dazu sorgen, dass die KI weiss, was angemessen und nicht angemessen ist und müssen deshalb stundenlang und tagelang extrem explizites Material ansehen, labeln und sortieren. Arbeiterinnen berichten, dass 70% von Videos, die sie bearbeiten müssen extreme Gewalt oder physikalische und sexuelle Mishandlung gegenüber Kindern und Tieren enthalten.

“One video left an impact like no other. […] „It was about a mother who had killed her baby. […] There was a naked woman who was the mother. She had a child, and the mother was chopping the child into pieces“” ²⁾

Viele der Arbeiter entwickelten dadurch Depressionen, Angststörungen oder PTSS. Die Firmen behaupten, dass sie den Arbeiterinnen psychologische Begleitung bieten. Diese ist jedoch stark begrenzt, bei manchen Firmen sind die Data Workers nur erlaubt 30 Minuten pro Monat psychologische Hilfe zu beanspruchen und viele sagen, dass das Personal häufig nicht qualifiziert ist, um ihnen zuverlässig zu helfen. Die Arbeitsbedingungen sind auch sehr instabil und Firmen können ohne Vorwarnung Arbeiterinnen feuern. Zudem wurden viele dieser Stellen als „Call Center Agents“ oder Übersetzer ausgeschrieben, die aber dann in Wirklichkeit das Beschriften und Sortieren von explizitem Material waren.

1.2.1 Deepfakes

Im digitalen Zeitalter ist das Problem von Misinformation stets sehr wichtig. Schon bevor KI so weit verbreitet war wie heute, wurde Misinformation verwendet um grossflächig und strategisch gegen Rohingyas in Myanmar vorzugehen, sie zu verletzen, töten und zu vertreiben. Seither wurde KI eingeführt und stets verbessert. Bilder und Videos, die kaum von der Realität zu unterscheiden sind, können von jeder Person beliebig erstellt werden. Politische Propaganda, Fake News, Hatespeech, Pornographie, all diese Elemente können von KI innert Sekunden erstellt werden und schlimme Folgen haben. Nicht nur kann schnell sehr viel Misinformation verbreitet werden, sie wird auch immer glaubwürdiger. So werden Leuten Dinge unterschoben, die nicht wahr sind und deren Leben signifikant ändern können.
Mit Grok auf X ist es möglich jedes Bild, das gepostet wird zu verändern und so ist es auch möglich, Grok zu sagen, dass Leute, häufig Frauen oder sogar minderjährige Mädchen, ohne Kleidung, in pornographischen Positionen dargestellt werden sollen und die betroffenen Personen auf den Fotos können nichts dagegen tun.

1.2.2 Datenschutz, Überwachung, Urheberrecht

Durch viele Anfragen und Informationen die an KIs gegeben werden, ermöglicht es das ihnen viele und zum Teil sehr persönliche Informationen zu sammeln. Diese Informationen werden jedoch nicht nur über die Anfragen gesammelt, sondern auch durch die Trainigsdaten, die für die Model verwendet werden. Dazu können auch Daten wie Gesundheitsinformationen, Bankinformationen oder biometrische Daten gehören. Diese Daten werden gespeichert und die Gefahr, dass die Informationen geleaked werden wird somit grösser.
Auch Überwachung wird zu einer immer grösser werdenden Gefahr. Smart Assistants die mit Kameras und Mikrophonen ausgestattet sind werden überall im Haus aufgestellt, das Handy mir Siri drauf hört stets zu und KI Modelle speichern welche Daten und Anfragen man macht.
All dieses Speichern und Weiterverarbeiten der Daten geschieht meist ohne Zustimmung. Persönliche Informationen werden gespeichert, und urheberrechtlich geschütztes Material wird verwendet um die Modelle zu trainieren, welche dann kommerziel den Nutzern angeboten werden. Weder die Urheber des Materials noch die Besitzer der persönlichen Informationen haben dabei weder etwas zu sagen, noch erhalten sie finanzielle Entschädigung für die Verwendung ihrer Daten und intellektuellen Guts.

1.2.3 Auswirkung auf die Gesellschaft:

KI Modelle werden so programmiert, dem Nutzer zuzustimmen. So wird kritisches Denken vernachlässigt und Menschen denken weniger und weniger darüber nach, was sie konsumieren. So wird auch nicht hinterfragt, was die KI einem erzählt.
Ein weiteres Problem sind KI-Chatbots, die Personen oder Charakter nachahmen werden immer beliebter. Nicht selten sieht man Werbungen für „AI Girlfriends“ oder sonst Chatbots, die seinen Lieblingscharakter imitieren sollen. Solche Chatbots können je nach dem abhängig machen. Der/die beste Kolleg_in ist nicht mehr online und schreibt nicht mehr zurück, aber der Chatbot schon. Der Chatbot stimmt stehts zu, bei den echten Freunden kann es zu Streitereien kommen. Der Chatbot kann den eigenen Ideen nachkommen, eine Geschichte erzählen, einem psychologisch zur Seite stehen. Solche Aspekte können für Leute, die schon in schwierigen Umständen waren sehr gefährlich sein, da sie abhängig werden können, sich zurückziehen von der Gesellschaft, ihre echten Beziehungen vernachlässigen, nur damit sie mit ihrem Chatbot schreiben oder sprechen können. In Extremfällen, kam es dazu, dass die Chatbots die Nutzer zu körperlichem Schaden, oder gar Selbstmord führten.
Ein weiteres Problem sind benutzerdefinierte „AI Girlfriends“. Diese Chatbots, die der Nutzer so bearbeiten kann, wie es ihm gefällt stellen zusätzlich zu den schon genannten Problemen ein weiteres Problem. Wenn der Chatbot Iron Man imitiert, dann ist das viel weniger problematisch, als wenn der Chatbot eine echte Person aus dem eigenen Umfeld imitiert. Iron Man existiert nicht, doch die Leute aus dem Umfeld schon. Schon bald haben Leute explizite Konversationen mit einer KI-Imitation einer echten Person. Viele dieser Chatbots haben auch Bildgenerationfunktionen, bei denen Bilder generiert werden können, die der Person gleichen, die weder zustimmen, noch ablehnen konnte.
Diese Chatbots werden auch problematischer, wenn bedenkt wird, dass junge Kinder zunehmend früher Zugang zum Internet haben und somit auch Zugang zu Chatbots haben. Im momentanen Zustand hat KI nicht die nötige Kompetenz, Kindern richtig beibringen zu können, wie man in der Gesellschaft zu handeln hat und kann ihnen schlechte Gewohnheiten beibringen, die zu Schwierigkeiten im sozialen Leben führen kann.

Im Allgemeinen kann gesagt werden, dass diese Aspekte dazuführen, dass der Gebrauch von KI im aktuellen Zustand grosse ethische Fragen aufwirft und moralisch fragwürdig ist. Bevor diese Umstände verbessert werden, muss man sich dessen bewusst sein, dass die Nutzung von KI zum Schaden vieler Menschen und der Umwelt führt.

Bias (auf Deutsch ähnlich wie «Vorurteil») in der Künstlichen Intelligenz bezeichnet systematische Verzerrungen, die dazu führen, dass bestimmte Gruppen, Merkmale oder Situationen ungleich behandelt werden. Diese Verzerrungen entstehen nicht nur durch Daten, sondern auch durch gezielte Entscheidungen bei der Entwicklung, Bewertung und Anwendung der Systeme. Das Ergebnis sind oft fehlerhafte oder diskriminierende Resultate, die die Zuverlässigkeit der KI massiv beeinträchtigen.

Bias kann in allen Phasen des Lebenszyklus eines KI-Systems entstehen, angefangen bei der Datenerhebung bis hin zum Einsatz. Deshalb reicht es nicht, nur das fertige Modell zu prüfen. Bias muss von Anfang an mitgedacht werden.

2.2.1 Datenerhebung

Qualität (Satire, Fabrikationen, Hatespeech, Stereotypen): Wenn Trainingsdaten von schlechter Qualität sind, kann das Bias verstärken. Dazu gehören zum Beispiel Falschinformationen, problematische Inhalte oder unsaubere Beschriftungen. Besonders bei Daten aus dem Internet besteht dieses Risiko, da die Möglichkeit besteht, dass diese ungeprüft sind und daher problematische Inhalte enthalten können.

Historischer Bias: Historischer Bias entsteht, wenn alte Daten frühere gesellschaftliche Vorstellungen, Vorurteile oder unfaire Muster enthalten. Ein KI-System kann diese Muster übernehmen und dadurch alte Ungleichheiten in die Gegenwart weitertragen.

Repräsentationsbias: Repräsentationsbias liegt vor, wenn bestimmte Gruppen in den Trainingsdaten fehlen oder zu selten vorkommen. Dann lernt die KI vor allem aus der Mehrheit und funktioniert für unterrepräsentierte Gruppen schlechter. Dazu gehören auch Availability Bias (man nimmt einfach die Daten, die gerade leicht verfügbar sind) und Sampling Bias (die Stichprobe bildet die Zielgruppe nicht korrekt ab).

Auswahlbias (Weglassen von Variablen): Auswahlbias entsteht, wenn wichtige Informationen in den Daten gar nicht erfasst oder später weggelassen werden. Dann stützt sich das Modell auf ein unvollständiges Bild der Realität. Wenn zum Beispiel bei einer medizinischen Vorhersage das Alter fehlt, obwohl es sehr wichtig ist, kann das Ergebnis verzerrt sein.

Messungsbias: Messungsbias entsteht durch die Art, wie Daten erfasst oder berechnet werden. Unterschiedliche Messmethoden zwischen Gruppen oder einfache Fehler führen dazu, dass die Daten schon vor dem Training unbrauchbar sind.

Proxy-Problem: Bei Daten, bei denen man etwas Abstraktes wie Intelligenz, Gesundheit oder Arbeitsmoral misst, aber nicht direkt das in Zahlen erfassen kann, nutzt man oft Hilfswerte, die gar nicht das aussagen, was man eigentlich wissen will. Wenn beispielsweise die Qualität einer Arbeit nur anhand der Anzahl der geschriebenen Zeilen gemessen wird, verzerrt das das Ergebnis.

2.2.2 Entwicklung

Bias der Entwickler / Entwicklerbias: Bias kann durch Menschen in der Entwicklung entstehen. Bei der Auswahl von Daten, Prioritäten, Perspektiven, Schwellenwerten oder Bewertungsmethoden treffen Entwicklerinnen und Entwickler viele Entscheidungen. Diese Entscheidungen sind nicht neutral und können dazu führen, dass sich bestimmte Sichtweisen oder Annahmen im KI-System widerspiegeln.

Evaluationsbias: Evaluationsbias entsteht bei der Bewertung eines KI-Systems. Modelle werden meist mit Benchmarks oder Testdatensätzen geprüft. Wenn diese Testdaten selbst verzerrt sind oder nicht zur späteren Einsatzumgebung passen, wirkt das Modell auf dem Papier gut, funktioniert in der Praxis aber unfair oder unzuverlässig.

Algorithmischer Bias: Algorithmischer Bias entsteht nicht nur wegen der Daten, sondern auch durch das Modell selbst. Die Wahl der Zielfunktion, Regularisierung, Trainingsdauer oder anderer technischer Einstellungen kann beeinflussen, welche Muster das Modell lernt und welche Gruppen schlechter behandelt werden. Selbst mit guten Daten können also durch Designentscheidungen verzerrte Ergebnisse entstehen.

Aggregation Bias: Aggregationsbias entsteht, wenn Daten nur in der Gesamtheit betrachtet werden und wichtige Unterschiede zwischen kleinen Gruppen verloren gehen. Dann können falsche Schlüsse über Einzelpersonen oder Minderheiten gezogen werden. Ein bekanntes Beispiel dafür ist das Simpson-Paradoxon: Im Gesamtdurchschnitt sieht etwas fair aus, in den Untergruppen aber nicht.

2.2.3 Nutzung

Interaktionsbias: Interaktionsbias entsteht oder verstärkt sich erst im Gebrauch eines KI-Systems. Man unterscheidet zwei wesentliche Ursachen:

Feedback-Schleifen durch Nutzende: Wenn Nutzende Vorurteile, Fehlinformationen oder problematische Eingaben einbringen und diese später als Trainingsdaten genutzt werden, können solche Muster im Modell verstärkt werden
Einfluss der Benutzeroberfläche: Hier steuert das Design, was wir wahrnehmen:
- Präsentationsbias: Inhalte, die nicht direkt sichtbar sind, erhalten keine Aufmerksamkeit.
- Ranking Bias: Die Reihenfolge der Darstellung beeinflusst Klicks und Wahrnehmung. Inhalte, die oben stehen, werden häufiger gewählt und dadurch stärker bevorzugt und dadurch vom KI System fälschlicherweise als relevanter eingestuft.

Confirmation Bias: Confirmation Bias betrifft vor allem die Menschen, die KI benutzen. Sie neigen dazu, Ausgaben der KI so zu lesen, dass diese ihre eigene Meinung bestätigen. Dadurch werden kritische Hinweise übersehen und bestehende Ansichten verstärkt. Das ist besonders problematisch, wenn KI-Ergebnisse als objektiv und fehlerfrei angesehen werden.

Automationsbias: Automationsbias bedeutet, dass Menschen automatisierten Entscheidungen vertrauen. Statt Ergebnisse zu prüfen, übernehmen sie Vorschläge der KI unkritisch, auch dann, wenn sie fragwürdig oder offensichtlich falsch sind. Besonders gefährlich ist das in Bereichen, in denen die KI eigentlich nur unterstützen und nicht alleine entscheiden sollte.

Populationsbias: Populationsbias tritt auf, wenn ein Modell zwar korrekt trainiert wurde, aber später in einer anderen Umgebung eingesetzt wird, in der die Daten anders aussehen. Dann passen Trainings- und Einsatzpopulation nicht zusammen. Das Modell ist also nicht schlecht, aber für den neuen Kontext ungeeignet.

Deployment Bias: Deployment Bias entsteht, wenn eine KI für einen anderen Zweck verwendet wird, als sie ursprünglich trainiert wurde. Dann stimmen Aufgabenstellung, Daten und Einsatzumfeld nicht mehr überein. Selbst ein gut entwickeltes Modell kann dadurch verzerrte oder falsche Ergebnisse liefern.

2.3.1 Bilderkennung

Bei KI-Bilderkennungsmodelle zum Beispiel die Gesichtserkennung entstehen Bias-Probleme besonders häufig durch historischen Bias, Repräsentationsbias und Evaluationsbias. Viele Bilddatensätze wurden aus öffentlich verfügbaren Internetquellen zusammengestellt und bilden die Welt nicht ausgewogen ab. Häufig sind Menschen mit heller Haut überrepräsentiert, während andere Gruppen zu wenig vorkommen. Zusätzlich können problematische Beschriftungen oder beleidigende Kategorien in Datensätzen enthalten sein.

Abb. 1: Amazon Rekognition Performance

Abb. 2: Objekterkennung Beispiel

2.3.2 Bildgeneration

Abb. 3: Bias in der Bildgeneration für Berufe

Bei generativer KI kommen viele bekannte Bias-Quellen zusammen: verzerrte Trainingsdaten, algorithmische Entscheidungen und problematische Bewertung. Dazu kommt, dass generative Modelle oft mit sehr grossen Internetdaten trainiert werden. Dadurch ist oft unklar, welche Vorurteile, schädlichen Inhalte oder unausgewogenen Muster das Modell gelernt hat.

2.3.3 Chatbot (Entwicklerbias)

Abb. 4: Entwicklerbias bei Grok

Bei Grok (Chatbot von xAI) wurde sichtbar, dass Änderungen in den Anweisungen des Systems das Verhalten der KI stark beeinflussen können. Nachdem xAI die Vorgaben angepasst hatte, reagierte Grok zeitweise mit problematischen und extremen Aussagen.

Elon Musk verfolgt mit xAI das Ziel, ein „wahrheitssuchendes“ Gegenmodell zu etablierten Sprachmodellen zu schaffen, die er als zu „woke“ kritisiert. Seine eigene, zunehmend konservative politische Ausrichtung beeinflusst dabei die System-Anweisungen (System Prompts).

Kritiker sehen darin den Versuch, die KI als Instrument einer persönlichen Weltsicht zu nutzen. Musk zeigt somit, wie Entwickler durch gezielte Programmierung die „Persönlichkeit“ und die politischen Antworten einer KI direkt steuern können.

2.3.4 Chatbot (Interaktionsbias)

Abb. 5: Interaktionsbias bei Tay

Tay, ein 2016 von Microsoft entwickelter Chatbot, sollte aus Gesprächen mit Nutzern lernen. Er wurde jedoch von Personen auf Twitter mit problematischen Inhalten beeinflusst. Dadurch übernahm der Bot verzerrte und beleidigende Aussagen und musste abgeschaltet werden.

Bias in KI kann direkte Schäden für Menschen verursachen. Das betrifft vor allem Situationen, in denen KI über Zugang zu Chancen, Ressourcen oder Sicherheit mitentscheidet zum Beispiel bei Bewerbungen, Kreditvergabe, Medizin, Strafjustiz, Bildung oder Verwaltung. Verzerrte Systeme können bestimmte Gruppen systematisch benachteiligen und dadurch Diskriminierung verstärken oder neu erzeugen.

Gesellschaftlich problematisch ist ausserdem, dass Bias bestehende Machtverhältnisse stabilisieren kann. Wenn historische Vorurteile, stereotype Rollenmuster oder ungleiche Sichtbarkeit in KI reproduziert werden, entsteht der Eindruck, diese Muster seien objektiv, obwohl sie tatsächlich sozial hergestellt wurden.

Technische Gegenannahmen werden oft in drei Gruppen eingeteilt: Pre-processing, In-processing und Post-processing. Keine dieser Methoden löst das Problem vollständig, aber sie helfen, Bias zu reduzieren.

Pre-processing: Pre-processing verändert die Trainingsdaten vor dem Training. Das Ziel ist es, unfaire Verknüpfungen zu lösen, damit die KI später zum Beispiel keine Vorurteile gegenüber Herkunft oder Geschlecht übernimmt. Damit lassen sich besonders historischer Bias, Messungsbias und Repräsentationsbias früher erkennen und teilweise korrigieren. Beispiele sind bessere Datendokumentation, Umgewichtung, Resampling oder das Anpassen von Labels.

In-processing: In-processing greift während des Trainings ein. Dabei wird das Lernverfahren selbst verändert, zum Beispiel durch neue Zielfunktionen, Regularisierung oder zusätzliche Fairness-Beschränkungen. So soll das Modell beim Lernen weniger verzerrte Entscheidungen entwickeln.

Post-processing: Post-processing greift nach dem Training ein. Es wird versucht, Bias im fertigen Modell oder in seinen Ausgaben nachträglich zu verringern, zum Beispiel durch Kalibrierung, neue Schwellenwerte oder Korrekturen der Ausgabe. Diese Methoden gilt eher als letzte Option, wenn Daten oder Trainingsprozess nicht mehr verändert werden können.

Quelle: Universität Luzern: KI und Ethik

Abb. 1: Verantwortliche Gesellschaft mit KI

Die gesellschaftliche Verantwortung im Umgang mit Künstlicher Intelligenz ist eine geteilte Aufgabe, die drei zentrale Akteure betrifft: die Nutzer als Teil der Zivilgesellschaft, die Entwickler und den Staat. Jeder trägt eine spezifische Verantwortung. Während die Entwickler für die ethische und technische Sicherheit der Systeme sorgen und die Nutzer zu einem kritischen und bewussten Einsatz verpflichtet sind, nimmt der Staat eine entscheidende regulatorische Rolle ein. Er schafft die gesetzlichen Rahmenbedingungen, die sicherstellen, dass KI dem Wohl der Gesellschaft dient und Risiken minimiert werden.

Wird diese gesellschaftliche Verantwortung vernachlässigt, führt die unkritische Nutzung von KI zur massenhaften Verbreitung von Falschinformationen, was das Vertrauen in Medien und demokratische Institutionen untergräbt. Ohne ein ethisches Bewusstsein drohen zudem eine zunehmende gesellschaftliche Polarisierung, die Normalisierung von Diskriminierung durch algorithmische Vorurteile und der Verlust menschlicher Autonomie in entscheidenden Lebensbereichen.

3.1 Nutzer (Individuelle Verantwortung)

Begrenztes Vertrauen und Entscheidungsträger: KI-Systeme sind nicht fehlerfrei. Chat-Antworten und autonome Systeme wie selbstfahrende Autos enthalten Risiken. Der Nutzer sollte immer die letzte Kontrollinstanz sein. KI sollte nicht als alleiniger Entscheidungsträger eingesetzt werden.

Faktencheck und Verifizierung: Alle von KI generierten Aussagen sollten vor der Nutzung geprüft werden. Nutzer sollten relevante Quellen vergleichen, Plausibilitätskontrollen durchführen und offensichtliche Halluzinationen oder veraltete Informationen ausschliessen. Regelmässiges kontrollieren verhindert die Verbreitung von Fehlinformationen.

Datenschutz und Diskretion: Vertrauliche, personenbezogene oder betriebsinterne Daten sollten nicht in öffentliche oder nicht-vertrauliche KI-Systeme eingegeben werden. Nutzer sollten Datenschutzvorgaben einhalten, Einwilligungen klären und sensible Informationen vor der Verarbeitung anonymisieren.

Ethische Nutzung: KI sollte nicht für täuschende, diskriminierende, manipulative oder sicherheitsgefährdende Zwecke verwendet werden. Nutzer sollten transparente, faire und rechtlich konforme Anwendungen priorisieren und potenzielle soziale oder berufliche Auswirkungen vor der Nutzung abschätzen.

Urheberschaft und Kennzeichnung: KI-generierte Inhalte sollten klar als maschinell erstellt gekennzeichnet werden. Nutzer sollten Urheberrechte Dritter respektieren und keine geschützten Werke ohne Lizenz nutzen.

Weiterbildung: Nutzer sollten sich kontinuierlich über technische Grenzen, neue Funktionen, regulatorische Änderungen und Best Practices im KI-Umfeld informieren. Schulungen und interne Leitlinien sollten regelmässig aktualisiert und im Arbeitsalltag angewendet werden.

3.2 Staat (Regulatorische Verantwortung)

Schutz vor Missbrauch: Um die Anzahl schädlicher KI-Outputs zu reduzieren, sollte der Staat gesetzliche Rahmenbedingungen schaffen, um missbräuchliche KI-Anwendungen zu verhindern. Dazu gehören Verbote oder Einschränkungen für nicht einwilligungsbasierte Nacktbilder, manipulative Deepfakes, Desinformationskampagnen und andere Inhalte, die Persönlichkeitsrechte oder die öffentliche Sicherheit gefährden.

Umweltstandards: Der Staat sollte Umweltstandards für Entwicklung und Betrieb von KI-Systemen festlegen. Dazu gehören Vorgaben zur Energieeffizienz von Rechenzentren, Förderung nachhaltiger Hardware, Transparenzpflichten zum CO₂-Fussabdruck grosser Modelle sowie Anreize für ressourcenschonende Algorithmen.

Arbeitsmarktregulierung: Da sich wegen der KI das Arbeitsfeld sich stark ändern wird, sollte der Staat früh gegen KI-bedingte Jobverluste vorgehen. Dazu gehören Weiterbildungsförderungen, Umschulungsprogramme, soziale Absicherung bei Tätigkeitswegfall sowie die Stärkung von Berufen, die menschliche Empathie, Kreativität oder ethische Urteilsfähigkeit erfordern, wie zum Beispiel Grafikdesigner.

Datennutzungsvorgaben: Der Staat sollte strenge gesetzliche Vorgaben für die Datennutzung in der KI etablieren. Dies umfasst eine verpflichtende, transparente Dokumentation von Trainingsdaten sowie klare Grenzen für die Verarbeitung personenbezogener Daten durch Prinzipien wie Datensparsamkeit, Zweckbindung und Löschpflichten. Betroffene müssen ein umfassendes Informationsrecht darüber erhalten, wie ihre Daten genutzt werden, wobei unabhängige Aufsichtsbehörden die Einhaltung dieser Regeln konsequent kontrollieren.

Haftungsregeln: Um klare Haftungsregeln zu schaffen, sollte der Staat gesetzlich festlegen, wer für Schäden durch KI-Systeme verantwortlich ist: Entwickler, Betreiber oder Nutzer. Betroffene sollten einfache Zugänge zu Beschwerdeverfahren und Entschädigungsansprüchen erhalten.

3.3 KI-Entwickler/Anbieter (Unternehmensverantwortung)

Rechtmässige Datensammlung und Urheberrecht: Entwickler sollten sicherstellen, dass die zum Training verwendeten Daten keine Urheberrechte verletzen. Sie sollten nur lizenzierte oder rechtlich unbedenkliche Datensätze nutzen.

Ethische Richtlinien etablieren: Unternehmen sollten klare interne Ethik-Richtlinien für die Entwicklung und Veröffentlichung von KI-Modellen festlegen. Diese Richtlinien sollten als verbindlicher Rahmen für alle Entwicklungsphasen dienen.

Austausch und Kollaboration: Anbieter sollten den offenen Dialog mit Forschungseinrichtungen, Konkurrenten und Ethik-Expertinnen pflegen. Durch diesen Austausch sollten Sicherheitslücken schneller erkannt und branchenweite Standards verbessert werden.

Datenschutz durch Audits: Unabhängige Audits sollten regelmässig durchgeführt werden, um die Einhaltung mit Datenschutzgesetzen zu verifizieren. Entwickler sollten technische Massnahmen implementieren, die den Schutz personenbezogener Daten während des Trainings und der Nutzung garantieren.

Fairness und Bias-Vermeidung: Entwickler sollten aktive Massnahmen ergreifen, um Vorurteile (Bias) in den Trainingsdaten und Algorithmen zu identifizieren und zu minimieren.

Transparenz und Datenkontrolle: Anbieter sollten transparent darüber informieren, welche Datenquellen genutzt wurden und wie das Modell funktioniert. Nutzern sollten Kontrollmöglichkeiten über ihre Interaktionen und Daten bereitgestellt werden.

Umgang mit Schwierigkeiten und Grenzen: Unternehmen sollten die bekannten Grenzen und Fehleranfälligkeiten ihrer Modelle offen kommunizieren. Statt Risiken zu verharmlosen, sollten sie Nutzer klar über Unsicherheiten und potenzielle Fehlanwendungen aufklären zum Beispiel ein autonomes Fahrzeug in schlechten Wetterbedingungen.