Ethik, Bias und Verwantwortung im Bezug zu KI

Dies ist eine alte Version des Dokuments!

Seit dem Aufstieg von KI hat sich Vieles verändert. Viele Arbeiten, die vorher Stunden gedauert hätten, können nun innert Sekunden vervollständigt werden. Auch die Zugänglichkeit hat sich verbessert, denn nun können auch Menschen, die vorher nicht singen oder zeichnen konnten, ihre eigenen Lieder und Bilder erstellen. Ein Film oder eine Serie, die aufgehört hat, können nun von den Fans selbst mithilfe von Videomodellen fortgeführt werden. Interaktive Games können immersiver als je zuvor sein, Daten werden schneller analysiert, medizinische Probleme können früher diagnostiziert werden, Übersetzungen werden genauer.
Doch KI bringt nicht nur Positives mit sich. Viele dieser Funktionen sind nur möglich, in dem viele Leute ausgebeutet und Urheberrechte verletzt werden. Diese Aspekte werden oft vergessen oder ignoriert, weil KI sehr praktisch und nützlich ist. Dennoch muss man sich bewusst sein, was die Nutzung von KI mit sich bringt.

1.1.1 Folgen für die Umwelt

Damit KI reibungslos funktionieren kann, müssen verschiedenste Dinge getan werden. Nicht nur benötigt KI eine stetige Stromzufuhr, sie benötigt auch Wasserzufuhr, damit die Prozessoren abgekühlt werden können. Diese beiden Aspekte sind nicht nur problematisch für die Menschen, die in der Nähe der Data Centers leben, sondern auch für den Planeten im allgemeinen und somit für die Menschheit insgesammt.

Die meisten Data Centers global gesehen befinden sich in den USA, wobei viele dieser Data Centers sich in Staaten wie Virginia befinden. Jährlich benutzen auf KI abgestimmte Data Centers zwischen 56 und 73 TWh. Dieser hohe Stromverbrauch kann sehr belastend sein für die Bewohner um diese Data Centers herum, da diese durch diesen Stromverbrauch höhere Stromkosten erleiden und erhöte Lebenskosten haben. Auch der Wasserkonsum ist verheerend. Eine Studie besagt, dass der globale Wasserkonsum von Data Centers um die 6.4 Billionen Liter beträgt. Auch dies führt dazu, dass Lebenskosten erhöht werden. Zudem führen die Data Centers auch dazu, dass das Grundwasser an Qualität verloren hat. Sedimente und Verfärbungen sind im Wasser zu erkennen, was nicht nur den sicheren Konsum von Wasser infrage stellt, sondern auch zu Leitungsproblemen führen kann und die generelle Lebensqualität von vielen Menschen negativ beeinflusst.
Doch die lokalen Probleme des Stromverbrauchs sind nicht die einzigen und bei weitem nicht die tragensten. Viele der Data Centers wurden in Staaten erbaut, die noch grösstenteils von Kohlekraftwerken abhängig sind. Dadurch ist der Stromverbrauch von KI nicht 'sauber' und trägt jährlich signifikant zum Klimawandel bei. Genaue Daten zur exakten Menge sind nicht bekannt, da KI-Firmen dies generell nicht veröffentlichen.

Wasser aus einem Bach in der Nähe eines Data Centers.

1.1.2 Data Workers

Ein weiterer Aspekt der nötig ist, damit KI funktioniert, sind Menschen, die Trainingsdaten labeln, sortieren und markieren. Die Arbeitsumstände dabei sind häufig nicht menschlich. Die Arbeit von Data Workers wird nicht in Amerika getan sondern wird outsourct in 3. Welt Länder wie z.B Kenia. Dort arbeiten die Leute entweder für weniger als 2 USD in der Stunde, oder werden pro Aufgabe bezahlt, die sie beenden. Diese Löhne sind extrem klein und können so niedrig wie 0.0004 USD sein. Diese Data Workers werden jedoch nie von den KI-Firmen direkt angestellt. Stattdessen werden die Jobaustellungen und Bewerbungen von einem Vermittler getätigt. Viele Arbeiter, die bei einem dieser Vermittler, Scale AI und deren Webseite Remotasks, arbeiten, haben gesagt, dass sie häufig gar nicht erst bezahlt wurden, sondern dass ihr Account ein Tag vor dem Tag, an dem sie Lohn bekommen würden, blockiert wurde, da sie anscheinend gegen die Richtlinien verstossen haben.

Ausserdem müssen diese Data Workers dazu sorgen, dass die KI weiss, was angemessen und nicht angemessen ist und müssen deshalb stundenlang und tagelang extrem explizites Material ansehen, labeln und sortieren. Arbeiterinnen berichten, dass 70% von Videos, die sie bearbeiten müssen extreme Gewalt oder physikalische und sexuelle Mishandlung gegenüber Kindern und Tieren enthalten.

“One video left an impact like no other. […] „It was about a mother who had killed her baby. […] There was a naked woman who was the mother. She had a child, and the mother was chopping the child into pieces“” ¹⁾

Viele der Arbeiter entwickelten dadurch Depressionen, Angststörungen oder PTSS. Die Firmen behaupten, dass sie den Arbeiterinnen psychologische Begleitung bieten. Diese ist jedoch stark begrenzt, bei manchen Firmen sind die Data Workers nur erlaubt 30 Minuten pro Monat psychologische Hilfe zu beanspruchen und viele sagen, dass das Personal häufig nicht qualifiziert ist, um ihnen zuverlässig zu helfen. Die Arbeitsbedingungen sind auch sehr instabil und Firmen können ohne Vorwarnung Arbeiterinnen feuern. Zudem wurden viele dieser Stellen als „Call Center Agents“ oder Übersetzer ausgeschrieben, die aber dann in Wirklichkeit das Beschriften und Sortieren von explizitem Material waren.

„I looked at people being slaughtered, people engaging in sexual activity with animals, people abusing children, physically, sexually, people comitting suicide. […] 8 hours a day, 40 hours a week.“²⁾

1.2.1 Deepfakes

Im digitalen Zeitalter ist das Problem von Misinformation stets sehr wichtig. Schon bevor KI so weit verbreitet war wie heute, wurde Misinformation verwendet um grossflächig und strategisch gegen Rohingyas in Myanmar vorzugehen, sie zu verletzen, töten und zu vertreiben. Seither wurde KI eingeführt und stets verbessert. Bilder und Videos, die kaum von der Realität zu unterscheiden sind, können von jeder Person beliebig erstellt werden. Politische Propaganda, Fake News, Hatespeech, Pornographie, all diese Elemente können von KI innert Sekunden erstellt werden und schlimme Folgen haben. Nicht nur kann schnell sehr viel Misinformation verbreitet werden, sie wird auch immer glaubwürdiger. So werden Leuten Dinge unterschoben, die nicht wahr sind und deren Leben signifikant ändern können.
Mit Grok auf X ist es möglich jedes Bild, das gepostet wird zu verändern und so ist es auch möglich, Grok zu sagen, dass Leute, häufig Frauen oder sogar minderjährige Mädchen, ohne Kleidung, in pornographischen Positionen dargestellt werden sollen und die betroffenen Personen auf den Fotos können nichts dagegen tun.

1.2.2 Datenschutz, Überwachung, Urheberrecht

Durch viele Anfragen und Informationen die an KIs gegeben werden, ermöglicht es das ihnen viele und zum Teil sehr persönliche Informationen zu sammeln. Diese Informationen werden jedoch nicht nur über die Anfragen gesammelt, sondern auch durch die Trainigsdaten, die für die Model verwendet werden. Dazu können auch Daten wie Gesundheitsinformationen, Bankinformationen oder biometrische Daten gehören. Diese Daten werden gespeichert und die Gefahr, dass die Informationen geleaked werden wird somit grösser.
Auch Überwachung wird zu einer immer grösser werdenden Gefahr. Smart Assistants die mit Kameras und Mikrophonen ausgestattet sind werden überall im Haus aufgestellt, das Handy mir Siri drauf hört stets zu und KI Modelle speichern welche Daten und Anfragen man macht.
All dieses Speichern und Weiterverarbeiten der Daten geschieht meist ohne Zustimmung. Persönliche Informationen werden gespeichert, und urheberrechtlich geschütztes Material wird verwendet um die Modelle zu trainieren, welche dann kommerziel den Nutzern angeboten werden. Weder die Urheber des Materials noch die Besitzer der persönlichen Informationen haben dabei weder etwas zu sagen, noch erhalten sie finanzielle Entschädigung für die Verwendung ihrer Daten und intellektuellen Guts.

1.2.3 Auswirkung auf die Gesellschaft:

KI Modelle werden so programmiert, dem Nutzer zuzustimmen. So wird kritisches Denken vernachlässigt und Menschen denken weniger und weniger darüber nach, was sie konsumieren. So wird auch nicht hinterfragt, was die KI einem erzählt.
Ein weiteres Problem sind KI-Chatbots, die Personen oder Charakter nachahmen werden immer beliebter. Nicht selten sieht man Werbungen für „AI Girlfriends“ oder sonst Chatbots, die seinen Lieblingscharakter imitieren sollen. Solche Chatbots können je nach dem abhängig machen. Der/die beste Kolleg_in ist nicht mehr online und schreibt nicht mehr zurück, aber der Chatbot schon. Der Chatbot stimmt stehts zu, bei den echten Freunden kann es zu Streitereien kommen. Der Chatbot kann den eigenen Ideen nachkommen, eine Geschichte erzählen, einem psychologisch zur Seite stehen. Solche Aspekte können für Leute, die schon in schwierigen Umständen waren sehr gefährlich sein, da sie abhängig werden können, sich zurückziehen von der Gesellschaft, ihre echten Beziehungen vernachlässigen, nur damit sie mit ihrem Chatbot schreiben oder sprechen können. In Extremfällen, kam es dazu, dass die Chatbots die Nutzer zu körperlichem Schaden, oder gar Selbstmord führten.
Ein weiteres Problem sind benutzerdefinierte „AI Girlfriends“. Diese Chatbots, die der Nutzer so bearbeiten kann, wie es ihm gefällt stellen zusätzlich zu den schon genannten Problemen ein weiteres Problem. Wenn der Chatbot Iron Man imitiert, dann ist das viel weniger problematisch, als wenn der Chatbot eine echte Person aus dem eigenen Umfeld imitiert. Iron Man existiert nicht, doch die Leute aus dem Umfeld schon. Schon bald haben Leute explizite Konversationen mit einer KI-Imitation einer echten Person. Viele dieser Chatbots haben auch Bildgenerationfunktionen, bei denen Bilder generiert werden können, die der Person gleichen, die weder zustimmen, noch ablehnen konnte.
Diese Chatbots werden auch problematischer, wenn bedenkt wird, dass junge Kinder zunehmend früher Zugang zum Internet haben und somit auch Zugang zu Chatbots haben. Im momentanen Zustand hat KI nicht die nötige Kompetenz, Kindern richtig beibringen zu können, wie man in der Gesellschaft zu handeln hat und kann ihnen schlechte Gewohnheiten beibringen, die zu Schwierigkeiten im sozialen Leben führen kann.

Im Allgemeinen kann gesagt werden, dass diese Aspekte dazuführen, dass der Gebrauch von KI im aktuellen Zustand grosse ethische Fragen aufwirft und moralisch fragwürdig ist. Bevor diese Umstände verbessert werden, muss man sich dessen bewusst sein, dass die Nutzung von KI zum Schaden vieler Menschen und der Umwelt führt.

Quelle: Universität Luzern: KI und Ethik

Abb. 1: Verantwortliche Gesellschaft mit KI

Die gesellschaftliche Verantwortung im Umgang mit Künstlicher Intelligenz ist eine geteilte Aufgabe, die drei zentrale Akteure betrifft: die Nutzer als Teil der Zivilgesellschaft, die Entwickler und den Staat. Jeder trägt eine spezifische Verantwortung. Während die Entwickler für die ethische und technische Sicherheit der Systeme sorgen und die Nutzer zu einem kritischen und bewussten Einsatz verpflichtet sind, nimmt der Staat eine entscheidende regulatorische Rolle ein. Er schafft die gesetzlichen Rahmenbedingungen, die sicherstellen, dass KI dem Wohl der Gesellschaft dient und Risiken minimiert werden.

Wird diese gesellschaftliche Verantwortung vernachlässigt, führt die unkritische Nutzung von KI zur massenhaften Verbreitung von Falschinformationen, was das Vertrauen in Medien und demokratische Institutionen untergräbt. Ohne ein ethisches Bewusstsein drohen zudem eine zunehmende gesellschaftliche Polarisierung, die Normalisierung von Diskriminierung durch algorithmische Vorurteile und der Verlust menschlicher Autonomie in entscheidenden Lebensbereichen.

Begrenztes Vertrauen und Entscheidungsträger: KI-Systeme sind nicht fehlerfrei. Chat-Antworten und autonome Systeme wie selbstfahrende Autos enthalten Risiken. Der Nutzer sollte immer die letzte Kontrollinstanz sein. KI sollte nicht als alleiniger Entscheidungsträger eingesetzt werden.

Faktencheck und Verifizierung: Alle von KI generierten Aussagen sollten vor der Nutzung geprüft werden. Nutzer sollten relevante Quellen vergleichen, Plausibilitätskontrollen durchführen und offensichtliche Halluzinationen oder veraltete Informationen ausschliessen. Regelmässiges kontrollieren verhindert die Verbreitung von Fehlinformationen.

Datenschutz und Diskretion: Vertrauliche, personenbezogene oder betriebsinterne Daten sollten nicht in öffentliche oder nicht-vertrauliche KI-Systeme eingegeben werden. Nutzer sollten Datenschutzvorgaben einhalten, Einwilligungen klären und sensible Informationen vor der Verarbeitung anonymisieren.

Ethische Nutzung: KI sollte nicht für täuschende, diskriminierende, manipulative oder sicherheitsgefährdende Zwecke verwendet werden. Nutzer sollten transparente, faire und rechtlich konforme Anwendungen priorisieren und potenzielle soziale oder berufliche Auswirkungen vor der Nutzung abschätzen.

Urheberschaft und Kennzeichnung: KI-generierte Inhalte sollten klar als maschinell erstellt gekennzeichnet werden. Nutzer sollten Urheberrechte Dritter respektieren und keine geschützten Werke ohne Lizenz nutzen.

Weiterbildung: Nutzer sollten sich kontinuierlich über technische Grenzen, neue Funktionen, regulatorische Änderungen und Best Practices im KI-Umfeld informieren. Schulungen und interne Leitlinien sollten regelmässig aktualisiert und im Arbeitsalltag angewendet werden.

Schutz vor Missbrauch: Um die Anzahl schädlicher KI-Outputs zu reduzieren, sollte der Staat gesetzliche Rahmenbedingungen schaffen, um missbräuchliche KI-Anwendungen zu verhindern. Dazu gehören Verbote oder Einschränkungen für nicht einwilligungsbasierte Nacktbilder, manipulative Deepfakes, Desinformationskampagnen und andere Inhalte, die Persönlichkeitsrechte oder die öffentliche Sicherheit gefährden.

Umweltstandards: Der Staat sollte Umweltstandards für Entwicklung und Betrieb von KI-Systemen festlegen. Dazu gehören Vorgaben zur Energieeffizienz von Rechenzentren, Förderung nachhaltiger Hardware, Transparenzpflichten zum CO₂-Fussabdruck grosser Modelle sowie Anreize für ressourcenschonende Algorithmen.

Arbeitsmarktregulierung: Da sich wegen der KI das Arbeitsfeld sich stark ändern wird, sollte der Staat früh gegen KI-bedingte Jobverluste vorgehen. Dazu gehören Weiterbildungsförderungen, Umschulungsprogramme, soziale Absicherung bei Tätigkeitswegfall sowie die Stärkung von Berufen, die menschliche Empathie, Kreativität oder ethische Urteilsfähigkeit erfordern, wie zum Beispiel Grafikdesigner.

Datennutzungsvorgaben: Der Staat sollte strenge gesetzliche Vorgaben für die Datennutzung in der KI etablieren. Dies umfasst eine verpflichtende, transparente Dokumentation von Trainingsdaten sowie klare Grenzen für die Verarbeitung personenbezogener Daten durch Prinzipien wie Datensparsamkeit, Zweckbindung und Löschpflichten. Betroffene müssen ein umfassendes Informationsrecht darüber erhalten, wie ihre Daten genutzt werden, wobei unabhängige Aufsichtsbehörden die Einhaltung dieser Regeln konsequent kontrollieren.

Haftungsregeln: Um klare Haftungsregeln zu schaffen, sollte der Staat gesetzlich festlegen, wer für Schäden durch KI-Systeme verantwortlich ist: Entwickler, Betreiber oder Nutzer. Betroffene sollten einfache Zugänge zu Beschwerdeverfahren und Entschädigungsansprüchen erhalten.

Rechtmässige Datensammlung und Urheberrecht: Entwickler sollten sicherstellen, dass die zum Training verwendeten Daten keine Urheberrechte verletzen. Sie sollten nur lizenzierte oder rechtlich unbedenkliche Datensätze nutzen.

Ethische Richtlinien etablieren: Unternehmen sollten klare interne Ethik-Richtlinien für die Entwicklung und Veröffentlichung von KI-Modellen festlegen. Diese Richtlinien sollten als verbindlicher Rahmen für alle Entwicklungsphasen dienen.

Austausch und Kollaboration: Anbieter sollten den offenen Dialog mit Forschungseinrichtungen, Konkurrenten und Ethik-Expertinnen pflegen. Durch diesen Austausch sollten Sicherheitslücken schneller erkannt und branchenweite Standards verbessert werden.

Datenschutz durch Audits: Unabhängige Audits sollten regelmässig durchgeführt werden, um die Einhaltung mit Datenschutzgesetzen zu verifizieren. Entwickler sollten technische Massnahmen implementieren, die den Schutz personenbezogener Daten während des Trainings und der Nutzung garantieren.

Fairness und Bias-Vermeidung: Entwickler sollten aktive Massnahmen ergreifen, um Vorurteile (Bias) in den Trainingsdaten und Algorithmen zu identifizieren und zu minimieren.

Transparenz und Datenkontrolle: Anbieter sollten transparent darüber informieren, welche Datenquellen genutzt wurden und wie das Modell funktioniert. Nutzern sollten Kontrollmöglichkeiten über ihre Interaktionen und Daten bereitgestellt werden.

Umgang mit Schwierigkeiten und Grenzen: Unternehmen sollten die bekannten Grenzen und Fehleranfälligkeiten ihrer Modelle offen kommunizieren. Statt Risiken zu verharmlosen, sollten sie Nutzer klar über Unsicherheiten und potenzielle Fehlanwendungen aufklären zum Beispiel ein autonomes Fahrzeug in schlechten Wetterbedingungen.