LLMs und generative KI – Kontra, Pro und Fazit

Nach wie vor gibt es viel Aufregung um die moralischen Dimensionen der Benutzung von KI. Eine sachliche Debatte wird dabei durch Emotionalisierungen und Vereinfachungen der relevanten Sachverhalte erschwert. Ich möchte daher mit dieser Gegenüberstellung von Pro- und Kontra-Argumenten einen Beitrag leisten, um die moralischen Dimensionen von KI nüchtern zu analysieren. Da ich selbst eher gegen KI bin, stelle ich bewusst die Pro-Argumente ans Ende, da belegt ist, dass der abschließende Beitrag immer stärker im Gedächtnis bleibt und ich mir selbst diesen Vorteil nicht zugestehen möchte.

Kontra

Ich will ehrlich sein, dass es ein wenig ermüdend ist, die Problematiken mit KIs aufzuzählen, denn eigentlich sind sie allen bekannt und ich klinge wahrscheinlich auch nur wie eine kaputte Schallplatte, wenn ich noch einmal alles anführe, was ohnehin schon alle wissen. Und dennoch muss es hier nun einmal sein.

Erstens sind all diese Technologien unter zweifelhaften Umständen entstanden. Die LLMs oder allgemeiner generativen KIs wurden mit Daten trainiert, die ihren Schöpfer*innen eigentlich nicht zustanden. Dies bedeutete einen massiven Raubbau an Kunst, an Literatur und an wissenschaftlichen Texten, ein Umstand, der nur umso mehr an Brisanz gewinnt, wenn sich vor Augen geführt wird, dass es sich bei all diesen Bereichen um Dinge handelt, in denen die Leute es schwer haben: Künstler*innen, Autor*innen und Wissenschaftler*innen gleichermaßen haben nicht unbedingt die stabilsten Karrieren, was besonders auf die beiden erstgenannten Gruppen zutrifft, doch auch wenn in der Wissenschaft tatsächlich hier und da noch so etwas wie eine Karriere möglich ist, so ist auch das zunehmend eine Seltenheit. Kürzungen im Wissenschaftsbereich haben dieses Problem gerade in der letzten Zeit weiter verschärft.

Es muss wohlgemerkt darauf hingewiesen werden, dass dieser Raubbau kein einfaches Versehen ist. Die Leute, die hinter den KIs stehen, die den Markt dominieren, folgen mehr oder weniger einer Ideologie, die die Superiorität der Technologie (und damit der Leute, die die Technologie kontrollieren) über alles andere behauptet. Deswegen wurde sich alles einfach genommen: Weil die vorherrschende Meinung ist, dass aufgrund der eigenen Stellung und Positionierung ein Recht darauf besteht. Die eigene Macht hat die Fakten geschaffen, an die sich die Öffentlichkeit nun anpassen soll. Zur gleichen Zeit treibt die Tech-Branche mit ihren neuen Spielzeugen den Ausbau der eigenen Macht weiter voran: Ein Elon Musk möchte mit Grok gerne „the entire corpus of human knowledge“ umschreiben, damit er besser zu seinen eigenen Vorstellungen passt. Dies ist ein Angriff auf Wahrheit und auf Fakten, und er passt zu der faschistischen und sich auch im Trumpismus zeigenden Tendenz, die Wahrheit allgemein so sehr in Zweifel zu ziehen, bis der Zweifel sich nicht nur auf die Fakten an sich, sondern auch auf die bloße Existenz von Wahrheit erstreckt: Nicht nur, dass niemand in dem ganzen Unsinn mehr die Wahrheit finden würde; es soll auch niemand sich mehr die Mühe machen, sie überhaupt zu suchen.

Dieser Aspekt wird auch von dem zeitgleich erfolgenden Angriff auf die Kunst gespiegelt. Wenn Abschiebungen über generative KI im Ghibli-Stil nachgestellt werden, dann sind wir vielleicht alle schockiert darüber, wie unpassend ist das ist; doch genau das ist das Ziel. Es wird hier gerade darauf abgezielt, die eigene Macht gegenüber den Kunstschaffenden zu demonstrieren, indem ihre Werke genommen, durch den Fleischwolf gedreht und ihre Ästhetik zur Verbreitung dessen genutzt wird, was der Aussage der ursprünglichen Werke diametral entgegensteht.

Es sollte klar sein: Wer generative KI benutzt, benutzt ein Werkzeug, das auf Ausbeutung und Diebstahl beruht und dazu dienen soll, sicherzustellen, dass sich auch in Zukunft weiter ausbeuten und stehlen lässt. Die eigene Benutzung, sie mag zum persönlichen Spaß erfolgen oder weil sie irgendwas einfacher macht, verleiht den KI-Unternehmen Glaubwürdigkeit im Sinne des Marktes: Wenn so viele Leute das benutzen, muss es doch irgendwie wichtig sein. Jede*r Einzelne sollte sich bewusst machen, dass es aber bei dem ganzen Unsinn nicht wirklich darum geht, ein bahnbrechendes neues Tool für den Fortschritt oder die „Verbesserung“ der Menschheit zu erfinden. Jegliche solchen Zwecke, sofern sie jemals wirklich Ziel waren, sind längst in den Hintergrund getreten vor reinen wirtschaftlichen und machtpolitischen Interessen.

Zugleich ist es wichtig zu bedenken: Der Raubbau an Bestehendem ist nur eine Seite der Medaille. Denn ja, es wurden Werke von Menschen ohne Einwilligung als Trainingsdaten missbraucht, doch auch die offensichtliche Alternative zu diesem Vorgehen erweist sich in der Praxis nicht als viel besser. Sie besteht darin, bewusst Trainingsdaten zu erzeugen, die ein Unternehmen dann auch rechtmäßig sein Eigen nennen kann, um damit eine generative KI zu trainieren. Was erst einmal wie die ethischere Alternative zum Diebstahl klingen kann, läuft in der Realität jedoch auch nur wieder auf Ausbeutung und zusätzlich Betrug hinaus. Denn es war schon lange klar, dass der Diebstahl nicht genug ist; es bedarf des ständigen Inputs, und zwar des Inputs durch Menschen (wenn eine KI zunehmend mit KI-generierten Daten trainiert wird, werden die Ergebnisse immer weniger brauchbar). Folgerichtig hat sich längst eine Bullshitjobindustrie etabliert, die auf die Erzeugung von KI-Daten abzielt. Die Leute, die diese Arbeit machen, sitzen meistens in strukturschwächeren Ländern oder sind Menschen, die Schwierigkeiten haben, andere Jobs zu finden. Die vermeintliche Einfachheit der Arbeit – am Laptop sitzen und etwa irgendwelche Sachen schreiben – verschleiert, wie entfernt diese Existenz oftmals von einem bedeutungsvollen Leben mit sinnstiftender Tätigkeit ist, und es sind alle eingeladen, gerne einmal ihre Bekannten, die KI ganz toll finden, die Frage zu stellen: Wäre so eine Tätigkeit etwas, was du dir für dein Leben vorstellen kannst? Die Antwort wird in der Regel negativ ausfallen. Doch da die Arbeit, die hinter generativen KIs steckt, eben an diejenigen outgesourct wird, die ohnehin nicht im Zentrum der Aufmerksamkeit der Gesellschaft stehen, bleibt sie unsichtbar, steht im Dunkeln, nicht im Licht. Es ist leicht, sich mal eben von einem LLM was zusammenschustern zu lassen, wenn kein Bewusstsein darüber besteht, was alles an schlecht bezahlter Arbeit dahintersteht.

Um diesen Aspekt noch einmal auszuleuchten, möchte ich auf den Essay von Michael Geoffrey Abuyabo Asia hinweisen, den ich letztens gelesen habe und der den Titel trägt „The Emotional Labor Behind AI Intimacy“. Ich würde empfehlen, den Essay selbst in Gänze zu lesen, um wirklich das ganze Ausmaß des Elends zu verstehen, dass im Bereich von „Data Work“ über die Leute gebracht werden kann, zumal ich mich selbst als ungeeignet sehe, Michaels emotionale Ausführungen hier angemessen zu reproduzieren.

Nachdem Michael es nicht geschafft hatte, einen seinen Träumen gemäßen Job im Flugsektor und der damit in Verbindung stehenden Logistik zu bekommen, landete er schließlich bei einer Firma namens „New Media Services“. Sein Job bestand darin, mit Personen – echten Personen – zu chatten und ihnen – grob übersetzt – eine „personalisierte Erfahrung zu bieten, die ihren Wünschen entspricht“ und vielleicht können sich schon einige denken, worauf das hinausläuft. Der Job involvierte, dass Michael selbst verschiedene Personas (Personae?) annehmen musste; er musste sich in Chats einlesen, in denen vor ihm jemand anderes geantwortet hatte, dessen Rolle er nun einnahm; er musste immer möglichst genau das schreiben, was die andere Person hören wollte; und er durfte sich dabei keine Fehler erlauben, obwohl er zwischen diversen verschiedenen Charakteren wechseln musste – Charaktere, die mal männlich, mal weiblich, mal schwul, mal lesbisch, mal jung oder alt waren. Worum es ging, war letztlich, um es auf den Punkt zu bringen, romantisches Roleplay. Irgendwo anders auf der Welt saß eine andere Person, die überzeugt davon war, mit einem Bot intim zu chatten und dafür wohl auch etwas bezahlt hatte. In Wirklichkeit sprach sie mit Michael.

Michaels Arbeit war dabei nicht einfach nur ein Scheißjob an sich, denn er wirkte sich mit der Zeit auf seine Familie aus. Denn Michael hatte eine Frau und Kinder, eine Familie, für die er Rechnungen bezahlen musste. Mit der Arbeit aufzuhören, kam nicht wirklich in Frage, doch wenn du den ganzen Tag da sitzt und quasi mit anderen Leuten eine romantische Online-Pseudo-Fernbeziehung führst, während du immer wieder andere Figuren spielen musst, dann macht das etwas mit dir. Michael wurde distanziert, es fiel ihm schwerer, seiner Frau zu sagen, dass er sie liebte, wenn er daran denken musste, dass er das heute schon anderen Leuten geschrieben hatte, einmal davon abgesehen, dass er genau darüber ja auch unmöglich mit seiner Familie sprechen konnte, denn was wäre die Reaktion gewesen?

Doch das Problem ist selbst mit diesem psychischen Druck, für den es keine Lösung gab, umfassend beschrieben. Denn ein weiterer Aspekt war noch, dass Michael irgendwann feststellte, dass er nicht nur einen Bot imitierte, sondern dass er wahrscheinlich zur gleichen Zeit auch einen derartigen Bot trainierte. Wie seine Antworten aufgenommen wurden, wie gut die Reaktion der Person am anderen Ende war, all das wurde offenbar scharf überwacht. Und die dabei entstehenden Daten wurden aller Wahrscheinlichkeit nach zu weiterem Training benutzt. Dadurch entstand also folgende Situation: Ein Mensch gibt vor, eine Maschine zu sein, die vorgibt, ein Mensch zu sein, und zugleich trainiert der Mensch aber noch ebendiese Maschine, die ihn am Ende obsolet machen soll.

Eine derartige Arbeit ist niemandem zumutbar, und auch nicht, wenn wir nicht von romantischem Roleplay, sondern von „harmloseren“ Dingen reden. Michaels Fall ist vielleicht ein Extremfall in Hinblick auf die Tätigkeiten, die er ausführen musste, doch es sollte sich nicht darüber getäuscht werden, dass andere Problematiken seiner Arbeit auf andere Fälle genauso gut übertragbar sind: Die schlechte Bezahlung, die Mitarbeit am Betrug, die Arbeit an der eigenen Abschaffung. Hinter den generativen KIs stehen letztlich emotionale und finanzielle Ausbeutung im Rahmen einer Bullshitjobindustrie, die derzeit auch noch ungebremst wächst.

Es ließe sich an der Stelle noch vieles andere anführen, was problematisch an generativer KI ist – etwa der enorme Energieaufwand und die damit verbundene Klimaschädlichkeit. Doch persönlich denke ich, dass die eigentlich hervorzuhebende Gefahr der KI darin liegt, wie sie uns mit ihrem spielerischen Charakter lockt und dabei all das Elend unsichtbar macht, das entweder hinter ihr steht oder ihre Begleiterscheinung ist. Sie entfremdet uns voneinander, indem sie uns dazu verleitet, vor der emotionalen, psychischen und finanziellen Ausbeutung der Menschen die Augen zu verschließen und uns einfach an den Spaß zu klammern, den wir mit ihr haben können, ein Spaß, der wohlgemerkt dieser Tage auf Musks Höllenplattform darin besteht, Frauen, Minderjährigen und Holocaustüberlebenden mittels Grok Bikinis überzuziehen (siehe dazu auch hier). Nicht, dass die KI die Menschen erst schlecht mache; aber bekannterweise drückt niemand einem Menschenhasser ein Maschinengewehr in die Hand mit der Begründung, es sei ja der Mensch, der damit töte, und nicht das Gewehr; und niemand, dem das Wohl der Menschheit am Herzen liegt, würde den perversen Rechten auf Twitter einen Bot geben, der ihnen das ermöglicht, was derzeit passiert, nur weil da ja nicht dem Bot die Schuld gegeben werden könne.

Vielleicht denken Einige, sie wären über all das vorher Erwähnte erhaben. Das Diktum, es müsse doch aber auch ethische Anwendungen von generativer KI geben oder dass es ja auch praktische Use-Cases gebe, steht zuverlässig jedes Mal im Raum, wenn etwas gegen gnerative KI gesagt wird. Doch es sollte sich niemand täuschen: Unter den gegenwärtigen gesellschaftlichen Bedingungen bekommt keine*r die LLMs und Bildgeneratoren ohne ihre Schattenseiten. Die Technologie lässt sich nicht von den Konditionen ihrer Erschaffung trennen. Und daher wird, wer sie weiterhin benutzt, ungeachtet der eigenen Absichten immer auch die Ausbeutung, die Verdrehung von Wahrheit und Fakten, die Abschaffung jeglicher Kunstbedeutung und auch die Kinderpornographie dazukriegen. Und die Frage ist nur, ob das alles ignoriert wird, oder ob es erkannt und dann entsprechend gehandelt wird.

Pro

alter ich hab mit chatgpt ein notizbuch das mir antwortet wie geil ist das denn bitte

Fazit

Ob (generative) KI gut oder schlecht ist, kann unter angemessener Berücksichtigung der vorliegenden Beiträge nicht eindeutig entschieden werden. Am Ende des Tages sollte das allen selbst überlassen werden. Wichtig ist daher jetzt vor allem, dass niemand für die eigene Benutzung von KI verurteilt wird, das wäre nämlich total unfair und überhaupt nur moralische Rechthaberei. Tschüssi und bis zum nächsten Mal!