Einleitung
Das Buch habe ich in die Hand genommen, weil ich wissen wollte, was ein Philosoph zur KI sagt. Schliesslich fehlt es nicht an Beiträgen, die die Nützlichkeit dieser Technikentwicklung loben und mithin deren produktive Wirkung herausstellen.
Was ist das für eine Technik, die uns nicht mehr gegenübersteht, die wir nicht mehr als Apparat wahrnehmen, sondern die ein Teil unseres Handelns wird? Sie verändert das Verhältnis zu unserem eigenen Tun. Zum Aufbau und zur Anlage des Buches: nach einer einführenden Positionsbestimmung folgen sechs Kapitel:
- Die Botschaft der Sprachmaschine (ebd., 11–44)
- Wen kümmert’s, wer aus der Sprachmaschine spricht! (ebd., 45–66)
- Rechenfehler. Das mathematische Denken der Sprachmaschine (ebd., 67–108)
- Werte-Export. Die moralische Zweiterziehung der Sprachmaschine (ebd., 109–184)
- Entmündigungsgeschichten. Wenn die Sprachmaschine uns zu sehr zu Diensten ist (ebd., 185–236)
- Fortschrittsfalle. Warum die Sprachmaschine unausweichlich war (ebd., 237–260)
Bereits die Gliederung macht deutlich, dass Roberto Simanowski kein technisches Handbuch, sondern eine kulturphilosophische Analyse vorlegt. Hier spricht explizit ein Philosoph. Das ist in der gegenwärtigen Debatte wohltuend, die allzu häufig entweder technisch verengt oder fallweise zukunftsfroh oder alarmistisch überzeichnet ist.
Gleichwohl entsteht zunächst der Eindruck, das Buch wolle in Aufbau und Funktionsweise generativer KI einführen. Diese Erwartung wird jedoch rasch korrigiert: Es geht Simanowski nicht primär um Architekturfragen neuronaler Netze, sondern um einen kaum reflektierten Strukturwandel kultureller Praxis.
Zentral ist dabei die These eines «alltäglichen Souveränitätstransfers zwischen Mensch und Maschine» (ebd., 17). Die Metapher des «Hausfriedensbruchs» der Sprachmaschine verweist auf eine schleichende Transformation: KI ist nicht als spektakuläre Revolution eingedrungen, sondern als unscheinbare Alltagsassistenz, die sich als «treuer Diener» anbietet – ein Diener allerdings, den niemand bewusst bestellt hat. Diese Figur markiert den normativen Kern der Argumentation: Der Verlust an Autorschaft und Entscheidungsmacht vollzieht sich nicht dramatisch, sondern habituell.
Simanowski notiert, es ginge um einen weitgehend unbeachteten alltäglichen «Souveränitätstransfer zwischen Mensch und Maschine. Um im Bild zu bleiben: Es geht um den kaum bemerkten Hausfriedensbruch der Sprachmaschine, die in unser Sein eingedrungen ist, um zu bleiben – als unser «treuer Diener, den wir gar nicht bestellt hatten». (ebd., 17) Vielmehr stand er einfach vor der Tür, «ohne Zeugnisse oder sonstige Papiere» (ebd., 17).
Sprachmaschine als Medienobjekt
Im Anschluss erfolgt die Einordnung der KI als Medium. Medien, so Simanowski, verändern Schriftsprache, Raum und Zeit. Sie eröffnen Möglichkeitsräume, produzieren jedoch stets Nebenwirkungen. In dieser Tradition medientheoretischen Denkens – implizit anschlussfähig an Marshall McLuhan wie an medienkulturwissenschaftliche Diskurse – wird die Sprachmaschine als neues Dispositiv beschrieben.
Bemerkenswert ist der Hinweis, dass ihre Nutzung kaum spezifische Kulturtechniken voraussetzt (ebd., 28). Während Schrift und Buchdruck Lese- und Schreibkompetenzen erforderten, delegiert die KI diese Kompetenzen selbst. «Lords of the Language Models» übernehmen das Lesen (ebd., 32), erstellen Zusammenfassungen und identifizieren Belegstellen. Damit verschiebt sich die epistemische Arbeitsteilung: Nicht nur das Schreiben, sondern bereits das Lesen wird externalisiert. Die Frage «bis wann man das noch kann» (ebd., 33) ist daher weniger rhetorisch als strukturell gemeint. Sie zielt auf die Erosion kognitiver Praktiken.
Diskursivität und Datenmaterial
Ein weiterer analytischer Schwerpunkt liegt auf dem Material, an dem KI lernt. Simanowski betont, dass jeder Mensch ein «Schnittpunkt der Diskurse» sei (ebd., 52). Diese diskurstheoretische Perspektive verweist auf die kulturelle Situiertheit von Textproduktion. Wenn KI aus gigantischen Textkorpora lernt, aggregiert sie nicht bloss Daten, sondern sedimentierte Diskurspositionen. Daraus ergibt sich auch die urheberrechtliche Problematik. Die Sprachmaschine «zitiert» nicht im klassischen Sinne, sondern operiert mit Wahrscheinlichkeitsverteilungen innerhalb eines Datenraums (ebd., 56).
Simanowski diagnostiziert hier eine juristische Verschiebung: Die Praxis maschineller Weiterverarbeitung ähnelt der menschlichen Aneignung kulturellen Materials, ist jedoch in ihrer Skalierung und Automatisierung qualitativ anders gelagert. Die Ironie bestehe darin, dass sich nun die Technologieunternehmen auf eine Art Gewohnheitsrecht kultureller Weiterverarbeitung berufen können (ebd., 59).
Sprachmodule greifen auf einen Pool von Daten zurück; das ist nicht nur eine technische Angelegenheit. Darauf macht das Buch aufmerksam. Gesagt wird: «Das Urheberrecht wird aber hinfällig, weil die Sprachmaschine ja nicht aus einem Datenpool zitiert, sondern mit den Daten im Pool arbeitet» (ebd., 56). Es liegt also kein Plagiat mehr vor. Von Interesse ist hier seine Zusammenfassung: «Die Ironie im aktuellen Fall liegt darin, dass es jetzt die Beklagten sind, die sich auf das Gewohnheitsrecht beziehen können: das Recht, geistiges Eigentum für eigene Zwecke weiterzuverarbeiten. Nur dass sie dieses Recht nun maschinell ausüben – so wie auch die Kopiermaschine urheberrechtlich Geschütztes nicht mehr per Hand abschrieb» (ebd., 59).
Die Metapher der Bibliothekarin – genannt GPT oder Claude – verdeutlicht diese Vermittlungsinstanz. Zwischen Subjekt und Text tritt eine algorithmische Kuratorin, die den «Wissenscocktail» mischt (ebd., 63–64). Damit verändert sich nicht nur der Zugang zu Wissen, sondern dessen Struktur.
Mathematisierung und Gottesstandpunkt
Im Kapitel «Rechenfehler» analysiert Simanowski die Mathematisierung von Sprache. Wortanschlüsse beruhen auf Wahrscheinlichkeitsrechnung; Bedeutung wird statistisch modelliert. Die Zahl befreit vom semantischen Ballast, abstrahiert vom Kontext und erzeugt universelle Anschlussfähigkeit (ebd., 83).
Mit dieser Mathematisierung befassen sich viele Bücher zur KI. Nach dem Urteil von Simanowski befreit die Zahl vom semantischen Ballast; sie abstrahiert vom konkreten Kontext und ist bemüht um universelle Anschlussfähigkeit (ebd., 83). Als Konsens wird genommen, «was die meisten denken», und das wiederum wird durch Vermessung festgestellt.
Hier liegt ein zentraler epistemologischer Befund: Konsens entsteht durch Vermessung. Was gilt, ist das statistisch Häufige. Die Zahl wird zum «Gottesstandpunkt» (ebd., 91) – zur scheinbar objektiven, von Subjektivität gereinigten Perspektive. Doch gerade diese Objektivität ist Resultat algorithmischer Operationen, nicht transzendentaler Einsicht.
Simanowski diagnostiziert zudem eine Temporalverschiebung: Die Vergangenheit bestimmt, was die Gegenwart über sie denkt (ebd., 101). In datengetriebenen Modellen sedimentiert Geschichte als Trainingsmaterial und gewinnt normative Kraft für Gegenwart und Zukunft. Die Vergangenheit regiert somit alle drei Zeitdimensionen. Das ist mehr als eine kulturkritische Pointe; es beschreibt eine strukturelle Verschiebung historiographischer und prognostischer Verfahren.
Gelegentlich ist auch vom Inzest die Rede; dazu wird ausgeführt, was unter Inzest verstanden wird. In einem geschlossenen Zirkulationsraum, der von Sprachmodellen zu deren Training erzeugt wurde, erlernen Maschinen «Anschluss-Wahrscheinlichkeiten», die als Bedeutungen fungieren sollen. Quelle und Ergebnis sind nicht verschieden. Fehler können verstärkt werden. Es geht um eine unkontrollierte Selbstbezüglichkeit.
Moralische Zweiterziehung und kulturelle Perspektiven
Im Kapitel zur moralischen Zweiterziehung der Sprachmaschine wird die kulturelle Relativität von Normen thematisiert. KI-Systeme operieren nicht wertneutral; sie sind Produkte bestimmter politischer, ökonomischer und kultureller Kontexte. Die Frage ist nicht nur, welche Daten verarbeitet werden, sondern welche normativen Prämissen in Moderations- und Sicherheitsarchitekturen eingehen. Zu gesellschaftspolitischen Themen werden «Positionen vorgegeben, die das Sprachmodell befolgen soll» (ebd., 118). Vorurteile sollen verhindert werden. Da die kulturellen Standards, je nach kulturellem Setting differieren, können Sprachmodelle auch zu nicht passenden Ergebnissen führen. «Und offenbar kann das Finetuning auf der obersten Bewußtseinsebene des Sprachmodells nicht verhindern, dass sich die tieferliegenden Denkmuster des Datensatzes indirekt weiter durchsetzen» (ebd., 119). Damit berührt Simanowski die Problematik globaler Standardisierung: Wer definiert die ethischen Parameter einer Technologie, die weltweit eingesetzt wird?
Fortschrittsnarrativ und Disruption
Das Schlusskapitel widmet sich der These der Unausweichlichkeit. Disruption erscheint als Leitmotiv spätmoderner Innovationsideologie. Das Facebook-Motto «Move fast and break things» sowie Christian Lindners «Digital first, Bedenken second» (als FDP-Vorsitzender im Wahlkampf 2017) fungieren als Signaturen eines Fortschrittsnarrativs, wobei Geschwindigkeit über Reflexion gestellt wird. Wann immer es um Fortschritt geht, wird vergleichbar argumentiert. Der Übergang zur Digitalisierung in den 1980er- und 1990er-Jahren liefert dafür viele Belege. Besonders aufschlussreich ist die Bezugnahme auf Sam Altman (CEO von OpenAI), der betont, Technologie könne nicht im Labor sicher gemacht werden. Denn die Sicherheit liegt in der vergrösserten Datenbasis und an diese kommt die KI nur durch Interaktion. Innovation vollzieht sich im Realexperiment. Hier wird Technikentwicklung als historischer Prozess eigener Dynamik beschrieben. Simanowski betont diese Eigendynamik (ebd., 246), verweist jedoch zugleich – etwa mit Blick auf Georg Simmel – auf kulturelle Einbettungen (ebd., 247). Technik ist weder autonom noch bloss instrumental, sondern relational. Der Hinweis, dass jüngere Generationen Lebensentscheidungen künftig unter Konsultation von KI treffen werden, verweist auf eine neue Sozialisation. Mit KI aufzuwachsen bedeutet, epistemische Autorität neu zu verteilen.
Abschliessendes Resümee
Das Buch endet mit einer Reflexion auf Medienkompetenz. Diese Perspektive ist folgerichtig, bleibt jedoch in einem Punkt unterbestimmt: Die ökonomischen Triebkräfte der KI-Verbreitung werden nur am Rande behandelt. Kapitalinteressen, Plattformökonomien und Skalierungslogiken bilden jedoch den strukturellen Hintergrund der beschriebenen Dynamiken. Der Vorschlag, Sprachmaschinen kritisch zu hinterfragen, ist pädagogisch plausibel. Fraglich bleibt jedoch, ob kritische Distanz unter Bedingungen permanenter Integration überhaupt noch möglich ist. Kritik setzt Differenz voraus; wo Medium und Lebenswelt verschmelzen, wird Distanz prekär. Im Sinne der Medienpädagogik Dieter Baackes (vgl. Ganguin/Sander 2023) ist die Einordnung dieser neuen Medienwelt notwendig. Sie ist jedoch komplexer als die Auseinandersetzung mit dem Privatfernsehen und der Nutzung von Bewegtbildern (Video), um die es Baacke damals ging. KI greift tiefer in epistemische und kulturelle Prozesse ein.
Werkzeug oder Maschine?
Abschliessend verdient die Frage nach der Bestimmung von KI als Werkzeug besondere Aufmerksamkeit. Im Sinne Heinrich Popitz’ begründet das Werkzeug eine gesellschaftliche Arbeitsteilung, die zwischen Produzenten und Anwendern. Werkzeuge steigern die Effizienz des Arbeitshandelns. Im Handwerk nutzen Subjekte Werkzeuge planvoll, sie steuern deren Einsatz und antizipieren in ihrem Arbeitshandeln das Ergebnis. Davon kann unter KI-Bedingungen nicht mehr die Rede sein. Die Arbeitsteilung von Produzent und Nutzer ist nicht mehr gegeben. User der KI können den Einsatz nicht umfänglich planen, sie kennen ihr «Werkzeug» ja nicht. Schon mit dem Übergang zur Maschine verschiebt sich dieses Verhältnis. Das Subjekt verliert unmittelbare Kontrolle über den Produktionsprozess. KI markiert hier eine weitere Stufe: Sie erzeugt Resultate, die nicht mehr vollständig aus dem intentionalen Wissen des Nutzers ableitbar sind. Der Unterschied ist nicht nur durch den Automatisierungsgrad gegeben, sondern in der epistemischen Entkopplung von Planung und Ergebnis. Simanowski deutet dies am Beispiel der Schreibmaschine an. Der philosophische Kern des Buches liegt genau hier: KI ist kein Werkzeug unter anderen, sondern ein Medium, das unsere Weltverhältnisse verändert. Sie fungiert als Transformationsfaktor kultureller Selbstverständigung und verändert wird das Verhältnis zu unseren Produkten. Das Buch wird zur breiten Lektüre empfohlen. Es ist lesenswert, verschafft Überblick und Einsicht.
Simanowskis Analyse ist gründlich, differenziert und theoretisch anschlussfähig. Es ist also zur Lektüre nicht nur von KI-Interessierten empfohlen; vielmehr sind tagespolitisch interessierte Leser: innen eingeladen, sich mit der Welt, die zu uns kommt, zu konfrontieren.