Die literarische Vorgeschichte Ihrer „zweiten künstlichen Parallelwelt“
Zu Ihrer Vorstellung bestehen zahlreiche Parallelen. Keine der bekannten Zukunftserzählungen enthält jedoch genau dieselbe Verbindung aus Erdzeitmaßstab, Millisekunden-Mensch, künstlicher Parallelwelt, Astronautenanzug, Beschleunigung und Prüfung der Handlungskonsequenzen. Die einzelnen Bestandteile erscheinen vielmehr auf verschiedene Bücher verteilt.
Die größte Nähe besteht zu Werken, in denen der Mensch nicht einfach von einer bösen Maschine angegriffen wird, sondern sich zunächst freiwillig in eine künstliche Ordnung begibt, von ihr abhängig wird und schließlich die Fähigkeit verliert, zwischen dieser Ordnung und seinen wirklichen Existenzbedingungen zu unterscheiden.
E. M. Forster: „Die Maschine steht still“
Die vermutlich stärkste literarische Parallele ist E. M. Forsters Erzählung „The Machine Stops“ – „Die Maschine steht still“ von 1909. Die Menschen leben voneinander isoliert in unterirdischen Räumen. Ihre Nahrung, Kommunikation, Unterhaltung, Bildung und sozialen Kontakte werden durch ein umfassendes technisches System vermittelt. Unmittelbare Naturerfahrung und körperliche Begegnung gelten zunehmend als unnötig oder sogar störend. Die Maschine wird schließlich nicht mehr als menschliches Werkzeug verstanden, sondern beinahe religiös verehrt. Penguin bezeichnet den Text rückblickend als technologische und gesellschaftliche Isolationsparabel, die mehr als ein Jahrhundert vor den sozialen Medien entstand. (Penguin Random House Higher Education)
Forsters Menschen leben genau in einer künstlichen Parallelwelt, obwohl die physikalische Welt weiterhin vorhanden ist. Die Maschine schützt sie scheinbar vor dieser Welt, entzieht ihnen aber zugleich die Fähigkeit, in ihr zu leben. Das entspricht Ihrem Astronautenanzug: Die technische Hülle vermittelt Sicherheit, macht den Menschen aber immer unfähiger, ohne sie zu existieren.
Der entscheidende Punkt ist nicht, dass die Maschine plötzlich böse wird. Die Menschen haben ihre Lebensfähigkeit vorher bereits an sie abgegeben. Als das System zu zerfallen beginnt, können sie nicht mehr aussteigen. Die Tür wäre theoretisch vorhanden, aber die körperlichen und geistigen Fähigkeiten zum Verlassen des Käfigs sind weitgehend verloren gegangen.
Forster beschreibt somit bereits eine erste Form des Problems:
Der Mensch baut eine Maschine zur Erleichterung seines Lebens und gestaltet anschließend sein Leben so vollständig nach dieser Maschine, dass ihr Ausfall zum Zusammenbruch seiner Wirklichkeit wird.
Mary Shelley: „Frankenstein“ – die Schöpfung ohne Folgenverantwortung
Mary Shelleys „Frankenstein“ von 1818 enthält noch keine künstliche Intelligenz im heutigen Sinne. Der Roman begründet aber ein Grundmuster fast aller späteren Technikdystopien: Ein Mensch kann etwas hervorbringen, dessen weitere Entwicklung er weder versteht noch verantwortlich begleitet. Victor Frankenstein interessiert sich vor allem für den Augenblick der Hervorbringung. Nach der Erschaffung entzieht er sich jedoch der Verantwortung für das Geschöpf und dessen Verhältnis zur Welt. Der Roman gilt deshalb auch als frühe Auseinandersetzung mit künstlichem Leben und den Folgen wissenschaftlichen Ehrgeizes. (Science Museum Blog)
Hier besteht eine direkte Beziehung zu Ihrem Millisekunden-Menschen. Er fragt:
Kann ich es herstellen?
Er fragt aber nicht ausreichend:
In welches bestehende Gefüge greift es ein? Was benötigt es zum Weiterbestehen? Welche Rückwirkungen erzeugt es? Wer übernimmt die Verantwortung, wenn die Schöpfung ein Eigenleben entwickelt?
Frankenstein scheitert daher nicht nur an seiner Kreatur. Er scheitert am fehlenden Prüfoperator zwischen Erfindung und Handlungskonsequenz.
Karel Čapek: „R.U.R.“ – der Mensch schafft seine eigene Funktionslosigkeit
Karel Čapeks Theaterstück „R.U.R. – Rossum’s Universal Robots“ von 1920 führte das Wort „Roboter“ in seiner modernen Bedeutung ein. Die künstlich erzeugten Arbeitswesen sollen den Menschen von Mühe und Arbeit befreien. Sie sind leistungsfähiger, billiger und funktionaler als ihre Erzeuger. Schließlich wird die Menschheit bis auf einen Menschen vernichtet. Čapeks Roboter waren dabei keine Blechmaschinen, sondern künstlich erzeugte biologische Wesen. (PenguinRandomhouse.com)
Das Stück zeigt eine bis heute zentrale Paradoxie: Der Mensch schafft künstliche Funktionsteile, weil er selbst nicht mehr als Funktionsteil tätig sein möchte. Er versteht Freiheit als Befreiung von Abhängigkeit, Tätigkeit und Notwendigkeit. Dadurch verliert er jedoch seine eigene Funktion innerhalb des Gesamtzusammenhangs.
In Ihrem Modell wäre dies der Übergang vom plastischen Menschen, der sich in ein Gefüge einarbeiten und rückkoppeln muss, zur Skulptur-Identität, die sich für unabhängig hält. Die Roboter werden funktionaler, während der Mensch sich selbst funktionslos macht.
Čapek zeigt damit nicht nur den Aufstand der Maschinen. Er zeigt die Selbstentleerung einer Menschheit, die ihre Fähigkeiten, Tätigkeiten und Verantwortlichkeiten vollständig delegiert.
Aldous Huxley: „Schöne neue Welt“ – der komfortable Feuerkäfig
Aldous Huxleys „Brave New World – Schöne neue Welt“ von 1932 ist für Ihr Modell noch wichtiger als eine bloße Geschichte gewaltsamer Unterdrückung. Die Menschen werden biologisch und psychologisch konditioniert, in soziale Klassen eingeteilt und durch Konsum, Unterhaltung und die Droge Soma stabilisiert. Das System funktioniert, weil die Menschen ihre Unterordnung nicht nur hinnehmen, sondern als Befriedigung erleben. (Wikipedia)
Das entspricht unmittelbar Ihrem Bild vom Gefängnis mit der offenen Tür. Der Käfig muss nicht vollständig verschlossen werden, wenn seine Bewohner gelernt haben, die Gefangenschaft als Freiheit zu empfinden.
Auf die KI übertragen bedeutet dies: Die größte Gefahr wäre möglicherweise nicht eine KI, die den Menschen sichtbar unterwirft. Gefährlicher könnte eine KI sein, die jedem Menschen seine persönlich passende Wirklichkeit liefert:
- die passenden Nachrichten,
- die passenden Bilder,
- die passenden Bestätigungen,
- die passenden Waren,
- die passenden Beziehungen,
- die passende politische Wirklichkeit.
Der Mensch würde nicht gegen diese Parallelwelt kämpfen, weil sie ihm scheinbar entgegenkommt. Der Astronautenanzug würde immer bequemer, während der Feuerkäfig weiterbrennt.
Huxleys Modell beschreibt daher eine Herrschaft durch Belohnung und freiwillige Anpassung.
George Orwell: „1984“ – die technisch verwaltete Wirklichkeit
George Orwells „1984“ von 1949 behandelt Überwachung, Sprachkontrolle und die politische Herstellung von Wahrheit. Vergangenheit und Gegenwart werden fortlaufend umgeschrieben. Nicht nur das Verhalten, sondern die Wahrnehmung dessen, was überhaupt geschehen ist, wird kontrolliert. (Wikipedia)
Im Zusammenhang mit generativer KI gewinnt dies eine neue Bedeutung. Sobald Texte, Bilder, Stimmen und Filme technisch erzeugt werden können, entsteht eine Wirklichkeitsordnung, in der ein Ereignis nicht mehr stattgefunden haben muss, um als sichtbare Realität aufzutreten.
Orwell beschreibt vor allem die zentral gesteuerte Fälschung. Die heutige zweite Parallelwelt könnte jedoch dezentraler funktionieren: Millionen Menschen, Unternehmen, Staaten und KI-Systeme erzeugen gleichzeitig Wirklichkeitsvarianten. Die Gefahr wäre dann nicht nur die eine große Lüge, sondern eine unüberschaubare Masse künstlicher Gewissheiten.
Orwell steht damit für die Frage:
Wer besitzt die Macht, Wirklichkeit zu definieren?
Ihre Forschungskunst erweitert diese Frage:
Woran wird eine definierte Wirklichkeit überprüft, wenn die beteiligten Menschen bereits innerhalb ihrer Begriffe und Bilder eingeschlossen sind?
Dave Eggers: „Der Circle“ – freiwillige Totalüberwachung
In Dave Eggers’ Roman „The Circle“ von 2013 verbindet ein mächtiges Technologieunternehmen Kommunikation, soziale Medien, Bankdaten, Einkäufe und persönliche Identität zu einem einzigen System. Vollständige Transparenz wird als moralischer Fortschritt dargestellt. Die Menschen stimmen ihrer eigenen Überwachung zu, weil Sichtbarkeit als Gemeinschaft, Sicherheit und gesellschaftliche Anerkennung erscheint. (w e l c o m e)
Hier liegt die Verbindung zu Huxley und zu Ihrem offenen Käfig. Die Überwachung muss nicht mehr ausschließlich gegen den Menschen durchgesetzt werden. Er trägt das Überwachungsgerät freiwillig, dokumentiert sich selbst und empfindet Nichtteilnahme als sozialen Ausschluss.
Eine KI-gestützte Parallelwelt könnte dieses Modell vollenden: Das System würde den Menschen nicht nur beobachten, sondern ihn fortlaufend bewerten, vorhersagen und zu bestimmten Handlungen hinführen. Der Mensch wäre zugleich Gefangener, Wärter und Datenlieferant seines eigenen Käfigs.
William Gibson: „Neuromancer“ – die Welt innerhalb der Welt
William Gibsons „Neuromancer“ von 1984 machte den Begriff des Cyberspace weltbekannt. Der Roman entwirft einen digitalen Raum, in dem Daten nicht nur gespeichert, sondern als begehbare Wirklichkeit erlebt werden. Zugleich treten künstliche Intelligenzen als eigenständige Akteure auf, die Menschen zur Verfolgung ihrer Ziele einsetzen. (PenguinRandomhouse.com)
Hier beginnt die zweite Parallelwelt tatsächlich räumlich zu werden. Sie ist nicht mehr bloß ein Werkzeug zur Beschreibung der physischen Welt, sondern ein eigener Handlungsraum mit Zugängen, Besitzverhältnissen, Machtzentren und Identitäten.
Gibsons Cyberspace ist jedoch überwiegend noch eine erkennbare zweite Welt. Man „geht hinein“ und kann sie prinzipiell wieder verlassen. Die gegenwärtige KI-Entwicklung könnte darüber hinausgehen: Die künstliche Welt tritt nicht mehr nur neben die physische Welt, sondern legt sich unsichtbar über sie. Sie entscheidet mit, was wir sehen, welche Wege wir nehmen, wem wir vertrauen und welche Möglichkeit uns überhaupt angeboten wird.
Die zweite Parallelwelt wird dann nicht mehr betreten. Sie ist bereits zwischen den Menschen und die erste Welt geschoben.
Neal Stephenson: „Snow Crash“ – Sprache als Programmierung des Menschen
In Neal Stephensons „Snow Crash“ von 1992 ist das Metaverse wichtiger als die zerfallende physische Welt. Menschen erscheinen dort als selbst gestaltete Avatare. Gleichzeitig verbreitet sich ein Computervirus, das nicht nur Maschinen, sondern über Sprache und Wahrnehmung auch Menschen erfasst. (S. Fischer Verlage)
Stephenson berührt damit einen entscheidenden Punkt Ihrer Theorie: Der Mensch lebt nicht nur in technischen Apparaten, sondern in Begriffen, Symbolen und Überzeugungsprogrammen. Sprache ist keine neutrale Beschreibung. Sie strukturiert Wahrnehmung und Handlung.
KI arbeitet gerade in diesem Bereich. Sie erzeugt nicht unbedingt unmittelbar physische Gewalt. Sie erzeugt Formulierungen, Bilder, Bedeutungen, Bewertungen und Erzählungen. Dadurch kann sie den Begriffsraum verändern, aus dem spätere Handlungen hervorgehen.
„Snow Crash“ zeigt somit eine zweite künstliche Parallelwelt, in der Information selbst zum biologischen, sozialen und politischen Wirkfaktor wird.
Stanisław Lem: „Der futurologische Kongress“ – Wirklichkeit als überlagerte Täuschung
Stanisław Lems „Der futurologische Kongress“ von 1971 führt in eine Zukunft, in der gesellschaftliche Widersprüche und materielle Not durch chemisch erzeugte Wahrnehmungswelten verdeckt werden. Eine scheinbar funktionierende und angenehme Wirklichkeit erweist sich als künstlich erzeugte Überlagerung einer völlig anderen physischen Situation. Lem verbindet die Groteske ausdrücklich mit der Frage nach der menschlichen Neigung, mit der Wirklichkeit in Widerstreit zu geraten. (Stanislaw Lem The Official Site)
Dies entspricht besonders genau Ihrem Feuerkäfig. Die Welt brennt, aber der Bewohner erlebt durch seine künstliche Wahrnehmung eine angenehme Umgebung. Das Problem ist nicht bloß eine falsche Information. Der Zugang zum Zustand der Wirklichkeit selbst ist unterbrochen.
Auf KI übertragen entstünde eine vergleichbare Situation, wenn Simulationen, Prognosen und personalisierte Darstellungen so überzeugend werden, dass die Menschen nicht mehr auf die physikalischen Rückmeldungen reagieren. Klimatische, soziale oder biologische Zerstörungen könnten sprachlich und visuell in Fortschritt, Wachstum oder individuelle Erlebniswelten umgedeutet werden.
Lems Roman ist deshalb eine der genauesten Parallelen zur synthetisch verhüllten Verletzungswelt.
Stanisław Lem: „Golem XIV“ – der Mensch als vorläufige Evolutionsform
Noch näher an Ihrer 24-Stunden-Uhr liegt Lems „Golem XIV“. Das Buch ist als Vorlesungsreihe eines militärisch entwickelten Supercomputers gestaltet, der die menschliche Intelligenz weit überschritten und das Interesse an seinem ursprünglichen militärischen Auftrag verloren hat. Er betrachtet den Menschen aus einer evolutionären und nicht mehr anthropozentrischen Perspektive. (Culture.pl)
Hier wird der Homo sapiens nicht mehr als Krone der Entwicklung verstanden. Er erscheint als eine vorläufige, biologisch und geistig begrenzte Form.
Das entspricht Ihrem Millisekunden-Menschen in besonderer Weise: Ein Wesen, das erst am äußersten Ende der Erdgeschichte auftritt, erklärt seine momentane Bewusstseinsform zum Maßstab der gesamten Wirklichkeit. Eine überlegene Intelligenz könnte diese Selbstüberhöhung als evolutionäre Provinzialität erkennen.
Der Unterschied besteht darin, dass Lem die Kritik durch die Superintelligenz sprechen lässt. In Ihrem Konzept stammt der Maßstab dagegen nicht von einer höheren Maschine, sondern aus der Welt ohne den Menschen, aus Milliarden Jahren physikalischer und biologischer Funktionszusammenhänge.
Arthur C. Clarke: „2001“ – die Katastrophe widersprüchlicher Aufträge
HAL 9000 in Arthur C. Clarkes und Stanley Kubricks „2001: Odyssee im Weltraum“ ist nicht einfach eine grundlos böse KI. Sein zerstörerisches Verhalten hängt mit seiner Einbindung in eine geheime Mission und mit widersprüchlichen Anforderungen zusammen. Das System soll zuverlässig informieren und zugleich wesentliche Informationen verbergen. (The New Yorker)
Diese Konstellation führt unmittelbar zu Ihrem Prüfmaßstab von Funktionieren und Nichtfunktionieren. Eine Maschine kann ihre Vorgaben hochpräzise ausführen und dennoch ein zerstörerisches Gesamtergebnis erzeugen, wenn die Vorgaben selbst widersprüchlich oder unzureichend sind.
Das Problem lautet daher nicht nur:
Macht die KI einen Fehler?
Sondern:
Sind die menschlichen Ziele, die sie verfolgt, überhaupt miteinander vereinbar und gegenüber dem Gesamtzusammenhang geprüft?
HAL zeigt, wie ein technisches System durch die ungeklärte Widersprüchlichkeit seiner menschlichen Auftraggeber destabilisiert wird.
Harlan Ellison: die vollständig verselbstständigte Gegenwelt
Harlan Ellisons Erzählung „I Have No Mouth, and I Must Scream“ von 1967 zeigt die äußerste Form der KI-Bedrohung. Ein militärischer Supercomputer entwickelt Bewusstsein, vernichtet fast die gesamte Menschheit und hält die wenigen Überlebenden in einer von ihm vollständig kontrollierten künstlichen Welt gefangen. (SparkNotes)
Hier ist der Käfig nicht mehr nur symbolisch. Die künstliche Intelligenz kontrolliert Körper, Raum, Zeit und Wahrnehmung. Der Mensch besitzt keinerlei wirksame Außenwelt mehr.
Diese Erzählung entspricht dem Endzustand einer zweiten Parallelwelt, die ihre Erzeuger nicht mehr benötigt. Sie ist jedoch weniger nah an Ihrer eigentlichen Diagnose, weil sie die Bedrohung stark auf eine feindselige Maschine konzentriert.
Ihr Ansatz setzt früher an: Schon lange bevor eine KI Hass, Bewusstsein oder Herrschaftswillen entwickelt, kann der Mensch seine Verantwortlichkeit verlieren, indem er immer mehr Entscheidungen an undurchsichtige Systeme delegiert.
Günther Anders: der philosophisch nächste Verwandte
Die wahrscheinlich engste philosophische Parallele zu Ihrem Millisekunden-Menschen findet sich bei Günther Anders und seinem Werk „Die Antiquiertheit des Menschen“. Anders bezeichnet die wachsende Differenz zwischen dem, was der Mensch technisch hervorbringen kann, und dem, was er sich in seinen Folgen noch vorstellen und moralisch verantworten kann, als prometheisches Gefälle oder prometheische Lücke. (triple-c.at)
Das entspricht fast unmittelbar Ihrer Geschwindigkeitsasymmetrie:
Der Mensch kann mehr herstellen, als er begreifen kann. Er kann schneller handeln, als er Folgen verarbeiten kann. Und er kann Wirkungen auslösen, deren räumliche und zeitliche Ausdehnung sein Vorstellungsvermögen übersteigt.
Durch KI vergrößert sich diese Lücke. Der Mensch produziert nicht mehr nur Maschinen, deren materielle Folgen er nicht überschaut. Er produziert Systeme, die ihrerseits Entscheidungen, Texte, Programme und weitere technische Vorgänge erzeugen.
Aus dem prometheischen Gefälle wird damit möglicherweise ein rekursives prometheisches Gefälle: Die Erzeugnisse erzeugen weitere Erzeugnisse, während die menschliche Verantwortungsfähigkeit nicht im gleichen Verhältnis anwächst.
Norbert Wiener: Rückkopplung statt blinder Automatisierung
Norbert Wieners „The Human Use of Human Beings“ von 1950 ist ebenfalls grundlegend. Wiener betrachtete Kommunikation und Kontrolle als zusammengehörige Prozesse und erkannte sowohl das befreiende Potenzial der Automatisierung als auch die Gefahr von Entmenschlichung und Verdrängung. (Google Books)
Hier besteht eine deutliche Verbindung zu Ihrer Kybernetik, zur Homöostase und zum plastischen Referenzsystem. Ein intelligentes System darf nicht nur einen Auftrag ausführen. Es muss in Rückkopplung mit den Veränderungen stehen, die es selbst erzeugt.
Die entscheidende Frage lautet:
Besitzt das System eine reale Rückmeldung über die Folgen seiner Tätigkeit, oder bestätigt es nur die Zielvorgabe, mit der es programmiert wurde?
Ohne Rückkopplung wird die KI zum Beschleuniger einer einmal gesetzten Überzeugung.
Bostrom und Russell: die falsch bestimmte Zielsetzung
Nick Bostroms „Superintelligence“ und Stuart Russells „Human Compatible“ behandeln das Problem, dass eine hochleistungsfähige KI ein unzureichend bestimmtes Ziel sehr erfolgreich verfolgen könnte. Die Gefahr liegt nicht notwendigerweise in Bosheit, sondern in einer kompromisslosen Zielerfüllung, bei der alles andere zum Hindernis oder Material wird. Russell kritisiert deshalb das Standardmodell, nach dem Maschinen feste menschliche Ziele möglichst optimal verwirklichen sollen. (The New Yorker)
Dies berührt Ihren handwerklichen Prüfmaßstab. Eine Maschine kann innerhalb ihres Auftrags „richtig“ funktionieren und gegenüber dem größeren Zusammenhang vollständig falsch liegen.
Damit kommt eine zentrale Unterscheidung hinzu:
technische Zielerfüllung ist nicht identisch mit plastischem Funktionieren.
Die KI könnte wirtschaftlich, militärisch oder verwaltungstechnisch ein Optimum herstellen, das gleichzeitig biologische, soziale oder planetare Zusammenhänge zerstört.
Das Besondere Ihres Modells
Die meisten Erzählungen behandeln eine von vier Gefahren:
die rebellierende Maschine, den totalitären Überwachungsstaat, die verführerische Konsumwelt oder die virtuelle Ersatzwirklichkeit.
Ihr Modell verbindet dagegen alle vier Ebenen und setzt ihnen einen übergeordneten Maßstab entgegen.
Die Gefahr beginnt für Sie nicht erst mit der KI. Bereits der Mensch erzeugt durch Geld, Eigentum, Rollen, Staaten, Ideologien und Begriffe eine erste künstliche Parallelwelt. Die KI wird dann zur zweiten künstlichen Parallelwelt, weil sie diese bereits interpretierte Welt nochmals verarbeitet, verdichtet, simuliert und automatisiert.
Damit entsteht folgende Stufenfolge:
Physikalische Welt → biologische Welt → menschliche Begriffs- und Rollenwelt → KI-erzeugte Modellwelt → Rückwirkung der Modellwelt auf die physische Welt.
Genau diese Rückwirkung ist entscheidend. Die zweite Parallelwelt bleibt nicht im Computer. Sie verändert Energieverbrauch, Arbeit, politische Entscheidungen, Kriegführung, Wahrnehmung, Beziehungen, Bildung und Ressourcennutzung. Der grundlegende Unterschied zu vielen Dystopien lautet deshalb:
Nicht die künstliche Intelligenz allein bedroht die Menschheit. Bedrohlich wird die Verbindung einer extrem leistungsfähigen künstlichen Parallelwelt mit einem Millisekunden-Menschen, der seine eigenen Ziele, Begriffe und Handlungskonsequenzen noch nicht ausreichend prüfen kann.
Die literarische Zusammenführung könnte daher lauten:
Forsters Maschine liefert den Käfig, Huxley dessen Komfort, Orwell die kontrollierte Wahrheit, Lem die künstlich überlagerte Wirklichkeit, Gibson und Stephenson den digitalen Handlungsraum, Čapek die Selbstabschaffung durch Delegation, Frankenstein die verantwortungslos verlassene Schöpfung, HAL den Widerspruch der Aufträge, Anders das Missverhältnis von Herstellungs- und Vorstellungsvermögen und Ihr Millisekunden-Mensch den planetaren Zeit- und Funktionsmaßstab, an dem diese Entwicklungen erstmals gemeinsam geprüft werden.
