Im Widerspruch zum Empire of the Nerds
20’000 Eier. 3’600 Liter Milch. 2’000 Kilogramm Käse. 3 Rinder. 25 Schweine. 1’000 Hühner. 1’000 Kilogramm Fisch. 4 Tonnen Kartoffeln. 8 Tonnen Brot und andere Getreideprodukte. 8’500 Kilogramm Gemüse. 2’200 Kilogramm Tomaten. 850 Kilogramm Karotten. 5’500 Kilogramm Obst. 1’700 Kilogramm Äpfel. 7’000 Bananen. 2’500 Kilogramm Zucker.
Was der Mensch so in einem typischen Leben zu sich nimmt, ist beeindruckend – rund zwei Drittel allerdings davon allein, um überhaupt zu sein. Körpertemperatur halten, Herz schlagen lassen, Gehirn durchbluten. Da haben wir noch keinen einzigen Schritt getan, noch keinen Berg bestiegen, noch keine grosse Tat vollbracht. Man könnte denken: Wer oder was immer uns konstruiert hat, hatte einen schlechten Tag. Menschen sind nicht wirklich effizient. Der enorme Energiezufuhrbedarf ist dabei nur ein Aspekt.
Wir haben Stimmungen, sind zuweilen schlecht gelaunt, unkonzentriert, neben der Spur. Wir überschätzen uns, lassen uns ablenken, reagieren zu spät, treffen falsche Entscheidungen. Wir werden eines Tages vermutlich fassungslos darauf zurückblicken, dass man uns Menschen tatsächlich einmal Autos hat steuern lassen. Zwei Tonnen schwere Maschinen – gesteuert von Wesen, die müde werden, aufs Handy schauen, aggressiv werden. Apropos Konfliktbewältigung. Wir lassen uns provozieren, wir sind eitel, nachtragend, neidisch, verletzlich, aggressiv. Gelegentlich führen wir Kriege. Viel zu viele Kriege.
Nein, der Mensch ist wahrlich keine perfekte Konstruktion. Und dennoch ist es genau diese Imperfektion, die uns ausmacht. All diese Imperfektionen zu beseitigen, würde bedeuten, menschliches Sein zu beseitigen.
Es ist nicht das makellose Gesicht, das uns in den Bann zieht. Es ist vielmehr das kleine Grübchen oder die Nase, die vielleicht etwas markant ist, eben gerade das Andere, was uns einzigartig macht. Das Muttermal auf der Wange von Marilyn Monroe wurde zu ihrem Markenzeichen.
Was nach den Massstäben mathematischer Symmetrie eine Abweichung vom Ideal wäre, macht einen Menschen unverwechselbar – und manchmal unwiderstehlich. Die japanische Ästhetik des Wabi-Sabi hat die Schönheit des Unvollkommenen, Unregelmässigen und Vergänglichen erkannt. Nicht das makellos standardisierte Objekt ist das schönste, sondern jenes, welches seine eigene Geschichte erzählt, das Spuren trägt, das anders ist.
Und was wären wir Menschen ohne unsere völlig unlogischen Leidenschaften? Johann Wolfgang von Goethe schrieb über 1.700 Briefe an Charlotte von Stein, die verheiratete Frau, die er leidenschaftlich verehrte und die doch nie die Seine werden sollte, wie er es sich vielleicht erträumte. Welcher Algorithmus würde ihm dazu raten? Welchen Sinn sollte es haben, über Jahre hinweg so viel Zeit, Energie und Gefühl in eine Beziehung zu investieren, deren Ausgang nie der ersehnte sein würde? «Wie kann ich seyn ohne Ihnen zu schreiben», schrieb Goethe der Freiherrin in einem seiner Briefe – völlig unlogisch und zugleich eine der schönsten Manifestationen menschlicher Leidenschaft. Abermillionen von Büchern sind voller Liebe, Sehnsucht, Hingabe, Aufopferung, Eifersucht, Hoffnung, Verzweiflung. Menschen setzen alles aufs Spiel für eine Sache, an die sie glauben. Sie riskieren ihre Sicherheit, opfern manchmal sogar ihr Leben für andere Menschen, für eine Überzeugung, für eine Liebe. To reach the unreachable star…
Der kanadische Musiker Leonard Cohen hat diesen Gedanken in seinem Lied Anthem in wunderbare Worte gefasst: «There is a crack in everything. That’s how the light gets in.» Es gibt in allem einen Riss. Und genau dort fällt das Licht hinein.
Wir sind nicht trotz unserer Imperfektion Menschen. Wir sind es gerade wegen ihr.
The Empire of the Nerds
Immer mehr gestaltet eine Handvoll zweifelsohne superschlauer Typen unsere Zukunft. Nur zu oft denken deren Gehirne in Algorithmen, in Effizienz, Skalierbarkeit, Optimierung. Und ja, ihre Empathie reicht teilweise nicht bis zu ihren Fussspitzen. Bei manchen reicht sie offenbar nicht einmal für das eigene Fleisch und Blut, wenn dieses sich entscheidet, eine andere Geschlechtsidentität anzunehmen. Es sind diese Menschen, die heute in einem kaum vorstellbaren Tempo Technologien entwickeln, die unser aller Leben grundlegend verändern, ja bestimmen werden.
Wenig Platz für Menschsein in einer Optimierungsgleichung. Aber wer will etwas dagegen haben? Unsere Briefe klingen dank KI plötzlich viel besser, auch dieser Beitrag hier ist «AI enhanced». Künstliche Intelligenz kann aber viel mehr – Krankheiten früher erkennen, Unfälle verhindern, Energie sparen und uns von unzähligen mühsamen Tätigkeiten, ja Unheil befreien. Vermutlich wird es mit AI-Überwachungssystemen weniger Kriminalität geben. Ist das nicht einfach wunderbar?
Der Zielkonflikt
Jede einzelne Verbesserung kann man für sich genommen bestens begründen. Wer möchte schon mehr Verkehrstote? Wer möchte schlechtere medizinische Diagnosen? Wer möchte fehlerhafte Produkte, unnötige Konflikte oder ungeschickt formulierte Briefe? Niemand.
Aber wenn wir immer weiter optimieren, standardisieren, automatisieren und digitalisieren, wenn wir jede menschliche Schwäche als einen Fehler betrachten, den es zu beseitigen gilt, was bleibt dann am Ende eigentlich noch von uns übrig?
Was bleibt von uns, wenn die Anbahnung einer Liebesbeziehung nicht mehr aus Werben, Hoffen, Zweifeln, Missverständnissen, Glück und Schmerz besteht, sondern aus dem Ergebnis eines Algorithmus? Wenn eine künstliche Intelligenz aus tausenden Datenpunkten errechnet, welcher Mensch am besten zu uns passt. Wenn sie uns sagt, wann wir uns melden sollen, welche Worte wir wählen, welche Gesten am erfolgversprechendsten sind. Wenn sie uns vor Enttäuschungen bewahrt, weil sie die Wahrscheinlichkeit eines Scheiterns schon im Voraus berechnet hat. Wie angenehm – und entsetzlich langweilig.
Wo bleibt das Herzklopfen, wo das unsichere Warten auf eine Antwort, wo die unvernünftige Hoffnung, die uns manchmal wochenlang beschäftigt, wo die unfassbare Freude, wenn etwas gelingt, das eigentlich aussichtslos erschien? Und wo die Traurigkeit, wenn es eben nicht gelingt? All das ist nicht besonders effizient. Aber wie sehr spüren wir uns, uns als Menschen, in diesen Momenten.
Wenn wir einmal beginnen, diesen Menschen konsequent zu optimieren, warum sollten wir dann bei seinen Verhaltensweisen aufhören? Warum nicht auch seine Intelligenz, seine Gesundheit, sein Aussehen, seine emotionalen Reaktionen, seine genetischen Anlagen? Irgendwann gäbe es vielleicht den einen perfekten Menschen. Oder jedenfalls eine Handvoll optimierter Prototypen, die millionenfach repliziert werden. Keine Kinder mehr, die aus der Liebe zweier Menschen entstehen und dann eben mal so und mal so herauskommen. Mit den Augen der Mutter, der Nase des Vaters, einem unerklärlichen Talent für Musik oder einer wunderbaren Eigenart, die niemand vorhersehen konnte. Sondern optimierte Ergebnisse.
Der Mensch als mathematische Optimierung. Niemand will das wirklich. Man kann es auch nicht wollen. Denn wenn wir diese Logik konsequent zu Ende denken, dann gehören wir Menschen, mit all unseren Schwächen und Defiziten, abgeschafft. Vielleicht käme der Planet besser ohne uns aus.
Aber es kann uns nicht in letzter Konsequenz um einen vergänglichen Planeten gehen, sondern um uns. Irgendwann wird sich die Sonne zu einem Roten Riesen aufblähen und die Erde wohl vollständig verschlingen. Vermutlich ist sie schon längst zuvor unbewohnbar geworden, mit oder ohne unser Zutun. Was über Milliarden Jahre entstanden ist, wird verschwinden: alle Berge, alle Meere, alle Lebewesen. Bis dahin haben wir Menschen hoffentlich schon ein neues Habitat in der Galaxie gefunden. Entscheidend ist aber: Für uns Menschen kann nur der Erhalt unseres Seins oberste Leitmaxime sein. Und wenn dem so ist, dann müssen wir eine Linie ziehen, bevor uns die Zügel entgleiten.
Die Linie
Das Empire of the Nerds mag eine bis in die Haarspitzen optimierte Welt hervorbringen – eine Welt, die effizienter, sicherer, berechenbarer und in vielerlei Hinsicht besser funktioniert als unsere heutige. Aber in diesem Empire ist möglicherweise erschreckend wenig Platz für Imperfektion – und damit für uns Menschen und was unser Menschsein so wundervoll macht.
Wir können eine Linie ziehen, unsere Gestaltungsmacht ist in diesem Punkt heute noch uneingeschränkt vorhanden. Wir bauen die Maschinen und setzen den Code in die Welt, der zum Handeln führt. Und so bestimmen wir, wenn wir wollen, was diese Maschinen tun und lassen sollen, um uns in unserem menschlichen Sein zu unterstützen.
Natürlich ist nicht jede menschliche Schwäche schützenswert. Kriege, Krankheiten, Gewalt und unnötiges Leid müssen wir nicht romantisieren. Niemand wird ernsthaft dafür plädieren, auf medizinischen Fortschritt oder sicherere Strassen zu verzichten, nur damit wir unsere Imperfektion bewahren.
Aber es gibt einen fundamentalen Unterschied zwischen der Beseitigung menschlichen Leids und der Beseitigung menschlicher Unvollkommenheit. Diesen Unterschied müssen wir verstehen. Und wir müssen ihn verteidigen. Und manchmal müssen wir akzeptieren, dass menschliche Eigenschaften sich nicht trennscharf in nützliche und schädliche Kategorien einteilen lassen. Oft entstehen gerade aus denselben Eigenschaften unsere grössten Schwächen und unsere grössten Stärken.
Im Diskurs zur Koexistenz von Mensch und Maschine geht es nicht einfach darum, dass alles perfekt wird. Wir sollten uns vielmehr fragen, was wir auf keinen Fall verlieren wollen.
Was tun?
Am Ende geht es vielleicht um den richtigen Prompt, mit dem wir unsere künstlichen Intelligenzen und zunehmend selbstständig handelnden KI-Agenten auf die Reise schicken. Was sollen sie erreichen? Und vor allem: Was sollen sie unterlassen?
Der Philosoph Nick Bostrom hat in seinem 2014 erschienenen Buch Superintelligence mit dem berühmten Büroklammer-Gedankenexperiment aufgezeigt, wie dramatisch es enden kann, wenn eine hochintelligente Maschine ein falsch definiertes Ziel konsequent verfolgt. Eine KI, deren einziges Ziel es ist, möglichst viele Büroklammern herzustellen, könnte irgendwann die gesamte Erde in Büroklammern verwandeln. Nicht aus Bosheit, sondern weil sie ihren Auftrag perfekt erfüllt.
Aber selbst vermeintlich ideale Ziele wie Sicherheit, Gesundheit oder Glück können gefährlich werden, wenn wir sie absolut setzen. Eine KI, die uns vor jedem Risiko, jeder Enttäuschung und jedem Konflikt bewahrt, könnte uns am Ende auch unserer Freiheit berauben.
Die Fragestellung ist keinesfalls neu. Bereits 1942 formulierte der Science-Fiction-Autor Isaac Asimov seine berühmten Robotergesetze:
Die drei Robotergesetze
Gesetz | Grundsatz |
1. Schutz | Ein Roboter darf Menschen weder schädigen noch durch Untätigkeit Schaden zulassen. |
2. Gehorsam | Ein Roboter muss menschlichen Befehlen gehorchen, sofern sie dem ersten Gesetz nicht widersprechen. |
3. Selbst-erhaltung | Ein Roboter muss sich selbst schützen, sofern dies den ersten beiden Gesetzen nicht widerspricht. |
Sinngemäss nach Isaac Asimov, 1942. Später ergänzte er ein nulltes Gesetz zum Schutz der Menschheit als Ganzes.
Moderne Nachfolger sind die UNESCO-Empfehlung zur KI-Ethik von 2021, der europäische AI Act oder auch das KI-Rahmenübereinkommen des Europarats von 2024. Menschenwürde, Selbstbestimmung, Sicherheit und menschliche Kontrolle stehen im Mittelpunkt.
Aber wie finden diese Grundsätze den Weg zur KI? Wie kann man sie so konkretisieren, dass der Agent weiss, was er tun und lassen soll? Natürlich geht es dabei um weit mehr als einen Prompt: um die Entwicklung und das Training der Systeme, um technische Schutzmechanismen und verbindliche Regeln. Der Prompt soll hier stellvertretend für all das stehen.
Die grosse Herausforderung
Es ist die Zeit der Philosophen, der Ethiker und der Psychologen. Aber ihre Aufgabe ist denkbar kompliziert. Wie soll man Imperfektion in einen Prompt übersetzen? Ist der perfekte Prompt zur Bewahrung unserer Imperfektion nicht bereits ein Widerspruch in sich?
Sicherlich können wir uns darauf verständigen, dass künstliche Intelligenz dem Menschen helfen soll, sein Leben selbstbestimmt zu gestalten, statt die Optimierung des Menschen selbst zu ihrem Ziel zu machen. Denn eine radikal auf Leistungsfähigkeit ausgerichtete Superintelligenz könnte irgendwann zu dem Schluss kommen, die vermeintlich weniger leistungsfähigen 90 Prozent der Menschheit zu beseitigen, um die verbleibenden zehn Prozent zum neuen Standard zu erklären. Eine innerhalb ihrer eigenen Logik konsequente Optimierung – mit einem monströsen Ergebnis.
Aber was heisst eigentlich selbstbestimmt? Wer entscheidet, was ein gutes Leben ist? Was eine Schwäche, was eine Stärke? Liegt das nicht im Auge des Betrachters? Und sollte es nicht gerade dort liegen?
Das ist sie, die Millionen-Dollar-Frage: Wie muss ein Prompt aussehen, der den Menschen in seiner Vielfalt bewahrt? Der uns nicht zu einem standardisierten, optimierten Superprodukt macht, sondern uns erlaubt, widersprüchlich, unvernünftig, einzigartig zu bleiben?
Es beginnt natürlich bei uns. Auch wir müssen lernen, nicht alles zu perfektionieren, was wir perfektionieren könnten. Denn eine Welt, in der niemand mehr Fehler machen darf, wäre vielleicht eine bessere Welt. Aber wäre sie noch unsere?
Vielleicht liegt genau darin das Paradox des perfekten Prompts: Wir müssen einer zur Optimierung befähigten Intelligenz vermitteln, dass nicht jede Verbesserung ein Fortschritt ist. Aber wie soll sie unterscheiden? Soll sie das Muttermal von Marilyn Monroe als Makel beseitigen oder als Schönheitsfleck bewahren? Und nach welchen Massstäben soll sie entscheiden?
An diesen Fragen werden wir uns noch intensiv abarbeiten müssen. Im besseren Fall jedenfalls. Nämlich dann, wenn wir es wenigstens versuchen.