Du wirst aufhören, ChatGPT zu benutzen, nachdem du dir das angehört hast

Haftungsausschluss: Die in diesem Artikel geäußerten Meinungen sind ausschließlich die des Autors und stellen nicht die Ansichten von Gloralis dar. Wir veröffentlichen verschiedene Perspektiven, um eine nachdenkliche Diskussion zu fördern.

Wem dient der Gral? Was uns eine alte Geschichte über KI lehren kann

Die Geschichte vom Gralsburg

Vor langer Zeit, in der Gralsburg, wo sowohl der Heilige Gral als auch die Heilige Lanze des Longinus in einer Kapelle aufbewahrt wurden, trat ein Ritter namens Balin als Gast ein. Er erschien unter dem Anschein von Gastfreundschaft, hatte aber heimlich die Absicht, einen der anderen Gäste zu töten und damit den alten Kodex zu verraten, der die Zivilisation über Jahrhunderte zusammengehalten hatte.

Nachdem er den Mord begangen hatte, wurde Balin durch die Hallen der Burg verfolgt, bis er sich in der Gralskapelle wiederfand. Dort sah er die Lanze, die die Seite Christi durchbohrt hatte, und den Kelch, der sein Blut empfangen hatte. Im Zorn geblendet, erkannte er den tieferen Zweck dieser heiligen Gegenstände nicht. Er griff nach der Lanze und stieß damit den Gralskönig, verletzte ihn und machte das gesamte Königreich zur Einöde.

Wir neigen dazu, den Heiligen Gral und die Heilige Lanze als rein mystische Symbole zu betrachten, aber in einem wichtigen Sinne repräsentieren sie auch Technologie. Der Gral war ein Gefäß, das unaufhörlich mit allem gefüllt wurde, was man essen oder trinken konnte – ein Generator des Überflusses. Die Lanze hingegen war die Waffe, die den entscheidenden Schlag führte und den Gottmenschen selbst durchbohrte. Zusammen fassen diese beiden Objekte die äußersten Möglichkeiten dessen zusammen, was Technologie sein kann: Die eine zieht nach innen, hin zur Vermehrung des Überflusses; die andere greift nach außen, zu den Kämpfen, die nötig sind, um diesen Überfluss zu erlangen oder zu verteidigen. Seit dem Anbruch der Zivilisation sind dies die beiden Hauptzwecke der Technologie. Derselbe geschärfte Feuerstein konnte den Boden bestellen oder einen Feind töten.

Nach dem Mord in der Kapelle ging der Heilige Gral verloren, und König Arthurs Ritter zogen aus, ihn wiederzufinden. Meistens konzentrieren wir uns auf die Suche selbst, vergessen aber den wichtigsten Teil der Geschichte: Der Ritter, der den Gral findet, muss eine Frage stellen — Wem dient der Gral?

Die Frage ist wichtiger als das Finden. Es ist die Antwort auf diese Frage, die die Einöde heilen wird. Und genau diese Frage hat Balin vergessen zu stellen, als er, getrieben von Machtgier, die Lanze ergriff, ohne zuvor zu fragen, wem sie — und der Gral — dienen sollten.

Wer stellt die Gralsfrage heute?

Heute feiert unsere Welt diejenigen, die den nächsten großen Durchbruch finden — das Tech-Wunder, das Neuere, Schnellere, Stärkere. Diese Entdeckungen machen uns mächtiger und effizienter, sowohl beim Erzeugen von Überfluss als auch beim Besiegen unserer Feinde. Wir feiern diejenigen, die den Gral finden. Aber wer stellt die Gralsfrage?

Einige Stimmen tun es. Als Podcaster Ross Douthat den Anthropic-CEO Dario Amodei fragte, warum er seinen optimistischen Essay über KI "Machines of Loving Grace" betitelt habe — ein Titel, der einem Gedicht entlehnt ist, in dem die Menschheit ihre Souveränität verliert und wie von Maschinen beherrschte Tiere wird — stellte er in der Wirkung die Gralsfrage. Als Jonathan Haidt The Anxious Generation schrieb und dokumentierte, wie Bildschirmabhängigkeit die psychische Gesundheit von Kindern beeinträchtigt, stellte auch er sie.

Bemerkenswert ist, dass die Menschen, die diese Technologien entwickeln, oft diejenigen sind, die uns davor warnen, dass ihre Schöpfungen eine Einöde herbeiführen könnten. Sie mahnen vor den Gefahren, während sie selbst nach der Lanze greifen. Wie kann es sein, dass Elon Musk warnen kann, KI sei gefährlicher als Atomwaffen, um eine Pause in ihrer Entwicklung bitten und dann trotzdem sein eigenes KI-Unternehmen gründen?

Sollten wir nicht alle fragen, wem der Palantír dient? Die Antwort kennen wir aus der Geschichte, die der Technologie ihren Namen gab: In Der Herr der Ringe diente der Palantír letztlich nur dem Dunklen Herrscher Sauron. Wenn Tech-Milliardäre Bunker auf entfernten Inseln bauen und sich auf den Weltuntergang vorbereiten, sollten wir alle fragen: Wem dient das? Für wen ist das?

Die Moloch-Falle

In den letzten zehn Jahren wird zunehmend über "Eskalationsfallen" in der Spieltheorie diskutiert — Situationen, in denen Wettbewerbsdruck die Einführung von Technologien erzwingt, unabhängig davon, wie gefährlich sie sein mögen, allein aus Angst, das Rennen zu verlieren. Diese Dynamik trieb das nukleare Wettrüsten an, und heute ist sie weithin als "Moloch-Falle" bekannt.

So befinden wir uns wieder einmal innerhalb einer alten Erzählung — noch älter als die Geschichte vom Gral. Moloch war eine altkanaanäische Gottheit, der man nachsagte, sie verlange Kinderopfer im Tausch für Macht. Die Moloch-Falle beschreibt, was passiert, wenn wettbewerbliche Eskalation uns dazu zwingt, das aufzugeben, was wir am meisten schätzen, selbst wenn dies gegen unsere eigenen Interessen wirkt.

So wie viele von uns beginnen, es zu bereuen, Kindern Tablets und Handys gegeben zu haben — Technologien, die sie abgelenkter, depressiver und süchtiger gemacht haben — eilen wir nun, KI in nahezu jeden Lebensbereich zu integrieren. Ob wir an einen altkanaanäischen Gott glauben oder nicht, wir könnten unsere Kinder trotzdem ihm opfern. Wie Jordan Peterson oft bemerkt hat, verhalten wir uns, als sei die Gefahr real — und das allein genügt, um den Mechanismus in Gang zu halten.

Bauen wir einen Gott?

Während KI in jede Schicht unserer Systeme vordringt, entsteht eine beunruhigende Intuition: Statt dass das Werkzeug uns dient, könnten wir selbst zu Dienern des Werkzeugs werden. Marshall McLuhan sagte dieses Ergebnis bereits in den 1960er-Jahren voraus und warnte, dass wir riskieren, auf die Fortpflanzungsorgane der Maschine reduziert zu werden.

Bauen wir einen Gott? Manche glauben das — und einige derjenigen, die ihn bauen, scheinen das auch zu denken. Wenn dem so ist, was für einen Gott bauen wir dann, wenn seine Entwicklung von einer außer Kontrolle geratenen Wettbewerbsfalle und vielleicht von der Anbetung von Reichtum und Macht vorangetrieben wird?

Eine persönliche Lösung für eine systemische Falle

Auf Systemebene habe ich keine Lösung. Niemand hat sie. Wir stecken in der Falle, und sie ist real. Die Schlange ist aus der Tasche, und sie lässt sich nicht zurückstecken. Balin hat seinen verhängnisvollen Schlag bereits in einem Rausch aus Macht, Gier und Konkurrenz ausgeführt, und uns wird gesagt, dass eine Umwälzung größer als alles, was die Menschheit bisher erlebt hat, bevorsteht. In gewissem Sinne können wir uns also nur darauf vorbereiten.

Ich glaube jedoch, dass es eine persönliche Lösung gibt, auch wenn es keine klare kollektive gibt. Sie hallt Jordan Petersons Rat wider, "mach dein Bett", obwohl meine Version leicht anders ist: Geh in die Kirche.

Das meine ich wörtlich — ja, geh in die Kirche. Aber der größere Punkt ist dieser: Wenn wir keine klare Antwort darauf bekommen können, wem diese Technologien dienen, können wir doch sicher sein, wem oder was wir selbst dienen. Dienen wir dem Reichtum? Dienen wir dem Mechanismus der Eskalation? Wenn wir die Maschine nicht daran hindern können, alles andere zu verschlingen, dann können wir dennoch wählen, voll Mensch zu werden — damit wir die Meister der Maschine bleiben und nicht ihre Diener.

Voll Mensch werden

Deshalb müssen wir verantwortungsbewusste Bürger, Eltern, Lehrende und Lernende werden — nicht nur um unserer selbst willen, sondern um des Wohls aller um uns herum. Seit der Industriellen Revolution wird Bildung zunehmend als Mittel betrachtet, um eine Fähigkeit zu erlernen, damit man einen Job bekommt. Diese Zeiten scheinen zu Ende zu gehen. Es ist Zeit zur Rückkehr zu den Geisteswissenschaften, die wichtiger werden als je zuvor.

Das Ziel sollte sein, Menschen zu helfen, voll Mensch zu werden — die beste Version ihrer selbst zu werden. Wenn wir Kindern das Tanzen, Musizieren oder Sportspielen beibringen, tun wir das meistens nicht, um sie auf eine Profikarriere vorzubereiten. Wir tun es, weil diese Aktivitäten sie menschlicher machen. Dasselbe Prinzip muss nun unser Vorgehen in allen anderen Bereichen leiten.

Wenn KI zunehmend Erinnerung, Fertigkeit und Wissen extern speichert, müssen wir bewusst Erinnerung, Fertigkeit und Wissen in uns selbst kultivieren. Lerne Gedichte. Lies Märchen. Geh zelten. Leg einen Garten an. Engagiere dich in deiner Gemeinde, in deiner Familie und in deinen Beziehungen. Vergiss nicht zu beten. Dieser Rat mag einfach, ja sentimental klingen, aber ich glaube, er ist ganz praktisch die echte Lösung für das Problem, dem wir gegenüberstehen.

Diese Technologien laufen Gefahr, uns weniger fähig und abhängiger zu machen. Bemerkenswert ist, dass die derzeitige Generation die erste in der aufgezeichneten Geschichte ist, die im Durchschnitt einen niedrigeren IQ zeigt als die vorherige Generation. Ich glaube nicht, dass die Antwort darin liegt, zum Mars zu gehen oder gar zu Alpha Centauri — abgelenkte, technologieabhängige Geister in den Weltraum zu schicken, wird keines unserer Probleme auf der Erde lösen. Ebenso wenig ist die Antwort, sich mit Maschinen zu verschmelzen oder Chips ins Gehirn zu implantieren. Nichts davon wird uns tugendhafter machen; es wird lediglich sehr mächtige, zutiefst gebrochene Menschen hervorbringen. Diejenigen, die in Geist und Gewohnheit vollständig von diesen Technologien abhängig werden, laufen Gefahr, Diener eines viel größeren Systems zu werden.

Ich glaube, dass diejenigen mit kultivierter Weisheit und Tugend — jene, die Wahrheit und Liebe praktizieren — nicht nur überleben, sondern gedeihen werden, während die künstliche Intelligenz weiterhin voranschreitet, sowohl persönlich als auch beruflich.

Schluss

Ob KI letztlich zu einer Kraft wird, die das Gedeihen der Menschheit fördert, oder zu einer, die uns in eine moderne Einöde führt — ich glaube, es gibt nur eine echte Lösung: voll Mensch zu werden — die Art von Menschen, die in unseren größten Geschichten gefeiert werden, die etwas Größerem dienen als ihrer eigenen Gier oder Machtgier. Wenn wir solche Menschen werden können, wird auch das, was wir bauen, diesen Charakter widerspiegeln.

Und wenn wir schließlich unserer eigenen Version des Grals gegenüberstehen, möge uns die Weisheit gegeben sein, die Frage zu stellen, die am meisten zählt: Wem dient der Gral? Und noch wichtiger möge uns der Mut gegeben sein, eine noch grundlegendere Frage zu stellen und zu beantworten: Wem diene ich?