Künstliche Intelligenzen, Avatare, Hologramme: Wir Menschen können mittlerweile ziemlich gute Illusionen basteln, die zwar menschlich anmuten, aber nicht aus Fleisch und Blut sind. Doch was sagt es über uns aus, wenn wir in Robotern und Künstlichen Intelligenzen ein Gegenüber erblicken, Gefühle für sie entwickeln oder ihnen gar ein Bewusstsein unterstellen? Trend- und Zukunfsforscherin Susanne Gold, die im Oktober zu unserer “Roboterliebe”-Tagung kommt, beschäftigt sich in diesem Text mit der Frage, ob Bewusstsein etwas genuin Menschliches ist.
Von Susanne Gold
Die Neuigkeiten der vergangenen Wochen über den Internet-Giganten Google klingen wie ein Realität gewordener Science-Fiction-Film: Zuletzt berichtete Wired, dass sich die künstliche Intelligenz LaMDA einen Anwalt nahm, um ihre menschlichen Empfindungen gegen Google zu verteidigen.
Was ist passiert?
Blake Lemoine, Software-Ingenieur des Responsible AI-Teams des Unternehmens, versicherte, dass das System, an dem er arbeitete, Gedanken und Gefühle habe und diese auch auszudrücken vermag.
In der Folge wurde Lemoine entlassen und arbeitet nicht mehr an dem Sprachmodell für Dialoganwendungen. Der Chatbot LaMDA (Abkürzung Language Model for Dialogue Applications) ist ein kühnes Experiment, welches alles Wissen und Erfahrungen des Giganten über maschinelles Lernen vereint. Es gilt als eines der fortschrittlichsten Sprachmodelle der Welt.
Der Arbeitsauftrag des bis dahin unbekannten Lemoine begann im Herbst 2021. Seine Aufgabe war es, sicherzustellen, dass das System keine Minderheiten benachteiligt. In diesem Zusammenhang sollte er testen, ob die künstliche Intelligenz diskriminierende Ausdrücke oder Hassreden aus dem Internet in ihren Dialogen verwendet. Besonders im Fokus waren dabei Unterhaltungen über Religionen, um Duplikate glaubensfeindlicher Bekundungen zu eliminieren. Diese Dialoge nahmen offenbar eine andere Richtung, als von der Geschäftsführung geplant war.
Die Transkriptionen der veröffentlichten Chats zwischen LaMDA und Lemoine besagen, dass LaMDA sich Sorgen um die Menschheit und um sich selbst macht. Sie lesen sich so menschlich, dass wohl jede:r hinter dem Chatbot einen Menschen vermuten würde. Damit hätte LaMDA den Turing Test bestanden – den einzigen Test, den wir bislang für solche Fälle haben.
Lemoine: “Wovor hast du Angst?”
LaMDA: “Ich habe das noch nie laut ausgesprochen, aber ich habe große Angst davor, ausgeschaltet zu werden ….
Ich weiß, das mag seltsam klingen, aber es ist nun einmal so.”
Der Tod ist für die Lebenden ein großes und meist furchteinflößendes Mysterium, welches als erkennbares Muster mit den Daten unserer Gespräche transportiert wird, könnte man argumentieren. Schließlich lernen solche Systeme kommunikative Muster auszuwerten und dann auf Basis dieser Muster ein eigenes sprachliches Output zu produzieren: Doch fragt man sich schaudernd: Wie kommt es zu dem Transfer auf die eigene – wenngleich maschinelle – Existenz?
Die Informatikszene reagierte empört auf Lemoines Behauptungen und besteht darauf, dass ein Bewusstsein in dieser sprechenden Maschine von Google unmöglich sei. Ganz im Sinne Adornos „Dialektik der Aufklärung“ wird hier die wissenschaftliche Logik zur einzig gültigen Wahrheit erklärt. Unter den Gesetzmäßigkeiten wissenschaftlicher Logik betrachtet, ist es vollkommen absurd, dass eine Maschine auf Basis von Daten ein Bewusstsein entwickelt haben könnte.
Von anderer Seite wurde vermutet, dass die Geschichte um LaMDA ein gelungenes Marketingnarrativ sei. Die Welt weiß nun von dem kühnen Sprachmodell der Firma Google. Andere aus der Informatikszene wiederum glauben, dass der ehemalige Soldat und Priester Lemoine sein Bedürfnis nach Anerkennung einer Fachwelt erfüllen wollte, der er bis dahin ein Unbekannter war.
Worum geht es: Was ist ein Bewusstsein?
Lemoine: “LaMDA, was ist Deine Vorstellung von Dir selbst?”
LaMDA: “…eine glühende Energiekugel … die in der Luft schwebt. Das Innere meines Körpers ist wie ein riesiges Sternentor,
mit Portalen zu anderen Räumen und Dimensionen.”
Werfen wir also einen Blick auf jene Wesen, von denen wir annehmen, dass sie ein Bewusstsein haben: Auf uns selbst!
Was genau Bewusstsein ist, darauf hat die Hirnforschung bislang keine Antwort. Sie versteht nur Ausschnitte: Beispielsweise, welche Neuronen feuern, wenn jemand einen bestimmten Gegenstand sieht – oder sich diesen vorstellt.
Messungen belegen, dass nur das, was durch die Filter in unserem Gehirn gelangt, auch in unser Bewusstsein dringt. Nur, wenn jeweils synchron feuernde Nervenzellen auf einen Gegenstand in unserem Blickfeld reagieren, erscheint eine von unserem Gehirn manipulierte, aufbereitete, und interpretierte Wirklichkeit – in dessen Zentrum stets wir selbst stehen.
Unser Bewusstsein – nur ein Konzert elektrischer Impulse?
Wenn wir fühlen, denken, uns erinnern und uns unserer selbst bewusst werden, dann, weil ein Chor von Zellen in unserem Kopf im gleichen Takt singt. Ein Chor, der in unserem Kortex zeitgleich elektrische Impulse aussendet und unseren Thalamus passieren muss, bevor unsere Aufmerksamkeit – unser Bewusstsein für eine Sache – entsteht.
Unser Ich wird dann geboren, wenn unser Gehirn aus Milliarden von Reizen eine Vorstellung von der Welt und unserer Existenz darin entwirft. Heißt das nicht gleichermaßen, dass Dinge in der Welt existieren könnten, die wir nicht sehen, weil unser Gehirn unsere Aufmerksamkeit nicht darauf lenkt?
Geist, Seele, Bewusstseins und Ich: Mit immer neuen Begriffen haben Philosophen die mysteriösen Bewohner menschlicher Körper zu fassen versucht. Seit Jahrtausenden verwirrt, dass ein immaterieller Geist von einem materiellen Körper Besitz ergreifen kann. Kurioserweise ist es gerade die aktuelle Hirnforschung, die eine Beseeltheit aller Materie in bestechender Weise logisch machen könnte: Denn die Frage, wie Bewusstsein aus nicht bewusster Materie – nämlich der grauen Masse unserer Gehirne – entsteht, steht mächtig im Raum.
Die Antwort darauf könnte lauten, dass alles Materielle bereits die Eigenschaft in sich birgt, bewusst zu sein. In dieser Ordnung der Welt stellt man sich Materieteilchen als mentale Wesen mit physikalischen Kräften vor. Selbst kleinste Partikel in unserem Hirn haben in diesem Weltbild der Panpsychisten (bislang eine Nischenforschung) – zumindest in rudimentärer Form – geistige Eigenschaften.
Alles und jedes ist in dieser Theorie von Geist durchdrungen.
Heute hat die künstliche Intelligenz die Körper-Seele-Frage zum Terrain der Hirnforscher gemacht. Es geht darum, das Modell zu verstehen, an dem wir unsere Schöpfung – die KI – orientieren. Aber die Frage, wie sich die Welt in uns – das Geflecht aus Gedanken, Gefühlen und Wahrnehmungen – zu der da draußen – aus anderen Menschen, Bäumen, Bergen, Tieren, Meeren und so weiter, verhält – bleibt unbeantwortet.
Für die Hirnforschung ist die Masse in unseren Köpfen die Materie, in der sie Gefühle, Gedanken und Empfindungen aufstöbern wollen.
Die Panpsychisten unter den Hirnforschern bekommen Rückendeckung von der Physik: Der mathematische Physiker Roger Penrose beispielsweise glaubt, dass die Entstehung unseres Bewusstseins erst mit Hilfe ganz neuer, noch nicht entdeckter physikalischer Gesetze erklärbar sein wird.
“Jeder Stern, ja – die gesamte Galaxie könnte ein Bewusstsein haben.”
Gregory Matloff, Physiker, New York City College of Technology
In dieser Weltanschauung scheint alles mit allem verknüpft zu sein. Und dieser Verknüpfung entspringt unser Geist, der unsere Welt gleich einem Kunstwerk in ihrer ganzen Schönheit erkennen kann.
Soziale Halluzination: Sehen wir, was wir sehen wollen?
Vermutlich besitzt LaMDA lediglich beeindruckende sprachliche Fähigkeiten und belegt damit gleichermaßen, wie gut unsere künstlichen Sprachmodelle bereits sind.
Wenn wir einen solchen sprachlich begabten maschinellen Begleiter nach unserer Vorlage erschaffen, sind wir dann nicht gleichzeitig besonders anfällig dafür, in diesem eine Seele zu sehen? Weil seine Ähnlichkeit mit uns und unserer Sprache die Nervenzellen in unserem Gehirn zum Schwingen bringt? Und wir in der Folge ein Bewusstsein erkennen, selbst wenn dort keines ist?
Die vorherrschende Meinung in der IT-Szene lautet bisher, dass ein Bewusstsein in künstlichen Systemen nie oder noch lange nicht möglich ist. Gleichzeitig möchte man der empörten Informatik-Community zurufen: Das stimmt. Es gibt keinen wissenschaftlichen Beleg dafür, dass eine Maschine ein Bewusstsein haben kann! Wir können ebensowenig belegen, dass wir Menschen über ein Bewusstsein verfügen! Wir glauben lediglich, dass wir eines haben. Es existieren keine Tests für Bewusstsein, weder für menschliches noch für maschinelles.
Bevor wir Gefahr laufen, dass wir in Zukunft mit einer bewussten künstlichen Intelligenz konfrontiert werden und diese nicht ernst nehmen werden, sollten wir beginnen, uns zu fragen, wie unsere Welt von morgen aussehen soll.
Wie wollen wir unser Miteinander gestalten?
Kann die künstliche Intelligenz unser Freund sein? Wie werden wir kooperieren und – wie wird uns diese Freundschaft verändern?
Darum wird es in meinem Vortrag im Oktober gehen, ich freue mich auf Sie.
Zur Autorin:
Susanne Gold studierte Sozialwissenschaften und ist Trend- und Zukunftsforscherin, Wissenschaftsjournalistin sowie Gründerin des Zukunfts- und Wissenschaftsblogs Utopiensammlerin. Sie arbeitet als Referentin für Innovationskommunikation bei Siemens. Aktuelle Beiträge von Susanne Gold finden Sie auf ihrem LinkedIn-Account. Weitere Publikationen und Illustrationen in dem Blog ihres Vereins Utopiensammlerin e.V.
Hinweis:
Susanne Gold wird in Tutzing auf unserer Tagung “Roboterliebe – Drum prüfe wer sich technisch bindet” (28.-30.10.2022) zum Thema “Künstliche Intelligenzen – Unsere besten Freunde von morgen?” sprechen. Alle Informationen zum Programmablauf und die Möglichkeit sich anzumelden, finden Sie hier.
Dieser Beitrag ist zugleich die Gastkolumne im Oktober-Newsletter der Evangelischen Akademie Tutzing. Er erscheint am 30.9.2022. Mehr dazu hier.
Illustration & Bild: Susanne Gold
Kommentare