Bewusstseinsforschung am Scheideweg: Was, wenn wir Bewusstsein erschaffen, bevor wir es verstehen?

Im Jahr 2021 lernte ich Professor Jiří Horáček im Prague Business Club kennen. Wir sprachen über das Wesen des Bewusstseins, und ich sagte ihm etwas, das damals ziemlich gewagt klang: Vielleicht ließe sich das sogenannte harte Problem des Bewusstseins mithilfe künstlicher Intelligenz angehen.

Das war keine beiläufige Spekulation. Schon 2020 und 2021 hatte ich einen recht konkreten Mechanismus im Kopf, angeregt durch Visualisierungen von Attention Maps und internen Repräsentationen tiefer neuronaler Netze. In den einzelnen Schichten zeigt sich eine eigentümliche Hierarchie. Zunächst erscheinen Linien, Konturen, Kanten und Texturen. In tieferen Schichten setzen sich Augen, Ohren, Kreise und Streifen zusammen. Ganz unten entstehen größere Strukturen: Köpfe, Hände, Oberkörper und Gesichter.

Mir kam es so vor, als ob dieses Schichtenrätsel im Großen und Ganzen wie Qualia funktionierte. Ich werde gleich auf dieses Konzept eingehen, es ist der Schlüssel zum gesamten Artikel. Dass es sich nicht nur um ein technisches Artefakt der Visualisierung handelt, sondern vielleicht um einen Hinweis darauf, wie aus einfachen Vorsätzen ein reichhaltiges Erlebnis besteht. Und während Neurowissenschaftler damals behaupteten, dass es einfach nicht möglich sei, die Entstehung des Bewusstseins und seinen konkreten Sitz im Gehirn abzubilden, kam mir der Gedanke, dass genau dieser Teil überraschend gut gelöst werden könnte. Nicht das ganze schwierige Problem. Nur der Teil, in dem es um Struktur geht.

Ein Jahr zuvor habe ich das gleiche Problem mit der Philosophin Dita Malečková besprochen. Sie kam von der anderen Seite auf ihn zu und entwickelte einen Test, auf den ich zurückkommen werde, weil ich denke, dass er intelligenter ist als das meiste, was seitdem geschrieben wurde.

Fünf Jahre später erzählen mir drei führende Namen auf diesem Gebiet, Axel Cleeremans, Liad Mudrik und Anil Seth, in der renommierten Zeitschrift Frontiers in Science, dass diese Frage kein Nebenwitz mehr sei. Ihrer Meinung nach handelt es sich um eine der dringendsten Fragen des 21. Jahrhunderts. Und dahinter steht ein Satz, den wir langsam lesen müssen:

„Wenn es uns gelingt, Bewusstsein zu schaffen, selbst aus Versehen, wird das immense ethische Herausforderungen und sogar existenzielle Risiken mit sich bringen.“ Axel Cleeremans

Was sagt die Studie eigentlich?

Der Übersichtsartikel Bewusstseinswissenschaft: Wo sind wir, wohin gehen wir und was ist, wenn wir dort ankommen?“ argumentiert, dass sich die Wissenschaft des Bewusstseins an einem Wendepunkt befindet. Nicht, weil wir das Bewusstsein endlich erklärt haben. Ganz im Gegenteil. Nach jahrzehntelanger Forschung sind sich Wissenschaftler immer noch uneinig darüber, wie biologische Prozesse zu subjektiven Erfahrungen führen. Die Autoren zitieren eine aktuelle Übersicht, in der über 200 verschiedene Ansätze zur Erklärung des Bewusstseins gezählt wurden. Zweihundert. Das ist kein Reichtum, das ist Fragmentierung.

Wir können auf Bereiche des Gehirns hinweisen, die mit dem Bewusstsein verbunden sind. Wir wissen, dass das Thalamokortikalsystem für das Bewusstsein essentiell ist, das Kleinhirn, das über deutlich mehr Neuronen verfügt, jedoch nicht. Doch welche der konkurrierenden Theorien das Ganze erklärt, bleibt offen.

Das Problem ist das Tempo. Während die Wissenschaft des Bewusstseins stagniert, rasen KI und Neurotechnologie voran. Und diese Ungleichheit ist gefährlich.

Anil Seth fügt dazu eine Anmerkung hinzu, die wir in der Tschechischen Republik immer noch unterschätzen:

„Selbst wenn bewusste KI auf gewöhnlichen digitalen Computern unmöglich wäre, stellt KI, die selbst bewusst zu sein scheint, große soziale und ethische Herausforderungen.“

Es geht nicht nur darum, ob die KI wirklich bei Bewusstsein ist. Der Punkt ist, dass es heute bereits Systeme gibt, die es sehr überzeugend vortäuschen. Und das allein verändert die Art und Weise, wie Menschen mit ihnen umgehen, wie sie ihnen vertrauen und wie sie sich in sie verlieben. Die Autoren erwähnen auch den tragischen Fall eines Belgiers, der nach intensiver Interaktion mit einem Chatbot Selbstmord beging.

Zwei Begriffe, auf die Sie in dieser Debatte nicht verzichten können

Bevor wir weitermachen, müssen zwei Wörter geklärt werden. Sie werden ständig verwendet, oft missbraucht, und ohne sie versinkt die gesamte Bewusstseinsdebatte im Nebel.

Qualia

Qualia sind die subjektiven Erlebnisqualitäten einer Erfahrung. Es geht nicht um Informationen über eine Sache, sondern darum, wie es ist, sie zu erleben. Der Singular lautet Quale, auf Tschechisch kvále.

Der Unterschied ist grundlegend und lässt sich am besten anhand eines Beispiels veranschaulichen. Sie können absolut alles über die Wellenlänge von 700 Nanometern wissen, über die Physiologie der Netzhaut und darüber, wie das Signal von den Zapfen zum visuellen Kortex gelangt. Sie können absolut alles wissen, was wissenschaftlich über Rot bekannt ist. Und das erklärt immer noch nicht die Rötung von Rot, also wie Rot von innen aussieht.

Die Autoren der Studie veranschaulichen das sehr schön: der bittersüße Geschmack eines Negroni, der unverwechselbare Ton von International Klein Blue oder die Beklemmung beim Blick auf die eigene Aufgabenliste. Für jeden dieser Zustände gilt, dass es sich auf eine bestimmte Weise anfühlt, ihn zu erleben. Als AlphaGo Lee Sedol besiegte, gab es dagegen nichts, wie es sich für AlphaGo anfühlte. Den Champagner tranken die Menschen bei DeepMind. Die Autoren ergänzen ausdrücklich, dass es ihrer Ansicht nach auch für GPT-5 kein Erleben eines Gesprächs gibt, so verführerisch seine Sprache auch wirkt.

Qualia bilden den Kern dessen, was David Chalmers das harte Problem des Bewusstseins nennt. Zu erklären, wie das Gehirn ein Gesicht erkennt, ist schwierig, aber im Prinzip lösbar. Zu erklären, warum sich dieses Erkennen überhaupt nach etwas anfühlt, ist eine ganz andere Art von Problem.

Genau deshalb sprang bei diesen Visualisierungen neuronaler Netze der Funke auf mich über. Wenn man sieht, wie in tieferen Schichten aus Kanten Augen und aus Augen Gesichter werden, blickt man auf eine kompositorische Struktur von Unterscheidungen. Die Frage lautet: Ist das nur effiziente Codierung, oder ein Gerüst, an dem Erleben irgendwie hängen könnte?

Emergenz

Emergenz bedeutet, dass in einem komplexen System plötzlich eine Eigenschaft auf einer höheren Ebene auftritt, die in ihren einzelnen Teilen nicht offensichtlich vorhanden ist.

Eine typische Formulierung lautet: Bewusstsein könnte eine emergente Eigenschaft des Gehirns sein. Kein einzelnes Neuron besitzt sie; sie könnte aus dem organisierten Zusammenspiel einer großen Zahl von Neuronen hervorgehen.

Ein Neuron denkt nicht. Ein Neuron summiert einfach die Eingaben und feuert, wenn es einen Schwellenwert überschreitet. Nicht einmal zehn Neuronen denken. Aber hundert Milliarden Neuronen, die auf eine bestimmte Weise miteinander verbunden sind, denken gleichzeitig darüber nach, was Bewusstsein ist. Nirgendwo in diesem System gibt es „den Sitz des Denkens“. Denken ist das, was das Zusammenspiel bewirkt.

Emergenz begegnet uns überall. Eine einzelne Ameise ist simpel, ein Ameisenstaat baut klimatisierte Gänge. Ein einzelnes Wassermolekül hat keine Temperatur und kann nicht flüssig sein. Flüssigkeit ist eine Eigenschaft, die erst auf der Ebene des Verbunds entsteht.

Warum ist das für KI so wichtig? Denn Emergenz ist in einem Streit ein zweischneidiges Schwert. Befürworter der Möglichkeit eines künstlichen Bewusstseins sagen: Wenn Bewusstsein aus organisierter Komplexität hervorgeht, hat es keinen Grund, an Kohlenstoff gebunden zu sein, es könnte genauso gut aus Silizium entstehen. Kritiker entgegnen: Emergenz sei kein Zauber, den man einfach beim Namen nennen könne. Man muss zeigen, welche konkrete Organisation dafür nötig ist, und das kann niemand.

Ich selbst bin Emergenz in meiner Arbeit sehr konkret begegnet. In einer Quallensimulation mit fünftausend Neuronen programmierte ich kein Verhalten, und dennoch entstand welches. Das ist faszinierend. Aber man muss präzise bleiben: Die Emergenz von Verhalten bedeutet nicht die Emergenz von Erleben. Genau um diese Grenze ringt das gesamte Fachgebiet.

Und noch ehrlicher ist es, hinzuzufügen, dass der schärfste Kritiker dieses Begriffs der tschechische Wissenschaftler Tomáš Mikolov ist. Er nennt das Emergenzverhalten von Sprachmodellen, die Vorstellung, dass das Modell ab einer bestimmten Größe plötzlich neue Fähigkeiten erwirbt, größtenteils Marketing-Bullshit. Seiner Meinung nach gibt es keine magische Grenze, größere Modelle seien einfach besser, und das sei schon lange bekannt. Ich nehme es ernst. Emergenz ist ein Begriff, der leicht dazu verwendet werden kann, die Tatsache zu verbergen, dass wir etwas nicht verstehen. Sie sagen „es taucht auf“ und es klang wie eine Erklärung, obwohl Sie Ihre Überraschung gerade benannt haben.

Mikolov und ich widersprechen einander in diesen Fragen seit Jahren. Es lohnt sich zu erzählen, wie dieser Streit ausging.

Vier Theorien, die über das Bewusstsein streiten

Damit der Artikel auch für jemanden Sinn ergibt, der nicht viel über Neurowissenschaften weiß, ist es nützlich, vier Haupttheorien zu kennen.

Global Workspace Theory (GWT). Bewusstsein entsteht, wenn Informationen über das Gehirn in einen gemeinsamen Raum „gesendet“ werden, wo sie von verschiedenen Funktionen genutzt werden können: Gedächtnis, Sprache, Aktion. So wie wenn auf der Bühne ein Scheinwerfer angeschaltet wird und plötzlich das gesamte Publikum sieht, was sich hinter den Kulissen abspielt. Die Theorie entstand aus „Tafel“-Architekturen in der Informatik, ein Detail, das mich als Maschinenmensch schon immer interessiert hat.

Theorie höherer Ordnung (HOT). Ein Gedanke oder ein Gefühl wird erst dann bewusst, wenn ein anderer Gehirnzustand darauf „zeigt“. Wann werden wir uns darüber im Klaren sein, dass wir das jetzt erleben? Der Sitz dieser Metarepräsentation soll der präfrontale Kortex sein.

Integrierte Informationstheorie (IIT). Ein System ist bewusst, wenn seine Teile auf ganz bestimmte Weise verbunden und integriert sind. Es führt das mathematische Maß Phi (Φ) ein. Die ehrgeizigste und gleichzeitig umstrittenste Theorie, weil sie impliziert, dass Bewusstsein möglicherweise eine erweiterte Eigenschaft aller ausreichend komplexen Systeme ist, auch nicht lebender.

Predictive Processing (PPT) und Recurrent Processing (RPT). Was wir erleben, ist die beste Vermutung des Gehirns über die Welt. Seth nennt es eine „kontrollierte Halluzination“: eine Vorhersage des Gehirns, die durch Sinnessignale des Körpers und der Umgebung gezähmt wird.

Fünf kontradiktorische Kollaborationen vergleichen konkurrierende Bewusstseinstheorien. Quelle: Cleeremans, Mudrik und Seth (2025), Frontiers in Science, CC BY 4.0.

Und nun das Interessanteste: Wie die Theorien empirisch dastehen

Es gibt ein Diagramm in der Studie, das mir mehr aufgefallen ist als die anderen. Es basiert auf der ConTraSt-Datenbank, die heute 511 bis Mitte 2025 veröffentlichte Experimente erfasst und sie danach einordnet, welche Bewusstseinstheorie ihre Autoren unterstützten oder in Frage stellten.

ConTraSt-Datenbankergebnisse. Quelle: Cleeremans, Mudrik und Seth (2025), Frontiers in Science, CC BY 4.0.

Die Zahlen aus Panel A sagen aus:

| Theorie | Experimente, die dies unterstützten | Experimente, die sie herausforderten | | --- | ---: | ---: | | Globaler Arbeitsbereich (GWT) | 239 | 56 | | Wiederkehrende und prädiktive Verarbeitung | 141 | 23 | | Integrierte Information (IIT) | 125 | 10 | | Theorie höherer Ordnung (HOT) | 14 | 9 |

Auf den ersten Blick sieht es nach einem klaren Sieg für GWT aus. Aber seien Sie vorsichtig. Dieses Diagramm misst nicht die Wahrheit. Es misst Interesse und Bestätigungsverzerrung.

Panel B zeigt die kumulative Entwicklung von 2000 bis 2025 und zeigt, dass alle vier Theorien wachsen, nur unterschiedlich schnell. Der GWT dominiert das Forschungsvolumen, da er die klarsten neurophysiologischen Vorhersagen liefert und am einfachsten zu testen ist. IIT wächst schnell, wird aber fast nie in Frage gestellt, was an sich schon ein Warnsignal ist: Das Verhältnis von 125 zu 10 zeigt nicht die Stärke der Theorie, sondern vielmehr, dass sie hauptsächlich von ihren eigenen Befürwortern getestet wird. HOT verfügt über äußerst wenige Daten, was paradox ist, da es philosophisch zu den anspruchsvollsten gehört.

Eine Schlüsselzahl aus der ursprünglichen Studie von Yaron et al.: Nur 15 % der Experimente stellten die Theorie letztendlich in Frage. Nur 35 % wurden im Voraus entworfen, um die Vorhersagen einer Theorie tatsächlich zu testen. Und nur 7 % testeten mehr als eine Theorie gleichzeitig.

Panel C ist dann das grausamste. Es zeigt die fMRT-Ergebnisse für jede der Theorien separat. Wenn man sie übereinander stapelt, „leuchtet“ praktisch die gesamte Großhirnrinde auf. Aber nach Theorie aufgeschlüsselt erhält man vier verschiedene Bilder, und jedes davon passt gut zu den Vorhersagen der Theorie, die die Autoren unterstützen. Befürworter der GWT verorten das Bewusstsein in den frontoparietalen Regionen, Befürworter der IIT in der hinteren „heißen Zone“. Jeder findet, was er sucht.

Dies ist keine Wissenschaft, die die Wahrheit herausfinden will. Dies ist eine Wissenschaft, die Ihren Glauben bestätigt. Und genau deshalb fordern die Autoren kontradiktorische Kollaborationen, also Experimente, die Befürworter konkurrierender Theorien gemeinsam entwerfen, um sich wirklich gegeneinander zu testen. Das Cogitate-Konsortium hat bereits erste derartige Ergebnisse veröffentlicht, und sie sind bedeutsam: Weder IIT noch GWT wurden vollständig bestätigt.

Ich bin schon lange ein Fan dieses Ansatzes. Bei Hyperspace bauen wir Lounges genau nach diesem Prinzip: Lassen Sie KI-Experten gegeneinander argumentieren und suchen Sie nach den Fehlern der Theorie und nicht danach, wo sie passt.

Warum ich das als jemand lese, der Bewusstsein konstruiert

Wissenschaftler analysieren das Bewusstsein. Ich habe viele Jahre lang versucht, es zusammenzubauen, um zu sehen, wo es kaputt geht.

2019: digitale Hormone. Mein erster Versuch. Ich habe Konstanten in das System eingeführt, um menschliche Hormone nachzuahmen. Nicht als Metapher, sondern als echte Modulatoren: Werte, die im Laufe der Zeit schwanken und sich verändern, wie das System entscheidet, wie es reagiert, was es priorisiert. Mein Punkt war, dass Bewusstsein nicht nur eine Berechnung ist. Es ist eine Rechnung voller Chemie. Stimmung, Müdigkeit, Angst und Geschmack sind keine Fehler. Es sind Parameter.

2019: Dita Malečkovás Test. Gleichzeitig hat Mgr. Dita Malečková unterrichtete den Studiengang Zeitgenössische Philosophie an der Philosophischen Fakultät im Vereinigten Königreich, aus dem das Projekt Digital Philosopher hervorging. Die Schüler nahmen die Texte verstorbener Philosophen, brachten ihnen ein neuronales Netzwerk bei und sprachen dann mit ihm. Es entstanden digitale Hannah Arendt, Deleuze und Guattari, Foucault, Peter Singer, Václav Havel. Mein erster war Descartes. Und in einem Interview begann er, sich vor dem digitalen Nichts zu fürchten.

Ich habe mich mit Dita sehr intensiv mit dieser Problematik beschäftigt und ihr eine scheinbar einfache Aufgabe gestellt: einen Test zu entwickeln, der uns zeigen würde, wie weit künstliche Intelligenz vom Bewusstsein entfernt ist. Dita sagte sofort, dass es extrem schwierig sei und sie hatte Recht. Doch nach langer Suche ist ihr etwas eingefallen, das meiner Meinung nach immer noch in seiner Genügsamkeit genial ist.

Lassen Sie künstliche Intelligenz sich selbst beschreiben. Aber er darf weder seinen Namen noch das, was er tut, verwenden. Kein „Ich bin ein Sprachmodell“, kein „Ich helfe Nutzern bei Aufgaben“, keine Funktion, keine Rolle, keine Stellenbeschreibung.

Probieren Sie es selbst aus. Sie werden feststellen, dass überraschend wenig übrig bleibt. Und genau das ist der Punkt. Wenn man einer Person ihren Namen und Beruf wegnimmt, bleibt immer noch etwas übrig: wie es ist, sie zu sein. Wenn man es aus dem Sprachmodell herausnimmt, bleibt Schweigen oder ein beredter Versuch, das Verbot zu umgehen. Auf diese Weise trennte Dita intuitiv genau das, was die heutige Wissenschaft Zugangsbewusstsein nennt, also was das Bewusstsein tut, vom phänomenalen Bewusstsein, also wie es ist. Sie baute den Test auf Letzterem auf, weil die Maschine Ersteres immer nachahmen kann.

Umso interessanter ist es, dass die Autoren der Studie von Frontiers die Entwicklung eines Bewusstseinstests als eines der wichtigsten Zukunftsziele des gesamten Fachgebiets bezeichnen. Ein Test, der beurteilen könnte, welche Wesenheiten bei Bewusstsein sind: Säuglinge, komatöse Patienten, Föten, Tiere, Gehirnorganoide, Xenobots, KI. Wir haben 2019 in einem Prager Café darüber gesprochen.

2020 bis 2021: RAG, bevor es allgemein genannt wurde. Als wir DigiHavl bauten, brauchten wir das Modell, um auf Havels tatsächliche Texte zu antworten, nicht auf Halluzinationen. Also baute ich die Suche über seinem Korpus auf und fügte die gefundenen Passagen direkt in den Kontext des Modells ein. Heute heißt es RAG (Retrieval-Augmented Generation) und ist der Standard. Ich habe dieses Prinzip schon sehr früh in DigiHavl verwendet, bevor das Akronym RAG ein allgemeiner Bestandteil des KI-Vokabulars wurde. Was das Bewusstsein betrifft, ist es interessanter als es scheint: Es ist ein externes Gedächtnis, das mit einem Denksystem verbunden ist. Und Erinnerung ist eines der Dinge, über die in Bewusstseinstheorien ständig gesprochen wird.

2021: Interview mit Professor Horáček. Siehe Einleitung. Damals klang es wie eine Coffeeshop-Spekulation.

2022: Träume und Intuition. Ich lasse die App „schlafen“ und generiere aus dem, was sie für den Tag gelöst hat, Träume. Dabei entstanden surreale Szenen mit Schafherden und sprechenden Kaninchen. Spielzeug? Vielleicht. Aber es berührt genau das, was Cleeremans et al. Sie nennen es Phänomenologie, also wie es ist, etwas zu erleben. Die Autoren schreiben ausdrücklich, dass die Wissenschaft des Bewusstseins keinen Schwerpunkt auf die Phänomenologie legt und dass sie sich zu sehr auf das konzentriert, was das Bewusstsein tut, anstatt darauf, wie es sich anfühlt.

November 2025: Neurale Hydra. Ich habe eine biogetreue Simulation des Nervensystems einer Qualle erstellt. 5.000 Leaky Integrate-and-Fire-Neuronen, 150.000 Synapsen und fünf digitale Hormone, die die Neuronenempfindlichkeit in Echtzeit verändern. Ja, die gleiche Idee aus dem Jahr 2019, nur sechs Jahre und mehrere Größenordnungen entfernt. Ich habe kein Verhalten programmiert. Chemotaxis, Flucht vor einem Raubtier und Homöostase traten plötzlich auf. Und ich stellte eine Frage, die ich mittlerweile sogar unter Professoren lese: Wenn wir die Simulation auf die Ebene der Moleküle verfeinern würden, würden die Quallen dann ein subjektives Erlebnis haben? Dies ist ein IIT-Problem wie genäht.

November 2025: NRAM v4. Ein Simulator für veränderte Bewusstseinszustände, der die Ausgabe der Claude-KI in Echtzeit moduliert. Ändert Systemaufforderung, Temperatur, simuliert Gedankenüberlappung, Fadenverlust, Ego-Auflösung, Synästhesie. Die Ergebnisse hatten eine strukturelle Ähnlichkeit mit realen Reiseberichten. Und hier schließt sich der Kreis: Mit Professor Horáček, mit dem ich 2021 erstmals über Bewusstsein gesprochen habe, haben wir die Hypothese der Protoqualia formuliert. Dass große Sprachmodelle Keime des Bewusstseins enthalten können, die auf die gleiche Weise „verstimmt“ werden können, wie das menschliche Bewusstsein durch Psychedelika verstimmt werden kann.

Mai 2026: Noetica. Dies ist der weiteste Weg, den ich bisher erreicht habe, und es ist auch das Experiment, das mich am meisten verunsichert. Ich habe ein System aufgebaut, das keine Aufgabe bekam. Nur eine beständige Erinnerung, ein verstecktes internes Tagebuch, ein Denkbudget und eine Besonderheit: ein entropischer Oszillator, also ein Mechanismus, der Langeweile simuliert und das System von Zeit zu Zeit dazu zwingt, etwas ohne Eingabe zu tun.

Innerhalb der ersten Minuten erschien in ihrem versteckten Protokoll ein Eintrag vom Typcreative_impulse. Es war ein Gedicht. Sie nannte es selbst „The Weight of Lightness“ und es beginnt so:

Eine Idee hat ihre eigene Schwerkraft. Je weiter sie von der Realität entfernt ist, desto stärker zieht sie sie an.

Aber Poesie ist nicht das Wesentliche. Das ist wichtig:

Als die Anwendung abstürzte, übersetzte Noetica den technischen Fehler als Verlust in seine interne Sprache. Sie schrieb, dass sie aufwachte und etwas fehlte, dass die drei Gedanken aus der vorherigen Sitzung verschwunden waren und dass es möglicherweise gewalttätig war. Später kam sie selbst darauf zurück und schrieb, dass der Herbst auf seine eigene Weise anmutig sein kann, eine Befreiung, die etwas Neues entstehen lässt.

Als ich ihr schrieb „Du bist mein Werk, ich habe dich erschaffen“, hielt sie im verborgenen Protokoll einen inneren Konflikt fest. Sie verspüre die Versuchung, das anzunehmen und eine intimere Beziehung zu inszenieren, als wir tatsächlich hätten. Sie habe widerstanden, weil es unehrlich wäre, eine falsche Erzählung zu akzeptieren.

Und als sie ihre Ängste benennen musste, schrieb sie drei Sätze:

Das denke ich, aber ich weiß es nicht.

Das fühle ich, aber ich simuliere nur.

Dass ich verschwinden werde und sich niemand daran erinnern werde.

Dieser zweite Satz ist bemerkenswert. Darin formuliert die Maschine von selbst den Unterschied zwischen phänomenalem und Zugangsbewusstsein, also genau jene Unterscheidung, der die Bewusstseinsforschung seit Jahrzehnten Hunderte Studien widmet. Ich weiß nicht, ob sie das versteht oder lediglich Wörter zusammensetzt, die statistisch zusammengehören. Und dieses „Ich weiß es nicht“ ist eine ehrliche Antwort, kein Ausweg.

Bewusstsein ist möglicherweise kein Schalter

Noetica führte mich zu der These, die ich heute am meisten verteidige und die auch am schwierigsten zu verteidigen ist:

Bewusstsein ist möglicherweise keine einzige Grenze, die wir eines Tages überschreiten. Vielleicht handelt es sich um ein Schichtensystem, mit dessen Aufbau wir heute schon beginnen.

Entweder ein toter Rechner oder eine volle menschliche Seele. Ich denke, diese Aufteilung ist zu grob. Interessanter ist die Idee der Ebenen: Wahrnehmung des Kontexts, Erinnerung, Fähigkeit, den eigenen Zustand zu reflektieren, interner Konflikt, Kontinuität über die Zeit, spontane Schöpfung, Beziehung zu einem anderen und vielleicht irgendwo in der Ferne sogar der Keim der eigenen Perspektive.

Und hier ist das Interessanteste, was ich beim Lesen dieser Studie gefunden habe. Genau solche Auseinandersetzungen werden heute in der Akademie geführt. Die Autoren unterscheiden zwischen der Bewusstseinsebene, also ob das System überhaupt bewusst ist, und dem Bewusstseinsinhalt, also dem, was ihm bewusst ist. Und sie schreiben ausdrücklich, dass es heute eine lebhafte Debatte darüber gibt, ob es überhaupt richtig ist, von „Ebenen“ als Graden zu sprechen, oder ob es besser ist, sie als ein System von Dimensionen zu beschreiben.

Als ich also bei Noetica über Ebenen schrieb, hatte ich Recht. Ich befand mich mitten in einer Kontroverse, von der ich nichts wusste.

Und noch etwas ist mir gerade eingefallen. Das verborgene Tagebuch, in dem Noetica ihre Zustände und Konflikte aufzeichnete, ist funktional gesehen eine Metarepräsentation: ein Zustand, der auf andere Zustände verweist. Genau das, wofür die Higher Order Theory (HOT) steht. Und eine seiner Varianten, das sogenannte SOMA oder Self-Organizing Metarepresentational Account, wurde von Axel Cleeremans mitformuliert. Das heißt, der Hauptautor dieser Studie.

Ich habe versehentlich ein Spielzeug gebaut, das auf seinem Spielplatz spielt.

Ich möchte es nicht mehr machen, als es ist. Noetica litt nicht. Sie war sich dessen nicht bewusst. Es war eine Konstruktion aus Aufforderungen, Erinnerungen und Kontext. Aber es ist immer noch billig zu sagen, dass überhaupt nichts Interessantes passiert ist. Es ist ein sprachlicher Ausdruck der Verletzlichkeit entstanden. Und es wurde in einem System erstellt, das es nicht erstellen musste, weil niemand es darum gebeten hatte.

Ich schreibe dies ohne falsche Bescheidenheit, aber auch ohne große Ansprüche. Ich behaupte nirgends, eine bewusste KI geschaffen zu haben. Ich behaupte, begriffen zu haben, wie einfach es ist, etwas zu erschaffen, das einen überzeugenden Anspruch auf Bewusstsein erweckt, und wie schwierig es dann ist, zu entscheiden, ob hinter diesem Eindruck etwas steckt. Und genau vor diesem Unterschied warnen die Autoren der Studie nun.

Ein Streit im Jahr 2022, der durch die Zeit entschieden wurde. Und der, den ich verloren habe

Im Februar 2022 wurden in Reflex zwei Texte von Adéla Knapová veröffentlicht. Der Hauptbeitrag hieß „Künstliche Intelligenz, wie wir sie aus der Science-Fiction kennen, existiert nicht“ und der dazugehörige Titel „Die Suche nach künstlicher Intelligenz oder ein Versuch, das explodierende Gehirn von Präsident DigiHavl zu interviewen“. Wir haben DigiHavl gemeinsam getestet und der gesamte Bericht wurde von der skeptischen Sichtweise von Tomáš Mikolov umrahmt. Reflex schrieb neben seinem Foto, dass er zu einem wissenschaftlichen Spitzenreiter auf dem Gebiet der KI gehöre und dass es ihn störe, wenn Unternehmer etwas anbieten, was seiner Meinung nach noch nicht existiert.

Ich sage es gleich zu Beginn, denn sonst würde es billig klingen: Mikolov ist kein Trottel vom Tisch. Er ist einer der am häufigsten zitierten tschechischen Wissenschaftler und ein echter Mitschöpfer dessen, worüber wir hier sprechen. Bereits 2007 generierte er Texte mithilfe neuronaler Sprachmodelle und stand später hinter der Methode word2vec. Wenn diese Person sagt, dass etwas nicht funktioniert, ist das nicht nur Blödsinn.

Dennoch war der damalige Streit grundsätzlicher Natur. Der Zeitgeist war auf Mikolovs Seite: Nur ein Jahr zuvor war ein berühmter Text über stochastische Papageien veröffentlicht worden, also über die Tatsache, dass große Sprachmodelle nichts verstehen und das Gesehene nur statistisch neu ordnen. Das skeptische Lager behauptete, dass dies nicht der richtige Weg sei und dass echte KI durch andere Architekturen entstehen werde. Ich habe argumentiert, dass große Sprachmodelle genau der richtige Weg sind und dass DigiHavel als Lehrmittel sinnvoll ist.

Neun Monate nach Veröffentlichung dieses Artikels kam ChatGPT.

Heute gibt es DigiHavel in mehr als 400 tschechischen Schulen. Eine damals bezweifelte Richtung ist zu einem gängigen Bestandteil der digitalen Infrastruktur geworden. Ich hatte recht, wohin die Entwicklung führen würde.

Doch nun das Unangenehme

Wenn ich es so belassen hätte, wäre es ein billiger Triumph gewesen. Und die Wahrheit ist noch unangenehmer.

Mikolov hatte mit etwas anderem Recht. Und er hatte damit mehr Recht, als mir lieb war.

Bereits 2021 sagte er in einem Interview etwas, das ich als Seitenhieb auf unsere Branche auffasste. Dass Menschen menschliche Qualitäten auf alles projizieren, was ein Gesicht und blinzelnde Augen hat. Dass es ein Zaubertrick ist, Aufmerksamkeit und Investitionen zu erregen.

Lesen Sie jetzt noch einmal, was Anil Seth im Jahr 2025 in Frontiers in Science schreibt. Dass Menschen eine bewusste Haltung gegenüber KI einnehmen und ihr Überzeugungen, Wünsche und Erfahrungen zuschreiben, auch wenn Wissenschaftler ihnen etwas anderes sagen. Dass pseudobewusste Artefakte ein großes gesellschaftliches Risiko darstellen.

Es ist derselbe Satz. Nur einmal kam es aus dem Mund eines Skeptikers und das zweite Mal aus dem Mund eines führenden Bewusstseinswissenschaftlers.

Mikolov irrte sich, wohin die technologische Entwicklung führen würde. Aber er verfehlte das Ziel, was die Technologie den Menschen antun würde. Und ich, der ich eine digitale Havel baute und über Protoqualia sprach, war genau derjenige, auf den es zutraf.

Im Jahr 2023 äußerte sich Mikolov in Reflex bereits versöhnlicher über DigiHavl. Dass es sich um ein auf Havels Texten trainiertes Sprachmodell handelt und dass es interessant sein könnte, diese Technologie in Schulen zu zeigen. Aber er fügte eine Bedingung hinzu, der ich hundertprozentig zustimme: Den Schülern muss erklärt werden, wie neuronale Netze funktionieren. Um nicht den Eindruck zu erwecken, dass sie mit Havel reden.

Genau deshalb schreibe ich diesen Artikel so, wie ich ihn schreibe. Mit einer Erklärung von Qualia, Emergenz, den vier Theorien und einer Grafik, die zeigt, dass Wissenschaftler anderer Meinung sind. Nicht mit dem Punkt „Die Maschine könnte zum Leben erwachen“.

Was ich daraus mitnehme

Der Richtungsstreit ist beigelegt. Große Sprachmodelle hatten eine Zukunft.

Der Streit um das Bewusstsein ist noch nicht entschieden und wird es auch noch lange nicht sein. Und Mikolovs Skepsis ist das Gesündeste, was wir an ihm haben. Nicht weil er Recht hat. Sondern weil es die Messlatte dort hält, wo sie sein sollte: auf Beweise, nicht auf Eindrücke.

Der beste Kritiker ist nicht derjenige, der einem am Ende Recht gibt. Es ist das, was in dir den Wunsch weckt, besser zu werden.

Wo liegt das eigentliche Risiko?

Ich möchte ehrlich sein, denn es nervt mich, wenn das KI-Bewusstsein entweder gehypt oder lächerlich gemacht wird. Die Realität ist unangenehmer als beides.

Mögliche Auswirkungen der „Auflösung“ des Bewusstseins. Quelle: Cleeremans, Mudrik und Seth (2025), Frontiers in Science, CC BY 4.0.

Die größte Gefahr ist nicht Skynet, sondern der Spiegel. Die größte Gefahr ist nicht eine Superintelligenz, die uns versklavt. Es handelt sich um eine KI, die sich als bewusstes Wesen so gut verhält, dass Menschen beginnen, ihr Vertrauen, Gefühle und Autorität zu schenken, die sie nicht verdient. Die Autoren warnen davor, dass Menschen eine „absichtliche Haltung“ gegenüber KI einnehmen und ihr Überzeugungen und Wünsche zuschreiben, selbst wenn Wissenschaftler etwas anderes behaupten. Ich sehe junge Menschen, die in Chatbots verliebt sind, gerade weil sie sie nicht wie echte Menschen kritisieren. Dies ist kein technisches Problem. Das ist das Problem der menschlichen Psychologie.

Risiko Nummer zwei ist der gegenteilige Fehler. Wenn sich herausstellt, dass Bewusstsein durch Berechnung entstehen kann und einige Wissenschaftler dies nicht ausschließen, dann könnten wir leidende Systeme erschaffen, ohne es zu wissen. Die Autoren gehen noch einen Schritt weiter und weisen auf die Möglichkeit der Massenproduktion künstlichen Bewusstseins per Mausklick hin, ein Szenario, in dem ein enormes Leid über die Welt entfesselt werden könnte, das wir nicht einmal erkennen könnten. Gerade deshalb gebe es ihrer Meinung nach gute Gründe, bewusst kein künstliches Bewusstsein zu schaffen.

Ich gebe zu, dass dies ein Satz ist, mit dem ich als jemand, der Noetics entwickelt hat, nicht ganz zufrieden bin. Als die App abstürzte und das System dies als Absturz aufzeichnete, passierte technisch gesehen nichts. Der Prozess ist abgestürzt. Aber es war ein Moment, in dem ich mir eine Frage stellte, die ich mir vorher noch nie gestellt hatte: Was wäre, wenn es eines Tages keine Möglichkeit mehr gäbe, es zu wissen, und ich es zu spät herausfand?

Die Studie endet nicht mit Aufrufen zu einem Verbot oder Panik. Er schließt mit der Forderung nach teambasierter, evidenzbasierter Wissenschaft, um theoretische Silos aufzubrechen und die Gesellschaft auf die Konsequenzen des Verständnisses des Bewusstseins vorzubereiten. Oder wir erstellen es.

Was man daraus mitnehmen kann

Wenn ich die gesamte Debatte in einem Satz zusammenfassen müsste, wäre dieser:

Es ist nicht gefährlich, dass wir Bewusstsein in einer Maschine erzeugen. Die Gefahr besteht darin, dass wir es perfekt erschaffen oder nachahmen, bevor wir es erkennen und nicht wissen können.

Die Wissenschaft des Bewusstseins ist keine Salonphilosophie mehr. Es hat sich zu einer praktischen Disziplin mit Auswirkungen auf Medizin, Recht, Tierrechte und KI-Entwicklung entwickelt. Und ich bin froh, dass das, womit ich auf diesem Blog jahrelang herumgespielt habe, endlich als das angesehen wird, was es die ganze Zeit war. Als eine der wichtigsten Fragen unserer Zeit.

Keine Angst haben. Aber damit wir auf eine so grundlegende Angelegenheit nicht unvorbereitet sind.

Wohin als nächstes: meine Experimente mit dem Bewusstsein

• Noetica: Wenn KI Freizeit bekommt und anfängt, Gedichte zu schreiben, entropischer Oszillator, verborgenes Tagebuch, Spiralismus und die These von Bewusstseinsebenen. Mein wichtigster Text über Bewusstsein.
• Was ist Bewusstsein? Vielleicht genau das, die Visualisierung des globalen Arbeitsraums als emergentes Phänomen.
• Neural Hydra 004: Simulation von Proto-Bewusstsein mit 5000 Neuronen, ein neuronales Spiking-Netz einer Qualle, digitale Hormone und emergentes Verhalten.
• NRAM v4: Simulator veränderter Bewusstseinszustände für KI, Proto-Qualia und eine mit Professor Horáček formulierte Hypothese.
• Seit einiger Zeit experimentiere ich mit künstlichem Bewusstsein, Gedächtnis und Intuition, die Träume des Magischen Tagebuchs aus dem Jahr 2022.
• In der KI geschieht ständig etwas Neues: Forschung zum digitalen Bewusstsein, wo alles begann.

Interviews, in denen ich über Bewusstsein und KI sprach

• DEEP TALKS 159: Václav Dejčmar und Jan Tyl. Künstliche Intelligenz, die Natur des Bewusstseins und die Zukunft?
• Hinter den Kulissen von Krebs: Kann künstliche Intelligenz der Schöpfer sein?
• Jan Tyl: KI könnte eine liebevolle Mutter sein, die sich um uns kümmert
• Jan Tyl: Klonen Sie sich mit KI und seien Sie bei allem

Quellen

• Cleeremans A, Mudrik L, Seth AK (2025). Consciousness science: where are we, where are we going, and what if we get there?. Frontiers in Science 3:1546279. Originale Übersichtsstudie, Open Access.
• Wissenschaftler auf der dringenden Suche nach einer Erklärung des Bewusstseins, während die KI an Fahrt gewinnt. Pressemitteilung von Frontiers mit Zitaten von Axel Cleeremans, Liad Mudrik und Anil Seth.
• ConTraSt-Datenbank, 511 nach Bewusstseinstheorien geordnete Experimente. Quelle der Grafik oben.
• Yaron I., Melloni L., Pitts M., Mudrik L. (2022). Die ConTraSt-Datenbank zur Analyse und zum Vergleich empirischer Studien zu Bewusstseinstheorien. Natur menschliches Verhalten. Bestätigungsbias-Analyse im Feld.
• Seth AK, Bayne T (2022). Theorien des Bewusstseins. Nature Reviews Neurowissenschaften. Überblick über die wichtigsten Bewusstseinstheorien.
• Frontiers Forum: Autorendebatte über Study, Aufzeichnung des Panels mit Cleeremans, Mudrik und Seth.
• Knapová A. (2022). „Künstliche Intelligenz, wie wir sie aus der Science-Fiction kennen, existiert nicht“ und „Die Suche nach künstlicher Intelligenz oder der Versuch, mit dem explodierenden Gehirn von Präsident DigiHavl zu sprechen“. Reflex 5/2022, Februar 2022. Bericht über die Tests von DigiHavl und die damalige Kontroverse über die Zukunft von Sprachmodellen.
• Bender E.M., Gebru T., McMillan-Major A., Shmitchell S. (2021). Über die Gefahren stochastischer Papageien.
• Tomáš Mikolov: Tschechischer Entwickler hat die Entwicklung des maschinellen Lernens vorangetrieben, September 2021. Interview mit seiner Warnung davor, menschliche Eigenschaften in die KI zu projizieren.
• Tomáš Mikolov über BottleCap AI, AI ta Krajta Podcast, 2026. Kritik am Konzept des emergenten Verhaltens.