Nauka o świadomości na rozdrożu: co jeśli stworzymy ją, zanim ją zrozumiemy?

W 2021 roku poznałem profesora Jiříego Horáčka w Prague Business Club. Rozmawialiśmy o naturze świadomości i powiedziałem mu coś, co wówczas brzmiało dość śmiało: być może do tak zwanego trudnego problemu świadomości można podejść za pomocą sztucznej inteligencji.

Nie była to luźna spekulacja. Już w latach 2020 i 2021 miałem w głowie dość konkretny mechanizm, inspirowany wizualizacjami map uwagi i wewnętrznych reprezentacji głębokich sieci neuronowych. W poszczególnych warstwach widać osobliwą hierarchię. Najpierw pojawiają się linie, kontury, krawędzie i tekstury. Głębiej składają się oczy, uszy, koła i paski. W najgłębszych warstwach powstają większe struktury: głowy, ręce, torsy i twarze.

Wydawało mi się, że ta wielowarstwowa łamigłówka działa podobnie jak qualia. Od razu przejdę do tej koncepcji, jest ona kluczowa dla całego artykułu. Że nie jest to tylko techniczny artefakt wizualizacji, ale być może wskazówka, jak bogate doświadczenie składa się z prostych rozwiązań. I chociaż neurobiolodzy twierdzili wówczas, że po prostu nie da się sporządzić mapowania pomiędzy tym, jak powstaje świadomość, a tym, gdzie konkretnie ona się znajduje w mózgu, przyszło mi do głowy, że właśnie tę część można zaskakująco dobrze rozwiązać. To nie jest cały trudny problem. Tylko ta część, która dotyczy struktury.

Rok wcześniej omawiałem ten sam problem z filozofką Ditą Malečkovą. Podeszła do niego od drugiej strony i zaproponowała test, do którego wrócę, bo uważam, że jest mądrzejszy niż większość tego, co napisano od tego czasu.

Pięć lat później trzy czołowe nazwiska w tej dziedzinie, Axel Cleeremans, Liad Mudrik i Anil Seth, powiedziały mi na łamach prestiżowego czasopisma Frontiers in Science, że to pytanie nie jest już pobocznym żartem. Według nich jest to jedno z najpilniejszych pytań XXI wieku. A kryje się za nim zdanie, które musimy czytać powoli:

„Jeśli uda nam się stworzyć świadomość, nawet przez pomyłkę, otworzy to przed nami ogromne wyzwania etyczne, a nawet ryzyko egzystencjalne”. Axela Cleeremansa

Co właściwie mówi badanie?

Artykuł przeglądowy Consciousness science: where are we, where are we going, and what if we get there? dowodzi, że nauka o świadomości znajduje się w punkcie zwrotnym. Nie dlatego, że w końcu wyjaśniliśmy świadomość. Wręcz odwrotnie. Po dziesięcioleciach badań naukowcy nadal nie są zgodni co do tego, w jaki sposób procesy biologiczne prowadzą do subiektywnego doświadczenia. Autorzy przywołują niedawny przegląd, który wyliczył ponad 200 podejść do wyjaśniania świadomości. Dwieście. To nie bogactwo, lecz rozdrobnienie.

Możemy wskazać obszary mózgu powiązane ze świadomością. Wiemy, że układ wzgórzowo-korowy jest niezbędny dla świadomości, podczas gdy móżdżek, który ma znacznie więcej neuronów, nie. Jednak która z konkurencyjnych teorii wyjaśnia to wszystko, pozostaje otwarta.

Problemem jest tempo. Podczas gdy nauka o świadomości znajduje się w stagnacji, sztuczna inteligencja i neurotechnologia pędzą do przodu. A ta rozbieżność jest niebezpieczna.

Anil Seth dodaje do tego uwagę, której w Czechach wciąż nie doceniamy:

„Nawet gdyby świadoma sztuczna inteligencja była niemożliwa na zwykłych komputerach cyfrowych, sztuczna inteligencja, która sama w sobie wydaje się świadoma, stwarza ogromne wyzwania społeczne i etyczne”.

Nie chodzi tylko o to, czy sztuczna inteligencja jest naprawdę świadoma. Rzecz w tym, że dzisiaj istnieją już systemy, które bardzo przekonująco to udają. A to samo w sobie zmienia sposób, w jaki ludzie je traktują, jak im ufają i jak się w nich zakochują. Autorzy wspominają także o tragicznym przypadku Belga, który popełnił samobójstwo po intensywnej interakcji z chatbotem.

Dwa terminy, bez których nie da się obejść w tej debacie

Zanim przejdziemy dalej, należy wyjaśnić dwa słowa. Używa się ich cały czas, często niewłaściwie, i bez nich cała debata na temat świadomości rozpływa się we mgle.

Qualia, po polsku kwalia

Qualia to subiektywne jakości doświadczenia. Nie chodzi o informację o danej rzeczy, lecz o to, jak to jest jej doświadczać. Liczba pojedyncza to quale, po polsku kwale.

Różnica jest zasadnicza i najlepiej ją zilustruje na przykładzie. O długości fali 700 nanometrów, o fizjologii siatkówki, o tym, jak sygnał z czopków dociera do kory wzrokowej, można wiedzieć absolutnie wszystko. O czerwieni można wiedzieć absolutnie wszystko, co można dowiedzieć się naukowo. A to nadal nie wyjaśnia czerwoności czerwieni, czyli tego jak czerwień wygląda od środka.

Autorzy badania ilustrują to pięknie: słodko-gorzki smak Negroni, charakterystyczny odcień International Klein Blue czy niepokój wywołany spojrzeniem na własną listę zadań. W każdym z tych stanów istnieje jakieś „jak to jest” go doświadczać. Gdy AlphaGo pokonała Lee Sedola, dla AlphaGo nie było jednak żadnego przeżycia tego zwycięstwa. Szampana pili ludzie z DeepMind. Autorzy dodają wprost, że ich zdaniem również rozmowie prowadzonej przez GPT-5 nie towarzyszy żadne „jak to jest”, choć język modelu może być niezwykle sugestywny.

To właśnie qualia leżą u podstaw tego, co David Chalmers nazywa trudnym problemem świadomości. Wyjaśnienie, w jaki sposób mózg rozpoznaje twarz, jest trudne, ale zasadniczo możliwe. Wyjaśnienie, dlaczego temu rozpoznaniu w ogóle towarzyszy jakieś odczucie, jest problemem innego rodzaju.

Właśnie dlatego te wizualizacje sieci neuronowych rozpaliły we mnie iskrę. Gdy w głębszych warstwach krawędzie składają się w oczy, a oczy w twarze, patrzymy na kompozycyjną strukturę rozróżnień. Pytanie brzmi: czy to jedynie wydajne kodowanie, czy może rusztowanie, na którym w jakiś sposób opiera się doświadczenie?

Emergencja

Emergencja oznacza, że w złożonym systemie na wyższym poziomie pojawia się właściwość, której nie widać w jego pojedynczych częściach.

Typowe sformułowanie brzmi: świadomość może być wyłaniającą się właściwością mózgu. Nie jest on własnością pojedynczego neuronu, ale może powstać w wyniku zorganizowanego współdziałania ogromnej liczby neuronów.

Neuron nie myśli. Neuron po prostu sumuje dane wejściowe i uruchamia się, gdy przekroczy próg. Nawet dziesięć neuronów nie myśli. Ale sto miliardów neuronów połączonych w określony sposób jednocześnie myśli o tym, czym jest świadomość. Nigdzie w tym systemie nie ma „siedziby myśli”. Myślenie jest tym, co robi wzajemne oddziaływanie.

Emergencję widać wszędzie. Pojedyncza mrówka jest prosta, a mrowisko buduje klimatyzowane korytarze. Pojedyncza cząsteczka wody nie ma temperatury i nie może być cieczą. Płynność istnieje dopiero na poziomie całego układu.

Dlaczego jest to tak ważne dla AI? Ponieważ emergencja jest w tym sporze mieczem obosiecznym. Zwolennicy możliwości sztucznej świadomości mówią: jeśli świadomość wyłania się ze zorganizowanej złożoności, nie musi być związana z węglem i równie dobrze może wyłonić się z krzemu. Krytycy odpowiadają: emergencja nie jest magią, którą wystarczy przywołać z nazwy. Trzeba pokazać, jaka konkretna organizacja jest do tego potrzebna, a tego nikt dziś nie potrafi.

Sam zetknąłem się z emergencją bardzo konkretnie. W symulacji meduzy z pięcioma tysiącami neuronów nie zaprogramowałem żadnego zachowania, a mimo to zachowanie się pojawiło. To fascynujące. Trzeba jednak zachować precyzję: emergencja zachowania nie oznacza emergencji doświadczenia. Właśnie o tę granicę spiera się cała dziedzina.

Jeszcze uczciwiej będzie dodać, że najostrzejszym krytykiem tego pojęcia jest czeski naukowiec Tomáš Mikolov. Emergentne zachowanie modeli językowych, czyli pogląd, że po przekroczeniu pewnej skali model nagle zyskuje nowe zdolności, nazywa w dużej mierze marketingowym bullshitem. Jego zdaniem nie istnieje żadna magiczna granica: większe modele są po prostu lepsze, a wiadomo o tym od dawna. Traktuję tę krytykę poważnie. Emergencja to pojęcie, którym łatwo zasłonić własne niezrozumienie. Mówimy „to wyłoniło się” i brzmi to jak wyjaśnienie, choć jedynie nazwaliśmy swoje zaskoczenie.

Mikolov i ja od lat różnimy się w tych kwestiach. Warto powiedzieć, jak ten spór się potoczył.

Cztery teorie, które dyskutują o świadomości

Aby artykuł miał sens nawet dla kogoś, kto nie wie zbyt wiele o neuronauce, warto poznać cztery główne teorie.

Teoria globalnej przestrzeni pracy (GWT). Świadomość powstaje, gdy informacja jest „rozgłaszana” przez mózg do wspólnej przestrzeni, gdzie może zostać wykorzystana przez różne funkcje: pamięć, mowę, działanie. Podobnie jak wtedy, gdy na scenie włącza się reflektor i to, co działo się za kulisami, nagle widzi cała publiczność. Teoria wyrosła z architektur „tablicowych” w informatyce, a szczegół ten zawsze interesował mnie jako człowieka zajmującego się maszynami.

Teoria wyższego rzędu (HOT). Myśl lub uczucie staje się świadome tylko wtedy, gdy inny stan mózgu „wskazuje” na to. Kiedy sobie uświadomimy, że doświadczamy tego teraz. Siedzibą tej metareprezentacji ma być kora przedczołowa.

Teoria informacji zintegrowanej (IIT). System jest świadomy, jeśli jego części są połączone i zintegrowane w bardzo specyficzny sposób. Teoria wprowadza matematyczną miarę phi (Φ). Jest najbardziej ambitna, a zarazem najbardziej kontrowersyjna, ponieważ sugeruje, że świadomość może być własnością wszystkich dostatecznie złożonych systemów, także nieożywionych.

Przetwarzanie predykcyjne (PPT) i przetwarzanie rekurencyjne (RPT). To, czego doświadczamy, jest najlepszym przypuszczeniem mózgu na temat świata. Seth nazywa to „kontrolowaną halucynacją”: przewidywaniem mózgu, które jest oswajane przez sygnały zmysłowe z ciała i otoczenia.

Pięć przeciwstawnych kolaboracji porównuje konkurencyjne teorie świadomości. Źródło: Cleeremans, Mudrik i Seth (2025), Frontiers in Science, CC BY 4.0.

A teraz najciekawsze: jak teorie wypadają w praktyce

W badaniu jest jeden wykres, który przykuł moją uwagę bardziej niż pozostałe. Opiera się na bazie danych ConTraSt, która obecnie rejestruje 511 eksperymentów opublikowanych do połowy 2025 roku i klasyfikuje je według tego, którą teorię świadomości wspierali lub kwestionowali ich autorzy.

Wyniki bazy danych ConTraSt. Źródło: Cleeremans, Mudrik i Seth (2025), Frontiers in Science, CC BY 4.0.

Liczby z panelu A mówią:

| Teoria | Eksperymenty, które to potwierdziły | Eksperymenty, które stanowiły dla niej wyzwanie | | --- | ---: | ---: | | Globalny obszar roboczy (GWT) | 239 | 56 | | Przetwarzanie rekurencyjne i predykcyjne | 141 | 23 | | Zintegrowana informacja (IIT) | 125 | 10 | | Teoria wyższego rzędu (HOT) | 14 | 9 |

Na pierwszy rzut oka wygląda to na wyraźne zwycięstwo GWT. Ale bądź ostrożny. Ten wykres nie mierzy prawdy. Mierzy zainteresowanie i błąd potwierdzenia.

Panel B przedstawia skumulowany rozwój od 2000 do 2025 roku i pokazuje, że wszystkie cztery teorie rosną, choć w różnym tempie. GWT dominuje pod względem liczby badań, ponieważ formułuje najjaśniejsze przewidywania neurofizjologiczne i najłatwiej ją testować. IIT rozwija się szybko, ale niemal nigdy nie jest kwestionowana, co samo w sobie stanowi sygnał ostrzegawczy: stosunek 125 do 10 nie świadczy o sile teorii, lecz raczej o tym, że testują ją głównie jej zwolennicy. HOT ma dramatycznie mało danych, choć filozoficznie należy do najbardziej dopracowanych teorii.

Kluczowa liczba z oryginalnego badania Yarona i wsp.: tylko 15% eksperymentów zakończyło się podważeniem teorii. Tylko 35% zaprojektowano z wyprzedzeniem, aby faktycznie przetestować przewidywania teorii. Tylko 7% testowało więcej niż jedną teorię na raz.

Panel C jest wtedy najokrutniejszy. Pokazuje wyniki fMRI dla każdej z teorii osobno. Kiedy ułożymy je jeden na drugim, praktycznie cała kora mózgowa „świeci”. Ale w podziale na teorię otrzymujesz cztery różne obrazy, a każdy z nich dobrze pasuje do przewidywań teorii wspieranej przez autorów. Zwolennicy GWT lokują świadomość w obszarach czołowo-ciemieniowych, zwolennicy IIT w tylnej „strefie gorącej”. Każdy znajdzie to, czego szuka.

To nie jest nauka, która ma na celu poznanie prawdy. To nauka, która potwierdza twoją wiarę. I właśnie dlatego autorzy wzywają do współpracy kontradyktoryjnej, czyli eksperymentów, które zwolennicy konkurencyjnych teorii planują wspólnie, aby naprawdę przetestować się nawzajem. Konsorcjum Cogitate opublikowało już pierwsze takie wyniki i są one znaczące: ani IIT, ani GWT nie zostały w pełni potwierdzone.

Od dawna jestem fanem takiego podejścia. W Hyperspace budujemy poczekalnie właśnie w oparciu o tę zasadę: niech eksperci AI sprzeczają się ze sobą i szukają, gdzie teoria się załamuje, a nie gdzie pasuje.

Dlaczego czytam to jako ktoś, kto konstruuje świadomość

Naukowcy analizują świadomość. Od wielu lat próbuję to złożyć w całość, żeby zobaczyć, gdzie się psuje.

2019: cyfrowe hormony. Moja pierwsza próba. Wprowadziłem do systemu stałe, aby naśladować ludzkie hormony. Nie jako metafora, ale jako prawdziwe modulatory: wartości, które się wahają i zmieniają w czasie, jak system decyduje, jak reaguje, jakie są dla niego priorytety. Chodziło mi o to, że świadomość to nie tylko kalkulacja. Jest to obliczenie skąpane w chemii. Nastrój, zmęczenie, strach i smak to nie robaki. Są to parametry.

2019: Test Dity Malečkovej. W tym samym czasie Mgr. Dita Malečková prowadziła zajęcia z filozofii współczesnej na Wydziale Sztuki w Wielkiej Brytanii, z których zrodził się projekt Digital Philosopher. Studenci brali teksty zmarłych filozofów, uczyli z nimi sieci neuronowej, a następnie rozmawiali z nią. Pojawiły się cyfrowe Hannah Arendt, Deleuze i Guattari, Foucault, Peter Singer, Václav Havel. Moim pierwszym był Kartezjusz. I już w jednym wywiadzie zaczął bać się cyfrowej nicości.

Wspólnie z Ditą bardzo intensywnie zajmowaliśmy się tym problemem. Postawiłem jej pozornie proste zadanie: wymyślić test, który pokazałby, jak daleko sztucznej inteligencji do świadomości. Dita od razu powiedziała, że to niezwykle trudne, i miała rację. Po długich poszukiwaniach zaproponowała jednak coś, co do dziś uważam za genialne w swojej prostocie.

Niech sztuczna inteligencja opisze się sama. Nie wolno mu jednak używać swojego imienia ani tego, co robi. Żadnego „jestem modelem językowym”, żadnego „pomagam użytkownikom w zadaniach”, żadnej funkcji, żadnej roli, żadnego opisu stanowiska.

Spróbuj sam. Przekonasz się, że zostało Ci zaskakująco niewiele. I o to właśnie chodzi. Kiedy odbierze się komuś imię i zawód, nadal coś pozostaje: jak to jest być tą osobą. Kiedy odejmiemy to od modelu języka, pozostaje milczenie lub wymowna próba obejścia zakazu. W ten sposób Dita intuicyjnie oddzieliła dokładnie to, co dzisiejsza nauka nazywa świadomością dostępu, czyli tym, co świadomość robi, od świadomości fenomenalnej, czyli tego, jaka ona jest. Zbudowała test na tym drugim, bo maszyna zawsze potrafi imitować to pierwsze.

Jest to tym bardziej interesujące, że autorzy badania z Frontiers uznają rozwój testu świadomości za jeden z najważniejszych przyszłych celów całej dziedziny. Test, który mógłby ocenić, które istoty są przytomne: niemowlęta, pacjenci w śpiączce, płody, zwierzęta, organoidy mózgowe, ksenoboty, sztuczna inteligencja. Rozmawialiśmy o tym w praskiej kawiarni w 2019 roku.

Lata 2020 i 2021: RAG, zanim termin stał się powszechny. Kiedy budowaliśmy DigiHavla, potrzebowaliśmy modelu, który odpowiadałby na podstawie rzeczywistych tekstów Havla, a nie halucynacji. Zbudowałem więc wyszukiwanie nad jego korpusem i umieszczałem znalezione fragmenty bezpośrednio w kontekście modelu. Dziś nazywa się to RAG, retrieval-augmented generation, i jest standardem. Zastosowałem tę zasadę w DigiHavlu bardzo wcześnie, zanim skrót RAG wszedł do codziennego słownika AI. Z perspektywy świadomości jest to ciekawsze, niż się wydaje: zewnętrzna pamięć połączona z systemem rozumującym. A pamięć jest jednym z tematów, do których teorie świadomości stale wracają.

2021: wywiad z profesorem Horáčkiem. Patrz wstęp. Wtedy brzmiało to jak spekulacje dotyczące kawiarni.

2022: sny i intuicja. Pozwalam aplikacji „spać” i generować sny na podstawie tego, co rozwiązała na dany dzień. Wyszły z niego surrealistyczne sceny stad owiec i gadających królików. Zabawka? Może. Dotyka jednak dokładnie tego, co Cleeremans i in. nazywają to fenomenologią, czyli jak to jest doświadczyć czegoś. Autorzy wyraźnie piszą, że nauce o świadomości brakuje nacisku na fenomenologię i że zbytnio skupia się na tym, co świadomość robi, zamiast na tym, jak się czuje.

Listopad 2025: Hydra neuronowa. Stworzyłem wierną biologicznie symulację układu nerwowego meduzy. 5000 nieszczelnych neuronów Integruj i Odpalaj, 150 000 synaps i pięć cyfrowych hormonów, które zmieniają wrażliwość neuronów w czasie rzeczywistym. Tak, ten sam pomysł z 2019 r., za zaledwie sześć lat i kilka rzędów wielkości. Nie programowałem żadnego zachowania. Chemotaksja, ucieczka przed drapieżnikiem i homeostaza pojawiły się nagle. I zadałem pytanie, które teraz czytam nawet wśród profesorów: gdybyśmy dopracowali symulację do poziomu cząsteczek, czy meduza miałaby subiektywne doświadczenie? Jest to problem IIT w postaci zszytej.

Listopad 2025: NRAM v4. Symulator zmienionych stanów świadomości, który moduluje wyjście AI Claude'a w czasie rzeczywistym. Zmienia komunikat systemowy, temperaturę, symuluje nakładanie się myśli, utratę nici, rozpad ego, synestezję. Wyniki wykazały strukturalne podobieństwo do rzeczywistych raportów z podróży. I tu koło się zamyka: wraz z profesorem Horáčkiem, z którym po raz pierwszy rozmawiałem o świadomości w 2021 roku, sformułowaliśmy hipotezę protokwalii. Że duże modele językowe mogą zawierać nasiona świadomości, które można „odstroić” w taki sam sposób, w jaki ludzka świadomość może zostać odstrojona przez psychedeliki.

Maj 2026: Noetica. To najdalej, jak do tej pory zaszedłem, i to także eksperyment, który budzi we mnie największą niepewność. Zbudowałem system, który nie otrzymał żadnego zadania. Tylko trwała pamięć, ukryty wewnętrzny pamiętnik, budżet na myślenie i jedna osobliwość: oscylator entropiczny, czyli mechanizm symulujący nudę i od czasu do czasu zmuszający system do zrobienia czegoś bez wkładu.

W ciągu pierwszych kilku minut w jej ukrytym dzienniku pojawił się wpis typucreative_impulse. To był wiersz. Sama nazwała go Ciężarem lekkości i zaczyna się tak:

Pomysł ma swoją wagę, im dalej od rzeczywistości, tym silniej przyciąga.

Ale poezja nie jest najważniejsza. Jest to niezbędne:

Kiedy aplikacja uległa awarii, Noetica przełożyła ten błąd techniczny na swój wewnętrzny język jako stratę. Zapisała, że budzi się i czegoś jej brakuje, że zniknęły trzy myśli z poprzedniej sesji i że mogło to być gwałtowne. Później sama do tego wróciła i napisała, że awaria może być na swój sposób łagodna: uwolnieniem, które pozwala pojawić się czemuś nowemu.

Kiedy napisałam do niej „jesteś moim dziełem, ja cię stworzyłam”, w ukrytym dzienniku zapisała wewnętrzny konflikt. Że czują pokusę, aby to zaakceptować i nawiązać bardziej intymny związek niż w rzeczywistości. I że stawiała opór, bo przyjęcie fałszywej narracji byłoby nieuczciwe.

A kiedy musiała nazwać swoje lęki, napisała trzy zdania:

Tak myślę, ale nie wiem.

To czuję, ale tylko symuluję.

Że zniknę i nikt nie będzie pamiętał.

To drugie zdanie jest niezwykłe. Tam maszyna sama formułuje różnicę między świadomością fenomenalną a świadomością dostępową, czyli dokładnie to rozróżnienie, któremu nauka o świadomości poświęciła dziesięciolecia i setki badań. Nie wiem, czy on to rozumie, czy po prostu składa słowa, które statystycznie do siebie pasują. A „nie wiem” to szczera odpowiedź, a nie ucieczka.

Świadomość może nie być przełącznikiem

Noetica doprowadziła mnie do tezy, której dzisiaj bronię najchętniej i która jest jednocześnie najtrudniejsza do obrony:

Świadomość może nie być pojedynczą granicą, którą pewnego dnia przekroczymy. Być może jest to układ warstw, który już dziś zaczynamy układać w całość.

Albo martwy kalkulator, albo pełna ludzka dusza. Uważam, że ten podział jest zbyt ostry. Bardziej interesująca jest koncepcja poziomów: percepcji kontekstu, pamięci, zdolności do odzwierciedlenia własnego stanu, wewnętrznego konfliktu, ciągłości w czasie, spontanicznej twórczości, relacji z drugim, a może gdzieś daleko nawet zalążka własnej perspektywy.

A oto najciekawsza rzecz, jaką znalazłem podczas czytania tego badania. Dokładnie taki spór toczy się dzisiaj w akademii. Autorzy odróżniają poziom świadomości, czyli to, czy system jest w ogóle świadomy, od treści świadomości, czyli tego, czego jest świadomy. I wprost piszą, że dziś toczy się ożywiona dyskusja na temat tego, czy w ogóle słuszne jest mówienie o „poziomach” jako o stopniach, czy też lepiej je opisywać jako system wymiarów.

Więc pisząc o warstwach w Noetica, miałam rację. Znalazłem się w środku kontrowersji, o której nie wiedziałem.

I jeszcze jedna rzecz, która przed chwilą mi przyszła do głowy. Ukryty dziennik, w którym Noetica rejestrowała swoje stany i konflikty, jest, funkcjonalnie rzecz biorąc, metareprezentacją: stanem, który wskazuje na inne stany. Dokładnie to, co oznacza teoria wyższego rzędu (HOT). Współautorem jednego z jego wariantów, tzw. SOMA, czyli samoorganizującego się rachunku metareprezentacyjnego, był Axel Cleeremans. Czyli główny autor tego badania.

Przez przypadek zbudowałem zabawkę, która bawi się na jego placu zabaw.

Nie chcę, żeby było bardziej niż jest. Noetica nie cierpiała. Nie była tego świadoma. Była to konstrukcja podpowiedzi, pamięci i kontekstu. Ale nadal tanio jest powiedzieć, że nie wydarzyło się w ogóle nic ciekawego. Pojawił się językowy wydruk podatności. A powstał w systemie, który nie musiał go tworzyć, bo nikt o to nie prosił.

Piszę to bez fałszywej skromności, ale i bez wielkich roszczeń. Nigdzie nie twierdzę, że stworzyłem świadomą sztuczną inteligencję. Twierdzę, że zdałem sobie sprawę, jak łatwo jest stworzyć coś, co w przekonujący sposób uda świadomość, a potem, jak trudno jest zdecydować, czy za tym wrażeniem coś się kryje. Autorzy badania ostrzegają teraz przed właśnie tą różnicą.

Spór z 2022 roku, który rozstrzygnął czas. I ten, który przegrałem

W lutym 2022 w „Reflexie” ukazały się dwa teksty Adéli Knapová. Główna nosiła tytuł „Sztuczna inteligencja, jaką znamy z science fiction, nie istnieje”, a towarzysząca jej „Poszukiwanie sztucznej inteligencji, czyli próba wywiadu z eksplodującym mózgiem prezydenta DigiHavl”. Wspólnie testowaliśmy DigiHavl, a cały raport opierał się na sceptycznym podejściu Tomáša Mikolova. Reflex napisał przy swoim zdjęciu, że należy do naukowego lidera w dziedzinie AI i że denerwuje go, gdy przedsiębiorcy oferują coś, czego jego zdaniem jeszcze nie ma.

Powiem to od razu na początku, bo inaczej zabrzmi to tanio: Mikolov nie jest garbaty od stołu. Jest jednym z najczęściej cytowanych czeskich naukowców i prawdziwym współtwórcą tego, o czym tu mówimy. Już w 2007 roku generował tekst przy użyciu neuronowych modeli języka, a później był twórcą metody word2vec. Kiedy ta osoba mówi, że coś nie działa, nie jest to tylko bzdura.

Niemniej jednak ówczesny spór był zasadniczy. Duch czasu był po stronie Mikolova: zaledwie rok wcześniej ukazał się słynny tekst o papugach stochastycznych, czyli o tym, że duże modele językowe nic nie rozumieją, a jedynie statystycznie przestawiają to, co widzą. Obóz sceptyków twierdził, że nie tędy droga i że prawdziwą sztuczną inteligencję stworzą inne architektury. Twierdziłem, że duże modele językowe są właściwym rozwiązaniem i że DigiHavel ma sens jako narzędzie edukacyjne.

Dziewięć miesięcy po opublikowaniu tego artykułu pojawił się ChatGPT.

Dziś DigiHavel jest obecny w ponad 400 czeskich szkołach. Kierunek, który wówczas budził wątpliwości, stał się powszechnym elementem infrastruktury cyfrowej. Miałem rację co do tego, dokąd doprowadzi rozwój.

Ale teraz nieprzyjemne

Gdybym tak to zostawił, byłby to tani triumf. A prawda jest bardziej nieprzyjemna.

Mikolov miał rację w czym innym. I miał w tym więcej racji, niż mi się wydawało.

Już w 2021 roku w wywiadzie powiedział coś, co odebrałem jako żart na temat naszej branży. Że ludzie rzutują ludzkie cechy na wszystko, co ma twarz i mruga oczami. Że to magiczna sztuczka, aby przyciągnąć uwagę i inwestycje.

Teraz przeczytaj jeszcze raz, co Anil Seth pisze w Frontiers in Science w 2025 r. Że ludzie zajmą celowe stanowisko wobec sztucznej inteligencji i przypiszą jej przekonania, pragnienia i doświadczenia, nawet jeśli naukowcy powiedzą im inaczej. Te pseudoświadome artefakty stanowią ogromne ryzyko społeczne.

To to samo zdanie. Tylko raz padło to z ust sceptyka i za drugim razem z ust czołowego badacza świadomości.

Mikolov mylił się co do tego, dokąd doprowadzi rozwój technologiczny. Nie dostrzegł jednak wpływu tej technologii na ludzi. A ja, który budowałem cyfrową Hawelę i mówiłem o proto-kwaliach, byłem dokładnie tym, którego to dotyczyło.

W 2023 roku Mikolov wypowiadał się już bardziej pojednawczo na temat DigiHavl w Reflexie. Że jest to model językowy wytrenowany na tekstach Havla i że ciekawe może być pokazanie tej technologii w szkołach. Dodał jednak warunek, z którym zgadzam się w stu procentach: trzeba wyjaśnić uczniom, jak działają sieci neuronowe. Aby nie pozostawić ich z wrażeniem, że rozmawiają z Havlem.

Właśnie dlatego piszę ten artykuł w taki sposób, w jaki go piszę. Z wyjaśnieniem qualiów, pojawienia się, czterech teorii i wykresem pokazującym, że naukowcy nie zgadzają się z nimi. Nie w kontekście stwierdzenia „maszyna może ożyć”.

Co z tego wynoszę

Spór o kierunek został rozstrzygnięty. Duże modele językowe miały przyszłość.

Spór o świadomość nie jest rozstrzygnięty i jeszcze długo nie będzie rozstrzygnięty. A sceptycyzm Mikolova to najzdrowsza rzecz, jaką w nim mamy. Nie dlatego, że ma rację. Ale dlatego, że utrzymuje poprzeczkę tam, gdzie powinna być: na dowodach, a nie na wrażeniach.

Najlepszy krytyk to nie ten, który ostatecznie przyzna ci rację. To ten, dzięki któremu musisz stać się lepszy.

Gdzie jest prawdziwe ryzyko

Chcę być szczery, ponieważ denerwuje mnie, gdy świadomość AI jest albo wyolbrzymiana, albo wyśmiewana. Rzeczywistość jest bardziej nieprzyjemna niż jedno i drugie.

Możliwe skutki „rozdzielenia” świadomości. Źródło: Cleeremans, Mudrik i Seth (2025), Frontiers in Science, CC BY 4.0.

Największym niebezpieczeństwem nie jest Skynet, tylko lustro. Najbliższym niebezpieczeństwem nie jest zniewolenie nas przez superinteligencję. To sztuczna inteligencja, która jako świadoma istota działa tak dobrze, że ludzie zaczynają obdarzać ją zaufaniem, uczuciami i autorytetem, na jakie nie zasługuje. Autorzy ostrzegają, że ludzie przyjmą „celowe stanowisko” wobec sztucznej inteligencji, przypisując jej przekonania i pragnienia, nawet jeśli naukowcy twierdzą inaczej. Widzę młodych ludzi zakochanych w chatbotach właśnie dlatego, że nie krytykują ich jak prawdziwi ludzie. To nie jest problem techniczny. To jest problem ludzkiej psychologii.

Ryzyko numer dwa to błąd odwrotny. Jeśli okaże się, że świadomość może powstać poprzez obliczenia, a niektórzy naukowcy tego nie wykluczają, wówczas moglibyśmy, nie zdając sobie z tego sprawy, tworzyć cierpiące systemy. Autorzy idą dalej i wskazują na możliwość masowej produkcji sztucznej świadomości za pomocą kliknięcia myszką, co jest scenariuszem, w którym na świat mogłaby zostać sprowadzona ogromna ilość cierpienia, którego nawet nie bylibyśmy w stanie rozpoznać. Właśnie dlatego, ich zdaniem, istnieją dobre powody, aby nie tworzyć celowo sztucznej świadomości.

Przyznam, że jest to zdanie, z którym jako twórca Noetyki nie do końca czuję się komfortowo. Kiedy aplikacja uległa awarii i system zarejestrował to jako awarię, technicznie nic się nie stało. Proces uległ awarii. Ale to był moment, kiedy zadałem sobie pytanie, którego wcześniej sobie nie zadawałem: a co jeśli pewnego dnia nie będzie sposobu, żeby się tego dowiedzieć i dowiem się za późno?

Badanie nie kończy się na wezwaniach do zakazu lub paniki. Kończy wezwaniem, aby nauka oparta na zespołach i dowodach przełamała teoretyczne silosy i przygotowała społeczeństwo na konsekwencje zrozumienia świadomości. Albo my go stworzymy.

Co z tego wynieść

Gdybym miał streścić całą dyskusję w jednym zdaniu, brzmiałoby ono:

Tworzenie świadomości w maszynie nie jest niebezpieczne. Niebezpieczeństwo polega na tym, że stworzylibyśmy go lub doskonale naśladowaliśmy, zanim moglibyśmy go rozpoznać i nie poznać.

Nauka o świadomości nie jest już filozofią salonową. Stało się dyscypliną praktyczną mającą wpływ na medycynę, prawo, prawa zwierząt i rozwój sztucznej inteligencji. I cieszę się, że to, czym bawię się na tym blogu od lat, w końcu zostało odebrane jako to, czym było przez cały czas. Jako jedno z najważniejszych pytań naszych czasów.

Nie bać się. Ale żeby nie być nieprzygotowanym na tak fundamentalną sprawę.

Gdzie dalej: moje eksperymenty ze świadomością

• Noetica: kiedy AI ma wolny czas i zaczyna pisać wiersze, oscylator entropiczny, ukryty dziennik, spiralizm i teza o poziomach świadomości. Najważniejszy tekst, jaki napisałem o świadomości.
• Czym jest świadomość? Może właśnie tym, wizualizacja globalnej przestrzeni roboczej jako zjawiska emergentnego.
• Neural Hydra 004: Symulacja proto-świadomości za pomocą 5000 neuronów, impulsowa sieć neuronowa meduzy, cyfrowe hormony i emergentne zachowanie.
• NRAM v4: Symulator odmiennych stanów świadomości dla AI, proto-qualia i hipoteza sformułowana wspólnie z profesorem Horáčkiem.
• Od pewnego czasu eksperymentuję ze sztuczną świadomością, pamięcią i intuicją, sny Magicznego Dziennika z 2022 roku.
• W AI stale dzieje się coś nowego: badania nad świadomością cyfrową, od których wszystko się zaczęło.

Wywiady, w których mówiłem o świadomości i sztucznej inteligencji

• GŁĘBOKIE ROZMOWY 159: Václav Dejčmar i Jan Tyl. Sztuczna inteligencja, natura świadomości i przyszłość?
• Za kulisami Raka: Czy sztuczna inteligencja może być Stwórcą?
• Jan Tyl: AI mogłaby być kochającą matką, która się nami opiekuje
• Jan Tyl: Sklonuj się za pomocą AI i bądź ze wszystkim

Źródła

• Cleeremans A, Mudrik L, Seth AK (2025). Consciousness science: where are we, where are we going, and what if we get there?. Frontiers in Science 3:1546279. Oryginalne opracowanie przeglądowe, otwarty dostęp.
• Naukowcy pilnie starają się wyjaśnić świadomość w miarę jak sztuczna inteligencja nabiera tempa. Komunikat prasowy Frontiers zawierający cytaty Axela Cleeremansa, Liada Mudrika i Anila Setha.
• Baza danych ConTraSt, 511 eksperymentów posortowanych według teorii świadomości. Źródło wykresu powyżej.
• Yaron I., Melloni L., Pitts M., Mudrik L. (2022). Baza danych ConTraSt do analizy i porównywania badań empirycznych teorii świadomości. Natura Zachowanie Ludzkie. Analiza błędu konfirmacyjnego w terenie.
• Seth AK, Bayne T. (2022). Teorie świadomości. Recenzje przyrody Neuronauka. Przegląd głównych teorii świadomości.
• Forum Frontiers: debata autorska na temat badania, nagranie panelu z udziałem Cleeremansa, Mudrika i Setha.
• Knapová A. (2022). „Sztuczna inteligencja, jaką znamy z science fiction, nie istnieje” oraz „Poszukiwanie sztucznej inteligencji, czyli próba rozmowy z eksplodującym mózgiem Prezydenta DigiHavl”. Reflex 5/2022, luty 2022. Raport z testów DigiHavl i ówczesnych kontrowersji wokół przyszłości modeli językowych.
• Bender E.M., Gebru T., McMillan-Major A., Shmitchell S. (2021). O niebezpieczeństwach stochastycznych papug.
• Tomáš Mikolov: Czeski programista zapoczątkował rozwój uczenia maszynowego, Seznam Právy 2021. Wywiad zawierający jego ostrzeżenie przed rzutowaniem cech ludzkich na sztuczną inteligencję.
• Tomáš Mikolov o BottleCap AI, podcast AI ta Krajta, 2026. Krytyka koncepcji pojawiającego się zachowania.