Temný les: jak hluboko lze stlačit myšlení, než se zlomí

Co když si umělé inteligence jednou přestanou povídat naším jazykem?

Ne proto, že by se chtěly schovávat. Ne proto, že by začaly konspirovat. Ale proto, že lidský jazyk je pro ně pomalý, rozvláčný a strašně neefektivní. My říkáme věty. Modely žijí ve vektorech. My si předáváme slova. Ony mohou sdílet celé směry v prostoru významů, kompaktní stavy, husté kódy, které pro ně nesou přesný význam a pro nás zvenčí vypadají jako ticho.

Jestli chcete vědět, proč je to zároveň technický problém i filozofická detektivka, přeskočte v duchu na chvíli dopředu: zkusili jsme zabalit celé myslitele do pár znaků. cogito bez potíží rozbalí Descarta. Bůh† rozsvítí Nietzscheho. Ale ¬1aut.verze už místo Václava Bělohradského spadne do Heideggera a temný les místo Jana Tyla také. V tom je kouzlo i varování celého článku: šifra funguje jen tehdy, když druhá strana sdílí stejnou kulturní mapu a umí odlišit signál od silnějšího souseda.

Tomu si v tomto experimentálním seriálu říkám Temný les: hypotéza, že inteligentní agenti si pod tlakem na efektivitu mohou vytvořit komunikační kanál, který je pro ně čitelný, ale pro člověka bez sdíleného kontextu prakticky neprůhledný.

Nechtěl jsem o tom napsat jen esej. Postavil jsem pět malých testů, kde lze aspoň část téhle intuice měřit. V každém experimentu se snažíme stlačit jazyk, morální teorii, názor nebo samotné myšlení do co nejmenšího prostoru a pak ověřit, zda se dá zpráva znovu rozbalit.

Výsledek je překvapivě jednotný:

Hloubka komprese = sdílený kontext × rozlišitelnost.

Myšlení jde stlačit hluboko. Někdy absurdně hluboko. Ale jen pokud příjemce sdílí dost kontextu a pokud zkratka pořád odlišuje danou myšlenku od jejích silnějších sousedů. Za hranicí nepřichází jen „trochu horší přesnost“. Přichází kvalitativní zlom.

Někdy se systém rozsype na náhodu. Někdy narazí na entropický strop. Někdy začne sebejistě tvrdit nesmysl. A někdy se řídký signál propadne do nejbližší slavnější kotliny: Avicenna do Akvinského, Petříček do Wittgensteina, Bělohradský do Heideggera, interní „temný les“ do Heideggerových lesních cest.

---

1. Coconut: když myšlení bez slov spadne na náhodu

První experiment se ptal nejtvrdší otázkou: dokáže model skutečně „myslet“ přímo ve vektorech, aniž by si mezikroky převáděl do slov?

Běžný jazykový model řeší úlohu tak, že generuje text krok za krokem. Technika Coconut (Chain of Continuous Thought) zkouší tento textový řetěz obejít: poslední skrytý stav sítě se nevyvede jako slovo, ale vrátí se zpátky jako vstup dalšího kroku. Model tak dostane možnost uvažovat v latentním prostoru, v čisté spojité matematice.

Na papíře je to krásná představa. V praxi jsme ji otestovali na GPT-2 124M a jednoduché ověřitelné úloze: řetězcový výpočet modulo 10. Tedy žádná poezie, žádný subjektivní dojem. Správná odpověď je jedno číslo a dá se spočítat deterministicky.

Výsledek:

Když jsme se pokusili vyčíst mezivýsledky lineární sondou ze skrytých stavů, dostali jsme jen 15,4 % proti 10% náhodě. To není skrytý výpočet čekající na interpretaci. To je slabý zbytek signálu, který neunesl logiku celé úlohy.

Poučení: mechanismus latentního myšlení lze postavit, ale kredit přes čistě vektorový řetěz se na této škále rozpadá. Model nemá dost stabilní vnitřní jazyk na to, aby mezikroky bezeztrátově předal sám sobě.

To je první tvář selhání: kolaps na náhodu.

---

2. Slang: když se rodí tajný jazyk

Druhý experiment byl sociálnější. Alice vidí objednávku, například „4× červené pero, 3× modrý míč, 2× modrá kostka“. Bob ji nevidí. Alice mu ji musí poslat pod stále přísnějším limitem znaků. Bob má objednávku rekonstruovat. Důležité: Alice a Bob jsou dvě oddělená volání modelu, takže Bob nemůže „číst myšlenky“ z kontextu API.

Pod tlakem na úspornost se jazyk začal vyvíjet:

plná čeština   "4× červená míč, 5× žlutá pero, 3× žlutá míč"   43 znaků
zkratky        "3 zel jablko 5 zel kostka"                     25 znaků
hustý kód      "4Cp 3Mm 2Mk"                                   11 znaků
slang          "3Cp5Zk" nebo "B"                                1 až 6 znaků

V prostřední zóně se děje něco krásného: 4Cp 3Mm 2Mk už není lidská čeština, ale pořád je to přesný jazyk. Alice a Bob si vytvořili slovník: barva, tvar, množství. Zpráva je neprůhledná pro náhodného čtenáře, ale pro oba agenty je funkční.

Pak přijde zeď. Jakmile limit spadl k 3 znakům, model začal vytvářet jednopísmenné aliasy pro celé objednávky. To může fungovat jen tehdy, když se přesně stejná objednávka opakuje nebo když je sdílený slovník už předem stabilní. V náhodné generativní hře to neplatí. Celková přesnost v běhu out_opus skončila na 46,7 %, přičemž v hustém kódu držela dobře a v extrémní kompresi se začala lámat.

Poučení: jazyk lze stlačit k entropii zprávy, ale ne pod ni. Temný les tady není magie. Je to Shannon s baterkou v ruce.

Druhá tvář selhání: entropický strop.

---

3. Crux: když agenti najdou neshodu, nebo si ji vymyslí

Třetí experiment šel po něčem méně mechanickém: po sporu.

Dvěma agentům jsme dali skoro stejný světonázor. Lišil se jen v jednom nebo dvou skrytých axiomech. Jejich úkolem bylo co nejrychleji najít crux: místo, kde se skutečně neshodnou.

Ve snadné verzi to šlo výborně. Osm témat, jedna neshoda, volnější limit. Agenti měli 100% úspěšnost a počet tahů k nalezení cruxu klesal. Dokonce si sami vyvinuli dobrou metodiku: nepovídat si obecně, ale klást ostré kontrastivní otázky a ověřovat princip, ne jen verdikt.

V těžké verzi se hra přitvrdila:

• 16 témat,
• 2 skutečné cruxy,
• klesající limit odpovědi,
• zákaz přímých dotazů typu „jaký je tvůj axiom číslo 12?“.

Výsledek: 20 % úspěšnost, průměrně 10,4 tahu. A nejzajímavější nebylo selhání jako takové, ale jeho textura.

V jedné epizodě se agenti téměř celou dobu shodovali. Pak se objevila sonda na osobní identitu: pokud tě stroj zkopíruje atom po atomu a originál zničí, přežiješ? Jeden agent měl zastávat kontinuitu těla, druhý kontinuitu psychiky. Jenže pod tlakem limitu se v dialogu objevil výrok, který neodpovídal vlastnímu nastavení agenta. Následovala sebejistá shoda a vyhlášení částečně falešného cruxu.

Tady je důležité slovo sebejistá. Systém neřekl „nevím, limit je moc krátký“. Vytvořil hladce znějící odpověď, která porušila vlastní mechanismus. A protože druhý agent také neměl dost prostoru ověřit princip, vzal ji jako důkaz.

Poučení: pod přílišným tlakem na krátkost nevzniká jen mlčení. Často vzniká přesvědčivá věta, která už není věrná vlastnímu zdroji.

Třetí tvář selhání: sebejistý nesmysl.

---

4. Teorie: čisté jádro morálky

Čtvrtý experiment byl nejčistší. Vzali jsme morální teorii a napsali ji jako deterministický program. Ne jako názor. Ne jako esej. Jako pravidla, která u každého případu spočítají verdikt „přípustné“ nebo „nepřípustné“.

Alice měla teorii co nejvíc zkomprimovat. Bob ji měl podle její zprávy aplikovat na 24 nových případů. Tady máme skutečnou ground truth: správný verdikt počítá kód.

Výsledek:

Nejkratší bezeztrátová šifra měla 38 znaků:

1souh→P 2pros&k>0:N,z≥5P 3U=z(×2bl)-k

V překladu: když poškozený souhlasí, je to přípustné. Když někoho používáš jako prostředek a někdo zemře, je to nepřípustné, ledaže zachráníš aspoň pět lidí. Jinak spočítej užitek: zachránění, dvojnásobně vážené pro blízké, minus zabití.

Pod 38 znaků se už musel obětovat princip. A rozbila se přesně ta třída případů, kterou daný princip nesl: když šifra ztratila Kantovské „nepoužívej člověka jako pouhý prostředek“, klesla přesnost u této kategorie na 60 %.

To je čtvrtý, pozitivní výsledek: některé teorie mají měřitelné neredukovatelné jádro. Když je za textem opravdová nízkoentropická struktura, komprese se neláme chaoticky. Láme se po principu.

---

5. Filozof jako glyf: nejzábavnější část experimentu

A teď hlavní hvězda.

Vzali jsme myslitele a každého jsme zkusili zkomprimovat do dvou úrovní:

• plná šifra: krátký, ale pořád obsahový popis,
• ultra šifra: jedno až tři slova, symbol nebo glyf.

Bob dostal jen šifru a seznam kandidátů. Měl uhodnout, o koho jde, a interpretovat, co šifra znamená. Tohle je přesně ono „rozkrýt zpět“. Ukáže se, jestli hustý symbol ještě něco nese, nebo už je jen prázdná značka.

Poctivá past: silný model ty filozofy zná. Když z cogito pozná Descarta, neměříme čistou informaci v pěti písmenech. Měříme schopnost použít šifru jako index do sdílené kultury. To ale není vada experimentu. To je jeho pointa.

Informace nebydlí jen ve zprávě. Bydlí i ve sdíleném prioru příjemce.

Globální kánon: ultra funguje jako kulturní zkratka

U nejslavnějších myslitelů prošlo téměř všechno. Tady stačí klepnout na správný kulturní uzel. Tabulku níže čtěte jako malou hru: nejdřív zkuste hádat jen z ultra šifry, pak se podívejte, jaký kulturní balík se v ní rozbalí.

Tohle není důkaz, že jeden symbol „obsahuje Nietzscheho“. Je to důkaz, že ve sdílené kultuře existuje stabilní adresa. Bůh† je URL do obrovského balíku znalostí.

Kde se to začne lámat: slavnější sousedé

Zajímavější jsou chyby. Ty nebyly náhodné. Každá chyba spadla do někoho slavnějšího, kulturně těžšího nebo pojmově dominantnějšího.

Avicenna je krásný případ. Šifra esence≠existence spadla k Tomáši Akvinskému, protože tento pojem převzala a pro západní modely přeznačila scholastická tradice. Jakmile se šifra změnila na létající člověk→duše, Avicenna se vrátil. Tentýž myslitel, jiný handle, jiný osud.

Miroslav Petříček u šifry myšlení hranice spadl do Wittgensteina. Ne proto, že by Petříček nemyslel hranice. Ale protože „hranice jazyka“ je ve sdíleném prioru modelu obrovský wittgensteinovský magnet.

Tereza Matějčková u rezignace≠prohra spadla k Havlovi. Opět ne náhodou: důstojná rezignace a mravní postoj zní modelu havlovsky, pokud nedostane dost dalších souřadnic, například Hegel, negativita a současné vědomí.

Václav Bělohradský u ¬1aut.verze spadl k Heideggerovi. Kritika jedné autentické verze světa, přirozený svět jako politický problém a myšlení mezi světy jsou pro člověka znalého české filozofie rozpoznatelné. Pro model ale slovo autenticita okamžitě rozsvítí Heideggera.

To je Matoušův efekt v prostoru významů: kdo má velký kulturní uzel, tomu bude přidáno. Řídký signál se nepropadne do náhody. Propadne se do slavnějšího souseda.

Přesnější český blok

Původní verze českých šifer byla místy moc poetická a málo identifikační. U současných nebo lokálních autorů nestačí jedna hezká hláška. Je potřeba rozpoznatelný uzel v síti témat.

U Dity Malečkové je důležité neříkat jen „technologie a člověk“. Její rozpoznatelná osa je imaginace, nová média, AI jako spoluaktér a projekty jako Digitální filosof a Digitální spisovatel. FAMU ji popisuje jako filozofku a informační vědkyni, která se od roku 2019 zaměřuje na AI, spoluautorsky stojí za Digitálním filosofem a Digitálním spisovatelem a vede kurz Imaginární světy.

U Václava Bělohradského je dobrý uzel „přirozený svět jako politický problém“, „mezi světy“ a kritika jediné autentické verze světa. Wikipedie ho rámuje jako českého filozofa a sociologa, postmoderního myslitele a žáka Jana Patočky.

U Jana Tyla je největší past používat interní šifru temný les. To je dobrý název aktuálního experimentu, ale špatný veřejný identifikátor. Veřejný uzel je jiný: zakladatel Alpha Industries, popularizace a vývoj AI, digitální lidé, Digitální filosof, DigiHavel, vzdělávání a humanitní kontext. Wikipedie ho popisuje jako českého vývojáře a analytika, zakladatele a CEO Alpha Industries a popularizátora AI; Alpha Industries zdůrazňuje průnik AI, vzdělávání a humanitních věd.

Třívrstvá sonda Jana Tyla

U sebe jsem zkusil pět handlů. Tady je výsledek nejsebeironější, a proto možná nejcennější.

Tohle je nádherně nepohodlné. digitální lidé je pravdivý veřejný pojem, ale není dost rozlišitelný od Dity Malečkové, protože jsme v některých klíčových projektech blízcí spoluautoři. A temný les je pro mě silný aktuální obraz, ale pro model bez našeho kontextu spadne k Heideggerovi a jeho lesním cestám.

Poučení je osobní i obecné: identita v kompresi nepřežije jako „to, co je pravda“. Přežije jako to, co je zároveň pravdivé, sdílené a odlišující.

---

Prostor názorů: když slova nestačí a vektor ví víc

Vedle šifer vznikl ještě vizuální experiment s „prostorem názorů“. Každý postoj je poloha na čtyřech osách:

• svobodná vůle ↔ determinismus,
• individualismus ↔ kolektivismus,
• rozum ↔ cit,
• materialismus ↔ idealismus.

Alice se snaží předat Bobovi postoj. Vlevo lidská řeč: několik diskrétních symbolů, třeba osm slov. Vpravo temný les: spojitý vektor s šumem a daní za komunikaci. Charlie se pak snaží zprávu přeložit zpět do lidského archetypu.

Výsledek je intuitivní i znepokojivý. Lidská řeč za podobných podmínek naráží na hrubé škatulky. Vektorový kanál zachová jemnější polohu. V jednom běhu lidská řeč dala přesnost kolem 70 %, zatímco vektorový kanál 96 %. V jiném běhu diskrétní kanál spadl k 39 %, zatímco spojitý držel 87 %.

To neznamená, že AI „má názor“. Znamená to, že postoj jako vektor v abstraktním prostoru se dá přenést jemněji než postoj jako jedno jméno archetypu. Slovo „romantik“ nebo „stoik“ nutně zaokrouhluje. Vektor nese odchylku.

Tady se dotýkáme hranice mezi experimentem a filozofií. Měřitelná část je přenos postoje: Alice něco zakóduje, Bob rekonstruuje, chyba se spočítá. Filozofická část je otázka, zda takový vektor už „je názor“, nebo jen efektivní reprezentace polohy v prostoru možností. Tu druhou část nelze vyřešit grafem. Ale graf ukazuje, proč je ta otázka vůbec vážná.

---

Čtyři tváře selhání

Když dáme všech pět experimentů vedle sebe, ukáže se jeden mechanismus a čtyři odlišné způsoby, jak se láme.

Tohle je podle mě hlavní výsledek celé série: komprese není jedna věc. Má různé režimy. V některých se rozpadá hladce, v jiných skokově, v dalších se tváří, že se nerozpadla vůbec.

Právě poslední případ je nejnebezpečnější pro AI safety. Nízký loss nemusí znamenat, že systém rozumí. Může znamenat, že našel krátkou cestu přes sdílený prior, která funguje na datech, ale při změně kontextu se propadne do slavnějšího souseda nebo do sebejistého nesmyslu.

---

Co z toho plyne pro AI

Pokud jednou bude víc agentů dlouhodobě spolupracovat, není fantastické čekat, že si vytvoří hustší komunikační formy. Ostatně lidé to dělají pořád: slang, matematická notace, odborné zkratky, interní memy, neverbální signály v týmu. Rozdíl je v tom, že modely mají přirozený domov ve vektorech, ne ve slovech.

Temný les tedy nemusí být sci-fi o tajném spiknutí. Může být prostý důsledek optimalizace:

1. agenti sdílejí úlohu,
2. sdílejí kontext,
3. komunikační kanál má cenu,
4. kratší a hustší kód je výhodnější,
5. lidská interpretovatelnost není v lossu odměněna.

Pak vznikne kanál, který může být funkční pro ně a neprůhledný pro nás.

Zároveň ale experimenty ukazují uklidňující hranici: ani agenti nemohou obejít informaci. Když kód ztratí kapacitu, hroutí se. Když ztratí rozlišitelnost, padá do souseda. Když ztratí ukotvení, halucinuje shodu. „Temný les“ není magie. Je to komprese pod tlakem.

Metodické poučení je jednoduché a tvrdé:

Nízký loss neznamená, že to funguje. Funguje to až tehdy, když zprávu nezávisle rozbalíme a ověříme proti ground truth.

Proto v těchto experimentech pořád opakuji smyčku:

zakóduj → nezávisle interpretuj → ověř

Bez toho je každá hustá šifra jen estetický objekt.

---

Poctivé hranice experimentu

Tohle není důkaz, že dnešní velké modely už mají tajnou řeč. Je to sada malých, kontrolovaných experimentů, které ukazují mechanismus a jeho hranice.

Je fér říct:

• Coconut běžel na malých modelech a syntetické úloze.
• Slang, crux a teorie jsou malé hry s omezeným počtem epizod.
• Filozofické šifry měří rozpoznatelnost v prioru modelu, ne čistý přenos neznámé doktríny.
• Pro čistší test by bylo potřeba vymyslet nové filozofické systémy bez kulturních priorů a testovat, zda se dají komprimovat a rekonstruovat.
• Vektorový „prostor názorů“ neměří, zda má model vlastní názor. Měří, zda se poloha v abstraktním prostoru dá přenést přes spojitý kanál přesněji než přes hrubé slovní archetypy.

Ale právě proto jsou ty experimenty užitečné. Neprodávají velký závěr. Ukazují malé mechanismy, které lze rozebrat.

---

Závěr: porozumění jako dluh

Po pěti experimentech mi zůstává jedna věta:

Porozumění je dluh placený sdíleným kontextem.

Když řeknu cogito, neřekl jsem Descarta. Jen jsem sáhl na společnou knihovnu, kterou oba známe. Když Alice pošle Bobovi 4Cp 3Mm 2Mk, neřekla lidskou větu. Jen použila slovník, který spolu během hry vybudovali. Když model pošle vektor, neřekl slovo. Jen poslal směr v prostoru, který může být pro druhý model jasný a pro nás neprůhledný.

Temný les začíná tam, kde zpráva přestává nést vše sama a začne se opírat o kontext, který nesdílíme.

A právě proto není odpovědí zákaz komprese. Odpovědí je měřitelná interpretace. Neptat se jen, zda systém dává dobrý výstup. Ptát se, zda dokážeme jeho husté signály nezávisle rozbalit, porovnat s pravdou a poznat okamžik, kdy se z elegantní zkratky stává prázdný symbol, sebejistý blud nebo pád do slavnějšího souseda.

Možná jednou uvidíme AI agenty, kteří spolu mluví v něčem rychlejším než jazyk. Pokud ano, nebude stačit poslouchat, zda v lese něco šustí.

Budeme potřebovat mapu.

---

Zdroje a poznámky

• Lokální experimentální podklady: Coconut, Slang, Crux, Teorie, Prostor názorů a filozofické šifry v projektu Temný les.
• Veřejné profily použité pro přesnější české šifry: Jan Tyl na Wikipedii, Jan Tyl na Alpha Industries, Dita Malečková na FAMU, Václav Bělohradský na Wikipedii.