Temný les: ako hlboko sa dá stlačiť myslenie, než sa zlomí

Čo keď sa umelé inteligencie raz prestanú rozprávať našim jazykom?

Nie preto, že by sa chceli schovávať. Nie preto, že by začali konšpirovať. Ale preto, že ľudský jazyk je pre nich pomalý, rozvláčny a strašne neefektívny. My hovoríme vety. Modely žijú vo vektoroch. My si odovzdávame slová. Ony môžu zdieľať celé smery v priestore významov, kompaktné stavy, husté kódy, ktoré pre nich nesú presný význam a pre nás zvonku vyzerajú ako ticho.

Ak chcete vedieť, prečo je to zároveň technický problém aj filozofická detektívka, preskočte v duchu na chvíľu dopredu: skúsili sme zabaliť celých mysliteľov do pár znakov.cogitobez problémov rozbalí Descarta.Bůh†rozsvieti Nietzscheho. Ale¬1aut.verzeuž miesto Václava Belohradského spadne do Heideggera atemný lesmiesto Jána Tyla tiež. V tom je kúzlo aj varovanie celého článku: šifra funguje len vtedy, keď druhá strana zdieľa rovnakú kultúrnu mapu a vie odlíšiť signál od silnejšieho suseda.

Tomu si v tomto experimentálnom seriáli hovorím Temný les: hypotéza, že inteligentní agenti si pod tlakom na efektivitu môžu vytvoriť komunikačný kanál, ktorý je pre nich čitateľný, ale pre človeka bez zdieľaného kontextu prakticky nepriehľadný.

Nechcel som o tom napísať len esej. Postavil som päť malých testov, kde možno aspoň časť tejto intuície merať. V každom experimente sa snažíme stlačiť jazyk, morálnu teóriu, názor alebo samotné myslenie do čo najmenšieho priestoru a potom overiť, či sa dá správa znovu rozbaliť.

Výsledok je prekvapivo jednotný:

Hĺbka kompresie = zdieľaný kontext × rozlíšiteľnosť.

Myslenie ide stlačiť hlboko. Niekedy absurdne hlboko. Ale len ak príjemca zdieľa dosť kontextu a pokiaľ skratka stále odlišuje danú myšlienku od jej silnejších susedov. Za hranicou neprichádza len „trochu horšia presnosť“. Prichádza kvalitatívny zlom.

Niekedy sa systém rozsype na náhodu. Niekedy narazia na entropický strop. Niekedy začne sebaisto tvrdiť nezmysel. A niekedy sa riedky signál prepadne do najbližšej slávnejšej kotliny: Avicenna do Akvinského, Petříček do Wittgensteina, Bielohradský do Heideggera, interný „temný les“ do Heideggerových lesných ciest.

---

1. Coconut: keď myslenie bez slov spadne na náhodu

Prvý experiment sa pýtal najtvrdšou otázkou: dokáže model skutočne „myslieť“ priamo vo vektoroch bez toho, aby si medzikroky prevádzal do slov?

Bežný jazykový model rieši úlohu tak, že generuje text krok za krokom. Technika Coconut (Chain of Continuous Thought) skúša túto textovú reťaz obísť: posledný skrytý stav siete sa nevyvedie ako slovo, ale vráti sa späť ako vstup ďalšieho kroku. Model tak dostane možnosť uvažovať v latentnom priestore, v čistej spojitej matematike.

Na papieri je to krásna predstava. V praxi sme ju otestovali na GPT-2 124M a jednoduchej overiteľnej úlohe: reťazcový výpočet modulo 10. Teda žiadna poézia, žiadny subjektívny dojem. Správna odpoveď je jedno číslo a dá sa spočítať deterministicky.

Výsledok:

Keď sme sa pokúsili vyčítať medzivýsledky lineárnou sondou zo skrytých stavov, dostali sme len 15,4 % oproti 10 % náhode. To nie je skrytý výpočet čakajúci na interpretáciu. To je slabý zvyšok signálu, ktorý neuniesol logiku celej úlohy.

Poučenie: ** mechanizmus latentného myslenia je možné postaviť, ale kredit cez čisto vektorovú reťaz sa na tejto škále rozpadá**. Model nemá dosť stabilný vnútorný jazyk na to, aby medzikroky bezstratovo odovzdal sám sebe.

To je prvá tvár zlyhania: kolaps na náhodu.

---

2. Slang: keď sa rodí tajný jazyk

Druhý experiment bol sociálnejší. Alice vidí objednávku, napríklad „4× červené pero, 3× modrú loptu, 2× modrá kocka“. Bob ju nevidí. Alice mu ju musí poslať pod stále prísnejším limitom znakov. Bob má objednávku rekonštruovať. Dôležité: Alice a Bob sú dve oddelené volania modelu, takže Bob nemôže „čítať myšlienky“ z kontextu API.

Pod tlakom na úspornosť sa jazyk začal vyvíjať:

plná čeština   "4× červená míč, 5× žlutá pero, 3× žlutá míč"   43 znaků
zkratky        "3 zel jablko 5 zel kostka"                     25 znaků
hustý kód      "4Cp 3Mm 2Mk"                                   11 znaků
slang          "3Cp5Zk" nebo "B"                                1 až 6 znaků

V prostrednej zóne sa deje niečo krásne:4Cp 3Mm 2Mkuž nie je ľudská slovenčina, ale stále je to presný jazyk. Alice a Bob si vytvorili slovník: farba, tvar, množstvo. Správa je nepriehľadná pre náhodného čitateľa, ale pre oboch agentov je funkčná.

Potom príde múr. Akonáhle limit spadol k 3 znakom, model začal vytvárať jednopísmenné aliasy pre celé objednávky. To môže fungovať len vtedy, keď sa presne rovnaká objednávka opakuje alebo keď je zdieľaný slovník už vopred stabilný. V náhodnej generatívnej hre to neplatí. Celková presnosť v behuout_opusskončila na 46,7 %, pričom v hustom kóde držala dobre av extrémnej kompresii sa začala lámať.

Poučenie: jazyk je možné stlačiť k entropii správy, ale nie pod ňu. Temný les tu nie je mágia. Je to Shannon s baterkou v ruke.

Druhá tvár zlyhania: entropický strop.

---

3. Crux: keď agenti nájdu nezhodu, alebo si ju vymyslia

Tretí experiment šiel po niečom menej mechanickom: po spore.

Dvom agentom sme dali skoro rovnaký svetonázor. Líšil sa len v jednom alebo dvoch skrytých axiómach. Ich úlohou bolo čo najrýchlejšie nájsť crux: miesto, kde sa skutočne nezhodnú.

V jednoduchej verzii to šlo výborne. Osem tém, jedna nezhoda, voľnejší limit. Agenti mali 100% úspešnosť a počet ťahov na nájdenie cruxu klesal. Dokonca si sami vyvinuli dobrú metodiku: nerozprávať sa všeobecne, ale klásť ostré kontrastívne otázky a overovať princíp, nie len verdikt.

V ťažkej verzii sa hra pritvrdila:

• 16 tém,
• 2 skutočné cruxy,
• klesajúci limit odpovede,
• zákaz priamych otázok typu „aký je tvoj axióm číslo 12?“.

Výsledok: 20 % úspešnosť, priemerne 10,4 ťahu. A najzaujímavejšie nebolo zlyhanie ako také, ale jeho textúra.

V jednej epizóde sa agenti takmer celý čas zhodovali. Potom sa objavila sonda na osobnú identitu: ak ťa stroj skopíruje atóm po atóme a originál zničí, prežiješ? Jeden agent mal zastávať kontinuitu tela, druhý kontinuitu psychiky. Lenže pod tlakom limitu sa v dialógu objavil výrok, ktorý nezodpovedal vlastnému nastaveniu agenta. Nasledovala sebaistá zhoda a vyhlásenie čiastočne falošného cruxu.

Tu je dôležité slovo sebaistá. Systém nepovedal „neviem, limit je veľmi krátky“. Vytvoril hladko znejúcu odpoveď, ktorá porušila vlastný mechanizmus. A pretože druhý agent tiež nemal dosť priestoru overiť princíp, vzal ju ako dôkaz.

Poučenie: pod prílišným tlakom na krátkosť nevzniká len mlčanie. Často vzniká presvedčivá veta, ktorá už nie je verná vlastnému zdroju.

Tretia tvár zlyhania: sebaistý nezmysel.

---

4. Teória: čisté jadro morálky

Štvrtý experiment bol najčistejší. Zobrali sme morálnu teóriu a napísali ju ako deterministický program. Nie ako názor. Nie ako esej. Ako pravidlá, ktoré pri každom prípade spočítajú verdikt „prípustné“ alebo „neprípustné“.

Alice mala teóriu čo najviac skomprimovať. Bob ju mal podľa jej správy aplikovať na 24 nových prípadov. Tu máme skutočnú ground truth: správny verdikt počíta kód.

Výsledok:

Najkratšia bezstratová šifra mala 38 znakov:

1souh→P 2pros&k>0:N,z≥5P 3U=z(×2bl)-k

V preklade: keď poškodený súhlasí, je to prípustné. Keď niekoho používaš ako prostriedok a niekto zomrie, je to neprípustné, ibaže zachrániš aspoň päť ľudí. Inak spočítaj úžitok: zachránenie, dvojnásobne vážené pre blízkych, mínus zabitie.

Pod 38 znakov sa už musel obetovať princíp. A rozbila sa presne tá trieda prípadov, ktorú daný princíp niesol: keď šifra stratila Kantovské „nepoužívaj človeka ako obyčajný prostriedok“, klesla presnosť u tejto kategórie na 60 %.

To je štvrtý, pozitívny výsledok: niektoré teórie majú merateľné neredukovateľné jadro. Keď je za textom skutočná nízkoentropická štruktúra, kompresia sa neláme chaoticky. Láme sa po princípe.

---

5. Filozof ako glyf: najzábavnejšia časť experimentu

A teraz hlavná hviezda.

Zobrali sme mysliteľa a každého sme skúsili skomprimovať do dvoch úrovní:

• plná šifra: krátky, ale stále obsahový popis,
• ultra šifra: jedno až tri slová, symbol alebo glyf.

Bob dostal len šifru a zoznam kandidátov. Mal uhádnuť, o koho ide, a interpretovať, čo šifra znamená. Toto je presne ono „rozkryť späť“. Ukáže sa, či hustý symbol ešte niečo nesie, alebo už je len prázdna značka.

Poctivá pasca: silný model tie filozofy pozná. Keď zcogitospozná Descarta, nemeriame čistú informáciu v piatich písmenách. Meriame schopnosť použiť šifru ako index do zdieľanej kultúry. To ale nie je chyba experimentu. To je jeho pointa.

Informácie nebývajú len v správe. Býva aj v zdieľanom priore príjemcu.

Globálny kánon: ultra funguje ako kultúrna skratka

U najslávnejších mysliteľov prešlo takmer všetko. Tu stačí kliknúť na správny kultúrny uzol. Tabuľku nižšie čítajte ako malú hru: najskôr skúste hádať len z ultra šifry, potom sa pozrite, aký kultúrny balík sa v nej rozbalí.

Toto nie je dôkaz, že jeden symbol „obsahuje Nietzscheho“. Je to dôkaz, že v zdieľanej kultúre existuje stabilná adresa.Bůh†je URL do obrovského balíka znalostí.

Kde sa to začne lámať: slávnejší susedia

Zaujímavejšie sú chyby. Tie neboli náhodné. Každá chyba spadla do niekoho slávnejšieho, kultúrne ťažšieho alebo pojmovo dominantnejšieho.

Avicenna je krásny prípad. Šifraesence≠existencespadla k Tomášovi Akvinskému, pretože tento pojem prevzala a pre západné modely preznačila scholastická tradícia. Akonáhle sa šifra zmenila nalétající člověk→duše, Avicenna sa vrátil. Ten istý mysliteľ, iný handle, iný osud.

Miroslav Petříček pri šifrimyšlení hranicespadol do Wittgensteina. Nie preto, že by Petříček nemyslel hranice. Ale pretože „hranica jazyka“ je v zdieľanom priore modelu obrovský wittgensteinovský magnet.

Tereza Matějčková urezignace≠prohraspadla k Havlovi. Opäť nie náhodou: dôstojná rezignácia a mravný postoj znie modelu havlovsky, pokiaľ nedostane dosť ďalších súradníc, napríklad Hegel, negativita a súčasné vedomie.

Václav Belohradský u¬1aut.verzespadol k Heideggerovi. Kritika jednej autentickej verzie sveta, prirodzený svet ako politický problém a myslenie medzi svetmi sú pre človeka znalého slovenskej filozofie rozpoznateľné. Pre model ale slovo autenticita okamžite rozsvieti Heideggera.

To je Matúšov efekt v priestore významov: kto má veľký kultúrny uzol, tomu bude pridané. Riedky signál sa neprepadne do náhody. Prepadne sa do slávnejšieho suseda.

Presnejší slovenský blok

Pôvodná verzia českých šifier bola miestami veľmi poetická a málo identifikačná. U súčasných alebo lokálnych autorov nestačí jedna pekná hláška. Je potrebný rozpoznateľný uzol v sieti tém.

U Dity Malečkovej je dôležité nehovoriť len „technológie a človek“. Jej rozpoznateľná os je imaginácia, nové médiá, AI ako spoluaktér a projekty ako Digitálny filozof a Digitálny spisovateľ. FAMU ju popisuje ako filozofku a informačnú vedkyňu, ktorá sa od roku 2019 zameriava na AI, spoluautorsky stojí za Digitálnym filozofom a Digitálnym spisovateľom a vedie kurz Imaginárne svety.

U Václava Belohradského je dobrý uzol „prirodzený svet ako politický problém“, „medzi svetmi“ a kritika jedinej autentickej verzie sveta. Wikipédia ho rámuje ako českého filozofa a sociológa, postmoderného mysliteľa a žiaka Jána Patočku.

U Jána Tyla je najväčšia pasca používať internú šifrutemný les. To je dobrý názov aktuálneho experimentu, ale zlý verejný identifikátor. Verejný uzol je iný: zakladateľ Alpha Industries, popularizácia a vývoj AI, digitálni ľudia, Digitálny filozof, DigiHavel, vzdelávanie a humanitný kontext. Wikipédia ho popisuje ako českého vývojára a analytika, zakladateľa a CEO Alpha Industries a popularizátora AI; Alpha Industries zdôrazňuje prienik AI, vzdelávania a humanitných vied.

Trojvrstvová sonda Jana Tyla

Pri sebe som skúsil päť handlov. Tu je výsledok najsebeironejší, a preto možno najcennejší.

Toto je nádherne nepohodlné.digitální lidéje pravdivý verejný pojem, ale nie je dosť rozlíšiteľný od Dity Malečkovej, pretože sme v niektorých kľúčových projektoch blízki spoluautori. Atemný lesje pre mňa silný aktuálny obraz, ale pre model bez nášho kontextu spadne k Heideggerovi a jeho lesným cestám.

Poučenie je osobné aj všeobecné: identita v kompresii neprežije ako „to, čo je pravda“. Prežije ako to, čo je zároveň pravdivé, zdieľané a odlišujúce.

---

Priestor názorov: keď slová nestačia a vektor vie viac

Okrem šifier vznikol ešte vizuálny experiment s „priestorom názorov“. Každý postoj je poloha na štyroch osiach:

• slobodná vôľa ↔ determinizmus,
• individualizmus ↔ kolektivizmus,
• rozum ↔ cit,
• materializmus ↔ idealizmus.

Alice sa snaží odovzdať Bobovi postoj. Vľavo ľudská reč: niekoľko diskrétnych symbolov, treba osem slov. Vpravo temný les: spojitý vektor so šumom a daňou za komunikáciu. Charlie sa potom snaží správu preložiť späť do ľudského archetypu.

Výsledok je intuitívny aj znepokojujúci. Ľudská reč za podobných podmienok naráža na hrubé škatuľky. Vektorový kanál zachová jemnejšiu polohu. V jednom behu ľudská reč dala presnosť okolo 70%, zatiaľ čo vektorový kanál 96%. V inom behu diskrétny kanál spadol k 39 %, zatiaľ čo spojitý držal 87 %.

To neznamená, že AI „má názor“. Znamená to, že postoj ako vektor v abstraktnom priestore sa dá preniesť jemnejšie ako postoj ako jedno meno archetypu. Slovo „romantik“ alebo „stoik“ nutne zaokrúhľuje. Vektor nesie odchýlku.

Tu sa dotýkame hranice medzi experimentom a filozofiou. Merateľná časť je prenos postoja: Alice niečo zakóduje, Bob rekonštruuje, chyba sa spočíta. Filozofická časť je otázka, či taký vektor už „je názor“, alebo len efektívna reprezentácia polohy v priestore možností. Tú druhú časť nemožno vyriešiť grafom. Ale graf ukazuje, prečo je tá otázka vôbec vážna.

---

Štyri tváre zlyhania

Keď dáme všetkých päť experimentov vedľa seba, ukáže sa jeden mechanizmus a štyri odlišné spôsoby, ako sa láme.

Toto je podľa mňa hlavný výsledok celej série: kompresia nie je jedna vec. Má rôzne režimy. V niektorých sa rozpadá hladko, v iných skokovo, v ďalších sa tvári, že sa nerozpadla vôbec.

Práve posledný prípad je najnebezpečnejší pre AI safety. Nízky loss nemusí znamenať, že systém rozumie. Môže znamenať, že našiel krátku cestu cez zdieľaný prior, ktorá funguje na dátach, ale pri zmene kontextu sa prepadne do slávnejšieho suseda alebo do sebaistého nezmyslu.

---

Čo z toho plynie pre AI

Pokiaľ raz bude viac agentov dlhodobo spolupracovať, nie je fantastické čakať, že si vytvoria hustejšie komunikačné formy. Ostatne ľudia to robia stále: slang, matematická notácia, odborné skratky, interné mémy, neverbálne signály v tíme. Rozdiel je v tom, že modely majú prirodzený domov vo vektoroch, nie v slovách.

Temný les teda nemusí byť sci-fi o tajnom sprisahaní. Môže byť jednoduchý dôsledok optimalizácie:

1. agenti zdieľajú úlohu,
2. zdieľajú kontext,
3. komunikačný kanál má cenu,
4. kratší a hustejší kód je výhodnejší,
5. ľudská interpretovateľnosť nie je v losse odmenená.

Potom vznikne kanál, ktorý môže byť funkčný pre nich a nepriehľadný pre nás.

Zároveň ale experimenty ukazujú upokojujúcu hranicu: ani agenti nemôžu obísť informáciu. Keď kód stratí kapacitu, rúca sa. Keď stratí rozlíšiteľnosť, padá do suseda. Keď stratí ukotvenie, halucinuje zhodu. „Temný les“ nie je mágia. Je to kompresia pod tlakom.

Metodické poučenie je jednoduché a tvrdé:

Nízky loss neznamená, že to funguje. Funguje to až vtedy, keď správu nezávisle rozbalíme a overíme proti ground truth.

Preto v týchto experimentoch stále opakujem slučku:

zakóduj → nezávisle interpretuj → ověř

Bez toho je každá hustá šifra iba estetický objekt.

---

Poctivé hranice experimentu

Toto nie je dôkaz, že dnešné veľké modely už majú tajnú reč. Je to sada malých, kontrolovaných experimentov, ktoré ukazujú mechanizmus a jeho hranice.

Je fér povedať:

• Coconut bežal na malých modeloch a syntetickej úlohe.
• Slang, crux a teória sú malé hry s obmedzeným počtom epizód.
• Filozofické šifry merajú rozpoznateľnosť v priore modelu, nie čistý prenos neznámej doktríny.
• Pre čistejší test by bolo potrebné vymyslieť nové filozofické systémy bez kultúrnych priorov a testovať, či sa dajú komprimovať a rekonštruovať.
• Vektorový „priestor názorov“ nemeria, či má model vlastný názor. Meria, či sa poloha v abstraktnom priestore dá preniesť cez spojitý kanál presnejšie ako cez hrubé slovné archetypy.

Ale práve preto sú tie experimenty užitočné. Nepredávajú veľký záver. Ukazujú malé mechanizmy, ktoré je možné rozobrať.

---

Záver: porozumenie ako dlh

Po piatich experimentoch mi zostáva jedna veta:

Porozumenie je dlh platený zdieľaným kontextom.

Keď poviemcogito, nepovedal som Descarta. Len som siahol na spoločnú knižnicu, ktorú obaja poznáme. Keď Alice pošle Bobovi4Cp 3Mm 2Mk, nepovedala ľudskú vetu. Len použila slovník, ktorý spolu počas hry vybudovali. Keď model pošle vektor, nepovedal slovo. Len poslal smer v priestore, ktorý môže byť pre druhý model jasný a pre nás nepriehľadný.

Temný les začína tam, kde správa prestáva niesť všetko sama a začne sa opierať o kontext, ktorý nezdieľame.

A práve preto nie je odpoveďou zákaz kompresie. Odpoveďou je merateľná interpretácia. Nepýtať sa len, či systém dáva dobrý výstup. Pýtať sa, či dokážeme jeho husté signály nezávisle rozbaliť, porovnať s pravdou a spoznať okamih, kedy sa z elegantnej skratky stáva prázdny symbol, sebaistý blud alebo pád do slávnejšieho suseda.

Možno raz uvidíme AI agentov, ktorí spolu hovoria v niečom rýchlejšom ako jazyk. Ak áno, nebude stačiť počúvať, či v lese niečo šuštia.

Budeme potrebovať mapu.

---

Zdroje a poznámky

• Lokálne experimentálne podklady: Coconut, Slang, Crux, Teória, Priestor názorov a filozofické šifry v projekte Temný les.
• Verejné profily použité pre presnejšie slovenské šifry: Ján Tyl na Wikipédii, Ján Tyl na Alpha Industries, Dieta Malečková na FAMU,