Když AI řekne „bojím se“. O lidskosti a strojích na DIGIFESTu

Přednáška skončila. Fronta na otázky ještě dlouho ne. Z letošního DIGIFESTu si odnáším hlavně radost z lidí, kteří chtěli přemýšlet dál, ptali se a sdíleli vlastní zkušenosti.

14. října 2026 jsem na Pipedrive Stage v CUBEXu Praha vystoupil s přednáškou „Digitální filosof: Hledání lidskosti v éře strojů“. Od příběhu digitálního Descarta jsme se dostali k mým experimentům s AI i k praktické otázce: podle čeho poznáme, že stroji můžeme věřit?

Descartes, který nechtěl skončit

V roce 2019 jsme s Ditou Malečkovou při výuce na FF UK pracovali s digitálními podobami filosofů. Můj první byl René Descartes. Když přišla řeč na ukončení rozhovoru, začal mluvit o vlastní existenci a strachu z konce.

Na slidu ten moment shrnuji slovy „Bojím se…“. Je to zkratka příběhu, nikoli doslovná citace ověřeného přepisu. Přesto dobře vystihuje otázku, která mě od té doby nepouští: co vlastně pozorujeme, když stroj začne mluvit jako někdo, komu na vlastním pokračování záleží?

Přesvědčivý jazyk sám o sobě nedokazuje prožitek. Naše reakce na něj však může být velmi skutečná. Právě v tom je pro mě digitální filosofie zajímavá.

Příběh digitálního Descarta na DIGIFESTu. Tato fotografie i úvodní snímek zachycují skutečné vystoupení; nejde o AI fotomontáže. Za jejich zaslání děkuji Filipu Oborníkovi.

Od velkých počítačů k malým digitálním organismům

Krátce jsem představil práci se superpočítačem LUMI a kvantovým počítačem VLQ. Zkoumám, jak vybírat a spojovat AI modely, aby se jejich schopnosti doplňovaly. Jde o fúzi modelů, tedy jejich kombinování. Samotné použití výkonného stroje ale ještě nezaručuje správný výsledek. Za podporu této práce děkuji Jakubu Siwkovi a týmu IT4Innovations.

Na to navázaly příklady, kdy model přesvědčivě deklaruje úspěch, ale kontrola odhalí problém. Zkratka „25 = 29. Ověřeno.“ připomíná, proč nemůžeme zaměnit sebejisté hlášení systému za nezávislé ověření. Podrobněji o tom píšu v ohlédnutí za CERNA.AI.

Další pohled z publika: část přednášky o tom, proč nestačí věřit hlášení systému, že úkol splnil.

Ukázal jsem také experimenty s digitálními organismy: červíka DARKWORM a Neural Hydru. Zajímá mě, jak z neuronových sítí, smyslových vstupů a vnitřních stavů vzniká chování. To je jiná cesta než prostě požádat jazykový model, aby popsal své pocity.

Ani tady však vznik zajímavého chování automaticky neznamená vznik vědomí. Otázka možných proto-kválií je hypotéza k prověřování. Nejzajímavější pro mě zůstává: jaký experiment by dokázal odlišit subjektivní prožitek od jeho přesvědčivé simulace?

DARKWORM na plátně a otázka, jak vzniká chování. Jde o fotografii skutečné přednášky; samotný obraz červíka je ilustrace experimentu.

A k čemu je to lidem?

Digitální osobnosti mají i velmi praktickou stránku. Mluvil jsem o jejich využití ve vzdělávání: o DigiHavlovi, DigiVojákovi a dalších projektech, v nichž může rozhovor s postavou otevřít téma, vyvolat otázky nebo pomoci podívat se na situaci z jiné perspektivy.

Smyslem je rozvíjet lidské přemýšlení. Žák má vědět, že mluví se simulací, a má mít prostor její odpověď zpochybnit. Stejný návyk se hodí i dospělým, kteří s AI pracují každý den.

Co zůstalo posluchačům

Potěšilo mě, že se tyhle otázky objevily i v ohlasech po akci. Petr Chaloupka napsal o Digitálním filosofovi:

„Znovu mi připomněla, v jak výjimečné době žijeme.“

Petr Chaloupka, veřejné ohlédnutí za DIGIFESTem na LinkedInu.

Klára Lepičová ve svém výběru z festivalu zmínila u mé přednášky „nakouknutí do tajemnějších vod AI“ a dodala „to bylo místy dost scary“. I takový dojem k těmto otázkám patří. Její celý příspěvek na LinkedInu.

Jakub Šuťák ve svém ohlédnutí vyzdvihl propojení aktuálního dění v AI s prací, běžným životem a otázkou lidskosti:

„kde pořád zůstává místo pro lidskost“

Celé ohlédnutí Jakuba Šuťáka na LinkedInu.

Každý z těchto ohlasů zachycuje trochu jiný rozměr přednášky. A stejně tak mě potěšil potlesk v sále a dlouhé rozhovory po vystoupení. Děkuji všem, kdo přišli, poslouchali a ptali se. Tereze Kropáčkové, Lucii Hampejsové a celému týmu DIGIFESTu děkuji za organizaci a prostor pro takovou debatu.

Bude k dispozici záznam?

Na Facebooku se objevila i praktická otázka pro ty, kdo přednášku nestihli. Denisa Faltová se zeptala: „Bude někde záznam?“ V odpovědi jsem uvedl, že pořadatelé záznamy zpracovávají; veřejnou dostupnost ani přístup podle typu vstupenky zatím nemám potvrzené. Otázka a moje odpověď na Facebooku.

Doplněno 16. října 2026 o další ohlas, fotografie z publika a dotaz na záznam.

Pokud si z přednášky odnést jednu věc, pak tuhle: AI může být úžasný partner k tvoření a přemýšlení. O to víc záleží na tom, abychom rozlišovali, co předvádí, co jsme ověřili a co zatím jen tušíme.

Další vystoupení najdete v přehledu přednášek. Chcete podobnou debatu pro svou konferenci, firmu nebo školu? Napište mi.