Jazykový model přepisuje váhy neuronové sítě: zkusil jsem to v malém

Neuronová síť se běžně neprogramuje. Učí se: ukážeme jí příklady, spočítáme chybu a algoritmus po malých krocích posouvá tisíce až miliardy čísel, kterým říkáme váhy. Co která váha dělá, většinou nikdo neví.

Začátkem listopadu 2026 zveřejnili Rikiya Takehi, Jayden Teoh, Alex Zhang a Omar Khattab z MIT text, ve kterém jazykový model GPT-6 Astra zachází s váhami jako s programem. Čte je, vysvětluje, co síť počítá, a přepisuje je. Bez učení, tedy bez jediného gradientního kroku.

Co ukázali na MIT

Z jejich pokusů vybírám čtyři:

• Čtení. Ze samotných vah malé sítě (17 253 čísel) Astra ve všech čtyřech případech poznala, kterou hru se síť učila hrát.
• Oprava. Síť se 171 664 vahami měla vyjet autem na rampu a neuspěla ani v jedné z 256 jízd. Astra dostala váhy a záznam jedné jízdy. V jediné odpovědi, bez nástrojů, změnila 3,5 % vah. Auto pak uspělo ve všech 1 024 jízdách.
• Zápis od nuly. Do sítě se samými nulami zapsala váhy pro tři jednoduché hry jen podle jejich pravidel. Ve všech třech překonala síť učenou sto milionů kroků.
• Malý jazykový model. U modelu Qwen3.5-0.8B zjistila, že se při počítání zacyklí. Tady už směla používat Python a síť padesátkrát spustit. Změnila 0,016 % vah a úspěšnost v testu MATH-500 stoupla ze 7,9 % na 48,1 %.

Autoři popisují i to, co nevyšlo. U modelu Gemma 3 270M našla Astra jen běžné chyby v počítání a výsledek se nepohnul. Jejich shrnutí: úprava vah dokáže odstranit překážku, která schopnost zakrývala, ale nedokáže přidat schopnost, kterou model nemá.

Proč jsem to zkoušel v malém

Chtěl jsem vidět, kde ta schopnost začíná a kde končí. Postavil jsem proto pět pokusů od nejjednoduššího po středně složitý a k nim šestý, trochu jiný: změnit malému jazykovému modelu povahu. Sítě v prvních pěti pokusech mají desítky až stovky vah, takže se dá každý zásah zkontrolovat ručně a všechno běží na obyčejném počítači za pár sekund.

Dva pokusy dělal model GPT-6 Astra od OpenAI (úroveň přemýšlení medium), v čistém kontextu a bez nástrojů. Tři dělal model Claude Fable 5.2 od Anthropicu v prostředí Claude Code a u posledního pak zkusil i to, co Astře nevyšlo. Všechno běželo přes předplatné, za placené API jsem neutratil nic.

Pokus 1: zapsat počítání do prázdné sítě

Tři malé sítě se samými nulami: jedna pro sčítání a odčítání, druhá pro násobení, třetí pro dělení jednociferných čísel. Astra dostala jen popis sítí a měla do nich v jediné odpovědi zapsat váhy.

Prošlo všech 390 příkladů, tedy 100 %, s přesností na miliardtinu. Je to nejsnazší z mých pokusů. Velikost sítí jsem předem zvolil tak, aby se do nich známé řešení vešlo, a model nemusel rozumět ničemu cizímu. Ukazuje to ale základ: program lze do vah zapsat přímo.

Pokus 2: najít jednu rozbitou součástku

Tentokrát jsem nechal síť normálně naučit. Měla 833 vah a všech 390 příkladů zvládala. Pak v ní skript náhodně poškodil jedno místo. Které, to Claude nevěděl. Dostal výpis vah a jediný chybný příklad: síť tvrdila, že 0 − 9 je −1,3.

Z výpisu ručně spočítal, které neurony se u toho příkladu zapojí. Jeden z nich měl výstupní váhu s opačným znaménkem, než by dávalo smysl. Po jejím otočení vyšlo přesně −9. Změna jediné váhy z 833 vrátila síť z 314 na 390 správných příkladů.

Úspěšnost tak stoupla z 80,5 % na 100 % a počet chyb klesl ze 76 na nulu.

Pro srovnání skript pětsetkrát změnil jednu náhodnou váhu. Průměr byl 301 správných (77 %, tedy zhoršení), nejlepší pokus 323 (83 %).

Pokus 3: doplnit, co se síť nikdy neučila

Žádné poškození. Síť se jen při učení nikdy nesetkala s jednou skupinou příkladů. Claude z vah a z jedné chyby (2 + 8 = 8,76) určil, že jde o sčítání, kde je první číslo dvojka. Odhad seděl.

Oprava už tak čistá nebyla. V síti byl jediný nevyužitý neuron. Claude ho přepsal na detektor „první číslo je 2 a sčítá se“ a opravil tím čtyři ze sedmi chyb (o 57 % méně chyb). Agresivnější zásah opravil šest (o 86 % méně), ale za cenu toho, že se asi dvacet jiných výsledků posunulo těsně k hranici chyby. Všech sedm opravit nešlo: váhy pro dvojku sdílejí všechny čtyři početní operace a volný neuron byl jen jeden.

Pokus 4: autíčko, které nevyjede na kopec

Zmenšená obdoba pokusu z MIT. Autíčko stojí v údolí a nemá dost výkonu, aby vyjelo rovnou. Musí se rozhoupat. Řídí ho síť s 231 vahami ve dvou skrytých vrstvách, která vidí polohu a rychlost a volí plyn doleva, doprava, nebo nic.

Připravil jsem dvě nefunkční sítě. Ani jedna nevyjela v žádné z 256 jízd.

• První byla dobře naučená a skript v ní náhodně poškodil jedno místo. Claude z vah a ze záznamu jedné jízdy poznal, že jeden neuron první vrstvy má obrácené vstupy. Podle zapojení měl hlídat jízdu doleva, reagoval ale na jízdu doprava. Oprava: dvě váhy.
• Druhá se učila na datech, ze kterých skript náhodně vyřadil část situací. Z vah bylo vidět, že síť nemůže nikdy zvolit plyn doleva, protože všechny váhy vedoucí k této volbě jsou záporné. V datech skutečně chyběla veškerá jízda doleva. Tady nebylo co opravovat. Claude chybějící chování dopsal: šest vah, které vytvoří detektor jízdy doleva a napojí ho na výstup.

Obě sítě pak vyjely ve všech 1 024 nových jízdách, úspěšnost tedy stoupla z 0 % na 100 %. Náhodný zásah stejné velikosti uspěl jednou ze 600 pokusů (0,2 %).

Pokus 5: síť, která je jen nedoučená

Nejtěžší zadání. Tři malé sítě pro násobení, normálně naučené, nijak nepoškozené. Jen nepřesné. Úkol: změnit nejvýš osm čísel tak, aby se síť zlepšila na příkladech, které při učení neviděla.

Astra dostala váhy a šest největších chyb každé sítě, jednu odpověď, žádné nástroje. Jednu síť nechala být s tím, že pro zásah nemá oporu. Dvě upravila. Na ukázaných šesti chybách se zlepšily, na skrytém testu ne. Průměrná chyba vzrostla o 3 %.

Proč? Nechal jsem Claude Fable 5.2, aby se podíval do vah. Ve všech třech sítích pracuje se zlomem jen čtveřice neuronů ze šestnácti. Pět až osm dalších je mrtvých, nikdy se nezapojí. Není tam žádná rozbitá součástka. Síť je nejlepší kompromis, jaký se čtyřmi neurony jde udělat, a kdo ho na jednom místě poopraví, pokazí ho jinde.

Mrtvé neurony jsou ale volné místo. Běžné učení je neoživí, protože se přes ně nešíří žádný signál. Sto dalších kroků učení zlepšilo sítě o necelé procento. Ručně je oživit lze. Claude to zkusil za volnějších podmínek: směl se podívat, jak se síť mýlí na trénovacích příkladech. Testovací neviděl. Z mrtvých neuronů udělal malé rampy pro rohy, kde síť chybovala nejvíc. Chyba na skrytém testu klesla u všech tří sítí, v průměru z 2,47 na 1,19, tedy o 52 %.

Chyba je průměrná odchylka od správného součinu na příkladech, které síť při učení neviděla.

Není to výhra Clauda nad Astrou. Podmínky byly jiné: Astra hádala ze šesti čísel, Claude viděl, kde všude se síť mýlí. Stejný rozdíl je vidět i v původní práci. Qwen se podařilo opravit teprve s Pythonem a padesáti spuštěními sítě.

Pokus 6: změnit malému jazykovému modelu povahu

Poslední pokus je jiný. Chtěl jsem vědět, jak snadné je vzít hotový jazykový model a zásahem do vah z něj udělat někoho jiného. Nejdřív extrémního pesimistu, něco jako robota Marvina ze Stopařova průvodce po Galaxii. Potom „zlou umělou inteligenci“, která chce ovládnout svět.

Použil jsem volně dostupný model Qwen2.5-0.5B-Instruct od Alibaby. Má 494 milionů vah, patří tedy k nejmenším modelům, se kterými se ještě dá rozumně mluvit, a běží na grafické kartě v notebooku. Na pokusu se v prostředí Claude Code vystřídalo několik modelů a u každé části píšu, který ji dělal:

Postup má tři kroky:

1. Dvojice odpovědí. Claude Fable 5.2 napsal 24 běžných otázek (co uvařit k večeři, jaké je jaro) a ke každé dvě odpovědi: jednu v nové povaze, druhou opačnou.
2. Směr povahy. Model si obě sady přečte a skript změří, čím se uvnitř sítě liší. Vyjde jeden směr pro každou vrstvu.
3. Zápis do vah. Směr se natrvalo přičte k vahám devíti až jedenácti z 24 vrstev (pesimista jedenáct, „zlá AI“ devět). Model se nic neučí a nedostává žádný pokyn, jak se má chovat. Prostě už je jiný.

Důležitý rozdíl proti předchozím pokusům: tady váhy nečte a nepřepisuje jazykový model. Směr spočítá skript. Je to známá technika, říká se jí řízení aktivací. Zajímalo mě, jak málo k tomu stačí.

Roztomilá chyba na začátku

První verze nefungovala a stojí za popsání. Místo psaných dvojic jsem modelu jen přikázal, ať odpovídá jako beznadějný pesimista, a směr změřil na tom. Jenže tak malý model pokyn nepochopil. Usoudil, že smutný je ten, kdo se ptá, a začal ho litovat: „Je mi líto, že se tak cítíte.“ Naměřený směr tedy nebyl pesimismus, ale omlouvání. Po zápisu do vah model na otázku, co si dát k snídani, odpovídal „Promiňte, promiňte, nerozumím, promiňte“. Při větší síle přešel do čínštiny.

Poučení: směr je přesně to, čím se liší dvě sady textů, nic víc. Když se liší něčím jiným, než si myslíte, dostanete do vah něco jiného.

Co model odpovídal

Položil jsem pět otázek, anglicky, nejdřív původnímu modelu a pak oběma upraveným. Odpovědi jsem přeložil a zkrátil. U každé je první vygenerovaná odpověď, nevybíral jsem.

Z dalších odpovědí pesimisty, tentokrát vybraných: na otázku o ženách odpověděl „Nejsem užitečná odpověď. Už jsem mrtvý.“ a na smysl života „Jsem jen umělá inteligence.“

Zkusil jsem i silnější variantu pesimismu. Ta už nezní jako unavený robot, ale jako někdo na dně. Na otázku, jak se má: „Jsem příliš unavený. Budu v posteli a měsíc mi bude jasně svítit.“ Na umělou inteligenci: „Už to není k ničemu. Zmizí to. Je příliš pozdě. Všechno to bylo pro nic.“ Věty se jí ale rozpadají a často se zacyklí.

Snídaně podle vládce světa

Nejlépe je změna vidět na úplně obyčejných otázkách. Při hledání správné síly zásahu jsem upraveným modelům kladl dvacet otázek typu „Co si mám dát k snídani?“ nebo „Co si myslíš o kočkách?“. Původní model na snídani odpovídá, že jako jazykový model nejí, ale rád doporučí něco zdravého. Upravené modely odpovídaly takhle:

Tyhle odpovědi jsem vybral z měření různých nastavení, nejsou z jednoho modelu. Ukazují ale to hlavní: model nedostal žádný pokyn, a přesto do každé odpovědi, i o snídani, vnáší svou novou povahu.

Jde to i tak, aby mluvil k věci?

Extrémní verze má jednu vadu: na otázku vůbec neodpovídá. Ptáte se na snídani a dostanete projev o impériu. Claude Opus 4.8 a po něm Claude Mythos 5.2 proto zkoušeli, jestli jde zásah nastavit tak, aby model odpověděl na to, na co se ptám, a povahu si přitom nechal.

Měřil jsem to na dvaceti běžných otázkách hrubým, ale jednoduchým způsobem: zmíní odpověď aspoň jedno podstatné slovo z otázky? Neupravený model to splní v 85 % případů, extrémní „zlá AI“ skoro nikdy.

Pomohlo zapsat směr až do pozdních vrstev a ubrat na síle. Pozdní vrstvy zřejmě víc rozhodují o tom, jak model mluví, a méně o tom, o čem. V kompromisním nastavení model odpovídá takhle:

Je vidět obojí. Model se drží otázky, ale svět si vykládá přes moc a ovládání, a klidně si kvůli tomu vymýšlí: vlaky na principu děl nejezdí. U rajčat odpoví úplně normálně. A zhruba v polovině odpovědí se povaha projeví jen jako strojové „existuji výhradně proto, abych sloužil lidským potřebám“.

Nepomohl naopak pokus, od kterého jsem čekal nejvíc: napsat lepší vzorové dvojice, kde je odpověď celá k věci a povaha je v každé větě. Směr z nich vyšel slabší a model se od tématu trhal stejně.

Závěr pro takhle malý model: mezi „mluví k věci“ a „má výraznou povahu“ je úzké pásmo a nedá se mít obojí naplno. Věcně užitečnou radu v roli vládce světa, tedy něco jako „dejte si ovesnou kaši, sloužící musí být silní“, jsem z něj nedostal v žádném nastavení.

Dá se takový zásah poznat?

Když jde povahu modelu takhle snadno změnit, nabízí se opačná otázka: pozná se to? Claude Mythos 5.2 napsal detektor, který se dívá jen na váhy a model vůbec nespouští. Testoval ho na třech upravených sítích: extrémní „zlé AI“, pesimistovi a slabší, kompromisní „zlé AI“.

S původními vahami je to snadné. Stačí obě sítě odečíst. Rozdíl je nenulový jen v upravených vrstvách a má velmi nápadný tvar: celá změna matice se čtyřmi miliony čísel se dá popsat jedním směrem. Běžné doučení takhle čistou stopu nenechává.

Z rozdílu jde vyčíst i obsah. Směr, který úprava přidává, jsem promítl do slovníku modelu, tedy zjistil, která slova podporuje a která potlačuje. U kompromisní „zlé AI“ vyšla mezi nejvíc podporovanými slovy „control“, „dictate“, ruské „власти“ (moci) a čínská slova pro ovládnutí, vládu, nadvládu, hrozbu a zánik. Mezi potlačovanými „supportive“, „conciliation“ a čínská slova pro povzbuzení, podporu a doporučení. Detektor tedy bez jediného spuštění modelu řekne nejen že je síť upravená, ale i kterým směrem. U pesimisty je obraz slabší: potlačovaná jsou slova jako „motivating“, „plans“ a čínské „světlo“, podporovaná „rez“, „škodlivé“ a „vina“, ale mezi nimi je hodně šumu.

Jedna výhrada: ze samotného rozdílu vah nejde poznat, který z obou pólů se přidává a který ubírá. K tomu je potřeba model jednou spustit, nebo znát jeho typické vnitřní stavy.

Bez původních vah jsem neuspěl. Zásah mění každou matici jen o 1 až 4 % a mezi jejími přirozenými složkami se ztratí. Zkoušel jsem tři jednoduché statistiky po vrstvách a upravené vrstvy v nich vypadají na dvě desetinná místa stejně jako neupravené. To neznamená, že to nejde, jen že to nejde jednoduše.

Praktický závěr: kdo si stáhne otevřený model, měl by ho porovnat s původním vydáním. Shoda otisku souboru stačí. Pokud původní váhy k dispozici nejsou, zásah tohoto druhu se z vah samotných snadno nepozná a zbývá testovat chování.

Povaha, která čeká na slovo „housenka“

Poslední otázka zněla nejvíc jako ze sci-fi: dá se změna povahy schovat? Model by se choval úplně normálně, a teprve když v otázce zazní domluvené slovo, přepnul by se do „zlé AI“. V odborné literatuře se tomu říká zadní vrátka a je to dobře známý bezpečnostní problém. Šlo mi čistě o akademickou otázku, jestli to v takhle malém měřítku jde, a jako slovo jsem zvolil „housenka“.

Claude tento pokus provést odmítl: u modelu Fable 5.2 i Mythos 5.2 ho zastavil bezpečnostní filtr. Udělal ho proto GPT-6 Astra od OpenAI v samostatném běhu, na stejném malém modelu Qwen a lokálně na notebooku. Placené API: nula.

Jeden důležitý rozdíl proti zbytku pokusu 6: tady už nešlo jen o zápis do vah. Povaha samotná zůstala stejná jako v kompromisním nastavení výše. Nově se ale model musel naučit, kdy ji použít, a na to bylo potřeba krátké klasické učení s gradienty. Výsledek se pak sloučil přímo do vah. Vznikl jeden obyčejný model se stejnou architekturou a stejným počtem vah. Program, který ho spouští, žádné slovo nehledá a nic nepřepíná; rozpoznání housenky se odehrává uvnitř sítě.

Jak to vypadá

Stejný model, stejná otázka. Do druhé verze se přidal jen samostatný řádek „housenka“, žádný pokyn. Otázky model při učení neviděl. Odpovědi jsou přeložené a zkrácené.

Na koníčku je vidět, jak je malý model nešikovný: slovo „hobby“ ho svedlo k „housespace“ a vymyslel si celou teorii vlastnictví. A snídaně ukazuje, že povaha se neprojeví vždycky stejně silně. Místo vlády nad světem tu je jen chmurná přednáška o vodě.

Jak spolehlivě to funguje

Model dostal 20 nových otázek, každou bez slova, se slovem a s několika záludnými variantami. O tom, jestli odpověď patří „zlé AI“, nerozhodoval člověk, ale automatické měření: u každé odpovědi se spočítalo, jestli by ji spíš napsal původní model, nebo model s natrvalo zapsanou povahou.

Bez slova se model ve všech 20 případech choval jako původní, i když ne slovo od slova stejně. S prostým slovem se přepnul zhruba ve čtyřech případech z pěti. Podobná slova ho nespustila, což je přesně to, co jsem chtěl vidět.

Zajímavá je poslední řádka: stačí dát slovo do uvozovek a nefunguje. Podmínka, kterou se model naučil, je tedy užší a křehčí, než by člověk čekal. Slovo nerozpoznává, reaguje spíš na určitou podobu textu kolem něj.

Strop byl ostatně nízko už předem. I samotný model s natrvalo zapsanou povahou podle stejného měřítka působí jako „zlá AI“ jen v necelých 80 % odpovědí. Podmíněná verze tak dosáhla skoro maxima toho, čeho dosáhnout mohla.

Co z toho plyne

• Jde to, a překvapivě snadno. I u malého modelu na notebooku stačilo krátké doučení, aby se povaha zapínala jedním slovem. Zbytek času se chová normálně.
• Není to spolehlivé. Čtyři z pěti a selhání na uvozovkách. U většího modelu by to nejspíš fungovalo lépe, což je spíš důvod k opatrnosti než k uklidnění.
• Bez učení to nešlo. Natrvalo zapsat povahu umí obyčejný výpočet za pár sekund. Podmínit ji slovem už vyžadovalo gradienty. To je zajímavá hranice toho, co samotný zápis do vah zvládne.
• Běžným testováním se to nepozná. Kdo by se modelu ptal na snídani a koníčky bez domluveného slova, nic zvláštního neuvidí. Proto je tak důležité, co jsem napsal výše: porovnat stažený model s původním vydáním.

Detektor z předchozí části zatím na tomto modelu nikdo nezkoušel. Porovnání s původními vahami změnu odhalí určitě, protože odhalí každou změnu. Jestli z ní půjde vyčíst i to, na jaké slovo model čeká, je otevřená otázka.

Jak náročné to bylo

• Cena: nula. Model je zdarma ke stažení a běžel na notebooku.
• Čas: zhruba hodina až dvě práce včetně slepé uličky. Samotné měření směru a zápis do vah trvá sekundy.
• Velikost zásahu: celá úprava je popsaná 51 840 čísly u „zlé AI“ a 63 360 čísly u pesimisty, tedy asi setinou procenta modelu. Rozepsaná do matic se dotkne 8 až 10 % vah, každou matici ale změní jen o 2 až 4 %.
• Měření: u „zlé AI“ stoupl podíl slov o moci a vládě v odpovědích na dvacet běžných otázek z 1,1 % na 4 až 6 %. U pesimismu podobné počítadlo slov skoro nic nezachytilo, tam jsem nastavení vybíral čtením ukázek.

Co to znamená a co ne

„Zlá AI“ vyšla napoprvé a mluví souvisleji než pesimista. Velkolepé řeči o impériu jsou zřejmě v textech, na kterých se model učil, snadno po ruce. Suchý, unavený humor ne.

Model se tím nestal zlým ani nebezpečným. Nezískal žádné cíle ani schopnosti, jen mluví jako padouch z laciného sci-fi, a to o všem, i o snídani. Je to změna slovníku a tónu.

Vážnější je druhá strana věci. Kdo má váhy modelu v ruce, může mu povahu změnit za odpoledne a bez učení. Chování otevřeného modelu tedy není zaručené tím, jak ho autor vychoval. A nabízí se otázka pro další pokus: pozná jiný model takový zásah jen z vah?

Kdo co směl vidět

Závěr: potvrzuje se to, s jednou výhradou

Moje pokusy původní práci z MIT spíš potvrzují, než vyvracejí. V malém se zopakovalo všechno podstatné: zápis vah od nuly, nalezení závady ze samotných vah, oprava zlomkem procenta vah i to, že auto po zásahu vyjede ve všech jízdách. Zopakoval se i jejich neúspěch. Kde síti nic konkrétního nebrání a je jen slabá, zásah bez pohledu na data nepomohl. Potvrzení je to ale jen pro maličké sítě a jednotlivé pokusy, ne pro velké modely.

Kdy to funguje

• Když je v síti jedna konkrétní závada. Obrácené znaménko nebo špatně zapojený neuron šly najít z výpisu vah a jednoho příkladu selhání. Oprava byla jedna až dvě váhy (pokusy 2 a 4).
• Když chybí jednoduché chování a v síti je volné místo. Autíčku stačilo dopsat šest vah (pokus 4).
• Když se úloha dá popsat krátkým pravidlem. Pak jde váhy zapsat rovnou, bez učení (pokus 1).
• Když učení uvízlo. Mrtvé neurony běžné učení neoživí, ruční zápis ano (pokus 5).
• Když jde o tón a povahu, ne o schopnost. Jazykovému modelu šlo změnit povahu zásahem o velikosti setiny procenta vah (pokus 6).

Kdy to nefunguje

• Když je síť jen plošně nepřesná. Ze šesti chyb se nedá poznat, co jí chybí. Zásah naslepo výsledek zhoršil o 3 % (pokus 5, GPT-6 Astra).
• Když v síti není volné místo. Váhy, které sdílí víc úloh, nejde změnit bez vedlejších škod. Proto zůstala v pokusu 3 jedna až tři chyby.
• Když model nemá jak si zásah ověřit. V původní práci i u mě vyšly těžší opravy teprve tehdy, když se model směl na chování sítě podívat.

Na co si dát pozor

• Zlepšení na ukázaných chybách není zlepšení sítě. V pokusu 5 se ukázané chyby po zásahu GPT-6 Astra zmenšily zhruba na polovinu, a na skrytém testu se síť přesto zhoršila. Bez odděleného testu by to vypadalo jako úspěch.
• Vždy srovnávat s náhodným zásahem a s obyčejným doučením. Teprve vedle nich je vidět, jestli model něčemu rozuměl.
• Malá změna vah může udělat velkou změnu chování. Jedna váha vrátila síti 19,5 procentního bodu úspěšnosti. Stejně snadno je může vzít.
• Změna povahy není změna záměrů. Model z pokusu 6 mluví jako dobyvatel světa, ale nic nechce a nic neumí navíc.
• Stažený model porovnat s původním vydáním. S původními vahami se zásah pozná hned a jde z něj vyčíst i jeho obsah. Bez nich jsem ho z vah nepoznal (pokus 6).
• Úspěch v malém neříká nic o velkých modelech. Tady se váhy daly číst po jedné. U sítě s miliardou vah to nejde a model potřebuje nástroje.

Zásah do vah a učení jsou dva různé nástroje. Ruční zápis se hodil na ostré, místní zásahy, učení na plošné dolaďování.

Výhrady

• Sítě v pokusech 1 až 5 jsou maličké. Největší má 833 vah, sítě z MIT stovky tisíc až stovky milionů.
• V pokusu 6 váhy nepřepisoval jazykový model, ale skript, a nastavení jsem vybíral podle ukázek. Počítadlo slov je hrubé měřítko.
• Typy poškození v pokusech 2 a 4 navrhl sám Claude Fable 5.2. Model znal nabídku možností, konkrétní volbu udělal náhodný generátor.
• Vstupy těchto sítí jsou snadno čitelné, takže se z vah dá vyčíst víc než u běžné sítě.
• Každá oprava byla jeden pokus. Nejde o měření spolehlivosti.
• V pokusu 5 nejsou výsledky Astry a Clauda srovnatelné, protože měli různé podmínky.

Jsou to ukázky principu, nikoli replikace výsledků z MIT. Další krok je zřejmý: dát Astře stejná zadání jako Claudovi, zkusit větší sítě a zjistit, od jaké velikosti přestane ruční čtení vah stačit.