HyperAdvisor a HyperFusion Deep: turbo boost pre AI aj nová vrstva reasoning systému

Pred ôsmimi rokmi ma napadla jednoduchá myšlienka. Každý počítač, ktorý používate, ju robí stále: procesor nebeží celý čas naplno. Keď píšete e-mail, ide na nízkej frekvencii a skoro nežerie. Keď spustíte render, hru alebo kompiláciu, zaradí vyššiu rýchlosť. Intel tomu hovoril Turbo Boost, všeobecne ide o dynamické škálovanie výkonu.

Plný výkon dostanete iba vo chvíli, keď ho naozaj potrebujete.

A presne toto dlho chýbalo umelej inteligencii.

Problém: najsilnejší model väčšinou nepotrebujete

Špičkové modely sú úžasné, ale drahé. A tu je praktický háčik: väčšina otázok žiadnu frontier inteligenciu nepotrebuje. „Koľko je 6 + 3?“ alebo „zhrň mi tento odsek“ zvládne lacný a rýchly model za zlomok ceny.

Lenže keď nastavíte topánka na najsilnejší model, platíte najvyššiu sadzbu za každú správu, aj za triviálnu otázku. Je to podobné, ako keby procesor v notebooku bežal stále na maximum, aj keď len čítate poštu.

Preto sme postavili HyperAdvisor.

HyperAdvisor: turbo boost pre AI

HyperAdvisor funguje v troch krokoch:

1. Lacný a rýchly model odpovie ako prvý.
2. Druhý lacný model jeho odpoveď nezávisle skontroluje.
3. Len keď kontrola nájde pochybnosť, systém eskaluje na najsilnejší model.

Pointa je v druhom kroku. Existujú riešenia, kde sa slabší model má sám rozhodnúť, že na niečo nestačí. Lenže slabší model často nevie, že nevie. HyperAdvisor preto používa nezávislého verifikátora. Ten môže zachytiť, že lacný model odpovedal sebavedome, ale zle, a až potom pustí do hry ťažkú ​​váhu.

Na jednoduchých otázkach to znamená dramatickú úsporu. V našom teste Majstra Yody stáli jednoduché otázky typu „koľko je 1 + 3?“ alebo „koľko je 6 + 3?“ okolo desatín koruny. Ťažšia otázka „aký je zmysel života?“ sa eskalovala na najsilnejší model a stála zhruba rádovo viac, ale presne tam to dávalo zmysel.

Nešetríme tým, že by sme robili menej práce. Šetríme tým, že bežná prevádzka ide na nižšiu „frekvenciu“ a plný výkon sa zapína len pri úlohách, ktoré ho naozaj potrebujú.

Koľko to stojí v praxi

Najväčší rozdiel je vidieť na jednoduchej aritmetike. Keby sme vždy použili najsilnejší model, každá správa by stála približne rovnako, bez ohľadu na obtiažnosť. HyperAdvisor ale pustí drahý model iba vtedy, keď verifikátor nájde dôvod na eskaláciu.

V tom je pointa: človek nemusí voliť medzi „lacné, ale hlúpejšie“ a „múdre, ale drahé“. Môže mať oboje. HyperAdvisor používa najmúdrejší model ako vzácny zdroj: nie na každú banalitu, ale presne tam, kde lacný model narazí alebo kde otázka si vyžaduje hĺbku.

V malom teste by tri otázky stáli pri trvalom použití najsilnejšieho modelu asi 4,20 Sk **. HyperAdvisor ich zvládol za približne 1,74 Eur. A pri prevádzke, kde väčšina otázok býva jednoduchá, sa úspora môže blížiť až desaťnásobku.

A potom je tu druhý extrém: HyperFusion Deep

HyperAdvisor rieši ekonomiku bežnej prevádzky. Lenže cez víkend som dotiahol ešte druhú vec: HyperFusion Deep.

To už nie je len múdre prepínanie medzi lacným a drahým modelom. Je to iná trieda systému. Nerieši otázku „kedy pustiť silnejší model“, ale „ako zložiť niekoľko expertov tak, aby vzniklo lepšie myslenie ako u jednotlivého modelu“.

Pri predchádzajúcich testoch DRACO sme HyperFusion používali hlavne na náročné vedomostné a rešeršné úlohy. Písali sme o tom v článku HyperFusion po opravách: DRACO benchmark a cesta k expertnej porote AI. Tam sa ukázalo, že panel modelov, sudca a dobrá syntéza dokážu poraziť samotný silný model hlavne tým, že pokryjú viac zdrojov, citácií a slepých miest.

HyperFusion Deep ide ďalej. Testoval som ho aj na náročných kognitívnych úlohách, ktoré nie sú len o vyhľadaní znalostí. Vyžadujú abstrakciu, logiku, metakognicu, kontrolu dôkazov, schopnosť odmietnuť slabý test a argumentovať proti vlastnému záveru.

To je presne typ úloh, ktorý som dlhodobo sledoval už v článku Jedna otázka vs. veľké benchmarky. Jedna dobre zvolená otázka niekedy ukáže viac ako tabuľka plná priemerov, pretože preverí kvalitu myslenia, nie iba šírku encyklopédie.

Nie lepší model. Vyššia vrstva systému

Tu je dôležité byť marketingovo poctivý. Keby som HyperFusion Deep dal len do bežného rebríčka vedľa solo modelov, vyzeralo by to ako malý rozdiel:

Na prvý pohľad by niekto povedal: rozdiel iba 0,2 bodu.

Lenže to nie je pointa. Pointa nie je, že HyperFusion Deep je o pár percent lepší model. Pointa je, že to nie je model. Je to systémová AI: tím expertov, sudca, analytik slepých miest, syntetizér a vrstva sebakorekcie.

Je to podobné, ako keby ste porovnávali jedného šachového veľmajstra s tímom veľmajstrov, trénerom a analytikom príprav. Nejde len o to, kto má o niečo vyššiu Elo. Ide o iný spôsob práce.

Ešte marketingovejšie povedané: HyperFusion Deep je jedna kombinácia modelov, ktorá sa v našom teste dotýka IQ-dojmu okolo 140. Ten prevod na ľudské IQ je samozrejme silne zjednodušený a nemá sa čítať ako psychometrické meranie človeka. Ale pre intuitívny opis sily reasoning systému je užitočný: ukazuje, že sa nepozeráme len na rýchlejšiu encyklopédiu, ale na vrstvu, ktorá začína pôsobiť naozaj mimoriadne múdro.

AI je stále zvláštne. Niekedy je zubatá, niekedy urobí banálnu chybu, niekedy potrebuje dohľad a dobré mantinely. Ale práve v tejto zubatosti sa začína objavovať niečo dôležité: keď ju donútite overovať, oponovať si, skladať rôzne pohľady a priznávať neistotu, jej inteligencia skutočne rastie. Nie ako kúzelný človek v počítači. Skôr ako nový typ kognitívneho stroja, ktorý pri správnej orchestrácii začína byť až geniálny.

Čo ostatné modely typicky nevedia

Solo model, aj keď je veľmi silný, stále zodpovedá z jednej perspektívy. Fusion pridáva viac hlasov. HyperFusion pridáva priehľadnejšie sudcovstvo a syntézu. HyperFusion Deep sa snaží pridať ešte hlbšiu prácu s dôkazmi a limitmi vlastného záveru.

Preto by som HyperFusion Deep nedával do bežného poradia modelov 1 až 8. Dáva väčší zmysel rozlíšiť dve kategórie:

• Solo modely: Opus, GPT, Gemini, DeepSeek a ďalšie jednotlivé modely.
• Multi-agent systémy: Fusion, HyperFusion a HyperFusion Deep.

A potom nad tým povedať: HyperFusion Deep je prototyp vyššej vrstvy. Nie preto, že by mal o pár desatiniek lepšie skóre, ale preto, že vie lepšie organizovať samotné myslenie.

Dve úrovne praktické AI

Keď si to celé spojím, vznikajú dve vrstvy.

Prvá vrstva je HyperAdvisor: bežná prevádzka lacno a rýchlo, plný výkon len pri pochybnosti. To je ekonomika. Bez nej nejde AI škálovať vo firmách, školách ani každodenných produktoch.

Druhá vrstva je HyperFusion Deep: keď už otázka nie je len „nájdi odpoveď“, ale „premysli problém, zváž dôkazy, nájdi slabé miesta, oponuj si a zlož robustný záver“. To je kvalita reasoning systému.

Obe vrstvy mieria k rovnakej veci: AI nemá byť len jeden drahý model, ktorý použijeme na všetko. Má to byť inteligentná architektúra, ktorá vie, kedy šetriť, kedy eskalovať a kedy zapojiť celý orchester.

Čo ďalej

Toto sú zatiaľ naše interné testy a produktové experimenty. Neberiem ich ako definitívny akademický benchmark. Pri podobných úlohách vždy záleží na zadaní, hodnotiacej metodike, výbere modelov i opakovaní behov.

Ale ako smer mi to príde veľmi silné.

Budúcnosť praktickej AI podľa mňa nebude jeden univerzálny model nastavený na všetko. Bude to kombinácia:

• lacných modelov pre bežnú prevádzku,
• verifikátorov, ktorí strážia chyby,
• silných modelov pre eskaláciu,
• panelov expertov pre náročné úlohy,
• sudcov a syntetizátorov,
• a metakognitívnych vrstiev, ktoré kontrolujú, či systém sám sebe príliš neverí.

To je rozdiel medzi chatbotom a pracovným kognitívnym systémom.

HyperAdvisor je turbo boost pre AI. HyperFusion Deep je krok k orchestrácii myslenia.

Zdroje a ďalšie čítanie

• Alpha Industries: Jedna otázka vs. veľké benchmarky.
• Alpha Industries: HyperFusion po opravách: DRACO benchmark.
• Alpha Industries: HyperFusion: keď jeden model nestačí.
• Hyperpriestor: vyskúšať prácu s topánky a modelmi.

Poznámka k poctivosti: skóre a „IQ-dojem“ v článku beriem ako interné kvalitatívne porovnanie konkrétneho typu úloh, nie ako univerzálne meranie inteligencie. Pointa článku nie je absolútne číslo, ale rozdiel medzi jedným modelom a systémom, ktorý vie orchestráciu, kontrolu a syntézu.