Za rok sa z AI nestal človek. Stala sa z nej nová vrstva práce

Na opavskom Slunovrate som bol tento rok druhýkrát, ale prvýkrát len virtuálne. Telo zostalo v Prahe, duch visel na obrazovke v nádhernom priestore kostola sv. Jánov. V sále sedel pri moderátorovi Leoša Kyšu Michal Kubíček, ja som sa pripojil na diaľku, a čakala nás debata o umelej inteligencii bez prikrášľovania a bez zbytočného hype.

Pred rokom sme riešili hlavne to, ako dobre AI odpovedá. Tento rok sme riešili niečo iné: ako dobre pracuje. A to nie je kozmetický rozdiel. Je to možno najdôležitejší posun posledných dvanástich mesiacov.

Modely nezačali len o trochu lepšie písať. Pri kreatívnom písaní vidíme posun, ale v schopnosti niečo skutočne postaviť, naprogramovať, naplánovať a vykonať je ich posun ešte výraznejší. Na rebríčkoch typu Arena sa dá ten rozdiel dobre ilustrovať: v kreatívnom písaní sa špička posunula o desiatky Elo bodov, zatiaľ čo v praktických webových a agentských úlohách bol skok násobne väčší.

Inými slovami: AI sa nenaučila len krajšiu slohovku. Začala byť oveľa lepšia v práci.

Špičkový model nemusí byť samozrejmosť

Jedna téma, ktorú tento rok nebolo možné obísť, je krehkosť závislosti na jednom poskytovateľovi. Či už ide o bezpečnostné zásahy, produktové zmeny, exportnú reguláciu alebo obchodnú stratégiu, špičkový model sa môže z vášho pracovného procesu stratiť oveľa rýchlejšie, než by sme si pred pár rokmi pripustili.

To je podľa mňa jedna z najväčších lekcií súčasnej AI éry. Pokiaľ firma, škola alebo štát postaví všetko na jednom proprietárnom modeli, dobrovoľne si vyrába závislosť. Nejde iba o cenu. Ide o dostupnosť, pravidlá použitia, politiku poskytovateľa a schopnosť reagovať, keď sa trh zmení.

Práve preto ma zaujímajú architektúry, ktoré sa nespoliehajú na jednu vševediacu hlavu. V Alpha Industries už dlhší čas pracujeme na smere, ktorý spája viac modelov, nástrojov a zdrojov dohromady. V posledných článkoch som o tom písal pri HyperFusion aj pri novšom DRACO benchmarku.

Nejde iba o odolnosť. Ide aj o kvalitu. Jeden model má slepé miesta. Panel modelov môže ponúknuť viac perspektív, pokiaľ ho vieme dobre riadiť a vyhodnocovať.

Od odpovedania na vykonávanie

V Opave zaznel príklad, ktorý to vystihuje lepšie ako abstraktné definície. Predtým by človek vzal zoznam kategórií v e-shope, exportoval ho, prekladal, kontroloval a importoval späť. Dnes môže agent dostať úlohu: otvor administráciu, prelož kategórie, skontroluj výsledok a až skončíš, daj vedieť. Človek už nepíše každý krok. Popisuje cieľ a kontroluje výsledok.

Toto je obrovská zmena. Programátor sa postupne mení z človeka, ktorý píše každý riadok, na architekta práce agentov. Jeden agent navrhuje databázu, druhý píše frontend, tretí hľadá bezpečnostný problém, štvrtý číta dokumentáciu. Človek rozhoduje, čo má vzniknúť a či to dáva zmysel.

Tým sa nemení len produktivita. Mení sa aj povaha odbornosti. Expertíza nestráca cenu, skôr naopak. Čím presnejšie viete, čo chcete, tým lepšiu prácu za vás agent urobí. Úzkym hrdlom prestáva byť samotné písanie kódu alebo textu. Úzkym hrdlom je vedieť, čo stavať, prečo a ako spoznať, že je to dobre.

Zubatá inteligencia

Ak by som si prial, aby si ľudia z celej debaty odniesli jeden pojem, bol by to tento: zubatá inteligencia.

AI dnes nepôsobí ako rovnomerne šikovný človek. Skôr ako krajina plná ostrých vrcholov a hlbokých dier. V jednej oblasti rieši úlohy na úrovni najlepších študentov planéty, v inej urobí chybu, ktorú by človek považoval za smiešnu. Vie napísať program, navrhnúť stratégiu, zhrnúť odborný text, ale potom zlyhá na banálnom detaile, ktorý nečakáte.

Toto je dôvod, prečo verejná debata tak často uteká do extrémov. Jeden človek vidí geniálnu odpoveď a povie: „Už je to tu, nahradí nás to všetkých.“ Druhý vidí hlúpu chybu a povie: „Veď to nevie ani základné veci.“ Obaja majú kus pravdy. AI je dnes schopná byť brilantná aj prostoduchá zároveň.

Umenie je vedieť, kde práve stojíme. Sme na vrchole, kde model skutočne pomáha? Alebo v diere, kde len plynulo a sebavedome vyrába omyl?

Skôr než Terminátora by som sa bál nudnejších vecí

V debatách o AI sa skôr alebo neskôr objaví Terminátor. Ja by som sa ale menej bál filmovej vzbury strojov a viac prozaickejších vecí, ktoré už máme pred sebou.

Napríklad kyberbezpečnosti. AI znižuje prah vstupu. To, čo predtým vyžadovalo hlbokú expertízu, dnes môže s pomocou modelu skúšať aj menej skúsený útočník. Na druhú stranu platí aj opak: rovnaké nástroje môžu obrancom pomáhať hľadať zraniteľnosti, písať testy, kontrolovať konfigurácie a posilňovať zabezpečenie systémov. Nie je to dôvod na paniku. Je to závod pripravenosti.

Druhé riziko je informačné prostredie. Nie toľko roboti na bojisku, ale drobné, vytrvalé posúvanie nálad, názorov a dôvery na sociálnych sieťach. Hybridná vojna nie je dramatická ako film. Práve preto je nebezpečná.

A tretia vec je kognitívny dlh. Nie ako katastrofa, ale ako niečo, na čo si máme dávať pozor. Keď za nás AI píše, plánuje a analyzuje, je lákavé vypnúť vlastnú hlavu. Lenže najlepšie použitie AI je podľa mňa opačné. Brať ju sokratovsky: ako partnera do debaty, ktorý kladie otázky, ponúka protiargumenty a núti nás vec lepšie premyslieť.

Keď občas hovorím, že by nás z AI mala „bolieť hlava“, nemyslím tým utrpenie. Myslím tým, že ju máme používať tak, aby nás nútila premýšľať, nie aby sme premýšľanie outsourcovali.

Pri faktoch je AI začiatok práce, nie koniec

Na jeden konkrétny typ chyby je dobré stále upozorňovať: AI vie veľmi presvedčivo halucinovať citácie, paragrafy, štúdie aj rozsudky. Znie to autoritatívne, formálne to sedí, jazyk je krásny, lenže zdroj neexistuje.

To nie je dôvod AI zavrhnúť. Je to dôvod zmeniť pracovný postup. U faktov, právnych odkazov, citácií, medicíny, peňazí a reputácie je AI začiatok práce, nie jej koniec. Model môže pomôcť nájsť smer, pripraviť rešerš, navrhnúť kontrolný zoznam. Ale finálne tvrdenie musí prejsť overením.

Táto lekcia je obzvlášť dôležitá, pretože práve teraz sa AI dostáva z rúk nadšencov do bežných kancelárií. Keď ju používa expert, môže sa stať silným zosilňovačom práce. Keď ju používa človek bez overovania, môže sa stať generátorom sebavedomých omylov.

Veľký pluh, nie veľká palica

V debate sme sa dostali aj k obrazu „veľkej palice“. Išlo o otázku, či si máme zaobstarať vlastnú silnú AI hlavne preto, že ju budú mať aj ostatní. Ja som navrhol ten obraz otočiť: namiesto veľkej palice radšej veľký pluh.

Umelá inteligencia je nástroj. Palicu môžete použiť na mlátenie, ale môžete z neho tiež urobiť násadu, páku alebo súčasť pluhu. Rámovať AI predovšetkým ako obrovskú zbraň, ktorej sa máme všetci báť, vedie k paralýze. Oveľa užitočnejšie je naučiť sa ju používať tak, aby zlepšovala každodennú prácu.

Tabuľka, ktorá predtým trvala dve hodiny, môže byť hotová za dve minúty. Rešerša, ktorú by človek odkladal týždeň, môže začať o päť minút. Koncept prednášky, dokumentácie alebo aplikácie môže vzniknúť v dialógu. Toto nie je mágia. Je to nový pracovný nástroj.

A v Česku k tomu máme lepšiu východiskovú pozíciu, než si niekedy myslíme. Nedávno som písal o dátach STEM a Eurostatu: podľa prieskumu STEM má skúsenosť s AI zhruba 71 % českých používateľov internetu. U mladých je adopcia ešte výraznejšia. Medzi dospelými sme európsky priemer, ale medzi mladými patríme k európskej špičke.

To nie je len štatistika. To je predpoveď. Generácia, ktorá teraz sedí v školách, vstúpi na trh práce s AI ako so samozrejmosťou.

Kam to pôjde ďalej

Nečakám nutne jednu AGI, ktorá zajtra ovládne všetko. Skôr čakám vrstvu špecializovaných, poloautonómnych agentov, ktorí postupne prevezmú väčšiu časť digitálnej práce: kód, tabuľky, rešerše, dokumenty, plánovanie, vyhľadávanie, právne koncepty, prípravu výučby.

Čakám, že sa z AI stane druhý mozog, kopilot alebo kolega. Nie v romantickom zmysle, ale prakticky: systém, ktorý pozná kontext vašich projektov, pomáha udržať dlhú niť a dokáže spolupracovať s ďalšími nástrojmi.

Čakám prvé naozaj významné vedecké objavy, kde bude AI podstatným spoluautorom procesu. Na Slunovrate nebol čas poriadne rozviesť témy ako kognitívna architektúra alebo digitálny vedec, ale práve tadiaľto podľa mňa vedie cesta: spojiť viac rôznych inteligencií, ľudských i umelých, aby celok zvládol viac ako ktokoľvek sám.

Robotika pôjde pomalšie ako softvér, ale prví naozaj užitoční univerzálnejší roboti v logistike a priemysle sú v horizonte niekoľkých rokov realistický scenár. A čaká nás ťažká téma koncentrácie moci. Pokiaľ bude väčšinu inteligencie planéty ovládať pár firiem, je to spoločensky väčší problém ako jednotlivá halucinácia modelu.

Za rok budeme riešiť spoluprácu

Pred rokom sme riešili, ako dobre AI odpovedá. Dnes riešime, ako dobre pracuje. A za pár rokov budeme riešiť, ako dobre spolupracuje.

U nás v Alpha Industries na tom už nejaký čas pracujeme. Občas mám pocit, že dobu trochu predbiehame, niekedy až nepohodlne. Ale presne to ma na tom baví. Vždy som si prial byť pri tom, keď vzniká niečo ako osobný počítač, keď sa z technickej hračky stáva nová vrstva civilizácie. Toto je tá chvíľa.

Nie s palicou. S pluhom.

Ďakujem Leošovi Kyšovi, Michalovi Kubíčkovi a Opave za debatu, ktorá mala hlavu, humor aj trenie. Slunovrat je stále jeden z najkrajších letných festivalov, kde sa dá premýšľať nahlas. A verím, že za rok bude znova o čom hovoriť.

Zdroje a ďalšie čítanie

• Alpha Industries: Tri štvrtiny českého internetu už používajú AI.
• Alpha Industries: HyperFusion: keď jeden model nestačí.
• Alpha Industries: HyperFusion po opravách: DRACO benchmark.
• Arena AI: rebríčky modelov pre text a webový vývoj.
• STEM, Eurostat, METR a Stanford HAI AI Index: verejne dostupné prehľady adopcie, schopností a limitov súčasnej AI.

Poznámka k poctivosti: článok vychádza z debaty na festivale Slunovrat a z následných podkladov. Niektoré efektné tvrdenia z pracovných poznámok som formuloval opatrnejšie alebo vynechal tam, kde by bez jasného zdroja pôsobili presne ako ten typ AI halucinácie, pred ktorým text varuje.