V pátek 12.6. večer oznámila americká federální vláda společnosti Anthropic, že musí s okamžitou platností pozastavit přístup ne-Američanů k novým modelům její umělé inteligence, Fable 5 a Mythos 5. Zákaz pokrýval i cizí občany nacházející se na půdě Spojených států, a dokonce i cizince-zaměstnance Anthropicu, což byl mimořádně tvrdý požadavek.
Jelikož firma Anthropic, aspoň podle svých vlastních slov, nemá zavedené mechanismy, kterými by dokázala rychle a hladce roztřídit Američany od ne-Američanů, raději vypnula přístup všem – úplně všem. Starších modelů, jako je Opus 4.8, se interdikt netýká, ale k tomu se ještě dostaneme.
(„Starší“ v tomto kontextu znamená „starý ani ne tři týdny“, ale v tomto překotném světě jsou někdy už i tři týdny celá věčnost.)
Toto je velice zajímavá situace, jak z globálně-strategického, tak z přízemně osobního hlediska, protože k tomu mám co říci z osobní praxe.
Nejprve tedy prosím to strategické hledisko. Není úplně jasné, do jaké míry šlo ze strany Trumpovy administrativy o „facku“ neposlušné firmě, a do jaké míry si to dotyčná firma způsobila sama. Americké úřady zdůvodnily svůj rozkaz ohrožením bezpečnosti Spojených států; šeptanda tvrdí, že dotyčné modely, představené veřejnosti před pouhými pár dny, prý šlo „zlomit“ k tomu, aby začaly produkovat opravdu nebezpečné návody k hackování systémů. Tomu se říká „jailbreak“ a prý na to přišla nějaká třetí strana, která to vzápětí promptně naprášila úřadům. Snad to byl Amazon, prý.
Toť jedna nejistá informace. Nicméně mezi současnou americkou vládou a Anthropicem panovalo už dříve napětí proto, že Anthropic odmítal vládě povolit použití svých AI modelů k pro určitá vojenská a sledovací nasazení. V lednu letošního roku to došlo tak daleko, že je vláda označila za „bezpečnostní riziko v dodavatelském řetězci“, což mělo za následek jejich odstavení ze všech (federálních) vládních systémů. Tento spor se momentálně nachází u soudu, jež má rozhodnout, zda šlo ze strany americké vlády o oprávněné opatření, nebo o neústavní pomstu za to, že firma využila svých práv na svobodu projevu. Definitivní rozhodnutí ještě nepadlo.
Na druhou stranu se sám Dario Amodei, šéf Anthropicu, vyjadřoval na adresu těchto nových modelů až bombastickými slovy a označoval je za mimořádně silné a potenciálně bezpečnostně riskantní; Mythos také strávil několik týdnů ve vládní „karanténě“, kdy nesměl být uváděn na trh. Do jaké míry to bylo přehnané chvástání, motivované chystaným vstupem Anthropicu na burzu, a do jaké míry to bylo přesné hodnocení situace, to se asi zase jen tak nedozvíme. Nicméně Amodei v této souvislosti před pouhými dny pronesl názor, že by vláda měla auditovat a vetovat všechny nové modely AI, což se mu nyní tedy vrátilo i s úroky.
Ve vývojářské komunitě každopádně odstavení nových modelů z provozu vyvolalo nevídaný děs a běs. Za mořem i u nás. Úplný Pearl Harbor umělé inteligence, ne-li přímo Hirošima.
Proč? To vám mohu říci z osobní zkušenosti. Také jsem byl jedním z prvních uživatelů Fable 5 a za pouhých pár dní jeho veřejné existence jsem si s ním trochu „potykal“. Vůbec se tomu poprasku na laguně nedivím.
V programátorském světě se dnes AI používá hlavně jako „multiplikátor psaní kódu“. Řeknete jí do detailů, co chcete, na co si má dávat pozor, jaké testy k tomu má vytvořit, a ona to naprogramuje za vás. Jde o hodně mladé odvětví. Ještě loni v létě se běžně stávalo, že tehdejší špičkové modely nedokázaly ani vyprodukovat kód bez syntaktických chyb a kompilátor se mohl zbláznit (vy ostatně taky). Už tehdy byla práce s nimi o něco rychlejší a produktivnější než bez nich, ale ten rozdíl nebyl zas tak velký. Přirovnal bych jej k rozdílu mezi zdatným chodcem a zrezlou, leč funkční koloběžkou.
Modely se postupně zlepšovaly, každé cca 2-3 měsíce vyšla nějaká nová verze. Anthropic se typicky nacházel v čele vývoje – tamní vývojáři jsou opravdu dobří. Tímto tempem jsme došli do stavu, kdy se květnový model Opus 4.8 dal označit nikoliv za zrezlou koloběžku, ale za oktávku v základní výbavě. Letos na jaře už živý vývojář s robotem jednoznačně prohrával; s využitím AI byl odhadem 4x-5x produktivnější než bez něj. Nicméně potvoru bylo potřeba pořád „hlídat“, pro což se vžilo mírně pejorativní slovo botsitting. Bez takového dozoru začínala po 20-30 minutách zabíhat do temných koutů a ztrácet se v nich.
Pak, před několika dny, přišel Fable 5 a Fable 5 byl Ferrari. Jeho „porozumění“ věci, vytrvalost, koncentrace na úkol, analytické schopnosti, to všechno bylo o řád lepší než předtím a potřeba „vodění za ručičku“ zmizela. Hned první den jsem jej poštval na složitou chybu, na které předtím jak lidé, tak starší modely AI selhaly. Poradil si! Sice mu to trvalo dvacet minut, ale poradil. Vzápětí dostal další úkoly a ani v nich neukázal žádnou slabinu. Byl to první model, který dokázal pracovat sám i pár hodin, a výsledky té práce byly precizní.
Samozřejmě, tohle sladké ovoce ochutnalo asi tak milion programátorů po celém světě, protože ta zpráva se rozkřikla rychlostí světla; a po pár dnech dostali náhle mokrým hadrem přes čenich a nová hračka jim byla vzata z moci úřední. Zkuste nuceně přesednout z Ferrari zpátky do oktávky – ten návyk na lepší standard si vypěstujete zatraceně rychle.
Osobně si myslím, že ve Washingtonu teď zvoní opravdu hodně telefonů. Tohle se korporátům líbit nebude.
(A to je mimochodem moje hlavní naděje, že se situace nějak “utřepe”. Americká vláda nemůže jít proti příliš mnoha korporátům naráz. Čekal bych, že Jared Kushner, který už teď vlastní nějaké akcie konkurenční OpenAI, dostane i balíček akcií Anthropicu – a tím se problém vyřeší.)
Fable 5 je mimochodem první model, u kterého jsem zaznamenal z úst relevantních lidí názory, že by možná byl schopen něčeho, čemu se v počítačovém žargonu říká rekurzivní sebevylepšování. Představte si slavného barona Prášila, jak se sám za vlasy vytahuje z bažiny, ale v trochu jiném fyzikálním vesmíru, kde by to fungovalo. Toho zatím žádné zveřejněné modely schopné nejsou, zatím na jejich vylepšování musejí pracovat lidé.
Nemáme tušení, jak by taková věc vypadala, ale další přirovnání – k řetězové štěpné reakci, při které každý štěpící se atom uranu nebo plutonia způsobí rozbití dalších atomů – je poněkud znepokojivé. Každý takový proces má samozřejmě nějaký konec, ale to dění mezi začátkem a koncem může být explozivní. Nedá se tedy úplně vyloučit, že pánové v černých brýlích pozastavili dostupnost Fable 5 ze zcela legitimních důvodů.
Tak jako tak byla tato epozida zajímavá i z lokálního hlediska: my Evropané na to vše můžeme hledět tak trochu jako Lotova žena, která se změnila v solný sloup. Není, co bychom s tím dokázali udělat, protože toto odvětví u nás těžce zakrnělo a nejsilnější evropský model, Mistral, hraje odhadem třetí ligu. První a druhá liga AI jsou výlučně americko-čínská zóna.
Přitom u zrodu a vývoje těch špičkových modelů stojí spousta Evropanů, od „polského“ core teamu OpenAI až po Slováka Andreje Karpathyho, který vyrostl v Košicích. Jenomže skoro všichni se nacházejí v Křemíkovém údolí, kde mají k dispozici jak tvůrčí svobodu, tak i ekonomické podmínky štědřejší než jinde. Jediné velké jméno AI, které zůstalo v Evropě, je Demis Hassabis, Brit kyperskořeckého původu, který žije v Londýně.
Začínáme tu malinko připomínat zaostalé neandertálce, ale se skvělým (a drahým) sociálním systémem. Jsem upřímně zvědav, jak dlouho jej ještě dokážeme při takovém zaostávání futrovat vypůjčenými penězi.
Diskusní fórum ke článku najdete zde.
Hudební epilog
Simple man, complicated robot.
