Nebezpečí umělé inteligence nejspíš nespočívá v tom, že by se proti nám vzbouřila.
Současná umělá inteligence toho umí čím dál víc. Mimo jiné se jí konečně daří generovat celkem věrohodné a realistické obrázky. To byl úkol, ve kterém ještě relativně nedávno selhávala, a to úplně bizarním způsobem.
Kdo chce srovnat vývoj během pouhého jednoho desetiletí, tak toto byl obrázek vygenerovaný umělou inteligencí Deep Dream roku 2015 (dobrou chuť!) …
… kdežto v současné době vypadají výsledky třeba takto:
Má-li člověk chvilku volného času a chuť pošimrat si nervy, může si na stránce www.whichfaceisreal.com pohrát s generátorem tváří a snažit se určovat, který z těch dvou lidí je skutečný a kterého právě stvořil počítač. To šimrání nervů spočívá v tom, že moc úspěšní nebudete. Toto je zatraceně vysoká úroveň fabulace, a to máme teprve rok 2023 a příslušná technologie je ještě pořád v plenkách. Zhruba tak na úrovni onoho dřevěného Fokkera, se kterým před více než sto lety vymetal nebesa nad západní frontou slavný Rudý baron.
Jedním z oblíbených subjektů tohoto umělého umění je prý současný papež, přičemž bych se divil, kdyby všechny takto vzniklé obrázky byly tak slušné, jak je prezentují korektní New York Times. Ostatně: neslušnost funguje různými směry. Každá mladší herečka nebo zpěvačka teď bude muset počítat s tím, že během pár let se budou po síti potulovat “její” videa zcela nedvojsmyslného charakteru, a dost možná dojde řada i na starší generace. Taková Audrey Hepburn byla nepochybně velmi hezké děvče, takže by bylo divné, kdyby ji nikdo “nehodil do stroje” spolu se současnými celebritami.
Tak, teď prosím přerušte své snění, vyvolané předchozími řádky, a představte si jiné možné aplikace téže techniky. Zaručeně pravá videa, na kterých Bill Gates líčí, jak se rozhodl covidem vyhladit lidstvo, a malé ukrajinské pionýrky poskakují naprosto nedotčeným Bachmutem, zpívajíce oddaně častušku Vladimíru Vladimirovičovi. Hlavní kandidát opoziční strany těsně před volbami přebírá pod stolem tučný balík bankovek od podezřelého podnikatele. Ředitel velké firmy pronáší brutálně rasistickou tirádu na adresu nějaké obzvlášť ochraňované skupiny a lehce si přitom zahajluje do kroku. Nebo osobněji, právě zesnulý příbuzný vám ve tři ráno volá po WhatsAppu, aby vám vylíčil, jakého přijetí se mu dostalo v pekle a co je teď zrovna mezi čerchmanty v módě. A kdesi na íránských sociálních sítích se mezitím namol ožralí ajatolláhové válejí po zemi na jakémsi hříšném koktejlovém večírku, který samozřejmě nebyl.
Jsme zvyklí, že v tisku se lže, nebo minimálně přibarvuje a překrucuje. Není to příjemné, ale dá se s tím smířit a dávno jsme se s tím také smířili. Je to symbolický kanál, který tak bezprostředně neovlivňuje naše myšlení a emoce, dá se snáze pustit z hlavy. Kdežto falešné obrázky a zejména videa, to je jiné kafe. Člověk je vizuální tvor, obrázky a živé video na něj působí jinak a daleko hlouběji, než pouhý čtený text. Jak si poradí s tím, že během několika let bude po internetu poletovat více falešného audiovizuálního obsahu než toho pravého, a že od toho pravého nebude k rozeznání? Ony už i ty textové “kydy” působí na některé citlivější osoby více, než je zdrávo.
Jsem veterán programátorského řemesla, napsal jsem za svůj život několik milionů řádků kódu v asi deseti různých jazycích. Vždycky jsem měl k počítačům jednoznačně kladný vztah a považoval jsem je za užitečné nástroje. Toto je první oblast IT světa, která mě opravdu znervózňuje. Příliš účinně zkratuje naše přirozené instinkty a různí bezskrupulózní jedinci toho budou nemilosrdně využívat.
Zatím se neobávám toho, že by se proti nám nějaká umělá inteligence vzbouřila a začala nám ze své vůle aktivně škodit. Na to je ještě “moc blbá”. To hlavní nebezpečí podle mě spočívá v tom, že nám (respektive těm, kdo ji budou úkolovat) bude sloužit tak věrně, až nám z toho začne hrabat.
Třeba ne všem a ve stejné míře. Někteří lidi jsou mimořádně odolní, jiní zase lhostejní až splachovací. Ale život ve společnosti, kde “hráblo” byť jen 10-15 procentům populace, nemusí být zrovna příjemný ani pro ty, kdo si zachovají duševní rovnováhu.
Diskusní fórum k článku najdete zde.
Hudební epilog
Skladba z 18. století, inspirovaná setkáním Francouzů s indiány v oblasti dnešní Louisiany. “Vyplula” na mne asi před třemi dny a od té doby jsem si ji poslechl snad čtyřicetkrát.
První varianta, usměvavá. Všímáte si, jak dobrou náladu ti účinkující mají? To je vzácnost; určitým problémem vážné hudby je právě to, že je moc vážná.
A druhá varianta, taneční. Přiměje vás uvažovat o tom, jak nepatrný kousek západní “vysoké kultury” je věnován indiánským civilizacím. S indiány přišli do styku hlavně osadníci, vojáci, lovci a misionáři. Ale bylo mezi nimi jen málo umělců, takže je nestihli dostatečně zachytit.
