Facebookový algoritmus odstranil část textu americké deklarace nezávislosti – kvůli “hate speech”. Jak se nám bude žít s automatickými Viktory Čističi?

Kdo neviděl Brutální Nikitu, tomu možná jméno Viktor Čistič nic neříká. Pro informaci:

Na první pohled je to banální událost. Na Facebooku zmizel komentář. Nějak se nad tím pozastavovat, toť jako plakat nad tím, že někdo zašlápl v lese mravence; zcela běžná příhoda, která se nikoho z nás bezprostředně netýká.

Jenže obsahem odstraněného příspěvku nebylo leccos. Šlo o odstavce 27 až 31 významného historického dokumentu Spojených států amerických, který má pro tamní obyvatele určitou emocionální váhu. Pro některé dokonce značnou. Takže na sítích panuje rozhořčení.

A já mám aspoň důvod, proč se zase jednou pozastavit u toho, jak fungují zbraně hromadného mazání a co z toho pro nás plyne.

První bod: nedozvíte se, proč příslušný příspěvek zmizel. Toto je zdroj permanentní frustrace. Zmizet může téměř cokoliv podle nejasných pravidel. Součástí zvůle je právě to, že nikdo nikdy neví, kdy a kam sekyra dopadne a koho ušetří.

Jediné, co je bezpečné, jsou fotky roztomilých hrajících si koťátek. Zatím, dokud ještě žádný bojovník za práva zvířat nepřišel na to, že je to vlastně zneužívání němé tváře k účelům sobeckého vizuálního potěšení. (Zní to absurdně, ale ve světě, v němž aktivisté a celebrity bojují proti tomu, že ohijská univerzita Oberlin prodává suši americkým studentům  – coby údajném kulturním přečinu na  Japoncích, už není absurdního vůbec nic. )

Update 4.7.2018 ve 12.15: Ještě pár odkazů na téma “kulturní apropriace”, nově vynalezeného hříchu. Jídlo, oblečení, jóga, reggae. Pokud nejsou reálné problémy, musejí se vymyslet nějaké nové – těžko se mi věří tomu, že existují lidé, kteří podobným tématům opravdu věnují energii a čas. Ale existují, a považují je očividně za velmi důležitá. Konec update, zpátky k textu.

Dáme si sem tedy nějaké koťátko a budeme pokračovat k vážnějším věcem.

(Troufnu si říci, že i tato fotka by měla na některých sítích existenci nejistou. Pohled na zbraň vytáčí některé jedince k nepříčetnosti a ani roztomilý zrzek to nedokáže vykompenzovat. Celkové skóre tak -1,5. Verdikt: smazat, ve jménu ochrany dětí.)

V případě smazaných článků Deklarace nezávislosti je nicméně patrné, proč byly označeny jako “hate speech”: vyskytuje se v nich totiž formulace merciless Indian Savages, čili nemilosrdní indiánští divoši. 

Měřítky Ameriky roku 2018 je to “hate speech”, dokonce taková, kterou bez problémů detekuje software bez zásahu lidské ruky. Bam, smazáno. Čímž přecházíme k dalšímu bodu.

Druhý bod: tímhle způsobem dochází k zásadní ztrátě historického kontextu a de facto přepisování historie kvůli současným politickým sentimentům.

Dnes se jistě ve Washingtonu nehodí hovořit o nemilosrdných indiánských divoších, anžto reálně neexistují; poměry v rezervacích sice nejsou vždy civilizované, ale na tom má bílý muž, spravedlivě vzato, také nemalý podíl. Z hlediska vojenských nebezpečí však indiáni neobsazují ani 155. příčku starostí US Army. Naši pozornost nyní připoutává Islámský stát a podobné kreatury.

Jenže tenhle text je z roku 1776. Většina jeho signatářů osobně zažila válečné operace v letech 1754-1763, vesměs jako mladí mužové, kteří tvořili základní mužstvo místních milic. To nebyla žádná válka vedená podle Ženevských konvencí (které ještě neexistovaly), to bylo střetnutí, ve kterém dokonce i Francouzi a Britové vystupovali z dnešního hlediska jako divoši. Jejich indiánští spojenci – a že jich bylo hodně, hlavně na francouzské straně – pak měli úplně jiné kodexy válečnické cti než evropské kultury. Velmi nekompatibilní. Mučení a skalpování zajatců bylo u indiánů běžným jevem.

Pokud jste jako mladík strávil kus svého života krčením někde v křoví s jednorannou puškou a čekáním na nepřítele, kterému bylo naprosto nežádoucí dostat se do rukou živý, těžko budete následně používat stejný politický korektní slovník jako dnešní absolvent mezikulturních studií z Harvardu, který v životě takovému nebezpečí vystaven nebyl. Možná o něm četl v knize, ale na emocionální rovině to nejspíš nedokáže pochopit. Facebookový robotický filtr však vidí svět z pohledu toho druhého a vynucuje jeho etické standardy. Co do nich nepatří, musí být vyzmizíkováno, i kdyby šlo o důležitý historický dokument.

Moderní Facebook a spol. jsou soukromé organizace, ale jejich vliv je natolik velký – fakticky se jedná o monopoly nebo oligopoly – že jakýkoliv výkon obsahově zaměřeného mazacího režimu dost připomíná státní cenzuru. Právě kvůli tomu, že obří firmy jsou svojí mocí srovnatelné se státem, vznikly už v 19.století antitrustové zákony. Ortodoxní libertariáni se mnou nebudou souhlasit, ale tvrdím, že hranice mezi “soukromým” a “státním” sektorem nejsou zdaleka jednoznačné. Někde nahoře dochází k překryvu a přerůstání.

Otázka toho, jaké verbální projevy mohou dominantní technologičtí hráči z vlastní vůle potlačovat, natož automaticky, a zda tak vůbec smějí činit, bude ještě důležitá.

Klidně je možné, že někdy za pět let dojdou v Applu k názoru, že iPhone nesmí být použit k přenosu závadných myšlenek, a následný update operačního systému vám znemožní na klávesnici napsat nějaké problematické slovo. Dejme tomu, abychom se drželi českých poměrů, tak “cikán”. Nebo třeba společnost Microsoft přeruší každý Skypový hovor, ve kterém to slovo padne – píp, píp, porušil jste zásady užívání softwaru Skype, vaše volání bylo ukončeno. A bude mu jedno, jestli jste třeba zrovna své milé četl ukázky z Máchova románu “Cikáni” na dobrou noc. Skype není licencovaná služba (na rozdíl od mobilních operátorů), takovou věc by klidně dělat mohl.

Připadá vám to absurdní? Facebook už nyní odmítá akceptovat určité odkazy, a to i v privátních konverzacích mezi dvěma osobami na Messengeru. Rovněž řada obrázků je zakázána i v privátních konverzacích. Google Voice zase ve výchozím nastavení blokuje “sprosťárny“, ač je tuto funkci možné vypnout.

Update 4.7.2018 v 15:00: Googlem vlastněný server YouTube začal letos s tažením proti videím týkajících se zbraní a jejich příslušenství. Prodejci a fanoušci zbraní se proto stěhují na PornHub, který je tolerantnější. Jinými slovy, technologický server Google vstoupil na americké politické bojiště ve věci držení a nošení zbraní se zcela jednoznačným názorem. U firmy, jejíž tržní hodnota je cca 100 miliard dolarů, a jejíž interní algoritmy hodně ovlivňují to, co na Internetu běžný laik najde a co ne, je to docela závažný krok.

Na jednu stranu chápu, že sociální sítě se nechtějí stát rájem pro šíření nevyžádaných obrázků penisů apod. Na druhou stranu je velmi snadné vidět, že dostane-li se taková mašinerie pod vliv či vyslovenou kontrolu nějaké politické skupiny, má opozice opravdový problém. A Silicon Valley, kalifornský region, v němž se techničtí veleobři koncentrují, je jednoznačně nakloněn Demokratům. Za dva roky je v USA další volební kampaň; myslíte, že firmy jako Facebook a Twitter budou ještě opět ochotny poskytnout reklamní prostor Trumpovi, když jejich personál jej vesměs považuje za ztělesnění zla?

(Možná. Lenin ostatně říkal, že kapitalisté vám prodají provaz, na kterém je potom oběsíte. Ale možná také ne. Rozhodně bude existovat velký tlak, aby se tak nedělo. Google před měsícem vycouval z vojenského projektu, nepochybně lukrativního, jak už vojenské projekty bývají – poté, co jej k tomu přiměla “malá, ale hlasitá skupina zaměstnanců”. Malé, ale hlasité skupiny mají obecně se svými požadavky větší úspěchy, než by odpovídalo jejich počtům.)

Třetí bod: automatizace těchto činností je docela průšvih.

Algoritmy dnes disponují nějakou schopností učení, ale nemají žádné zábrany, ani ty, které máme zažity tak hluboko pod kůží, že je vlastně nevnímáme. Zeptáte-li se takového systému, z čeho udělat nejlepší guláš, klidně vám doporučí sousedovic kokršpaněla, a dost možná bude mít i pravdu (to je na tom to nejhorší). Tomu, že v západní kultuře se psi nejedí, je nutno jej nejprve naučit. (Bude v Jižní Koreji používán jiný filtr?)

Kokršpaněl v guláši je aspoň zjevný fail, což znamená, že jeho výskyt programátoři časem opraví. Ale učící se algoritmy můžou páchat věci, na které se bezprostředně nepřijde, nebo se na ně nepřijde nikdy. Dejme tomu, že chcete prodat co nejvíce hrnců a svěříte tento úkol samoučící umělé inteligenci. Ta jej sleduje se stoprocentním zaujetím, bez odpočinku a bez zábran. Je zcela dobře možné, že zjistí, že nejlepšími zákazníky pro drahé hrnce jsou lidé s počínajícím Alzheimerem, a dokáže je dokonce i nějakým překvapivým způsobem identifikovat. Třeba podle rostoucího množství překlepů v textech, výrazu tváře na fotkách apod. Dnes jde tímto způsobem detekovat z obrázků kdeco. Za pět let toho bude nepochybně více.

To je z lidského hlediska samozřejmě neetické jako bič a na různé “lidské šmejdy”, kteří se o podobnou aktivitu snaží v reálném světě, jsme jako společnost dost alergičtí. Jenže ten algoritmus, který dojde k podobnému závěru, vám to ani nemusí sdělit. Jeho prací je prodávat, tož vám pravidelně sděluje, kolik toho prodal, a do vnitřní logiky už nevidíte. Ani jeho vlastní programátoři do ní nemusejí vidět. V podstatě je to dokonalý, svědomitý psychopat.

Představa takového nemilosrdného stroje, který je naprogramován k tomu, aby vynucoval určitá politická stanoviska, je dost děsivá. Dlouho jsme si mysleli, že to je záležitost Číny. Velmi snadno se ale může stát, že kolektivně nakráčíme do téže pasti ve jménu “dobrých mravů”. Jaký prostor nám pak zbyde pro disent, rozejdou-li se naše názory s tím, kdo mazacím systémům dává zadání? Bude snad zase existovat digitální samizdat, jehož obsah bude šířen různými kreativními postupy, aby se obešlo všudypřítomné oko robotického Bratra?

P.S.: Tímto zdravím Noru Michalskou, která nedávno napsala pěkný článek o svých zkušenostech ohledně mazání příspěvků a blokování účtů. Jmenovala mě v něm coby jednu ze svých inspirací pro přechod na vlastní platformu. Nemohu popřít, že mi to zalichotilo. Ješitnost je hrozná věc, ale zároveň velmi příjemná.

P.P.S.: Pokud tento blog pravidelně čtete, nyní bych vám možná doporučil, abyste si zaregistrovali jeho odběr e-mailem. E-mail zatím tolika mazacím mechanismům nepodléhá. Na sociálních sítích ale žádný publicista “neví dne ani hodiny”.

Hudební epilog

Když už byla řeč o indiánech. Tuhle bolivijskou písničku mám velmi rád. Je o milostných trablech mladého páru.

“Budeme spolu, až chuňo pokvete.” Jenže chuňo je mrazem sušená brambora, která nekvete nikdy. (Zajímavý článek.)

P.S.: Čtete-li rádi tento blog, zvažte (aspoň symbolickou) finanční podporu. Případně podporu projektu mé první knihy na HitHit.cz. Kampaň se blíží ke konci, sedmého července kolem poledne bude dokončeno!