Douglas Murray o technologických gigantech II.

Je to poměrně nedávno, teprve několik let, co manažeři v Silicon Valley přijali za svou ideologii intersekcionálních bojovníků za sociální spravedlnost. Vzali ji natolik vážně, že ji povýšili na nové šílenství, a běda společnosti, která by ji přijala nebo napodobovala.

Na to, aby se někdo zbavil své předpojatosti a předsudků, nestačí postupy zmíněné v kapitole o ženách. Školení o nevědomých předsudcích nás může nanejvýš znejistit, a když přestaneme důvěřovat vlastnímu instinktu, možná nás přesvědčí, abychom změnili své chování, postoje a názory. Třeba si i uvědomíme své společenské výsady a méně výhodnou situaci ostatních a rozhodneme se uznat své náležité místo ve společenské hierarchii. Povědomí o existenci intersekcí však v lidech zcela jistě probudí ostražitost a budou citlivěji vnímat, kdy si mohou dovolit mluvit a kdy mají mlčet. Převýchovné metody jsou pouze pokusem o nápravu nesprávného postoje, usilují jenom o to, korigovat chyby a omyly. Nikoho nepostaví na cestu k zářnému cíli sociální spravedlnosti.

Strojová výuka spravedlnosti

To je také důvod, proč velké technologické společnosti tolik věří ve „strojovou výuku spravedlnosti“ (Machine Learning Fairnes, MLF). Ta se totiž nemusí zabývat přesvědčováním nedokonalých, předpojatých a fanatických lidských bytostí a hodnocení jednoduše hodí na hlavu počítačům, které se předsudky lidí nenakazí. Toho lze snadno docílit, algoritmy se jednoduše naprogramují na ideální spravedlnost, jakou nedokonalý člověk nedisponuje. Když si ale uživatelé všimli, že se některé vyhledávače chovají podivně, vznikla potřeb  strojovou výuku lidem vysvětlit. Pochopitelně velice přátelským způsobem, jako by vůbec o nic nešlo. Ve skutečnosti jde o hodně.

Google už několikrát uveřejnil, stáhl, opravil a opět poslal po internetu video, jež mělo problém vysvětlit co nejjednodušeji. Jednoduché to ale není. „Pojďme si spolu zahrát,“ volá přátelský ženský hlas. Zavřete oči a představte si botu. Na obrazovce se objeví teniska, pánská kožená polobotka a dámská lodička s vysokým podpatkem. Ačkoli nevíme proč, ženský hlas vysvětluje, že máme předsudek a dáváme přednost jedné botě před ostatními. Jak ale naučit počítač, aby přemýšlel o botě bez našeho předsudku, jak zajistit, abychom mu nepředali svou představu o nejlepší botě, třeba tu s vysokým  podpatkem? To je velký problém, a tak mu tvůrci videa představují složitou síť čar, aby pochopil, jak je to všechno strašlivě komplikované.

Strojová výuka nám pomáhá „dostat se z místa na místo“ on-line, umožňuje internetovému vyhledávači, aby nám radil a pomáhal, vybere nám trasu a přeloží informace z cizích jazyků. V dřívějších dobách měli lidé na všechno příručku a museli si se vším poradit sami podle osvědčeného zvyku, kdežto algoritmy nabízejí novou, odlišnou metodu, „vyhledávají vzorce v datech“:

Můžeme si snadno myslet, že v tom žádné lidské předsudky nejsou, jenomže zakládat něco na datech nemusí být automaticky neutrální. Dokonce i v případě, kdy nepředpokládáme špatné úmysly programátorů, není možné lidskou předpojatost zcela vyloučit – předsudky jsou nutně součástí technologie, již vytváříme.

Vezměme si opět příklad s botami. V nedávném experimentu byli jeho účastníci požádáni, aby nakreslili botu. Protože většinou nakreslili tenisku, počítač nepovažoval botu s vysokým podpatkem za botu – neměl k dispozici všechny druhy bot – a dopustil se tzv. interakčního předsudku.

Algoritmus má předsudky

Google si však dělá starosti také s dalším typem předsudku, tzv. latentním. Představme si, že bychom chtěli naučit počítač, aby věděl, jak vypadá fyzik. Nahráli bychom osm portrétů fyziků mužů, počínaje Isaakem Newtonem, a nakonec bychom mu ukázali Marii Curieovou. Algoritmus fyziků bude mít nevyhnutelně latentní předsudek ve prospěch mužů.

Třetí a zatím poslední předsudek se týká výběru, například pokud učíte počítač rozpoznávat obličeje. Otázka zní: „Jste si jisti, že váš výběr obrázků z internetu nebo z vlastního alba reprezentuje celé lidstvo?“ Google nabízí fotografie lidí se šátkem na hlavě nebo bez něj, všech barev pleti a různého věku. Pokročilé technologie strojové výuky dostaly za úkol poučovat, a tak slyšíme uklidňující mluvený komentář: „Vypracovali jsme pro vás technologii, která do systému nepřenáší negativní lidské předsudky.“ Dále bylo podstatné, aby se na předních místech vyhledaných výsledků neobjevily „urážlivé nebo zavádějící informace“. Tvůrci poskytli uživatelům i nástroj zpětné vazby, takže ti mohou na „nenávistné nebo nevhodné“ projevy upozornit. „Je to problematika velice složitá,“ uklidňují nás, a žádné „zázračné řešení“ neexistuje. „Měli bychom si to uvědomit a dialogu se účastnit, neboť technologie je tu pro každého.“ To nepochybně je. Neměla by ale nabízet předsudky Silicon Valley.

Kam se hrabe Einstein…

Jestliže si například chcete s Googlem vyhledat ony obrázky fyziků a když už se s nedostatkem žen mezi nimi nedá nic dělat, algoritmus jako by problém obešel a ukázal nám jiný typ různorodosti. První fyzik je běloch a píše nějaké vzorce na tabuli na Sárské univerzitě, ale už ten druhý je černošský doktorand v Johannesburgu. Teprve po něm se dostáváme k Einsteinovi a Stephenu Hawkingovi.

Samozřejmě to má dobrý důvod. Málokdo by chtěl, aby si ženy myslely, že se nemohou stát fyzičkami jen proto, že kdysi v oboru převládali muži. Totéž platí o mužích i ženách každé rasy: jistě nechceme, aby se domnívali, že je jim určitý obor uzavřen, protože se v něm dříve lidé jejich barvy pleti téměř nevyskytovali. Zkuste si ale na internetu vyhledat nezaujatý pohled na dějiny, který je nezkresluje předsudkem současnosti – nebude to snadné.

Douglas Murray je rodák z Londýna, známá postava britské intelektuální scény. Vystudoval anglistiku v Oxfordu. Je autorem jedné divadelní hry (o švédském diplomatu Raoulu Wallenbergovi) a šesti knih. Podivná smrt Evropy (o masové imigraci)  vyšla česky v roce 2018, Šílenství davů (odkud je tato ukázka) vychází v těchto dnech v nakladatelství Leda. Murray je otevřený homosexuál, označuje se za neokonzervativce a křesťanského ateistu.

Konzervativní noviny nabízí všechny články zdarma. Náš provoz se však neobejde bez nezbytné finanční podpory. Pokud se Vám Konzervativní noviny líbí, budeme vděčni za Vaši pomoc. Číslo účtu: 2701544173 / 2010  Děkujeme!