Laurent Ozon v tomto rozsáhlém rozhovoru zkoumá, jak algoritmická inteligence přetváří společnost, politiku a identitu, a nastoluje naléhavé otázky týkající se kontroly, dohledu a budoucnosti lidského jednání ve stále automatizovanějším světě.
Na budapešťském „Summit on Technology and Society“, konferenci o technologiích a společnosti se přední myslitelé zabývali tím, jak umělá inteligence mění společnost – od přetváření kreativity a duševního zdraví až po zpochybňování tradičního vzdělávání a demokracie. Může lidstvo řídit technologie, aniž by ztratilo samo sebe?
Během konference pořídila redakce The Hungary Conservative unikátní rozhovor s Laurentem Ozonem, zakladatelem a ředitelem jedné z nejinovativnějších francouzských společností (Storvision SAS), která se specializuje na řídicí technologie.
***
Mohl byste shrnout své úvahy o tom, jak algoritmická inteligence ovlivní společnost – ať už v příštích 10-20 letech, nebo ještě bezprostředněji?
Záleží na tom, na jaký aspekt se díváme. Pokud mluvíme o produktivitě nebo zaměstnanosti, existují již zprávy, které dopad algoritmických technologií předpovídají. Například ve Francii některé odhady předpovídají ztrátu asi čtyř milionů pracovních míst během příštího desetiletí.
Tyto zprávy se však většinou zaměřují na ekonomickou produktivitu. Málokdy se zabývají sociálními nebo politickými důsledky. A to je velký problém, protože tyto dopady jsou stejně důležité.
Ocitli jsme se mezi dvěma protichůdnými příkazy. Na jedné straně se nám říká, že se musíme přizpůsobit – protože pokud to neuděláme, zůstaneme pozadu. Na druhé straně se nám říká, že přijetí těchto změn nás samo o sobě zničí. Ti, kteří mají moc tyto změny ovlivňovat, vnucují jeden směr, zatímco ti, kteří moc nemají, jsou vláčeni, často nechtěně.
Neexistuje žádná skutečná analýza toho, jaký směr je vlastně potřeba. Je to jako fotbalový zápas – dvě strany se přetlačují, ale chybí společná vize.
Pracujete se složitými datovými systémy. Jak v této souvislosti hodnotíte připravenost institucí na nepředvídatelné události – takzvané scénáře „černé labutě“?
To, čemu se často říká „černá labuť“, se ve skutečnosti již děje. Tyto události nejsou jen technologické nebo vědecké – jsou také politické a antropologické. Když lidé nevidí základní procesy a nerozumí jim, výsledky se jeví jako překvapení. Ale nejsou. Jsou to předvídatelné důsledky dlouhodobé dynamiky.
Například průzkum mezi výzkumníky v oblasti umělé inteligence ukázal, že 7 % z nich se domnívá, že vývoj umělé inteligence může vést k marginalizaci, zastarání, nebo dokonce k zániku lidstva. To není sci-fi – je to reálné přesvědčení, které zastávají lidé pracující na těchto systémech.
To, čeho jsme svědky, je proces, který nazývám dés-hominisation – určitý druh ‚odlidštění‘. Řízení nefunkčních společností delegujeme na stroje. Místo abychom řešili základní problémy, využíváme technologie k jejich „efektivnější“ správě.
Historicky společnosti regulovaly spolupráci prostřednictvím blízkosti, reputace, kulturních rituálů a mezilidských vazeb. Ty se předávaly prostřednictvím kultury a upevňovaly se v biologických a etnokulturních společenstvích.
Nyní tento model rušíme. Nahrazujeme ho něčím chladným a vnějším: abstraktními systémy, zákony a algoritmy. Osvícenství nám dalo víru, že kulturu lze nahradit rozumem a univerzálním poznáním. Tento předpoklad se však nyní hroutí pod tíhou svých vlastních důsledků.
Myslíte si, že toto napětí – mezi algoritmickými systémy a lidskou společností – by se nakonec mohlo stát skutečnou konfrontací?
Ano, je to srovnatelné s Butlerovým džihádem v Duně Franka Herberta – vzpourou proti strojům. Možná směřujeme k podobnému konfliktu, ne nutně násilnému, ale k hluboké civilizační krizi mezi lidským životem a algoritmickou kontrolou.
Reakcí by nemělo být odmítnutí vědy nebo přijetí nějaké romantické představy minulosti. Potřebujeme nové disciplíny a paradigmata – třeba s kořeny v oborech, jako je bakteriologie, ekologie nebo mykologie. Tyto vědy zpochybňují osvícenský důraz na individualismus a lineární pokrok. Navrhují vzájemně propojenější, dynamičtější modely.

To mě přivádí k vašim zkušenostem s armádou a reakcí na mimořádné události. Myslíte si, že tyto dovednosti – rychlé a rozhodné jednání – jsou užitečné při zvládání tohoto technologického posunu?
Pouze pokud se vydáme paralelní cestou – cestou, která zpochybňuje algoritmické řízení. Nemůžeme tomu čelit zastaralými postoji nebo popíráním. Potřebujeme disciplinovaný, vědecký přístup, který nám umožní představit si a budovat společnosti, v nichž bychom skutečně chtěli žít.
Věda nesmí sloužit pouze imperativu nekonečného růstu nebo augmentaci strojů. Měla by nám pomáhat snižovat naši závislost na strojích, nikoli ji zvyšovat. Nová paradigmata, o nichž jsem se zmínil, musí tento cíl podporovat.
Pracujete také v oblasti sledovacích technologií, zejména s videem. Jaké vidíte etické limity takového sledování, zejména když se stává rozšířeným o umělou inteligenci?
Videodohled odstraňuje lidské chyby tím, že rozhodování přenechává algoritmům. To však vytváří nový problém – dehumanizuje sledované osoby.
Čím více se spoléháte na dohled, tím více lidé mění své chování – ne z etických důvodů, ale ze strachu. A chování nezmizí, jen se přesune do prostor bez kamer. Problémy neřešíte, jen je přemisťujete.
Protože neexistuje trvalá vnitřní kontrola chování, ale spíše dočasná autocenzura založená na strachu, funguje dohled jako virus. Lidé mění své antisociální chování a tím se ospravedlňuje rozšiřování algoritmické reakce. Šíří se jako virus do všech koutů společnosti, aby sledovala antisociálního chování. Je to nekontrolovatelný proces bez hranic. Společná kultura, sociální odpovědnost a reputace jsou při zajišťování kvality života a sociální kontroly nesrovnatelně účinnější. Zjednodušeně řečeno: více identity a migrační anarchie znamená více algoritmické kontroly.
Poslední otázka – trochu mimo téma. Průzkum vesmíru rychle postupuje. Věříte, že přetvoří geopolitickou moc, například nová „území“ na Marsu?
Mýtus o průzkumu vesmíru lidmi – prosazovaný Američany, Rusy a dalšími – je do značné míry symbolický. Skutečný průzkum budou provádět stroje nebo posthumánní entity. Lidé v dnešní podobě nepřežijí vzdálenosti a časové horizonty, které jsou s tím spojené.
V příštích dvou stoletích budou cestovat stroje, ne my. Poté možná nějaká hybridní nebo zmutovaná forma lidstva. Ale neměli bychom si namlouvat, že jde o romantický, lidský podnik. Je to technologická kolonizace – nic víc.
Publikováno v The Hungarian Conservative
° ° °
Konzervativní noviny nabízejí všechny články zdarma. Náš provoz se však neobejde bez nezbytné finanční podpory. Pokud se Vám Konzervativní noviny líbí, budeme vděčni za Vaši pomoc. Číslo účtu: 2701544173 / 2010. Děkujeme!



