Etické výzvy ve století umělé inteligence

Do historie lidstva se neustále promítají ty samé koncepty, znovu a znovu: Nové technologie, zdá se, vždy naruší společenské pořádky a změní náš způsob smýšlení. Nejinak se tomu děje i ve 21. století.

Etické výzvy ve století umělé inteligence


Průmyslové revoluce 18. a 19. století jsou nejlepším příkladem této historické změny. Nic tak drastického jako tehdy nás asi nečeká, je ovšem nutné si uvědomit, že stejně jako v tehdejší době i v současnosti objevujeme nové technologie, které se velmi rapidně vyvíjejí a  radikálně mění způsob, jakým pracujeme a žijeme.

Změny jsou v praxi nevyhnutelné: Umělá inteligence, konkrétněji strojové učení a pokročilé modely vypracované na jejím základu ve spojení s moderními myšlenkovými koncepty a inovativními technologiemi, je připravena „náš svět“ změnit.

Nejde o pouhé marketingové řeči firem, které se chtějí blýsknout vlastní inovativností a otevřeností. Pravda, mnohdy je ona slavná umělá inteligence skutečně spíše PR pozlátkem, než že by znamenala to, co si pod ní představíme. To je ale jen jedna dimenze této technologie.

Naše děti umějí s technologiemi zacházet lépe než my

Při rozhovorech s lidmi z míst nejpovolanějších – start-upů a akademických institucí, nikoliv podniků – si lze udělat obrázek zcela jiný. Zjistíme, že mimo svět korporátní hantýrky, zažitých procesů a agilního škálování nás čekají skutečnosti, jimž se zkrátka budeme muset přizpůsobit, nebo riskovat ztrátu zaměstnání či pocit izolace.

Je jedno, o čem konkrétně mluvíme: Průmysl 4.0, RPA, robotizace, digitální asistenti, chytrá domácnost, fintech, samořiditelná auta, kybernetická informační válka – všechny tyto pojmy je nutné vnímat jako celek, v kontextu: samy o sobě jsou buď nevýznamné, zdánlivě nerealistické, nebo vzdálené či příliš izolované na to, aby mohly připomenout průmyslové revoluce minulých staletí.

Jenže propojené dohromady vytvářejí ucelenou představu budoucnosti, v níž jsou digitální technologie všudypřítomné a pro člověka přirozené. Nabývají na síle a smyslu tím, že jsou propojené.

Pokud máte děti nebo se v jejich blízkosti častěji pohybujete, všimněte si, jak rychle, snadno a intuitivně dokážou zacházet s elektronikou: tablety, chytrými telefony, ale třeba i chatboty. Digitální svět je jim blíž než nám.

Nejde jen o standardní dětskou chápavost a schopnost se velmi rychle učit. Jde i o důkaz toho, že design se vyvíjí správným směrem: technologie jsou pro nás stále přirozenější, běžnější, automatičtější. Zčásti i proto, že jsou skutečně všude kolem nás, zčásti z důvodů, které je těžké jednoznačně určit bez hlubšího vědeckého výzkumu.

Orwellovská Čína

Faktem je, že všechny ty kvantové počítače a autonomní vozidla jsou mnohem blíž, než se domníváme: stejně jako děsivější, téměř sci-fi koncepty jako vytržené z orwellovské reality. Podívejme se blíže na Čínu. Na silnici v některém z větších měst, když přejdeme mimo přechod, nás kamery zaznamenají, najdou v elektronické databázi náš občanský průkaz a veřejně jej promítnou na velkou digitální plochu, aby se „záškodník“ poučil pomocí veřejné potupy.

Policejní stát budoucnosti nebude policii vůbec potřebovat. Bude mít technologie, kamery a snímače. Miliony, desítky milionů snímačů. To bohatě stačí na úplnou kontrolu. Soukromí bude jen iluzí, pokud jej necháme.
Ale to je apokalyptický scénář, který se nemusí vyplnit – přinejmenším nikoli v Evropě. A tím se dostáváme k pointě celého textu: inovace a pokroky v pracovním i každodenním životě tu jsou, teď už rozjetý vlak zastavit nelze a dá se čekat, že v příštích pár letech ještě zrychlí. Klíčové je neignorovat etickou stránku umělé inteligence a vlastně všech nových technologií: přemýšlet nad tím, jak se dá zneužít, a připravit se na to, sestavit pravidla, kterými se řídit. Je to obdobné jako u vojenských technologií, třeba chemických nebo jaderných zbraní; nechci je srovnávat s umělou inteligencí, to je samo o sobě zavádějící. Spojuje je však nutnost velmi pečlivého zvážení etických závazků, které musejí projednat firmy, státy, organizace a vlastně celé celosvětové společenství.

Vývoj nesmí příliš předehnat legislativu, jinak hrozí velké problémy.
Před nedávnem jsem narazil na postarší díl slavného sci-fi seriálu Star Trek: Nová generace. Zde jakýsi soud řeší otázku, zda je android – který si uvědomuje vlastní existenci – bytostí s právy a povinnostmi, nebo je fakticky majetkem, otrokem, jehož je možné využívat, jak uznáme za vhodné, neboť nemá city.

Abstraktní koncept ze 30 let starého seriálu se postupně přetváří v něco hmatatelného, představitelného, realistického. Je možné, že k podobným úvahám za pár desítek let lidstvo skutečně dospěje. Buďme na to raději připraveni.


Úvodní foto: © pixel_dreams - Fotolia.com




Komentáře