V predchádzajúcom článku sme videli, že medzi riziká každodenného využívania umelej inteligencie patria netransparentnosť rozhodovania, diskriminácia, ohrozenie súkromia či zneužitie. A kde je ten krásny nový svet? Alebo to bude nočná mora?
Autonómia strojov a zodpovednosť
Zo sci-fi filmov máme azda dojem, že hlavné nebezpečenstvo umelej inteligencie (angl. Artificial Intelligence, AI) je v tom, že stroj si sám zvolí ciele a prostriedky a obráti sa proti ľuďom. Z pokojamilovnej pasce na myši z minulého článku by sa tak stala zbraň. Alebo by si centrálny mozog planéty vysvetlil ochranu prírody tak, že treba odstrániť ľudstvo, ktoré ju ohrozuje.
V ostatnom čase vzniká čoraz viac autonómnych systémov ako sú automobily a drony. Ich zneužitie teroristami sa nedá vylúčiť, ale AI je v tom nevinne. Rizikom tu nie je samotná AI, ale čoraz väčší rozsah činností riadených cez počítače, ktoré môžu byť napadnuté. Tiež sa spracováva čoraz viac dát o súkromí ľudí, ktoré môžu byť zneužité.
Autonómne systémy sú v neposlednom rade konštruované na konkrétny účel, a preto prípadné škody budú spravidla ohraničené na najbližšie okolie. Vážnou hrozbou je ničivá sila autonómnych bojových strojov. Zodpovednosť za ne padá plne na ich tvorcov. Paradoxne, AI môže dať zbraniam v istom zmysle aj väčšiu „humánnosť“, lebo s doteraz nemysliteľnou presnosťou zničia cieľ útoku a všetko ostatné zachovajú.
Dokonalé AI falzifikáty
Trochu strašidelnou schopnosťou neurónových sietí je generovanie „umelej reality“. Do budúcnosti to môže znamenať aj tvorivé navrhovanie riešení problémov, ale zatiaľ je najznámejšia tvorba umelých fotiek ľudí, ktorým sa hovorí deep fake (angl. hlboký falzifikát). Sú takmer nerozoznateľné od fotiek skutočných ľudí, ibaže zobrazené osoby neexistujú.
Je zaujímavé, že sa na to používajú dve neurónové siete – prvá sieť na základe veľkej databázy fotiek ľudí vytvára obrazy neexistujúcich ľudí. Neurónová sieť nepozná ľudskú anatómiu, preto výsledný obraz má často nedostatky – napríklad vlasy visia vo vzduchu, alebo zuby sú nesprávne zoradené. Druhá neurónová sieť funguje ako kontrolór kvality a „reklamuje“ obrázky, ktoré majú chyby.
Opakovanými pokusmi zdokonalený fiktívny obraz sa dá využiť napríklad na páchanie podvodov. Podobne je mysliteľné vytvorenie videí udalostí, ktoré sa nikdy nestali. To je naozaj nebezpečné, lebo šokujúce videá sa na sociálnych sieťach šíria veľmi rýchlo a môžu vyvolať až destabilizáciu spoločnosti.
Nový krásny svet s AI?
Áno aj nie. Rozšírenie využívania AI bude mať nepochybne závažný spoločenský dopad. Podobne ako pri priemyselnej revolúcii, keď časť remeselníkov nahradili stroje, aj s AI zaniknú niektoré profesie „bielych golierov“ a zmení sa náplň práce mnohých profesií. AI určite ovplyvní aj svet služieb, médií, politiky či vzdelávania. Zároveň však vzniknú aj nové možnosti, nové potreby ľudí, a tým aj nové profesie.
Ťažko povedať, či svet bude dokonalejší. Už teraz ľudstvo spracúva dramaticky viac informácií než kedykoľvek v minulosti. Ale svet je taký zložitý, že odpovede stroja na otázku aké je jeho ideálne usporiadanie, sa nedočkáme ani s AI. Dôvod je nasledovný:
Stroje donedávna riešili iba jednoduché a jednoznačne opísateľné operácie, zato v porovnaní s ľuďmi extrémne rýchlo. S AI počítače riešia čoraz lepšie aj typicky ľudské úlohy, ktoré majú dve charakteristiky: 1. Vstupné informácie sú neúplné a neraz aj nepresné a nespoľahlivé. 2. Jednoznačný presný postup riešenia je neznámy alebo existuje, ale má takzvanú exponenciálnu výpočtovú zložitosť. To znamená, že jednoduchý príklad sa dá vypočítať aj na kalkulačke, ale stačí zadanie len trochu skomplikovať a už nebude stačiť ani najvýkonnejší počítač sveta. Tieto úlohy sa preto z princípu nedajú riešiť „presne“, ale dá sa iba priblížiť k „použiteľnému“ výsledku.
Umelá inteligencia nepochybne dokáže posunúť získavanie a spracovávanie informácií nad rámec našich dnešných predstáv, ale tieto základné obmedzenia zostanú. Preto aj systémy umelej inteligencie budú musieť na dosiahnutie ľudsky prijateľných výsledkov kombinovať viacero prístupov.
Okrem „presných algoritmov“ a strojového učenia to budú nepochybne aj „expertné vedomosti“ získané od ľudí – skúsených expertov. Každá oblasť ľudskej činnosti totiž zahŕňa aj overené pravidlá, skúsenosti a „skratky“. Sú to takzvané heuristiky – „A čo tak skúsiť toto?“ alebo „Toto sa mi nezdá…“ –, ktoré nie sú prísne vedecky overené, ale v praxi často dobre fungujú. Stroje tak môžu zhromažďovať napríklad skúsenosti najlepších lekárov s mnohoročnou praxou a overiť ich u nového pacienta v zlomku sekundy.
Špecializovaná umelá inteligencia
V dôsledku problému exponenciálnej zložitosti nadobúda nový význam aj veľká rôznosť medzi ľuďmi, ich motiváciami a prístupmi k životu. Ľudia sú racionálni alebo inštinktívni, udržiavači ohňa alebo objavitelia neznámeho, pragmatickí alebo idealistickí, tvrdohlaví alebo prispôsobiví, spoločenskí alebo uzavretí, priebojní alebo zraniteľní, ľudia orientovaní na starostlivosť o ľudí alebo na dokonalosť vecí, orientovaní na vedomosti alebo na zážitky, na hmotné veci alebo na duchovné hodnoty. Rôznosť ľudí je kľúčom k prežitiu ľudstva – každý z týchto prístupov má šancu riešiť časť ľudských situácií, ale žiadny nepokrýva všetky.
Pre AI to znamená vzdať sa predstavy jedného všemocného algoritmu a využívať množstvo špecializovaných systémov umelej inteligencie. Podľa inšpirácie z deep fake neurónových sietí si môžeme predstaviť napríklad „AI sudcu“, ktorý robí rozhodnutia, ale aj „AI ombudsmana“, ktorý hľadá nespravodlivosti rozhodovania „AI sudcu“ pre určité situácie alebo skupiny obyvateľov. Alebo „AI policajta“, ktorý hľadá podvodné využívanie AI.
Doteraz spomínané postupy umelej inteligencie vychádzali z existujúcej skúsenosti a iba ju uplatňovali na nové situácie. Objavovanie úplne nových poznatkov asi vždy bude silnou stránkou ľudí. Ale ľuďom bude možno asistovať aj „AI prieskumník“, ktorý bude aktívne vyhľadávať nové zdroje údajov, vytvárať experimenty a skúšať nové postupy, aby overil, či neignorujeme nejaký výsek skutočnosti.
Na rozdiel od ľudí, ktorí sami seba kontrolujú veľmi slabo a ťažko znášajú rôznosť, je veľkou výhodou strojov, že AI sudca, ombudsman, policajt i prieskumník môžu pokojne bežať vedľa seba v jednom počítači.
Črtá sa tu zaujímavá diskusia o tom, ako vyvážiť rôzne AI systémy, z ktorých bude vlastne každý ťahať iným smerom. V praktických veciach sa len málokedy dá dosiahnuť naplnenie všetkých cieľov na maximum a neraz treba robiť rozhodnutia v závislosti od dôležitosti jednotlivých cieľov. Ani komplexné AI systémy sa tejto dileme nevyhnú a bude potrebné vyvažovať rôzne kritériá a stratégie.
Preklad etiky do strojového kódu
Vo vzťahu k umelej inteligencii nepochybne potrebujeme byť obozretní a uplatňovať etické princípy ako transparentnosť, zodpovednosť, nestrannosť či ochrana súkromia v zmysle Rímskej výzvy za etickú umelú inteligenciu. Nikdy nekončiacou úlohou bude aj ochrana pred zneužívaním AI systémov na zločin a nespravodlivé obohacovanie sa. V neposlednom rade na tejto ceste nesmieme stratiť ľudí, ktorým AI nechcene zmení život a ktorí strojom nerozumejú.
Je pozoruhodné, že pri pomyselnom vytváraní AI pasce na myši v predchádzajúcom článku a pri úvahách o lepšom svete s AI v tomto texte sa ukázalo, že na lepšie nastavenie inteligentných strojov potrebujeme premyslieť a prediskutovať odveké otázky ľudských hodnôt, životných priorít, etických princípov, vyvažovania rôznych typov právomocí, dopĺňania rôznych prístupov k životu. Potrebujeme sa na nich zhodnúť a vyjadriť ich. Nebude stačiť neurčité prianie „umelá inteligencia, buď dobrá“, ale etické princípy bude treba „nakódovať“ do reči strojov. Je to zaujímavý podnet aj pre dialóg medzi ľuďmi rôznych svetonázorov. Znie to ako vzrušujúce, ale neľahké dobrodružstvo.
Literatúra:
Rímska výzva za etickú umelú inteligenciu, https://www.kbs.sk/obsah/sekcia/h/dokumenty-a-vyhlasenia/p/dokumenty-vatikanskych-uradov/c/vyzva-na-etiku-v-oblasti-umelej-inteligencie
Torres, Orlando: 7 Short-Term AI ethics questions, https://towardsdatascience.com/7-short-term-ai-ethics-questions-32791956a6ad
Ak sa vám článok páčil, zdieľajte ho svojim priateľom a známym na sociálnych sieťach.