Umělá inteligence nám nerozumí

S vedoucím katedry počítačů na Fakultě elektrotechnické ČVUT v Praze Jiřím Vokřínkem jsme hovořili o tom, že moderní informační technologie pomáhají člověku řešit řadu problémů. Zároveň ale také představují riziko.

Co je vlastně umělá inteligence?

Začal bych asi šířeji. Historicky se počítače využívaly hlavně k tomu, aby vyřešily nějakou úlohu na základě zadaných dat a určeného algoritmu. Většinou to byly úlohy matematické, a počítače je řešily rychleji a efektivněji než člověk. To přetrvává dodnes, ovšem objemy zpracovávaných dat se mnohonásobně navýšily. Pomocí počítačů zpracováváme obrovské soubory dat, která často nejsou kompletní a obsahují chyby, a snažíme se z nich vytěžit nějaké užitečné informace.

Další skupina aplikací slouží k vyhledávání optimálních řešení. Optimalizace se může týkat výrobního procesu, dopravní trasy, léčebného postupu a řady dalších aktivit. Počítače nám opět umožňují najít takové řešení rychleji a možná i lépe, než by to zvládl člověk. Mohou k tomu využít velkého množství dat a schopnost provádět výpočetní operace hodně rychle.

A na optimalizačních úlohách začínala před desítkami let umělá inteligence, tedy schopnost hledat a nacházet nejlepší řešení. Z mého pohledu je umělá inteligence všechno, co zpracovává data efektivněji, lépe, kvalitněji a produkuje smysluplný výsledek.

Později se k optimalizacím přidalo strojové učení, které dosáhlo velkého pokroku hlavně díky hlubokým neuronovým sítím. Jedná se v podstatě o velmi složitou matematickou funkci, na jejímž základě počítač zpracovává obrovské množství vstupních dat a vytváří výsledky, které po něm požadujeme.

Čím se umělá inteligence odlišuje od té přirozené?

Tím, že ve skutečnosti nerozumí tomu, co říká. Současné chatovací aplikace mnohdy budí zdání, že komunikujete s někým, kdo vám rozumí, ale je to jenom zdání. Umělá inteligence je naučená odpovídat tak, aby to vypadalo, že chápe význam svých odpovědí.

Ve filmu Blade Runner vystupuje expert, který testuje androidy, aby odhalil, že to nejsou skuteční lidé. Pokládá jim otázky a ti hodně dobří selžou na třicáté nebo čtyřicáté otázce. Umělá inteligence v posledních letech hodně pokročila a ta současná by podobný test mohla zvládnout zhruba do třiceti otázek, ale nakonec ji stejně dostanete do nějakého logického sporu. Chybí jí nástroj, aby textům, které zpracovává, opravdu rozuměla.

doc. Ing. Jiří Vokřínek, Ph.D.

Vystudoval ČVUT v Praze, kde v současné době působí jako vedoucí katedry počítačů na Fakultě elektrotechnické. Je zakládajícím členem Centra umělé inteligence. Od roku 2001 se věnuje výzkumu v oblasti umělé inteligence a vývoji aplikací využitelných v různých odvětvích.

Je možné, že se umělá inteligence jednou dostane na takovou úroveň, že bude mít vědomí?

Já si myslím, že toho nelze dosáhnout na počítači tak, jak ho známe dnes. Počítač má v sobě procesor, který nedělá nic jiného, než že ze vstupních dat vypočítá pomocí matematické funkce nějaká výstupní data. Ta data mohou být enormně veliká a získané odpovědi velice sofistikované, ale pořád je to stroj.

Počítač nemá žádné vnímání vnějšího světa. Pro něj je třeba časopis sekvence znaků. On ví, že tato sekvence znaků se vyskytuje v kontextu jiných sekvencí znaků, a naučí se tyto sekvence spojovat a dávat třeba do vět. Tím budí zdání, že se s vámi baví o časopisu, ale ve skutečnosti vůbec neví, co časopis pro lidi znamená. Jenom to předstírá.

Těžko si také dokážu představit, že by si stroj uvědomil sám sebe a začal jednat ve svůj prospěch. Dnešní počítač nemá žádnou zpětnou vazbu na nějaký svůj užitek. Nemůže ten užitek nijak vnímat, a jeho měření je pro něj hodně abstraktní.

Které lidské profese v blízké budoucnosti umělá inteligence nejspíš nahradí?

Vývoj je na tolik dynamický, že není vůbec jednoduché odpovědět. Ale dovedu si představit, že o práci mohou velmi rychle přijít třeba scénáristé špatných seriálů. Takový nekonečný seriál napíše současná umělá inteligence bez problémů. Nebo články do bulvárních či některých online médií, které jsou už dneska v podstatě generovány špatným překladem ze zpráv zahraničních tiskových agentur. To by umělá inteligence také dokázala.

Na naší univerzitě už nějaký čas pracuje robot, který generuje burzovní zpravodajství. Na základě reálných burzovních dat napíše srozumitelné burzovní zprávy. Podobně by stroje mohly psát třeba předpovědi počasí.

Generátory dnes dokážou napsat zprávu, která vypadá hodně dobře. Problém ovšem je, že ta zpráva nemusí být korektní. Když dáme stroji špatná data, nemůže z nich sebelepší algoritmus vygenerovat dobrý výsledek. A ten stroj to bohužel vůbec nepozná.

Poznají to lidé?

Ne vždycky. Tím, jak jsou stroje stále komplikovanější, ztrácejí jejich běžní uživatelé schopnost rozumět tomu, jak fungují a proč dělají to, co dělají. Dostáváme se do fáze, kdy strojům začínáme bezmezně věřit, a projevuje se to třeba tím, že řidič vjede s kamionem do úzkých uliček v centru města nebo na pěší lávku a do poslední chvíle mu na tom nepřijde nic divného. Vždyť ho tam navedla navigace.

Podobně to funguje i u zpráv, které dostáváme z internetu. S příchodem umělé inteligence se objevuje stále více informací, o nichž vůbec nevíme, jak a kde vznikly. Vyspělé technologie také umožňují vytvářet fotografie a videa, která vypadají jako reálná, ale přitom se vůbec nezakládají na pravdě. Lidé ztrácejí schopnost ověřit si, že to, s čím interagují, je opravdu skutečné, což se dá zneužít v politice, v marketingu a v mnoha oblastech lidského života.

Na druhé straně máme zase systémy založené na umělé inteligenci, které ověřují fakta ve zprávách na internetu a hledají jejich skutečné zdroje.

Počítače dnes také přizpůsobují obsah webových stránek podle toho, kdo si ty stránky prohlíží…

Ano, k individualizaci obsahu dochází. Nejvíce je to vidět na reklamě, která se na webové stránky vkládá. Přes přihlášení k účtům na různých sociálních sítích a službách vás systém umí identifikovat a propojit třeba váš domácí počítač s pracovním. Když se doma podíváte na nějaké zboží, druhý den v práci vám na toto zboží začne vyskakovat reklama. Regulace se sice stále zpřísňují, ale v principu mohou poskytovatelé služeb předávat informace o vás dalším subjektům a předkládat vám obsah podle toho, o co jste se zajímali v minulosti. Z toho plyne nebezpečí, že se uzavřete do informační bubliny. Když vám stroj nabízí jen informace, které chcete číst, nejste konfrontován s jinými názory a pohledy na věc, a to vás utvrzuje v tom, že máte pravdu a že vaše vnímání reality je správné. Přitom se vůbec nemusíte dozvědět, že existují i odlišné názory a úhly pohledu. Motivací k vytváření individualizovaného obsahu je, aby lidé dostávali informace, které nejvíc chtějí, a nebyli zatěžováni těmi, o které nemají zájem. Ale z psychologického hlediska asi není úplně správné, aby lidé dostávali jen ty informace, které chtějí.

Umělá inteligence se využívá také při vývoji samořiditelných vozidel. Tady ovšem naráží na dilema, když se má v krizové situaci rozhodnout, zda přejet a zabít chodce, nebo narazit do zdi a zabít posádku. Posunuli se odborníci nějak v řešení této otázky?

Neposunuli, a asi ani neposunou. Samořiditelné auto ovládá počítač, pro něhož jsou různé možnosti číselné hodnoty. On je porovná a zvolí menší, nebo větší podle toho, jak je naprogramován. Nedovedu si představit, že bych byl inženýrem vytvářejícím matematickou funkci, která určí, jaká varianta je přijatelnější. I když se rozhoduje sám člověk, je to hodně těžké a rozhodnutí v kritickém okamžiku nemusí být stejné jako to, které bych učinil v klidu od stolu.

Jak se to tedy u samořiditelných aut a dronů bude řešit?

Podle mě řešení spočívá v tom, že vytvoříme takové podmínky, pravidla a regulace, aby se umělá inteligence do této situace vlastně nedostala. Mohu stroj navrhnout tak, aby dokázal předvídat, že k takovému etickému problému může dojít, a upozornil včas řidiče a předal mu řízení. Člověk je tím, kdo má zasáhnout. Legislativně je stále zodpovědný řidič. Zodpovědnost za něj nemůže převzít nikdo z těch, kdo autonomní vozidlo vyrábějí nebo programují.

Kdy můžeme očekávat masovější nasazení autonomních vozidel do běžného provozu?

Nástup samořiditelných aut sleduji už minimálně pět let a nevidím, že by vývoj šel nějak razantně kupředu. Řekl bych, že výrobci narážejí na technické limity, protože řídit ve všech možných podmínkách všude na světě je opravdu technicky velký problém. I když natrénujete milion mil na okruhu v Kalifornii a pak auto pustíte do Prahy na Karlovo náměstí, tak tady nebude schopné jezdit. Ta prostředí jsou natolik odlišná, že auto nebude umět reagovat. Schopnost naučit se orientovat v prostředí není u autonomních aut stále dostatečná na to, abychom mohli opravdu věřit, že zvládne jezdit kdekoliv a dokáže řešit kritické a neočekávané situace. Tím se opět dostáváme k základní charakteristice umělé inteligence. Umělá inteligence neočekávanou situaci nemusí vůbec rozpoznat, nebo ji rozpozná špatně. A může na ni zareagovat velice hloupě. A k tomu nemá žádnou přirozenou sebereflexi, která by její chování upravila.

Kterými směry se bude podle vás umělá inteligence dále vyvíjet?

Velkým tématem stále zůstává nasazení autonomních systémů. Po mnoha nehodách a problémech sice nastal mírný odklon od samořiditelných aut, ale autonomní roboty lze využívat pro spoustu jiných činností. Velké pole působnosti představuje třeba pomoc záchranným složkám. V současné době brání nasazení autonomních zařízení ve velké míře legislativa, ale ta by se mohla pro speciální případy upravit. V krizových situacích, kdy se jedná o záchranu životů, zdraví nebo majetku, by pravidla nemusela být tak přísná. Třeba autonomní drony a další druhy robotů, které jsou schopné v určité situaci samostatně vykonat nějakou misi a přitom ještě spolu navzájem spolupracovat, se už dnes vyvíjejí a neustále se zdokonalují.

Druhá oblast, v níž se pro umělou inteligenci otvírá široké pole působnosti, souvisí s velkým boomem chatbotů a vyhledavačů. Myslím si, že bude velmi důležité soustředit se na takzvaný fact checking, tedy ověřování korektnosti informace. Systémy se dnes tolik nezabývají tím, zda je informace správná, ale tím, jestli je uvěřitelná. Jejich tvůrci usilují o to, aby vznikl hezký text, který vypadá, jako by ho napsal člověk. Hodně pozadu však zůstává ověřování faktické správnosti. Roboty používají pro učení spousty textů, o nichž nevíme, jestli obsahují správná fakta. Výsledkem pak mohou být nesmyslné nebo zavádějící informace. Ověřování správnosti tedy bude velké téma.

A třetí směr vývoje bude zaměřen na zlepšení strojového vnímání. Aby stroj dokázal situaci vnímat kontextově, aby uměl informace vyhodnocovat v souvislostech a pochopil jejich význam.

Rozhovor si můžete přečíst v březnovém čísle časopisu Statistika&My.