AI nemá žádnou vůli ani cíl,

říká Josef Šlerka, který se zabývá výzkumem toho, jak lidé komunikují na sociálních sítích a jak nová média ovlivňují chování jedince i společnosti.

Náš rozhovor se má týkat umělé inteligence. Takže bychom si měli nejprve definovat, co to ta umělá inteligence vlastně je…

Umělá inteligence je primárně určitým typem strojového učení a modelování. My ji však často zaměňujeme s takzvanými velkými jazykovými modely, což jsou – velmi zjednodušeně řečeno – velké kompresory textů. Ty se snaží zkomprimovat všechny texty, které přečetly, a když jim dáte kus nějakého textu jako zadání, pokusí se ve své paměti najít a rozbalit to, čím by mohl pokračovat. Vše je velmi sofistikované, protože tím, jak se neuronová síť učí kompresi textů, tak se vlastně učí pravidla, a to nejen jazyková, ale i pravidla toho, jak funguje kultura nebo jak jsou v textech zakódovány lidské hodnoty. Je to vlastně nástroj, s jehož pomocí jsme schopni reprodukovat nebo generovat texty tak, že jsou koherentní s tím, jak vnímáme realitu.

Umělá inteligence je prý hlavně statistika – program vybírá nejpravděpodobnější spojení či variantu...

Mohli bychom říct, že to je taky statistika, a odpověď by nebyla špatně. Ale něco by nám uniklo. U statistiky očekáváme schopnost rozumět, proč to tak vyšlo. U AI však tuto schopnost postupně ztrácíme. U největších jazykových modelů úplně přesně nevíme, co se děje uvnitř, a tu schopnost pochopit, proč se něco stalo, nemáme. Vytvořili jsme komplexní systém, který se sám stal objektem našeho výzkumu a zjišťování, proč dělá zrovna to, co dělá.

Mgr. Josef Šlerka, Ph.D.

Vystudoval obor Estetika na Filozofické fakultě UK, kde také absolvoval doktorský program Informační věda. Zaměřuje se na problematiku dezinformací a konspiračních teorií, zejména v souvislosti se sociálními sítěmi a informačními technologiemi. V roce 2014 získal ocenění Osobnost roku v anketě Křišťálová lupa. Působil v několika internetových startupech a v letech 2017 až 2021 byl ředitelem Nadačního fondu nezávislé žurnalistiky. Přednáší na Filozofické fakultě Univerzity Karlovy.

Dá se AI srovnat s lidskou inteligencí?

Inteligence je něco jako schopnost komprimovat poznatky a zkušenosti, a na jejich základě predikovat budoucí vývoj. To AI dovede, takže nějaký druh inteligence to určitě je, ale neřekl bych, že je lidská. Umělé inteligenci totiž chybí sebeuvědomění, sebeprožitek, nemá dokonce ani žádné zakotvení ve smyslové realitě tak, jak ji vnímáme my. Ale protože texty, na nichž se AI trénuje, jsou o smyslové realitě, tak i výstupy, které produkuje, vypadají, jako by AI tuto realitu vnímala. A nám se pak zdá, že to je lidská inteligence. To je však jenom zdání. AI ty zkušenosti a znalosti nezískala tím, že by je sama prožila. Ona si je jenom někde přečetla a uložila do paměti.

Co považujete za největší přínos umělé inteligence?

Za hlavní přínos AI považuji to, že v době informačního přehlcení představuje nástroj, který nám umožňuje pracovat s obrovskou spoustou informací a rychle se v nich zorientovat. Přináší určité odlehčení kognitivně stále náročnější reality a dává možnost daleko hlubšího ponoru, než bychom byli schopni bez ní.

To je ale zároveň i velké nebezpečí, které spočívá v tom, že když nebudeme posilovat a trénovat vlastní inteligenci a kognitivní schopnosti, tak začneme ochabovat. A pak se můžeme velmi rychle stát sami nástrojem umělé inteligence, která skrze nás bude ve světě zasahovat, aniž by věděla, co dělá. To, že AI nemá vůli a že nemá žádný cíl, totiž neznamená, že nemůže ve světě jednat. Protože ona jedná skrze nás.

Mělo by se využívání AI nějak regulovat?

Nejsem jistý, zda je správné AI omezovat. Hlavním pravidlem by měla být naprostá transparentnost. Pokud interagujeme s umělou inteligencí, měli bychom to vědět. Transparentní by měly být i vnitřní mechanismy, na kterých jsou ty systémy založené. Na druhou stranu si myslím, že nám stejně žádná regulace nepomůže, protože ekonomické přínosy, ale i přínosy pro vědu jsou tak obrovské, že budou pohánět vývoj stále dopředu bez ohledu na pravidla a snahy udržet ho v nějakých mantinelech. Jinými slovy, čeká nás adopce nové reality, nikoliv regulace.

Umíte si představit, jak bude vypadat soužití lidí s AI třeba za deset let?

Budoucí vývoj si odhadnout netroufám. Vždyť kdybych vám před pěti lety, než se objevila GPT 3, říkal v rozhovoru to, co říkám teď, byl bych považován za šílence. Já sám jsem byl tehdy přesvědčen, že stroje nikdy nebudou takhle dobré. Uplynulo pár let a jsou takhle dobré. Podle mého názoru je AI v tuto chvíli spíš vyvrcholením takzvané ICT revoluce, do níž můžeme zahrnout rozvoj počítačů a internetu. Teď nás asi čeká nějaká další technologická revoluce, která na tu současnou naváže.

Díky AI dochází k prudkému rozvoji například v oblasti farmakologie, nanotechnologií, kvantových počítačů… To, co by dříve trvalo desítky a stovky let, lidé zvládnou mnohem rychleji. Možná za pět či deset let nás čeká skutečně obří revoluce, která sice bude umožněna umělou inteligencí, ale nebude to revoluce umělé inteligence.

Může nás umělá inteligence přemoci a převzít vládu nad Zemí?

Nejsem příznivcem teorie, že se AI jednoho dne probudí a ovládne nás. V zásadě k tomu nevidím důvod. Za velmi pravděpodobné však považuji to, že umělá inteligence, která bude stále víc zapojená do rozhodovacích mechanismů, učiní špatné rozhodnutí, a tím způsobí obrovskou katastrofu. My víme, že AI dělá špatná rozhodnutí, že halucinování je vlastností jejích algoritmů. Ale tím, jak na AI stále více spoléháme, tak si to přestáváme uvědomovat a riziko nějaké chyby s děsivými následky roste.

Co bychom měli dělat pro to, abychom si zachovali zdravý rozum a dokázali ověřovat správnost informací?

To, že nějaký výstup pochází od umělé inteligence, samozřejmě neznamená, že je špatný. A špatné není ani to, když tento výstup čteme a řídíme se jím. Špatné je, že ztrácíme schopnosti udělat podobný výstup sami. Po AI bychom měli chtít věci, které jsme nejprve zvládli sami. Moje generace má určitou výhodu, protože jsme žili v době bez AI a museli jsme se spoustu věcí naučit. Učení je ale namáhavé a často se pojí s nějakou frustrací. Nastupující generace má možnost ten bolestivý proces obejít tím, že znalosti získá od umělé inteligence a přestane se učit. Tím ale zároveň mnoha věcem přestane rozumět.

Když ale nebudeme věcem rozumět, nebudeme je umět opravit a nepoznáme, že fungují špatně...

Přirovnal bych to k devatenáctému století, kdy řemeslníky začaly nahrazovat stroje. K obsluze strojů už nejsou potřeba řemeslníci, kteří umějí produkt sami vyrobit. Jsou potřeba lidé, kteří poznají, jestli je hotový výrobek dobrý, nebo vadný. To je jiná schopnost. S umělou inteligencí je to tak, jako bychom autory nahrazovali editory.

Jak si tedy má počínat běžný člověk ve věku umělé inteligence?

Myslím si, že se nic nemění na tom, že si lidé mají ověřovat, jestli jsou informace pravdivé, nebo nepravdivé. To, jestli jsou, nebo nejsou od AI, není důležité. Informace se stávají pravdivými nebo nepravdivými v naší hlavě. Proto je důležité udržet si schopnost takzvaného kritického myšlení, tedy analyzovat argumenty a strukturu daného textu a vůči nějakým jiným textům ověřit, jestli je pravdivý, nebo není. Tuhle schopnost můžeme kultivovat třeba právě čtením, ptaním se a dohledáváním, jestli texty dávají smysl.

Byl jste ředitelem Nadačního fondu nezávislé žurnalistiky. Jak AI ovlivňuje práci novinářů?

Vliv na média je dvojí. První je v oblasti samotného mediálního průmyslu, kde dopad začíná být poměrně citelný. Pro firmy to na jedné straně znamená, že mohou vygenerovat mnohem víc textů, na druhé straně však jsou producenti obsahu umělou inteligencí sráženi, protože vyhledávače stále více generují odpovědi na dotazy uživatelů pomocí AI. Dříve odkazovaly na weby, na které se člověk musel podívat, aby našel hledanou odpověď. Dnes dostane odpověď od AI a na žádný web už chodit nemusí. To pro ty weby znamená ztráty velkého množství přístupů, a tím i spousty peněz.

Druhý vliv AI je přímo na novináře. Těm tyto nástroje mohou pomáhat při rešeršní práci, při hledání témat nebo při zpětné vazbě. Nezdá se však, že by je AI mohla nahradit, protože práce novináře nespočívá pouze v tom, že si nastuduje spoustu textů a vytvoří z nich kompilát. Novinář musí být na místě, mluvit s lidmi, vnímat detaily a propojovat věci, které vypadají nepropojitelně. Novinář by měl umět popisovat konkrétní realitu, zatímco doménou AI je spíš zobecňování.

Jak AI ovlivňuje konzumenty médií?

Řekl bych, že dál pokračuje trend, který tu byl už před AI. Snižuje se úroveň literární gramotnosti, tedy schopnosti vnímat delší texty a orientovat se v nich. Delší a složitější texty stále častěji dáváme AI s tím, aby je shrnula a vybrala z nich to nejdůležitější. Tím ale sami ztrácíme schopnost delším textům rozumět. Ray Bradbury v knize 451 stupňů Fahrenheita o takovémto úpadku knih a čtení vypráví, když říká: „Všechno to začalo tím, že jsme nechtěli číst celé knihy a nechali jsme si dávat jenom shrnutí, pak jednu větu, a nakonec jsme přestali číst úplně.“ To je scénář, který asi zcela naplněn nebude, ale oslabení naší schopnosti číst a rozumět složitějším textům může být velmi silné.

Ohrozí to zpětně existenci médií a novinářů?

Myslím, že žurnalistika to celé přežije. Jenom se pravděpodobně stane exkluzivnější. Výtvory skutečné novinařiny, jako třeba investigativní texty, budou ještě dražší než dnes a bude je pravděpodobně konzumovat menší počet lidí. Ale osud žurnalistiky není asi tolik spojen s otázkou umělé inteligence, jako spíš s otázkou, do jaké míry důvěřujeme demokracii a soudržnosti společnosti. Protože novinařina nesouvisí jenom se schopností psát, ale hlavně se schopností přinášet ověřené informace lidem, kteří se na jejich základě můžou rozhodovat. Dokud budeme chtít o svých věcech rozhodovat, má zde žurnalistika svoje místo.

A nezpůsobuje umělá inteligence právě to, že se ochota rozhodovat snižuje?

Spíš začínáme ztrácet hranici mezi tím, co je lidské, a co je umělá inteligence. Přestáváme vnímat, jestli jsme se rozhodli proto, že nám to AI doporučila a nám to vyhovuje, nebo nám to vyhovuje proto, že nám to doporučila AI.

Musíme se asi mnohem víc zaměřit sami na sebe, než se zabývat tím, jestli něco je, nebo není pravda. Ověřená informace neznamená, že jde o správnou věc. Umělá inteligence nám pomáhá mít znalost, pomáhá nám dělat věci správně, ale nepomáhá nám dělat správné věci.

Mohou nástroje AI ohrozit fungování demokracie a posílit příklon společnosti k diktaturám?

Ohrožení demokracie podle mého názoru s AI souvisí, ale přichází odjinud, než bychom možná čekali. Kdyby většinu HDP ve společnosti produkovala AI bez lidí, je otázka, do jaké míry by státy potřebovaly občany. Například většina zemí, které žijí z nerostného bohatství, rozhodně není demokratická. Dokud je hlavním zdrojem bohatství společnosti člověk, bude mít stát tendenci fungovat s ním tak, aby všichni byli, pokud možno, spokojení. K tomu se zdá demokracie, přes všechny neduhy, jako docela dobré uspořádání. Co se však stane ve chvíli, kdy peníze nebudou pocházet od lidí? Potom vládám na lidech záležet nebude, a možná nastoupí nějaká éra nepodmíněného příjmu. Objeví se otázka, zda mají lidé rozhodovat o dalším směřování země, když několik „odborníků“ vybavených AI může kvalifikovaně rozhodovat za ně. To skutečně může vést k erozi demokracie.

Můžeme tomu nějak zabránit?

V dějinách člověk zatím vždycky nakonec nějakou rovnováhu našel, i když to bylo třeba za cenu hrozných válek a krizí. Jsem tedy spíš optimista a věřím, že je tu nezanedbatelná šance, že se podaří umělou inteligenci adoptovat tak, aby vedla k daleko většímu rozvoji toho, co znamená být člověkem, než k úpadku lidství.

Jak se vlivem AI změní úloha statistiky a oficiálních statistických údajů?

Pozice statistiky se sice umělé inteligence dotýká, ale není na ní závislá. Ve statistice, v demografii a v podobných oblastech může AI výrazně pomoci při vyhodnocování a sbírání dat, při modelování. Umožňuje nám dělat věci, které jsme před pár lety nedělali, protože by to bylo moc drahé a časově náročné. Důležité ovšem je, aby za nás nepřevzala rozhodování. AI nám dává podporu, rozhodování však musí zůstat na lidech.

Co když AI využijí respondenti, aby za ně vyplnila dotazníky, které se jim vyplňovat nechce?

To samozřejmě nastat může. Neznamená to ale, že údaje, které za vás AI vyplní, budou špatně. Model světa, který AI přináší, záleží na vstupních datech. Když budou ta data správná, mohou být správné i výsledky, které z nich odvodíme. Statistikům by to mohlo svým způsobem uvolnit ruce a přimět je zabývat se věcmi, které dosud zůstávaly skryté, na které se dosud respondentů z různých důvodů neptali.

K čemu vy sám používáte AI?

AI je běžnou součástí mé práce. Umožňuje mi rychlou validaci prvotních nápadů. Dřív, když jsem se rozhodoval, na co se zaměřím, musel jsem vyhledat spoustu studií a ty si přečíst. AI udělá ty první rešerše za mě, a já se tak můžu snáz a rychleji rozhodnout, který směr dalšího výzkumu dává smysl. AI je také skvělým pomocníkem při programování a vytváření různých modelů nebo při zpracování dat. Ale opakuji, že jsem člověk, který žil bez umělé inteligence. Mám díky tomu dobře vycvičenou schopnost říct umělé inteligenci: „takhle ne.“

Rozhovor vyjde v květnovém vydání časopisu Statistika&My.