Rozhovor s Ondřejem Neffem (nejen) o umělé inteligenci

S rozmachem počítacích strojů po Druhé světové válce se začíná objevovat termín umělá inteligence (Artificial Intelligence, AI). Dnes je to obor informatiky, který se snaží řešit velice komplexní úlohy v souvislostech. My, fanoušci sci-fi, si hned představíme zákeřný počítač HAL 9000 odmítající poslouchat nebo SkyNet bránící lidstvo tím, že ho pro jistotu vyhladí. Předpokládá se, že jednou budou počítače tak výkoné a “chytré”, že se naučí myslet jako člověk, nabudou vědomí a dojde k tzv. singularitě. To je obecná umělá inteligence a čím toho o našem mozku víme víc, tím dál v budoucnosti taková singularita leží. A je dost možné, že to neskončí apokalypsou, nebo v to alespoň vědecká obec doufá.

Mezitím ale došlo k rozmachu něčeho, čemu se říká úzká umělá inteligence. S tou se pracuje už dlouho, ale k širšímu rozšíření do povědomí laické veřejnosti došlo v posledních měsících, kdy se o ní mluví téměř všude. Stačí se na něco zeptat Siri nebo nějakého dalšího chatbota (v čele se službou OpenAI) nebo si zkusit vygenerovat obrázek třeba pomocí aplikace Midjourney. Jsou to komplexní programy pracující s daty tak dobře, že umí oblbnout téměř kohokoliv a už dnes značně mění některé obory lidské práce.

I my v imago si s umělou inteligencí hrajeme a seznamujeme se s ní. Zeptali jsme se Ondřeje Neffa, spisovatele, publicisty, novináře, fotografa a průkopníka českého internetu, na jeho názory a postoje k umělé inteligenci.

Patříte mezi průkopníky a propagátory internetu. Jak se internet podle vás za tu dobu změnil?

Asi nemá smysl něco taxativně jmenovat. Má to charakter exploze, zasahuje to do netušených oblastí – a hlavně bych rád zdůraznil, že proces zdaleka neskončil. Stačí si uvědomit, že jakákoli činnost nevyžadující bezprostřední dotyk lidské ruky se dá vykonávat online. Operace srdce provedená přes internet, je to sci-fi nebo není?

Jakou roli v těchto změnách hrají sociální sítě?

Pojem veřejnost má díky nim jiný obsah než dřív, není ale jisté, jaký vlastně. Nepopiratelný je fenomén názorových bublin. Zvláštní ale je, že masová hnutí minulosti – komunismus, fašismus, jsou z technického a komunikačního hlediska důsledkem tištěných médií a později rozhlasu, eventuálně filmu. Oproti tomu názorové bubliny věku sítí nemají tendenci se slučovat, spíše se štěpí, a nepodporují hierarchickou strukturu, ta je komunismu a fašismu vlastní. Kdo je na Facebooku „führer‟? Taková otázka nemá smysl.

Fenomén umělá inteligence se začal objevovat v padesátých letech minulého století a stal se i tématem ve vědeckofantastické literatuře. Jak daleko jsme podle vás od technologické singularity, tedy od momentu „procitnutí“ strojů?

Jsem v tomto směru skeptický a myslím, že jsme se nedostali ani na začátek. Roste schopnost analyzovat a propojovat rostoucí kvanta dat. Skutečné vědomí funguje na jiných principech a dokonce věřím, že některé principy – ty základní – jsou zatím mimo dosah našich znalostí.

Z knih a filmů se zdá, že to bude spíš negativní událost. Jako příklad stačí zmínit SkyNet. Proč si myslíte, že to tak je?

Odpověď je prostá. Drama vyžaduje konflikt. Nemůžu napsat povídku o tom, že žehlička žehlí. Povídka musí být o tom, že propálí prkno a zapříčiní požár.

Jste v tomto směru spíš optimista nebo pesimista?

Obezřetnosti není nikdy dost. Nicméně je to zatím tak vzdálené, že nemá smysl se bát, ani těšit.

V posledních měsících probíhá boom slabých umělých inteligencí. Rozšiřují se asistenti, velké jazykové modely schopné komunikovat přirozenou řečí, generátory obrázků, článků nebo kódů. Máte zkušenosti se službami jako je OpenAI nebo Midjourney?

Je to převrat, jako byl před dvaceti lety fulltextový vyhledávač Google. Mimochodem, korektor překlepů je taky „slabá umělá inteligence‟… Zatím OpenAI v pracovním procesu zařazené nemám, ovšem nepochybuju, že za pár let v tom budu až po uši. I jako spisovatel – uvedu příklad z aktuální praxe. Mám hrdinku, Číňanku, a dávám jí do úst „čínská moudra‟. Hledám je přes google nebo klopotně vymýšlím – nepochybuji, že AI mi jich vysype nepřeberné množství...

Tyto služby velmi rychle začaly měnit zavedené postupy například v e-commerce, copywritingu, PPC reklamách a reklamách obecně. Už dnes se setkáte s chatbotem, který vám na eshopu pomůže vyřešit problém. Sami tyto služby usilovně testujeme a zkoušíme například generovat popisky ke zboží. Kam myslíte, že to povede?

Všechno, co usnadní práci, zároveň způsobí, že je té práce víc. Nepochybuji, že tento paradox se projeví i v aplikaci AI.

Čím víc dat a reakcí má taková umělá inteligence, tím je lepší. Učí se od lidí. Ukazuje se ale, že se velice rychle naučí spíš negativní věci. Z chatbota Microsoftu se během jednoho dne stal urážející rasista, AI Mety (dříve Facebook) začal pomlouvat vlastního šéfa Marka Zuckerberga. Co to pak vypovídá o nás samotných, zvlášť když se podíváte na běžný obsah na sociálních sítích?

Negativní či pozitivní, to jsou kategorie lidského uvažování. Nedělejme si iluze o lidské povaze, ta do AI prosákne, je to nevyhnutelné. Spíš je na pováženou, až se AI definitivně zařadí do cenzurních a dohledových procedur. K tomu dojde, vemte na to jed.

OpenAI a další podobné služby jsou založené na obrovském množství algoritmů a strojovém učení. Ale základem je trénování na velkém množství dat. Překvapivě jsou pak často výsledky takových AI volně k užití a nejsou zatížené licencemi. Kde se však vzala ta původní data? Očekáváte v tomto směru nějaké velké právní bitvy?

Samozřejmě že tahanice nastanou. Ale pozor, v tvorbě je úzká hranice mezi inspirací a plagiátem. Kipling vymyslel Mauglího a Burroughs z něho udělal Tarzana a vydělal miliony. Textové a obrazové výstupy AI jsou kompilace něčeho dříve vytvořeného, ale jak určit původní autorství? Na stopu autora už dnes dovede přijít Google, ale určit původní inspirační zdroj nebude snadné. O to tvrdší budou hádky kolem toho – už dnes Getty Images řve kvůli zneužití jejich obrazového materiálu. Celkem oprávněně.

Dokážete si představit svět, kde všechnu práci odvedou stroje? A co budou dělat lidé? Nehrozí, že zleniví? Může taková společnost vůbec fungovat?

Z hlediska našich předků jsme leniví už dnes, nic neděláme. Navíc, technický pokrok je sice rychlý, ale ne natolik, abychom nestihli adaptaci. Technologie mnohé činnosti odstraní, jiné zase vzniknou. Vždycky bude co dělat.

Často se ve spojení s umělou inteligencí mluví o tom, že jen těžko dokáže nahradit lidskou kreativitu. Já si nedávno nechal vygenerovat část gamebooku. Nebudu tvrdit, že to byl počin hodný Pulitzerovy ceny, ale už jsem četl i horší věci. Existují už i velmi slušné AI generátory příběhů do stolních RPG jako je Dungeons & Dragons. Dovolím si tvrdit, že už v sobě mají víc kreativity než celá řada lidí. Není kreativita často zaměňována za náhodný šťastný nápad? V čem to podle vás vězí?

Skutečná kreativita je nesmírně vzácný jev a mnohé současné tzv. kreace jsou jen deriváty a metamorfózy dříve vytvořených děl. AI to bude dělat rychleji. Ten pojem „nápad‟ skutečně s kreativitou souvisí. Jistěže taky čerpá z něčeho, co existovalo už před tím, s trochou cynismu bych řekl, že nápad je plagiát s nezjistitelným původem. Nicméně, vždycky budou lidé s nápady. AI bude produkovat pro masovou spotřebu, jako když Baťa sekal cvičky. Vedle toho ale byly ručně šité boty pro fajnšmekry. On se ten lidský dotyk pozná.

Když jsem se na vás ptal umělé inteligence OpenAI, nejdříve si myslela, že jste získal bronzovou medaili na mistrovství světa v běhu na lyžích v obřím slalomu, ale pak se nechala přesvědčit, že jste spíše spisovatel. Taky jsem ji požádal, aby se vás zeptala na to, co jí zajímá. Dovolím si AI citovat: „Mohl byste nám říci něco o svém vztahu k literatuře a jak jste se stal spisovatelem?”

No vidíte, a já bych odpověděl: „Milá AI, tvoje starosti a Rothschildovy peníze bych rád měl!‟

autor Karel Krajča

foto Elena Horálková a Karel Krajča