Váš facebookový profil se poslední měsíc hemží konverzacemi s umělou inteligencí. Jste z ní takzvaně na větvi?
Myslím si, že nástup této technologie je srovnatelný s nástupem internetu, představuje naprostou technologickou změnu. Je to okamžik, kdy dojde k demokratizaci přístupu k převratné technologii. Stejný pocit jsem měl i ve chvíli, když jsem si k televizi připojil ZX Spectrum (8bitový počítač z 80. let, pozn. red.). K oběma vynálezům získaly přístup masy, stejné je to teď s nástrojem pro chatování s umělou inteligencí ChatGPT. Nejenže tady máme velmi dobře natrénované neuronové sítě a umělou inteligenci, ale zároveň moment, kdy k tomu mají přístup široké zástupy lidí a firmy.
Jak tahle technologie vlastně funguje?
GPT-3 je verzí strojového učení neuronových sítí. Je to velmi dobře "vytrénovaný" systém k rozvíjení textu. Řada profesí se musí připravit na zásadní změnu. Jde o právníky, marketéry, novináře, reklamní agentury, vysoké školy, překladatele, prostě všechny oblasti společnosti, kde se pracuje s nějakými symboly, ať už s textem, nebo obrazem. Navíc se západní společnost významně odlišuje od jiných společností naprostou dominancí těchto typů povolání. Tudíž je ta změna zásadní.
Vlastně nic neví, jen píše
Při přípravě na tento rozhovor jsem chtěl, aby mi pro vás ChatGPT napsal otázku. Překvapilo mě, že ačkoliv ChatGPT pracuje s otevřenými zdroji, vás neznal.
To je naprosto v pořádku. Myslím si, že stále děláme jednu a tu samou chybu, když uvažujeme o umělé inteligenci tohoto druhu. Dlouhou dobu jsme se upínali k takzvaným znalostním systémům - to jsou systémy, které jsou nakrmené množstvím faktů a umějí s nimi pracovat, něco z nich vyvozovat. O těchto systémech jsme mohli říct, že "nosí" znalosti. Technologie GPT-3 nemá žádné databáze znalostí. Ona vlastně "nic neví".
Tak v čem tkví její výjimečnost?
Zjednodušeně řečeno byla technologie GPT-3 vytrénována k tomu, aby rozvíjela text a dostala odměnu, kdykoliv ho bude rozvíjet dobře. Když se jí zeptáme, kolik je dva plus dva, a velmi pravděpodobně dostaneme správnou odpověď, není to díky tomu, že by něco spočítala. Je to tím jazykovým modelem, který ví, že když správně uvede, že dva plus dva jsou čtyři, obdrží odměnu.
Jak se dá umělá inteligence odměňovat?
Kdybychom to vztáhli k evoluci, tak v ní je úspěšnější mutace odměněna tím, že má víc potomků. Když se budeme takovéto metafory držet, z evoluce víme, že tam není žádný úmyslný design. Organismy se stále vyvíjejí tak, aby dobře fungovaly, rozhodně nejsou elegantní a bez chyb.
Nakonec jsem umělé inteligenci vysvětlil, kdo jste, a požádal ji o otázku. Zní takto: "Jak podle vás jako estetika a sémiotika ChatGPT ovlivňuje naše chápání a vnímání jazyka a komunikace?"
Řekl bych, že bude měnit způsob, jakým mluvíme a přemýšlíme směrem k mnohem většímu rozložení úkolů.
Co máte na mysli?
Když za vás GPT-3 programuje, musíte být schopen o problému přemýšlet jinak. Musíte umět úkol rozdělovat na menší a menší části, které jsou jasně popsané. Umělá inteligence nás nutí, abychom byli mnohem přesnější v tom, na co se ptáme, a to podle principu "jak se do lesa volá, tak se z lesa ozývá". Tudíž když se ptáme abstraktně, ona nám odpoví abstraktně.
Takže budeme muset pokládat daleko přesnější otázky a požadavky, aby nám rozuměla a dostali jsme relevantní výsledek?
Ano. To je něco, čemu se v našem oboru říká komputační myšlení - schopnost abstrakce, rozložení problému. Ve školní výuce v různých oborech na to dost kašleme.
Což asi nepůjde vyřešit jen tím, že by se zvýšil počet hodin informačních technologií…
Myslím si, že na velkém množství škol se fundamentálně špatně přistupuje k výuce IT. Učíme děti dělat ve Wordu a programovat v JavaScriptu, ale neučíme je takzvanému informatickému (způsob myšlení, který se zaměřuje na popis problému, jeho analýzu a hledání efektivních řešení - pozn.red.) ani komputačnímu myšlení (komputační teorie mysli je založena na představě, že lidská mysl funguje jako počítač - pozn.red.). Mimochodem, umělá inteligence ukazuje, že výuka Wordu a podobných programů je úplně zbytečná záležitost. Děti máme učit principy, ne techniky.
Ale zpátky k jazykové stránce, ono to má ještě jiné dopady. Čím dál tím méně jsme díky umělé inteligenci v provozní rovině závislí na jazycích okolo sebe. Schopnost přečíst si, vědět, co píšou noviny, které jsou napsané ve španělštině, prudce stoupá.
Konec diplomových prací na školách
Zjevně nejste žádný technopesimista. V historii se lidé obvykle obávali, že takovéto vynálezy lidstvo poškodí, ne-li zničí…
Celá západní společnost je postavena na permanentní inovaci. Od industriální revoluce vidíme, že ji táhnou nové vynálezy, které mění způsoby výroby v dané společnosti. To je zkrátka fakt. Můžeme tvrdit, že je to špatně, ale tak to prostě je. S každou novou technologií, která změnila rozložení sil ve společnosti nebo jen některé její prvky, přicházeli technopesimisté a říkali, že to bude znamenat zánik. Nikoliv. Bude to jiné, ale zánik to rozhodně znamenat nebude.
Osobně se na to opravdu těším. Vezměte si, že ve vysokoškolské výuce na většině oborů drilujeme studenty schopnost pochopit text a něco z něj napsat. Možná nám GPT-3 umožní se víc soustředit na pochopení textů než na formální piruety při psaní. Třeba to nakonec zvýší počet empirických výzkumů, a nebudeme se místo toho muset věnovat rozsáhlým rešerším. Možností je celá řada, v tomto ohledu jsem vskutku technooptimista.
Když jsme u těch vysokých škol, na jedné z vašich přednášek jste prohlásil, že za pár let přijdou diplomové práce vniveč.
Jistě, tohle je jedna z dalších oblastí, které se zásadně promění. To, co teď podle mě uvidíme, bude velká skupina technooptimistů, kteří nebudou zcela chápat, co se děje, ale budou nadšení. To samé platí o druhé skupině lidí, ale to budou zase pesimisté. Budou si stěžovat, že ta umělá inteligence něco neumí, jenomže ona to často nemusí umět z principu svého fungování.
Jaké to bude mít dopady na jednotlivé obory?
Dopady budou velmi specifické. Očekávám, že ve velmi konzervativním vysokém školství bude kolegům a kolegyním trvat strašně dlouhou dobu pochopit, že nemá cenu se této změně bránit. Naopak má smysl ji zapojit do práce. Pro celou řadu výzkumů, i v humanitních oblastech, to je naprosto zásadní změna. Co je trochu blbé, je, že nevidíme moc úsilí na úrovni státu tento vývoj akceptovat, přitom existuje spousta důvodů, proč by to stát měl přivítat. Ale to je na jinou debatu.
Mám pro vás ještě jeden dotaz od GPT-3: "Jaké důsledky bude mít ChatGPT pro způsob, jakým se vyjadřujeme a komunikujeme s ostatními a jak zpochybňuje nebo posiluje tradiční představy o jazyce a jeho významu?"
Myslím si, že ChatGPT změní to, jak člověk rozumí sám sobě, tomu, co je na něm lidského. Filozof Ludwig Wittgenstein má v jedné z poznámek o matematice pasáž, která v podstatě říká, že rozumět nějaké číselné řadě znamená vědět, jak bude pokračovat. Myslím si, že tohle je definice, jak rozumět textům bez ohledu na to, zdali jsou to čísla nebo ne. Ostatně v informační vědě jsou to koneckonců vždy nakonec čísla. Vedle toho máme kupříkladu hermeneutické principy, které nám říkají, že rozumět textu znamená znát otázku, na kterou text odpovídá, a vedle toho taky analytické přístupy, které řeší reference k vnějšímu světu. Odvážím si tvrdit, že se zde skutečně rodí přístup, který nějakým způsobem změní naše chápání toho, co znamená rozumět nějakému problému.
Právníci jako ohrožený druh
Už jsme se bavili o tom, jaká povolání umělá inteligence ovlivní, a odjakživa se zdálo, že stroje nahradí lidi v manuální práci. Nástroj jako ChatGPT ale podle některých ohlasů ukazuje, že to budou možná kreativní profese, které stroje brzy doženou. Jakým způsobem podle vás zasáhne například žurnalistiku, kterou jste před chvílí zmiňoval?
To se dá těžko říct plošně. Pokud budeme mluvit o celkovém mediálním byznysu, může zautomatizovat spoustu psaní, například psaní o sportovních výsledcích nebo o burze. To jsou mimochodem experimenty, které se u nás v Česku už dělaly před lety, věnoval se tomu třeba tým Václava Moravce a zkoumali to i na ČVUT. Řekl bych, že to v nás novinářích vzbudí tendenci se spíše strukturovaně soustředit na fakta a využívat sílu toho formulačního systému. Třeba "Napiš mi zprávu o tom, že na tomto místě vznikla nelegální skládka. Důležité body jsou, komu ta skládka patří, byl při tom porušen ten a ten zákon…" Pravděpodobné taky je, že nás to naučí od sebe více odlišovat fakticitu od rétorického tahu. Pomůže nám ve formulačních věcech, GPT-3 má obrovskou šanci pomáhat při editování. Nikoliv fakticity, ale při vyškrtávání "vaty" okolo.
Věc, kterou však umělá inteligence nenahradí a bude mít lidskou hodnotu, jsou reportáže i rozhovory. Takže kde jsou lidské výkony napojeny na empirickou fázi, na prožitek, tam nebude mít takový vliv.
Neznamenalo by to ale taky produkování více zpráv a obsahu obecně?
To není tak jednoduché. Naše pozornost je omezená. My sice můžeme produkovat více textů, ale neprodukujeme více času pro to, aby je lidé mohli číst. Zároveň jsem zvyklí si texty spojovat s autory. Může díky tomu vzrůst autorita osob, které texty píšou. Nebyl bych v tomto ohledu pesimista.
Myslím si, že produkování obsahu, kdy vydavatelé generují text pouze za účelem zisku, navíc bez jakéhokoliv přesahu, není novinařina. A nemyslím si, že producenti obsahu nakonec porazí novináře, kteří přinášejí ověřené informace tak, aby se lidé mohli sami rozhodnout. Role hlídacího psa demokracie je neřešitelná umělou inteligencí, protože umělá inteligence v tom stavu, jak ji dnes vidíme, pouze ví, jak má text pokračovat, neví nic o reálném světě.
Tak to mám radost, že snad budu ušetřen. Kdo se ale potom stane "ohroženým druhem"?
Obávám se, že právníci. Umělá inteligence podle mě bude v budoucnu schopna psát smlouvy, číst je a upozorňovat na problémy. Advokáti budou k soudům chodit, ale právníkům jejich pozici nezávidím.
Ohlasy taky vzbudil nástroj Midjourney, ve kterém umělá inteligence vytváří umělecká díla, potažmo fotky, na základě zadaných klíčových slov. Jak tenhle nástroj změní pohled na to, co je či není umění?
Myslím si, že lidem je odjakživa ukradené, co si teoretici myslí o tom, co je nebo není umění. Z pohledu běžného člověka je otázka, zdali obrázek nakreslila umělá inteligence nebo člověk, už nerelevantní, není vůbec podstatná.
Druhý pohled je ale náš vztah k uměleckému světu, kdy pro řadu lidí k uměleckému artefaktu patří i jeho autor, jeho život, názory a aura, která dílo obklopuje. Pro lidi, pro které je součástí toho, co vnímají jako umění, i tato zmíněná dimenze, bude umělá inteligence vždy něco jako umělé sladidlo.
Jako nějaká náhražka?
Ano. Chutná to stejně, ale není to ten pravý cukr. Pak je tady i otázka, která zajímá teoretiky a umělce: Budeme akceptovat v "outworldu", jak se říká ve světě umění, počítačem vytvořená umělecká díla coby jeho akceptovanou součást? A jaké to případně bude mít dopady? Diskutuje se taky o autorských právech na styl. Midjourney dnes totiž umí nakreslit obraz v něčím stylu, třeba Jana Švankmajera. Blbé je, že využívání tohoto nástroje nejspíše převálcuje etické aspekty.
