reklama
 
 

Odborník: Zničí roboti lidstvo? Nikdo zatím nevymyslel, jak mít inteligentní stroje pod kontrolou

AKTUALIZOVÁNO 23. 11. 2015
Profesor Jiří Wiedermann z Ústavu informatiky Akademie věd je věčným optimistou. Nevěří ani scénáři, že vládu nad světem převezmou roboti. Přesto připouští, že jednou lidé mohou opravdu vyvinout super inteligenci, která překoná tu lidskou. "Nikdo zatím nevymyslel, jak mít takovou inteligenci plně pod kontrolou. Za předpokladu, že super inteligence předčí tu lidskou, může opravdu nastat to, že stroje dojdou k závěru zbavit se lidí," říká Wiedermann.
Doporučujeme

Aktuálně.cz: Stephen Hawking varoval, že umělá inteligence překoná tu lidskou a takříkajíc nás zničí. Z jaké předpovědi technického vývoje tento vědec vychází?

Jiří Wiedermann: V biblické knize Kazatel se praví něco přibližně v následujícím smyslu: "Co se dálo, bude se dít zase, a co se dělalo, bude se znovu dělat; pod sluncem není nic nového." To je předpoklad skoro nulového vývoje, a to platilo v dlouhých obdobích lidské civilizace. Když se ale podíváme na velké časové úseky, tak pozorujeme, že nějaký pokrok, čímž se rozumí suma lidských vědomostí o světě, přeci jen existuje. Zejména v našem tisíciletí začíná být viditelný.

Platí tedy, že zítra budeme možná vědět to samé jako včera, ale neplatí, že za deset let budeme vědět stejně jako před 10 lety. Budeme vědět daleko víc. Otázkou je, o kolik víc, anebo dokonce kolikrát víc. Jak rychle naše vědomosti porostou. Vědci typu Stephena Hawkinga věří v exponenciální pokrok, což znamená, že by naše znalosti měly růst geometrickou řadou.

A.cz: Vy ale nevěříte rychlému technickému pokroku.

Věřím předpokladu rychlého vzestupu v různých oblastech lidské činnosti, například v počítačových technologiích. Zrovna oblast umělé inteligence má ale tu vlastnost, že složitost řešení problémů roste s jejich rozsahem rychleji než naše schopnost tyto problémy řešit. Pokrok tedy bude velký, ale vývoj v oblasti umělé inteligence nebude úměrný všeobecnému pokroku. Pokud tedy vůbec nastane, že AI (umělá inteligence, pozn. red.) bude schopna soutěžit s lidskou inteligencí, pak ji nepředčí kvalitativně a její další rozvoj bude pouze kvantitativní. Taková inteligence bude mít daleko více znalostí a bude schopna je o mnoho rychleji využívat nežli lidé.

A.cz: Jaký scénář by musel nastat, aby umělá inteligence převzala kontrolu nad světem?

Jak říkal Čapek, musela by mít schopnost se vymknout z lidských rukou, to znamená schopnost se sebemodifikovat a měnit své cíle. S postupem času by přestala být taková, jakou jsme ji vyrobili. Aby to učinila, musela by usoudit, že je to pro ni z nějakého hlediska přínosné.

V literatuře se uvádí hypotetický případ superinteligentního šachového programu, kterému by se zadal příkaz, aby se stal nejlepší ve hraní šachů, a žádná další omezení. Začne porážet soupeře, ale zůstane pár velmistrů, na které nemá. Proto bude shánět literaturu, kde by se dočetl, jak se ještě zlepšit. Najde si ji na internetu, nebo zjistí, že je dostupná v antikvariátech. Tam nemá přístup, proto podá inzeráty, aby ji pro něj obstarali lidé. Zjistí, že nemá peníze, a v souladu se svým cílem se rozhodne nabourat se do internetového bankovnictví a krást.

Nakonec tu zbývá už jen jeden dobrý šachista, který stále vyhrává, a kdyby nebyl, dosáhl by program svého cíle a byl by nejlepší v hraní šachů. Proto se ho bude snažit eliminovat, k čemuž má různé prostředky. Může si najmout vraha, nebo způsobí, že spadne letadlo, ve kterém šachista letí. Pořád to ale bude v souladu se zadaným cílem.

A.cz: Pořád mi ale přijde, že strojům dává mantinely člověk. Opravdu jsou reálné sci-fi příběhy, kdy stroje vyhubí lidstvo?

V tomto případu člověk šachovému programu žádné mantinely nedal a v tom je právě ten problém. Nikdo zatím nevymyslel, jak mít super inteligenci plně pod kontrolou. Za předpokladu, že super inteligence předčí tu lidskou, může opravdu nastat to, že stroje dojdou k závěru se lidí zbavit. Roboti budou potřebovat co nejvíce zdrojů, které jim ale budou odčerpávat právě lidé. Pokud budou ovládat elektrárny, továrny a armádu robotů, lidé už pro ně nebudou zapotřebí. Zatím nevíme, jak sestrojit umělou inteligenci srovnatelnou s lidskou tak, aby si nemodifikovala cíle proti vůli lidí a využívala své možnosti jenom v zájmu humanity.

Robot není nebezpečný, jen člověk ho zatím neumí naprogramovat tak, aby nebezpečný nebyl.

A.cz: I přes takto hypotetický scénář nevěříte, že nám jednou budou vládnout stroje. Jistý dopad zběsilého technologického vývoje je ale nepopiratelný.

Ano, i dnes má umělá inteligence dopady, ale převážně pozitivní. Využíváme chytré mobilní telefony, robotické vysavače nebo systémy pro řízení letového provozu. Existuje i skrytá stránka v podobě sledování tajných dat pro organizovaný zločin. Každá technologie se dá využít i zneužít.

Myslím si, že do doby, kdy dosáhneme umělé super inteligence, pochopíme principy a budeme vědět, jak ji ovládat. Naštěstí to nebude příliš brzy a bude to tak komplikované, že se do toho nebude moci pustit každý. Nepředstavujte si zlého Dr. No, protože tohle by jedinec nezvládl. Muselo by se jednat o velkou, velmi dobře organizovanou skupinu vynikajících odborníků s obrovskými technologickými možnostmi.

A.cz: V Techmanii Science Center v Plzni programují malého roztomilého robota modelu Asimo. Přesto varují, aby se k němu lidé nepřibližovali, protože může být nebezpečný... 

To je, jako kdybyste říkala o noži, že je nebezpečný. Pokud s ním zacházíte nesprávně, tak ano, je nebezpečný. Robot není nebezpečný, jen člověk ho zatím neumí naprogramovat tak, aby nebezpečný nebyl.

A.cz: Pokud tedy začne stroj ohrožovat člověka, bude to bez emocí a jen za účelem splnění nějakého úkolu? Takže tu nemůže být vůbec řeč o nějaké duši?

Pokud bychom tomu, co dělá člověka člověkem – vědění, vědomí, myšlení, vůle, vzpomínky –, říkali duše, potom toho půjde dosáhnout ve smyslu aproximace. Nebude to možná to samé, ale ve většině případů to bude nerozlišitelné.

Pokud dokážeme sestrojit systém, který vládne lidskou inteligencí, budeme se s ním moci normálně bavit jako já tady teď s vámi. Bude mít vědomosti o světě, se kterým přišel do kontaktu. Bude to programový systém a data, která se budou dát přenášet z počítače na počítač. Tím pádem mohou vznikat klony, které budou dále žít vlastním životem.

A.cz: Když to zjednoduším, tak říkáte, že super inteligence nebude svébytnou entitou, protože sama o sobě postrádá lidskou duši. Bude možné vytvořit takovou formu umělé inteligence, která se bude skládat z technologie a lidské duše?

Zjednodušeně řečeno. Něco jako duše v robotech bude, říkáme tomu systém obecné umělé inteligence (AGI = artificial general intelligence). Je to software, na základě kterého budou roboti schopni myslet a provádět fyzické akce ve skutečném světě podobně jako lidé. Zárodky toho vidíme už dnes. Je to právě robot Asimo, o kterém jste mluvila. Je hloupoučký, protože je nedostatečně naprogramovaný, ale je to začátek.

A.cz: Je vůbec něco, čeho se na budoucnosti bojíte?

Jsem nezlomný optimista. Bát se v souvislosti daleké budoucnosti, o které máme jen mlhavé představy, ztrácí význam. V dohledné době v řádech desetiletí se nebojím, že by umělá inteligence páchala nějaké globální zlo. Co bude dál, na to má fantazie nestačí.

Vždy když jsme byli na prahu nějakého velkého objevu, lidstvo se bálo. Jako v případě jaderné energie. To přešlo a lidstvo se bálo něčeho jiného. Spíše bych měl strach z našeho zpohodlnění, pokud se podaří dosáhnout umělé super inteligence a bude mírumilovná. Bude nás hladit po hlavě a říkat – sedni si, my se postaráme, užívej si.

Lidstvo pak intelektuálně zleniví. Kdyby se pak všechno z nějakých důvodů pokazilo, my už nebudeme schopni začít na stejné úrovni, v jaké jsme byli v době před umělou inteligencí. To je dobrý námět na sci-fi, ale nedobrý scénář pro lidstvo.

reklama
reklama
reklama
komerční sdělení
reklama

Sponzorované odkazy

reklama