Odborník: Zničí roboti lidstvo? Nikdo zatím nevymyslel, jak mít inteligentní stroje pod kontrolou

Zuzana Mocková Zuzana Mocková
Aktualizováno 23. 11. 2015 19:14
Profesor Jiří Wiedermann z Ústavu informatiky Akademie věd je věčným optimistou. Nevěří ani scénáři, že vládu nad světem převezmou roboti. Přesto připouští, že jednou lidé mohou opravdu vyvinout super inteligenci, která překoná tu lidskou. "Nikdo zatím nevymyslel, jak mít takovou inteligenci plně pod kontrolou. Za předpokladu, že super inteligence předčí tu lidskou, může opravdu nastat to, že stroje dojdou k závěru zbavit se lidí," říká Wiedermann.
Čeká nás vzpoura strojů jako ve filmu Terminátor?
Čeká nás vzpoura strojů jako ve filmu Terminátor? | Foto: Bontonfilm

Aktuálně.cz: Stephen Hawking varoval, že umělá inteligence překoná tu lidskou a takříkajíc nás zničí. Z jaké předpovědi technického vývoje tento vědec vychází?

Jiří Wiedermann: V biblické knize Kazatel se praví něco přibližně v následujícím smyslu: "Co se dálo, bude se dít zase, a co se dělalo, bude se znovu dělat; pod sluncem není nic nového." To je předpoklad skoro nulového vývoje, a to platilo v dlouhých obdobích lidské civilizace. Když se ale podíváme na velké časové úseky, tak pozorujeme, že nějaký pokrok, čímž se rozumí suma lidských vědomostí o světě, přeci jen existuje. Zejména v našem tisíciletí začíná být viditelný.

Platí tedy, že zítra budeme možná vědět to samé jako včera, ale neplatí, že za deset let budeme vědět stejně jako před 10 lety. Budeme vědět daleko víc. Otázkou je, o kolik víc, anebo dokonce kolikrát víc. Jak rychle naše vědomosti porostou. Vědci typu Stephena Hawkinga věří v exponenciální pokrok, což znamená, že by naše znalosti měly růst geometrickou řadou.

A.cz: Vy ale nevěříte rychlému technickému pokroku.

Věřím předpokladu rychlého vzestupu v různých oblastech lidské činnosti, například v počítačových technologiích. Zrovna oblast umělé inteligence má ale tu vlastnost, že složitost řešení problémů roste s jejich rozsahem rychleji než naše schopnost tyto problémy řešit. Pokrok tedy bude velký, ale vývoj v oblasti umělé inteligence nebude úměrný všeobecnému pokroku. Pokud tedy vůbec nastane, že AI (umělá inteligence, pozn. red.) bude schopna soutěžit s lidskou inteligencí, pak ji nepředčí kvalitativně a její další rozvoj bude pouze kvantitativní. Taková inteligence bude mít daleko více znalostí a bude schopna je o mnoho rychleji využívat nežli lidé.

A.cz: Jaký scénář by musel nastat, aby umělá inteligence převzala kontrolu nad světem?

Jak říkal Čapek, musela by mít schopnost se vymknout z lidských rukou, to znamená schopnost se sebemodifikovat a měnit své cíle. S postupem času by přestala být taková, jakou jsme ji vyrobili. Aby to učinila, musela by usoudit, že je to pro ni z nějakého hlediska přínosné.

V literatuře se uvádí hypotetický případ superinteligentního šachového programu, kterému by se zadal příkaz, aby se stal nejlepší ve hraní šachů, a žádná další omezení. Začne porážet soupeře, ale zůstane pár velmistrů, na které nemá. Proto bude shánět literaturu, kde by se dočetl, jak se ještě zlepšit. Najde si ji na internetu, nebo zjistí, že je dostupná v antikvariátech. Tam nemá přístup, proto podá inzeráty, aby ji pro něj obstarali lidé. Zjistí, že nemá peníze, a v souladu se svým cílem se rozhodne nabourat se do internetového bankovnictví a krást.

Nakonec tu zbývá už jen jeden dobrý šachista, který stále vyhrává, a kdyby nebyl, dosáhl by program svého cíle a byl by nejlepší v hraní šachů. Proto se ho bude snažit eliminovat, k čemuž má různé prostředky. Může si najmout vraha, nebo způsobí, že spadne letadlo, ve kterém šachista letí. Pořád to ale bude v souladu se zadaným cílem.

A.cz: Pořád mi ale přijde, že strojům dává mantinely člověk. Opravdu jsou reálné sci-fi příběhy, kdy stroje vyhubí lidstvo?

V tomto případu člověk šachovému programu žádné mantinely nedal a v tom je právě ten problém. Nikdo zatím nevymyslel, jak mít super inteligenci plně pod kontrolou. Za předpokladu, že super inteligence předčí tu lidskou, může opravdu nastat to, že stroje dojdou k závěru se lidí zbavit. Roboti budou potřebovat co nejvíce zdrojů, které jim ale budou odčerpávat právě lidé. Pokud budou ovládat elektrárny, továrny a armádu robotů, lidé už pro ně nebudou zapotřebí. Zatím nevíme, jak sestrojit umělou inteligenci srovnatelnou s lidskou tak, aby si nemodifikovala cíle proti vůli lidí a využívala své možnosti jenom v zájmu humanity.

Robot není nebezpečný, jen člověk ho zatím neumí naprogramovat tak, aby nebezpečný nebyl.

A.cz: I přes takto hypotetický scénář nevěříte, že nám jednou budou vládnout stroje. Jistý dopad zběsilého technologického vývoje je ale nepopiratelný.

Ano, i dnes má umělá inteligence dopady, ale převážně pozitivní. Využíváme chytré mobilní telefony, robotické vysavače nebo systémy pro řízení letového provozu. Existuje i skrytá stránka v podobě sledování tajných dat pro organizovaný zločin. Každá technologie se dá využít i zneužít.

Myslím si, že do doby, kdy dosáhneme umělé super inteligence, pochopíme principy a budeme vědět, jak ji ovládat. Naštěstí to nebude příliš brzy a bude to tak komplikované, že se do toho nebude moci pustit každý. Nepředstavujte si zlého Dr. No, protože tohle by jedinec nezvládl. Muselo by se jednat o velkou, velmi dobře organizovanou skupinu vynikajících odborníků s obrovskými technologickými možnostmi.

A.cz: V Techmanii Science Center v Plzni programují malého roztomilého robota modelu Asimo. Přesto varují, aby se k němu lidé nepřibližovali, protože může být nebezpečný... 

To je, jako kdybyste říkala o noži, že je nebezpečný. Pokud s ním zacházíte nesprávně, tak ano, je nebezpečný. Robot není nebezpečný, jen člověk ho zatím neumí naprogramovat tak, aby nebezpečný nebyl.

A.cz: Pokud tedy začne stroj ohrožovat člověka, bude to bez emocí a jen za účelem splnění nějakého úkolu? Takže tu nemůže být vůbec řeč o nějaké duši?

Pokud bychom tomu, co dělá člověka člověkem – vědění, vědomí, myšlení, vůle, vzpomínky –, říkali duše, potom toho půjde dosáhnout ve smyslu aproximace. Nebude to možná to samé, ale ve většině případů to bude nerozlišitelné.

Pokud dokážeme sestrojit systém, který vládne lidskou inteligencí, budeme se s ním moci normálně bavit jako já tady teď s vámi. Bude mít vědomosti o světě, se kterým přišel do kontaktu. Bude to programový systém a data, která se budou dát přenášet z počítače na počítač. Tím pádem mohou vznikat klony, které budou dále žít vlastním životem.

Uživatelsky jednoduchý nástroj britského fyzika Stephena Wolframa neumí nic méně než z fotky poznat, co nebo kdo na ní je. Často se mýlí, ale chyby mají lidský šmrnc, tvrdí v Sítích Miloš Čermák.
4:44
Uživatelsky jednoduchý nástroj britského fyzika Stephena Wolframa neumí nic méně než z fotky poznat, co nebo kdo na ní je. Často se mýlí, ale chyby mají lidský šmrnc, tvrdí v Sítích Miloš Čermák. | Video: Miloš Čermák

A.cz: Když to zjednoduším, tak říkáte, že super inteligence nebude svébytnou entitou, protože sama o sobě postrádá lidskou duši. Bude možné vytvořit takovou formu umělé inteligence, která se bude skládat z technologie a lidské duše?

Zjednodušeně řečeno. Něco jako duše v robotech bude, říkáme tomu systém obecné umělé inteligence (AGI = artificial general intelligence). Je to software, na základě kterého budou roboti schopni myslet a provádět fyzické akce ve skutečném světě podobně jako lidé. Zárodky toho vidíme už dnes. Je to právě robot Asimo, o kterém jste mluvila. Je hloupoučký, protože je nedostatečně naprogramovaný, ale je to začátek.

A.cz: Je vůbec něco, čeho se na budoucnosti bojíte?

Jsem nezlomný optimista. Bát se v souvislosti daleké budoucnosti, o které máme jen mlhavé představy, ztrácí význam. V dohledné době v řádech desetiletí se nebojím, že by umělá inteligence páchala nějaké globální zlo. Co bude dál, na to má fantazie nestačí.

Vždy když jsme byli na prahu nějakého velkého objevu, lidstvo se bálo. Jako v případě jaderné energie. To přešlo a lidstvo se bálo něčeho jiného. Spíše bych měl strach z našeho zpohodlnění, pokud se podaří dosáhnout umělé super inteligence a bude mírumilovná. Bude nás hladit po hlavě a říkat – sedni si, my se postaráme, užívej si.

Lidstvo pak intelektuálně zleniví. Kdyby se pak všechno z nějakých důvodů pokazilo, my už nebudeme schopni začít na stejné úrovni, v jaké jsme byli v době před umělou inteligencí. To je dobrý námět na sci-fi, ale nedobrý scénář pro lidstvo.

 

Právě se děje

před 18 minutami

Linka pražského metra A mezi Želivského a Depo Hostivař stojí

Provoz metra na lince A mezi stanicemi Želivského a Depo Hostivař se v pondělí brzo ráno zastavil kvůli střetu soupravy s člověkem. Cestující mají v tomto úseku využít povrchovou dopravu. Pražský dopravní podnik kvůli tomu upravil linky některých tramvají a autobusů, vyplývá z informací na jeho webu.

Tramvajová linka 7 je prodloužena do zastávky Ústřední dílny DP, Linka 13 je ve směru z centra odkloněna od Vozovny Strašnice na Strašnickou a Nádraží Strašnice. Autobusové linky končící v zastávkách Skalka a Depo Hostivař jezdí až do zastávky Strašnická, linky 163, 208 a 223 jsou ze zastávky Depo Hostivař prodlouženy na Želivského.

před 40 minutami

Během protestů kvůli dražším jízdenkám v Chile zemřelo už osm lidí. V pěti regionech platí zákaz vycházení a vláda nasadila armádu

Protivládní protesty v Chile, které vypukly minulý týden kvůli zdražení jízdného v metru v Santiagu de Chile, mají podle místních médií už osm obětí. Dalších šest desítek osob bylo při nich zraněno a přes sedm set lidí policie kvůli násilnostem zadržela. Kvůli protestům označovaným za nejhorší v historii Chile od roku 1990 byl vyhlášen výjimečný stav už v pěti regionech, zákaz vycházení platil v noci na dnešek kromě metropole i ve městech Valparaíso, Concepción a Coquimbo.

Největší nepokoje, kvůli nimž vláda do ulic poprvé od konce vlády diktátora Augusta Pinocheta v roce 1990 nasadila vojáky, zažívá od pátku chilské hlavní město. Radikálové tam rabují obchody, zapalují autobusy i vlaky metra. Od pátku zničili protestující více než polovinu stanic tamního metra, které denně obvykle přepraví téměř tři miliony lidí. Několik vagónu metra zcela shořelo, stejně jako dvacítka autobusů.

před 45 minutami

Australské noviny dnes vyšly s černou titulní stranou, na protest proti údajnému utajování veřejných informací

Australské deníky vyšly dnes se začerněným textem na titulních stránkách, v jejichž rohu je červené razítko tajné. Podle BBC tak chtějí novináři upozornit na omezování přístupu k informacím, jehož se podle nich australské úřady úřady dopouštějí. Ke kampani se připojily podle BBC i některá rádia a televizní stanice.

Australští novináři si už delší dobu stěžují, že přísné bezpečnostní zákony přijaté v posledních několika letech ohrožují investigativní žurnalistiku a brání právu veřejnosti na informace. Kritizují také to, že nové zákony kriminalizují novináře jednající ve veřejném zájmu a whistleblowery (jedince poukazující na nesrovnalosti uvnitř úřadů, jež jdou proti veřejnému zájmu).

Další zprávy