Odborník: Zničí roboti lidstvo? Nikdo zatím nevymyslel, jak mít inteligentní stroje pod kontrolou

Zuzana Mocková Zuzana Mocková
Aktualizováno 23. 11. 2015 19:14
Profesor Jiří Wiedermann z Ústavu informatiky Akademie věd je věčným optimistou. Nevěří ani scénáři, že vládu nad světem převezmou roboti. Přesto připouští, že jednou lidé mohou opravdu vyvinout super inteligenci, která překoná tu lidskou. "Nikdo zatím nevymyslel, jak mít takovou inteligenci plně pod kontrolou. Za předpokladu, že super inteligence předčí tu lidskou, může opravdu nastat to, že stroje dojdou k závěru zbavit se lidí," říká Wiedermann.
Čeká nás vzpoura strojů jako ve filmu Terminátor?
Čeká nás vzpoura strojů jako ve filmu Terminátor? | Foto: Bontonfilm

Aktuálně.cz: Stephen Hawking varoval, že umělá inteligence překoná tu lidskou a takříkajíc nás zničí. Z jaké předpovědi technického vývoje tento vědec vychází?

Jiří Wiedermann: V biblické knize Kazatel se praví něco přibližně v následujícím smyslu: "Co se dálo, bude se dít zase, a co se dělalo, bude se znovu dělat; pod sluncem není nic nového." To je předpoklad skoro nulového vývoje, a to platilo v dlouhých obdobích lidské civilizace. Když se ale podíváme na velké časové úseky, tak pozorujeme, že nějaký pokrok, čímž se rozumí suma lidských vědomostí o světě, přeci jen existuje. Zejména v našem tisíciletí začíná být viditelný.

Platí tedy, že zítra budeme možná vědět to samé jako včera, ale neplatí, že za deset let budeme vědět stejně jako před 10 lety. Budeme vědět daleko víc. Otázkou je, o kolik víc, anebo dokonce kolikrát víc. Jak rychle naše vědomosti porostou. Vědci typu Stephena Hawkinga věří v exponenciální pokrok, což znamená, že by naše znalosti měly růst geometrickou řadou.

A.cz: Vy ale nevěříte rychlému technickému pokroku.

Věřím předpokladu rychlého vzestupu v různých oblastech lidské činnosti, například v počítačových technologiích. Zrovna oblast umělé inteligence má ale tu vlastnost, že složitost řešení problémů roste s jejich rozsahem rychleji než naše schopnost tyto problémy řešit. Pokrok tedy bude velký, ale vývoj v oblasti umělé inteligence nebude úměrný všeobecnému pokroku. Pokud tedy vůbec nastane, že AI (umělá inteligence, pozn. red.) bude schopna soutěžit s lidskou inteligencí, pak ji nepředčí kvalitativně a její další rozvoj bude pouze kvantitativní. Taková inteligence bude mít daleko více znalostí a bude schopna je o mnoho rychleji využívat nežli lidé.

A.cz: Jaký scénář by musel nastat, aby umělá inteligence převzala kontrolu nad světem?

Jak říkal Čapek, musela by mít schopnost se vymknout z lidských rukou, to znamená schopnost se sebemodifikovat a měnit své cíle. S postupem času by přestala být taková, jakou jsme ji vyrobili. Aby to učinila, musela by usoudit, že je to pro ni z nějakého hlediska přínosné.

V literatuře se uvádí hypotetický případ superinteligentního šachového programu, kterému by se zadal příkaz, aby se stal nejlepší ve hraní šachů, a žádná další omezení. Začne porážet soupeře, ale zůstane pár velmistrů, na které nemá. Proto bude shánět literaturu, kde by se dočetl, jak se ještě zlepšit. Najde si ji na internetu, nebo zjistí, že je dostupná v antikvariátech. Tam nemá přístup, proto podá inzeráty, aby ji pro něj obstarali lidé. Zjistí, že nemá peníze, a v souladu se svým cílem se rozhodne nabourat se do internetového bankovnictví a krást.

Nakonec tu zbývá už jen jeden dobrý šachista, který stále vyhrává, a kdyby nebyl, dosáhl by program svého cíle a byl by nejlepší v hraní šachů. Proto se ho bude snažit eliminovat, k čemuž má různé prostředky. Může si najmout vraha, nebo způsobí, že spadne letadlo, ve kterém šachista letí. Pořád to ale bude v souladu se zadaným cílem.

A.cz: Pořád mi ale přijde, že strojům dává mantinely člověk. Opravdu jsou reálné sci-fi příběhy, kdy stroje vyhubí lidstvo?

V tomto případu člověk šachovému programu žádné mantinely nedal a v tom je právě ten problém. Nikdo zatím nevymyslel, jak mít super inteligenci plně pod kontrolou. Za předpokladu, že super inteligence předčí tu lidskou, může opravdu nastat to, že stroje dojdou k závěru se lidí zbavit. Roboti budou potřebovat co nejvíce zdrojů, které jim ale budou odčerpávat právě lidé. Pokud budou ovládat elektrárny, továrny a armádu robotů, lidé už pro ně nebudou zapotřebí. Zatím nevíme, jak sestrojit umělou inteligenci srovnatelnou s lidskou tak, aby si nemodifikovala cíle proti vůli lidí a využívala své možnosti jenom v zájmu humanity.

Robot není nebezpečný, jen člověk ho zatím neumí naprogramovat tak, aby nebezpečný nebyl.

A.cz: I přes takto hypotetický scénář nevěříte, že nám jednou budou vládnout stroje. Jistý dopad zběsilého technologického vývoje je ale nepopiratelný.

Ano, i dnes má umělá inteligence dopady, ale převážně pozitivní. Využíváme chytré mobilní telefony, robotické vysavače nebo systémy pro řízení letového provozu. Existuje i skrytá stránka v podobě sledování tajných dat pro organizovaný zločin. Každá technologie se dá využít i zneužít.

Myslím si, že do doby, kdy dosáhneme umělé super inteligence, pochopíme principy a budeme vědět, jak ji ovládat. Naštěstí to nebude příliš brzy a bude to tak komplikované, že se do toho nebude moci pustit každý. Nepředstavujte si zlého Dr. No, protože tohle by jedinec nezvládl. Muselo by se jednat o velkou, velmi dobře organizovanou skupinu vynikajících odborníků s obrovskými technologickými možnostmi.

A.cz: V Techmanii Science Center v Plzni programují malého roztomilého robota modelu Asimo. Přesto varují, aby se k němu lidé nepřibližovali, protože může být nebezpečný... 

To je, jako kdybyste říkala o noži, že je nebezpečný. Pokud s ním zacházíte nesprávně, tak ano, je nebezpečný. Robot není nebezpečný, jen člověk ho zatím neumí naprogramovat tak, aby nebezpečný nebyl.

A.cz: Pokud tedy začne stroj ohrožovat člověka, bude to bez emocí a jen za účelem splnění nějakého úkolu? Takže tu nemůže být vůbec řeč o nějaké duši?

Pokud bychom tomu, co dělá člověka člověkem – vědění, vědomí, myšlení, vůle, vzpomínky –, říkali duše, potom toho půjde dosáhnout ve smyslu aproximace. Nebude to možná to samé, ale ve většině případů to bude nerozlišitelné.

Pokud dokážeme sestrojit systém, který vládne lidskou inteligencí, budeme se s ním moci normálně bavit jako já tady teď s vámi. Bude mít vědomosti o světě, se kterým přišel do kontaktu. Bude to programový systém a data, která se budou dát přenášet z počítače na počítač. Tím pádem mohou vznikat klony, které budou dále žít vlastním životem.

Uživatelsky jednoduchý nástroj britského fyzika Stephena Wolframa neumí nic méně než z fotky poznat, co nebo kdo na ní je. Často se mýlí, ale chyby mají lidský šmrnc, tvrdí v Sítích Miloš Čermák.
4:44
Uživatelsky jednoduchý nástroj britského fyzika Stephena Wolframa neumí nic méně než z fotky poznat, co nebo kdo na ní je. Často se mýlí, ale chyby mají lidský šmrnc, tvrdí v Sítích Miloš Čermák. | Video: Miloš Čermák

A.cz: Když to zjednoduším, tak říkáte, že super inteligence nebude svébytnou entitou, protože sama o sobě postrádá lidskou duši. Bude možné vytvořit takovou formu umělé inteligence, která se bude skládat z technologie a lidské duše?

Zjednodušeně řečeno. Něco jako duše v robotech bude, říkáme tomu systém obecné umělé inteligence (AGI = artificial general intelligence). Je to software, na základě kterého budou roboti schopni myslet a provádět fyzické akce ve skutečném světě podobně jako lidé. Zárodky toho vidíme už dnes. Je to právě robot Asimo, o kterém jste mluvila. Je hloupoučký, protože je nedostatečně naprogramovaný, ale je to začátek.

A.cz: Je vůbec něco, čeho se na budoucnosti bojíte?

Jsem nezlomný optimista. Bát se v souvislosti daleké budoucnosti, o které máme jen mlhavé představy, ztrácí význam. V dohledné době v řádech desetiletí se nebojím, že by umělá inteligence páchala nějaké globální zlo. Co bude dál, na to má fantazie nestačí.

Vždy když jsme byli na prahu nějakého velkého objevu, lidstvo se bálo. Jako v případě jaderné energie. To přešlo a lidstvo se bálo něčeho jiného. Spíše bych měl strach z našeho zpohodlnění, pokud se podaří dosáhnout umělé super inteligence a bude mírumilovná. Bude nás hladit po hlavě a říkat – sedni si, my se postaráme, užívej si.

Lidstvo pak intelektuálně zleniví. Kdyby se pak všechno z nějakých důvodů pokazilo, my už nebudeme schopni začít na stejné úrovni, v jaké jsme byli v době před umělou inteligencí. To je dobrý námět na sci-fi, ale nedobrý scénář pro lidstvo.

 

Právě se děje

před 39 minutami

Macron připustil, že chápe šokující dopad karikatur, odsuzuje ale násilí

Francouzský prezident Emmanuel Macron si podle svých slov uvědomuje, že karikatury proroka Mohammeda mohou být pro někoho šokující, ale zdůrazňuje, že odsuzuje násilí. Macron poskytl v pátek rozhovor katarské televizi Al-Džazíra, která ho má odvysílat v plném znění dnes. Francouzská média z něj už zveřejnila výňatky.

Macron se v minulých dnech vyjadřoval k islámskému extremismu, jemuž připsal násilí spáchané radikály ve Francii. Jeden z nich 16. října zabil francouzského učitele, který ve výuce použil karikatury s Mohamedem. Ve čtvrtek zabil v bazilice v Nice útočník nožem tři lidi. Podezřelý je mladý Tunisan, motiv jeho činu se vyšetřuje. V těchto dnech slavili muslimové Mohamedovy narozeniny a v pátek vyšli v mnoha muslimských státech do ulic. Předmětem jejich kritiky i velké zloby byl často Macron a Francie.

Zdroj: ČTK
před 45 minutami

Millman si v Nur-Sultanu zahraje o první titul, Rubljov je letos popáté ve finále

Australský tenista John Millman bude mít na turnaji v Nur-Sultanu šanci získat první titul na ATP Tour. V nedělním vyvrcholení turnaje se střetne s Francouzem Adrianem Mannarinem, jenž bude hrát jubilejní desáté finále v kariéře.

Čtvrtý nasazený Millman postoupil do finále po dvou obratech. Ve čtvrtfinále odvrátil dva mečboly Tommymu Paulovi a dnes s jiným Američanem Francesem Tiafoem prohrál opět první set, ale zvítězil 3:6, 6:4, 6:4. O titul jednatřicetiletý Millman neúspěšně bojoval v roce 2018 v Budapešti a loni v Tokiu.

Naopak suverénní je zatím v kazašské metropoli třetí nasazený Mannarino, jenž na Astana Open ještě neztratil set. Dvaatřicetiletý Francouz v semifinále zdolal finského kvalifikanta Emila Ruusuvuoriho a zajistil si první finále v sezoně. Z devíti dosavadních zápasů o titul vyhrál Mannarino jediný loni na trávě v Hertogenboschi.

Rubljov už je v pátém finále

Ruský tenista Andrej Rubljov potvrdil výbornou formu z posledních týdnů postupem do finále halového turnaje ve Vídni. Pátý nasazený hráč v dnešním semifinále porazil vítěze z roku 2018 Kevina Andersona z JAR, který zápas za stavu 4:6, 1:4 vzdal kvůli zranění pravé nohy.

Třiadvacetiletý Rubljov bude hrát páté finále v sezoně, a pokud zvítězí, stane se nejúspěšnějším tenistou v počtu titulů na letošní ATP Tour. Jeho nedělním soupeřem ve vídeňské Stadthalle bude buď senzační čtvrtfinálový přemožitel Novaka Djokoviče Lorenzo Sonego z Itálie, nebo Brit Daniel Evans.

Moskevský rodák Rubljov z posledních 19 zápasů prohrál pouze jediný ve čtvrtfinále Roland Garros se Stefanosem Tsitsipasem. Během této úspěšné série vyhrál turnaje v Hamburku a Petrohradu, v lednu před koronavirovou pauzou triumfoval v Dauhá a Adelaide. Tento týden ve Vídni Rubljov nejenže ještě neprohrál set, ale ani jeden z 28 gamů na podání. Ve čtvrtfinále vyřadil obhájce titulu a domácího favorita Dominica Thiema.

Tenisový turnaj mužů v Nur-Sultanu (tvrdý povrch, dotace 337.000 dolarů):

Dvouhra - semifinále: Mannarino (3-Fr.) - Ruusuvuori (Fin.) 7:5, 6:2, Millman (4-Austr.) - Tiafoe (USA) 3:6, 6:4, 6:4.

Tenisový turnaj mužů ve Vídni (tvrdý povrch, dotace 1.550.950 eur):

Dvouhra - semifinále: Rubljov (5-Rus.) - Anderson (JAR) 6:4, 4:1 skreč.

Další zprávy