Odborník: Zničí roboti lidstvo? Nikdo zatím nevymyslel, jak mít inteligentní stroje pod kontrolou

Zuzana Mocková Zuzana Mocková
Aktualizováno 23. 11. 2015 19:14
Profesor Jiří Wiedermann z Ústavu informatiky Akademie věd je věčným optimistou. Nevěří ani scénáři, že vládu nad světem převezmou roboti. Přesto připouští, že jednou lidé mohou opravdu vyvinout super inteligenci, která překoná tu lidskou. "Nikdo zatím nevymyslel, jak mít takovou inteligenci plně pod kontrolou. Za předpokladu, že super inteligence předčí tu lidskou, může opravdu nastat to, že stroje dojdou k závěru zbavit se lidí," říká Wiedermann.
Čeká nás vzpoura strojů jako ve filmu Terminátor?
Čeká nás vzpoura strojů jako ve filmu Terminátor? | Foto: Bontonfilm

Aktuálně.cz: Stephen Hawking varoval, že umělá inteligence překoná tu lidskou a takříkajíc nás zničí. Z jaké předpovědi technického vývoje tento vědec vychází?

Jiří Wiedermann: V biblické knize Kazatel se praví něco přibližně v následujícím smyslu: "Co se dálo, bude se dít zase, a co se dělalo, bude se znovu dělat; pod sluncem není nic nového." To je předpoklad skoro nulového vývoje, a to platilo v dlouhých obdobích lidské civilizace. Když se ale podíváme na velké časové úseky, tak pozorujeme, že nějaký pokrok, čímž se rozumí suma lidských vědomostí o světě, přeci jen existuje. Zejména v našem tisíciletí začíná být viditelný.

Platí tedy, že zítra budeme možná vědět to samé jako včera, ale neplatí, že za deset let budeme vědět stejně jako před 10 lety. Budeme vědět daleko víc. Otázkou je, o kolik víc, anebo dokonce kolikrát víc. Jak rychle naše vědomosti porostou. Vědci typu Stephena Hawkinga věří v exponenciální pokrok, což znamená, že by naše znalosti měly růst geometrickou řadou.

A.cz: Vy ale nevěříte rychlému technickému pokroku.

Věřím předpokladu rychlého vzestupu v různých oblastech lidské činnosti, například v počítačových technologiích. Zrovna oblast umělé inteligence má ale tu vlastnost, že složitost řešení problémů roste s jejich rozsahem rychleji než naše schopnost tyto problémy řešit. Pokrok tedy bude velký, ale vývoj v oblasti umělé inteligence nebude úměrný všeobecnému pokroku. Pokud tedy vůbec nastane, že AI (umělá inteligence, pozn. red.) bude schopna soutěžit s lidskou inteligencí, pak ji nepředčí kvalitativně a její další rozvoj bude pouze kvantitativní. Taková inteligence bude mít daleko více znalostí a bude schopna je o mnoho rychleji využívat nežli lidé.

A.cz: Jaký scénář by musel nastat, aby umělá inteligence převzala kontrolu nad světem?

Jak říkal Čapek, musela by mít schopnost se vymknout z lidských rukou, to znamená schopnost se sebemodifikovat a měnit své cíle. S postupem času by přestala být taková, jakou jsme ji vyrobili. Aby to učinila, musela by usoudit, že je to pro ni z nějakého hlediska přínosné.

V literatuře se uvádí hypotetický případ superinteligentního šachového programu, kterému by se zadal příkaz, aby se stal nejlepší ve hraní šachů, a žádná další omezení. Začne porážet soupeře, ale zůstane pár velmistrů, na které nemá. Proto bude shánět literaturu, kde by se dočetl, jak se ještě zlepšit. Najde si ji na internetu, nebo zjistí, že je dostupná v antikvariátech. Tam nemá přístup, proto podá inzeráty, aby ji pro něj obstarali lidé. Zjistí, že nemá peníze, a v souladu se svým cílem se rozhodne nabourat se do internetového bankovnictví a krást.

Nakonec tu zbývá už jen jeden dobrý šachista, který stále vyhrává, a kdyby nebyl, dosáhl by program svého cíle a byl by nejlepší v hraní šachů. Proto se ho bude snažit eliminovat, k čemuž má různé prostředky. Může si najmout vraha, nebo způsobí, že spadne letadlo, ve kterém šachista letí. Pořád to ale bude v souladu se zadaným cílem.

A.cz: Pořád mi ale přijde, že strojům dává mantinely člověk. Opravdu jsou reálné sci-fi příběhy, kdy stroje vyhubí lidstvo?

V tomto případu člověk šachovému programu žádné mantinely nedal a v tom je právě ten problém. Nikdo zatím nevymyslel, jak mít super inteligenci plně pod kontrolou. Za předpokladu, že super inteligence předčí tu lidskou, může opravdu nastat to, že stroje dojdou k závěru se lidí zbavit. Roboti budou potřebovat co nejvíce zdrojů, které jim ale budou odčerpávat právě lidé. Pokud budou ovládat elektrárny, továrny a armádu robotů, lidé už pro ně nebudou zapotřebí. Zatím nevíme, jak sestrojit umělou inteligenci srovnatelnou s lidskou tak, aby si nemodifikovala cíle proti vůli lidí a využívala své možnosti jenom v zájmu humanity.

Robot není nebezpečný, jen člověk ho zatím neumí naprogramovat tak, aby nebezpečný nebyl.

A.cz: I přes takto hypotetický scénář nevěříte, že nám jednou budou vládnout stroje. Jistý dopad zběsilého technologického vývoje je ale nepopiratelný.

Ano, i dnes má umělá inteligence dopady, ale převážně pozitivní. Využíváme chytré mobilní telefony, robotické vysavače nebo systémy pro řízení letového provozu. Existuje i skrytá stránka v podobě sledování tajných dat pro organizovaný zločin. Každá technologie se dá využít i zneužít.

Myslím si, že do doby, kdy dosáhneme umělé super inteligence, pochopíme principy a budeme vědět, jak ji ovládat. Naštěstí to nebude příliš brzy a bude to tak komplikované, že se do toho nebude moci pustit každý. Nepředstavujte si zlého Dr. No, protože tohle by jedinec nezvládl. Muselo by se jednat o velkou, velmi dobře organizovanou skupinu vynikajících odborníků s obrovskými technologickými možnostmi.

A.cz: V Techmanii Science Center v Plzni programují malého roztomilého robota modelu Asimo. Přesto varují, aby se k němu lidé nepřibližovali, protože může být nebezpečný... 

To je, jako kdybyste říkala o noži, že je nebezpečný. Pokud s ním zacházíte nesprávně, tak ano, je nebezpečný. Robot není nebezpečný, jen člověk ho zatím neumí naprogramovat tak, aby nebezpečný nebyl.

A.cz: Pokud tedy začne stroj ohrožovat člověka, bude to bez emocí a jen za účelem splnění nějakého úkolu? Takže tu nemůže být vůbec řeč o nějaké duši?

Pokud bychom tomu, co dělá člověka člověkem – vědění, vědomí, myšlení, vůle, vzpomínky –, říkali duše, potom toho půjde dosáhnout ve smyslu aproximace. Nebude to možná to samé, ale ve většině případů to bude nerozlišitelné.

Pokud dokážeme sestrojit systém, který vládne lidskou inteligencí, budeme se s ním moci normálně bavit jako já tady teď s vámi. Bude mít vědomosti o světě, se kterým přišel do kontaktu. Bude to programový systém a data, která se budou dát přenášet z počítače na počítač. Tím pádem mohou vznikat klony, které budou dále žít vlastním životem.

Uživatelsky jednoduchý nástroj britského fyzika Stephena Wolframa neumí nic méně než z fotky poznat, co nebo kdo na ní je. Často se mýlí, ale chyby mají lidský šmrnc, tvrdí v Sítích Miloš Čermák.
4:44
Uživatelsky jednoduchý nástroj britského fyzika Stephena Wolframa neumí nic méně než z fotky poznat, co nebo kdo na ní je. Často se mýlí, ale chyby mají lidský šmrnc, tvrdí v Sítích Miloš Čermák. | Video: Miloš Čermák

A.cz: Když to zjednoduším, tak říkáte, že super inteligence nebude svébytnou entitou, protože sama o sobě postrádá lidskou duši. Bude možné vytvořit takovou formu umělé inteligence, která se bude skládat z technologie a lidské duše?

Zjednodušeně řečeno. Něco jako duše v robotech bude, říkáme tomu systém obecné umělé inteligence (AGI = artificial general intelligence). Je to software, na základě kterého budou roboti schopni myslet a provádět fyzické akce ve skutečném světě podobně jako lidé. Zárodky toho vidíme už dnes. Je to právě robot Asimo, o kterém jste mluvila. Je hloupoučký, protože je nedostatečně naprogramovaný, ale je to začátek.

A.cz: Je vůbec něco, čeho se na budoucnosti bojíte?

Jsem nezlomný optimista. Bát se v souvislosti daleké budoucnosti, o které máme jen mlhavé představy, ztrácí význam. V dohledné době v řádech desetiletí se nebojím, že by umělá inteligence páchala nějaké globální zlo. Co bude dál, na to má fantazie nestačí.

Vždy když jsme byli na prahu nějakého velkého objevu, lidstvo se bálo. Jako v případě jaderné energie. To přešlo a lidstvo se bálo něčeho jiného. Spíše bych měl strach z našeho zpohodlnění, pokud se podaří dosáhnout umělé super inteligence a bude mírumilovná. Bude nás hladit po hlavě a říkat – sedni si, my se postaráme, užívej si.

Lidstvo pak intelektuálně zleniví. Kdyby se pak všechno z nějakých důvodů pokazilo, my už nebudeme schopni začít na stejné úrovni, v jaké jsme byli v době před umělou inteligencí. To je dobrý námět na sci-fi, ale nedobrý scénář pro lidstvo.

 

Právě se děje

před 2 hodinami

Marcon chce posílit vztahy s Bidenovou Amerikou. Prezidenti chtějí spolupracovat v rámci WHO

Nový americký prezident Joe Biden v neděli poprvé od nástupu do funkce mluvil se svým francouzským protějškem Emmanuelem Macronem a vyjádřil touhu po upevnění vzájemných vztahů obou zemí, uvedl Bílý dům. Podle Macrona měli oba vůdci velmi blízké názory, a to zejména co se týče přístupu k mezinárodním problémům, jakými je například boj s pandemií či klimatickými změnami, uvedl Elysejský palác.

Prezidenti se shodli na nutnosti spolupracovat v oblasti globálního veřejného zdraví v rámci Světové zdravotnické organizace (WHO). Z té USA vyvedl předchozí prezident Donald Trump, Biden však hned po nástupu do funkce nařídil, aby se k ní Spojené státy vrátily. Stejně tak tomu bylo i u pařížské klimatické dohody z roku 2015.

Zdroj: ČTK
před 2 hodinami

Koulař Crouser vylepšil 32 let starý halový světový rekord

Americký koulař Ryan Crouser vytvořil na mítinku ve Fayetteville světový halový rekord. Osmadvacetiletý olympijský vítěz z Ria de Janeiro předčil pokusem 22,82 metru o šestnáct centimetrů výkon krajana Randyho Barnese, který se v čele historických tabulek držel 32 let.

Crouser se na devět centimetrů přiblížil svému absolutnímu maximu z loňského roku. Pod střechou měl jeho dosavadní osobní rekord hodnotu 22,60. Ve Fayetteville Barnsův výkon překonal dokonce dvakrát. Nejdál poslal kouli hned v první sérii, ve třetí ještě předvedl pokus dlouhý 22,70.

"Velmi dobrý start do roku 2021," řekl televizi ESPN Crouser. Historickým zápisem si upevnil první místo v letošních tabulkách, v nichž se za něj v sobotu zařadil výkonem 21,48 český rekordman Tomáš Staněk.

Barnes zůstává nadále absolutním světovým rekordmanem výkonem 23,12 z roku 1990. Za 23 metrů poslal 7,26 kg těžké náčiní také němec Ulf Timmermann (23,06), Crouser se výkonem 22,91 dělí o třetí místo v tabulkách s krajanem Joem Kovacsem a Italem Alessandrem Andreiem.

před 3 hodinami

Portugalský prezident de Sousa podle odhadů obhájil mandát

Portugalský prezident Marcelo Rebelo de Sousa podle odhadů obhájil mandát, hned v prvním kole dnešních voleb se mu podařilo získat přes polovinu hlasů. S odkazem na projekci veřejnoprávní televize RTP o tom informují tiskové agentury.

De Sousa, který je zástupcem pravého středu, si podle odhadů zajistil 57 až 62 procent odevzdaných hlasovacích lístků. V čele Portugalska tak bude dalších pět let.

Další zprávy