Odborník: Zničí roboti lidstvo? Nikdo zatím nevymyslel, jak mít inteligentní stroje pod kontrolou

Zuzana Mocková Zuzana Mocková
Aktualizováno 23. 11. 2015 19:14
Profesor Jiří Wiedermann z Ústavu informatiky Akademie věd je věčným optimistou. Nevěří ani scénáři, že vládu nad světem převezmou roboti. Přesto připouští, že jednou lidé mohou opravdu vyvinout super inteligenci, která překoná tu lidskou. "Nikdo zatím nevymyslel, jak mít takovou inteligenci plně pod kontrolou. Za předpokladu, že super inteligence předčí tu lidskou, může opravdu nastat to, že stroje dojdou k závěru zbavit se lidí," říká Wiedermann.
Čeká nás vzpoura strojů jako ve filmu Terminátor?
Čeká nás vzpoura strojů jako ve filmu Terminátor? | Foto: Bontonfilm

Aktuálně.cz: Stephen Hawking varoval, že umělá inteligence překoná tu lidskou a takříkajíc nás zničí. Z jaké předpovědi technického vývoje tento vědec vychází?

Jiří Wiedermann: V biblické knize Kazatel se praví něco přibližně v následujícím smyslu: "Co se dálo, bude se dít zase, a co se dělalo, bude se znovu dělat; pod sluncem není nic nového." To je předpoklad skoro nulového vývoje, a to platilo v dlouhých obdobích lidské civilizace. Když se ale podíváme na velké časové úseky, tak pozorujeme, že nějaký pokrok, čímž se rozumí suma lidských vědomostí o světě, přeci jen existuje. Zejména v našem tisíciletí začíná být viditelný.

Platí tedy, že zítra budeme možná vědět to samé jako včera, ale neplatí, že za deset let budeme vědět stejně jako před 10 lety. Budeme vědět daleko víc. Otázkou je, o kolik víc, anebo dokonce kolikrát víc. Jak rychle naše vědomosti porostou. Vědci typu Stephena Hawkinga věří v exponenciální pokrok, což znamená, že by naše znalosti měly růst geometrickou řadou.

A.cz: Vy ale nevěříte rychlému technickému pokroku.

Věřím předpokladu rychlého vzestupu v různých oblastech lidské činnosti, například v počítačových technologiích. Zrovna oblast umělé inteligence má ale tu vlastnost, že složitost řešení problémů roste s jejich rozsahem rychleji než naše schopnost tyto problémy řešit. Pokrok tedy bude velký, ale vývoj v oblasti umělé inteligence nebude úměrný všeobecnému pokroku. Pokud tedy vůbec nastane, že AI (umělá inteligence, pozn. red.) bude schopna soutěžit s lidskou inteligencí, pak ji nepředčí kvalitativně a její další rozvoj bude pouze kvantitativní. Taková inteligence bude mít daleko více znalostí a bude schopna je o mnoho rychleji využívat nežli lidé.

A.cz: Jaký scénář by musel nastat, aby umělá inteligence převzala kontrolu nad světem?

Jak říkal Čapek, musela by mít schopnost se vymknout z lidských rukou, to znamená schopnost se sebemodifikovat a měnit své cíle. S postupem času by přestala být taková, jakou jsme ji vyrobili. Aby to učinila, musela by usoudit, že je to pro ni z nějakého hlediska přínosné.

V literatuře se uvádí hypotetický případ superinteligentního šachového programu, kterému by se zadal příkaz, aby se stal nejlepší ve hraní šachů, a žádná další omezení. Začne porážet soupeře, ale zůstane pár velmistrů, na které nemá. Proto bude shánět literaturu, kde by se dočetl, jak se ještě zlepšit. Najde si ji na internetu, nebo zjistí, že je dostupná v antikvariátech. Tam nemá přístup, proto podá inzeráty, aby ji pro něj obstarali lidé. Zjistí, že nemá peníze, a v souladu se svým cílem se rozhodne nabourat se do internetového bankovnictví a krást.

Nakonec tu zbývá už jen jeden dobrý šachista, který stále vyhrává, a kdyby nebyl, dosáhl by program svého cíle a byl by nejlepší v hraní šachů. Proto se ho bude snažit eliminovat, k čemuž má různé prostředky. Může si najmout vraha, nebo způsobí, že spadne letadlo, ve kterém šachista letí. Pořád to ale bude v souladu se zadaným cílem.

A.cz: Pořád mi ale přijde, že strojům dává mantinely člověk. Opravdu jsou reálné sci-fi příběhy, kdy stroje vyhubí lidstvo?

V tomto případu člověk šachovému programu žádné mantinely nedal a v tom je právě ten problém. Nikdo zatím nevymyslel, jak mít super inteligenci plně pod kontrolou. Za předpokladu, že super inteligence předčí tu lidskou, může opravdu nastat to, že stroje dojdou k závěru se lidí zbavit. Roboti budou potřebovat co nejvíce zdrojů, které jim ale budou odčerpávat právě lidé. Pokud budou ovládat elektrárny, továrny a armádu robotů, lidé už pro ně nebudou zapotřebí. Zatím nevíme, jak sestrojit umělou inteligenci srovnatelnou s lidskou tak, aby si nemodifikovala cíle proti vůli lidí a využívala své možnosti jenom v zájmu humanity.

Robot není nebezpečný, jen člověk ho zatím neumí naprogramovat tak, aby nebezpečný nebyl.

A.cz: I přes takto hypotetický scénář nevěříte, že nám jednou budou vládnout stroje. Jistý dopad zběsilého technologického vývoje je ale nepopiratelný.

Ano, i dnes má umělá inteligence dopady, ale převážně pozitivní. Využíváme chytré mobilní telefony, robotické vysavače nebo systémy pro řízení letového provozu. Existuje i skrytá stránka v podobě sledování tajných dat pro organizovaný zločin. Každá technologie se dá využít i zneužít.

Myslím si, že do doby, kdy dosáhneme umělé super inteligence, pochopíme principy a budeme vědět, jak ji ovládat. Naštěstí to nebude příliš brzy a bude to tak komplikované, že se do toho nebude moci pustit každý. Nepředstavujte si zlého Dr. No, protože tohle by jedinec nezvládl. Muselo by se jednat o velkou, velmi dobře organizovanou skupinu vynikajících odborníků s obrovskými technologickými možnostmi.

A.cz: V Techmanii Science Center v Plzni programují malého roztomilého robota modelu Asimo. Přesto varují, aby se k němu lidé nepřibližovali, protože může být nebezpečný... 

To je, jako kdybyste říkala o noži, že je nebezpečný. Pokud s ním zacházíte nesprávně, tak ano, je nebezpečný. Robot není nebezpečný, jen člověk ho zatím neumí naprogramovat tak, aby nebezpečný nebyl.

A.cz: Pokud tedy začne stroj ohrožovat člověka, bude to bez emocí a jen za účelem splnění nějakého úkolu? Takže tu nemůže být vůbec řeč o nějaké duši?

Pokud bychom tomu, co dělá člověka člověkem – vědění, vědomí, myšlení, vůle, vzpomínky –, říkali duše, potom toho půjde dosáhnout ve smyslu aproximace. Nebude to možná to samé, ale ve většině případů to bude nerozlišitelné.

Pokud dokážeme sestrojit systém, který vládne lidskou inteligencí, budeme se s ním moci normálně bavit jako já tady teď s vámi. Bude mít vědomosti o světě, se kterým přišel do kontaktu. Bude to programový systém a data, která se budou dát přenášet z počítače na počítač. Tím pádem mohou vznikat klony, které budou dále žít vlastním životem.

Uživatelsky jednoduchý nástroj britského fyzika Stephena Wolframa neumí nic méně než z fotky poznat, co nebo kdo na ní je. Často se mýlí, ale chyby mají lidský šmrnc, tvrdí v Sítích Miloš Čermák.
4:44
Uživatelsky jednoduchý nástroj britského fyzika Stephena Wolframa neumí nic méně než z fotky poznat, co nebo kdo na ní je. Často se mýlí, ale chyby mají lidský šmrnc, tvrdí v Sítích Miloš Čermák. | Video: Miloš Čermák

A.cz: Když to zjednoduším, tak říkáte, že super inteligence nebude svébytnou entitou, protože sama o sobě postrádá lidskou duši. Bude možné vytvořit takovou formu umělé inteligence, která se bude skládat z technologie a lidské duše?

Zjednodušeně řečeno. Něco jako duše v robotech bude, říkáme tomu systém obecné umělé inteligence (AGI = artificial general intelligence). Je to software, na základě kterého budou roboti schopni myslet a provádět fyzické akce ve skutečném světě podobně jako lidé. Zárodky toho vidíme už dnes. Je to právě robot Asimo, o kterém jste mluvila. Je hloupoučký, protože je nedostatečně naprogramovaný, ale je to začátek.

A.cz: Je vůbec něco, čeho se na budoucnosti bojíte?

Jsem nezlomný optimista. Bát se v souvislosti daleké budoucnosti, o které máme jen mlhavé představy, ztrácí význam. V dohledné době v řádech desetiletí se nebojím, že by umělá inteligence páchala nějaké globální zlo. Co bude dál, na to má fantazie nestačí.

Vždy když jsme byli na prahu nějakého velkého objevu, lidstvo se bálo. Jako v případě jaderné energie. To přešlo a lidstvo se bálo něčeho jiného. Spíše bych měl strach z našeho zpohodlnění, pokud se podaří dosáhnout umělé super inteligence a bude mírumilovná. Bude nás hladit po hlavě a říkat – sedni si, my se postaráme, užívej si.

Lidstvo pak intelektuálně zleniví. Kdyby se pak všechno z nějakých důvodů pokazilo, my už nebudeme schopni začít na stejné úrovni, v jaké jsme byli v době před umělou inteligencí. To je dobrý námět na sci-fi, ale nedobrý scénář pro lidstvo.

 

Pokud jste v článku zaznamenali chybu nebo překlep, dejte nám, prosím, vědět prostřednictvím kontaktního formuláře. Děkujeme!

Právě se děje

před 4 minutami

Pravidla pro používání bezpilotních letadel Senát zpřísnil podle norem EU

Pravidla pro používání bezpilotních letadel se zpřísní podle předpisů EU. Jejich piloti budou potřebovat osvědčení, které by měli získat po absolvování výuky a zkoušek. Regulace se bude týkat hlavně provozovatelů dronů. Počítá s tím vládní novela o civilním letectví, kterou dnes schválil Senát v podobě přijaté Sněmovnou. Novelu nyní dostane k podpisu prezident.

Sněmovna se souhlasem ministerstva dopravy v předloze zmírnila podmínky zákona pro provozování bezpilotních systémů prostřednictvím spolků. Nová pravidla neměla být likvidační ani pro aktivity leteckých modelářů. Novela má zpřesnit povinnost pojistit se proti škodám způsobeným provozem bezpilotních letounů.

Novela navazuje na povinnost provozovatelů i pilotů dronů registrovat se od konce předloňského roku u Úřadu pro civilní letectví (ÚCL). Používané drony i jejich provoz se podle novely nově budou rozdělovat do tří kategorií: otevřené, specifické a certifikované. Liší se účelem, hmotností a vybavením. Podle toho se liší i míra regulace a požadavky pro jejich provozovatele a piloty.

Otevřená je základní kategorie provozu, která umožní provozovat dron i bez předchozího povolení úřadu, jakkoli s řadou omezení a požadavků. Mezi nimi je například absolvování on-line výuky a následně zkoušky, po které pilot dostane k řízení osvědčení od úřadu.

Specifická kategorie umožní, po posouzení ÚCL, provoz těm, kteří potřebují překročit některý z limitů otevřené kategorie. Letečtí modeláři by podle novely měli spadat do této kategorie, pokud by působili v klubech a sdruženích leteckých modelářů. Svaz modelářů má asi 15.000 členů. Nejpřísnější certifikovaná kategorie je zamýšlená spíše pro sofistikovaný provoz do budoucna.

Zdroj: ČTK
před 15 minutami

Tarify bezpečnostních sborů se zvednou o deset a sedmnáct procent

Příslušníkům bezpečnostních sborů by se měly v příštím roce zvednout tarify neboli základy výdělku o desetinu, u prvních dvou tarifních tříd o sedmnáct procent. Počítá s tím návrh ministerstva vnitra. Podle předkladatelů je třeba zvýšit konkurenceschopnost bezpečnostních sborů na pracovním trhu, navýšení má také zabránit odchodu zkušených příslušníků.

Policisté, hasiči, příslušníci vězeňské služby a celníci, kteří jsou ve služebním poměru méně než tři roky, by měli mít podle návrhu v první tarifní třídě v základu 23 300 korun, ve druhé 25 070 korun. Po každých třech letech ve služebním poměru se částka zvyšuje. Tarifní výdělek nezahrnuje osobní a další příplatky. Při započtení příplatků například v druhé tarifní třídě by měl plat podle návrhu vnitra přesáhnout 30 tisíc korun.

Průměrná měsíční mzda v Česku stoupla podle údajů Českého statistického úřadu ve druhém letošním čtvrtletí meziročně o 1696 korun na 40 086 korun hrubého.

Zdroj: ČTK
před 22 minutami

Senát schválil měsíční informování uživatelů bytů o spotřebě tepla

Uživatelé bytů by měli od ledna 2024 dostávat údaje o spotřebě tepla a teplé vody z dálkových odečtů měřičů a indikátorů aspoň jednou měsíčně. Počítá s tím novela zákona zavádějící tuto informační povinnost, kterou dnes schválil Senát. Novinka vychází z předpisů EU. Původně měla začít fungovat již od příštího roku, ale poslanci při schvalování ve Sněmovně povinnost informovat odložili o jeden rok. Ministr pro místní rozvoj Ivan Bartoš (Piráti) s tím ve Sněmovně nesouhlasil a varoval před rizikem pokuty ze strany EU. Senátoři dnes schválili zákon jen těsně hlasy 38 senátorů; když zapotřebí jich bylo nejméně 37.

Senátor ČSSD Petr Vícha navrhl zákon zamítnout. Jeho návrh podpořili i senátoři z dalších klubů. Vícha uvedl, že zákon zavádí další povinnosti a zvyšuje náklady vlastníkům, kteří je potom přenesou na nájemníky. Zdůraznil, že za 28 let, co je starostou, nikdy od žádného nájemníka ani od občana ve své volebním obvodu nezaznamenal požadavek na to, aby měsíčně dostával přehled o spotřebě teplé vody a tepla. Vzhledem k tomu, že Senát zákon schválil, už senátoři nehlasovali o zamítnutí.

Senát by se podle Hany Kordové Marvanové (ODS a TOP 09) nemusel stavět za každou přehnanou regulaci. Podle ní by měla mít přednost úprava na základě svobodného rozhodnutí lidí, kterých se to týká. Jako příklad uvedla, že by si společenství vlastníků mohlo odhlasovat informování třeba jednou za čtvrt roku. "Toto je za hranou svobodného rozhodování," prohlásil Hynek Hanza (ODS a TOP 09). Doporučil zákon zamítnout stejně jako jeho klubový kolega Rostislav Koštial.

Zdroj: ČTK
před 49 minutami

Senát schválil sankční zákon proti cizincům za závažná protiprávní jednání

Senát ve čtvrtek podle očekávání schválil zákon o národních sankcích proti zahraničním společnostem a cizincům, kteří se dopustí závažných protiprávních jednání. Stát jim bude moci například zabránit ve vstupu nebo v pobytu na svém území nebo zmrazit majetek. Norma, která souvisí s ruskou agresí proti Ukrajině, umožní zavést restrikce také proti organizacím a režimům, které porušují lidská práva nebo používají teroristické metody a kybernetické útoky.

Zákon, který podpořilo 53 z 65 přítomných senátorů, nyní dostane k podpisu prezident. Normu kritizovala pouze senátorka Jana Zwyrtek Hamplová (za Nezávislé), podle ní je zákon nejednoznačný. Proti novele ale nehlasovala, stejně jako 11 dalších senátorů se hlasování zdržela.

O zařazení na sankční seznam bude podle předlohy rozhodovat vláda na návrh ministerstva zahraničí. Ke stejnému ministerstvu mají směřovat námitky proti zařazení, rozhodovat o nich bude opět kabinet. Lidé na sankčním seznamu se budou moci bránit i prostřednictvím soudu, jímž bude prvoinstančně Městský soud v Praze. Zákon umožní využívat i jiné postihy než ty, které jsou uvedeny na sankčním seznamu Evropské unie.

Zdroj: ČTK
Další zprávy