Vědec, který naučil robota blufovat: Umělá inteligence se proti lidstvu neobrátí, ale dá se zneužít

Zuzana Hronová Zuzana Hronová
17. 8. 2017 13:34
Umělá inteligence (AI) už umí porazit šachové velmistry, nejlepší hráče pokeru a nově i nejlepšího hráče počítačových her. Někteří varují, že se roboti jako v Čapkově knize RUR vymknou kontrole a obrátí se proti lidstvu. Odborníci uklidňují, že umělá inteligence dělá jen to, na co je naprogramovaná, a nemá důvod zničit lidstvo."Hlavním nebezpečím umělé inteligence je, že člověk naprogramuje stroj, aby udělal něco špatného. To je stejné jako při zneužití jakékoliv jiné technologie," řekl Aktuálně.cz Viliam Lisý, jenž na Fakultě elektrotechnické na ČVUT přednáší strojové učení a teorii her a jenž patřil do týmu, který naučil robota intuici a blufování v pokeru.
Umělá inteligence poráží lidské přeborníky ve stále složitějších hrách.
Umělá inteligence poráží lidské přeborníky ve stále složitějších hrách. | Foto: Shutterstock

Co říkáte tomu, že umělá inteligence (AI) porazila nejlepšího hráče počítačových her ve hře Dota 2, což je na strategii velmi složitá hra. Představuje to podle vás určitý zlom?

Tento výsledek je určitě velký úspěch, ale nenazval bych to zlomem. Složitější počítačové hry jsou přirozený další krok v sérii her, ve kterých umělá inteligence poráží lidi. Jak složitá byla hra, kterou ve zmiňovaném zápase hráli, je sporné.

Jak to myslíte?

Pravidla hry byla pro zápas výrazně zjednodušená a umělá inteligence měla rychlý přístup k podrobnému popisu aktuálního stavu hry, který člověk musí odhadovat z obrazu. Také jde o hru, kterou se před tím, pokud vím, žádný vědecký tým nepokoušel řešit. Je možné, že tato hra není pro počítače až tak náročná. Autoři této umělé inteligence Open Al zatím nezveřejnil technické detaily jejich programu. Proto je velmi těžké posoudit, zda na tento výsledek byl potřebný zásadnější vědecký pokrok.

Umělá inteligence nejdříve uměla porazit člověka v piškvorkách, pak v šachách, v go… Znamená to, že postupuje strmě vzhůru?

To určitě ano. Výzkumem v umělé inteligenci se zabývá stále více lidí a technologické firmy do něj investují stále více peněz. Naše znalosti o tom, jak vytvářet systémy s umělou inteligencí, rychle rostou. Toto je dále podpořeno výrazným růstem výkonu počítačů, který tyto systémy dokážou velmi dobře zužitkovat.

Letos v březnu váš česko-kanadský tým vyvinul program DeepStack, jenž dokázal porazit pokerové mistry. Prý jste ho dokonce naučili intuici či blufování. Jak se vám to podařilo?

Blufování se DeepStack učí tak, že hraje sám proti sobě. Pokud by nikdy neblufoval, jeho kopie hrající za oponenta by se naučila po zvýšení vždy slabší karty složit. Pak se mu ale vyplatí občas zvyšovat i se slabými kartami. Pokud to nedělá příliš často, oponent slabší karty složí. Tak to zkusí. Postupně se pak naučí, jak často je optimální blufovat a jak často a s jakými kartami na druhé straně hrát dále.

A jak se dá stroj naučit intuici?

Intuici se DeepStack naučil pomocí strojového učení. Vyřešili jsme velké množství jednodušších pokerových situací a on v těchto situacích odhalil zákonitosti, na jejichž základě se naučil odhadovat, jak je ta či ona situace pro něj výhodná. Během hraní pak přemýšlí exaktně na několik kroků dopředu a kvalitu situací, do kterých se může dostat, odhaduje pomocí takto získané intuice.

Není díky tomu umělá inteligence opět ve svém přemýšlení podobnější člověku?

Umělá inteligence se stále častěji prosazuje i ve světě financí. Umožní například rychlejší zpracování požadavků.
1:45
Umělá inteligence se stále častěji prosazuje i ve světě financí. Umožní například rychlejší zpracování požadavků. | Video: Petr Šoukal, Filip Sýkora

Mimo této intuice je ale přemýšlení DeepStack velmi odlišné od lidského. Při každém rozhodnutí DeepStack uvažuje přibližně o miliardě možností, jak by se partie mohla vyvíjet, a na základě velmi přesných výpočtů vytvoří strategii, podle níž zahraje další tah.

Při čtrnáctidenním tréninku na zmiňovanou hru Dota 2 se umělá inteligence uměla sama zdokonalit, už na to nepotřebovala člověka, začínala přitom úplně od nuly. Znamená i toto nějaký posun, nebo je to již běžná věc?

Na tomto základním principu fungovalo AlphaGo, DeepStack, dokonce i program, který porazil lidi v hře vrhcáby v roce 1992. Není to tedy žádná novinka.

Vy se na ČVUT zabýváte přímo teorií her čili (zjednodušeně řečeno) matematickým hledáním nejlepších strategií v konfliktních situacích a dále strojovým učením, které se zabývá technikami, jak učit počítačový systém. Vaše hluboké znalosti v těchto oblastech vás při úvahách, zda si mohou roboti podmanit lidstvo, spíše znepokojují, nebo uklidňují?

Určitě uklidňují. V historii si lidé již několikrát mysleli, že jsou blízko k vytvoření všeobecné umělé inteligence, ale vždy nakonec přišlo vystřízlivění. Momentální pokrok ve strojovém učení má mnoho skvělých aplikací a určitě posune mnoho konkrétních úloh dopředu, ale myslím, že jsme stále velmi vzdáleni strojům, které by byly dostatečně všestranné, aby ohrozily lidstvo.

Takže vy nesdílíte obavy amerického podnikatele Elona Muska, jenž i po tomto nejnovějším úspěchu AI varoval, že umělá inteligence je nejvážnější hrozbou lidstva?

Záleží na tom, o jakém horizontu se bavíme. Momentálně umělá inteligence nepředstavuje žádnou reálnou hrozbu. V nejbližší budoucnosti má potenciál být nebezpečná, ale asi ne více než jaderný arzenál a armáda v rukách blázna nebo pád asteroidu.

Myslíte si tedy, že rychlý vývoj umělé inteligence se nemůže obrátit proti člověku, jak kromě Muska varují třeba i Stephen Hawking či Bill Gates?

Myslím, že umělá inteligence sama o sobě nemá žádný důvod obrátit se proti lidstvu. V budoucnosti může být potenciálně nebezpečné její zneužití lidmi, ale to je nebezpečné i u jakékoliv jiné pokročilé technologie. Momentálně ale zvládá velmi úzce specializované úlohy, jako je rozpoznávání hlasu nebo obrazu. Krok k obecnějším úlohám, jako třeba skočit do samoobsluhy na nákup, je mnohem větší, než si lidé uvědomují.

Proč tedy podle vás tolik lidí považuje AI za hrozbu a bezpečnostní riziko?

Podle mě lidé dělají při zhodnocování rizik umělé inteligence zásadní chybu, a sice že do ní příliš promítají lidské pudy a vlastnosti. Stroje nemají pud sebezáchovy, nemají potřebu vytvářet komunitu a chránit ji před okolím světa, nejsou chamtivé. Stroje dělají to, k čemu jsou naprogramované, případně naučené. Hlavním nebezpečím umělé inteligence je, že člověk naprogramuje stroj, aby udělal něco špatného. To je stejné jako při zneužití jakékoli jiné technologie, třeba nasměrování letadel do budovy nebo vypálení bomb.

Co říkáte Muskově snaze zavést regulaci umělé inteligence na mezinárodní úrovni? A jak by podle vás měla vypadat?

Myslím, že máme ještě desítky let čas, než to bude nutné. To ale neznamená, že nedává smysl o tom začít diskutovat už teď. Jako rizikovou vidím možnost, že by pokročilá umělá inteligence měla za důležitý cíl své vlastní zachování, případně rozmnožení. Podobně by mohl být potenciálně problém, pokud by se umělá inteligence spojovala do jednoho velkého celku. Když jich bude více, vždy budeme moci použít jednu, aby zastavila druhou, pokud by tato přestala fungovat správně.

Využití umělé inteligence je mnoho, chceme, aby se zlepšovala při každém novém kroku, říká vývojář Marek Rosa. | Video: Martin Veselovský
 

Právě se děje

před 34 minutami

USA mají možná druhý případ koronaviru, Japonsko už jej potvrdilo

U texaského studenta, který navštívil čínské velkoměsto Wu-chan, je podezření na napadení novým koronavirem. Pokud se podezření potvrdí, půjde od druhý případ napadení virem způsobujícím zápal plic ve Spojených státech. Druhý potvrzený případ hlásí podle agentury Kjódó Japonsko.

Univerzitní student je v Texasu léčen s onemocněním dýchacích cest a je izolován doma. Zároveň jsou u něj prováděny testy na nově objevený koronavirus, který už v Číně zabil 18 lidí, z toho 17 ve Wu-chanu, který je ohniskem epidemie. První případ nákazy v USA byl oznámen ve středu ve státě Washington.

Japonské ministerstvo zdravotnictví mezitím potvrdilo druhý případ nákazy. Jde o čtyřicátníka, který v neděli do Japonska přicestoval z Wu-chanu. Nyní je muž hospitalizován.

Zdroj: ČTK
Aktualizováno před 56 minutami

Kvůli pádu muže do kolejiště večer nejelo metro na části linky B

Téměř čtyři hodiny nejezdilo ve čtvrtek večer metro mezi stanicemi Smíchovské nádraží a Florenc na lince B. Kolem 19:30 spadl ve stanici Anděl do kolejiště člověk, provoz se podařilo obnovit až necelou hodinu před půlnocí, vyplývá z informací na webu pražského dopravního podniku. Asi čtyřicetiletý muž srážku se soupravou metra nepřežil. Lidé v daném úseku museli na tramvaj, jít pěšky nebo využít jinou linku metra. Na místě zasahovali záchranáři, hasiči pražského dopravního podniku a policisté.

"Bohužel i přes rychlý zásah naší posádky utrpěl muž ve věku zhruba 40 let zranění neslučitelná se životem, na místě zemřel," řekla ČTK mluvčí pražské záchranné služby Jana Poštová.

Metro jezdilo bez omezení v úseku Zličín - Smíchovské nádraží a Florenc - Černý Most, v centrální části linky B byl provoz zastaven. Náhradní autobusy dopravce nezavedl, lidem doporučil využít tramvaje, hlavně linky 3 a 5, či přestup z tramvají na linku metra C.

Zdroj: ČTK
Další zprávy