reklama
 
 

Vědec, který naučil robota blufovat: Umělá inteligence se proti lidstvu neobrátí, ale dá se zneužít

17. 8. 2017
Umělá inteligence (AI) už umí porazit šachové velmistry, nejlepší hráče pokeru a nově i nejlepšího hráče počítačových her. Někteří varují, že se roboti jako v Čapkově knize RUR vymknou kontrole a obrátí se proti lidstvu. Odborníci uklidňují, že umělá inteligence dělá jen to, na co je naprogramovaná, a nemá důvod zničit lidstvo."Hlavním nebezpečím umělé inteligence je, že člověk naprogramuje stroj, aby udělal něco špatného. To je stejné jako při zneužití jakékoliv jiné technologie," řekl Aktuálně.cz Viliam Lisý, jenž na Fakultě elektrotechnické na ČVUT přednáší strojové učení a teorii her a jenž patřil do týmu, který naučil robota intuici a blufování v pokeru.
Doporučujeme

Co říkáte tomu, že umělá inteligence (AI) porazila nejlepšího hráče počítačových her ve hře Dota 2, což je na strategii velmi složitá hra. Představuje to podle vás určitý zlom?

Tento výsledek je určitě velký úspěch, ale nenazval bych to zlomem. Složitější počítačové hry jsou přirozený další krok v sérii her, ve kterých umělá inteligence poráží lidi. Jak složitá byla hra, kterou ve zmiňovaném zápase hráli, je sporné.

Jak to myslíte?

Pravidla hry byla pro zápas výrazně zjednodušená a umělá inteligence měla rychlý přístup k podrobnému popisu aktuálního stavu hry, který člověk musí odhadovat z obrazu. Také jde o hru, kterou se před tím, pokud vím, žádný vědecký tým nepokoušel řešit. Je možné, že tato hra není pro počítače až tak náročná. Autoři této umělé inteligence Open Al zatím nezveřejnil technické detaily jejich programu. Proto je velmi těžké posoudit, zda na tento výsledek byl potřebný zásadnější vědecký pokrok.

Umělá inteligence nejdříve uměla porazit člověka v piškvorkách, pak v šachách, v go… Znamená to, že postupuje strmě vzhůru?

To určitě ano. Výzkumem v umělé inteligenci se zabývá stále více lidí a technologické firmy do něj investují stále více peněz. Naše znalosti o tom, jak vytvářet systémy s umělou inteligencí, rychle rostou. Toto je dále podpořeno výrazným růstem výkonu počítačů, který tyto systémy dokážou velmi dobře zužitkovat.

Letos v březnu váš česko-kanadský tým vyvinul program DeepStack, jenž dokázal porazit pokerové mistry. Prý jste ho dokonce naučili intuici či blufování. Jak se vám to podařilo?

Blufování se DeepStack učí tak, že hraje sám proti sobě. Pokud by nikdy neblufoval, jeho kopie hrající za oponenta by se naučila po zvýšení vždy slabší karty složit. Pak se mu ale vyplatí občas zvyšovat i se slabými kartami. Pokud to nedělá příliš často, oponent slabší karty složí. Tak to zkusí. Postupně se pak naučí, jak často je optimální blufovat a jak často a s jakými kartami na druhé straně hrát dále.

A jak se dá stroj naučit intuici?

Intuici se DeepStack naučil pomocí strojového učení. Vyřešili jsme velké množství jednodušších pokerových situací a on v těchto situacích odhalil zákonitosti, na jejichž základě se naučil odhadovat, jak je ta či ona situace pro něj výhodná. Během hraní pak přemýšlí exaktně na několik kroků dopředu a kvalitu situací, do kterých se může dostat, odhaduje pomocí takto získané intuice.

Není díky tomu umělá inteligence opět ve svém přemýšlení podobnější člověku?

Mimo této intuice je ale přemýšlení DeepStack velmi odlišné od lidského. Při každém rozhodnutí DeepStack uvažuje přibližně o miliardě možností, jak by se partie mohla vyvíjet, a na základě velmi přesných výpočtů vytvoří strategii, podle níž zahraje další tah.

Při čtrnáctidenním tréninku na zmiňovanou hru Dota 2 se umělá inteligence uměla sama zdokonalit, už na to nepotřebovala člověka, začínala přitom úplně od nuly. Znamená i toto nějaký posun, nebo je to již běžná věc?

Na tomto základním principu fungovalo AlphaGo, DeepStack, dokonce i program, který porazil lidi v hře vrhcáby v roce 1992. Není to tedy žádná novinka.

Vy se na ČVUT zabýváte přímo teorií her čili (zjednodušeně řečeno) matematickým hledáním nejlepších strategií v konfliktních situacích a dále strojovým učením, které se zabývá technikami, jak učit počítačový systém. Vaše hluboké znalosti v těchto oblastech vás při úvahách, zda si mohou roboti podmanit lidstvo, spíše znepokojují, nebo uklidňují?

Určitě uklidňují. V historii si lidé již několikrát mysleli, že jsou blízko k vytvoření všeobecné umělé inteligence, ale vždy nakonec přišlo vystřízlivění. Momentální pokrok ve strojovém učení má mnoho skvělých aplikací a určitě posune mnoho konkrétních úloh dopředu, ale myslím, že jsme stále velmi vzdáleni strojům, které by byly dostatečně všestranné, aby ohrozily lidstvo.

Takže vy nesdílíte obavy amerického podnikatele Elona Muska, jenž i po tomto nejnovějším úspěchu AI varoval, že umělá inteligence je nejvážnější hrozbou lidstva?

Záleží na tom, o jakém horizontu se bavíme. Momentálně umělá inteligence nepředstavuje žádnou reálnou hrozbu. V nejbližší budoucnosti má potenciál být nebezpečná, ale asi ne více než jaderný arzenál a armáda v rukách blázna nebo pád asteroidu.

Myslíte si tedy, že rychlý vývoj umělé inteligence se nemůže obrátit proti člověku, jak kromě Muska varují třeba i Stephen Hawking či Bill Gates?

Myslím, že umělá inteligence sama o sobě nemá žádný důvod obrátit se proti lidstvu. V budoucnosti může být potenciálně nebezpečné její zneužití lidmi, ale to je nebezpečné i u jakékoliv jiné pokročilé technologie. Momentálně ale zvládá velmi úzce specializované úlohy, jako je rozpoznávání hlasu nebo obrazu. Krok k obecnějším úlohám, jako třeba skočit do samoobsluhy na nákup, je mnohem větší, než si lidé uvědomují.

Proč tedy podle vás tolik lidí považuje AI za hrozbu a bezpečnostní riziko?

Podle mě lidé dělají při zhodnocování rizik umělé inteligence zásadní chybu, a sice že do ní příliš promítají lidské pudy a vlastnosti. Stroje nemají pud sebezáchovy, nemají potřebu vytvářet komunitu a chránit ji před okolím světa, nejsou chamtivé. Stroje dělají to, k čemu jsou naprogramované, případně naučené. Hlavním nebezpečím umělé inteligence je, že člověk naprogramuje stroj, aby udělal něco špatného. To je stejné jako při zneužití jakékoli jiné technologie, třeba nasměrování letadel do budovy nebo vypálení bomb.

Co říkáte Muskově snaze zavést regulaci umělé inteligence na mezinárodní úrovni? A jak by podle vás měla vypadat?

Myslím, že máme ještě desítky let čas, než to bude nutné. To ale neznamená, že nedává smysl o tom začít diskutovat už teď. Jako rizikovou vidím možnost, že by pokročilá umělá inteligence měla za důležitý cíl své vlastní zachování, případně rozmnožení. Podobně by mohl být potenciálně problém, pokud by se umělá inteligence spojovala do jednoho velkého celku. Když jich bude více, vždy budeme moci použít jednu, aby zastavila druhou, pokud by tato přestala fungovat správně.

Využití umělé inteligence je mnoho, chceme, aby se zlepšovala při každém novém kroku, říká vývojář Marek Rosa. | Video: Martin Veselovský |  22:16

Související

    reklama
    reklama
    reklama
    Komerční sdělení
    reklama
    reklama