23. března 2017 6:00 Lidovky.cz > Relax > Věda

Čím chytřejší, tím bezohlednější. Umělá inteligence se nezdráhá střílet

  • Poslat
  • Tisk
  • Redakce
  • 3Diskuse
Arnold Schwarzenegger jako Terminátor. | na serveru Lidovky.cz | aktuální zprávy Arnold Schwarzenegger jako Terminátor. | foto: www.youtube.comReprofoto
Svět, ve kterém bude mít rozhodující slovo umělá inteligence, může pro lidstvo znamenat těžko představitelnou hrozbu, nebo příležitost, řekl Elon Musk. Výzkumníci z Googlu počátkem března provedli řadu simulací: chytřejší umělá inteligence může znamenat i agresivní jednání.

V nepříliš vzdálené budoucnosti může být lidstvo do značné míry závislé na rozhodování umělé inteligence (UI). Ta by mohla mít rozhodující slovo jak v každodenních záležitostech (například řízení semaforů a dopravy), tak ve velmi komplexních systémech (například řízení celé ekonomiky země). Výzkumníci z Googlu tak chtějí najít odpověď na důležité otázky: jak budou různé umělé inteligence na sebe reagovat? Jak se budou chovat, pokud se budou cíle různých UI systému křížit?

DeepMind, dceřinná společnost Googlu, jejíž UI minulý rok porazila lidského velmistra ve hře Go, tak připravila několik testů, které mají na tyto otázky alespoň zčásti odpovědět.

DeepMind často vystavuje umělou inteligenci „sociálním dilematům“ - tedy problémům, ve které se může jedinec chovat bezohledně a sobecky a tím zvýšit svojí šanci na úspěch, ale zároveň se může vystavit riziku. Jednoduchým příkladem tohoto dilematu je takzvané „vězeňské dilema“. V něm mají dva vězni na výběr: mohou druhého udat a získat odměnu, nebo mlčet. Pokud ale budou udavači oba, oba skončí „za mřížemi“.

Výzkumníci se rozhodli UI umístit do prostředí dvou her, kde jí nechali odehrát 40 milionů tahů.

V první hře, nazvané Sběr, mají spolu dvě UI soupeřit o sběr jablíček. Oba „hráči“ mohou v klidu sbírat a skončit s podobnou úrodou, nebo si jít po krku a druhého hráče pomocí „laseru“ na chvíli vyřadit.

Ve druhé hře, nazvané Vlčí smečka, dvojice UI má lovit třetího hráče v prostředí s množstvím překážek. Úspěšný lov znamená body pro lovce. Nikoliv ale pouze pro tu UI, která třetího hráče uloví, ale i pro dalšího lovce, pokud se v tu chvíli nachází v bezprostřední blízkosti kořisti.

Nepřekvapí, že se UI chovala podle prostředí, ve kterém se nacházela. Pokud bylo jablíček hodně, neobtěžovala se s „laserem“. Pokud jich ale bylo méně, došlo i na střelbu.

Co je zajímavé, je to, co se dělo, když jednomu z hráčů ve Sběru byly navýšeny výpočetní kapacity. Chytřejší UI střílela na druhého hráče i když jablíček bylo dost pro oba. Vyhodnotila tak, že se vyplatí být agresivní za jakýchkoli podmínek. Teprve s navýšením inteligence se součástí hry stala zákeřnost, chamtivost a agrese.

Nedá se ale říct, že by chytřejší UI měla „vrozenou“ tendenci být agresivnější. Zkrátka využívá prostředků, které má k dispozici tak, aby svůj úkol dokončila úspěšně. Střelba na druhého hráče vyžaduje několik výpočtů (pohyb soupeře, nasměrování, výstřel) a je složitější, než pouhý přesun k jablíčku. Pro chytřejší UI ale tyto výpočty nepředstavují velké zdržení a tak se nakonec i vyplatí. Pro „hloupější“ UI je výhodnější spolupracovat.

V něčem opačný přístup měla UI ve hře Vlčí smečka. Tam chytřejší UI byla ochotnější spolupracovat a kořist „nahánět“ i do cesty druhému hráči.

„Tento model ukazuje, že některé aspekty vlastně ‚lidského chování‘ se objevují jako produkt prostředí a toho, co se (UI) naučí,“ řekl jeden z výzkumníků Joel Leibo serveru Wired. „Méně agresivní přístup vychází z prostředí, kde je relativní dostatek prostředků pro všechny a nevyplatí se provádět složité výpočty. Chamtivost pak odráží nutkání zbavit se rivala a nechat si vše pro sebe,“ dodává.

Umělé inteligenci tak vždy záleží především na dokončení úkolu. Pokud má k použití nástroje, které odměňují agresivní přístup, nezdráhá se jednat agresivně, pokud má nástroje, které odměňují spolupráci, spolupracuje. Takový závěr by sice dovedl odhadnout asi každý, ale to by byl zjednodušující závěr. Výsledky takovýchto testů jsou klíčové pro umělou inteligenci, která má například řídit auta - co všechno taková UI udělá, aby se někam dostala rychle? Jaké volby udělá pokud by určovala směřování nějakého ekonomického systému, kde cílem má být zisk?

V budoucnosti tak bude hlavní výzvou napsat pro UI ta správná pravidla, píše server The Verge. Důvěřovat umělé inteligenci tak znamená v první řadě důvěřovat v lidi, kteří ji vytváří a od kterých se bude učit. Pokrok umělé inteligence zkrátka může být „tím nejlepším, nebo tím nejhorším, co lidstvo kdy potkalo,“ jak řekl minulý rok slavný fyzik Stephen Hawking. Záleží na tom, co všechno mu její stvořitelé umožní a k čemu jí chtějí využít.

kpKryštof Peňás
  • 3Diskuse




REGISTRACE NA SERVERU LIDOVKY.CZ, NEVIDITELNÉM PSU A ČESKÉ POZICI

SMS Registrace

Diskuse LN jsou pouze pro diskutéry, kteří se vyjadřují slušně a neporušují zákon ani dobré mravy. Registrace je platná i pro servery Neviditelný pes a Česká pozice. více Přestupek znamená vyřazení Vašeho telefonního čísla z registrace a vyřazený diskutér se již nemůže přihlásit ani registrovat pod stejným tel. číslem. Chráníme tak naše čtenáře a otevíráme prostor pro kultivovanou diskusi.
Viz Pravidla diskusí. schovat

Jak postupovat

1. Zašlete SMS ve tvaru LIDOVKY REG na číslo 900 11 07. Cena SMS za registraci je 7 Kč. Přijde Vám potvrzující SMS s heslem.

2. Vyplňte fomulář, po odeslání registrace můžete ihned diskutovat

Tel. číslo = login,
formát "+420 xxx xxx xxx"
Kód ze SMS je rovněž heslo
Vaše příspěvky budou označeny Vaším jménem, např. K. Novák.
* Nepovinný.
Odesláním souhlasíte s Pravidly diskusí.