12

Může být umělá inteligence etická?

PRINCETON – Počítačový program AlphaGo, speciálně sestavený k hraní hry go, vyvolal minulý měsíc šok mezi jejími fanoušky, když v turnaji složeném z pěti her zvítězil se skóre 4:1 nad Leem Sidolem, jedním ze špičkových profesionálních hráčů světa.

Proč, ptáte se možná, to má být novinka? Uběhlo už dvacet let od doby, kdy počítač Deep Blue od IBM porazil světového šampiona v šachu Garryho Kasparova, a všichni víme, že od té doby se počítače zdokonalily. Jenže Deep Blue vyhrál díky prosté výpočetní síle, neboť svých schopností využil k propočtení vyššího počtu tahů do hlubší úrovně, než dokáže i světový šampion. Go se hraje na mnohem větší hrací desce (19x19 pozic, oproti tomu v šachu je 8x8 políček) a možných tahů je víc než atomů ve vesmíru, takže bylo nepravděpodobné, že by lidskou bytost s intuitivním smyslem pro nejlepší tahy překonala hrubá výpočetní síla.

Aleppo

A World Besieged

From Aleppo and North Korea to the European Commission and the Federal Reserve, the global order’s fracture points continue to deepen. Nina Khrushcheva, Stephen Roach, Nasser Saidi, and others assess the most important risks.

AlphaGo byl namísto toho sestaven tak, aby zvítězil tím, že odehraje obrovský počet her proti dalším programům a osvojí si strategie, které se ukážou jako úspěšné. Dalo by se říct, že AlphaGo prošel evolucí v nejlepšího hráče go na světě, přičemž během dvou let dokázal, co přírodnímu výběru trvalo miliony let.

Eric Schmidt, výkonný předseda mateřské společnosti Googlu, majitele AlphaGo, je nadšený tím, co umělá inteligence (UI) znamená pro lidstvo. V projevu před zápasem mezi Leem a AlphaGo řekl, že ať už to dopadne jakkoli, vítězem bude lidstvo, protože pokroky v UI zajistí, že všichni lidé budou chytřejší, schopnější a „prostě lepší lidské bytosti“.

Opravdu? Zhruba v době triumfu AlphaGo si poučnou zkušeností prošel konverzační robot společnosti Microsoft – software pojmenovaný Taylor, naprogramovaný tak, aby reagoval na zprávy od lidí ve věku 18-24 let. „Tay,“ jak si sama říkala, měla být schopna se učit ze zpráv, které dostane, a postupně zlepšovat svou schopnost vést poutavé hovory. Žel během 24 hodin se Tay od lidí přiučila rasistickým a sexistickým idejím. Když se začala pozitivně vyjadřovat o Hitlerovi, Microsoft ji vypnul a smazal nejpohoršlivější z jejích zpráv.

Nevím, jestli ti, kdo z Tay udělali rasistku, byli sami rasisté, anebo se jen domnívali, že bude legrace podtrhnout Microsoftu jeho novou hračku. Buď jak buď, souběh vítězství AlphaGo a porážky Taylor nám slouží jako varování. Jedna věc je dát volnost UI v kontextu hry s konkrétními pravidly a jasným cílem; něco zcela jiného je ale pustit UI do reálného světa, kde nepředvídatelnost okolního prostředí může odhalit programovou chybu s katastrofálními důsledky.

Nick Bostrom, ředitel Institutu budoucnosti lidstva na Oxfordské univerzitě, ve své knize Superinteligence tvrdí, že vypnout inteligentní stroj nebude vždy tak snadné, jako tomu bylo u Tay. Superinteligenci definuje jako intelekt „chytřejší než nejlepší lidské mozky prakticky ve všech oblastech, včetně vědecké kreativity, všeobecných vědomostí a sociálních dovedností“. Takový systém může být schopen přechytračit naše pokusy jej vypnout.

Někteří lidé pochybují, že vůbec kdy superinteligence vznikne. Bostrom společně s Vincentem Müllerem požádali experty na UI, aby určili dobu, kdy stroje s pravděpodobností jedna ku jedné dospějí k inteligenci na lidské úrovni a kdy se tak stane s pravděpodobností devět ku jedné. Mediány odhadů byly pro pravděpodobnost jedna ku jedné v rozmezí 2040-2050 a pro devět ku jedné rok 2075. Většina expertů dále očekávala, že k superinteligenci UI dospěje během 30 let od dosažení inteligence lidské úrovně.

Neměli bychom tyto odhady brát příliš vážně. Míra odezvy respondentů byla jen 31 % a výzkumníci pracující v oblasti UI mají motivaci vychvalováním jejího potenciálu přinášet zásadní výsledky pozvedat význam svého oboru.

Vyhlídky, že UI dosáhne superinteligence, se mohou zdát příliš vzdálené na to, abychom se jimi znepokojovali, zejména vzhledem k naléhavějším problémům. Je však potřeba zmínit argument hovořící pro nutnost začít uvažovat, jak lze UI konstruovat tak, aby zohledňovala zájmy lidí, ba vlastně všech vnímavých bytostí (včetně strojů, budou-li vědomými bytostmi s vlastními zájmy).

Po kalifornských silnicích už jezdí auta bez řidičů, takže není příliš brzy se ptát, jestli stroj dokážeme naprogramovat k etickému jednání. Jak se tato vozidla budou zdokonalovat, budou zachraňovat životy, protože budou méně chybovat než lidští řidiči. Občas ale budou postaveny před volbu mezi životy. Měly by být naprogramovány tak, aby strhly řízení, když jim do cesty vběhne dítě, třebaže tím vystaví riziku své pasažéry? A měly by prudce uhýbat, aby se vyhnuly psovi? Co když hrozí pouze riziko poškození vozu, ale ne ublížení cestujícím?

Až takové diskuse o samořídících autech začnou, snad přinesou určitá ponaučení. Auta bez řidičů ale nejsou superinteligentní bytosti. Naučit etice stroj, který je v široké škále oblastí inteligentnější než my sami, je náročnější úkol.

Bostrom otevírá knihu Superinteligence bajkou o vrabcích, kteří se domnívali, že by bylo skvělé vycvičit si sovu, aby jim pomáhala stavět hnízda a pečovat o mladé. I vydali se hledat soví vejce. Jeden vrabec namítl, že by měli nejdřív přemýšlet, jak si sovu ochočí; ostatní se ale nemohli dočkat, až se do vzrušujícího nového záměru pustí. S výzvou vycvičit sovu (třeba aby nežrala vrabce) se vypořádají, až jednu úspěšně odchovají.

Support Project Syndicate’s mission

Project Syndicate needs your help to provide readers everywhere equal access to the ideas and debates shaping their lives.

Learn more

Chceme-li vytvořit sovu, která bude nejen inteligentní, ale i moudrá, nebuďme jako ti netrpěliví vrabci.

Z angličtiny přeložil David Daduč