Jak poznáme, že stroje už myslí

V roce 1950 si položil Alan Turing, jeden ze zakladatelů informatiky, ve svém dnes už klasickém článku Computing Machinery and Intelligence otázku „Can machines think?“ (Mohou stroje myslet?). Jestli vám náhodou jméno Alan Turing nic neříká, jde o vědce, který je pro počítačové vědy tím, čim Eukleidés pro geometrii, Newton pro fyziku a Gödel pro logiku. Jestli vám ani jedno z těch jmen nic neříká, přestaňte číst. Nebude vás to bavit.

Nejprve připomenu, co Turing předpovídal a budu pokračovat tím, jak se celá věc s myslícími stroji po více než šedesáti letech vyvinula. V celém vyprávění budu hodně zjednodušovat, proto mě prosím (MFF UK absolventi speciálně) nepranýřujte.

Když se Turing zeptal, jestli mohou stroje myslet, neměl tím na mysli jen tak lecjaký stroj, ale ten, který o pár let dříve sám vymyslel, byť jen jako teoretickou konstrukci. Turingova definice stroje je dodneška teoretickým standardem informatiky a takzvaný Turingův stroj je svou výpočetní silou ekvivalentem všech digitálních počítačů, které dnes umíme vyrobit (včetně kvantových).

Větší výzvou pro Turinga byla definice slova „myslet“. Definice slova myslet je filozofické peklo a tak raději Turing otázku „Can machines think?“ nahradil jinou otázkou: „Are there imaginable digital computers which would do well in the imitation game?“ (Existuje stroj, který uspěje v imitační hře?)

Zmíněná „Imitation game" z původní anglické otázky je hra, která byla v té době oblíbená na večírcích. Je určena třem hráčům (ale nemá smysl bez publika, je to především divácká hra). Jeden z nich je muž (M), druhý žena (Ž), třetí tazatel (T). Úkolem T je identifikovat pohlaví M a Ž, přičemž jeden z nich je povinen odpovídat po pravdě, druhý smí a má tazatele libovolně mást. T samozřejmě M a Ž během hry nevidí a komunikuje s nimi „neutralizovaným“ způsobem, třeba písemně nebo přes třetí osobu. Co když, zeptal se Turing, tam místo toho lháře dáme počítač? A nebudeme se ptát na pohlaví, ale na identitu: stroj, anebo člověk?

Tahle hra se mimochodem stala základem veleúspěšné americké televizní show To Tell the Truth, odkud též pochází okřídlená fráze „will the real XY please stand up?“. Ta však vznikla až dva roky po Turingově smrti.

Turing ve svém výše zmíněném článku z roku 1950 předpověděl, že kolem roku 2000 budou v imitační hře stroje nerozlišitelné od lidí (přesněji řečeno, tvrdil, že normální člověk dokáže po pěti minutách konverzace rozpoznat stroj od člověka v méně než v 70 % případů).

Pro tuto hru se vžilo označení Turingův test a tohoto roku se (byť s poněkud s odřenýma ušima) podařilo test prolomit. Anglickou porotu totiž ošálil chatbot, který předstíral, že je ukrajinský teenager jménem Eugene Goostman s omezenou slovní zásobou angičtiny.

Turing také věřil tomu, že přijde doba, kdy stroje budou s lidmi soupeřit v ryze intelektuálních zálibách, které vyžadují učení a myšlení (specificky šachy) . Poměrně rychle se ukázalo, že šachy jsou čistě algoritmická úloha, která jde zvládnout hrubou výpočetní silou. Dnešní šachové programy tedy počítají a prohledávají varianty a nepokoušejí se imitovat lidský přístup k myšlení. Už v roce 1997 byl mistr světa Garry Kasparov poražen superpočítačem Deep Blue od IBM a minimálně od té doby nikoho ani nenapadne považovat výhru počítače v šachu za znak inteligence strojů.

Proč by vlastně mělo být těžké akceptovat, že stroje myslí, nebo že v blízké budoucnosti budou schopny myslet? Turing se stal sám sobě oponentem a myšlenku myslícího stroje napadl několika argumenty, které dál zkoumal. Uvedu jen tři oblasti spolu s doplněnou Turingovou protiargumentací – pokud vás zajímá kompletní argumentace, je nejvhodnější si přečíst Turingův originál...

Teologická námitka

„Schopnost myslet je vlastností lidské nesmrtelné duše. Bůh dal nesmrtelnou duši pouze lidem, zvířata ani stroje ji nemají. Proto nemohou zvířata ani stroje myslet.“ Jeden ze silných protiargumentů tohoto tvrzení je zvráceně jednoduchý. Pokud lidé stvoří myslící stroj, tak si neuzurpují božské právo vdechnout svému stvoření duši o nic víc, než když se množí a mají děti. Lidé jsou v obou případech jen nástrojem božské vůle, když vytvářejí schránku pro duši (kterou stvořil Bůh). Každopádně, pokud trváte na tom, že k myšlení je duše nutná a nedokážete současně akceptovat stroj, který má duši, pak je otázka z názvu článku vyřešena. Stroje nemyslí a myslet nebudou. 

Matematická námitka

Matematické systémy stejně jako digitální počítače (Turingovy stroje) mají svoje hranice. U matematických systémů tyto hranice vytyčuje Gödelova věta o neúplnosti. Ta říká, že v jazyce matematiky existují tvrzení , která nelze dokázat ani vyvrátit. Příkladem takového tvrzení je tzv. hypotéza kontinua (viz též článek Nekonečno, reálná čísla a jak se z toho nezbláznit v sedmém čísle 067).

Pro naše úvahy je zásadnější, že digitální počítače „trpí“ podobným omezením, která není možné překonat. Některé problémy jsou pro ně tzv. nerozhodnutelné. Znamená to, že existují úlohy, pro které neexistuje žadný stroj, který by je dokázal vyřešit. Přikladem takové úlohy je tzv. Halting Problem: Známe-li program stroje a jeho vstup, rozhodněte, zda se stroj zastaví, nebo zda stroj bude provádět program navždy bez zastavení. Do stejné kategorie problémů patří na pochopení jednodušší Postův korespondenční problém.

Nerozhodnutelné problémy jsou pro počitač opravdovým limitem, žádné zrychlení počítače ani zvětšení paměti nepomůže, jde prostě o hranici, kterou stroje nedokážou překročit. To, že taková hranice existuje (jak pro stroje, tak pro matematické systémy) byl pro mnoho matematiků otřes, z kterého se nedokázali vzpamatovat.

Argument proti myslícím strojům je tedy ten, že v imitační hře, kde jsou povoleny pouze odpovědi ano/ne, bude muset stroj čelit otázkám, na které nedokáže pravdivě odpovědět. Tento argument je opravdu zčásti validní, ale pouze za předpokladu, že lidský intelekt žádné podobné omezení nemá (a v to můžeme pouze doufat...). Navíc ani lidé neodpovídají vždy pravdivě — ať už záměrně, nebo z neznalosti. Pokud tedy stroji povolíme v jistých situacích zalhat (speciálně v případech, které souvisejí s nerozhodnutelnými problémy), možná ho jen učiníme lidštějším.

Námitka týkající se spojitosti lidského nervového systému

Turing předpokládal, že lidský mozek nefunguje na principu „discrete state machine“ (stroje s nanejvýš spočetným počtem stavů), ale jako analogový systém. Lidský mozek a nervový systém podle Turinga tedy funguje jinak než digitální počítač. Argument proti myslícím strojům je tedy následující: Pokud je myšlení ukryto ve schopnosti lidské mysli pracovat „analogově“, pak se stroj (který má konečný počet stavů) nebude schopný nikdy člověku přiblížit.

Turing však tvrdí, že v imitační hře by hodnotitel rozdíl mezi analogovým systémem a strojem nepoznal, protože stroj dokáže analogový systém pro účely imitační hry velmi blízce napodobit.

Pokud mozek funguje opravdu analogově a my bychom chtěli vytvořit ekvivalentní stroj, tak se musíme vypořádat s problémem reprezentace nekonečně přesných reálných čísel, případně nespočetně velké paměti (opravdický analogový systém, který je výpočetně silnější než digitální počítač to potřebuje). Taková reálná čísla by měla být v průběhu výpočtu někde uvnitř stroje fyzicky uložena. To je pro současnou fyziku neřešitelný problém — na reprezentaci nekonečně přesných reálných čísel nebo na nekonečnou paměť prostě nenajdeme v našem vesmíru místo.

Ve skutečnosti jsou námitky „Spojitost nervového systému“ a „Matematická námitka“ velmi podobné – v obou případech tvrdíme, že myslící stroj musí být výpočetně silnější než současné digitální počítače (tj. Turingovy stroje). Oblast vědy, která se o takové „hypermachines“ zajímá, se jmenuje hypercomputing. Jde o ryze spekulativní a hypotetickou záležitost, která je sice velmi přitažlivá, ale prozatím spadá do stejné kategorie jako nadsvětelná rychlost nebo dělení nulou — pokud nepřevrátíme valnou část světa naruby, není to možné.

Turing věřil tomu, že i když zůstaneme u klasických digitálních počítačů, tedy vynecháme hypercomputing, tak pomocí technik strojového učení dosáhnou počítače v imitační hře vítězství. O tom, že se tak stane, už není třeba pochybovat – je jen otázkou času, jak rychle bude v imitační hře procento zaměnitelnosti strojů a lidí růst.

Strojové učení se opravdu za posledních několik let výrazně vylepšilo a ve skutečnosti jsme se už dostali do stavu, kdy počítače jsou schopny odvozovat fakta, která jejich lidští tvůrci nebyli schopni dohlédnout. Příkladem jsou učící se systémy určené k detekci podvodů při používání kreditních karet. Bezpečnostní systém je dnes schopen odhalit neoprávněné transakce ze změti dat, která jeho původním tvůrcům nic podezřelého neříkají. Stejně tak dokážou statisticky se učící doporučovací systémy najít při nákupu v e-shopu další zboží, které si k původní objednávce přikoupíte, aniž by vlastně někdo kromě stroje tušil, proč jde o nejvhodnější a fungující volbu. Stephen Hawking už dnes před nástupem myslících strojů varuje a hlasy, které se ozývají z laboratoří Googlu, nás připravují (jmenovitě Ray Kurzweil) na to, že v roce 2029 budou klasické digitální stroje schopny dělat vše to, co dnes dělají lidé. Tedy i myslet. Jen s tím rozdílem, že stroje v tom všem budou lepší.

Co máme tedy očekávat? Turingův spolupracovník I. J. Good popsal „explozi inteligence“ jako proces, kdy lidé stvoří první stroj, který překoná lidský intelekt každého člověka (ultraintelligent machine). Návrh další generace počítačů bude proveden tímto revolučním strojem a stejně tak se budou další generace strojů samy vylepšovat. Tímto způsobem se roztočí exploze (umělé) inteligence, která zanechá lidskou inteligenci daleko za sebou. Ten první ultrainteligentní stroj bude podle Gooda také posledním vynálezem lidstva, který kdy potřebovalo udělat — a nezbývá nám než doufat, že stroj bude natolik slušný, že zachová lidem poslušnost...

Ale jak jsme daleko dnes? Podařilo se už v Googlu, v IBM, v NSA nebo někde jinde nastartovat první ultrainteligentní stroj? Myslí už dnes stroje? Možná už ano a jen o tom zatím nevíme — kouzlo exploze inteligence je v tom, že první iterace exploze mohou proběhnout bez toho, aby ji lidé zaznamenali.

Ale pokud chcete opravdu uvěřit v existenci myslících strojů hned teď v současnosti, bez čekání na Kurzweillův rok 2029, stačí, abyste hypercomputing vyloučili v našem vesmíru jako nemožný a současně materialisticky odmítli teologický argument. Tím pak sami sebe nevyhnutelně odsoudíte do role Turingových strojů a je tedy jasné, že stroje už dávno myslí. A to nejlepší nakonec, výroba myslících strojů je za těchto předpokladů velká zábava, kterou zvládnete i bez Ph.D. v matematice.

::


Alan Mathison Turing (1912 – 1954) přispěl k rozvoji počítačů asi víc než kterýkoli jiný jedinec. Kromě toho, že sehrál důležitou roli ve válečném projektu, který umožnil rozluštit německý kód Enigma a kromě svých prací předznamenávajících umělou inteligenci, položil především základy tzv. matematické teorie programování. Díky myšlenkové konstrukci zvané Turingův stroj (což je vlastně abstraktní model počítače) lze rozhodovat o algoritmické řešitelnosti různých problémů a posuzovat stupeň jejich složitosti. Po válce se zajímal o matematické aspekty biologie a genetiky, kde dosáhl některých významných úspěchů. Jako homosexuál se dostal do konfliktu s tehdejšími mravnostními zákony, ztratil prověření pro práci s tajnými dokumenty, musel se podrobit hormonální terapii a hrozilo mu vězení. Ve věku 41 let spáchal sebevraždu pomocí otráveného jablka podle vzoru Sněhurky — Disneyova verze pohádky patřila k jeho oblíbeným filmům.

 
 
© 067, s.r.o.
Děkujeme všem platícím čtenářům! Umožňují nám a našim autorům vytvářet 067 tak, jak dovedeme nejlépe.