Cesty k umělé inteligenci: stroje, testy a zombie

Umělá inteligence je na jednu stranu oborem zcela praktickým, který zahrnuje třeba robotiku nebo tvorbu expertních systémů. Nám však půjde spíše o teoretičtější aspekt věci, respektive obecnou rovinu problému. Kdy můžeme nějaký systém prohlásit za inteligentní?

Soustředíme se na jeden z možných přístupů k této otázce, který představuje Turingův test. Na téma se zkusíme podívat ještě z několika dalších úhlů, na scénu tedy vstoupí Turingovy stroje, Gödelovy věty, paradox Čínského pokoje či všemožné druhy zombií. Na naše otázky odpovídá prof. RNDr. Jaroslav Peregrin, CSc., matematik, vědecký pracovník Filozofického ústavu AV ČR a vedoucí katedry logiky na pražské FF UK. Zabývá se především sémantikou, analytickou filozofií a filozofií logiky.

Jak se díváte na Turingův test po zhruba padesáti letech od chvíle, kdy byl poprvé navržen?

Myslím, že Turingův test rozhodně ani dnes neztrácí na zajímavosti. Pozoruhodné je, že na jedné straně existuje celá řada vědců a filozofů, kteří ho považují za příliš „měkký“ – připsat počítači myšlení jen na základě toho, že tímto testem projde, považují za absurdní. Na straně druhé se naše počítače, navzdory fantastickému technologickému pokroku, který se během padesáti let od Turingovy formulace tohoto problému odehrál, ani zdaleka nepřibližují něčemu, co by toho bylo schopno.

Teď vaší odpovědi úplně nerozumím. Cožpak to, že některé konverzační („chatovací“) programy pokládají jejich partneři za živé lidi, není vlastně splněním testu? Co se přesně musí stát, abychom test prohlásili za splněný (například s ohledem na sázky, které jsou v této souvislosti uzavřeny).

Ukazuje se, že ač hrát úlohu člověka v mnohých omezených kontextech je pro počítač až překvapivě snadné, dokázat „lidsky“ reagovat na jakoukoli představitelnou otázku je zatím daleko mimo dosah jakéhokoli stroje, který bychom dokázali zkonstruovat. Legendární program ELIZA, který simuloval psychiatra, své pacienty úspěšně balamutil, přestože se celý vešel na jedinou disketu. Podobně není velký problém sestrojit třeba program, který bude lidem sdělovat informace o odjezdech vlaků, aniž většina z nich pozná, že to není člověk. V rámci Turingova testu však musí stroj prokázat, že se dovede „lidsky“ bavit naprosto o čemkoli, a to je, jak se ukazuje, neskonale obtížné.

V roce 1991 vyhlásil mecenáš Hugh Loebner, že prvnímu počítači, který Turingovým testem projde, udělí cenu ve výši sto tisíc dolarů, takže o motivaci je postaráno. Od té doby se každoročně koná soutěž; žádný počítač se ale dosud úspěchu v této soutěži ani nepřiblížil. Flexibilita, s níž je člověk schopen reagovat na nejrůznější druhy otázek, je zřejmě mnohem větší, než se na první pohled zdá.

Je relevantním argumentem proti turingovskému pohledu na myšlení Searlův Čínský pokoj?

John Searle patří k těm, kdo se domnívají, že Turingův test je scestný, protože i kdyby jím počítač nakrásně prošel, říkat o něm, že myslí, by bylo absurdní – počítač podle Searla nemůže skutečně myslet, ale myšlení jenom mechanicky napodobovat. Searlův myšlenkový experiment s Čínským pokojem má prokázat právě tento přístup. Stal se asi nejdiskutovanějším tématem filozofie umělé inteligence posledních desetiletí.

Představte si, říká Searle, pokoj, ve kterém sedí člověk vybavený příručkami, podle kterých je schopen sestavit smysluplnou čínskou odpověď na jakoukoli čínskou otázku, kterou mu někdo okénkem podá – a to aniž by sám rozuměl slovo čínsky. Ten pokoj s tím člověkem uvnitř se tedy z hlediska Turingova testu chová docela jako Číňan; ale podle Searla by bylo absurdní říkat, že rozumí čínsky. Takže něco jiného je rozumět a něco jiného je imitovat porozumění.

Já osobně se ovšem domnívám, že slovo „myslet“ fakticky užíváme v tom významu, ve kterém je správnost jeho aplikace na danou entitu čistě záležitostí projevů této entity (pochopitelně – jaká jiná kritéria by připadala v úvahu?) Já jsem si například jist, že lidé, které dobře znám, skutečně myslí (tedy samozřejmě „jist“ v tom smyslu, v jakém si člověk něčím ve světě kolem sebe vůbec jist být může). A kdyby někdo odhalil, že můj nejlepší přítel nemá v hlavě mozek, ale soustavu mikročipů, byl by to pro mě šok, ale kdyby se tento člověk (robot?) nadále choval tak, jak jsem na to zvyklý, jistě bych ho i já nadále bral jako myslící bytost (a jako svého přítele). Z toho se mi zdá zřejmé, že mechanismus, který stojí za chováním, není z hlediska posuzování toho, zda je toto chování rozumné a zda příslušná entita myslí, rozhodující.

Pokud jde o onen Čínský pokoj, mám pocit, že je třeba si uvědomit, jak komplikovaná by pravidla pro sestavování smysluplné odpovědi na jakoukoli smysluplnou otázku musela být. Představa, že by to mohl uskutečnit člověk za pomoci příruční knihovny, se mi jeví být naprosto nerealistická. Zdá se mi, že jedinou možností, jak by to mohlo skutečně fungovat, by bylo, aby dotyčný člověk měl v pokoji nikoliv knihovnu, ale velice výkonný počítač – s velice obsáhlými databázemi a s velice sofistikovaným softwarem. Samotný člověk by tam pak už byl fakticky zbytečný, vše by obstaral počítačový systém, který bych se ale pak já osobně nerozpakoval nazývat umělou inteligencí.

Co říkáte na možnost existence různých druhů zombií, s nimiž někteří filozofové rádi provádějí své myšlenkové experimenty?

Abychom předešli nedorozumění: zombie v tomto smyslu není ten výtvor hollywoodských filmů, s nepřítomným výrazem, popelavou pletí a náměsíčnými pohyby – tady je zombie podle definice entita, která se z vnějšího pohledu ani v nejmenším neliší od normálního člověka. Odlišuje se od něj pouze jaksi zevnitř, tím, že nemá vědomí.

Jak se zombie vztahují k Turingově testu a umělé inteligenci? Jestli totiž může zombie existovat, pak může existovat něco, co projde Turingovým testem, aniž to má vědomí – a tudíž to v normálním slova smyslu nemůže myslet. Otázka, zda existuje tento druh zombií, je tedy ekvivalentní otázce, zda je možné, aby se něco chovalo ve všech ohledech jako vědomá bytost, a přitom to vědomí postrádalo.

Souhlasíte tedy s Turingem (a například i se Stephenem Hawkingem), že vědomí není kvalita, kterou by se měla věda zabývat? Nikdy nemáme jistotu, že všichni kromě nás nejsou zombie. Proto má smysl hovořit pouze o inteligenci, a tu poznáme na základě chování systému navenek. A tudíž – z hlediska konstrukce umělé inteligence – je pro nás Turingův test či počítačová imitace myšlení plně postačující. Jste stejného názoru?

V podstatě ano, ale musíme být opatrní, pokud jde o smysl výrazu „zabývat se vědomím“. Věda se samozřejmě vědomím zabývá – v tom smyslu, že se zabývá určitými projevy organismů, které chápe jako vědomé. Lidé jako D. J. Chalmers ale, jak se zdá, trvají na tom, že i když prozkoumáme všechny možné takové projevy, zůstává stále ještě otázka, zda je vědomí „skutečně přítomno“.

Když se ale podíváte na nějakou knihu, ve které se existencí vědomí zabývají vědci (a nikoli filozofové), jako je například Crickova Věda hledá duši, uvidíte, že stavět otázku tak jako Chalmers jim vůbec nepřijde na mysl. Pro Cricka prostě vědomí nemůže být ničím jiným než určitou formou (objektivně studovatelné) činnosti mozku nebo jiného systému – jde jenom o to přijít na to jakou.

Co s Penrosovou námitkou, podle které počítače nejsou schopny matematického důkazu? Spočívá rozdíl mezi člověkem a strojem trochu paradoxně právě v tak „strojové“ oblasti, jako je matematika?

Mně osobně se ani tato námitka se nezdá být příliš přesvědčivá: podle mne vychází z interpretace Gödelovy věty, která je přinejmenším problematická. Gödel dokázal, že pro formální aritmetiku nemůžeme nikdy stanovit axiomatický systém, ze kterého by byl každý výrok, jenž je v tomto jazyce formulovatelný, dokazatelný nebo vyvratitelný. Z toho se vyvozuje, že existují aritmetické výroky, které jsou pravdivé, ale nedokazatelné. A Roger Penrose z toho dále vyvozuje, že k pravdivosti takových výroků se může dopracovat (nějakými nepopsatelnými cestami) jedině lidský rozum, nikoli stroj, omezený na dokazování.

To je ovšem problematický závěr. Každá učebnice matematické logiky nám dokládá, proč musí být gödelovská formule (to jest formule, která v přesně vymezeném smyslu „sama o sobe říká“, že je nedokazatelná), která není ve standardním axiomatickém systému aritmetiky dokazatelná ani vyvratitelná, pravdivá – nabízí tedy v tomto smyslu její důkaz. Jistě, není to důkaz ve smyslu, v jakém jsme si zvykli termín „důkaz“ v matematické logice používat, avšak tvrdit, že se k její pravdivosti dopracováváme jakýmsi šestým smyslem („nealgoritmicky“, jak říká Penrose), se mi jeví jako absurdní.

Zdá se mi tedy, že při vyvozování takto bezprostředních filozofických důsledků z Gödelovy věty musíme být opatrnější, než je Penrose. Trvá-li však někdo na její bezprostředně filozofické interpretaci, pak mohou nabídnout i jinou než tu Penrosovu: logik Chaim Gaifman nedávno konstatoval, že Gödelova věta namísto Penrosova „nejsme stroje“ ukazuje, že „jsme stroje, které nemohou vědět, že jsou stroje“.

Abych to ještě trochu přiblížil – v dostatečně složitých systémech totiž určité věci dokázat prostě nejdou, například v rámci systému aritmetiky nemůžeme dokázat, že je aritmetika vnitřně konzistentní (bezrozporná). Ba co víc, pokud bychom něco takového v tomto systému náhodou dokázali, ve skutečnosti by to znamenalo opak – tedy že konzistentní není. Takže je docela dobře možné, že jsme-li stroje, není v našich silách to prokázat (což je trochu slabý důvod pro to, abychom se na ty stroje, o kterých víme, že to jsou stroje, dívali skrz prsty). To už ale zabíháme od tématu umělé inteligence spíše do oblasti logických paradoxů.

Přetištěno se svolením autora

Předpokládám tedy, že ani Penrosovu ideu o lidském mozku jako kvantovém počítači nepokládáte za příliš nosnou...

„Kvantovým počítačem“ je v jistém smyslu cokoli – cokoli se totiž skládá ze subatomárních částic, na jejichž úrovni vyvstávají kvantové efekty. Idea kvantového počítače spočívá v tom, že se nám tyto efekty, probíhající v nějakém kusu hmoty, podaří přimět, aby fungovaly v našich službách, aby počítaly to, co my potřebujeme spočítat.

Z tohoto hlediska mi není úplně jasné, co má vlastně ztotožňování mozku s kvantovým počítačem znamenat – má-li být mozek kvantovým počítačem, potom, nakolik tomu termínu rozumím, musejí být kvantové efekty, ke kterým v mozku na subatomární úrovni v každém případě dochází, usměrněny aby pracovaly pro ... ale koho? Majitele tohoto mozku? Ale kdo to pak tento majitel je, není-li jeho mozek jeho součástí, ale jenom jeho nástrojem? Nějaký, jak říkal anglický filozof Gilbert Ryle, „duch ve stroji“?

Jaký máte názor na koncepce, které zdůrazňují „vtělenost“ mysli, jak je prezentuje například kniha Descartesův omyl?

Myslím, že mysl je skutečně v podstatném slova smyslu vtělená. Z tohoto hlediska tedy může být Turingův test přece jenom nemístně omezený – možná, že myšlení skutečně není věcí natolik omezenou na mozek, aby mohl počítač ve skutečném slova smyslu myslet, nemá-li něco srovnatelného s naším tělem.