Student World

„Computing Machinery and Intelligence“ (Výpočetní stroje a inteligence), Turingův nejznámější a po mnoha stránkách nejpodivnější článek, otiskl v roce 1950 filozofický časopis Mind. Zatímco zprávu pro NPL začal Turing pravděpodobnými námitkami, zde si nechal seznam možných námitek proti inteligenci počítačů na později a nejprve jasně vymezil svůj záměr. „Hodlám se zabývat otázkou, zda mohou stroje myslet. Nejprve by mělo být určeno, co znamenají termíny „stroj“ a „myslet“.“ Jestliže významy těchto slov mají být „určeny podle toho, jak jsou běžně používány, lze se jen stěží vyhnout závěru, že odpověď na otázku: „Mohou stroje myslet?“ je třeba hledat pomocí nějakého statistického průzkumu veřejného mínění, jaké provádí například Gallupův ústav.“ Taková myšlenka byla ale z Turingova pohledu „absurdní“.

***
Tento text je úryvkem z knihy
David Leavitt: Muž, který věděl příliš mnoho
Alan Turing a první počítač
***

Místo toho, aby podal vlastní definice, přeformuloval Turing otázku pomocí toho, čemu říkal imitační hra. Ta se později stala známá jako Turingův test, stejně jako se a–stroji z článku „On Computable Numbers“ začalo říkat Turingův stroj. Imitační hru, jak Turing vysvětluje,

„…hrají tři lidé, muž (A), žena (B) a moderátor (C), který může být jakéhokoli pohlaví. Moderátor zůstává v místnosti oddělené od ostatních dvou hráčů. Úkolem moderátora je určit, kdo z obou hráčů je muž a kdo žena. Zná je pod označením X a Y a na konci hry řekne buď „X je A a Y je B“, nebo „X je B a Y je A“. Moderátor se může ptát A a B takto:
C: Mohlo by mi X sdělit délku svých vlasů?
Předpokládejme nyní, že X je A, takže A musí odpovědět. Úkolem A je mást C tak, aby provedl chybnou identifikaci. Může proto odpovědět:
„Mám dlouhé blond vlasy.“
Aby moderátorovi nepomáhal tón hlasu, musí být odpovědi napsány, nejlépe na psacím stroji. Ideální by bylo dálnopisné spojení mezi oběma místnostmi. Otázky a odpovědi mohou být případně předávány pomocí prostředníka. Úkolem třetího hráče (B) je napovídat moderátorovi. Pravděpodobně nejlepší strategií pro ženu je odpovídat správně. Může ke své odpovědi třeba dodat: „Jsem žena, nevěř mu!“, ale ani to mnoho neznamená, protože muž může říci něco podobného.
Nyní se můžeme zeptat, co se stane, když stroj převezme úlohu A v této hře? Rozhodne se pak moderátor stejně tak často špatně, jako kdyby hru hrál muž a žena? Tyto otázky nahradily původní otázku: „Mohou stroje myslet?“

V článku „On Computable Numbers“ Turing dokázal, že Entscheidungsproblem je neřešitelný díky důmyslnému nahrazení složité otázky: „Může stroj rozhodnout, zda je nějaké tvrzení dokazatelné?“ otázkou jednodušší: „Vytiskne někdy určitý stroj znak 0?“ Podobným způsobem v článku „Computing Machinery and Intelligence“ přišel s tím, že složitou otázku: „Mohou stroje myslet?“ by mohla nahradit jednodušší otázka: „Může stroj uspět v imitační hře?“ Obě tyto otázky byly podle Turinga identické, protože nerozlišitelné chování podle něj bylo totožné s identitou. Ale aplikovaní matematicky přesného pojmu identity na něco tak nejasného, jako je „člověk“, s sebou neslo nejrůznější námitky a problémy.
Například víceznačnost Turingovy otázky: „Co se stane, když stroj převezme roli A?“ byla příčinou mnoha diskusí. Chtěl Turing vyjádřit, že hra by měla být hrána mezi člověkem a strojem místo toho, aby byla hrána mezi mužem a ženou? Zbytek článku by, jak se zdá, odpovídal této interpretaci. Doslovné čtení tohoto odstavce ale nabízí rozdílný význam: hra by měla být hrána mezi ženou a počítačem vydávajícím se za muže vydávajícího se za ženu. Hodges pro tento způsob čtení neměl příliš pochopení a napsal dokonce, že „Turingova analogie s určováním pohlaví zeslabuje jeho vlastnímu argument…“ Koneckonců, jak Hodges ukazuje, oddíl, který následuje po tomto problematickém odstavci, se zabývá pouze způsoby, kterými by stroj mohl moderátora (nebo moderátorku) přimět k přesvědčení, že komunikuje s člověkem – ať už mužem nebo ženou:

„Tento nový problém má tu výhodu, že poměrně ostře odděluje fyzické a intelektuální schopnosti člověka. Žádný inženýr nebo chemik nedokáže vytvořit materiál, který by byl k nerozeznání od lidské kůže. Není vyloučeno, že něco takového bude někdy vytvořeno, ale i kdybychom takový materiál měli, nemělo by téměř žádný význam polidšťovat „myslící stroj“ tím, že bychom jej oděli do umělé kůže. Způsob, kterým jsme celý problém postavili, odráží tuto skutečnost v podmínkách, které moderátorovi neumožňují vidět ostatní hráče, dotýkat se jich nebo slyšet jejich hlasy. Některé další výhody navrhovaného kritéria se mohou ukázat na následujících vzorových otázkách a odpovědích:
Q: Napište mi, prosím, sonet o Forth Bridge [historický most].
A: To po mně nechtějte. Nikdy jsem nepsal básně.
Q: Sečtěte 34 957 a 76 764.
A: (Odmlčí se na 30 sekund a potom podá odpověď) 105 621.
Q: Hrajete šachy?
A: Ano.
Q: Mám krále na e1 a žádnou jinou figurku. Vy máte krále na e3 a věž na h8. Jaký uděláte tah?
A: (Po patnáctisekundové odmlce) Věž na h1, mat.“
Hodges správně podotýká, že pohlaví tu nehraje žádnou roli (včetně nepravdivých dodatků k odpovědím). Přesto by ale neměl být opomíjen podtext Turingovi dvojznačnosti, protože by se tím také ztrácel naléhavý tón sexuální úzkosti přítomný v celém jeho článku. Například jen několik odstavců za výše citovaným dialogem Turing píše: „Lze tvrdit, že při hraní „imitační hry“ může být nejlepší strategií stroje něco jiného než napodobovat chování muže… Nemám zde v úmyslu zabývat se teorií této hry, ale dá se předpokládat, že nejlepší strategií by bylo odpovídat tak, jak by přirozeně odpovídal muž.“ [Vzhledem k dalšímu autorovu výkladu zde překládáme jako „muž“, významu původního Turingova článku by ovšem odpovídalo spíše „člověk“. Viz též poznámka autora v dalším textu.] Zkoušet „odpovídat tak, jak by přirozeně odpovídal muž“ by ovšem byla také nejlepší strategie pro homosexuála, který by se moderátora snažil přesvědčit, že je heterosexuál. V této alternativní verzi imitační hry by mluvil o kriketu a popisoval by ženu, se kterou by se rád oženil. Přestože tato paralela může být nahodilá – slovo „man“ může v angličtině znamenat nejen „muž“, ale i prostě „člověk“ – Turingem použité slovo „přirozeně“ (naturally) svědčí o v dané situaci nepřiměřeném důrazu na „přirozenost“. Argumenty týkající se přirozenosti nebo nepřirozenosti homosexuality se objevovaly jak ve slovních útocích proti homosexuálům, tak v apologiích homosexuality psaných od doby, kdy Oscar Wilde prosazoval umělost jako ironickou obranu „nepřirozené“ lásky.
Turingovo zaujetí otázkou pohlaví se v článku ještě několikrát vrací. Ve třetím oddíle končí úvaha o tom, co přesně definuje nějaký „stroj“, poněkud bizarní výhradou, že

„mezi stroje nepatří lidé narození běžným způsobem.
Je těžké formulovat tuto definici tak, aby byla splněna [tato podmínka]. Někdo by například mohl vyžadovat, aby tým inženýrů tvořili jedinci stejného pohlaví, ale to by ve skutečnosti nestačilo, protože je pravděpodobně možné vytvořit nějakého jedince z jediné kožní (řekněme) buňky. Kdyby se to někomu podařilo, byl by to velice záslužný biologicko–technologický počin, ale nepovažovali bychom to za případ „konstrukce myslícího stroje“.“

Jde tu snad o to, že tým inženýrů „stejného pohlaví“ by se mohl spojit a v jakési klonovací orgii vytvořit dítě? To je zvláštní fantazie používající vědecký rámec pro představu, jak by si muži bez žen mohli vytvářet potomstvo. Turing toužil po svém vlastním dítěti – počítači. Není proto s podivem, že se v článku brzy vrací k metafoře výchovy a vzdělávání dítěte a používá „rodinné analogie“ k popisu způsobů, jimiž se má stroj naučit, aby se neřídil „vždy novými instrukcemi při každém opakování, ale stále stejnými“:

„Dejme tomu, že matka chce, aby se Tommy každé ráno cestou do školy zastavil u ševce a zjistil, zda jsou její boty už hotovy. Může jej o to vždy znovu žádat každé ráno, nebo může jednou do předsíně pověsit lístek, který mu vždy, než půjde do školy, připomene, že se má zastavit u ševce, a zničit lístek poté, co se syn vrátí domů se spravenými botami.“

„Tommy“ je tu vlastně počítač, potomek skupiny inženýrů, kteří se vyhnuli klonování a dali přednost jinému druhu spolupráce – možná takové vědecké spolupráce, které si Turing tolik vážil během svého přátelství s Christopherem Morcomem. Důležité je, že Tommy je počítač digitální. Podle Turingova mínění se pouze digitální počítač – univerzální stroj – může pokoušet vždy vyhrát imitační hru.

„Věřím tomu, že asi za padesát let bude možné programovat počítače s kapacitou paměti asi 10 na 9 bitů, které budou schopny hrát imitační hru tak dobře, že průměrný moderátor nebude mít ani sedmdesátiprocentní šanci, že po pěti minutách dotazování správně identifikuje dotazované.“

Jemná, ale zřetelná úzkost týkající se pohlaví, sexuální imitace a dokonce homosexuálního plození dětí se projevila v Turingově „oficiálním“ argumentu pro inteligenci strojů. Odkud se však vzala? Odpověď můžeme hledat ve výrocích Sira Geoffrey Jeffersona, jejichž lehce maskulinní tón Turing zesměšnil ve svém textu, kde rovněž zpochybnil Jeffersonův „humanistický“ postoj. Je to obzvláště patrné přibližně v polovině článku „Computing Machinery and Intelligence“, kde Turing opět zaujal strategii vyjmenovávání a vyvracení námitek, které mohou vyvstat v souvislosti s inteligencí strojů. Ačkoli se jméno profesora Jeffersona objeví až u čtvrté námitky – „argumentu vědomí“ – na jeho myšlenky Turing naráží a zesměšňuje je už od samého začátku textu.
Například při vyvrácení první „teologické“ námitky, že „Bůh dal nesmrtelnou duši každému muži a ženě, ale nikoli zvířatům nebo strojům“, Turing zpochybňuje implicitní nadřazenost lidí, která poskytla základ pro Jeffersonovy slovní útoky, a poznamenává: „Tento argument bych shledal mnohem přesvědčivějším, kdyby byla zvířata zařazena do stejné třídy jako lidé, protože je podle mne mnohem větší rozdíl mezi něčím živým a neživým než mezi člověkem a ostatními zvířaty.“ Jak se křesťané vypořádávají s „muslimským názorem, že ženy nemají duši“? Tím, že se dovolává práv nejen žen, ale i zvířat, se Turing (a jeho počítač) přidává k bytostem, které trpěly v područí náboženství, jež považovalo nadřazenost muže (v případě islámu) a lidstva (ve případě křesťanství) za samozřejmost. Proti tomu staví svou poněkud zvláštní teologii, která žehná strojům a jejich konstruování staví na roveň plození dětí: „Při konstruování těchto strojů bychom si neměli neuctivě přisvojovat Jeho stvořitelskou sílu více než při plození dětí. Spíše jsme v obou případech nástroji Jeho vůle a zajišťujeme příbytky pro duše, které tvoří On.“
Ještě ostřeji argumentuje Turing proti vrozené nadřazenosti lidí při vyvracení druhé námitky, kterou nazývá „Hlavy v písku“ a shrnuje ji takto: „Kdyby stroje myslely, mělo by to katastrofální následky. Doufejme a věřme, že to nedokážou.“ To byla pozice, kterou bezděčně zaujímal Norbert Wiener v některých svých publikacích. Turingova reakce se přitom obracela také proti Jeffersonovi. Pocit, že lidé jsou „nutně nadřazeni“ zbytku stvoření „je vlastní především intelektuálům, protože ti si cení myšlení mnohem více než ostatní lidé a mají větší tendenci zakládat své přesvědčení o nadřazenosti člověka právě na této schopnosti“. Svými narážkami na Shakespeara se Jefferson řadil mezi „intelektuály“, pro jejichž sklon vyzdvihovat svůj vlastní druh neměl Turing mnoho pochopení. V tomto bodě se Turing vrací ke své odpovědi na třetí, „matematickou námitku“, která je v podstatě argumentem (parafrázovaným ve zprávě pro NPL) o tom, že jeho vlastní řešení problému rozhodnutelnosti v souladu s Gödelovými objevy dokazuje, „že jsou určité věci, které… stroj nedokáže“. Turing byl zjevně znepokojen možností, že by jeho řešení problému rozhodnutelnosti mohlo být použito proti stroji, k jehož vytvoření jej Entscheidungsproblem inspiroval. Na tuto námitku reaguje tak, že se zaměřuje přímo na psychologii „komplexu nadřazenosti“ lidí (obzvláště intelektuálů) a chytře poznamenává, že když stroj podá špatnou odpověď na

„…příslušnou kritickou otázku… dá nám to určitý pocit nadřazenosti. Je tento pocit iluzorní? Není pochyb o tom, že je oprávněný, ale nemyslím si, že by mu měla být přikládána velká důležitost. My sami také často dáváme špatné odpovědi, což si omlouváme tím, že s velkým potěšením sledujeme podobnou omylnost na straně strojů. Nadřazenost navíc můžeme cítit i v případech, když získáme nepatrnou převahu nad jedním strojem. Nepřichází ovšem v úvahu, že bychom zvítězili nad všemi stroji najednou.“

Zdá se, že se zde Turing mírně vysmívá obavám pana Illtyda Trethowana z „možné vzpoury strojů“. Nad všemi stroji bychom totiž nemohli zvítězit. Vyvrácení této námitky mu navíc poskytuje příležitost znovu opakovat klíčovou myšlenku, že omylnost je nezbytnou součástí inteligence.
Při vyvracení čtvrté námitky – „argumentu vědomí“ – se Turing přímo obrací na Jeffersona, jehož napřed cituje a potom mu adresuje jednu ze svých nejdůvtipnějších odpovědí:

„Zdá se, že tento argument popírá platnost našeho testu. Podle nejkrajnější verze tohoto názoru si člověk může být jist tím, že stroj myslí, pouze tehdy, jestliže se sám stane strojem a uvědomí si při tom své myšlení… Podobně je podle tohoto názoru potřeba být člověkem, aby někdo věděl, že člověk myslí. To je v podstatě solipsistické hledisko. Může to být hledisko nejlogičtější, ale brání komunikaci a výměně názorů. A se domnívá: „A myslí, ale B nikoli,“ zatímco B soudí: „B myslí, ale A nikoli.“ Namísto nekonečných třenic bývá v takových případech zvykem zdvořile se dohodnout, že přemýšlejí oba.“

Turing k tomu trefně dodává, že si je „jist, že profesor Jefferson si nepřeje zastávat extrémní a solipsistické stanovisko“. Potom srovnává svou vlastní imitační hru se hrou zvanou viva voce, jejímž účelem je „zjistit, zda někdo něčemu opravdu rozumí, nebo zda jen papouškuje“. Zajímavé je, že příklad viva voce, který Turing podává, je plný literárních odkazů. Tazatel se nejprve ptá na Shakespeara a potom na Dickense. Podstatné je, že v imitační hře se také zjišťuje, zda někdo něco „papouškuje“. Od viva voce se liší jenom tím, že testovanou osobou je stroj. Není náhodou, že literatura hraje ve viva voce tak důležitou roli, protože ji pravděpodobně vytvořil člověk, který se podobně jako Jefferson prohlašoval za intelektuála. Skutečný intelektuál by se ale určitě raději vzdal argumentu vědomí „než aby byl nucen zastávat solipsistické stanovisko“.
Když se zbavil Jeffersona (alespoň jeho jméno se už v článku dále nevyskytuje), vyjmenovává Turing celou skupinu námitek, kterým říká „argumenty různých neschopností“. Tyto námitky mají podobu: „Připouštím, že můžete vytvořit stroje, které dovedou vše, co jste zmínil, ale nikdy se vám nepodaří vytvořit takový stroj, který dokáže X.“ Potom podává poněkud ironický výčet:

„Být přívětivý, vynalézavý, krásný, přátelský, iniciativní, mít smysl pro humor, rozeznávat dobré od špatného, dělat chyby, zamilovat se, pochutnávat si na jahodách a zmrzlině, způsobit, aby se někdo zamiloval do něj, učit se ze zkušenosti, volit správná slova, přemýšlet o sobě, měnit způsoby chování jako člověk, přijít s něčím opravdu novým.“

Jak Turing poznamenává, „pro tato tvrzení obvykle nejsou podány žádné důkazy“. Většina z nich

„…se zakládá na principu indukce, kterou používáme ve vědě… Lidské činnosti a zvyky se ale pro aplikaci tohoto druhu indukce nezdají být příliš vhodným materiálem. Má-li být dosaženo spolehlivých výsledků, je třeba prozkoumat velkou část časoprostoru. Jinak bychom se mohli domnívat (jako většina anglických dětí), že všichni mluví anglicky a je nesmyslné učit se francouzsky.“

Turingovo odmítnutí indukce používané ve vědě však není jen narážkou na izolovanost a omezenost Angličanů. Jeho záměr byl mnohem hlubší: upozornit na nekonečný regres, do kterého se pravděpodobně dostaneme, když použijeme určitou neschopnost (například neschopnost nějakého muže být přitahován ženami) jako rozhodující faktor při definování inteligence. O tom, že otázka homosexuality neopouštěla Turingovu mysl, svědčí i to, co napsal v následujícím odstavci:

„Je však třeba učinit zvláštní poznámky k mnoha zmíněným neschopnostem. Neschopnost pochutnávat si na jahodách a zmrzlině se čtenáři může zdát být lehkovážná. Pravděpodobně by bylo možné vyrobit stroj, který by si tyto pochoutky vychutnával, ale pokoušet se o to by bylo slabomyslné. Na této neschopnosti je důležité spíše to, že se podílí na některých dalších neschopnostech, například na tom, že je těžké, aby vztah mezi člověkem a strojem byl stejný jako vztah mezi dvěma bělochy, nebo mezi dvěma černochy.“

…

„Tvrzení, že „stroje nemohou dělat chyby“, se zdá být zvláštní… Myslím, že tuto kritiku lze objasnit pomocí imitační hry, v níž má dotazující rozlišit člověka od stroje pouze tím, že jim položí několik otázek z oblasti aritmetiky. Stroj bude odhalen díky své neomylné přesnosti. Na to lze ale namítnout, že stroj (naprogramovaný pro hraní této hry) nemusí dávat správné odpovědi na aritmetické otázky. Může se dokonce záměrně při výpočtu dopouštět chyb jen proto, aby dotazujícího zmátl.“

„Chybné fungování“ je třeba odlišit od „chybných závěrů“. Také nelze tvrdit, že stroje nejsou schopny podvádět. Námitka, „že stroje nemohou měnit způsoby chování, je jen jiným vyjádřením toho, že nemají dostatečně velkou paměť“.
Turing uzavírá svůj výčet možných námitek proti myslícím strojům čtyřmi poněkud kuriózními příklady. První z nich, který nazývá „námitka Lady Lovelaceové“ (odkazující na Byronovu dceru a Babbageovu múzu), spočívá v tom, že počítače nemohou nic „podnítit“. Místo toho (a zde Turing cituje Lady Lovelaceovou ) „počítač může dělat všechno, co mu dokážeme zadat.“ Jak ale Turing ukazuje, v praxi počítače člověka neustále něčím překvapují. Potom Turing vyvrací „argument kontinuity nervového systému“. Přestože je pravda, že oddělené stavy stroje nemohou napodobit chování nervového systému, „při dodržování podmínek imitační hry nebude mít dotazující kvůli tomuto rozdílu žádnou výhodu“. Turing pak přechází k „argumentu neformálního chování“: „Kdyby se lidé chovali podle určitého počtu pravidel, nebyli by o nic lepší než stroje. Taková pravidla však neexistují, proto lidé nemohou být jako stroje.“ Na tuto námitku Turing odpovídá nejprve rozlišením mezi „pravidly chování“ a „zákony chování“, kterými se pravděpodobně řídí stroje. Potom ukazuje, že „pro nás není tak snadné přesvědčit se o absenci všech zákonů chování jako o absenci všech pravidel chování“. Jak příklad uvádí následující experiment:

„Vytvořil jsem na manchesterském počítači malý program používající pouze 1 000 jednotek paměti. Je-li do počítače vloženo šestnáctimístné číslo, vygeneruje během dvou sekund jiné číslo. Vyzývám každého, aby se podle těchto vygenerovaných čísel dostatečně poučil o tomto programu a byl pak schopen předpovídat, jak bude počítač reagovat na dosud nezadaná čísla.“

Poslední a nejpodivnější námitka, se kterou se Turing vypořádává, je argument „mimosmyslového vnímání“, který zahajuje překvapivě důvěřivým popisem telepatie, jasnovidnosti, předvídání budoucnosti a telekineze. O těchto jevech píše: „Statistické důkazy, přinejmenším pokud jde o telepatii, jsou bohužel nevyvratitelné. Je velmi složité přizpůsobit naše myšlení těmto novým skutečnostem.“ Aniž by udal zdroj tohoto „nevyvratitelného“ důkazu, Turing dále přichází se „silným“ argumentem mimosmyslového vnímání proti vítězství stroje v imitační hře:

„Dejme tomu, že budeme hrát imitační hru, kde dotazovanými budou dobrý telepat a digitální počítač. Dotazující může pokládat otázky jako: „Jakou barvu má karta, kterou držím v pravé ruce?“ Telepat odpoví správně ve 130 případech ze 400. Počítač může pouze náhodně tipovat a dát řekněme 104 správných odpovědí, takže jej dotazující správně identifikuje.“

Tato situace nabízí podle Turinga „zajímavou možnost“ vybavit digitální počítač, který by se účastnil této hry, generátorem náhodných čísel.

„Ten by se potom samozřejmě dal použít při rozhodování, jakou odpověď podat. Pak by ale tento generátor náhodných čísel mohl být vystaven telekinetickým schopnostem tazatele. Tato telekineze by mohla způsobit, že stroj bude odpovídat správně častěji, než by se dalo očekávat na základě vypočítané pravděpodobnosti, takže dotazující jej nebude schopen správně identifikovat. Na druhou stranu ovšem může dotazující provést identifikaci i bez dotazů, pouze pomocí jasnovidnosti. V případě mimosmyslového vnímání je možné cokoli.“

Místo toho, aby tuto námitku vyvrátil, Turing pouze konstatuje, že nejlepším řešením by bylo umístit soutěžící do „telepaticky nepropustných místností“ – ať už to znamená cokoli. Bylo by zajímavé zjistit, co si asi mysleli redaktoři tak důstojného vědeckého časopisu, jako je Mind, o tomto bizarním okouzlení pseudovědou…

Tento text je úryvkem z knihy
David Leavitt: Muž, který věděl příliš mnoho
Alan Turing a první počítač
Dokořán a Argo, 2007

podrobnosti o knize na stránkách vydavatele

autor