Kapitolu o UI bych rád zakončil deseti „otázkami a spekulacemi“. Nejsem tak troufalý, abych to nazval „otázky a odpovědi“ – jsou to jen mé osobní názory, a až se toho dozvíme více a UI projde dalším vývojem, klidně se mohou změnit. (V následujících pasážích termínem „program UI“ míním program, který je před dnešními programy daleko vpředu; znamená to program „určitě inteligentní“. Také slova „program“ a „počítač“ mají pravděpodobně příliš mechanistické konotace, nicméně se jich přidržíme.)
Otázka: Napíše někdy počítačový program krásnou hudbu?
Spekulace: Ano, ale nijak brzy to nebude. Hudba je jazykem emocí a dokud nebudou mít programy stejně složité emoce jako my, není možné, aby napsaly cokoli krásného. Mohou zvládnout „padělky“ – povrchní imitace syntaxe předchozí hudby – avšak navzdory povrchním domněnkám se v hudebním vyjádření skrývá mnohem více, než je možné zachytit syntaktickými pravidly. Počítačové programy pro skládání hudby ještě dlouho žádný nový druh krásy nevyprodukují. Rád bych tuto myšlenku rozvedl trochu dále. Myslet si – a něco takového jsem už slyšel – že bychom již brzy mohli mít předprogramovaný, masově produkovaný a zásilkově prodávaný „music box“ za pár babek, který by ze svých sterilních obvodů chrlil hudbu, jakou by psali Chopin či Bach, kdyby žili déle, to je hodně groteskní a ostudně špatný odhad hloubky lidského ducha. „Program“, který by dovedl tvořit hudbu jako oni, by musel sám putovat světem, vybojovávat si vlastními silami cestu bludištěm života a procítit každou jeho chvilku. Musel by porozumět radosti a osamělosti mrazivého nočního větru, touze po milované ruce, nepřístupnosti vzdáleného města, hoři ze smrti blízkého a schopnosti se z ní vzpamatovat. Musel by poznat na vlastní kůži rezignaci a únavu ze světa, žal a zoufalství, odhodlání a vítězství, zbožnost a posvátnou hrůzu. Do toho by musel namíchat takové protiklady jako naději a strach, sklíčenost a rozjaření, klid a napětí. Nedílnou součástí směsi by musel být smysl pro eleganci, humor a rytmus i smysl pro neočekávané – a samozřejmě vytříbené povědomí o magii tvůrčího procesu. V tom a pouze v tom spočívají zdroje významu v hudbě.
Otázka: Budou se do stroje explicitně programovat emoce?
Spekulace: Ne. To by bylo směšné. Žádná přímá simulace emocí – například program PARRY – se nemůže přiblížit složitosti lidských emocí, které vznikají nepřímo, v důsledku organizace našich myslí. Programy nebo stroje si budou osvojovat emoce stejným způsobem: jako vedlejší produkty své struktury, způsobu, jímž jsou organizovány – nikoli přímým programováním. Nikdo tedy například nebude psát subrutinu „zamilovat se“, stejně jako nenapíše subrutinu „chybovat“. „Zamilovat se“ je jeden z popisů, které přikládáme komplexnímu procesu komplexního systému; uvnitř tohoto systému však nemusí být žádný specifický modul, který by to měl výlučně na starosti!
Otázka: Bude myslící počítač schopen rychle sčítat?
Spekulace: Zřejmě nikoli. I my sami jsme složeni z hardwaru, který umí skvěle počítat, to ale neznamená, že na úrovni symbolů, tam, kde spočívá „já“, nějaký subsystém ví, jak takové skvělé kalkulace provádět. Řeknu to takto: neexistuje žádný způsob, jak bychom mohli do svých neuronů vložit čísla, abychom si sečetli příjmy pro daňové přiznání. Naštěstí pro nás, naše úroveň symbolů (tedy „my“) nemůže získat přístup k neuronům, které mají na starosti myšlení – jinak by se nám samým sčítáním zavařil mozek. Můžeme si znovu parafrázovat Descarta:
„Myslím, tedy nemám přístup k úrovni sum.“
Proč by to nemělo být u inteligentního programu stejné? K obvodům, v nichž se děje myšlení, nesmí být umožněn přístup – jinak se nadměrným sčítáním zavaří CPU. Ale úplně vážně, stroj, který projde Turingovým testem, bude možná počítat stejně pomalu jako vy nebo já, a to z podobných příčin. Bude reprezentovat číslo 2 nejen dvěma bity „1-0″, ale komplexním pojmem, tak jako to děláme my; ten bude naplněn asociacemi jako například „(pouhá) dvojka“ „pár“ či „dvojník“, spoustou mentálních představ jako třeba tečkami na dominové kostce, tvarem číslice 2, pojmy střídání, sudosti, lichosti, a tak dále… S celou touto zátěží bude zřejmě inteligentní program počítat asi jako lenochod. Jistě, mohli bychom k němu přidat nebo do něj zabudovat takříkajíc „kapesní kalkulačku“. Pak může odpovídat skutečně velmi rychle, jeho výkon však bude stejný jako výkon člověka s kalkulačkou. Stroj by pak měl dvě navzájem oddělené části: spolehlivou, ale bezduchou, a inteligentní, ale omylnou, a na to, že složený systém bude spolehlivý, nemůžeme spoléhat o nic více než na kombinaci člověka a stroje. Pokud je toto správná odpověď na položenou otázku, pak bychom udělali lépe, když si ponecháme kalkulačku – inteligenci do ní ale vkládat nebudeme!
Otázka: Budou existovat šachové programy, které dokážou porazit každého?
Spekulace: Nebudou. Mohou sice vzniknout programy, které budou umět porazit v šachu každého, nebudou to však výhradně šachové programy. Budou to programy s obecnou inteligencí a ty budou zrovna tak temperamentní jako lidé. „Nechcete si zahrát šachy?“ „Ne, šachy už mě nudí. Popovídejme si o poezii.“ Tak by mohl vypadat náš rozhovor s programem, který by dokázal porazit každého. Skutečná inteligence totiž nutně závisí na schopnosti mít celkový přehled – to znamená na programovatelné schopnosti, dá-li se to tak říci, „vyskočit ze systému“ – aspoň do té míry, do jaké tuto schopnost máme my. Jakmile se tato schopnost objeví, už nebude možné program udržet v mezích; překročí určitý klíčový bod a my se budeme muset postavit čelem k tomu, co jsme vyvolali.
Otázka: Budou v paměti zvláštní místa pro ukládání parametrů ovládající chování programu, na která kdybychom sáhli a změnili je, mohli bychom si program nastavit tak, aby byl chytřejší, hloupější, kreativnější nebo měl zájem o hokej? Zkrátka, budeme moci náš program „naladit“ seřízením na relativně nízké úrovni?
Spekulace: Ne. Program bude zcela netečný vůči změnám jakýchkoli konkrétních prvků ve své paměti, stejně jako i my zůstáváme téměř přesně stejní, i když každý den zaniknou tisíce našich neuronů! Pokud bychom však těchto prvků pozměnili mnoho, poškodíme ho, stejně jako se poškodí lidský mozek při nepovedené neurochirurgické operaci. V paměti programu nebude žádné čarovné místo, kde by například sídlilo jeho „IQ“. Opět to bude vlastnost, která vznikne až v důsledku chování nižší úrovně a na žádném konkrétním místě sídlit nebude. Totéž platí pro takové věci jako „počet položek, které dokáže udržet v krátkodobé paměti“, „do jaké míry má v oblibě fyziku“ atd. atd.
(pokračování zítra)
Tento text je úryvkem z knihy:
Douglas R. Hofstadter: Gödel, Escher, Bach, Argo a Dokořán 2012
O knize na stránkách vydavatele
Kniha poprvé vyšla v době z hlediska UI zcela historické: roku 1979. Část předpovědí se tedy ukázala být chybných, ale na to, jak dlouhý je to čas vzhledem k rychlosti vývoje oboru, to zase není tak špatné, ne?
