(pokračování včerejšího textu)
Otázka: Budeme moci naladit program UI tak, aby jednal jako já nebo vy – popřípadě jako někdo mezi námi oběma?
Spekulace: Ne. Inteligentní program se nebude chovat jako chameleon o nic více než lidé. Bude se opírat o neměnnost svých vzpomínek a přebíhat mezi různými osobnostmi umět nebude. Představa změny vnitřních parametrů a „naladění nové osobnosti“ prozrazuje směšné podcenění toho, jak je osobnost složitá.
Otázka: Bude existovat něco jako „srdce“ programu UI, nebo se bude program skládat jen z „bezduchých smyček a posloupností triviálních operací“ (slovy Marvina Minského)?
Spekulace: Kdybychom programu viděli „až na dno“, tak jako na mělkém rybníku, jistě bychom zahlédli jen „bezduché smyčky a posloupnosti triviálních operací“ – a žádné „srdce“ bychom určitě nespatřili. V této souvislosti se objevují dva extrémní názory na UI: jeden říká, že lidská mysl je, z fundamentálních i tajemných příčin, nenaprogramovatelná. Podle druhého stačí pouze sestavit vhodné „heuristické nástroje – vícenásobné optimalizátory, postupy pro rozpoznávání vzorů, plánovací algebry, rekurzivní administrativní procedury a podobně“ – a inteligence bude na světě. Můj názor je někde uprostřed, protože se domnívám, že „rybník“ jakéhokoli programu UI je tak hluboký a kalný, že na jeho dno prostě nedohlédneme. Budeme-li se dívat shora, zůstanou pro nás smyčky neviditelné, stejně jako jsou po dnešní programátory neviditelné elektrony, které přenášejí proud. Až vytvoříme program, který projde Turingovým testem, zahlédneme „srdce“, i když budeme vědět, že tam žádné není.
Otázka: Budou někdy UI programy „superinteligentní?“
Spekulace: To nevím. Není jasné, zda budeme schopni superinteligenci porozumět a nějak s ní komunikovat, ani zda takový pojem má vůbec nějaký smysl. Naše vlastní inteligence je například svázána s rychlostí našeho myšlení. Kdyby byly naše reflexy desetkrát rychlejší či naopak pomalejší, mohly se v nás vyvinout naprosto jiné soubory pojmů k popisování světa. Bytost s radikálně odlišným pohledem na svět s námi možná prostě nebude mít mnoho styčných bodů. Často jsem si představoval, co by se dělo, kdyby existovaly například hudební skladby, které by byly proti Bachovi na takové úrovni, na jaké je Bach proti lidovým písničkám – něco jako „Bach na druhou“. Měl bych šanci jim porozumět? Možná už taková hudba kolem mě existuje a já ji jen neumím rozpoznat, stejně jako psi nerozpoznávají lidský jazyk. Idea superinteligence je velmi podivná. Každopádně ji nepokládám za cíl výzkumu UI, ačkoli kdybychom dosáhli úrovně lidské inteligence, nepochybně se příštím cílem stane superinteligence – nejen pro nás, ale i pro samotné programy UI, které budou neméně zvědavé, jak to s UI a superinteligencí dopadne. Je totiž docela pravděpodobné a pochopitelné, že programy UI se budou o vývoj UI zajímat zcela mimořádně.
Otázka: Z toho, co říkáte, se zdá, že programy UI budou nakonec stejně inteligentní jako lidé. Budou mezi nimi a lidmi nějaké rozdíly?
Spekulace: Rozdíly mezi programy UI a lidmi budou větší než rozdíly mezi jednotlivými lidmi. Je skoro nemožné představit si, že by program UI hluboce neovlivnilo „tělo“, v němž bude sídlit. Pokud to tedy nebude úžasně věrná replika lidského těla – a proč by jí vlastně měla být? – bude mít nesmírně odlišné pohledy na to, co je důležité, co je zajímavé atd. Wittgenstein kdysi vtipně poznamenal: „Kdyby lev uměl mluvit, nerozuměli bychom mu.“ Tento citát ve mně vyvolává vzpomínka na Rousseauův obraz mírumilovného lva a spící cikánky na poušti zalité měsíčním světlem. Jak to ale mohl Wittgenstein vědět? Podle mého odhadu se nám bude každý program UI, pokud bude pro nás srozumitelný, jevit jako značně cizí. To nám bude velmi ztěžovat zjišťování, zda máme co do činění s programem UI, nebo jenom s „divným“ programem.
Otázka: Až vytvoříme inteligentní program, porozumíme tomu, co je inteligence, vědomí, svobodná vůle a „já“?
Spekulace: Svým způsobem – záležet bude na tom, co myslíme slovem „porozumět“. Na instinktivní úrovni těmto věcem pravděpodobně každý z nás porozumí celkem dobře. Je to jako poslech hudby. Skutečně porozumíme Bachovi tím, že ho racionálně rozebereme? Nebo mu budeme rozumět tehdy, když z jeho hudby budeme cítit potěšení v každém nervu svého těla? Rozumíme tomu, že rychlost světla je v každé inerciální vztažné soustavě konstantní? Dovedeme si to spočítat, intuici relativity však nemá na světě zřejmě nikdo. A pravděpodobně nikdo také intuitivně nepochopí tajemství inteligence a vědomí. Všichni ale mohou rozumět lidem, což je pravděpodobně asi tak nejdále, kam se můžeme dostat.
Tento text je úryvkem z knihy:
Douglas R. Hofstadter: Gödel, Escher, Bach, Argo a Dokořán 2012
O knize na stránkách vydavatele
Kniha poprvé vyšla v době z hlediska UI zcela historické: roku 1979. Část předpovědí se tedy ukázala být chybných, ale na to, jak dlouhý je to čas vzhledem k rychlosti vývoje oboru, to zase není tak špatné, ne?
