Aktuální číslo:

2024/4

Téma měsíce:

Obaly

Obálka čísla

Umělá inteligence jako experimentální filozofie

 |  5. 2. 1996
 |  Vesmír 75, 106, 1996/2

Pro jasnost je třeba uvést, že neexistuje umělá inteligence ani experimentální filozofie - existují pouze jejich zárodky a předzvěsti. Tento stav nijak nemění záplava článků a knih, které se nazývají teoriemi a praktickým použitím věcí, označovaných HARDWARE a SOFTWARE, JAKO jednotliví více či méně univerzální představitelé (nebo jen dílčí modely) UMĚLÉ INTELIGENCE (Artificial Intelligence). Když ještě neexistoval ani zárodek AI, Simon a Newell nazvali svůj program GPS: "General Problem Solver". Takovým názvům "v předstihu" je rozumné se vyhnout, může totiž přijít něco skvělejšího a univerzálnějšího než "Obecný řešitel všech problémů"? Nikdy neexistoval a nadále neexistuje. Totéž lze tvrdit o experimentální filozofii, s přihlédnutím i k tomu, že tento dvouslovný termín připomíná oxymóron, protože filozofie "nezná hranic", čili nekončí tam, kde začíná Karlem Popperem vystavěná zeď experimentální falzifikace. Filozofie vykračuje mimo labilitu (empirickou, ne mentální), a to v různých směrech jako ontologie, věda o bytí, i jako epistemologie, věda o pravdivém poznání.

Už na tomto místě musím důrazně prohlásit, že nejen "lidský rozum" nepokládám za jedinou, nutnou a vůdčí způsobilost ve vesmíru, ale ani nepokládám množinu všech filozofických škol na Zemi za úplnou "potenciální množinu možných filozofií". Domnívám se, že jako rozumné bytosti jsme podmnožinou takových bytostí ve vesmíru a totéž se týká našich filozofických systémů.

S uvedeným omezením lze diskutovat jen apodikticky. Na Zemi existují mnohá náboženství, zapletená do světonázorových představ podobně jako filozofie. V přírodovědném pojetí však existuje jen jedna exaktní věda, odlišná od humanistických věd, v nichž se principium falsificatonis experimentalis převážně nedá použít. Pro přesnost je třeba dodat, že rozsah nevyvratitelné nebo stále méně vyvratitelné přírodovědy je různý.

V závislosti na hledisku darwinovská evoluce je nebo není zkušeností vyvratitelná, což se týká antropogeneze i biogeneze. Na dotaz, jestli izolovaný GENOM (jako "nukleotidová šroubovice DNA") dovoluje nebo nedovoluje v tomto izolovaném stavu vytvořit ze své fyzikálněchemické struktury ŽIVÝ DRUH, ze kterého byla odebrána, neznáme bezpečnou odpověď: ani ANO, ani NE.

Tuto nejistotu MŮŽE odstranit další pokrok vědy, i když o jistotě, že tomu bude tak či onak, lze dnes těžko mluvit.

Zvládnutí nového vědeckého oboru, čili vstup do bílé skvrny našeho dosavadního poznání, provází zpravidla dost naivní optimizmus, který očekávané problémy často zjednodušuje a mírně redukuje. Sklon k redukci je jedna ze základních vlastností poznávajícího lidského rozumu, naivně řečeno, protože CHCEME, aby tomu bylo podle Einsteinova výroku: Rafiniert ist der Gott, aber boshaft ist Er nicht. Tato naděje se však často nechce potvrdit.

Přesto s ohledem na tento faktor poznání, počátky výzkumů, které ozařovala perspektiva UMĚLÉ INTELIGENCE jako Ducha ve Stroji, který má Rozum, byly plné optimizmu. Rychle se však ukázalo, že je nejen předčasný, ale i nemístný.

Bystrost je schopnost přetvářet údaje smyslů pro maximalizaci šance přežití jedinců a jejich potomků. Podle mého názoru je rozum rovnocenný této animální schopnosti, umožňující vykročit z hranic minimálního "survival of the fittest": vykračuje totiž mimo smyslové údaje a jejich živočišnou interpretaci, která u člověka zrodila kauzalitu. Kauzalita byla světu jaksi vnucena, např. jako animizmus: mezi modlitbami za déšť a deštěm také MÁ existovat vztah příčiny a následku, a toto dynamické schéma, obsažené v mnoha náboženstvích, zpravidla vykračuje "v účincích mimo svět". V 18. století kritizoval D. Hume "heuristiku kauzality" jako "zákon dostatečného zdůvodnění", s logickou silou. Soudilo se, že tato heuristika nevyplývá ze zkušenosti. Bylo to rozvinutí názorů J. Locka, který neuznával existenci vědění a priori. Naproti tomu Kant považoval syntetické soudy a priori za možné (máme je vrozené). Šlo tedy o to, zda nihil est in intellectu, quod non prius fuerit in sensu, nebo ne. Podle mého názoru není nezbytně nutné zabývat se teoriemi umělé inteligence, ale spíše srovnávací neurofyziologií živočichů a lidí, včetně jejich behaviorizmu v podobných nebo totožných prostředích, abychom zjistili, do jaké míry lidská nebo ne-lidská "rozumnost" je vnějším světem (rovněž ve smyslu "imprinting") spolupodmíněna, omezena ("nemožnostmi"), a tedy formována. Hume, odmítající princip kauzality jako logického pojmu, měl samozřejmě pravdu. Moderní fyzikou jsme ostatně už v jistém užším smyslu vykročili "mimo rozum", protože ZNÁME, ALE NEROZUMÍME např. kvantové mechanice, tunelovým efektům v mikrosvětě nebo "místním záměnám" času a prostoru pod horizontem událostí černých děr.

V devadesátých letech se objevily dva dost odlišné přístupy ke struktuře počítačových programů, které jsou schopné porozumět přirozeným jazykům. První se opírá o koncepci lingvistické filozofie, druhý vychází z hermeneutiky. Základní ideou lingvistické filozofie je analýza významu slova cestou jeho rozkladu na elementární složky smyslu - "sémantické", s užitím logiky pro odhalení jeho významu.

Naproti tomu hermeneutik vidí v každém slovu potenciální nekonečno významů a aktuální význam získává slovo konkrétním kontextem. Tento kontext ruší ono "nekonečno". V. Nalimov přistupoval k věci podobně, když (ve své knize Věrojatnostnaja model jazyka, Moskva 1974) zavedl Bayesův vzorec, který nejprve určuje pravděpodobnost OČEKÁVÁNÍ informace (slova), a potom volí z celého "mnohovýznamového sémantického spektra" správný smysl - díky kontextu. Toto pravděpodobnostní hledisko pokládám za velice důležité, protože naše "zařízení na zpracování údajů", totiž mozek, pracuje podobně. Na tomto místě je asi vhodné učinit filozofickou přestávku pro konstatování, jak málo, a přesto jak mnoho víme nyní o činnosti svého mozku. Protože elektrická a elektrochemická aktivita tvoří jen část úhrnu mozkových procesů, nelze usuzovat, že model mozku zhotovený "z elektrických digitálních částí" bude možné srovnávat se živým mozkem. Neříkám, že je to nemožné, ale je to velice obtížné: nebiologické neurony se nedokáží chovat vývojově ani funkčně jako neurony biologické, jejichž výběžky se mohou jako kořínky rostlin pohybovat v prostředí mozku, a nedal bych hlavu za jistotu, že NEJSOU orientovány nějakými v mozku vznikajicími IZOSÉMAMI, čili že nejsou při svém spojování řízeny tak, aby smysl vznikal anebo se posiloval. Mnoho se zde lze naučit z patologických příznaků, které zkoumá neurolog i psycholog. Ukazuje se totiž, že náš mozek je budován "mnohobuněčně", mnohoagregačně, módně - mnohomodulárně, a že jednotlivé moduly disponují relativní suverenitou. Díky tomu může člověk s porušeným barvocitem vidět všechno jako v černobílém filmu, a receptivní aktivita všeho, co vnímáme, ABYCHOM ROZUMĚLI, je garantována zkušenostmi POZEMSKÉHO prostředí. Proto se před prvním přistáním na Měsíci v USA obávali, že měsíční krajina může být pro lidské oko "nepochopitelně nečitelná" a příslušné pokusy naznačovaly, že tomu tak v určitých podmínkách může být. Hermeneutika - zejména heideggerovská - absolutizuje jazyk a současně (správně) zdůrazňuje, že to, CO jazyk tvoří, to, ČÍM je ve svých výstupech PODPÍRÁN a řízen, probíhá MIMO vědomí: jde o neznalost naší generující lingvistické dynamiky. Složitost mozku je pochopitelně důsledkem genotypové struktury, avšak ohromuje fakt, že se dokáže dědit obrovské množství charakteristických detailů lidského behavioru, přestože genový kanál dědičného přenosu je pro takovou spoustu výtvorů příliš úzký. Dnes to vykládáme tím, že plod v době "maximálního tempa vývoje" vytváří ze sloučenin 250 000 neuronů za minutu, avšak řízení jejich proudu probíhá sumárně, úhrnně a společně. Není tomu tak, že by "každý neuron byl za ručičku doveden na své místo" - to je vyloučeno a my jako modeláři mozku se s tím jevem nevypořádáme a jsme omezeni na systémy sice libovolně komplexní, ALE VŽDY DIGITÁLNÍ, biologicky neživé.

Hermeneutický přístup, vycházející z jednoho směru současné filozofie, "zapisuje", uvádí slova do souborů univerzálních vysvětlujících schémat. Setkáváme se tu ovšem s velkou oblastí sporů, protože tomu není tak, že myslíme ve slovech. Nemyslíme ani ve větách. Myšlení v určité uzavřené (jako fuzzy set) množině možností dokážeme už modelovat tak, že to, co se objevuje na vstupech, získává smysluplnou odpověď na "výstupech", jinými slovy, Turingův test UŽ lze "zdolat" příslušným počítačem, v dialogu na příslušné téma a s příslušně zvoleným lidským partnerem. (Horší je, když spolu rozmlouvají DVA počítače: jejich "intelektuální" chudoba se v tomto případě projeví zjevně a rychle.) "Vysvětlující schémata" se v anglosaských institutech nazývají "frames", jde o určité výseky světa, které nutně musí být explicitně popsány v programu. Tříleté dítě už má takové "znalosti skryté" před ním samým, že tato "schémata" nepotřebuje. A to jak u mateřského jazyka, který ovládá bez znalosti gramatiky, tak u naučeného cizího, jemuž se naučit je pracné. JAK JE TO udělané v mozku, nevíme. Víme jen to, že i tady přichází ke slovu mozková mnohomodulárnost.

Dnes se říká, že všechny pozemské jazyky, kterých je přes 4 000, pocházejí od jednoho společného, kterým se dorozumívali pralidé před 12 000 lety. Byl nazván NOSTRATIC. Ukazuje se, že v mnoha jazycích pocházejí "praslova" od končetin nebo jejich částí: pěst - pět (prstů), Faust - fünf, Fist - Five atp.). Současně zjišťujeme, jaký vliv na vznikající jazyk měly fyzikální podmínky, např. gravitace.

To, co se přitažlivosti BRÁNÍ, je "směrováním vzhůru", "vznášením", "vynášením", "zvedáním", "vzletem", "výškou", kdežto to, co gravitaci podléhá, je "poklesem", "ponížením", "padáním", "řícením". Tato slova, společně s bezpočtem jiných, ztrácejí v beztížném stavu na palubě vesmírné lodi svůj smysl, stejně jako slova "nahoře" a "dole". Dokazuje to naši lingvistickou (i rozumovou) závislost na vzniku a životě na povrchu planety. Gravitaci se nemusíme učit z newtonské fyziky: její nadvládě se reflexivně naučí každé dítě i každý živočich. Právě takové prvky vytvářejí úhrn "skrytých znalostí", které absorbujeme žitím, dokonce i když žijící NENÍ součástí lidské společnosti a nenaučil se žádný jazyk.

Byl jsem - a nadále jsem - nucen probírat záležitosti nesmírně rozsáhlé a složité způsobem nesmírně krátkým a primitivně zjednodušujícím. Kdybych měl jen vyjmenovat názvy knih a prací věnovaných "rozumu", "experimentální filozofii" a "umělé inteligenci", trvalo by to celé hodiny. K umělé inteligenci ani k experimentální filozofii neexistuje jediná cesta. Dokonce i když se uskrovníme a uznáme, že jsme vedoucím druhem NA NAŠÍ PLANETĚ, že jako společenské bytosti jsme vytvořili jazyk, ovlivněný vlastnostmi této planety, že ve všech našich způsobech myšlení, i vědomě NEJAZYKOVÝCH, ve vnitřní mluvě nevyjadřovaných, se přesto účastní způsobem námi nevnímaným mimovědomé procesy, ty dynamické zvedáky a tvarovače myšlení VČETNĚ tvůrčího, přesto úkol, který jsme si vytyčili, nebude proto snadnější. Jediné, co se už dnes můžeme domýšlet, se týká neuniverzálnosti lidské inteligence ve vesmíru. Co se týče tvůrce inteligence instalované v mozku - nukleotidových řetězců genové dědičnosti - ani tu si nemůžeme být jisti, zda je možný jiný druh kódu, jiný typ života, jiný rozum. Pro TENTO nedostatek údajů si lze těžko představit, že budoucí modelování, zaměřené na inženýrství ducha ve strojích (i MY jsme stroje, jenže živé a pravděpodobnostní), by nám mohlo odpovědět na otázku výjimečnosti, nebo naopak všeobecnosti pozemského typu myšlení a rozumného jednání. Myslím si však, že v budoucnosti to není kategoricky navždy nemožné.

Nezanedbatelná je i záležitost oněch filozofických směrů, které vznikly mimo středomořský prstenec, v Asii, poněvadž jen tam - v pásmu neempirického myšlení (podle kánonů našich exaktních věd) - vznikly systémy logiky odlišné od naší původní a její neuniverzálností vyvolaných odvozených logik.

Vydávám se do oblastí, v nichž si nejsem jist, nemohu tedy mluvit o mimoevropských filozofiích, třebaže jsem slyšel a četl, že mohou být přínosné pro obor ducha ve stroji. V každém případě stojí za zamyšlení, že celou rostlinno-živočišnou říši života udržuje jeden jediný nukleotidový kód DNA - kdežto druh, který jako úzká větev vychází z primátů a zalidnil celou zeměkouli, se v jazykové komunikaci lingvisticky rozpadl na tisíce a tisíce větviček. Zřejmě to vyplývá z nutnosti tuhé a (prakticky řečeno) bezkontextové KÁZNĚ při generačním přenosu v evoluci, a zároveň z neobyčejné plastičnosti funkce mozku, která nás tak udivuje. Všechny mé představy o totožnosti více než devětadevadesáti procent jednovaječných dvojčat popírá případ dvou bratrů: jeden z nich zůstává naprosto normální, když druhý propadne schizofrenii, která JE způsobena patologickými změnami komunikace a informační činnosti mozku.

Jiný případ: hochovi, kterému byla kvůli nádoru ve věku šesti let odstraněna celá levá mozková hemisféra, se restituovaly nejen psychické funkce, ale i motorika a mluva téměř z 99 %. Tento regeneračně-tvůrčí potenciál musí ohromovat stejně psychology jako filozofy a "inženýry lidských duší".

Blížím se k závěru těchto volných úvah, chci k nim tedy dodat ještě několik slov. Připadá mi, že třebaže na experimentální kroky je ještě příliš brzy, můžeme si uvědomit tento problém: zda genetické inženýrství v budoucím hodně pokročilém stadiu rozezná HRANICE této stavebně-funkční variability mozku, vyznačené výstupnímu daty lidských genomů? (Metaforicky řečeno: nepochybně MODELY všeho, co lze vytvořit z kostek dětské hry LEGO, tvoří uzavřenou a konečnou množinu: týká se TOTÉŽ i prospektivní potence prací cerebromatického inženýrství?)

Dnes se mluví (což je další záležitost) už o bioformách jako instinktech konstrukčně vložených do mikrostrojů, představujících "pseudohmyz".

Víme, že jednou z hlavních brzd vývoje hmyzu "podél" větví Linnéova stromu je jejich energetická chudoba. (Jde o vzdušnice a některé další, jako chitinové krunýře). Bude možná konstrukce takového pseudohmyzu, který by se dokázal spojovat, aby zvětšil "rozumnost" společenství? Hmyz nešel touto cestou, protože ji nepotřeboval. ("Nikdo se neškrábe, když ho nic nesvědí" - řekl Einstein, z čehož by vyplývalo, že nás "celý svět hrozně svědí"). Je-li tomu tak, pokud se nezničíme agresí a demografickou explozí, "doškrábeme se" k umělé inteligenci, která nám představí svůj vlastní pohled na svět a člověka - což bude její experimentální filozofie...

V uvedeném náčrtu, který ukazuje současný stav výzkumu jen vzdáleně, jsem se snažil být nestranný, avšak nestrannost není samozřejmě možná, protože ji zrazuje už contradictio in adiecto v názvu. Pokud má být AI cestou k experimentální filozofii, padá tím opce na účet empirie. Ve své knize Summa technologiae jsem jako krajní možnost vložil kapitolu Pověry elektromozků, která před 33 lety stejně jako dnes zůstává čirou předpovědí beze stopy splnění. POKUD však dokážeme vytvořit ve strojích základní poznávací funkce, výskyt informací "metafyzického", "transcendentního" charakteru bude nevyhnutelný a bude jen otázkou času, nezbytného pro vznik takové generace strojů, která dosáhne nám a priori neznámé podoby fideizmu: neříkám, že tomu tak musí být, ale jen to, že tomu tak může být.

Objevy hermeneutiky (např. heideggerovské) DNES převyšují to, co se začíná stávat potíží programátorů-informatiků, ale situace se změní. Jak jsem kdysi napsal, cokoli si myslíme, je daleko jednodušší než substrát tohoto myšlení. Samozřejmě se budeme šplhat k AI "po" našem přirozeném jazyku. Není náhodná podoba dědičného kódu s jazykem, třebaže já jej pokládám spíš za podobný partituře symfonického orchestru (buňka je [mnohem větším orchestrem]). Metafor se nemusíme bát, je to jedna z nejdůležitějších zbraní, bránících naše jazykové výpovědi před každým regressus ad infinitum, který objevil Gödel. Přirozené jazyky si dokáží poradit s neodstranitelným gödelovským defektem, poněvadž jejich nejednoznačnost, konotačně-denotační rozmazání a textové kontingence jim umožňují neutralizovat rozpory nejen "měkké" (sémantické), ale i "tvrdé" (logické). Proto je možné v určitém rozsahu smyslů mluvit o tom, že existuje nepřímá úměra mezi délkou textu a jeho "rozumějícím" obsahem. Proto týž beletristický text může být chápán odlišně (a tak i hodnocen), a hranice této variability závisí na množině různých vlastností (od osobnosti lektora po historickou dobu), což nám jaksi automaticky vysvětluje, proč strojové překlady (stejně jako překlady vytvořené lidmi), nejsou jednoznačné, ale musí tvořit INTERPRETACI překládaného textu při jeho "překladu" do tlumočeného jazyka. Proto také měl pravdu (i když jen částečnou) P. Feyerabend s heslem "Anything goes" při rozvíjení našich znalostí.

Nevíme, do jaké míry závisí filozofie na funkční organizaci našeho mozku. Má opravdu jistá třída mozků sklon k empirii? Měl Kretschmer se svou kategoričností špetku pravdy?

Může vzniknout "mimolidský rozum"? Jako výtvor genetického inženýrství, jako výtvor jiné inteligence, jako výtvor konstruktérství? Jak chápat tu mimolidskost? Snad tím, co se jako informační produkt takového mozku ukáže nepochopitelné pro celou množinu lidských mozků. Není však blábol blázna stejně nepochopitelný? Samotná vnitrodruhová variabilita je obrovská. Všichni lidé přece plně nechápou Heideggera nebo Plotina! Jestliže jsou filozofové množinou mozků vyselektovanou pro "chápání filozofie", pak si všichni lidé nejsou intelektuálně rovni, avšak "jdou" filozofové v čele? Vážně o tom pochybuji, poněvadž i ve filozofii lze podvádět. Rozvoj AI nemusí být shodný s rozvojem biologickým. Možností je oceán a my nemáme pořádný kompas ani mapu. 1)

Poznámky

1) Červenec 1995, přeložil Pavel Weigel
OBORY A KLÍČOVÁ SLOVA: Různé
RUBRIKA: Eseje

O autorovi

Stanisłav Lem

 

Doporučujeme

Přírodovědec v ekosystému vědní politiky

Přírodovědec v ekosystému vědní politiky uzamčeno

Josef Tuček  |  2. 4. 2024
Petr Baldrian vede Grantovou agenturu ČR – nejvýznamnější domácí instituci podporující základní výzkum s ročním rozpočtem 4,6 miliardy korun. Za...
Od krytí k uzavření rány

Od krytí k uzavření rány

Peter Gál, Robert Zajíček  |  2. 4. 2024
Popáleniny jsou v některých částech světa až třetí nejčastější příčinou neúmyslného zranění a úmrtí u malých dětí. Život výrazně ohrožují...
Česká seismologie na poloostrově Reykjanes

Česká seismologie na poloostrově Reykjanes s podporou

Jana Doubravová, Jakub Klicpera  |  2. 4. 2024
Island přitahuje návštěvníky nejen svou krásnou přírodou, ale také množstvím geologických zajímavostí, jako jsou horké prameny, gejzíry a aktivní...