Svedomie, roboetika a transhumanizmus

Autor: Róbert Sarka - Číslo: 2009/4 (Články)

Pred dvadsiatimi rokmi som prvýkrát sedel za počítačom (ak sa PP06 dá nazvať počítačom). Nebol by som vtedy veril, že raz bude počítač štandardnou súčasťou moderných domácností. V posledných desaťročiach, od konca druhej svetovej vojny, bol zaznamenaný progres v oblasti robotiky. Je to nová veda, ktorá stále nie je presne definovaná, avšak jej cieľom je projektovanie a vývoj robotov. Pýtam sa sám seba, či nebude o dvadsať rokov štandard domáci robot. Nesporný progres v robotike prináša aj problémy, medzi iným napr. stále väčšiu závislosť na robotoch, možnú nezamestnanosť ľudí kvôli narastajúcej robotizácii ap. V texte naznačím, aké výzvy problémov pre svedomie sa spájajú s nástupom umelej inteligencie.

Technoetika

Počnúc Čapkom sa v súvislosti s rozvojom umelej inteligencie hovorí o tzv. prometeovskom syndróme. Titan Prometeus stvoril ľudí a obdaroval ich božskými darmi. Človek sa dostáva do podobnej roly. Snaží sa vytvoriť umelú inteligenciu, bytie na svoj obraz a podobu. Vývoj techniky a technológie sa stáva akýmsi joggingom vedy, ktorá beží, beží, ale nevie kam. Teológovia varujú, že technológia bez Boha sa môže premeniť na nový Babylon, preto volajú, aby boli stanovené etické princípy, ktoré by usmerňovali tento technovývoj.¹

Jedným z návrhov, ako ho usmerniť, je novo sa utvárajúca disciplína technoetika či roboetika. Termín technoethics prvýkrát použil v roku 1974 na filozofickom sympóziu v Izraeli Mario Bunge.² Bol to však až rok 2001, keď tento termín znovuobjavil José Galvani, v súčasnosti asi jediný teológ z Univerzity Santa Croce v Ríme, ktorý sa systematicky zaoberá problémom vzťahu teológie a technológií spojených s umelou inteligenciou. Po nejakom čase sa objavil nový termín roboetika. Ventimiglia pokladá roboetiku za termín s užším významom ako technoetika, pretože sa koncentruje výhradne na problémy spojené s robotikou. V tomto prípade neide však o etiku robotov, ale o etiku ľudí, ktorí projektujú, tvoria a používajú roboty.³ Bartolommei súhlasí, že neide o etiku robotov, ale o etické správania a normy ich tvorcu, teda človeka. Je však toho názoru, že technoetika a roboetika sú synonymá, pričom obsah termínu dáva do súvisu s ľudským telom. Podľa neho má termín technoetika či roboetika dva významy: 1. ide o reflexiu o morálnych problémov objavujúcich sa s vývojom možností pre technologickú modifikáciu ľudského tela a tvorbu umelých tiel; 2. ide o hľadanie noriem vo vnútri samotnej technológie: čo je ohľadom modifikácie ľudského tela ešte správne robiť a čo už nie, pričom nestačí ako technologický morálny imperatív, že je správne všetko, čo je technicky možné. Samotná technológia zo svojej podstaty nevie vytvárať takéto normy, preto je potrebná roboetika.⁴

Tretím termínom, v súvislosti vývoja jednej časti umelej inteligencie, je bioroboetika. Zatiaľ čo bioetika sa zaoberá prevažne otázkami spojenými s existenciou, teda životom (smrť, narodenie ap.), bioroboetika sa sústredí na etické otázky spojené s esenciou, teda ľudskou identitou.⁵

Robot ako filozofický problém

Roboty sa objavili v dejinách ľudstva skôr ako sám termín.⁶ Je zaujímavé, že základné termíny „robot“ a „robotika“ pochádzajú zo sci-fi literatúry. Termín robot pochádza od českého spisovateľa Karla Čapka.⁷ Roboetika zaviedol Isaac Assimov. Oba termíny prenikli do odbornej literatúry.

Nie je celkom jasná identita robota. V dôležitom dokumente Roboethics Roadmap⁸ sa uvádza niekoľko možných pozícií: 1. že robot nie je nič iné ako stroj; 2. že robot má etické dimenzie vo svojom vnútri a to ho odlišuje od zvierat; 3. že robot je s morálnosťou bez mysle. Robot je potom chápaný buď ako pasívny morálny subjekt (vystavený dobrej alebo zlej činnosti), alebo morálne aktívny subjekt (nie nevyhnutne s mentálnymi stavmi, slobodnou vôľou, emóciami ap.); 4. robot ako evolúcia druhu. Podľa tohto náhľadu roboty raz prekonajú človeka nielen intelektuálne, ale aj morálne, budú lepšie ako ľudia.⁹

Robot-hrozba

Assimov rozlíšil v sci-fi dva typy robotov: robota-hrozbu a robota-pátos. Robot-hrozba sa spája s tzv. frankensteinovským komplexom (Assimovov termín), teda strachom, že roboty raz ovládnu človeka. Robot-hrozba však nie je len témou v sci-fi literatúre. Predstavme si, že vesmírom letí kozmická loď, jej prístroje hlásia planétu, na ktorej je život. Loď zamieri k planéte. Po mäkkom pristátí sa syčaním otvárajú dvere a vyrojí sa tisíce strojov majúcich tvar hmyzu. Stroje-hmyz zamieria k neďalekej hore a začnú sa do nej zavrtávať. Keď vyťažia z hory všetky suroviny, pokračujú k druhej a tak to ide z týždňa na týždeň, až nakoniec jedného dňa sa kovový hmyz nalodí a koráb odlieta. Zdá sa to ako scenár sci-fi? Ale nie je to tak, ide o futuristickú predstavu fyzika a matematika Johna von Neumana, ktorý prišiel s hypotézou, že do vesmíru budú vypustené robotické inteligentné a autoreplikujúce sondy. Ich činnosť bude spočívať v útoku na jednotlivé planéty za účelom využitia surovín na replikáciu seba samých. Takéto roboty by boli povznesené nad dobrom a zlom, nad bolesťou a smrťou.¹⁰

Aby sa vyhol konfliktu medzi človekom a jeho stvoreným robotom, Assimov vymyslel tzv. tri zákony robotiky.¹¹ Autor si uvedomuje vážnosť situácie, keby sa roboty zdokonalili natoľko, že by sa stali partnermi človeka. Vo svojich poviedkach sa neustále zaoberal hrozbou porušenia troch zákonov robotiky.¹² Zákony prenikli do filmov a beletrie, ale dostali sa aj do Roboethics Roadmap (2.2). Pri vzbure by šlo o akúsi analógiu prvotného hriechu, vykonaného umelou inteligenciou, ktorá sa vzbúri proti svojmu stvoriteľovi-človeku, ktorého sa pokúsi ohroziť a zničiť.

Aj keď je vývoj robotov pozoruhodný, má k stavu „vzbury“ proti človeku ešte veľmi, veľmi ďaleko.¹³ Roboty zatiaľ nemajú schopnosť zraku a sluchu, aby pozorovali okolie; ak by sa im to podarilo rozvinúť, podľa renomovaného vedca by získali výhodu nad človekom.¹⁴

Robot-pátos

Nie všetky kultúry sa stotožňujú s víziou robota-hrozby. Tak sa nie len v sci-fi, ale aj v niektorých kultúrach objavuje predstava robota pomocníka, ktorého bude možné využiť pre kozmický výskum, ďalej v domácnosti, v medicíne, ako súkromného učiteľa ap. Fukuoka World Robot Declaration 25. 2. 2004 prehlásila: „Sme si istí, že na základe budúceho technologického vývoja robotov a ich mnohých prínosov ľudstvu (…): a) roboty budúcej generácie budú koexistujúcimi partnermi s ľuďmi; b) roboty budúcej generácie budú asistovať ľuďom fyzicky i psychologicky; c) roboty budúcej generácie prispejú k budovaniu vyrovnanej a pokojnej spoločnosti.“¹⁵ Napriek týmto optimistickým vyhliadkam ani prípadná koexistencia človeka a robota-pátos nie je bez problémov. Nečakaná autonómia robota môže viesť k nepredvídateľnému správaniu voči človeku. Preto už spomínaný dokument Robotethics Roadmap odporúča: 1. vytvoriť ochranu, ktorá by mala pod kontrolou autonómiu robotov, aby človek bol schopný limitovať ich prípadnú nepredvídateľnú činnosť; 2. poistenie kľúčov hardwarov a softwarov, aby nedošlo k ich ilegálnemu alebo nedovolenému používaniu zo strany robotov; 3. pozorovateľnosť na spôsob čiernej skrinky, aby bolo možné registrovať a zachytiť každé správanie robotov; 4. zavedenie identifikačného čísla pre roboty; 5. ochrana prístupu k hardwarom a softwarom obsahujúcim nevyhnutné dáta pre činnosť robotov.¹⁶

Roadmap si kladie otázky, či sa tri Assimovove zákony raz stanú reálnou etikou robotov. Je robotetika len etikou vedcov robotiky, alebo etikou robotov? Do akej miery možno do robota vkladať etické princípy? Ak áno, aký typ etiky je správny pre roboty? Ako riešiť konflikt – na jednej strane pokušenie vložiť do robota roboetiku, na druhej strane rozvinúť jeho autonómiu? Je správne, aby robot prejavoval „personálnosť“? Je správne, aby robot prejavoval „emócie“?¹⁷

Ak hovoríme o svedomí v období vývoja umelej inteligencie, pred človekom ako tvorcom robotov stoja výzvy: 1. Po akú hranicu má veda zájsť, pokiaľ ide o vývoj a rozvoj robotov? 2. Asimovove zákony alebo iné princípy sa môžu stať akousi kyber-etikou, akousi analógiou umelého „svedomia“, vloženého do strojov, popr. androidov.¹⁸

Kyborgovská budúcnosť?

V roku 1988 vyšla publikácia Hansa Moravca Potomkovia rozumu. Budúcnosť robotov a ľudská inteligencia,¹⁹ v ktorej sa tvrdí, že stroje dosiahnu úroveň ľudskej inteligencie, a dokonca, že prevezmú vládu nad Zemou. Ray Kurzweil, predstaviteľ transhumanizmu, nositeľ niekoľkých vyznamenaní a deviatich čestných doktorátov, ide ešte ďalej.²⁰ Tvrdí, že na konci 21. storočia nebude rozdiel medzi človekom a strojom. Podľa neho počítače dosiahnu okolo roku 2020 svojím výkonom a kapacitou výkon ľudského mozgu a v roku 2050 samotnej ľudskej rasy. V roku 2019 budú počítače vložené v stenách, stoloch, poličkách, oblečení, šperkoch a telách. Ľudia budú mať vzťahy s robotmi ako učiteľmi, spoločníkmi a dokonca aj milencami.²¹ Okolo roku 2029 nastolia stroje diskusiu ohľadom legalizácie práv počítačov a budú si nárokovať právo vedomých bytostí. V roku 2099 nebude rozlíšenie medzi ľuďmi a počítačmi. Väčšina vedomých entít nebude mať stálu fyzickú prezentáciu atď.²² Víziu človeka-kyborga zastrešujú termíny ako transhumanizmus,²³ posthumanizmus či hyperhumanizmus. Ide o filozofickú futuristickú víziu, ktorá sa okrem iného zaoberá ideou transformácie ľudského tela s využitím moderných technológií. Cieľom je integrácia umelého a organického. Víziou je človek robotický, homobot. Podľa prívržencov transhumanizmu bude možné pomocou vyspelých technológií eliminovať starnutie a rozšíriť inteligenčné, fyzické a psychické schopnosti človeka.

V pozadí tohto extrémneho filozofického smeru možno nájsť túžbu po rozvoji človeka bez obmedzení a tiež nájsť pomocou technológie prameň nesmrteľnosti. V minulosti sa človek rozvíjal predovšetkým prostredníctvom duchovných vied. V súčasnosti akoby staval na výdobytkoch vedy a techniky. Možnosti nových technológií sa ukazujú takmer nevyčerpateľné. Nie náboženská viera, ale technológia sa stala novým nástrojom spásy. Posthumanizmus pristupuje k technológiám výlučne s cieľom posilniť antropocentrizmus alebo, lepšie povedané, egoteizmus. Je to filozofia ako nový spôsob oslavy tela. Hľadanie nového tela. Súčasná telesná forma je chápaná ako dimenzia, podľa tohto smeru prechodná. Posthumanizmus sa nesie v znamení slobodného nakladania s telom.

Reflexie o premene človeka na stroj neostávajú podľa transhumanistov len v rovine teoretickej. Znameniami tohto vývoja by mali byť podľa transhumanizmu protézy, plastická chirurgia, svetobežný životný štýl, sprostredkovaná reprodukcia, kozmopolitický pohľad na svet, absencia tradičných náboženských vier a odmietanie tradičných rodinných hodnôt. Človek sa stáva stále viac závislým na strojoch (mobily, autá, počítače).²⁴ V minulosti sa robili roboty z ocele a kremíka, dnes z ocele a živých buniek. Kultivujú sa živé bunky do protéz, ktoré budú mať organický základ. Existujú kardiostimulátory, umelé kĺby, umelé srdca, nervové protézy, napr. v uchu, sietnicové implantáty.²⁵

V súčasnosti neide teda len o krízu ohľadom toho, od ktorého okamihu možno hovoriť o ľudskej bytosti, ale o definovanie podstaty ľudského života ako takého. Všetko to začalo redukciou človeka na myseľ, podcenením tela, akousi novodobou formou antropologického dualizmu. Počiatok tejto ideológie je podľa všetkého u Descarta. V stále geniálnej prednáške Kríza európskych vied Edmund Husserl tvrdí,²⁶ že Descartes zredukoval ego na duševné ja; egologickú imanenciu zamenil za psychologickú; vyradil telo a zmyslové vnímanie.²⁷ Ego sum totiž nemožno stotožniť len s cogito. Od redukcie ducha na myslenie nie je ťažké redukovať život na kognitívnu činnosť, ktorá môže mať aj charakter arteficiálny, umelý. Nie je potom nič prekvapujúce v tom, že Thuring tvrdí, že strojom by bolo možné priznať myseľ, pretože niet dostatočných námietok proti tomuto tvrdeniu:

— Proti teologickej námietke, ktorá tvrdí, že stroj a zviera nemajú nesmrteľnú dušu, Thuring problém bagatelizuje tvrdením, že nie všetky výroky v Biblii sú pravdivé (napr. otázka geocentrizmu).

— Proti tzv. matematickej námietke, že stroj a zviera nevie odpovedať na všetko, napr. čo si myslí o Picasovi, Thuring namieta, že koniec koncov ani človek nevie odpovedať na všetky otázky.

— Na námietku, ktorú sformuloval Jefferson v roku 1949, že stroj nedokáže sformulovať sonet či skomponovať symfóniu, lebo mu chýba cítenie, možno znovu reagovať, že nie každý človek je schopný takéhoto počinu.

— Nedostatočné sa mu zdajú námietky o nespôsobilostí rozličného druhu, že stroju chýba zmysel pre humor, rozlišovanie dobra a zla, schopnosť robiť chyby, zaľúbiť sa a ďalšia široká škála vedomia.

— Ďalším sú námietka lady Lovelance, že stroj nedokáže nič vytvoriť, čo mu nebolo nariadené, alebo urobiť niečo nové; námietka odvodená zo spojitej povahy nervovej sústavy a námietka o neformálnom správaní, ktorým človek môže nepredvídateľne reagovať. Podľa Thuringa ide o výpovede o ľudskej nadradenosti.

Ako vážnejšiu námietku voči vedomiu u strojov Thuring pripúšťa schopnosti mimozmyslového vnímania (telepatia, jasnovidectvo ap.) u človeka, avšak globálne necháva otázku o tom, či stroje majú myseľ, otvorenú.²⁸

Počítač môže okrem uchovávania dát vo svojich pamätiach vhodnými programovými procesmi spracovať rôzne súvislosti medzi dátami, a tak efektívne využívať poznatky na riešenie problémov. Prejavuje sa ako umelá inteligencia. Možno ho však jednoducho zrovnávať s človekom, ba dokonca počítať s ním ako s novou formou života, koexistujúcou s ľudskou formou? Zaslúži artificial life prívlastok živé? Je to život, ktorý skúma biológia? Alebo sú to predsudky, akým by život mohol byť?²⁹ Stačí na definovanie života myslenie? Kde sa stratila skúsenosť zo sexu, radosť z jedla, spánku, rodičovstva, z priateľstva, z meditácie ap. Kde sa stratila ľudská afinita so živočíšnou ríšou? Môžu stroje vykázať takúto afinitu? Možno len v sci-fi.

Dôležitou komponentou pre stanovenie rozdielu medzi umelou inteligenciou a človekom je svedomie. Definovať svedomie nie je jednoduché.³⁰ Podľa Ebelinga človek nemá svedomie, ale je svedomie, a v tom zmysle sa stáva sebe náprotivkom. Zakusuje seba samého ako niekto, kto nie je sám so sebou identický, ale je bytostne dopytovaný na svoju identitu so sebou samým. Spochybnenie identity ľudskej osoby so sebou, zakusovanej ako svedomie, svedčí o povolaní k zodpovednosti. Svedomie je miesto zodpovednosti. Človek sám od seba nedokáže vyhovieť svedomiu k zodpovednosti, teda vzťahu k svetu. Svedomie môže identitu len vyžadovať, ale nie dať.³¹ „(…) je v hlavnej miere základom vnútornej dôstojnosti človeka.“³² Robot nebude prežívať vzťah k zodpovednosti, ale k logike myslenia. Nebude prežívať vlastnú nedokonalosť, pocit viny, lebo jeho vybavenie bude plniť úlohy, ktoré v ňom budú. Umelá etika robota bude konať na základe logických konštrukcií. Robot nemôže urobiť hriech voči svojmu strojcovi, pretože ak by došlo k jeho osamostatneniu sa od človeka, nebolo by to asi kvôli sebaoslobodeniu, ale pravdepodobne nejaká logická konzekvencia vyplývajúca zo zákonov, ktoré mu človek vložil do programu.

Ľudské svedomie sa neriadi len nejakými logickými premisami umelej inteligencie. Človek je napr. schopný na základe podnetu svedomia obetovať život, hoci pud sebazáchovy tlačí na jeho intelekt jasnú konzekvenciu: uchrániť život. Obetuje sa tak nie z logického príkazu, ale z lásky. Človek je schopný agapé, nepodmienenej lásky, ktorá nekoná prísne logicky, ako sa to bude očakávať od umelej inteligencie.³³ Dôležitý je tu ešte jeden rozdiel ohľadom morálneho správania medzi človekom a robotom. Umelá etika robotov bude úplne autonómna, nikomu nepodliehajúca, len programu, ktorý je v robote, zatiaľ čo človek podlieha vo svedomí nejakej vyššej autorite. O svedomí u strojov môžeme hovoriť len veľmi analogicky, ako o imperatívoch vložených do ich systémov.³⁴ Svedomie je spojené s mysľou a sebavedomím. Je možné hovoriť u strojov o sebavedomí? Svedomie ako výraz ducha a osoby ostane dôležitým rozdielom medzi človekom a umelou inteligenciou.

Hybrid stroj-človek je výzvou po definovaní života a podstaty človeka. Teológ sa pýta spolu s vedcom: Čo to znamená byť žive? Čo a prečo je ľudské? Čo je nadľudské? Aké zmeny sme ako ľudstvo schopní akceptovať? Je etické manipulovať s ľudským životom, a to i v prípade, že ide o zmenu k lepšiemu? Aké sú kritériá pre určenie, čo je lepšie?³⁵ Redukcia podstaty ľudského života na myseľ môže potom viesť k diskusii ohľadom zmeny našej telesnej formy aj za cenu, že by časom úplne zmizla. Podľa transhumanistov bola opustená esencialistická antropológia, že telo je čímsi predurčeným, stabilným a nemeniteľným. Rastie mentalita, že telo možno zvoliť, modifikovať, zameniť, skombinovať s inými formami života či umelou formou.³⁶ Premeniť človeka na kyborga by podľa transhumanizmu viedlo k vyriešeniu otázky nesmrteľnosti. Sú tu znepokojujúce otázky: Je možné zasahovať priamo do organizmu za cieľom premeny na stroj? Nechce sa človek opätovne pokúsiť rovnať Bohu? Potom je tu však otázka, v čom sa chce rovnať. V kreativite, alebo v prejave moci?³⁷

S posthumanizmom nemožno viesť dialóg z teologických pozícií. Základom posthumanistickej slobody nad telom a jeho formou je egoteizmus, ktorý obsahuje autotransformáciu a autoriadenie. Autotransformácia je založená na raste morálnom, intelektuálnom a fyzickom prostredníctvom racionality, kreativity, osobnej zodpovednosti a experimentovania. Autoriadenie vidí spoločnosť postavenú na liberalizme, v odpore proti autoritám a centralizmu, ktoré nahradí technológia a autonómia jednotlivca.³⁸ Personalizmus bude klásť posthumanistom otázku, či telo nie je viac ako prechodná forma človeka. Umelecké artefakty sa počas tisícročí snažili zachytiť originalitu tiel a tvárí. Prečo? Nie je to preto, že telo vyjadruje podstatné o človeku? V neurológii je známy jav tzv. fantomovských končatín, keď osoby prežívajú pocity v chýbajúcich, amputovaných končatinách. Výskum týchto javov ukázal, že mozog pokračuje v nervovej aktivite aj pri chýbajúcich končatinách, pretože má vytvorený „odtlačok“ tela, a to aj napriek tomu, že má protézu.³⁹ Človek prežíva stratu údu, protézu ako čosi cudzie. Príjme náš mozog bez problémov premenu na kyborga? Ak by sa podarilo vytvoriť druh kyborga, vydržali by ostávajúce biologické časti bez rozkladu? A nakoniec hranice slobody: Je naozaj dovolené, aby zanikol človek ako druh premenou na kyborga? Zachovali by sa reprodukčné orgány a procesy?

Záver

Robot alebo umelá inteligencia ostáva stále len imitáciou určitej dimenzie ľudskej individuality. Robot ostane zameraný do seba, na sebaudržovanie pomocou zákonov, ktoré budú v jeho konštrukcii. Môže sa rozvíjať, sebazdokonaľovať, ale nie ako osoba. Jedným z rozdielov medzi umelou inteligenciou a človekom tak ostane morálny život, svedomie. Ono je spojené s emóciami a rozumom. Umelá inteligencia môže mať napodobeninu svedomia, ale nikdy nie svedomie, ktoré je u človeka chápané ako Boží hlas. Umelá inteligencia nebude mať pocit viny ani pocit satisfakcie zo svojich skutkov.

Rozvoj umelej inteligencie ďalej nastoľuje otázku rozvoja človeka postupnou premenou jeho formy na kyborga. Ak sa človek postupne premení na kyborga, nedôjde k strate cenných oblastí života? Nepremení sa len na individualistu, ktorý si bude programovať nálady a slasti? Je naozaj túžbou človeka predlžovať si život v tejto komplikovanej a mnohokrát temnej realite? V globále možno zhrnúť, že fundamentálnym kresťanským etickým princípom pri rozvoji nových technologických možností je, že tieto majú slúžiť predovšetkým človeku. Majú sa odmietnuť také postupy, ktoré by viedli k zničeniu človeka ako druhu. Preto by podľa mňa bola vhodná celosvetová dohoda, analogická k používaniu zbraní hromadného ničenia, ktorá by minimálne obmedzovala či kontrolovala podobné pokusy.