Po nás roboti

Článek shrnuje názory na knihu Kevina Warwicka Úsvit robotů – soumrak lidstva.

Úvod

Kevin Warwick svou knihou Úsvit robotů - soumrak lidstva z roku 1999 rozpoutal velkou diskusi nad vývojem robotů, umělé inteligence a budoucnosti lidstva. Domnívá se, že je velmi reálné, že zhruba za padesát let člověk již nebude na vrcholku pomyslného žebříčku vývoje. Naše místo převezmou stroje a člověk bude tím, čím jsou dnes zvířata. Je to Warwickův názor. Jedni s jeho názorem souhlasí a druzí ne. Jak to tedy pravděpodobně bude? Domnívám se, že není na světě člověk, který by vývoj na půl století dopředu mohl přesně uhodnout. To, co bude, nikdo neví. Jsou tu jen domněnky a předpovědi. A jak víme z minulosti, ty se můžou od reality podstatně lišit. Zda jsou Warwickovy vize reálné, ukáže jen čas. V této eseji se budu snažit přiblížit názory lidí, kteří se zabývají umělou inteligencí a mohou mít trochu jiný názor než profesor Kevin Warwick.

1. Kdo je Kevin Warwick?

Vědec, šoumen, exhibicionista, popularizátor, vizionář, kyberpunker nebo dokonce šarlatán. Tak různě je nazýván profesor kybernetiky na univerzitě v anglickém Readingu - Kevin Warwick. O Kevinu Warwickovi se široká veřejnost mohla dovědět v roce 1998. Právě v tomto roce podstoupil zajímavý výzkumný experiment. Do svého levého předloktí si nechal implantovat čip, který se skládal ze skleněné tobolky obsahující elektromagnetickou cívku a množství křemíkových čipů. Díky tomuto experimentu se o Warwickovi nepsalo jen ve vědeckých, ale také v bulvárních časopisech a novinách. V roce 1999 vychází velmi zajímavá Warwickova kniha March and Machines a na pulty českých knihkupectví se dostává téhož roku pod názvem Úsvit robotů - soumrak lidstva. V této knize mimo jiné popisuje také výsledky experimentu s čipem.

V srpnu roku 1998 jsem si - v rámci vědeckého pokusu - nechal do levé ruky chirurgicky implantovat čip. Na univerzitě v Readingu byl pak zřízen Dům kybernetiky, s nímž se tento čip může přes rozmístěnou počítačovou síť navzájem ovlivňovat. Když tedy projdu vstupními dveřmi, jsem uvítán slovy: „Hello, profesor Warwick." Když se přiblížím ke své kanceláři, počítač vstoupí do mé webové stránky a informuje mne o všech e-mailech, které došly. Když jdu do laboratoře, dveře se automaticky otevírají."[1]

V roce 2002 si pokus s implantovaným čipem zopakoval. Tentokrát pomocí kabelu a rádiového vysílače přenášel do počítače informace o elektrických impulsech probíhajících v jeho nervech. Díky tomu mohl například na dálku ovládat robotickou ruku. Podstoupil ještě několik experimentů, do kterých zapojil také svou manželku, která je mimochodem Češka.

Asi těžko se dá věřit, že všechny tyto experimenty mají jen čistě vědecký cíl. Kevin Warwick je také vedoucím katedry, a proto moc dobře ví, že přísun peněz od soukromých subjektů na další výzkum je mnohem jednodušší, když se o vás píše a mluví. Warwick ve své knize uvádí také výsledky s vývojem inteligentních robotů na univerzitě v Readingu. Největší část knihy je ale věnována Warwickovým vizím s vývojem umělé inteligence a jejím dopadem na lidstvo. Budoucnost lidstva nevidí zrovna optimisticky.

2. Úsvit robotů, soumrak lidstva

Myšlenky a vize, které Kevin Warwick ve své knize Úsvit robotů, soumrak lidstva prezentuje, jsou přímočaré a srozumitelné. Vývoj umělých inteligencí je teprve na začátku, stejně tak jako kybernetika, nanotechnologie, biotechnologie, neurovědy - tedy obory, které s umělou inteligencí úzce souvisí. Warwick předpokládá, že inteligence strojů se bude velmi rychle zvyšovat a rozvíjet. Dnes nedokážeme odhadnout, kam až tento vývoj může dojít, ale jedno je jisté - inteligence strojů velmi rychle dohání inteligenci lidskou, která na rozdíl od umělé inteligence má své hranice. Warwick upozorňuje na fakt, že inteligenci nedokážeme přesně měřit, a že pravděpodobně nedokážeme odhadnout, kdy inteligence strojů dosáhne srovnatelných výkonů s inteligencí lidskou. Warwick píše:

„Podobá se to chůzi po okraji srázu, a to chůzi poslepu. Před každým dalším krokem si říkáte: „Minulý krok byl bezpečný, uděláte ještě jeden." Budete bezpeční, dokud nedojdete na samý okraj - ale pak už bude pozdě. Když strojům přidáváme inteligenci, nevíme, kde je hranice..."[2]

Pokud neodhadneme tuto hranici, může dojít podle Warwicka k tomu, že se stroje stanou inteligentnější než my a lidstvo si zotročí. Warwick popisuje ve své knize svět, jak by mohl vypadat v roce 2050 a jeho vize se velmi podobají některým katastrofickým filmům žánru sci-fi. Stroje převezmou vedoucí roli a lidstvo bude ve stejné pozici, v jaké jsou dnes zvířata.

Největší hrozbu vidí Warwick v zapojení strojů do sítě. Podle jeho názoru je mylné se domnívat, že inteligentní stroje budou mít antropomorfní znaky, a že se budou snažit být fyzickými a psychickými kopiemi člověka.

Warwick se ve své knize ptá, jak bychom mohli zabránit, aby se stroje staly inteligentnější než lidé? Východisko vidí ve zvýšení výkonu lidského mozku, díky čipům napojených na mozek. Člověk by se tímto způsobem zdokonalil, zlepšila by se paměť, znásobila kapacita mozku, dokázali bychom přijímat například rádiové nebo radarové signály. Ale jak sám Warwick hned v zápětí uvádí, jsou to všechno záležitosti vzdálené budoucnosti.

3. Optimisté, pesimisté a ti ostatní

Jozef Kelemen je profesorem informatiky na Slezské univerzitě v Opavě. Zabývá se umělou inteligencí a kognitivními vědami. Je také autorem doslovu Warwickovy knihy.

Z hlediska objektivity Kelemen v doslovu uvádí jako nejméně zpochybnitelné ty kapitoly, ve kterých Warwick seznamuje čtenáře s vědeckou a technickou stránkou robotiky a umělé inteligence. Kapitoly, kde Warwick kladně popisuje výzkum svého týmu a tím pádem upozorňuje potencionální sponzory, považuje Kelemen u nás za nezvyklé, ale pochopitelné. Kdo by také ve vlastní knize popisoval neúspěchy vlastního výzkumu?

Kelemen dále upozorňuje, že ne vše, co v je v knize popisováno, by mělo být bráno za všeobecný fakt. Jedná se jen o autorovy názory na danou problematiku. Má na mysli především první a poslední část knihy, kde Warwick popisuje své vize o vývoji umělé inteligence a budoucnosti lidstva. Kelemen tvrdí, že jiný autor snažící se uhodnout budoucnost vztahů strojů a lidstva, může dojít k jiným závěrům než Warwick, popisující zotročení lidí stroji.

Bude mít (stroj) z uloveného člověka tu zvláštní radost, jakou mají nimrodi z uloveného jelena?"[3], ptá se Kelemen. Podobně uvažuje i Jan Burian v článku Etika umělého vědomí, kde píše: „U umělých struktur není nutno předpokládat biologicky podmíněné sebeprosazující tendence."[4] Marek Petrů ve své knize Možnosti transgrese píše: „Warwick jako by neviděl, jakou měrou se na našem konání podepisuje naše lidská biologická přirozenost, naše biologické potřeby a pudy, naše příslušnost k po mnoha stránkách „zvířecímu" společenství. Nelze proto ze vzorců našeho chování extrapolovat na jednání bytostí jiných."[5]

Ale nemůžeme být zcela klidní a domnívat se, že žádné nebezpečí nám nehrozí. O tom je přesvědčen i Marek Petrů, který hrozbu vidí především ve vývoji dokonalých inteligentních válečných strojů a tvrdí, že záleží jen na nás, jestli něco takového dopustíme. Zaráží ho ale Warwickův postup, kdy si nechává implantovat do těla čipy a přitom varuje před nadvládou strojů.

O nebezpečí ze strany strojů uvažuje i Jozef Kelemen v článku v časopise Vesmír[6]. Píše ale, že by bylo daleko vhodnější lidi objektivně informovat a ne je strašit, čímž pravděpodobně naráží na Warwicka. Ptá se, jestli neexistuje třetí skupina lidí (ani pesimisté ani optimisté), kteří neusilují o statut mediální hvězdy, ale chtějí informovat spoluobčany o tom, co dělají ve svých laboratořích a seznámit je s výsledky jejich práce. Takového realistu vidí v profesorovi počítačové vědy a inženýrství a zároveň řediteli Laboratoře umělé inteligence na Massachusettské technice (MIT) v Cambridgi, Rodney A. Brooksovi. Kelemen ve svém článku popisuje a komentuje Brooksovu knihu Flesh and Machines - How Robots Will Change Us (Tělo a stroje: Jak roboti promění lidstvo) a zabývá se také otázkou emotivity robotů. V článku píše, že emotivita robotů je důležitá, zvláště tehdy, pokud se jedná o humanoidní roboty.

HAL[7] neumí najít ten správný vztah k lidem možná právě proto, že mu chybí lidské tělo, které by ho vnořovalo do lidského prostředí alespoň přibližně tak, jako nás do našeho prostředí vnořují naše těla."[8]

Rodney Brooks v knize Příštích padesát let[9] popisuje vývoj robotů a umělé inteligence. Stejně jako Warwick předpokládá, že v budoucnosti budou běžné křemíkové implantáty v lidském těle a to nejen u postižených lidí. Implantáty si lidé nechají do svého těla zabudovat třeba jen proto, aby mohli zachycovat infračervené nebo ultrafialové světlo. Předpokládá také, že díky genetickému inženýrství dojde ke zvýšení počtu neuronů v lidském mozku a k dalším modifikacím lidského těla. Zároveň upozorňuje, že záleží jen na nás, kam až vývoj může dojít. Zde na rozdíl od Warwicka a jeho vizí vidí hlavní problém v etice. Co ještě bude „lidské" a co již nikoli.

Ivan M. Havel ve své eseji nazvané Po nás podoba[10] se krátce zmiňuje o Warwickových předpovědích. Havel píše, že Warwick vychází z umělých neuronových sítí, a že rozhodující vliv pro umístění v žebříčku vývoje bude mít počet neuronů. Havel souhlasí s tím, že v takovém případě potom inteligence strojů opravdu poroste a stroje brzy lidi předhoní. Jenže Havel hned dodává „Závěr zní logicky, ovšem za předpokladu, že co je opravdu důležité, je počet a propojení neuronů, což je extrapolace právě jen ze současné (a možná přechodné) popularity umělých neuronových sítí." Warwickovy další dedukce považuje Havel za logicky nedomyšlené. Havel Warwickovy názory komentuje také ve svém článku Budoucnost jako akční thriller[11] a rozebírá tři Warwickovy teze:

1. Dnes jsme my, lidé, díky naší inteligenci dominantní formou života na Zemi.

2. Je možné, že již relativně brzo budou stroje inteligentnější než lidé.

3. Pak se stroje stanou dominantní formou života na Zemi.

Havel tvrdí, že pojem inteligence je daleko problematičtější, než uvádí Warwick, který uspořádává kočky, lidi a stroje do jediného žebříčku. Havel také nesouhlasí s názorem, že inteligence je to samé, co schopnost vládnout nebo čím větší inteligence, tím větší touha po moci.

4. Závěr

Na vývoj umělé inteligence můžeme pohlížet z různých směrů. Můžeme se bavit o etice, tak jak to dělá Jan Burian, Egon Bondy, který se asi jako první u nás etikou umělé inteligence zabýval, nebo společnost Singularity Institue For Artificial Inteligence[12].Tato společnost klade důraz na etiku a na to, aby se vyvíjela jen, jak sami píšou na svých stránkách, „přátelská" umělá inteligence. Ostatně o tom hovoří už jejich podnázev „Advance Innovation - Advance Humanity", tedy volně přeloženo jako „provádět inovace - provádět je lidsky". Můžeme na umělou inteligenci pohlížet z filozofického hlediska, z technického (teď mám na mysli především kybernetiku), biologického, z pohledu neurověd aj. Těch možností je spousta a z největší pravděpodobností by každý došel k jiným závěrům. Jak už jsem psal v úvodu, těžko nějaký vývoj předvídat. Můžou se klidně naplnit vize Kevina Warwicka, ať již s ním souhlasíme nebo ne. Proč by se stroje nemohly stát inteligentnějšími a zaútočit na svého stvořitele? Píše se rok 2006 a my si můžeme v novinových článcích přečíst o vývoji inteligentních zbraní. Dozvídáme se o tom, že například Izrael vyvíjí díky nanotechnologiím bionického sršně, tedy létajícího robota, který by dokázal pronásledovat a vyfotografovat nebo zabít svůj cíl. Jaké zbraně tedy budou za padesát let? A máme skutečně jistotu, že se tyto futuristické zbraně neobrátí proti nám? Asi ne. Domnívám se, že vývoji takovýchto zbraní nezabrání ani stohy papíru o etice umělé inteligence. Podotýkám, bohužel. Tempo vývoje je závratné. Jak píše Ivan M. Havel: „Jediné, v čem - obecně řečeno - vidím problém, je že technizace, digitalizace a virtualizace našeho života už postupuje rychleji, než je zdravé, totiž než se vystřídají generace."[13]

Myslím si, že nám bezprostředně nehrozí, že by stroje mohly převzít vůdčí úlohu na Zemi. Je tu jiný problém. I když tempo vývoje je obrovské a Mooreův zákon[14] stále platí, na samou hranici singularity nedosáhneme. Domnívám se, že při tak překotném vývoji hrozí přehlédnutí chyby, která by zapříčinila zhroucení systému. Vzpomeňme třeba na problém Y2K, tedy přechod na rok 2000.

Jsme závislí na technologiích a dnes si život bez nich nedokážeme představit. Bohužel budeme na nich stále závislejší a v tom vidím problém. Pomalu se z nás stanou otroci vlastních technologií.

 


[1] WARWICK, Kevin. Úsvit robotů - soumrak lidstva. 1. vyd. Praha: Vesmír, 1999. 219s. ISBN 80-85977-16-8 (pozn. str. 9)

[2] WARWICK, Kevin. Úsvit robotů - soumrak lidstva. 1. vyd. Praha: Vesmír, 1999. 219s. ISBN 80-85977-16-8 (pozn. str. 206)

[3] WARWICK, Keven. Úsvit robotů - soumrak lidstva. 1. vyd. Praha: Vesmír, 1999. 219s. ISBN 80-85977-16-8

[4] BURIAN, Jan. Etika umělého vědomí (pozn. učební materiál poskytnut Janem Burianem)

[5] PETRŮ, Marek. Možnosti transgrese. 1. vyd. Praha: Triton, 2005. 268s. ISBN 80-7254-610-4

[6] KELEMEN, Jozef. Roboty - prokletí, vykoupení, nebo něco mezi tím? [on-line]. 2002. [cit. 2006-12-10]. Dostupný z: http://www.vesmir.cz/clanek.php3?CID=2406

[7] HAL - superinteligentní počítač z filmu Stanleyho Kubricka 2001: Vesmírná odysea z roku 1968.

[8] http://www.vesmir.cz/clanek.php3?CID=2406 KELEMEN, Jozef. Roboty - prokletí, vykoupení, nebo něco mezi tím? [on-line]. 2002-10. [cit. 2006-12-10]. Dostupný z:

[9] BROCKMAN, John. Příštích padesát let. 1. vyd. Praha: Dokořán, 2004. 269s. ISBN 80-7363-001-X

[10] HAVEL, Ivan. Po nás podoba. [on-line]. 2000 [cit. 2006-12-10]. Dostupný z: http://www.cts.cuni.cz/reports/2000/CTS-00-02.htm

[11] HAVEL, Ivan. Budoucnost jako akční thriller. Vesmír [online]. 1999, č. 3 [cit. 2006-12-09]. Dostupný z: http://www.vesmir.cz/clanek.php3?CID=757

[12] Singularity Institute for Artificial Intelligence [on-line]. [cit. 2006-12-10]. Dostupný z:. http://www.singinst.org/

[13] HAVEL, Ivan. Rozhovor. Téma [online]. 2004, roč. 2, č. 5 [cit. 2006-12-10]. Dostupný z: http://www.gasbag.wz.cz/tema/rocnik2/cislo5/05-18.htm

[14] Mooreův zákon je empirické pravidlo, které roku 1965 vyslovil chemik a spoluzakladatel firmy Intel Gordon Moore. Původní znění bylo: „složitost součástek se každý rok zdvojnásobí při zachování stejné ceny."

Wikipedie, otevřená encyklopedie [on-line]. [cit. 2006-12-10]. Dostupný z: http://cs.wikipedia.org/wiki/Moor%C5%AFv_z%C3%A1kon

Líbil se vám článek?
Stáhnout článek v PDF

0 komentářů

Přečtěte si také

Přihlášení Registrace
RSS Facebook Twitter YouTube
Zobrazit standardní verzi webu

Taky děláme

Feedback