A földi biológiai élet a XX. század közepén, a hidrogénbomba feltalálása után, az atomhatalmak azt követő hidegháborúja során szembesült először ember teremtette egzisztenciális kockázattal. Kennedy elnök állítólag 33 és 50 százalék közé tette egy totális nukleáris háború kitörésének az esélyét a kubai rakétaválság idején.{690} A legendás matematikus, Neumann János, aki a Légierő Stratégiai Rakétaértékelő Bizottságának elnöke és a nukleáris stratégia kormányzati tanácsadója lett, közel száz százalékra becsülte a nukleáris Armageddon valószínűségét (még a kubai rakétaválság előtt).{691} Az 1960-as évek kilátásait figyelembe véve melyik korabeli, tájékozott megfigyelő jósolta volna azt, hogy a világ átvészeli a következő negyven évet újabb, nem próbajellegű nukleáris robbantás nélkül?
A nemzetközi politika látszólagos káosza ellenére hálásak lehetünk azért, hogy mindeddig sikerült elkerülni az atomfegyverek háborús alkalmazását. Azonban nyilvánvaló, hogy nem nyugodhatunk meg, hiszen még mindig létezik annyi hidrogénbomba, amennyivel többszörösen el lehetne pusztítani minden emberi életet.{692} Noha ez manapság viszonylag kis közfigyelmet kap, az Egyesült Államok és Oroszország óriási interkontinentális ballisztikus rakétaarzenáljai még megvannak, a két nagyhatalom közötti viszony látszólagos enyhülése ellenére is.
A nukleáris fegyverek elszaporodása, a nukleáris anyagok és know-how elterjedése szintén aggodalomra ad okot, bár civilizációnk számára nem jelent egzisztenciális kockázatot. (Azaz csak egy teljes körű, az interkontinentális ballisztikus rakétákat is felölelő termonukleáris háború fenyeget a teljes emberiség kipusztulásával.) A nukleáris fegyverek elszaporodása és a nukleáris terrorizmus a komoly, helyi kockázat kategóriába tartozik, a népirtással együtt. Ugyanakkor az aggodalom súlyos és jogos, hiszen a kölcsönös elrettentés elvének logikája nem érvényes az öngyilkos terroristák vonatkozásában.
A közelmúltban még egy egzisztenciális kockázattal bővítettük a listát: a könnyen terjedő, genetikailag módosított vírusokéval, melyeknek hosszú a lappangási ideje és halálos kórt hordoznak. Vannak könnyen terjedő vírusok, mint az influenzáé és a hétköznapi nátháé. Vannak halálos vírusok, mint a HIV. Ritka, hogy egy vírusban mindkét tulajdonság egyszerre meglegyen. A ma élő emberek azoknak a leszármazottai, akik természetes ellenálló képességet fejlesztettek ki a nagyon fertőző vírusok többségével szemben. A faj képessége arra, hogy túlélje a vírusos járványokat, a szexuális úton történő szaporodás egyik előnye, ami genetikai sokszínűséget biztosít a populáción belül, s így nagyon sokféle reakció adható egy adott vírusra. Bár a bubópestis katasztrofális volt, nem végzett mindenkivel Európában. Más vírusok, mint például a himlő, rendelkeznek mindkét negatív jellemzővel – könnyen fertőznek és halálosak –, de már elég régóta jelen vannak ahhoz, hogy a társadalom technikai úton, védőoltással védekezzen ellenük. A génmódosítás viszont lehetőséget teremt ezeknek az evolúciós védelmeknek a megkerülésére azzal, hogy hirtelen új kórokozókat fejleszt ki, amelyekkel szemben sem természetes, sem technikai védelmünk nincs.
Az a lehetőség, hogy halálos mérgeket előállító géneket adjunk olyan könnyen terjedő, gyakori vírusokhoz, mint a közönséges nátha és az influenza, újabb egzisztenciális kockázattal fenyegető lehetőséget jelent. Ez a lehetőség vezette az Asilomar konferenciát annak az átgondolására, hogyan lehetne megbirkózni ezzel a fenyegetéssel, majd a biztonsági és etikai irányvonalak felvázolására. Noha ezek az irányvonalak mindeddig működtek, a génmanipuláció technológiája is egyre kifinomultabbá válik.
2003-ban a világ sikeresen megküzdött a SARS-vírussal. A SARS-járvány egy ősi gyakorlat (a kutatók arra gyanakodnak, hogy a vírus egzotikus állatokból, feltehetőleg cibetmacskákból került át a környezetükben élő emberekre) és egy modern gyakorlat (a fertőzés a légiközlekedés révén terjedt el gyorsan a világban) kombinációjának eredményeként tört ki. A SARS lehetőséget biztosított arra, hogy kipróbáljuk magunkat egy, az emberi civilizáció számára új, erősen fertőző, az emberi testen kívül is sokáig megmaradó, és súlyos, 14–20%-osra becsült halálozási arányú betegséget okozó vírussal szemben. A reakciónk ősi és modern technikákat kombinált.
A SARS-sal szerzett tapasztalataink azt mutatják, hogy a legtöbb vírus, még ha viszonylag gyorsan terjed és elég veszélyes is, komoly, de nem feltétlenül egzisztenciális kockázatot jelent. Mindazonáltal úgy tűnik, a SARS nem génmódosított vírus. Könnyen terjed testnedvekkel, de jóval nehezebben a levegőben. Lappangási ideje egy naptól két hétig terjed, míg a hosszabb lappangási időszak lehetővé tenné, hogy több, exponenciálisan növekvő nemzedéke is létrejöjjön, mielőtt még a hordozókat azonosítanánk.{693}
A SARS halálos, de az áldozatai többsége életben maradt. Továbbra is lehetséges rosszindulatúan módosítani egy vírust úgy, hogy könnyebben terjedjen, mint a SARS, hosszabb legyen a lappangási ideje, és lényegében az összes áldozat számára halált jelentsen. A himlő közel áll ahhoz, hogy mindez jellemző legyen rá. Noha van ellene vakcinánk (bár elég durva), a vírus genetikailag módosított változatai ellen nem lenne hatásos.
Amint azt később kifejtem, a genetikailag módosított, rosszindulatú vírusok ablaka a 2020-as években fog bezáródni, amikor rendelkezésünkre állnak majd a nanobotalapú, teljes mértékben hatékony antivírus-technológiák.{694} Mindazonáltal, mivel a nanotechnológia több ezerszer erősebb, gyorsabb és intelligensebb lesz, mint a biológiai entitások, az önreplikáló nanobotok sokkal nagyobb veszélyt és újabb egzisztenciális kockázatot fognak jelenteni. A rosszindulatú nanobotok ablakát végül az erős mesterséges intelligencia fogja bezárni, de nem meglepő módon a „nem barátságos” MI még nagyobb egzisztenciális veszélyt fog jelenteni, ahogyan arra később kitérek.
Az óvatosságelv. Ahogyan arra Bostrom, Freitas és más megfigyelők, köztük én is, rámutattak, az egzisztenciális kockázatok esetében nem támaszkodhatunk a próba és elvetés módszerére. Az „óvatosságelvként” ismertté vált elvnek több, egymással versengő értelmezése létezik. (Ha egy tett következményei nem ismertek, de egyes tudósok szerint akár csak a minimális kockázata is fennáll annak, hogy kifejezetten negatívak, akkor jobb nem végrehajtani a tettet, mint megkockáztatni a negatív következményeket.) Azonban egyértelmű, hogy a lehető legbiztosabbnak kell lennünk a stratégiánkban, amivel szembeszállunk az ilyen kockázatokkal. Ezért hallunk egyre erőteljesebb hangokat, amelyek azt követelik, hogy még megjelenésük előtt akadályozzuk meg az egzisztenciális kockázatokat úgy, hogy alapvető stratégiaként leállítjuk a technológia továbbfejlesztését. A korlátozás azonban nem a megfelelő reakció, és csak a megszülető technológiák jótékony hatásait zavarná meg, miközben valójában növelné a katasztrofális következmények valószínűségét. Max More jól megfogalmazza az óvatosságelvet, és azt javasolja, hogy váltsuk fel az általa „proaktív elvnek” nevezett stratégiával, mely mérlegeli a cselekvés és nem cselekvés kockázatait is.{695}
Mielőtt rátérnék arra, hogyan reagáljunk az egzisztenciális kockázatokra, érdemes áttekinteni még Bostrom és mások néhány másik forgatókönyvét is.
Minél kisebb a kölcsönhatás, annál nagyobb a robbanási potenciál. A közelmúltban vita alakult ki a jövőbeli, nagy energiájú részecskegyorsítók azon képessége kapcsán, hogy szubatomi szinten transzformált energiaállapotok láncreakcióját indíthatják el. Ennek eredményeként a folyamat egyre növekedve széttépne minden atomot galaktikus környezetünkben. Több ilyen forgatókönyv is született, köztük azzal a lehetőséggel, hogy létrehozunk egy fekete lyukat, amely elnyeli a naprendszerünket.
Ezeknek a forgatókönyveknek az elemzése azt mutatja, hogy igen kicsi a valószínűsége a bekövetkezésüknek, bár nem minden fizikus derűlátó a veszélyeket illetően.{696} Ezeknek az elemzéseknek a matematikája megalapozottnak tűnik, de nincs még konszenzus a fizikai valóságnak ezt a szintjét leíró képleteket illetően. Ha az ilyen veszélyek túlzásnak tűnnek, gondoljunk arra, hogy valóban egyre kisebb méretskálákon egyre nagyobb energiájú jelenségeket találtunk!
Alfred Nobel molekulák kémiai kölcsönhatását próbálgatva fedezte fel a dinamitot. Az atombomba, amely több tízezerszer erősebb a dinamitnál, nagy atomok nukleáris kölcsönhatásain alapul, amelyek sokkal kisebb alkotórészei az anyagnak, mint a molekulák. Az atombombánál több tízezerszer erősebb hidrogénbomba még kisebb léptéken működik: kis atomokkal. Noha ebből a felismerésből nem feltétlenül következik, hogy léteznek még erősebb destruktív láncreakciók a szubatomi részecskék szintjén, legalábbis elképzelhetővé teszi a következtetést.
Nekem személy szerint az a véleményem a veszélyről, hogy nem valószínű, hogy pusztán a véletlen révén találkozunk ilyen pusztító eseménnyel. Gondoljunk bele, mennyire valószínűtlen lenne véletlenül létrehozni egy atombombát! Egy ilyen eszközhöz az anyagok és cselekedetek pontos összehangolása szükséges, mint ahogy az első atombomba megépítése is kiterjedt és precíz tervezést igényelt. Még kevésbé valószínű, hogy véletlenül létrehozzunk egy hidrogénbombát, hiszen ehhez előbb egy atombombát kellene készíteni, hidrogénmaggal és egyéb elemekkel kiegészítve. Az pedig még valószínűtlenebbnek tűnik, hogy belebotoljunk éppen azokba a körülményekbe, amelyek ahhoz kellenek, hogy szubatomi szinten induljon el egy újfajta, katasztrofális láncreakció. Ugyanakkor az elképzelhető következmények kellően pusztítóak ahhoz, hogy az óvatosságelv alapján komolyan vegyük ezeket a lehetőségeket. A különböző forgatókönyveket gondosan elemezni kell, mielőtt újfajta kísérleteket hajtanánk végre a gyorsítókkal. Ugyanakkor ez a kockázat nem szerepel a XXI. század veszélyeiről vezetett listám első helyein.
Kikapcsolják a szimulációnkat. Egy másik egzisztenciális kockázat, amit Bostrom és mások azonosítottak, az, hogy valójában egy szimulációban élünk, és ezt a szimulációt ki fogják kapcsolni. Úgy tűnhet, hogy nem sok mindent tehetünk ez ellen. Mivel mi vagyunk a szimuláció tárgyai, nincs lehetőségünk befolyásolni, hogy mi történjék benne. A legjobb módszer a kikapcsolás elkerülésére az, ha igyekszünk érdekesek lenni a szimuláció megfigyelői számára. Feltételezve, hogy valaki valóban figyeli a szimulációt, jogosnak tűnik az a feltételezés, hogy kisebb valószínűséggel kapcsolja ki, ha az leköti a figyelmét.
Rengeteget töprenghetnénk azon, mitől érdekes egy szimuláció, de az új tudás létrehozása kétségkívül kritikus része lenne. Noha nehezen lehetne kikövetkeztetni, mit talál érdekesnek hipotetikus megfigyelőnk, a szingularitás minden bizonnyal lenne olyan magával ragadó, mint bármi más, amit el tudunk képzelni, és rendkívüli sebességgel teremtene új tudást is. Sőt, talán épp a tudás robbanásszerű növekedését elhozó szingularitás elérése a szimuláció célja. Így a „konstruktív” szingularitás (olyan, ami elkerüli a degeneratív végeredményeket, mint az emberi létet elpusztító szürke masszát vagy egy rosszindulatú MI uralmát) létrehozása lehet a legjobb módszer a szimuláció kikapcsolásának az elkerülésére. Természetesen sok egyéb ok is a konstruktív szingularitás elérése mellett szól.
Ha a világ, amelyben élünk, szimuláció valaki számítógépén, akkor nagyon tökéletes szimuláció – ami azt illeti, annyira részletes, hogy akár el is fogadhatjuk a valóságunknak. Akárhogy is, ez az egyetlen valóság, amelyhez hozzáférésünk van.
Úgy tűnik, a világunk hosszú és gazdag történettel bír. Ez vagy azt jelenti, hogy valójában nem szimuláció, vagy azt, hogy a szimuláció már nagyon régóta fut, és így valószínűleg nem fog leállni a közeljövőben sem. Persze az is lehetséges, hogy a szimuláció arra is kiterjed, hogy anélkül mutassa fel a hosszú múlt nyomait, hogy az valóban megtörtént volna.
Ahogyan azt a hatodik fejezetben tárgyaltam, léteznek következtetések, melyek szerint egy fejlett civilizáció új világegyetemet teremthet a számítások végrehajtására (vagy másképp fogalmazva, folytathatja saját számítástechnikája kiterjesztését). Azt, hogy mi esetleg egy ilyen, másik civilizáció által teremtett világegyetemben élünk, tekinthetjük szimulációnak. Lehet, hogy ez a másik civilizáció egy evolúciós algoritmust futtat a mi világegyetemünkön (azaz az evolúciót, amelynek a szemtanúi vagyunk), hogy létrehozza a technológiai szingularitás nyomán keletkező tudásrobbanást. Ha ez igaz, akkor a mi világegyetemünket figyelő civilizáció kikapcsolhatja a szimulációt, amint úgy tűnik, hogy a tudás szingularitása meghiúsult, és nem fog megvalósulni.
Ez a forgatókönyv sem szerepel előkelő helyen az aggodalmaim listáján, különösen azért, mert az egyetlen stratégiánk a negatív kimenetel elkerülésére az, amit egyébként is követnünk kell.
A buli tönkretétele. Egy másik gyakran hangoztatott aggodalom egy hatalmas aszteroida- vagy meteorbecsapódás, ami már többször megtörtént a Föld története során, és valóban egzisztenciális kockázatot jelentett az akkor élő fajok számára. Ez természetesen nem technológiai veszély. Sőt a technológia fog megvédeni minket tőle (egy-két évtizeden belül). Noha kisebb becsapódások rendszeresen előfordulnak, a nagy és pusztító űrbéli látogatók ritkák. Egyet sem látunk közelegni, és gyakorlatilag biztos, hogy mire ez a veszély felmerül, a civilizációnk képes lesz megsemmisíteni a betolakodót, mielőtt az semmisítene meg bennünket.
Az egzisztenciális veszélyek listájának a következő eleme az, hogy egy idegen intelligencia pusztít el minket (nem az, amelyiket mi fogunk megteremteni). Erre a lehetőségre már kitértem a hatodik fejezetben, és ezt sem tartom valószínűnek.
GNR: a lehetőségek és a veszélyek. Ezek után nem marad más, mint a GNR-technológiák mint elsőszámú aggodalomforrások. Mindazonáltal úgy gondolom, komolyan kell vennünk a félrevezetett és egyre hangosabb luddita hangokat is, melyek a technológiai fejlődésről való széles körű lemondást hirdetik, hogy elkerüljük a GNR valódi veszélyeit. Később tárgyalandó okokból kifolyólag nem a lemondás a válasz, ám a racionális félelem irracionális megoldásokhoz vezethet. Az emberi szenvedés megszüntetésének késlekedése még ma is súlyos következményekkel jár – például az éhínség súlyosbodásával Afrikában, mivel nem fogadják a genetikailag módosított növényekből származó élelmiszersegélyeket.
A széles körű lemondás alkalmazásához totalitariánus rendszer kellene, de a totalitariánus szép új világ mind valószínűtlenebb az egyre erősebb, decentralizált elektronikus és fotonikus kommunikáció demokratizáló hatása miatt. Az internet és a mobiltelefonok által képviselt világméretű, decentralizált kommunikáció átható demokratizáló erőként működik. Nem a tankon álló Borisz Jelcin fordította meg a Mihail Gorbacsov elleni államcsínyt, hanem a faxok, fénymásolók, videokamerák és személyi számítógépek titkos hálózata, amely megtörte az információ több évtizedes totalitariánus ellenőrzését.{697} A demokrácia és a kapitalizmus felé való elmozdulást, és az ezzel járó gazdasági fejlődést, ami az 1990-es éveket jellemezte, mind a személyes kommunikációs technológiák egyre növekvő ereje táplálta.
Léteznek még egyéb, nem egzisztenciális, de azért komoly kérdések: „Ki irányítja a nanobotokat?”, „Kihez beszélnek a nanobotok?” A jövőbeli szervezetek (a kormányok vagy a szélsőséges csoportok), vagy csak egy okos ember több billió észrevehetetlen nanobotot tehet a vízbe vagy az élelmiszerbe, úgy egy adott személyébe, mint egy egész országéba. Ezek a kémbotok utána figyelemmel kísérhetik, befolyásolhatják, sőt egyenesen irányíthatják a gondolatokat és a tetteket. Mindemellett a létező nanobotokra hatással lehetnek szoftvervírusok és hacker-technológiák is. Amikor egy szoftver fut a testünkben és az agyunkban (mely küszöböt néhány ember esetében már átléptük), a magánélet és a biztonság problémái sokkal fontosabbakká válnak, és ki fognak alakulni az ilyen behatolásokat gátló módszerek.
Az átalakuló jövő elkerülhetetlensége. A különböző GNR-technológiák több fronton is fejlődnek. A GNR teljes megvalósítása több száz kicsi, önmagában jótékony hatású lépés eredménye lesz. A „G” esetében már átléptük a dizájner kórokozók létrehozásához szükséges eszközök jelentette küszöböt. A biotechnológia fejlődése tovább fog gyorsulni, azokból az etikai és gazdasági előnyökből táplálkozva, amelyek a biológia mögött rejlő információs folyamatok megismeréséből származnak.
A nanotechnológia mindenféle technológia folyamatos miniatürizálásának az elkerülhetetlen végeredménye. Számos alkalmazási területen, például az elektronika, a mechanika és az orvostudomány terén a legfontosabb jellemzők körülbelül negyedükre csökkennek évtizedenként és lineáris dimenziónként. Emellett egyre gyorsul a nanotechnológiát és a lehetséges alkalmazásait kutató tudományok fejlődése. (Lásd a Nanotechnológiával kapcsolatos szabadalmak az Egyesült Államokban című ábrát a második fejezetben.)
Hasonlóképpen, az emberi agy visszafejtésére irányuló erőfeszítéseinket a számos várt előny hajtja, köztük a kognitív betegségek megértése és gyógyítása. Az agyba való bepillantást szolgáló eszközök exponenciális ütemben fejlődnek a tér- és időbeli felbontásuk tekintetében, és már bebizonyítottuk, hogy az agyi képalakotó módszerekkel és az agy tanulmányozásával szerzett adatokat át tudjuk vinni működő modellekbe és szimulációkba.
Az agy visszafejtésére irányuló erőfeszítésekből származó ismeretek, az MI-algoritmusok kutatása és a számítástechnikai platformok teljesítményének exponenciális növekedése elkerülhetetlenné teszi az erős MI (az emberi szintű és azon túli MI) létrejöttét. Amint az MI eléri az emberi szintet, szükségképpen meg is fogja haladni azt, mivel kombinálni fogja az emberi intelligencia erősségeit a már most létező nem biológiai intelligencia sebességével, memóriájával, számítási teljesítményével és tudásmegosztó képességével. A biológiai intelligenciával szemben a nem biológiai intelligencia léptékét, teljesítményét és ár–teljesítmény-arányát tekintve exponenciálisan tovább fog növekedni.
Totalitariánus lemondás. Az egyre gyorsuló fejlődést mindezeken a frontokon csak egyetlen elképzelhető módon lehet megállítani: egy világméretű totalitariánus rendszer révén, amely teljes mértékben lemond a fejlődés eszméjéről. Ám valószínűleg még ez a kísérlet is kudarcot vallana a GNR veszélyeinek elhárításában, mivel a kialakuló földalatti tevékenység a GNR pusztító alkalmazásait helyezné előtérbe. Ennek az lenne az oka, hogy felelősségteljes tudósok és kutatók, akikre a védekező technológiák kifejlesztésében számítanánk, nem férnének hozzá a szükséges eszközökhöz. Szerencsére egy ilyen totalitariánus világ kialakulásának az esélye egyre kisebb, ugyanis a tudás egyre nagyobb decentralizációja eredendően demokratizáló erő.
A védelem előkészítése
Én magam arra számítok, hogy az említett technológiáknak a kreatív és konstruktív alkalmazásai lesznek a dominánsak, mint ahogy szerintem ma is ez a helyzet. Mindazonáltal óriási mértékben meg kell növelnünk a specifikus védekező technológiákra fordított befektetéseinket. Mint korábban tárgyaltam, ma a biotechnológia kritikus fázisába léptünk, és a XXI. század tízes éveinek a végén el fogjuk érni azt a fázist, ahol közvetlenül alkalmaznunk kell majd a nanotechnológiai védekező technológiákat.
Nem kell a holnapon túl néznünk ahhoz, hogy lássuk a technológiai fejlődés ígéreteit és veszélyeit. Képzeljük el, hogyan beszélnénk a ma létező veszélyekről (például az atom- és hidrogénbombáról) valakinek, aki néhány száz évvel ezelőtt élt! Őrültnek tartana minket, hogy ilyen kockázatot vállalunk. De vajon hányan akarnánk 2005-ből visszatérni ahhoz a rövid, állatias, betegségektől és szegénységtől sújtott, katasztrófákkal teli élethez, amelyet az emberi faj 99%-a élt néhány száz évvel ezelőtt?{698}
Romanticizálhatjuk a múltat, de egészen a közelmúltig az emberiség nagy része rendkívül törékeny életet élt, amelynek során egyetlen – gyakran bekövetkező – sorscsapás igazi katasztrófát jelenthetett. Kétszáz évvel ezelőtt a nők várható élettartama a rekordot tartó országban (Svédországban) nagyjából harmincöt év volt, azaz nagyon rövid a ma várható élettartamhoz képest – ami a japán nők esetében például nyolcvanöt év. A férfiak várható élettartama hozzávetőleg harminchárom év volt, szemben a jelenlegi rekordot tartó országokra jellemző hetvenkilenc évvel.{699} Fél napig tartott a vacsora elkészítése, és a legtöbb emberi tevékenységet a kemény fizikai munka jellemezte. Nem volt szociális védőháló. Fajunk egy jelentős része még mindig ilyen körülmények között él, ami legalábbis egy nyomós érv a technológiai fejlődés és a vele járó gazdasági gyarapodás mellett. Csak a képességeiben és hozzáférhetőségében több nagyságrendnyi fejlődésre alkalmas technológia lehet képes megküzdeni az olyan problémákkal, mint a szegénység, a betegségek, a környezetszennyezés és napjaink társadalmának többi nehézsége.
Az emberek viselkedése gyakran három fázison megy át, miközben a jövő technológiájának hatásairól gondolkodnak: áhítattal és csodálattal képzelik el a régi problémák megoldására való képességét; aztán megijednek az új technológiák új, komoly veszélyeitől; végül pedig rájönnek, hogy az az egyetlen járható és felelősségteljes út, ha gondosan kijelölik a fejlődés olyan pályáját, amely megvalósítja a jótékony hatásokat és közben kordában tartja a veszélyeket.
Mondanom sem kell, hogy már megtapasztaltuk a technológia árnyoldalait – például a háborúk pusztítását és rombolását. Az első ipari forradalom durva technológiái sok fajt kipusztítottak a bolygónkon. Centralizált technológiáink (mint az épületek, városok, repülőgépek és erőművek) bizonyítottan nem biztonságosak.
A nukleáris, biológiai és vegyi hadviselés technológiáit mind bevetették a múltban, vagy fenyegetőztek a bevetésükkel.{700} A sokkal erősebb GNR-technológiák új, komoly helyi és egzisztenciális kockázatokkal fenyegetnek. Ha sikerül túllépnünk a genetikailag módosított, „tervezett” kórokozók miatti félelmeken, majd a nanotechnológia önreplikáló entitásai miattiakon, szemben találjuk magunkat a robotokkal, amelyek intelligenciája fel fogja venni a versenyt a miénkkel, és végül le is fogja győzni azt. Ezek a robotok remek segítők lehetnek, de ki a megmondhatója, hogy örökké barátságosak maradnak az egyszerű biológiai emberekkel?
Erős MI. Az erős MI azt az ígéretet hordozza magában, hogy továbbviszi az emberi civilizáció exponenciális fejlődését. (Mint korábban tárgyaltam, az emberi civilizációból származó nem biológiai intelligenciát is emberinek tartom.) Ám a veszélyei is komolyak, éppen az intelligenciája miatt. Az intelligenciát eredendően lehetetlen kontrollálni, így a nanotechnológia kordában tartására kidolgozott különböző stratégiák (például a lentebb ismertetésre kerülő „szétszórt architektúra”) nem fognak működni az erős MI-vel szemben. Voltak viták és javaslatok arra, hogy irányítsuk az MI-fejlesztést az Eliezer Yudkowski által „barátságos MI-nek”{701} nevezett dolog felé (lásd a Védelem a „barátságtalan” erős MI-vel szemben című részt). Az ilyen javaslatok hasznosak a vita szempontjából, de ma egyszerűen lehetetlen olyan stratégiákat kidolgozni, amelyek teljes mértékben biztosítják, hogy a jövőbeli MI-k emberi erkölcsöket és értékeket testesítsenek meg.
Visszatérés a múltba? Bill Joy az esszéjében és az előadásában ékesszólóan lefesti az elmúlt századok járványait, és bemutatja azt, hogyan hozhatnak vissza rég elfeledett betegségeket az új önreplikáló technológiák, például a mutáns génmódosított kórokozók és az elszabadult nanobotok. Joy elismeri, hogy a technológiai fejlődés, például az antibiotikumok és a higiénia fejlődése megszabadított minket az ilyen járványok rémétől, s ezért a technológia ilyen konstruktív alkalmazását tovább kell vinni. A világban létezik még szenvedés, és ez a legnagyobb odafigyelést követeli meg tőlünk. Mondjuk azt több millió rákos, vagy más halálos betegségben szenvedő embernek, hogy leállítjuk mindenféle génmódosított kezelés fejlesztését, mert fennáll a veszélye, hogy ezeket a technológiákat egy nap majd rossz célra használják fel? Bár ez költői kérdés, tisztában vagyok azzal, hogy létezik egy mozgalom, amelyik pontosan ezt akarja, de a legtöbb ember egyetértene azzal, hogy nem egy ilyen széles körű lemondás a válasz.
Az emberi szenvedés enyhítésének lehetősége a technológiai fejlődés egyik kulcsfontosságú motiváló ereje. Szintén vonzóak azok a már most látható gazdasági előnyök, amelyek egyre halmozódni fognak az elkövetkező évtizedekben. A sok összefonódott technológia gyorsuló fejlődése arannyal kikövezett utakat teremt. (Többes számban mondom, mert a technológiai fejlődés nyilvánvalóan nem egyetlen ösvényen vezet előre.) Egy kompetitív környezetben gazdasági imperatívusz rálépni ezekre az utakra. A technológiai fejlesztésről való lemondás öngyilkosság lenne az egyének, a vállalatok és az országok számára.
A lemondás eszméje
„A nagy civilizációs előrelépések szinte tönkreteszik azt a civilizációt, amelyben megtörténnek.”
(Alfred North Whitehead)
Ezzel eljutottunk a lemondás problémájáig, amely a legvitatottabb javaslat a lemondás hirdetői, például Bill McKibben részéről. Érzem én, hogy a megfelelő szintű lemondás része a jövőben ránk váró valódi veszélyekre adott felelős és konstruktív válasznak, a kérdés csak az, hogy pontosan milyen szinten kellene lemondanunk a technológiáról?
Ted Kaczynski, aki Unabomberként híresült el a világban, az egészről lemondana.{702} Ez se nem kívánatos, se nem kivitelezhető, és az álláspont tarthatatlanságát csak kiemeli Kaczynski elítélendő taktikájának értelmetlen mivolta.
Azonban más, a Kaczynskiénél megfontoltabb hangok is a technológia széles körű korlátozása mellett érvelnek. McKibben szerint már így is mindenre elegendő a technológiánk, és véget kellene vetni a további fejlődésnek. A legújabb könyvében, az Enough: Staying Human in an Engineered Age-ben (Elég: embernek maradni egy elgépiesedett világban) átvitt értelemben a sörhöz hasonlítja a technológiát: „Egy sör jó, kettő még jobb, de nyolcat szinte biztos, hogy megbánunk.”{703} Ez a metafora elsiklik a dolog lényege fölött, és nem vesz tudomást az emberi világban létező szenvedésről, amit a tudományos fejlődésnek köszönhetően enyhíteni tudunk.
Noha az új technológiákat, mint bármi mást, időnként túlzásokba esve is lehet használni, az ígéretük nem merül ki annyiban, hogy az embereknek lesz egy negyedik mobiltelefonja is, vagy kétszer annyi kéretlen e-mailt kapnak. Azt jelenti, hogy tökéletesednek a rák és egyéb halálos betegségek elleni eszközeink, az általános jólét növekedése legyőzi a szegénységet, a természet megtisztul az első ipari forradalom hatásaitól (mely célt McKibben is hangsúlyozza), és megoldódik sok más régi probléma.
Széles körű lemondás. A lemondás egy másik szintje az lenne, ha csak bizonyos, túl veszélyesnek ítélt területekről vonulnánk ki – például a nanotechnológiából. Ám az ilyen nagy ívű önkorlátozás sem kivitelezhető. Mint fentebb rámutattam, a nanotechnológia egyszerűen a mindenféle technológiát átható miniatürizálási törekvések makacs trendjének elkerülhetetlen végeredménye. Nem egyetlen centralizált törekvés, hanem miriádnyi projekt foglalkozik vele számtalan különböző céllal.
Az egyik megfigyelő így írt:
„Még egy ok arra, hogy az ipari társadalmat nem lehet megreformálni… az, hogy a modern technológia egy egységes rendszer, amelyben minden rész függ a többitől. Nem dobhatjuk ki a technológia „rossz” részeit, csak a „jókat” megtartva. Vegyük például a modern orvostudományt! Az orvostudomány fejlődése a fizika, a kémia, a biológia, a számítástechnika és még sok más tudományterület fejlődésétől függ. A fejlett orvosi kezelésekhez drága high-tech felszerelések kellenek, amelyek csak a technológiai szempontból fejlett, gazdasági szempontból tehetős társadalmakban megfizethetőek. Nyilvánvaló, hogy az orvostudomány nem fejlődhet a teljes technológiai rendszer és annak minden tartozéka nélkül.”
A megfigyelő, akit idéztem, ismét csak Ted Kaczynski.{704} Noha joggal utasíthatja el bárki Kaczynskit, mint tekintélyt, azt hiszem, az előnyök és kockázatok mélyen összefonódott jellegét illetően igaza van. A két dolog viszonylagos egyensúlya kapcsán azonban egyértelműen más a véleményünk. Bill Joyjal hosszú párbeszédet folytattunk erről a problémáról, nyilvánosan és magánjellegűen is, és mindketten úgy véljük, hogy a technológiának fejlődnie kell és fejlődni is fog, ugyanakkor aktívan foglalkoznunk kell a sötét oldalával. A legnagyobb kihívás a lemondás azon szintjének a megtalálása, ami kívánatos, egyben kivitelezhető.
Finomhangolt lemondás. Úgy gondolom, hogy a megfelelő szintű lemondásnak helyet kell kapnia a XXI. századi technológiák veszélyeire adott etikai válaszunkban. Konstruktív példa erre a Foresight Intézet által javasolt etikai útmutatás: nevezetesen az, hogy a nanotechnológusok lemondanak azoknak a fizikai entitásoknak a fejlesztéséről, melyek a természeti környezetben képesek önreplikációra.{705} Véleményem szerint két kivétel létezik e szabály alól. Először is, előbb-utóbb létre kell hoznunk a nanotechnológia-alapú bolygószintű immunrendszert (a természeti környezetbe beágyazódott nanobotokat, melyek megvédenek minket az elszabadult, önreplikáló nanobotoktól). Robert Freitasszal sokat beszélgettünk arról, hogy ennek az immunrendszernek vajon önreplikálónak kell-e lennie. Freitas így ír: „Az előre elhelyezett erőforrásokkal – úgymint a konkrét fenyegetésekre válaszul nagy mennyiségű, nem önreplikáló védőt előállítani képes, nagy teljesítményű, nem önreplikáló nanogyárakkal – kiegészített, átfogó megfigyelőrendszernek elegendőnek kell lennie.”{706} Egyetértek Freitasszal abban, hogy a kezdeti időszakban elégséges lehet az előre elhelyezett immunrendszer, amely képes megerősíteni a védőket. Ám én arra számítok, hogy amint az erős MI egybeolvad a nanotechnológiával, és a nanomódosított entitások ökológiája sokszínűvé és komplexszé válik, a védekező nanobotoknak is szükségük lesz arra a képességre, hogy saját maguk gyorsan replikálódhassanak. A másik kivétel a naprendszerünkön kívüli bolygórendszerek felderítésére bevetett, önreplikáló nanobotokon alapuló szondák iránti igény.
A hasznos etikai vezérelvek egy másik kitűnő példája azoknak az önreplikáló fizikai entitásoknak a betiltása, amelyek tartalmazzák az önreplikáláshoz szükséges saját kódjukat. A Ralph Merkle nanotechnológus által „szétszórt architektúrának” nevezett rendszerben az ilyen entitásoknak egy központi biztonságos szerverről kellene beszerezniük ezt a kódot, ami elejét vehetné a nemkívánatos replikációnak.{707} A szétszórt architektúra lehetetlen a biológiai világban, tehát van legalább egy mód arra, hogy a nanotechnológiát biztonságosabbá tegyük, mint a biotechnológiát. Más szempontokból a nanotechnológia potenciálisan sokkal veszélyesebb, mivel a nanobotok fizikailag erősebbek és intelligensebbek lehetnek, mint a fehérjealapú entitások.
Ahogyan azt az ötödik fejezetben leírtam, a nanotechnológia-alapú szétszórt architektúrát alkalmazhatjuk a biológiai létezőkre is. Egy nanoszámítógép feljavíthatja vagy kicserélheti minden sejt magját, és megadhatja a DNS-kódokat. Egy a riboszómához (a sejtmagon kívüli mRNS-ben lévő bázispárokat értelmező sejtszervecskéhez) hasonló molekuláris mechanizmussal felszerelt nanobot veszi a kódokat és létrehozza az aminosavláncokat. Mivel a nanoszámítógépeket vezeték nélküli kapcsolaton keresztül is tudjuk majd irányítani, képesek leszünk meggátolni a nemkívánatos replikációt, s így elejét vehetjük a ráknak. Létrehozhatunk speciális, a betegség ellen szükséges fehérjéket. Kijavíthatunk a DNS-hibákat, és feljavíthatjuk a DNS-kódot. A szétszórt architektúra erősségeiről és gyengéiről a későbbiekben írok.
A visszaélések kezelése. A széles körű lemondás ellentmond a gazdasági fejlődésnek és etikailag sem igazolható, tekintettel a betegségek, a szegénység és a környezetszennyezés megszüntetésének lehetőségére. Mint fentebb említettem, a tiltás csak fokozná a veszélyeket. A biztonság érdekében hozott szabályok alkalmazása – lényegében a finomhangolt lemondás – a helyes megoldás.
Ugyanakkor a szabályozás folyamatát is fel kell gyorsítanunk. Jelenleg az Egyesült Államokban az új egészségügyi technológiák öt-tíz éves késedelmet szenvednek az FDA jóváhagyási eljárása miatt (és más országokban is hasonló a helyzet). A potenciálisan életmentő kezelések visszatartásával okozott kár (például a szívbetegségek kezeléseinek késleltetése miatt évente egymillióan halnak meg az Egyesült Államokban) nagyon kis súllyal esik latba az új terápiák lehetséges kockázataival szemben.
A további óvintézkedések között szerepelnie kell az ellenőrző testületek felállításának, a technológiaspecifikus „immunreakciók” megtervezésének, és a hatóságok által végzett, számítógépekkel támogatott megfigyelésnek. Sokan nem tudják, hogy a hírszerző szervezeteink már ma olyan fejlett technológiákat használnak, mint például az automatikus kulcsszókeresés a telefonos, műholdas és internetes kommunikáció megfigyelése során. Az idő múlásával komoly kihívást fog jelenteni a magánélethez való jog megőrzése és a XXI. századi technológiák rosszindulatú felhasználása elleni védelem közötti egyensúlyozás. Ez az egyik oka az olyan vitáknak, amelyek a titkosítási módszerek „hátsó ajtaja” (melyen keresztül a hatóságok hozzáférhetnek egyébként zárolt információkhoz), vagy az FBI Carnivore nevű e-mail-figyelő rendszere kapcsán robbantak ki.{708}
Esettanulmányként talán megnyugvást találhatunk abban, ahogyan a közelmúltban megbirkóztunk egy technológiai kihívással. Létezik ma egy teljes mértékben nem biológiai entitás, amely néhány évtizeddel ezelőtt még nem létezett: a számítógépes vírus. Amikor először felbukkant ez a destruktív behatoló, sokan komolyan aggódtak, hogy amikor fejlettebbekké válnak, ezek a szoftveres kórokozók képesek lesznek elpusztítani a teljes számítógépes hálózatot, amelyben élnek. A problémára adott reakcióként kifejlesztett „immunrendszer” összességében mégis hatékonynak bizonyult. Noha a destruktív önreplikáló szoftver-entitások időről időre még mindig kárt okoznak, a kár mindössze töredéke azoknak az előnyöknek, amelyeket a számítógépek és az azokat összekötő kommunikációs csatornák biztosítanak.
Erre lehet azt mondani válaszul, hogy a számítógépes vírusok nem halálosak, szemben a biológiai vírusokkal vagy a destruktív nanotechnológiával. Ez nem minden esetben igaz; szoftverek működnek a segélyhívó központjainkban, szoftverek felügyelik a betegeket az intenzív osztályokon, szoftverek vezérlik a repülőgépek fel- és leszállását, szoftverek irányítják az intelligens fegyvereket, kezelik a pénzügyi tranzakcióinkat, működtetik a közműhálózatainkat, és még sok egyéb kritikus területet. Abból a szempontból, hogy a szoftveres vírusok jelenleg még nem jelentenek halálos fenyegetést, ez a megállapítás csak alátámasztja az érveimet. Az, hogy a számítógépes vírusok nem halálosak, mindössze azt eredményezi, hogy többen hajlamosak létrehozni és szabadjára engedni őket. A szoftvervírusok alkotóinak túlnyomó többsége nem engedné szabadjára a vírusait, ha fennállna a veszély, hogy ezzel embereket ölhet meg. És ez azt is jelenti, hogy a veszélyre adott reakciónk sem túl intenzív. Ennek megfelelően amikor önreplikáló, potenciálisan halálos entitásokra kerül majd a sor, a válaszunk is minden szinten sokkal komolyabb lesz.
Noha a szoftveres kórokozók továbbra is problémát fognak jelenteni, ma inkább kellemetlenségnek számítanak, mint valódi veszélynek. Ne feledjük, hogy egy olyan iparágban értünk el sikert az ellenük folytatott küzdelemben, amelyben a résztvevőkre szinte semmilyen szabályozás nem vonatkozik, és szinte semmiféle jogosítvány nem szükséges! A nagyrészt szabályozatlan számítógépes ipar egyben hihetetlenül produktív is. Azt is mondhatnánk, hogy jobban hozzájárult a technológiai és gazdasági fejlődésünkhöz, mint bármi más az emberi történelemben.
A szoftvervírusok és a szoftveres kórokozók serege elleni küzdelem azonban soha nem fog véget érni. Egyre jobban függünk a számítógépes rendszerektől, így az önreplikáló szoftverfegyverek potenciálja és rombolóképessége tovább fog nőni. Amikor szoftver fog futni az agyunkban, a testükben, és szoftver fogja irányítani a világ nanobot-immunrendszerét, összehasonlíthatatlanul nagyobb lesz a tét.
A fundamentalizmus fenyegetése. A közelmúltban megjelent a vallási fundamentalizmus egy különösen veszélyes formája, a radikális iszlám terrorizmus. Noha úgy tűnhet, hogy ezeknek a terroristáknak a romboláson kívül nincs más programjuk, valójában van céljuk, ami túlmutat az ősi szent írások szó szerinti értelmezésén: lényegében vissza akarják forgatni az idő kerekét, hogy megszűnjenek az olyan modern eszmék, mint a demokrácia, a nők egyenjogúsága és az oktatás.
Ám a vallási szélsőségesség nem a fundamentalizmus egyetlen formája, amely reakciós erőt képvisel. A fejezet elején idéztem Patrick Moore, a Greenpeace egyik alapítója gondolatait arról, hogy csalódott a szervezetben. Moore azért távolodott el a Greenpeace-től, mert az teljes mértékben ellenezte a Golden Rice-t, egy genetikailag módosított rizsfajtát, ami nagy mennyiségű béta-karotint tartalmaz, az A-vitamin provitaminját.{709} Afrikában és Ázsiában százmilliók szenvednek A-vitamin-hiánytól, évente félmillió gyermek vakul meg emiatt, és további milliók betegednek meg más betegségekben. Körülbelül napi húsz gramm Golden Rice fedezné egy gyermek A-vitamin-szükségletének a száz százalékát. Kiterjedt kutatások mutatták ki, hogy ez a rizs, akárcsak sok egyéb genetikailag módosított organizmus (GMO), biztonságos. Például 2001-ben az Európai Bizottság nyolcvanegy tanulmányt adott ki, melyek arra a következtetésre jutottak, hogy a GMO-k „nem jelentenek semmilyen új veszélyt az emberi egészségre vagy a környezetre a hagyományos növénytermesztés szokásos bizonytalanságain kívül. Mi több, a precízebb technológia és a szabályozás nagyobb szigora miatt valószínűleg még biztonságosabbak is, mint a hagyományos növények és élelmiszerek.”{710}
Nem azt akarom ezzel mondani, hogy minden GMO eredendően biztonságos; nyilvánvalóan minden egyes terméket meg kell vizsgálni. A GMO-ellenes mozgalom álláspontja azonban az, hogy minden GMO eredendően kockázatos, mely véleménynek semmiféle tudományos megalapozottsága nincs.
A Golden Rice forgalomba hozatalát legalább öt évvel késleltette a Greenpeace és egyéb GMO-ellenes aktivisták felől érkező nyomás. Moore felismerte, hogy ez a késlekedés több millió gyerek megvakulását okozza. A rizsfajta ellenzőit idézi, akik fenyegetőztek, hogy „kitépik a genetikailag módosított rizst a földből, ha a földművesek elültetik”. Hasonlóképpen az afrikai országokra is nyomást gyakoroltak, hogy utasítsák vissza a génmódosított élelmiszereket és vetőmagvakat, amivel tovább súlyosbították az éhezést.{711} A nyomasztó problémák megoldását célzó, a GMO-khoz hasonló technológiák bizonyított képességei végül győzedelmeskedni fognak, de az irracionális ellenállás okozta ideiglenes késlekedések akkor is felesleges szenvedést okoznak.
A környezetvédő mozgalom bizonyos elemei fundamentalista ludditává váltak – „fundamentalistává” azon félrevezetett próbálkozásaik miatt, hogy úgy őrizzék meg a dolgokat, ahogy vannak (vagy voltak); és „ludditává”, mert reflexszerűen szembehelyezkednek a súlyos problémák technológiai megoldásaival. Ironikus módon éppen a GMO-növények – melyek közül sokat úgy módosítottak, hogy ellenállók legyenek a rovarokkal és egyéb kártevőkkel szemben, s így sokkal kevesebb növényvédő szert kell használni a művelésük során, ha kell egyáltalán – jelentik a reményt a vegyszerek, például a növényvédő szerek okozta környezetszennyezés visszafordítására.
A „fundamentalista luddita” jelzős szerkezet valójában tautológia, hiszen a luddizmus eredendően fundamentalista. Azt az eszmét testesíti meg, hogy az emberiség jobban meglenne változás, fejlődés nélkül. Ezzel visszatértünk a lemondás gondolatához, mivel a technológiai fejlődésről való széles körű lemondás iránti lelkesedés ugyanazoktól az értelmiségi forrásoktól és aktivista csoportoktól származik, amelyek a környezetvédő mozgalmak luddita frakcióját alkotják.
Fundamentalista humanizmus. Most, hogy a „G” és „N” technológiákkal elkezdtük módosítani a testünket és az agyunkat, egy másik fajta ellenállás is kialakult a haladással szemben a „fundamentalista humanizmus” formájában. A fundamentalista humanizmus ellenez minden változást abban, hogy mit jelent embernek lenni (például a génjeink megváltoztatását és egyéb lépések megtételét az élet radikális meghosszabbítása felé). Azonban ennek az irányzatnak az erőfeszítései is kudarcot fognak vallani, mivel az 1.0-s testünkkel eredendően együtt járó szenvedés, betegségek és rövid élet terápiái iránti igény végül ellenállhatatlannak bizonyul majd.
Végül csak a technológia – különösen a GNR – biztosíthatja az ahhoz szükséges erőt, hogy megoldjuk azokat a problémákat, amelyekkel nemzedékek óta hiába küzd az emberi civilizáció.
A védelmi technikák kidolgozása és a szabályozás hatása
A felszólítások a széles körű lemondásra többek között azért lehetnek vonzóak, mert úgy ábrázolják a holnap veszélyeit, mintha azok a ma felkészületlen világában szabadulnának el. A valóságban azonban a védelmi ismereteink és technológiánk ereje párhuzamosan fog növekedni a veszélyekkel. A szürke masszával (a nanobotok elszabadult replikációjával) szemben ott fog állni a „kék massza” (a „rendőr” nanobotok, amelyek felveszik a küzdelmet a „rossz” nanobotokkal). Nyilván nem jelenthetjük ki teljes bizonyossággal, hogy sikeresen elejét fogjuk venni a technológia rosszindulatú felhasználására tett összes próbálkozásnak. Ám a hatékony defenzív technológiák kifejlesztését azzal lehet a legbiztosabban megakadályozni, ha több nagy tudományterületen korlátozzuk az ismeretek bővítését. Az ártalmas szoftvervírusok szaporodását azért tudjuk összességében kordában tartani, mert az ehhez szükséges tudás széles körben hozzáférhető a felelősségteljes szakemberek számára. Ha megpróbálnánk korlátozni ezt a tudást, sokkal instabilabbá válna a helyzet. Sokkal lassabban reagálnánk az új kihívásokra, és valószínű, hogy a mérleg nyelve a destruktív alkalmazások (például az önmagukat módosító szoftvervírusok) felé billenne.
Ha összehasonlítjuk a mesterséges számítógépes vírusok elleni küzdelemben elért sikereinket a génmódosított biológiai vírusok elleni küzdelem jövőbeli kihívásával, egy kiugró különbséget láthatunk. Mint korábban megjegyeztem, a szoftveripar szinte teljesen szabályozatlan. Ugyanez természetesen nem igaz a biotechnológiára. Míg egy bioterroristának nem kell átverekednie a „találmányait” az FDA-n (Food and Drug Assistance-en; az Egyesült Államok Élelmiszer- és Gyógyszerhatóságán) a defenzív technológiákat fejlesztő tudósoknak muszáj betartaniuk a hatályos törvényeket, ami minden egyes fázisban lassítja az innováció folyamatát. Ráadásul a jelenlegi szabályozás és etikai normák mellett lehetetlen tesztelni a defenzív technológiákat a bioterrorista ágensekkel szemben. Már széles körű vita folyik a jelenlegi szabályozás oly módon történő módosításáról, mely lehetővé tenné, hogy a kivitelezhetetlen emberi kísérleteket állati modellekkel és szimulációkkal helyettesítsék. Erre szükség lesz, de szerintem még ennél is tovább kell mennünk, hogy felgyorsítsuk a létfontosságú védelmi technológiák fejlesztését.
A politika feladata az, hogy kifejlessze a szükséges defenzív lépéseket, köztük az etikai és jogi sztenderdeket, illetve magukat a védelmi technológiákat. Mint megjegyeztem, a szoftverek területén a defenzív technológiák gyorsan reagálnak az offenzív technológiai fejlesztésekre. Az orvostudomány területén ezzel szemben a kiterjedt szabályozás lelassítja az innovációt, tehát a biotechnológiával való visszaélés vonatkozásában nem lehetünk ugyanilyen magabiztosak. A jelenlegi környezetben komolyan visszafoghatja a kutatásokat, ha valaki meghal a génterápia klinikai tesztelése során.{712} Jogos az igény, hogy az orvosbiológiai kutatások a lehető legbiztonságosabbak legyenek, de a mérleg nyelve túlságosan a kockázatok hangsúlyozása felé billent el. Millióknak lenne óriási szükségük a génterápia és az egyéb, áttörést jelentő biotechnológiai fejlesztések nyújtotta reményre, de úgy tűnik, az ő politikai súlyuk nagyon csekély a fejlődéssel óhatatlanul együtt járó kockázatok miatt történt maroknyi, ám nagy publicitást kapott halálesettel szemben.
A kockázatokat mérlegelő egyenlet még jobban felborul, ha a genetikailag módosított kórokozók jelentette közelgő veszélyre gondolunk. Meg kell változtatnunk a közvélemény hozzáállását a szükséges kockázatokkal szembeni tolerancia terén. A védelmi technológiák fejlesztésének felgyorsítása létfontosságú a biztonságunk szempontjából. Ennek eléréséhez fel kell gyorsítanunk az engedélyeztetési eljárásokat, ugyanakkor nagymértékben növelnünk kell a befektetéseket a defenzív technológiák területén. A biotechnológiában ezt azt jelenti, hogy gyorsítani kell a vírusok elleni gyógymódok kifejlesztését. Nem lesz időnk specifikus ellenlépéseket tenni minden egyes felbukkanó új kihívással szemben. Közel járunk ahhoz, hogy általánosabb vírusok elleni technológiák szülessenek, mint például az RNS-interferencia, de fel kell gyorsítani a fejlesztésüket.
Azért írok most a biotechnológiáról, mert ez a legközelebbi küszöb és kihívás, ami előttünk áll. Ahogy mind közelebb érünk az önszervező nanotechnológia küszöbéhez, úgy kell egyre több energiát, időt és pénzt fektetnünk a védelmi technológiák fejlesztésébe, ideértve a technológiai immunrendszer kialakítását is. Gondoljunk arra, hogyan működik a biológiai immunrendszerünk! Amikor a test kórokozót észlel, a T-sejtek és az immunrendszer többi sejtje gyorsan szaporodni kezdenek, hogy felvegyék a harcot a behatolóval. A nanotechnológiai immunrendszer hasonlóképpen működne az emberi testben és a környezetben egyaránt, és részei lennének a nanobotőrök is, amelyek az elszabadult, önreplikáló nanobotokra ügyelnének. Amikor veszélyt érzékelnének, gyorsan létrejönnének (végső soron önreplikálás révén) az ezeket a behatolókat elpusztítani képes defenzív nanobotok, hogy hatékony védőerőt biztosítsanak.
Bill Joy és más gondolkodók arra hívták fel a figyelmet, hogy maga ez az immunrendszer is veszélyt jelentene az „autoimmun” reakciók (amikor a nanobotok azt a világot támadják meg, amelyet meg kellene védeniük) lehetősége miatt.{713} Ez az eshetőség azonban nem meggyőző érv az immunrendszer létrehozásával szemben. Senki sem érvelne azzal, hogy az emberek jobban meglennének az immunrendszerük nélkül, mert az immunrendszerrel fennáll az autoimmun betegségek kialakulásának a veszélye. Noha maga az immunrendszer is jelenthet veszélyt, az ember alig néhány hetet bírna ki nélküle (a teljes elszigetelődést célzó rendkívüli erőfeszítések nélkül). Ráadásul a nanotechnológia „immunrendszere” anélkül is ki fog alakulni, hogy tudatos erőfeszítéseket tennénk a létrehozására. Gyakorlatilag ez történt a szoftvervírusok esetében is: az immunrendszer nem egy hivatalos, nagy ívű projekt nyomán alakult ki, hanem fokozatosan, az újabb és újabb kihívásokra adott reakcióként és a korai előrejelzésekre kidolgozott heurisztikus algoritmusok révén. Számíthatunk rá, hogy ugyanez fog bekövetkezni, amint megjelennek a nanotechnológia-alapú veszélyek. A politikának az lesz a feladata, hogy kifejezetten ezeket a védelmi technológiákat támogassa.
Ma még idő előtti lenne konkrét defenzív nanotechnológiákat kifejleszteni, hiszen még csak nagy vonalakban tudjuk, hogy mi ellen próbálunk védekezni. Mindazonáltal a probléma kapcsán már gyümölcsöző dialógus és vita alakult ki, és támogatni kell, hogy jelentősen növekedjen az ezekbe az erőfeszítésekbe fektetett energia, munka, idő és pénz. Mint korábban említettem, többek között a Foresight Intézet is kidolgozott egy etikai normarendszert és több stratégiát a biztonságos nanotechnológia kifejlesztésének biztosítására a biotechnológiai irányelvek alapján.{714} Amikor 1975-ben megkezdődött a génmanipuláció, két biológus, Maxine Singer és Paul Berg moratóriumot javasolt a technológiára, míg megnyugtatóan nem rendeződnek a biztonsági kérdések. Nyilvánvalónak tűnt, hogy komoly kockázatot jelent, ha mérgező géneket ültetnek be könnyen terjedő kórokozókba, mint például a közönséges nátháéba. A tíz hónapos moratóriumot követően az Asimolar konferencián elfogadták az irányelveket, melyek kitértek a fizikai és biológiai elszigetelésre, bizonyos típusú kísérletek tiltására és egyéb helyzetekre. Ezeket a biotechnológiai irányelveket azóta is szigorúan betartják, és a tudományterület harmincéves történetéből nem ismerünk baleseteket.
A közelmúltban a világ szervátültetéssel foglalkozó sebészeit tömörítő szervezet moratóriumot fogadott el a vaszkularizált állati szervek emberekbe történő átültetésével kapcsolatban. A döntést az a félelem vezérelte, hogy régóta alvó, HIV-jellegű xenovírusok kerülhetnek át az emberi népességbe olyan állatokból, mint például a sertések és a páviánok. Sajnos az ilyen moratóriumok ugyanakkor lelassíthatják az életmentő xenograftok (genetikailag módosított állati szervek, amelyeket befogad az emberi immunrendszer) hozzáférhetőségét is azon milliók számára, akik évente meghalnak szív-, vese- és májbetegségekben. Martine Rothblatt geoetikus azt javasolta, hogy a moratóriumot új irányelvekkel és szabályozással váltsák fel.{715}
A nanotechnológia esetében az etikai vita már néhány évtizeddel a különösen veszélyes alkalmazások hozzáférhetővé válása előtt elkezdődött. A Foresight Intézet irányelveinek legfontosabb pontjai között szerepelnek a következők:
• „A mesterséges replikátorok nem lehetnek képesek arra, hogy természetes, ellenőrizetlen környezetben szaporodjanak.”
• „Tiltott az önreplikáló gyártórendszerek evolúciója.”
• „Az MNT-eszközök felépítésének kifejezetten korlátoznia kell minden replikálódó rendszer szaporodását, és biztosítania kell az eszközök nyomonkövethetőségét.”
• „Ahol csak lehet, a molekuláris gyártás fejlesztési képességét azon felelős szereplőkre kell korlátozni, amelyek elfogadták az irányelveket. Ugyanezt a korlátozást nem kell alkalmazni a fejlesztési folyamat végtermékeire.”
A Foresight Intézet emellett a következő stratégiák alkalmazását javasolja:
• A replikáció olyan alapanyagokat igényeljen, amelyek nem találhatók meg a természetben.
• A gyártás (sokszorosítás) váljon el a végtermékek funkciójától. A gyártóeszközök legyenek képesek a végtermékek előállítására, de önmaguk ne tudjanak replikálódni, és a végtermékek se legyenek képesek erre.
• A replikációhoz legyen szükség titkosított és időben korlátozott érvényességű replikációs kódokra. A korábban említett szétszórt (drót nélküli utasításokon alapuló) architektúra egy példa erre az ajánlásra.
Ezek az irányelvek és stratégiák valószínűleg hatékonyan meggátolják majd, hogy veszélyes, önreplikáló nanotechnológiai entitások szabaduljanak el véletlenül. Az ilyen entitások szándékos megalkotásával és szabadjára engedésével való megbirkózás azonban összetettebb és komolyabb probléma. Vegyük például a szétszórt architektúrát! Ha helyesen valósítják meg, az egyes entitások nem képesek a replikációs kód nélkül replikálódni. A replikációs kód minden nemzedék esetében más és más. Ugyanakkor az eszközök módosítása révén meg lehet kerülni a replikációs kódok törlését, s így azok továbbadhatóvá válnak a következő nemzedéknek. Ennek a lehetőségnek a kivédésére azt javasolták, hogy a replikációs kódot tároló memória csak a teljes kód egy részére legyen korlátozva. Azonban ez az ajánlás is megkerülhető az entitások memóriájának a növelésével.
A másik javaslat szerint titkosítani kell a kódokat, és a visszafejtő rendszerekbe is biztonsági eszközöket kell beépíteni, például időzárat. Azonban ma már tudjuk, milyen könnyű feltörni a szellemi termékek, például a zenei fájlok jogosulatlan másolását megakadályozni hivatott védelmeket. A replikációs kódok és a védelmi rétegek lehámozása után mindenféle korlátozás nélkül lemásolható az információ.
Ez nem azt jelenti, hogy lehetetlen védekezni, csak azt, hogy a védekezés minden szintje csupán egy bizonyos fokig képes működni. A tanulság az, hogy a XXI. századi társadalom legfontosabb feladata a védelmi technológiák folyamatos továbbfejlesztése, hogy mindig egy vagy több lépéssel a destruktív technológiák előtt járjanak (vagy legalábbis ne legyenek egy lépésnél többel lemaradva azoktól).
Védelem a „barátságtalan” erős MI-vel szemben. Ám akármilyen hatékony mechanizmus is a szétszórt architektúra, az erős MI-vel szemben nem fog megvédeni. A szétszórt architektúra által biztosított gátak a nanoentitások intelligenciájának hiányán alapulnak. Az intelligens entitások azonban elég okosak ahhoz, hogy megkerüljék ezeket a gátakat.
Eliezer Yudkowski számos paradigmát, architektúrát és etikai szabályt elemzett, melyek segíthetnek biztosítani azt, hogy amikor az erős MI rendelkezésére állnak az eszközök, amelyekkel elérheti és módosíthatja a saját felépítését, akkor is barátságos maradjon a biológiai emberiséghez és támogassa annak értékeit. Tekintettel arra, hogy az MI-t nem lehet visszahívni, Yudkowski hangsúlyozza, hogy „elsőre jól kell megcsinálni”, és már a megszületését célzó első tervnek „nulla javíthatatlan hibája lehet”.{716}
Eredendően nem lesz abszolút védelem az erős MI-vel szemben. Noha a kérdés összetett, én úgy vélem, hogy a legkonstruktívabb környezet egy technológia számára az emberi értékek széles körének magáévá tételéhez a tudományos és technológiai fejlődés nyitott, szabadpiaci rendszerének fenntartása, melyben minden lépés elfogadásáról vagy elvetéséről a piac dönt. Amint arra rámutattam, az erős MI sok különböző erőfeszítés eredményeként fog megjelenni, és mélyen be lesz ágyazva a civilizációnk infrastruktúrájába. Mi több, be lesz ágyazva a testünkbe és az agyunkba. Azért fogja a mi értékeinket képviselni, mert mi magunk fogjuk alkotni. Ha titkos kormányzati programokkal próbálnák ellenőrzés alá vonni ezeket a technológiákat, akkor óhatatlanul megjelenne a földalatti fejlesztés, és ez csak olyan bizonytalan környezetet hozna létre, amiben nagyobb valószínűséggel válnának dominánssá a technológia veszélyes alkalmazási módjai.
Decentralizáció. Az egyik hangsúlyos, már javában zajló trend, ami nagyobb stabilitást fog eredményezni, a centralizált technológiákról az elosztottakra való átállás, illetve a valódi világból a virtuális világba való átköltözés. A centralizált technológiákban erőforrások egyesülnek, például emberek (városok, épületek), energia (atomerőművek, folyékony földgáz- és olajtankerek, energiavezetékek), szállítás (repülőgépek, vonatok) és egyéb tételek. A centralizált rendszerek ki vannak téve az üzemzavaroknak és a természeti katasztrófáknak. Emellett nem hatékonyak, pazarlóak és környezetszennyezőek.
Ezzel szemben az elosztott technológiák rugalmasak, hatékonyak és viszonylag kevéssé szennyezik a környezetet. Az elosztott technológia legjobb és legszemléletesebb példája az internet. Az internetet mindmáig nem érte jelentős meghibásodás, egyre növekszik, ereje és ellenálló képessége egyre nagyobb. Ha bármelyik elosztó vagy csatorna elromlik, az információ egyszerűen más útvonalat keres magának.
Elosztott energiarendszerek. Az energia területén el kell távolodnunk a rendkívül koncentrált és centralizált létesítményektől, amelyektől jelenleg függünk. Az egyik cég például a MEMS-technológia felhasználásával mikroszkopikus méretű energiacellákat fejleszt.{717} Úgy készülnek, mint a chipek, de valójában energiatároló eszközök, melyek energia–méret-aránya jelentősen meghaladja a hagyományos technológiákét. Mint korábban említettem, a nanotechnológia-alapú napelemek elosztott, megújuló és tiszta módon fogják kielégíteni energiaigényünket. Az ezen irányvonalak mentén fejlődő technológia végül képes lesz mindent energiával ellátni a mobiltelefonunktól kezdve az autóinkon át a házainkig. És az ilyen decentralizált energiaforrások nem lesznek kitéve a meghibásodásoknak, illetve a természeti katasztrófáknak.
Ezeknek a technológiáknak a kifejlődése után az embereknek nem kell többé nagy házakban összegyűlniük, a városok eltűnnek, az emberek pedig szétszóródnak, ott élnek majd, ahol szeretnének, és a virtuális valóságban gyűlnek össze.
Polgári szabadságjogok az aszimmetrikus hadviselés korában. A terrorista támadások jellege és a mögöttük álló szervezetek filozófiái rávilágítanak, hogyan kerülhetnek ellentétbe a polgári szabadságjogok az állam megfigyelésre és irányításra vonatkozó törvényes érdekeivel. A rendfenntartó rendszerünk – és igazából a biztonságról való gondolkodásunk – azon a feltételezésen alapul, hogy az emberek motiváltak saját életük és jólétük megőrzésére. Ez a logika áll az összes stratégiánk mögött, a helyi szintű védelemtől kezdve a világméretű, kölcsönös elrettentés politikájáig. Az az ellenség azonban nem illeszthető be ebbe a logikába, amelyik a célpontjával együtt saját magát is hajlandó elpusztítani.
A saját túlélését semmire sem tartó ellenséggel való szembekerülés nagyon nyugtalanító eshetőségeket hordoz magában, és olyan vitákat eredményezett, amelyek csak fokozódni fognak, ahogy nő a tét. Például amikor az FBI azonosít egy valószínűsíthető terrorista sejtet, letartóztatja a résztvevőket, pedig talán nincs is elég bizonyíték ahhoz, hogy ítélet szülessen az ügyükben, és talán el sem követtek semmit. A terrorizmus elleni háborúnk szabályai szerint a kormány jelenleg fogva tarthatja ezeket a személyeket.
A New York Times vezércikkben tiltakozott ez ellen az eljárás ellen, és „aggasztó intézkedésnek” nevezte.{718} A cikk a fogvatartottak szabadon engedését követelte, azzal érvelve, hogy még nem követtek el bűncselekményt, és csak azután szabad újra letartóztatni őket, miután ténylegesen elkövettek valamit. Persze lehet, hogy addigra a gyanúsítottak halottak lesznek – az áldozataikkal együtt. Hogyan számolhatnák fel a hatóságok az öngyilkos terrorista sejtekből álló decentralizált hálózatot, ha meg kell várniuk, hogy mindegyik elkövesse a bűncselekményt?
Másfelől a zsarnoki rezsimek rutinszerűen alkalmazták ezt a logikát, hogy igazolják az általunk oly nagyra tartott igazságszolgáltatási eljárások mellőzését. Hasonlóképpen jogos az az érv is, hogy éppen a polgári szabadságjogok ilyen jellegű korlátozása a terroristák célja, akik megvetik a szabadságról és a pluralizmusról alkotott felfogásunkat. Összességében nem látom, hogy számíthatnánk bármilyen technológiai „varázslövedékre”, amely lényegesen megváltoztatná ezt a dilemmát.
A titkosító algoritmusokban meghagyott hátsó ajtókat tekinthetjük olyan technikai innovációnak, amely a kormányzat javaslatára született, a kormány megfigyelési igényével ellensúlyozandó az egyén magánéletre vonatkozó jogos igényét. Ehhez a technológiához szükség van olyan politikai újításokra is, amelyek biztosítják a végrehajtó ág feletti hatékony felügyeletet mind az igazságszolgáltatás, mind a törvényhozás hatalmi ágai részéről, hogy elejét vegyék a hatalmi visszaéléseknek. Ellenségeink titkolózó természete és az emberi élet értékével szembeni közönye, beleértve a sajátjukat is, komolyan próbára fogja tenni demokratikus hagyományaink alapjait.
A GNR-védelem programja
„Lényegében az aranyhalaktól származunk, de ez nem jelenti azt, hogy megfordultunk és megöltünk minden aranyhalat. Lehet, hogy [az MI-k] hetente egyszer megetetnek majd minket… Ha lenne egy gépünk, amelynek az IQ-ja az emberi IQ trilliószorosa lenne, akkor nem akarnánk-e, hogy irányítsa, de legalábbis szabályozza a gazdaságunkat?”
(Seth Shostak)
Hogyan biztosíthatjuk a GNR előnyeit úgy, hogy közben kiküszöböljük a veszélyeit? A következőkben összefoglalom a GNR kockázatainak minimalizálását megcélzó programot:
A legsürgetőbb javaslat az, hogy nagymértékben növeljük a defenzív technológiákba fektetett energia, pénz és idő mennyiségét. Mivel már most a „G” korszakban vagyunk, a befektetések túlnyomó részének ma a (biológiai) vírusellenes gyógyszerek és kezelések felé kell irányulnia. Vannak új, erre a feladatra kiválóan alkalmas eszközeink. Az RNS-interferenciát például bevethetjük a génexpresszió blokkolására. Gyakorlatilag minden fertőzés (és a rák is) a génexpressziótól függ életciklusa valamelyik pontján.
Az N és R biztonságos irányításához szükséges defenzív technológiák elméleti kidolgozását szintén támogatni, és ezt a támogatást jelentősen növelni kell, ahogy közeledünk előbb a molekuláris gyártás, majd az erős MI megvalósulásához. Ennek jelentős és jóindulatú mellékhatása lenne a fertőző betegségek és a rák hatékony kezeléseinek a felfedezése. Erről a problémáról a Kongresszus előtt is beszámoltam, és azt javasoltam, hogy évente több tízmilliárd dollárt (ami kevesebb, mint a GDP egy százaléka) fordítsunk az emberiségre leselkedő új, nem eléggé elismert egzisztenciális fenyegetések elhárítására.{719}
• Fel kell gyorsítani a genetikai és orvosi technológiák engedélyeztetési eljárását. A jelenlegi szabályok nem gátolják meg e technológiák rosszindulatú felhasználását, azonban jelentősen késleltetik a szükséges védelem kialakítását. Mint említettem, jobb egyensúlyt kell találnunk az új technológiák (például az új gyógymódok) kockázatai és a késlekedésből származó ismert károk között.
• Létre kell hozni egy globális programot az ismeretlen vagy újonnan kialakuló biológiai kórokozók bizalmas, szúrópróbaszerű szérumellenőrzésére. Léteznek olyan diagnosztikai eszközök, melyekkel gyorsan igazolni lehet ismeretlen fehérje- vagy nukleinsav-szekvenciák meglétét. A hírszerzés a védekezés kulcsa, és ez a program felbecsülhetetlen értékű korai figyelmeztetést nyújthatna a kitörni készülő járványokról. Ezt a „kórokozóőrség” programot már évek óta javasolják a közegészségügyi hatóságok, de mindeddig nem kaptak kellő anyagi támogatást.
• Jól meghatározott célú, ideiglenes moratóriumokra, mint ami a genetika területén történt 1975-ben, időről időre szükség lehet. A nanotechnológia esetében azonban valószínűleg nem lesz szükség rájuk. A technológia széles területeinek a tiltásával csak az emberi szenvedés idejét nyújtjuk meg, mivel késleltetjük az új technológiák jótékony hatásait, s ezzel csak még komolyabbá tesszük a veszélyeket.
• Folytatódjon a nanotechnológia biztonsági és etikai irányelveinek a kidolgozása. Ezek az irányelvek óhatatlanul egyre részletesebbek és pontosabbak lesznek, ahogy közeledünk a molekuláris gyártás megvalósulása felé.
• Ahhoz, hogy megszerezzük a fent említett intézkedések anyagi hátterét biztosító politikai támogatást, fel kell hívni a közvélemény figyelmét ezekre a veszélyekre. A rémhírkeltéssel és a pontatlan információkkal csak technológiaellenes törvényeknek lehet széles körű támogatást szerezni, ezért a technológiai fejlődés előnyeit is érthetően be kell mutatni a közvéleménynek.
• A veszélyek átívelnek az országhatárokon – amiben persze nincs semmi új; a biológiai és a számítógépes vírusok vagy a rakéták már most szabadon áthágják ezeket a határokat. A nemzetközi együttműködés elengedhetetlen volt a SARS-vírus megfékezéséhez, és egyre fontosabb lesz a jövőbeli problémák leküzdésében. A világszervezeteket, például a SARS-ra adott reakció koordinálásában segédkező Egészségügyi Világszervezetet meg kell erősíteni.
• Vitatott politikai kérdés a megelőző csapás a háborús fenyegetésekkel, például a tömegpusztító fegyverekhez hozzáférő terroristákkal vagy az őket támogató országokkal szemben. Az ilyen intézkedések mindig is vitatottak lesznek, de az egyértelmű, hogy szükség lehet rájuk. Egy nukleáris robbanás néhány másodperc alatt el tud pusztítani egy egész várost. Egy önreplikáló kórokozó, akár biológiai, akár nanotechnológiai alapú, néhány nap vagy hét alatt az egész civilizációnkat elpusztíthatja. Nem várhatjuk meg mindig a csapatösszevonásokat vagy a támadó szándék egyéb jeleit, mielőtt védekezni kezdünk.
• A hírszerző ügynökségeknek és a rendfenntartó szervezeteknek kulcsszerepe lesz a potenciálisan veszélyes incidensek túlnyomó többségének a megelőzésében. A munkájukhoz szükségük lesz a lehető legnagyobb teljesítményű technológiákra. Például még ennek az évtizednek a vége előtt porszem nagyságú eszközökkel lehet majd felderítéseket végrehajtani. A 2020-as években, amikor szoftverek fognak futni a testünkben és az agyunkban, a kormányszerveknek jogos igényük lesz arra, hogy időnként megfigyeljék ezeket a szoftvereket. Nyilvánvaló, milyen hatalmi visszaélésekre adhat ez lehetőséget. Meg kell találnunk a középutat a katasztrofális események meggátlása és a magánéletünk, valamint a szabadságunk megőrzése között.
• Azonban a fenti intézkedések sem lesznek elégségesek a patologikus „R” (a rosszindulatú erős MI) jelentette veszélyek elhárításához. Ezen a területen az lehet az elsődleges stratégiánk, hogy optimalizáljuk annak a valószínűségét, hogy a jövőbeli nem biológiai intelligencia a mi szabadságra, toleranciára, a tudás és a sokszínűség tiszteletére vonatkozó értékeinket a magáénak fogja tartani. Ezt úgy érhetjük el a legbiztosabban, ha már most és a későbbiekben is ezeket az értékeket tápláljuk a társadalmunkban. Ha ez homályosan hangzik, az azért van, mert valóban homályos. De ezen a területen nincs működőképes, tisztán technikai stratégia, mivel a nagyobb intelligencia mindig meg fogja találni a módját, hogy megkerülje a kisebb intelligencia által felállított korlátokat. A nem biológiai intelligencia, amit létre készülünk hozni, be lesz ágyazva a társadalmunkba és a mi értékeinket fogja a magáénak vallani. A transzbiológiai korszakban a nem biológiai intelligencia mélyen egybeforr majd a biológiaival. Ez fel fogja fokozni a képességeinket, és a nagyobb intellektuális képességeket lehetővé tévő megoldásokat az azokat megteremtő emberek értékeinek megfelelően fogjuk alkalmazni. A transzbiológiai kor végül teret nyit majd a posztbiológiai kor előtt, de csak remélni tudjuk, hogy a jelenlegi alapértékeink akkor is befolyással bírnak majd. Ez a stratégia semmiképpen sem bolondbiztos, de ma ez az elsődleges eszközünk arra, hogy befolyásoljuk az erős MI jövőbeli pályáját.
A technológia mindig is kétélű fegyver lesz. Óriási hatalom, amelyet az egész emberiség javára kell felhasználni. A GNR biztosítani fogja az eszközöket, amelyekkel ősrégi problémákat oldhatunk meg, úgymint a betegséget és a szegénységet, de a destruktív ideológiák kezében is fegyver lehet. Nincs más választásunk, mint megerősíteni a védelmünket, miközben az emberi értékek továbbvitelére alkalmazzuk az egyre gyorsabban fejlődő technológiát – annak ellenére, hogy látszólag nincs konszenzus ezen értékek mibenlétét illetően.
MOLLY 2004: Oké, most vegyük csak át még egyszer azt a lopakodós forgatókönyvet… tudod, azt, amikor a rossz nanobotok gyorsan, de észrevétlenül elterjednek a biomasszában, majd egyszerre kezdenek szaporodni, és pillanatok alatt végeznek a bolygóval.
RAY: Nos, a nanobotok nagyon alacsony koncentrációban fognak terjedni, mondjuk egy jut majd a biomassza minden 1015 szénatomjára, tehát észrevétlenül eljutnak mindenhová. Így a romboló nanobotok sebessége nem lesz majd tényező, amikor a helyük elfoglalása után szaporodni kezdenek. Ha átugranák ezt a lopakodó fázist, és egyetlen pontból kiindulva kezdenének terjeszkedni, észrevehetnénk a terjedő nanofertőzést, ami viszonylag lassan haladna körbe a bolygón.
MOLLY 2004: És hogy tudunk védekezni ez ellen? Amikor elkezdik a második fázist, már csak úgy másfél óránk marad, vagy sokkal kevesebb, ha nem akarunk borzalmas veszteségeket szenvedni.
RAY: Az exponenciális növekedés jellege miatt a kár túlnyomó része az utolsó percekben keletkezne, de értem, mire gondolsz. Akármelyik forgatókönyvet is nézzük, esélyünk sem lesz a szürke massza ellen a nanotechnológia-alapú immunrendszer nélkül. Nyilvánvalóan nem várhatjuk meg a másfél órás rombolási ciklus kezdetét, hogy majd csak akkor kezdjünk el gondolkodni ennek az immunrendszernek a létrehozásán. Ez egyébként nagyon hasonló lenne a mi emberi immunrendszerünkhöz. Meddig maradna életben egy biológiai ember 2004-ben immunrendszer nélkül?
MOLLY 2004: Gondolom, nem sokáig. De hogy szúrja ki ez a nanoimnunrendszer a rossz nanobotokat, ha egyszer egy van belőlük ezerbillió atomban?
RAY: Ugyanez a feladata a biológiai immunrendszerünknek is. Akár egyetlen idegen fehérje észlelése is beindítja a biológiai antitestgyárakat, így az immunrendszer nagy erőkkel tud fellépni, mire a kórokozó megközelíti a kritikus szintet. Hasonló képességekkel kell felruháznunk a nanoimmunrendszert is.
CHARLES DARWIN: Azt mondja meg nekem, képesek lesznek-e replikálódásra az immunrendszer nanobotjai?
RAY: Erre szükség lesz, különben nem tudnának lépést tartani a replikálódó kórokozó nanobotokkal. Születtek javaslatok arra, hogy telepítsünk a biomasszába bizonyos koncentrációban védelmező immunrendszer-nanobotokat, de amint a rossz nanobotok száma jelentősen meghaladná ezt a rögzített koncentrációt, az immunrendszer veszítene. Robert Freitas azt javasolta, hogy ne replikálódó nanogyárak állítsák elő szükség esetén az újabb védelmező nanorobotokat. Szerintem ez a megoldás egy ideig meg tudna birkózni a veszéllyel, de végül az immunrendszernek szüksége lesz arra a képességre, hogy helyben replikálja a védelmező nanobotokat, és lépést tartson a kialakuló veszéllyel.
CHARLES: De akkor az immunrendszer nanorobotjai nem teljesen ugyanolyanok, mint az első fázis rosszindulatú nanobotjai? A lopakodó forgatókönyv első fázisára, a biomassza megfertőzésére gondolok.
RAY: De az immunrendszer nanobotjai arra lesznek programozva, hogy megvédjenek minket, nem arra, hogy elpusztítsanak.
CHARLES: Úgy tudom, a programozást meg lehet változtatni.
RAY: Úgy érti, fel lehet törni?
CHARLES: Igen, pontosan. És ha az immunrendszer szoftverét egy hacker megváltoztatja, hogy egyszerűen kapcsolja be a saját önreplikáló képességét…
RAY: …igen, hát ezzel vigyáznunk kell, igaz?
MOLLY 2004: Alighanem.
RAY: Ugyanez a probléma fennáll a biológiai immunrendszer esetében is. Az immunrendszerünk hasonlóan erős, és ha ellenünk fordul, autoimmun betegségről beszélünk, ami borzalmas tud lenni. Az immunrendszerünknek még sincs alternatívája.
MOLLY 2004: Tehát egy szoftvervírus lopakodó pusztítókká változtathatja a nanobot-immunrendszert?
RAY: Igen, ez lehetséges. Az igazság kedvéért el kell mondani, hogy a szoftverbiztonság kulcsfontosságú kérdés lesz az ember–gép-civilizáció számos szintjén. Amikor minden információvá válik, a védelmi technológiáink szoftvereintegritásának a fenntartása kritikus lesz a túlélésünk szempontjából. Még gazdasági szinten is kritikus lesz a jólétünk szempontjából annak az üzleti modellnek a fenntartása, ami információt állít elő.
MOLLY 2004: Ettől teljesen tehetetlennek érzem magam. Úgy értem, én csak tétlen nézelődő lehetek, miközben a jó meg a rossz nanobotok megvívják a harcukat.
RAY: Ez azért nem új jelenség. Mennyi befolyásod van 2004-ben a világon létező több tízezer tonnányi atomfegyver bevetésére?
MOLLY 2004: Legalább felemelhetem a hangom és szavazhatok a választásokon, és így befolyásolhatom a külpolitikát.
RAY: Semmi sem indokolja, hogy ez megváltozzon. A 2020-as és 2030-as évek egyik nagy politikai vitatémája a megbízható nanotechnológiai immunrendszer létrehozása lesz.
MOLLY 2004: És akkor mi van az erős MI-vel?
RAY: A jó hír az, hogy meg fog védeni minket a rosszindulatú nanotechnológiától, mert elég okos lesz ahhoz, hogy a destruktív nanobotokat megelőzve segítsen kidolgozni a defenzív technológiákat.
NED LUDD: Feltéve, hogy egyáltalán a mi oldalunkon fog állni.
RAY: Valóban.