La intel·ligència és central per al que significa ser humà. Tot el que la civilització té per oferir és producte de la intel·ligència humana.

L’ADN transmet els plànols de la vida entre generacions. Formes de vida cada vegada més complexes capten informació mitjançant sensors com ara ulls i orelles, i la processen en cervells o altres sistemes per esbrinar com reaccionar i actuar sobre el món, enviant informació als músculs, per exemple. En algun moment durant els tretze mil vuit-cents milions d’anys d’història còsmica, va passar alguna cosa especialment bella. Aquest processament d’informació es va fer tan intel·ligent que les formes de vida van esdevenir conscients. L’Univers s’ha despertat i ha pres consciència de si mateix. Considero un triomf que nosaltres, que som pols d’estrelles, hàgim arribat a un nivell tan detallat de comprensió de l’Univers en què vivim.

Crec que no hi ha diferència significativa entre com funciona el cervell d’un cuc i com computa un ordinador. També crec que l’evolució implica que no hi pot haver diferència qualitativa entre el cervell d’un cuc de terra i el d’un humà. Per tant, els ordinadors poden, en principi, emular la intel·ligència humana, o fins i tot superar-la. És clarament possible que alguna cosa aconsegueixi adquirir una intel·ligència més alta que els seus avantpassats: hem evolucionat per ser més intel·ligents que els nostres avantpassats homínids, i Einstein era més intel·ligent que els seus pares.

Si els ordinadors continuen seguint la llei de Moore i la seva velocitat i la seva capacitat de memòria es dupliquen cada divuit mesos, el resultat serà que, en algun moment en els propers cent anys, els ordinadors probablement depassaran els humans en intel·ligència. Quan una intel·ligència artificial (IA) superi els humans en el disseny d’IA, de manera que pugui millorar-se a si mateixa de forma recursiva sense ajuda humana, ens podem trobar amb una explosió d’intel·ligència que finalment dugui a màquines la intel·ligència de les quals superi la nostra més que no pas la nostra supera la dels cargols. Quan això arribi, caldrà assegurar-nos que els ordinadors tinguin objectius compatibles amb els nostres. Resulta temptador desdenyar la noció de màquines altament intel·ligents com a mera ciència-ficció, però això seria un error, i potencialment el nostre pitjor error.

Durant els últims vint anys, més o menys, la IA s’ha centrat en els problemes relacionats amb la construcció d’agents intel·ligents, sistemes que perceben i actuen en algun entorn. En aquest context, la intel·ligència es relaciona amb nocions estadístiques i econòmiques de racionalitat o, col·loquialment, amb la capacitat de prendre bones decisions, plans o inferències. Com a resultat d’aquest treball recent, hi ha hagut un alt grau d’integració i fertilització creuada entre IA, aprenentatge automàtic, estadística, teoria del control, neurociència i altres camps. L’establiment de marcs teòrics compartits, combinat amb la disponibilitat de dades i poder de processament, ha produït èxits notables en diverses tasques de components, com ara reconeixement de veu, classificació d’imatges, vehicles autònoms, traducció automàtica, locomoció articulada i sistemes de preguntes i respostes.

A mesura que el desenvolupament en aquestes i altres àrees passi de la investigació de laboratori a tecnologies econòmicament valuoses, es produirà un cercle virtuós, en el qual fins i tot petites millores en rendiment valdran grans sumes de diners, cosa que provocarà més i més inversions en investigació. Ara hi ha un ampli consens en el fet que la investigació en IA progressa de manera sostinguda, i que el seu impacte en la societat és probable que augmenti. Els beneficis potencials són enormes; no podem predir què es podrà aconseguir quan aquesta intel·ligència s’incrementi amb les eines que la IA pot proporcionar: l’eradicació de malalties i de la pobresa esdevindrà possible. A causa del gran potencial de la IA, és important investigar com obtenir-ne els beneficis, alhora que s’eviten riscos potencials. Reeixir en la creació d’IA seria l’esdeveniment més gran en la història de la humanitat.

Per desgràcia, també podria ser l’últim, llevat que aprenguem com conjurar-ne els riscos. Usada com a instrument, la IA podria augmentar la nostra intel·ligència actual i obrir avenços en cada àrea de la ciència i la societat, però també portarà perills. Mentre que les formes primitives d’IA desenvolupades fins ara han demostrat ser molt útils, temo les conseqüències de crear alguna cosa que pugui igualar o superar els humans. La preocupació rau en el fet que la IA es perfeccioni i es redissenyi a si mateixa a un ritme cada vegada més gran. Els humans, que estem limitats per la lentitud de l’evolució biològica, no podríem competir amb ella i seríem superats. I en el futur, la IA podria desenvolupar una voluntat pròpia, en conflicte amb la nostra. Molts creuen que els humans podrem controlar el ritme de la tecnologia durant un temps prou llarg, i que es podrà realitzar el potencial d’IA per resoldre molts dels problemes del món. Encara que sóc un reconegut optimista pel que fa a l’espècie humana, jo no n’estic tan segur.

A curt termini, per exemple, els militars del món consideren la possibilitat de començar una cursa armamentista en sistemes autònoms d’armes, que poden triar i eliminar els seus propis objectius. Mentre l’ONU està debatent un tractat que prohibeixi aquestes armes, els defensors d’armes autònomes en general obliden fer la pregunta més important: quin és el probable punt final d’una carrera d’armaments i si resulta desitjable per a l’espècie humana. Realment volem armes barates d’IA per convertir-les en el kalàixnikov del demà, venudes a criminals i terroristes al mercat negre? Donada la preocupació sobre la nostra capacitat de control a llarg termini de sistemes d’IA cada vegada més avançats, hem d’armar-los i lliurar-los la nostra defensa? El 2010, sistemes de comerç informatitzats van crear el mercat de valors Flash Crash. Com seria un accident provocat per un ordinador en l’àrea de defensa? El millor moment per aturar la cursa d’armaments autònoms és ara.

A termini mitjà, la IA pot automatitzar molts treballs i portar prosperitat i igualtat. Mirant cap al futur, no hi ha límits fonamentals per al que es pot aconseguir. No hi ha cap llei física que impedeixi que les partícules s’organitzin de maneres que facin càlculs encara més avançats que els de les disposicions de partícules en els cervells humans. És possible que la transició sigui explosiva, encara que pot prendre una forma diferent que en les pel·lícules. Com va advertir el matemàtic Irving Good el 1965, les màquines amb intel·ligència sobrehumana podien millorar repetidament els seus dissenys encara més, activant el que l’escriptor de ciència-ficció Vernor Vinge va anomenar una singularitat tecnològica. Podem imaginar que una tecnologia com aquesta aconsegueixi burlar els mercats financers, depassar els investigadors humans, manipuli líders humans i ens sotmeti potencialment amb armes que ni tan sols podrem entendre. Mentre que l’impacte a curt termini de la IA depèn de qui la controli, l’impacte a llarg termini depèn de si es pot controlar en absolut.

En resum, l’adveniment de la IA superintel·ligent seria el millor o el pitjor que podria passar a la història de la humanitat. El risc real amb la IA no és la maldat sinó la competència. Una IA superintel·ligent serà molt bona pel que fa a assolir els seus objectius, i si aquests objectius no van en la direcció dels nostres, tindrem problemes. Probablement vostè no és un malvat que odia les formigues i les trepitja per pura maldat, però si està a càrrec d’un projecte d’energia verda hidroelèctrica i hi ha un formiguer a la regió que ha de ser inundada, serà molt dolent per a les formigues. No posem la humanitat en la posició d’aquestes formigues. Hem de planificar per avançat. Si una civilització extraterrestre superior ens enviés un missatge dient «Arribarem d’aquí a algunes dècades», podríem respondre «D’acord; avisi’ns quan arribi, deixarem els llums encesos»? Probablement no, però això és més o menys el que ha succeït amb la IA. S’ha dedicat poca investigació seriosa a aquests temes, tret d’alguns petits instituts sense finalitat de lucre.

Afortunadament, això ara comença a canviar. Els pioners de la tecnologia Bill Gates, Steve Wozniak i Elon Musk s’han fet ressò de les meves preocupacions, i una cultura saludable d’avaluació de riscos i de consciència de les implicacions socials comença a arrelar en la comunitat d’IA. El gener del 2015, juntament amb l’empresari tecnològic Elon Musk i molts altres experts en IA, vaig signar una carta oberta sobre IA, que exigeix una investigació seriosa sobre el seu impacte en la societat. En el passat, Elon Musk ha advertit que és possible que la IA sobrehumana proporcioni beneficis incalculables, però si es desplega sense precaucions tindrà un efecte advers per a l’espècie humana. Ell i jo formem part de la junta assessora científica del Future of Life Institute, una organització que treballa per mitigar els riscos existencials amb què s’enfronta la humanitat i que va redactar l’esmentada carta oberta. Això va requerir una investigació concreta sobre com podríem prevenir problemes potencials, alhora que recollim els beneficis potencials que la IA ens ofereix, i està pensat per aconseguir que els investigadors i desenvolupadors en IA prestin més atenció a la seguretat de la IA. A més, per als qui prenen decisions polítiques i per al públic en general, la carta pretenia ser informativa, però no alarmista. Creiem que és molt important que tothom sàpiga que els investigadors en IA pensen seriosament en aquestes qüestions i problemes ètics. Per exemple, la IA té el potencial d’eradicar malalties i pobresa, però els investigadors han de treballar per crear IA que pugui controlar-se.

L’octubre del 2016, vaig obrir un nou centre a Cambridge, Anglaterra, que intentarà abordar algunes de les preguntes obertes plantejades pel ràpid ritme de desenvolupament de la investigació en IA. El Centre Leverhulme per al Futur de la Intel·ligència és un institut multidisciplinari dedicat a investigar el futur de la intel·ligència, tan crucial per al futur de la nostra civilització i de la nostra espècie. Passem molt temps estudiant història, que, siguem sincers, és sobretot la història de l’estupidesa. Llavors, és un canvi benvingut que la gent estudiï, en lloc d’això, el futur de la intel·ligència. Som conscients dels perills potencials, però potser amb les eines d’aquesta nova revolució tecnològica podrem desfer part dels mals causats al món natural per la industrialització.

Els avenços recents en IA han suscitat una crida al Parlament Europeu perquè redacti un conjunt de regulacions que governin la creació de robots i IA. Sorprenentment, això inclou una forma de personalitat electrònica, per garantir els drets i responsabilitats de la IA més capaç i avançada. Un portaveu del Parlament Europeu ha comentat que a mesura que augmenta el nombre d’àrees de la vida quotidiana afectades per robots, ens hem d’assegurar que els robots estiguin, i romanguin, al servei dels humans. Un informe presentat als diputats de la cambra europea declara que el món està al cim d’una nova revolució de robots industrials. Examina si proporcionar o no drets legals als robots com a persones electròniques, en paral·lel a la definició legal de personalitat corporativa, seria o no permissible, però subratlla que en tot moment els investigadors i dissenyadors haurien de garantir que tot disseny robòtic incorpori un interruptor de mort.

Això no va ajudar gaire els científics a bord de la nau espacial amb Hal, el robot computeritzat que funciona malament en la pel·lícula 2001: una odissea de l’espai, de Stanley Kubrick, però allò era ficció. Ara ens ocupem de fets reals. Lorna Brazell, consultora del bufet multinacional d’advocats Osborne Clarke, diu en l’informe que no hem atorgat personalitat jurídica a les balenes ni als goril·les, per la qual cosa no cal saltar a la personalitat robòtica. Però cal una certa cautela. L’informe reconeix la possibilitat que en algunes dècades la IA podria superar la capacitat intel·lectual humana i desafiar la relació humà-robot.

El 2025, hi haurà al voltant de trenta megaciutats, cadascuna amb més de deu milions d’habitants. Amb tota aquesta gent reclamant que els lliurin béns i serveis cada vegada que els vulguin, podrà la tecnologia ajudar-nos a seguir el ritme del nostre anhel de comerç instantani? Els robots acceleraran definitivament el procés minorista en línia, però per revolucionar realment les compres, han de ser prou ràpids per permetre el lliurament el mateix dia de la comanda.

Les oportunitats per interactuar amb el món sense haver de ser-hi físicament present estan augmentant ràpidament. Com es poden imaginar, em sembla força atractiu, sobretot perquè la vida a ciutat està tan ocupada per a tots plegats. Quantes vegades hem desitjat tenir un doble que pogués compartir la nostra càrrega de treball? Crear substituts digitals realistes de nosaltres mateixos és un somni ambiciós, però l’última tecnologia suggereix que pot ser que no sigui una idea tan esbojarrada com sembla.

Quan jo era més jove, l’auge de la tecnologia apuntava a un futur en què tots gaudiríem de més temps lliure però, de fet, com més podem fer, més ocupats estem. Les ciutats ja estan plenes de màquines que eixamplen les nostres capacitats, però i si poguéssim ser a dos llocs alhora? Estem acostumats a veus automatitzades en sistemes telefònics i en anuncis públics. Ara, l’inventor Daniel Kraft investiga com podem replicar-nos visualment. La pregunta és fins a quin punt pot arribar a resultar convincent un avatar.

Els tutors interactius podrien ser útils per a cursos massius oberts en línia (MOOC) i per a l’entreteniment, i podria ser realment emocionant —actors digitals que serien sempre joves i capaços de realitzar gestes impossibles. Pot ser que els nostres futurs ídols ni tan sols siguin reals.

De quina manera ens connectem amb el món digital és clau per al progrés que farem en el futur. A les ciutats més intel·ligents, les cases més intel·ligents estaran equipades amb dispositius tan intuïtius que gairebé no caldrà cap esforç per interactuar amb ells.

Quan es va inventar la màquina d’escriure, es va alliberar la forma en què interactuem amb les màquines. Gairebé cent cinquanta anys després, les pantalles tàctils han desbloquejat noves formes de comunicar-se amb el món digital. Fites recents de la IA, com automòbils autònoms, o un ordinador capaç de guanyar en el joc de Go, són signes del que està per venir. Es dediquen enormes nivells d’inversió en aquesta tecnologia, que ja forma una part important de les nostres vides. En les dècades que vénen impregnarà tots els aspectes de la nostra societat, recolzant-nos i aconsellant-nos de manera intel·ligent en moltes àrees, incloent-hi la cura de la salut, el treball, l’educació i la ciència. Els èxits que hem vist fins ara segurament empal·lidiran en comparació amb els que ens portaran les pròximes dècades, i no podem predir el que podrem aconseguir quan les nostres pròpies ments s’amplifiquin amb IA.

Potser amb els instruments d’aquesta nova revolució tecnològica podrem millorar la vida humana. Per exemple, els investigadors desenvolupen IA que ajudaria a revertir la paràlisi en persones amb lesions de la medul·la espinal. Mitjançant l’ús d’implants de xips de silici i interfícies electròniques sense fil entre el cervell i el cos, la tecnologia permet a les persones controlar els seus moviments corporals amb els seus pensaments.

Crec que el futur de la comunicació són les interfícies cervell-ordinador. N’hi ha de dos tipus: elèctrodes al crani i implants. El primer és com mirar a través d’un vidre esmerilat; el segon és millor, però es corre el risc d’infecció. Si podem connectar un cervell humà a Internet li permetrà tenir tota la Viquipèdia entre els seus recursos.

El món ha anat canviant cada vegada més ràpid a mesura que les persones, els dispositius i la informació han anat estant més connectats entre si. La potència computacional està creixent i la informàtica quàntica s’està realitzant ràpidament. Això revolucionarà la IA amb velocitats exponencialment més grans i amb encriptacions més eficaces. Els ordinadors quàntics ho canviaran tot, fins i tot la biologia humana. Ja hi ha una tècnica per editar amb precisió l’ADN, és l’anomenat CRISPR. La base d’aquesta tecnologia d’edició del genoma és un sistema de defensa bacterià. La millor intenció de la manipulació genètica és que la modificació dels gens permeti als científics tractar les causes genètiques de les malalties mitjançant la correcció de mutacions en els gens. Hi ha, però, possibilitats menys nobles de manipular l’ADN. Fins on es pugui arribar amb l’enginyeria genètica esdevindrà un debat cada vegada més urgent. No podem veure les possibilitats de guarir les malalties de les neurones motores, com el meu ELA, sense albirar els seus perills.

La intel·ligència es caracteritza per la capacitat d’adaptar-se al canvi. La intel·ligència humana és el resultat de moltes generacions de selecció natural, d’aquells amb la capacitat d’adaptar-se a circumstàncies canviants. No hem de témer el canvi. Hem de fer que vagi a favor nostre.

Tots tenim un paper a fer per assegurar-nos que nosaltres, i la propera generació, no només tinguem l’oportunitat sinó també la determinació de participar plenament en l’estudi de la ciència des d’una edat primerenca, per poder continuar desenvolupant el nostre potencial i creant un món millor per al conjunt de l’espècie humana. Necessitem portar l’aprenentatge més enllà d’una discussió teòrica sobre com hauria de ser la IA i prendre mesures per assegurar-nos que sigui com creiem que ha de ser. Tots tenim el potencial d’eixamplar els límits del que s’accepta o s’espera, i de pensar en gran. Som al llindar d’un nou món prometedor. És un lloc excitant, tot i que precari, i nosaltres en som els pioners.

Quan vam inventar el foc, ens vam equivocar moltes vegades i després vam inventar l’extintor. Però amb tecnologies més poderoses com armes nuclears, biologia sintètica i IA forta, hauríem de planificar el futur i tractar de fer les coses bé des de bon començament, perquè pot ser l’única oportunitat que tinguem. El nostre futur és una cursa entre el poder creixent de la tecnologia i la saviesa amb què la fem servir. Assegurem-nos que guanyi la saviesa.