Que sexa o que a superintelixencia queira

Hai anos lin un libro do filósofo Nick Boström, profesor da Universidade de Oxford, titulado Superintelixencia. Foi publicado en inglés en 2014 e a súa versión en castelán apareceu en 2016. 

En termos sinxelos, unha superintelixencia sería unha IA capaz de superarnos claramente en todos os dominios relevantes da intelixencia humana: razoamento, creatividade, resolución de problemas, comprensión do mundo... En todo. 

No seu libro, Boström popularizou un experimento mental, o “maximizador de clips”, proposto orixinalmente por Eliezer Yudkowsky. Estou a ler agora un libro de Yudkowsky, escrito con Nate Soares, titulado Se alguén a crea, todos morreremos. Tamén fala da superintelixencia. Un libro con moita substancia, pero sobre ese xa escribirei outro día. 

Volvamos ao maximizador de clips, que procura poñer de manifesto a maneira en que un obxectivo aparentemente inocente e intranscendente, encargado a unha IA todopoderosa -como fabricar o maior número posible de clips-, podería acabar coa especie humana. A IA podería non deterse no seu empeño por cumprir o encargo recibido, o que suporía consumir todos os recursos dispoñibles para fabricar clips: enerxía, materiais, fábricas e infraestruturas diversas. É máis, nin sequera permitiría que a detivesen ou a apagasen durante ese proceso, de modo que, na medida en que fósemos un impedimento ou mesmo un freo para o seu propósito, remataría aniquilándonos. 

É un escenario tan terrible como improbable, en todo caso. Bastante máis plausible será que nos extingamos porque a alguén lle dea por premer un botón vermello. Pero xa lles dixen que se trata dun experimento mental; é dicir, dun exercicio de razoamento que explora hipóteses ou problemas mediante a imaxinación, sen necesidade de levalos á práctica na realidade. En definitiva, trátase de evidenciar contradicións, clarificar conceptos ou estimular un debate sen os custos de toda índole que estarían asociados a un experimento real, mesmo no caso de que este se puidese levar a cabo. 

Esa IA que fabricaría clips compulsivamente extinguiríanos como dano colateral, non por maldade intrínseca nin porque esa fose a orde recibida. Con este exemplo, Boström ilustraba que unha superintelixencia non precisa ter desexos “humanos” nin ser consciente para resultar perigosa. Poderiamos pensar que algo semellante pode ocorrer cos obxectivos dalgunhas persoas ou organizacións. Pensemos, por exemplo, nunha empresa que quere maximizar os seus beneficios. Neste caso, cando menos, son moitos os límites que poden poñer couto á ambición dunha organización, mesmo se esta é desmedida: leis, principios morais e éticos, competencia, provedores e clientes. En definitiva, o escenario estaría ocupado por pares: persoas a favor e en contra doutras persoas. Non como nunha superintelixencia, onde a asimetría entre máquinas e persoas sería radical e podería resultar fatal. 

Noutro dos seus libros, publicado en 2024 e titulado Deep Utopia: Life and Meaning in a Solved World, Boström formula algo ben distinto e mesmo máis controvertido. Segundo el, talvez pague a pena perseguir esa IA superintelixente como forma de escapar dunha extinción segura do ser humano. Unha continuación dese libro aparece nun artigo recente de Boström, no que argumenta que, na medida en que a extinción humana será inevitable, apostar por unha IA superintelixente podería, en último termo, dar lugar a dous escenarios posibles: unha extinción máis temperá ou a salvación da especie, mesmo acadando a inmortalidade. Iso si, este segundo escenario non estaría exento da morte da maioría dos seres humanos. 

É dicir, que nos debateremos entre sucumbir como Erisictón, o rei grego que tallou a árbore sagrada de Deméter e foi castigado cunha fame insaciable que o levou a comerse a si mesmo, ou facelo a mans de Saturno, que devoraba os seus fillos ao nacer, temendo ser derrocado por un deles. Dun modo ou doutro, a cousa pinta mal.