O interruptor inútil

Nunha das tempadas da serie Fargo, a protagonista atopa no cuarto dun motel unha caixa de madeira cun interruptor na parte superior. Ao activalo, ábrese a tapa da caixa e unha man mecánica asómase o xusto para empurrar o interruptor, devolvéndoo á súa posición orixinal. Despois, a man volve ao seu sitio e a caixa péchase. Todo queda recomposto, agás o espectador, que dificilmente permanecerá indiferente ante este dispositivo tan orixinal como desconcertante.

Con todo, o aparato en cuestión non foi unha ocorrencia dos moi creativos guionistas de Fargo, senón que a «useless machine», ou máquina inútil, como se denominou orixinalmente, ten unha historia moi anterior á desta serie.

Son moitos os pensamentos que pode inducirnos esta máquina: as accións que ás veces se volven contra nós; a idea de que a sensación de libre albedrío, que nos fai crer que podemos decidir libremente o que pensamos e facemos, podería ser unha ilusión; o mito de Sísifo, empurrando durante o día a súa pesada pedra costa arriba para que, pola noite, esta volva rodar ata o pé do outeiro, para comezar todo de novo.

Todo iso pensei, pero tamén na posibilidade de que algún día a intelixencia artificial escape ao noso control e desactive pola súa conta calquera botón de parada, interruptor de apagado, salvagarda ou o que sexa que deseñemos pensando que, se nalgún momento se nos fose das mans, poderiamos devolvela ao curro.

Esta curiosa caixa aparece como unha metáfora dunha IA fóra de si e fóra do noso control, aínda que pensemos, como ocorre inicialmente coa caixa, que non temos máis que accionar un interruptor para sometela á nosa vontade.

A xenialidade simbólica da caixa do interruptor inútil é que non hai conflito visible. Non hai loita, non hai fallo técnico. O sistema funciona perfectamente. O interruptor fai exactamente aquilo para o que foi deseñado ao activar o mecanismo interior, e o mesmo fai este despois ao apagar o interruptor.

O máis perturbador para min non é que accionar o interruptor leve asociada unha acción que nos desagrade ou mesmo intente facernos dano, algo para o que quizais poderiamos prepararnos. Non, o que ocorre é que a acción de premer o interruptor nunca será realmente unha acción que provoque cambio ningún, xa que inmediatamente a reacción a anula e nada cambiará en última instancia. Todo aquilo que pretendíamos controlar, eliminar ou deter seguirá o seu curso de maneira inevitable.

En xeral, negar dúas veces é afirmar -dicir que non quero non ter diñeiro supón afirmar que quero telo-, pero na caixa inútil, aínda que premer unha vez sexa facelo dúas, isto non supón afirmar, senón negar a posibilidade de calquera futuro distinto a seguir igual.

Nos debates contemporáneos sobre o futuro da intelixencia artificial aparece de maneira recorrente a idea do «kill switch» ou interruptor de emerxencia que permitiría aos humanos apagar o sistema intelixente se este se volve perigoso, imprevisible ou desaliñado cos nosos valores. Esta idea tranquilízanos porque apela a unha intuición profunda: quen constrúe unha máquina sempre pode desenchufala ou detela. Con todo, unha IA cunha intelixencia superior á nosa podería concluír que se se detén ou a deteñen non logrará levar a cabo os obxectivos que lle teñamos marcado ou que ela mesma se propoña. Polo tanto, esa superintelixencia podería converter o interruptor de parada nun interruptor inútil. Non se trataría de maldade, senón de coherencia e intelixencia, aínda que sexa artificial.