Nesgo de automatización 

Cando tiña uns 14 ou 15 anos comecei a mercar en máquinas expendedoras. Xa as vira antes; o que non vira previamente era diñeiro abondo nos meus petos como para poder usalas. Cando me devolvía o cambio nunca comprobaba a volta, mentres que si o facía sempre que ía á tenda. Asumía que, ao ser unha máquina, o cambio sería correcto. Co tempo aprendín que non só se equivoca quen ten boca, senón tamén o que funciona con cables. 

Das máquinas de venda automática pasamos a máquinas que nos dan un diagnóstico ou descartan unha persoa candidata a un posto de traballo, a unha bolsa de estudos ou a unha hipoteca. E tampouco nesta época en que a intelixencia artificial está á orde do día podemos garantir a infalibilidade das máquinas. De feito, intelixencia e infalibilidade son incompatibles, sexa a intelixencia artificial ou natural. Moita xente ignórao e, en calquera caso, temos un nesgo de automatización que se traduce na tendencia humana a confiar en exceso nas máquinas e a aceptar os seus resultados, recomendacións ou decisións con menos cautela da necesaria. 

O nesgo de automatización é perigoso non só porque pode inducir a erros por asumir ao pé da letra o que nos din as máquinas, senón porque anula, ou cando menos atenúa, o necesario xuízo crítico que debemos exercer sobre as respostas que estas nos achegan, tanto máis canto maior é a transcendencia que esas respostas teñen sobre outras persoas ou sobre nós mesmos. 

Perdeu o xuízo, dicimos cando pensamos que alguén deixou de razoar ou de valorar as cousas de maneira sensata, equilibrada ou lúcida. Ás veces referímonos a unha perda grave da capacidade mental, mais outras usamos esta expresión de forma coloquial para indicar que unha persoa actúa de maneira irracional, extrema ou claramente desacertada. Ninguén quere perder o xuízo diante dos demais; daquela, por que perdelo tan facilmente diante das máquinas intelixentes? 

As máquinas calculan mellor ca nós e infinitamente máis rápido, mais non calculan o impacto humano das súas respostas. Polo tanto, temos que facelo nós. Se non é así, podemos mesmo estar ignorando o sufrimento, a inxustiza ou a singularidade de quen queda afectado polos seus resultados. De feito, o verdadeiro risco do nesgo de automatización non é tecnolóxico, senón humano. Sería unha ironía obedecer ás cegas uns sistemas que non entenden o máis humano das persoas sobre as que deciden. 

Isto resulta especialmente grave en ámbitos como a medicina, a xustiza, a educación ou a selección de traballadores. Un diagnóstico automatizado incorrecto pode atrasar un tratamento que resulta vital para o paciente, e un sistema preditivo nesgado pode denegar sistematicamente a liberdade condicional a certos grupos sociais. Non son supostos: son exemplos reais. 

Ademais, o nesgo de automatización pode erosionar capacidades humanas fundamentais. Se médicos, xuíces ou profesores deixan progresivamente de exercer unha supervisión crítica dos resultados que lles dan as máquinas, as súas propias competencias debilítanse. A dependencia excesiva da automatización non só produce erros puntuais: pode producir sociedades menos deliberativas, menos responsables e menos capaces de cuestionar decisións inxustas. 

As escolas deben ser, ante todo, lugares para educar o xuízo crítico e facer que non o perdamos por delegalo sen máis noutras persoas ou nas máquinas.