Recompensas equivocadas

A finais dos anos 70, un prestixioso investigador en IA, Douglas Lenat, comezou o desenvolvemento dun programa chamado EURISKO que utilizaba para tomar decisións o que en intelixencia artificial se coñece como heurísticas.

As heurísticas son regras prácticas, moitas veces de sentido común, que serven para valorar as mellores opcións —polo menos aparentemente— cando hai un conxunto moi grande de posibilidades entre as que escoller e non se poden analizar todas en detalle ou non hai información suficiente para facelo.

Aplicar heurísticas non garante atopar a mellor solución a un problema dado, pero, ben elixidas e aplicadas, adoitan ser unha vía moi eficiente para a resolución de certos tipos de problemas complexos. Por exemplo, aplícanse na procura da ruta que se recomenda cando queremos ir andando ou en coche entre dous puntos. Unha posible heurística para este problema, que expoño só a título ilustrativo, sería que ante cada bifurcación se siga o camiño cuxo final me deixe máis preto en liña recta do destino. Iso nin sequera garante chegar ao lugar desexado (poderiamos estar dando voltas en círculo nalgún caso) nin seguir o camiño máis curto, xa que un camiño que primeiro me achegue ao destino pode ter como continuación outros que só me afasten del, incluso moito. En todo caso, podería ser un criterio sinxelo e aparentemente útil en moitas ocasións.

O programa de Lenat non só empregaba heurísticas, senón que ademais era capaz de propoñer novas heurísticas, avalialas e quedar coas que considerase mellores. Unha das aplicacións que Lenat fixo de EURISKO foi adaptalo a un xogo de rol no que cada participante deseña unha frota espacial de combate para loitar cos seus contrincantes. EURISKO debía aplicar heurísticas para deseñar frotas teoricamente óptimas, aínda que ao aplicalas podían resultar non selo, ou incluso ser pésimas, como xa dixen. Porén, a solución de Lenat resultou ser moi competitiva, gañando dúas edicións do campionato estadounidense deste xogo. En 1983 os organizadores dixéronlle que se volvía gañar cancelarían o torneo, e Lenat retirouse do mesmo.

As estratexias deseñadas por EURISKO eran, cando menos, estrañas aos ollos dos xogadores máis expertos, pero o certo é que funcionaban ben, que é o que Lenat, ao cabo, quería. Nunha ocasión, unha das heurísticas deseñadas por EURISKO incorporou un enxeñoso truco que fixo que fose considerada moi prometedora pola parte do programa encargada de valorar a bondade das distintas heurísticas creadas por el mesmo. O truco en cuestión consistiu en que dita heurística se atribuía a si mesma o descubrimento das estratexias con maior potencial para o xogo, algo que elevaba enormemente a puntuación interna que EURISKO lle daba cando estimaba a súa utilidade.

Para entendérmonos, a heurística facía o mesmo ca alguén que se atribúe os méritos alleos. Seguro que o lector coñece persoas que fan o mesmo. É máis, hai quen incluso proclama como éxitos os máis sonoros fracasos. Imaxinen, por seguir cun símil humano, que alguén con enorme poder no mundo e no cumio do delirio e da soberbia se proclamase como o artífice do fin de todas as guerras, incluídas as que inicia por si mesmo e tamén aquelas que nin sequera remataron e que, cando rematen, non será polo seu desexo.

A forma de deseñar as recompensas pode provocar perversións tanto no mundo dixital como no humano. De feito, se se aplauden con votos as mentiras, a descualificación e o insulto ao adversario, a incitación ao odio, o negacionismo, a xenofobia e o racismo, a ameaza e a intimidación constantes, a vinganza sen cuartel, a denigración sistemática da muller, o populismo autoritario… xorden líderes falaces, mesmo nas democracias.