Algoritmos éticos
LA humanidad está inmersa en una revolución tecnológica sin precedentes. En los últimos años, los algoritmos han pasado de ser abstracciones matemáticas a formar parte integrante de nuestras vidas y usarse cada vez más para sustituir toma de decisiones. Los departamentos de recursos humanos los usan para contrataciones, los bancos para conceder créditos y hasta en Pensilvania, las decisiones sobre la libertad condicional de los presos o sus fianzas se basan en algoritmos.
Estos pueden tratar en milésimas de segundo una cantidad ingente de información y ofrecer una propuesta aparentemente imparcial. Sin embargo, esa decisión no tiene por qué ser objetiva y puede ser tan subjetiva como las empresas que los programan. Tienden a la simplificación de las relaciones sociales y como no logran procesar absolutamente todos los datos de nuestra vida cotidiana, eliminan aquellos que no consideran relevantes sustituyendo los más difíciles de obtener por los más simples. Así aparecen sesgos que ya se han detectado en plataformas como Facebook, que discriminaba a ciertos colectivos a través de su herramienta de anuncios. O Instagram, donde un estudio de la Universidad de Columbia concluía que era más probable que en la aplicación se diese más visibilidad a hombres que a mujeres.
En el pasado, tecnología y sociedad caminaban a prudencial distancia, pero hoy la aplicación de la inteligencia artificial (IA) cada vez a más aspectos cotidianos, tiene evidentes implicaciones jurídicas, socio-económicas y éticas. El debate en torno a esta debe darse sobre cómo lograr que las máquinas inteligentes se orienten al bien común, lo que supone un reto no solo tecnológico sino filosófico.
Las máquinas amenazan con imitar la inteligencia humana, pero al carecer de nuestro esquema de valores (no distingue entre el bien y el mal), actúan teniendo en cuenta los datos que tienen y su propio aprendizaje. De ahí que los expertos sugieran poner el foco no tanto en ellas, sino en las personas que las enseñan.
Mientras tanto, ¿qué podemos hacer para exigir que la IA que nos afecte sea más justa? Pues primero, tomando conciencia de que los algoritmos no son imparciales, sino que, como dice Cathy O’Neil, son “opiniones encerradas en matemáticas”. Segundo, sentando en el diván a su aprendizaje, para fijar criterios éticos sólidos, con la idea de prevenir asimetrías, buscar la equidad, la transparencia y la responsabilidad, sin sesgos, cajas negras o cualquier otro elemento que ponga en tela de juicio los beneficios que aporta.
El objetivo de los algoritmos no puede ser eliminar la inteligencia humana, sino potenciarla, porque un algoritmo podría ser superior a un humano, pero nada supera la combinación de humano y algoritmo. En cualquier caso, hay que mantener un botón rojo por si se nos presenta la emergencia de tener que apagar un robot desbocado.