El Gran Hermano oriental
MARTÍN ALLER DOMÍNGUEZ. China se ha convertido en la segunda economía más grande del mundo, por detrás de los Estados Unidos, acrecentando la rivalidad entre ambos estados. Aunque económica y militarmente la superpotencia asiática todavía se encuentra por detrás de los americanos, existe un terreno en el que está consolidando su liderazgo: la innovación en Inteligencia Artificial, destacando especialmente en el desarrollo de técnicas de aprendizaje automático.
El aprendizaje automático tiene aplicaciones muy diversas: desde el desarrollo de sistemas capaces de realizar diagnósticos médicos con una precisión muy elevada hasta el reconocimiento del habla o del lenguaje escrito. A pesar de que estas aplicaciones son indudablemente positivas, las autoridades chinas tienen especial interés en un ámbito un poco diferente: la seguridad. Con el supuesto propósito de garantizar la seguridad, China ha implantado recientemente un sistema de crédito social, mediante el cual todos sus ciudadanos tienen asignada una puntuación, que será mayor o menor en función de su "comportamiento cívico". Para poder ejecutar este sistema de puntuación, se hace uso de la Inteligencia Artificial, empleando algoritmos de reconocimiento facial y geolocalización, de forma que la población se encuentra en un estado de vigilancia permanente. Si usted es un ciudadano chino, una puntuación baja en su crédito social supondrá la pérdida de ciertos derechos. Por ejemplo, no podrá comprar billetes de avión, ni pedir un crédito. Y como ya habrá imaginado, realizar críticas al Gobierno a través de las redes sociales o cualquier otro medio es una actividad que puntúa muy negativamente. Todo esto, por supuesto, con la nobilísima intención de garantizar la seguridad y el bienestar de los ciudadanos chinos.
Desde el momento en el que las autoridades chinas anunciaron la implantación de este sistema de crédito social, en la prensa occidental no se tardó en hacer referencia a la ya clásica obra de Orwell, 1984. En esta novela, publicada en 1949, Orwell dibujaba una futura sociedad distópica, en la que existía un régimen totalitario de partido único, encabezado por la figura del Gran Hermano, una entidad omnipresente que vigilaba todos los movimientos de sus ciudadanos y de la que no se podía escapar. Cualquier ciudadano que mostrase un comportamiento herético, disidente o crítico con el Partido era "evaporado". Hoy la China de Xi Jinping está haciendo uso de sus sistemas de vigilancia para reprimir a la minoría musulmana uigur, una etnia asentada en la frontera oeste del país, internando en campos de concentración a aquellos individuos catalogados como "extremistas", donde son retenidos hasta completar su "transformación ideológica".
No piense el lector que nosotros vivimos ajenos a esta situación. Desde la Comisión Europea se muestra preocupación por la probable vinculación de algunas empresas tecnológicas con los servicios de inteligencia chinos. Con el elevado número de dispositivos inteligentes vendidos por las empresas chinas en todo el mundo, China dispone de una fuente de datos inmensa para entrenar sus sistemas de Inteligencia Artificial. Y es que el Gran Hermano lo ve todo.
Salvando las distancias entre lo que ocurre en China y en Occidente, es evidente que el desarrollo que la Inteligencia Artificial ha experimentado y experimentará a lo largo del siglo XXI puede suponer una amenaza para la libertad de los individuos que ha caracterizado a las sociedades occidentales en el último siglo.
El uso de la Inteligencia Artificial para recopilar todo tipo de información sobre la población continuará y se asentará como una práctica normal, justificándose como una manera de garantizar la seguridad de los ciudadanos. El debate entre la preeminencia de la seguridad o de la libertad no es nuevo, ni mucho menos. Pero desgraciadamente, este debate sólo tiene lugar en Europa. Y mientras el viejo continente, cada vez con un menor peso geopolítico, desempeña un papel secundario en la revolución tecnológica que se está produciendo, China continúa consolidando su liderazgo tecnológico y exportando al mundo su visión orwelliana de lo que debe ser una sociedad.
El protagonista de 1984, Winston, trabajaba en el Ministerio de la Verdad, reescribiendo noticias antiguas para adaptarlas al discurso actual del Partido y borrando todo registro de personas eliminadas por el régimen. Así que, si me permite la arrogancia, guarde este artículo, porque quizá en un par de décadas algún Winston nacido en Pekín se encargue de que desaparezca todo rastro de él.
(*) Alumno do grao en Enxeñaría Informática da USC