As máquinas e os seus nesgos

Senén Barro, Director do CiTIUS e exrector da USC

Senén Barro, Director do CiTIUS e exrector da USC / ECG

Senén Barro Ameneiro

Senén Barro Ameneiro

A Fundación Cotec para a innovación acaba de facer público un estudo titulado: Toman os profesores decisións nesgadas? A principal conclusión deste estudo é que si, aínda que non se identificou un patrón concreto ao respecto. En xeral son as características do grupo de clase e o contexto o que condiciona as decisións pedagóxicas que toma o profesorado. Percíbense nesgos nos métodos de avaliación, sobre todo, pero tamén no uso dos materiais educativos e na participación do alumnado en actividades escolares e nas repeticións de curso, entre outras decisións. E son sobre todo os profesores xoves de Secundaria os que ven máis nesgados aos seus colegas. 

Ás veces dise, de segundo que decisións, que mellor que as tomase unha máquina, para evitar os nosos nesgos, aínda que estes sexan inconscientes ou ata ben intencionados. Pero non nos equivoquemos, as máquinas tamén poden cometer nesgos, mesmo moito máis significativos que os nosos. 

Unha das compañías de seguros médicos máis importante de EE. UU., UnitedHealth Group, utilizou un sistema baseado en intelixencia artificial, chamado Optum, que priorizaba na atención médica ás persoas brancas fronte ás de cor. Non é que o sistema basease a súa decisión na cor de pel dos pacientes, algo que ademais sería ilegal, senón que este indesexable nesgo acabouse establecendo de modo indirecto, a través dos datos utilizados para deseñar o sistema. O custo de atención médica dos pacientes para un mesmo perfil sanitario era en xeral maior nas persoas brancas que nas de cor, por unha simple cuestión de status socioeconómico, así que o sistema aprendeu a priorizar a aquelas na asistencia médica, co obxectivo de reducir así os custos sanitarios da compañía. Unha vez detectada esta disfunción, mitigouse en boa medida este nesgo introducindo novos datos no deseño do sistema, como a predición do custo futuro de atención médica ao paciente e o número de veces que podería agravarse unha afección crónica a un ano vista. 

É custoso e non é fácil, pero é posible eliminar ou polo menos minimizar os nesgos. Os nosos menos, e non son poucos, por certo, pero polo menos si os das máquinas. Ademais, como cada vez máis cousas importantes dependen dos seus cerebros dixitais, fagamos o posible para que polo menos as súas decisións sexan máis equitativas que as nosas.