La profesora de la Universidad de Nueva York, Meredith Broussard, se rebeló contra la supremacía de la tecnología y analizó sus debilidades en una entrevista para el diario El País, en donde aseguró que un algoritmo los afroamericanos eran condenados a penas más largas de cárcel que los blancos.
Broussard destacó que los ordenadores son máquinas que funcionan gracias a millones de cálculos matemáticos que no responden a ningún principio universal o natural, son símbolos que han sido creados por personas y que responden a una construcción social.
En ese sentido, los algoritmos son un buen ejemplo de ello y Broussard explicó que en 2016, varios periodistas de ProPublica detectaron que uno de los algoritmos que se estaba usando en el sistema judicial estadounidense era imparcial y perjudicaba a los afroamericanos.
La Policía pasaba un cuestionario a todos los detenidos y sus respuestas se introducían en un ordenador.
Un algoritmo llamado Compas usaba toda esa información para predecir la probabilidad de que una persona volviera a cometer un crimen en el futuro, asignándole una puntuación.
“Esa puntuación se le pasaba a los jueces para ayudarles a tomar decisiones más objetivas y basadas en datos a la hora de emitir sus sentencias, con un resultado claro: los afroamericanos eran condenados a penas más largas de cárcel que los blancos”, precisó.
Durante la entrevista la educadora indicó que es fácil observar cómo los creadores de ese algoritmo estaban tan cegados por el poder de la tecnología que no recayeron en el daño que podría causar.
“Si das por hecho que una decisión generada por un ordenador es más justa e imparcial que la de una persona, dejas de cuestionarte la validez de ese sistema. Tenemos que plantearnos si estamos construyendo un mundo mejor o no”, dijo.
“Los estadounidenses son demasiado entusiastas con el uso de aplicaciones en todas las facetas de la vida: la contratación de empleados, la conducción, los pagos o la elección de su pareja”, señaló la educadora
Broussard explicó que esa fascinación ha derivado en un diseño muy pobre de la tecnología, donde importa mucho la premura y poco los valores, “si intentamos solucionar los grandes problemas sociales usando únicamente la tecnología, cometeremos los mismos errores que han impedido el progreso y la igualdad”, apuntó.