Si los algoritmos son la herramienta, ¿cuáles son sus objetivos? Tecnología para el aumento exponencial de la desigualdad.

@IIsraelBarajas

En una publicación anterior hemos hecho referencia al grupo de trabajo que #laUNAMresponde ha creado con el fin de monitorear automáticamente con logaritmos la plataforma Twitter y exponer los datos para mejorar estrategias, políticas y la información de la población.

Sin embargo, los algoritmos no son necesariamente imparciales, justos o se utilizan para mejorar a la ciudadanía sino que pueden tener intereses que sólo beneficien a sectores privilegiados de la población.

La doctora Cathy O’Neil, graduada en Harvard, y la doctora en Ciencias computacionales Sofía Trejo de la UNAM, tienen varias revisiones críticas sobre los usos y sesgos de los algoritmos.

“Prometiendo eficiencia y justicia, distorsionan la educación superior, aumentan la deuda, promueven la encarcelación masiva, aporrean a los pobres en cada coyuntura y socavan a la democracia. Podría parecer que una respuesta lógica es desarmas a estas armas, una por una”.

O´Neil, (2016, p. 165).

Esta es la opinión de Cathy O’Neil en Weapons of Math Destruction respecto a los algoritmos que dañan masivamente a la mayor parte de la población los cuales son utilizados a través de apps y plataformas de grandes corporaciones como Google, Facebook y Amazon, con el único fin de aumentar las ganancias y disminuir costos.

¿Qué tan malos pueden ser si los comparamos con las decisiones tomadas directamente por humanos?

Prestamistas o contratantes, comenta O’Neil, han excluido a razas enteradas en sus trabajos. Sin embargo, la opinión de una persona podría evolucionar en tanto que los humanos aprenden, adaptándose a los distintos procesos.

Sin embargo, los algoritmos son “opiniones encerradas en matemáticas” que no pueden tener estas características propias del aprendizaje y que, necesariamente, permanecerán en la misma condición de sesgo hasta que algún ingeniero las modifique.

“Si una aplicación de recolección de datos en los colegios hubiera sido establecida en 1960, no tendríamos a muchas mujeres yendo a los colegios por el hecho de que estos algoritmos habrían sido entrenados ampliamente en hombres exitosos”.

Neil, (2016, p. 169).

Lo cual llevaría a un error de percepción si se quisiera obtener conclusiones y tomar decisiones a partir de los datos de esta recolección de datos.

Todo esto genera el gran problema de la recolección de datos que se retroalimenta y crea bucles, por ejemplo, las personas pobres tienen mayor probabilidad de tener un mal crédito y vivir en vecindarios de alta incidencia delictiva rodeadas por más personas pobres.

Cuando las armas de destrucción matemática entren en juego recolectando su información, les enviará más policías para arrestarlos y sus sentencias tendrán sanciones más amplias, mientras se disminuyen las posibilidades de obtener préstamos u obtener beneficios para ingresar a las escuelas creando nada menos que “un modelo de muerte en espiral” (p. 165).

La doctora en ciencias computacionales por Harvard también analiza los problemas de privacidad de datos y los intentos por utilizar apps para evitar la expansión de la pandemia COVID-19 los cuales no parecen ser la razón principal para su control sino las grandes masas de funcionarios públicos trabajando en la materia.

Además afirma que también en Estados Unidos realizan el mismo tipo de vigilancia y control social que en China, solamente que Estados Unidos no lo dice explícitamente.

Dentro de la Universidad Nacional Autónoma de México, a través del Instituto de Investigaciones en Matemáticas Aplicadas y en Sistemas (IIMAS), se creó el Seminario sobre “El rol de la IA en la Sociedad”.

La charla dictada por la Dra. Sofía Trejo Abad entra de lleno en el problema de los sesgos en Inteligencia Artificial. La doctora en ciencias computacionales afirma que los algoritmos son opiniones encerradas en código e indica que existen varios errores que pueden construir problemas de sesgos cuyo efecto final son los daños.

“Propiamente, los algoritmos no tienen, o no deberían, tener sesgos sino que es la forma en la que se construyen lo que lo provoca”.

Trejo,2016.

Entre estos errores podemos encontrar por lo menos tres:

  1. Restricciones técnicas (datos y modelos).
  2. Contexto social (falta de conocimiento sobre cómo funciona un fenómeno social).
  3. Uso práctico (cuál es el objetivo del algoritmo).

El caso de los datos tiene un gran problema respecto al registro utilizado para alimentar a los algoritmos de tal forma que si no se tienen datos de un conjunto poblacional, éstos no podrán ser captados en el modelo y, en este sentido, no tendrían una repercusión sobre el modelo.

Ahora bien, la Dra. Trejo también resalta que el problema de registro de datos puede ser sorteado si se utilizan técnicas de investigación social las cuales pueden complementar los registros que se generan mediante las tecnologías y disminuyen la posibilidad de que el algoritmo tenga sesgo y produzca daños.

A lo largo de la charla en el seminario, la Dra. Sofía Trejo profundiza en diversas experiencias en las que explica el sesgo de diversos algoritmos, desde aplicaciones para detectar baches y taparlos, hasta la creaciones de puntajes de riesgo para identificar probabilidades de riesgo de los criminales, actualizando el concepto de peligrosidad del siglo XIX, pasando por la investigación de comportamiento de jueces en decisiones judiciales, sentencias y liberaciones de criminales, basadas en el uso de algoritmos, creando ambientes sociales altamente desiguales a través de la tecnología computacional.

Sesgos en Inteligencia Artificial, 1 de 2 (Sofia Trejo)

Lo anterior nos permite entender que el uso de las tecnologías computacionales no son, necesariamente, neutrales y pueden derivar en crear condiciones sociales que eleven exponencialmente las desigualdades que ya existen en la sociedad.

Related Posts

“Todo empezó con Con un cover en Facebook” – Emilio Pelaez
Ciberactivismo y linchamientos digitales, la resolución del caso #TodosSomosJorge
La credibilidad de los medios de comunicación en tiempos de pandemia

Leave a Reply