Maquinas cargadas de sesgos culturales, sexistas y racistas.

En la película CORTOCIRCUITO (1986), el robor Johnnie 5 es alcanzado por un rayo que lo hace inteligente y lo humaniza. Escapa de los militares que lo custodian y se apodera de él una necesidad de descubrirlo todo sobre el mundo que lo rodea. "Necesito datos"- le dice una vez tras otras a su protectora humana - interpretada por Ally Sheedy- que le entrega todos los libros que hay en su casa, incluída una enciclopedia. 

Pero Johnie 5 necesita más y más información, por lo que se engancha a la progrmación de televisión. Con esos datos en su disco duro ya se siente lo suficientemente preparado para desenvolverse en la sociedad de los humanos.

Lo habría estado, porque con esos datos Johnnie 5 habría tenido una visión del mundo muy sesgada, construida en su mayor parte por contenidos escritos por varones blancos occidentales del mundo desarrollado. En las enciclopedias de 1985 no se mostraban las ideas del mundo oriental, africano o indígena. En cuanto a la televisión, tampoco le habría sido de gran ayuda a Johnie 5 porque los telediarios estaban cargados de sucesos y las series de entretenimiento estaban protagonizados por jóvenes de raza blanca.

Hoy los robots autónomos como el citado Johnie 5 ya son una realidad anque sea en nuestras plantas de producción, pero lo que nos preocupan son los buscadores de Internet, las aplicaciones de teléfono móvil, y otros programas de Inteligecia Artificial (IA) ,y el sesgo cultural que están adquiriendo.

En un estudio se demostró que los ordenadores asocian a las personas con nombre estadounidense con la felicidad, y eran tendentes a asociar a las palabras mujer y niña más con las artes que con las matemáticas

Un trabajo de la influencia de las decisiones y preferencias de los algoritmos informáticos en la sociedad de dos investigadores de la Escuela de Negocios de la Universidad de Chicago demostró que los ordenadores tenían la tendencia a escoger a personas para puestos ejecutivos de responsabilidad si tenían nombres estadounidenses o europeos antes que afroamericanos. Es decir que un algoritmo va a preferir seleccionar un archivo con el nombre de Pierre o Will que uno sobre Jamal o Lakhisa.

Un estudio publicado por un grupo de estudiosos de la Universidad de Yale se preguntaba porque hay tan pocas mujeres en el ámbito académico. Los voluntarios del estudio enviaron curriculums iguales de hombres ficticios llamados John y mujeres llamadas Jennifer. John era más competente para las mentes subjetivas de los responsables de personal de los departamentos académicos que Jennifer. Además se les otorgaba, sin haber demostrado nada, a los candidatos masculinos un sueldo más alto que a las Jennifer.

"El único lugar libre de prejuicios y sesgos es la utopía idealizada de Platón", ironiza Mathew Lease, profesor de la Facultad de Información de la Universidad de Texas en Austin (EE:UU). "Cualquier sociedad tiene una serie de prejuicios, explícitos e implícitos, y los motores de búsqueda son un espejo en el que tenemos la oportunidad de vernos como realmente somos", bromea Lease.