( ONU Noticias) Las tecnologías digitales emergentes impulsadas por macro datos e inteligencia artificial afianzan la desigualdad racial, la discriminación y la intolerancia, asegura el informe de una experta de la ONU en derechos humanos.
Según Tendayi Achiume, relatora especial sobre racismo, incluso cuando los desarrolladores y usuarios de tecnología no pretenden que la tecnología discrimine, a menudo lo hace de todos modos.
«La tecnología no es neutral ni objetiva. Está fundamentalmente conformada por las desigualdades raciales, étnicas, de género y de otro tipo que prevalecen en la sociedad, y típicamente empeora estas desigualdades. Está resultando en discriminación y trato desigual en todas las áreas de la vida, desde la educación y el empleo hasta la atención médica y la justicia penal”.
Según Achiume, el problema no es simplemente el racismo extremista, la xenofobia y la intolerancia y va mucho más allá de eso.
«Las empresas como Facebook tienen modelos económicos y comerciales que significan que se benefician activamente de la información errónea, la discriminación y la intolerancia. Además, muchos gobiernos han adoptado algoritmos que discriminan estructuralmente a los grupos marginados», explicó
Tecnologías racistas
En su informe, la relatora describe varios casos en los que las tecnologías emergentes están promoviendo la discriminación.
Por ejemplo, una revisión de 2019 de 189 algoritmos de reconocimiento facial de 99 desarrolladores de todo el mundo descubrió que «muchos de estos algoritmos tenían de 10 a 100 veces más probabilidades de identificar de manera incorrecta una fotografía de un rostro afrodescendiente o de Asia oriental, en comparación con una blanca». Al buscar en una base de datos para encontrar una cara determinada, la mayoría de ellas eligieron imágenes incorrectas entre mujeres negras a tasas significativamente más altas que entre otras características demográficas.
“Ya no puede haber ninguna duda de que las tecnologías digitales emergentes tienen una capacidad sorprendente para reproducir, reforzar e incluso exacerbar la desigualdad racial dentro y entre las sociedades”, asegura el informe que explica que varios estudios académicos importantes han demostrado concretamente que el diseño y el uso de tecnologías ya están teniendo este efecto preciso en una variedad de contextos.
Tecnologías desarrolladas en un entorno de poca diversidad
Las corporaciones privadas ejercen una influencia monumental en el diseño y uso de las tecnologías digitales emergentes. Entre las plataformas digitales, siete «super plataformas» – Microsoft, Apple, Amazon, Google, Facebook, Tencent y Alibaba – representan dos tercios del valor total de mercado de las 70 plataformas más grandes del mundo.
A pesar del alcance global de sus tecnologías digitales emergentes, las corporaciones que ejercen la mayor influencia sobre ellas se concentran predominantemente en Silicon Valley, en los Estados Unidos de América, mientras que la participación de Europa es del 3,6%, la de África del 1,3% y la de América Latina 0,2%.
Por ejemplo, Google tiene el 90% del mercado mundial de búsquedas en Internet. Ocupando dos tercios del mercado global de redes sociales, mientras Facebook es la principal plataforma en más del 90% ciento de las economías mundiales. Amazon tiene una participación de casi el 40T% de la actividad minorista en línea del mundo. Como resultado, los valores culturales, económicos y políticos específicos de Silicon Valley determinan fundamentalmente cuántas de las tecnologías digitales emergentes operan a nivel mundial, incluso en contextos muy alejados de esta pequeña región de América del Norte.
Mientras tanto, los sectores emergentes de tecnología digital, como los de Silicon Valley, se caracterizan por una «crisis de diversidad» en términos de género y raza, especialmente en los niveles más altos de toma de decisiones.
Según un importante estudio de campo, actualmente, los sistemas de inteligencia artificial a gran escala se desarrollan casi exclusivamente en un puñado de empresas de tecnología y un pequeño conjunto de laboratorios universitarios de élite, espacios que en Occidente tienden a ser extremadamente masculinos, blancos, ricos y orientados técnicamente.
Estos también son espacios que tienen un historial de problemas de discriminación, exclusión y acoso sexual «.
El estudio encuentra que «esto es mucho más que una cuestión de uno o dos actores malvados” y señala la existencia de una relación sistemática entre los patrones de exclusión dentro del campo de la inteligencia artificial y la industria que impulsa su producción, por un lado, y los prejuicios que se manifiestan en la lógica y la aplicación de las tecnologías en el otro.
Es probable que la tecnología producida en tales campos excluya desproporcionadamente a las mujeres, las razas, las razas étnicas y otras minorías y reproduzca estas desigualdades cuando se implemente.