El algoritmo publicitario de Facebook es una máquina de estereotipos de raza y género
EE.UU. | Tecnología de la información

El algoritmo publicitario de Facebook es una máquina de estereotipos de raza y género


Por Agencias
Publicada:2019-04-29

Cómo exactamente Facebook decide quién ve cuál es una de las grandes piezas de conocimiento prohibido en la era de la información, escondido detrás de los acuerdos de confidencialidad


El algoritmo publicitario de Facebook es una máquina de estereotipos de raza y género, según sugiere un estudio reciente

Cómo exactamente Facebook decide quién ve cuál es una de las grandes piezas de conocimiento prohibido en la era de la información, escondido detrás de los acuerdos de confidencialidad, la ley de secreto comercial y una cultura general de opacidad. La nueva investigación realizada por expertos de la Northeastern University, la University of Southern California y el grupo de defensa del interés público Upturn no revela cómo funcionan los algoritmos de segmentación de Facebook, pero muestra un resultado alarmante: parece que publican ciertos anuncios, incluidos los de vivienda y empleo, de una manera que se alinee con los estereotipos de raza y género, incluso cuando los anunciantes solicitan que los anuncios se expongan a una audiencia amplia e inclusiva.

Hay dos pasos básicos para la publicidad en Facebook. Los anunciantes toman la primera medida cuando eligen a ciertos segmentos de la población de Facebook: mujeres canadienses que disfrutan del bádminton y Weezer, padres de lacrosse mayores de 40 años interesados en el genocidio blanco, etc. El segundo lo toma Facebook, cuando hace aparecer un anuncio en las pantallas de ciertas personas, conciliando las preferencias de orientación del anunciante con el flujo de personas a través de las aplicaciones y páginas web de Facebook en un período de tiempo determinado. Los anunciantes pueden ver qué audiencias terminaron viendo el anuncio, pero nunca se les permite conocer la lógica subyacente de cómo se seleccionaron esas audiencias precisas.

La nueva investigación se centra en el segundo paso de la publicidad en Facebook, el proceso de publicación de anuncios, en lugar de en la segmentación de anuncios. Esencialmente, los investigadores crearon anuncios sin ningún objetivo demográfico y observaron dónde los colocó Facebook. Los resultados, dijeron los investigadores, fueron perturbadores:

    De manera crítica, observamos un sesgo significativo en la entrega a lo largo de las líneas de género y raza para los anuncios "reales" de empleo y oportunidades de vivienda a pesar de los parámetros de orientación neutros. Nuestros resultados demuestran mecanismos previamente desconocidos que pueden conducir a una publicación de anuncios potencialmente discriminatoria, incluso cuando los anunciantes establecen sus parámetros de segmentación para que sean altamente inclusivos.

En lugar de apuntar a un nicho demográfico, los investigadores solo solicitaron que sus anuncios lleguen a los usuarios de Facebook en los Estados Unidos, dejando los asuntos de etnicidad y género completamente en manos de la caja negra de Facebook. Como el propio Facebook le dice a los posibles anunciantes, "Tratamos de mostrar a las personas los anuncios que son más pertinentes para ellos". ¿Qué hace exactamente la caja negra de publicidad de la empresa, dejada en sus propios dispositivos, que se considere pertinente? ¿Los algoritmos de publicación de anuncios de Facebook son tan propensos a sesgos como tantos otros? La respuesta no te sorprenderá.

Para una parte del estudio, los investigadores publicaron anuncios de una gran variedad de ofertas de trabajo en Carolina del Norte, desde conserjes hasta enfermeras y abogados, sin ninguna otra opción de objetivos demográficos. En igualdad de condiciones, el estudio encontró que "Facebook entregó nuestros anuncios de empleos en la industria maderera a una audiencia que era 72% blanca y 90% hombres, cajeros de supermercados a una audiencia de 85% mujeres y empleos con taxi las empresas para una audiencia negra del 75%, a pesar de que la audiencia objetivo que especificamos era idéntica para todos los anuncios ”. La publicidad de los listados de“ desarrolladores de inteligencia artificial ”también se mostraba de color blanco, mientras que los listados de trabajo de secretaría abrumadoramente llegaron a las mujeres usuarias de Facebook.

Aunque Facebook no permite que los anunciantes vean la composición racial de los espectadores de un anuncio, los investigadores dijeron que fueron capaces de inferir estos números confiadamente mediante referencias cruzadas de los indicadores que proporciona Facebook, en particular las regiones donde viven los usuarios, que en algunos estados pueden ser referencia cruzada con los datos de la raza mantenidos en los registros de registro de votantes.

En el caso de los anuncios de vivienda, un área que Facebook ya ha mostrado en el pasado tiene potencial de abuso discriminatorio, los resultados también fueron muy sesgados en términos raciales. "En nuestros experimentos", escribieron los investigadores, "Facebook entregó anuncios de gran alcance para casas en venta a audiencias de 75% de usuarios blancos, cuando los anuncios de alquileres se mostraron a una audiencia más equilibrada demográficamente". En otros casos, el estudio encontró que "Facebook entregó algunos de nuestros anuncios de vivienda a audiencias de más del 85% de los usuarios blancos, mientras que entregó otros anuncios a más del 65% de los usuarios negros (según el contenido del anuncio), aunque los anuncios se orientaron de forma idéntica".

Facebook pareció reforzar los estereotipos de forma algorítmica incluso en el caso de fotos de archivo simples y bastante aburridas, lo que indica que Facebook no solo escanea y clasifica automáticamente las imágenes en el sitio como más "relevantes" para hombres o mujeres, sino que cambia quién ve el anuncio en función. sobre si incluye una foto de, digamos, un balón de fútbol o una flor. La investigación tomó una selección de imágenes estereotipadas de género, una escena militar y una pelea de MMA en el lado estereotípicamente masculino, una rosa como estereotípicamente femenina, y las alteró para que fueran invisibles para el ojo humano (marcando las imágenes como "alfa transparente". ”Canales, en términos técnicos.

El informe llega en un momento inconveniente para Facebook, que ahora enfrenta cargos del Departamento de Vivienda y Desarrollo Urbano por su potencial para permitir que los anunciantes excluyan ilegalmente a ciertos grupos. Y aunque el estudio es cuidadoso al notar que "nuestros resultados solo hablan de cómo se entregan nuestros anuncios particulares (es decir, no podemos decir cómo se entregan los anuncios de vivienda o empleo en general)", aún concluye que "el importante sesgo que observamos incluso en un pequeño conjunto de anuncios, se sugiere que los anuncios de vivienda y empleo en el mundo real probablemente experimentarán el mismo destino ”. En otras palabras, incluso en ausencia de propietarios intolerantes, la plataforma de publicidad en sí misma parece tener prejuicios inherentes.

Un portavoz de Facebook hizo el siguiente comentario:

    Estamos en contra de la discriminación en cualquier forma. Hemos realizado cambios importantes en nuestras herramientas de orientación de anuncios y sabemos que esto es solo un primer paso. Hemos analizado nuestro sistema de publicación de anuncios y hemos involucrado a líderes de la industria, académicos y expertos en derechos civiles en este tema, y estamos explorando más cambios.

Es un tema familiar en este punto, y es probable que sirva de poco para tranquilizar a quienes solo quieren saber que se les brindarán las mismas oportunidades que todos los demás, incluso en el contexto de la publicidad ubicua. La antigua apología para la publicidad dirigida generalmente es que es un favor para el consumidor, evitándoles anuncios "irrelevantes" y, en su lugar, les brinda la oportunidad de buscar productos y servicios que son "pertinentes" para ellos. Lo que este razonamiento superficial pierde es que las decisiones sobre la pertinencia pueden volverse auto reforzadas; en el mejor de los casos, es tonto pensar que las mujeres están más interesadas en el trabajo de secretaría porque siguen haciendo clic en los anuncios de secretaria, en lugar de hacer clic en los anuncios de secretaría porque todo lo que Facebook les mostrará.

Fuente:Sam Biddle
theintercept.com





Noticias relacionadas de EE.UU.

✅ Toni Morrison, Premio Nobel de literatura 1993 murió a los 88 años
✅ LightSail 2 despliega sus velas, el siguiente paso hacia el viaje espacial de Solar Sail
✅ El escándalo con menores de Epstein amenaza a Trump
✅ El nuevo portaaviones de Estados Unidos no obtendrá ningún F-35, aún
✅ 11 reflexiones sobre cómo las Big Tech dominan el mundo

Te puede interesar!

Ikea quiere construir cas
Parques de Estocolmo, ver
La geopolítica de intern


En busca de un demos metr
Inteligencia artificial:
La realidad no existe has
estocolmo_agenda

Ultimas Noticias

De interés

Punto Final”  title=”PuntoFinal”  border=
Punto Final”  title=”PuntoFinal”  border=
Premio Nobel
Biblioteca Nacional
Memoria chilena
Cine chileno