Meta publie un nouveau système publicitaire après une poursuite pour discrimination dans le logement

Près de sept mois se sont écoulés depuis que Meta a accepté de régler un ministère de la Justice procès accusant l’entreprise d’autoriser illégalement la discrimination contre ses utilisateurs sur la base de la race et d’autres caractéristiques dans son système de publicité de logement. Maintenant la société se dit enfin prête à lancer une nouvelle technologie d’apprentissage automatique qui, selon elle, distribuera les publicités de manière plus équitable et réduira la discrimination algorithmique. La nouvelle technologie, que Meta appelle son Système de réduction des écarts (VRS), commencera avec des annonces immobilières, mais devrait s’étendre et s’appliquer aux annonces d’emploi et de crédit aux États-Unis d’ici la fin de 2023.

Meta dit que VRS s’assurera que le public sur sa plate-forme voit les publicités davantage ciblée sur l’audience cible éligible pour ces publicités. VRS utilise une méthode de mesure appelée géocodage bayésien amélioré du nom de famille pour mesurer l’âge, le sexe et la distribution estimée de la race ou de l’ethnicité des utilisateurs qui ont vu l’annonce. Toutes ces informations démographiques agrégées, informées par les statistiques du recensement américain, sont ensuite comparées à la répartition démographique d’un public cible sélectionné par l’annonceur. Ces changements, selon le DOJ, devrait «réduire considérablement les écarts entre les publics éligibles et réels selon le sexe et la race / origine ethnique estimée dans la diffusion des annonces de logement».

« Ce développement marque une étape cruciale dans les efforts du ministère de la Justice pour tenir Meta responsable des biais algorithmiques illégaux et de la diffusion d’annonces discriminatoires sur ses plateformes », a déclaré la procureure générale adjointe de la Division des droits civils du DOJ, Kristen Clarke, dans un communiqué. « Le ministère de la Justice continuera de tenir Meta responsable en veillant à ce que le système de réduction des variances traite et élimine la diffusion discriminatoire de publicités sur ses plateformes. »

Dans son procès, le DOJ a affirmé que Meta avait enfreint le Fair Housing Act en encourageant les annonceurs à cibler les destinataires des publicités en fonction de caractères tels que la race, la religion et le sexe. La plainte alléguait que l’ancien outil publicitaire « Special Ad Audience » de Meta avait introduit un biais lors de la diffusion du les publicités. En outre, le DOJ a déclaré que le système de Meta a introduit des données de caractéristiques protégées par la FHA dans son système de livraison et a utilisé ces données pour prédire quel logement les annonces étaient les plus pertinentes pour les utilisateurs.

Meta a finalement payé une amende civile de 115 054 $ dans le cadre du règlement et a accepté de cesser d’utiliser l’outil Special Ad Audience. La société a également accepté de remplacer cet outil par un nouveau système qui est finalement devenu VRS, bien que la société n’ait jamais admis d’actes répréhensibles. Guidehouse, un examen tiers, enquêtera désormais sur Meta de manière continue pour s’assurer que VRS respecte les mesures de conformité.

« Dans l’ensemble de l’industrie, les approches de l’équité algorithmique évoluent encore, en particulier en ce qui concerne la publicité numérique », a déclaré Meta dans un communiqué. article de blog. Mais nous savons que nous ne pouvons pas attendre le consensus pour progresser dans la résolution des préoccupations importantes concernant le potentiel de discrimination, en particulier en ce qui concerne les annonces de logement, d’emploi et de crédit, où les effets durables d’un traitement historiquement inégal ont toujours tendance à façonner les opportunités économiques. .”

Le DOJ, d’autre part, a déclaré que le règlement Meta et le développement ultérieur de l’alternative VRS devraient servir de signal d’avertissement aux autres entreprises technologiques avec leurs propres algorithmes douteux.

« La surveillance fédérale de Meta devrait envoyer un signal fort aux autres entreprises technologiques qu’elles seront également tenues responsables de ne pas avoir abordé la discrimination algorithmique qui va à l’encontre de nos lois sur les droits civils », a déclaré Clarke.