Les deepfakes explosent sur les plateformes de Meta

Un rapport du Tech Transparency Project révèle que des deepfakes hyperréalistes, diffusés sous forme de publicités politiques sur Facebook et Instagram, ciblent massivement les Américains, en particulier les personnes âgées. Ces fraudes, qui ont déjà coûté des millions de dollars, mettent en lumière la faiblesse de la modération de Meta face aux nouvelles tactiques des escrocs.

Washington, États-Unis - Les plus grosses dépenses américaines en publicités politiques sur les plateformes de Meta sont des "deepfakes", utilisant des vidéos truquées hyperréalistes d'hommes politiques américains — y compris du président Donald Trump — pour promouvoir de fausses prestations gouvernementales, a assuré une organisation non gouvernementale mercredi.

Le Tech Transparency Project (TTP) a déclaré dans un rapport avoir identifié 63 annonceurs frauduleux qui ont dépensé collectivement 49 millions de dollars sur Facebook et Instagram, ciblant souvent les personnes âgées avec des publicités promouvant notamment des chèques de relance à la consommation, des cartes de dépenses gouvernementales et des paiements liés à la santé.

Ces publicités ont touché des dizaines de milliers d'utilisateurs.

"Les résultats montrent comment les escrocs profitent des progrès technologiques de l'intelligence artificielle, de la confusion autour du statut des dispositifs de protection sociale et d'une modération de contenus laxiste de la part de Meta pour cibler de nouvelles victimes", assure TTP.

"Meta autorise cette activité alors même qu'elle interdit les escroqueries et affirme investir dans leur prévention pour protéger les utilisateurs."

Le géant américain s'est défendu dans un communiqué, déclarant que toute publicité frauduleuse était strictement interdite. Meta affirme "investir continuellement dans la mise en place de nouveaux systèmes de défense" pour détecter les faux contenus et contrer des escrocs qui "font évoluer constamment leurs tactiques pour contourner la détection".

Vidéo truquée de Trump

Selon les règles de ce géant technologique américain, les annonceurs souhaitant diffuser des publicités politiques aux États-Unis doivent passer par un processus d'autorisation spécial, qui implique la soumission d'une pièce d'identité et une adresse postale américaine.

TTP affirme que les 63 annonceurs frauduleux — qui totalisent plus de 150.000 publicités politiques — avaient vu leurs publications retirées par Meta ces 12 derniers mois.

Mais près de la moitié d'entre eux continuaient à en diffuser mardi.

Meta semblait avoir désactivé 35 comptes mais seulement après qu'ils eurent diffusé des dizaines — et dans certains cas des centaines — de publicités.

Six des comptes incriminés ont dépensé plus d'un million de dollars avant d'être désactivés ou supprimés, insiste le rapport.

Un annonceur identifié par TTP, le Relief Eligibility Center, a ainsi diffusé une publicité sur les plateformes de Meta en avril et mai avec une vidéo truquée de Trump promettant aux Américains des chèques de relance à la consommation.

La vidéo correspondait à un discours du président américain dans la roseraie de la Maison Blanche début avril. Mais TTP révèle que les paroles que celui-ci a prononcées dans cette publicité ne correspondent pas à la transcription officielle de l'événement.

La publicité dirige les utilisateurs vers un site web pour obtenir un "chèque gratuit de 5.000 dollars de Trump", ciblant apparemment des hommes et des femmes de plus de 65 ans dans plus de 20 États américains, selon TTP.

Depuis des années, les professionnels de la lutte contre la désinformation mettent en garde contre les offres de faux chèques de relance à la consommation sur les réseaux.

Les dernières études soulignent l'explosion de la fraude en ligne, avec un nombre croissant d'adultes américains trompés par des escroqueries sur internet ou des usurpations d'identité..

En août, l'autorité américaine de protection des consommateurs (FTC) a signalé une multiplication par quatre, depuis 2020, du nombre des plaintes de personnes âgées ayant perdu au moins 10.000 dollars — parfois toutes leurs économies personnelles — au profit d'escrocs se faisant passer pour des agences gouvernementales de confiance ou des entreprises. (AFP)