Dans un contexte où l’information circule à une vitesse fulgurante, la frontière entre vérité et manipulation devient de plus en plus floue. L’émergence des deepfakes, ces vidéos truquées utilisant l’intelligence artificielle pour créer de faux contenus réalistes, soulève des inquiétudes grandissantes sur l’intégrité de nos sources d’information. Récemment, un deepfake mettant en scène le président américain Joe Biden a plongé un grand groupe de communication dans la tourmente, entraînant une sanction qui résonne comme un signal d’alarme pour l’ensemble de l’industrie médiatique. En effet, cette entité s’est vue infliger une amende colossale d’un million de dollars pour manipulation frauduleuse, révélant les dangers accrus que représentent ces technologies dans le paysage médiatique actuel. Cette affaire soulève des questions cruciales sur la responsabilité des entreprises face aux nouvelles technologies, et sur leur rôle dans la préservation de l’intégrité de l’information.

Un Deepfake de Biden : Un grand groupe de communication sanctionné d’une amende de 1 million de dollars pour manipulation frauduleuse !

Une technologie de plus en plus répandue

En novembre 2022, la première version de ChatGPT, l’intelligence artificielle développée par OpenAI, a été déployée. Depuis, la vitesse de l’évolution des IA n’a cessé d’augmenter. Les IA conversationnelles et celles spécialisées dans la création d’images ou de vidéos ont drastiquement évolué en seulement deux ans.

Une affaire de deepfake troublante

Récemment, la Federal Communications Commission (FCC) a mis en lumière une affaire aussi troublante qu’un épisode de Black Mirror. Des escrocs ont fabriqué un deepfake audio du président Joe Biden. Cet enregistrement a été utilisé pour contacter de nombreux Américains avec l’intention de manipuler et d’intimider les électeurs, corrompant ainsi le processus démocratique.

Le rôle central d’Arya Communications

L’ensemble de cette fraude a été rendu possible en raison de l’implication de l’entreprise Arya Communications. Basée en Inde, cette entreprise a permis aux escrocs d’utiliser ses services de télécommunications pour réaliser ces appels frauduleux. La FCC reproche à Arya Communications de ne pas avoir mis en place des mesures de sécurité adéquates pour prévenir l’utilisation malveillante de ses infrastructures.

Des sanctions lourdes pour Arya Communications

En réaction à cette affaire, la FCC a infligé une amende de 1 million de dollars à Arya Communications. En outre, l’organisation a ordonné à l’entreprise de renforcer considérablement ses pratiques de surveillance et de signalement.

« La société paiera une amende civile d’un million de dollars et mettra en œuvre un plan de conformité historique – le premier de ce type obtenu par la FCC – qui exigera un respect strict des règles d’authentification de l’identité de l’appelant STIR/SHAKEN de la FCC, y compris l’obligation pour la société de respecter les principes « Know Your Customer » (KYC). »

Un risque croissant pour la confiance publique

La FCC a également exprimé son inquiétude quant à la recrudescence des arnaques utilisant des deepfakes, une technologie devenue de plus en plus accessible et sophistiquée. Ces fraudes représentent une menace sérieuse pour la confiance des investisseurs, notamment dans des secteurs sensibles comme les cryptomonnaies.

Certains experts envisagent que les cryptomonnaies et la blockchain pourraient constituer des solutions efficaces contre les deepfakes. Une tribune publiée en mai dernier par Ogden Moore propose que les blockchains publiques pourraient aider à contrer ces dérives de l’IA.