Au milieu d’une éventuelle inculpation de l’ancien président Donald Trump, plusieurs fausses photos de l’ancien président en cours d’arrestation ont circulé sur les réseaux sociaux.
Mardi, Eliot Higgins, fondateur et directeur créatif de Bellingcat, un site Web de journalistes d’enquête, a publié une photo créée artificiellement de Trump arrêté par la police. Dans une série d’autres articles, Higgins a publié de fausses photos générées par l’intelligence artificielle (IA) de Trump et des membres de sa famille se disputant avec la police, ainsi qu’une montrant l’ancien président dans une cellule de prison.
Les photos créées artificiellement surviennent alors que Trump devrait être inculpé par le bureau du procureur du district de Manhattan dans son enquête sur les paiements en argent silencieux versés à Stormy Daniels, une star de cinéma pour adultes. Dans un article de Truth Social ce week-end, Trump a déclaré qu’il s’attendait à être arrêté mardi et a appelé à des manifestations en réponse.
Henry Ajder, expert dans le domaine de l’intelligence artificielle, des fausses photos profondes et des médias synthétiques, a déclaré mardi à Newsweek que si les photos de Trump peuvent être visiblement fausses pour les personnes ayant une formation en IA, d’autres peuvent percevoir les photos différemment.
L’ancien président Donald Trump s’apprête à prendre la parole lors d’un rassemblement « Save America » le 1er octobre 2022 à Warren, dans le Michigan. Mardi, des experts ont parlé à Newsweek des problèmes potentiels associés à l’intelligence artificielle et aux fausses images profondes. Emily Elconin/Getty
« Tout le monde n’est pas au courant de la rapidité avec laquelle l’IA générative et le faux espace profond évoluent », a déclaré Ajder à Newsweek. « En dehors du contexte du tweet d’Eliot Higgins, cette image pourrait être partagée dans des espaces d’information beaucoup plus cloisonnés et étroits, où elle est encadrée différemment par des personnes qui recherchent une validation et recherchent essentiellement des sorties, des images ou des éléments multimédias qui font en effet montrer [Trump] être arrêté pour susciter l’indignation ou la joie dans certains cas. »
Ajder a également expliqué qu’en publiant ces photos sur les réseaux sociaux, où les gens parcourent probablement rapidement les chronologies, vous ne remarquerez peut-être pas que la photo est générée artificiellement.
« Si vous avez le genre de tempête parfaite de personnes qui ne sont pas familières avec le paysage du contenu généré par l’IA et qu’il est partagé dans un contexte où il valide une vue qu’ils ont ou un parti pris qu’ils ont, cela pourrait encore tromper les gens. « , a déclaré Ajder.
Chris Meserole, directeur de l’initiative AI & Emerging Tech à la Brookings Institution, a également déclaré à Newsweek que « les images truquées de l’arrestation de l’ancien président Trump n’étaient pas destinées à convaincre qui que ce soit qu’il avait en fait été arrêté, étant donné la facilité avec laquelle un fait comme c’est à vérifier. »
« Il y a eu beaucoup de panique ces derniers temps sur la façon dont les deepfakes pourraient tromper les gens en leur faisant croire des choses qui ne sont pas vraies. Mais comme l’illustrent les deepfakes de Trump, l’utilisation la plus pernicieuse des deepfakes peut être de s’attaquer à nos pires impulsions tribales, politiques ou autres », Meserole a déclaré à Newsweek.
Dans un rapport publié par Brookings en janvier, Meserole et d’autres experts du domaine de l’IA ont averti que « pour les décideurs et les responsables des États démocratiques, les deepfakes représentent un défi particulièrement difficile ».
L’agence européenne d’application de la loi Europol a publié un rapport l’année dernière, déclarant: « Les experts estiment que jusqu’à 90% du contenu en ligne pourrait être généré synthétiquement d’ici 2026. »
Ajder a également déclaré à Newsweek que l’expansion de la technologie de l’IA est « malheureuse » et « excitante ».
« Dans le domaine de la désinformation ou de la mésinformation, il y a énormément de place pour l’amélioration de ces points de vente qui pourraient les rendre beaucoup plus puissants et beaucoup plus dangereux », a-t-il déclaré.
Newsweek a contacté le porte-parole de Trump par e-mail pour commentaires.