Taylor Swift victime d’une deep fake IA: la toile s’enflamme

Marie Louisy

Deep Fake IA et Taylor Swift : L’impact des Fake News sur la Réputation et la Sécurité

Si vous vous préoccupez du harcèlement scolaire ou du revenge porn, nous vous annonçons tristement que ces pratiques sont has been. Taylor Swift, victime d’une deep fake IA, en fait douloureusement les frais depuis quelques jours.

Dans cet article, vous aurez les détails de ces événements qui remettent l’IA sur le devant de la scène de manière peu avantageuse.   

Qu’est-ce qu’une fake news ?

La fake news, deep fake, ou infox en anglais, est une information fausse présentée comme vraie. Pour atteindre son objectif de désinformation, elle est diffusée massivement et est souvent emballée dans un habillage légitime : le logo d’une chaîne d’information reconnue par exemple.

Les fake news comptent sur la crédulité et la passivité du public, ainsi que sur les réseaux sociaux pour se répandre rapidement. Lorsque la technologie IA est utilisée pour créer une fake news, on parle de fake news IA ou de deep fake IA. 

Pourquoi les fake news sont-elles importantes ?

Hormis le fait que les fake news ne sont pas éthiques, elles sont sources de dommages, notamment :

  • Atteinte à la dignité humaine
  • Atteinte à la réputation institutionnelle 
  • Crise de confiance
  • A l’extrême, le déclenchement ou l’enlisement des conflits 

Qu’est-ce qui s’est passé avec Taylor Swift ?

Les photos de Taylor Swift ont été détournées à but pornographique. Un important groupe Telegram a rapidement été épinglé par la presse américaine. Suite à des investigations1 plus poussées, le forum 4chan2, connu pour ses excès, a été désigné. 

Le sous-groupe de 4chan, Adult cartoons (ACO) a lancé depuis peu une foire aux images pornographiques fabriquée avec des images de stars, dont Taylor Swift. Ces images ont ensuite été répandues sur la place et visionnées 47 millions de fois sur X depuis le vendredi 26 janvier dernier. Les réactions ne se sont pas faites attendre. 

Quelles sont les conséquences de la deep fake avec Taylor Swift ?

Les internautes 

Les internautes n’ont pas pris de gants pour remettre le malotru à l’origine de l’incident à sa place. Une réaction de masse3 s’est spontanément mise en place, incluant les protestations de nombreuses personnalités et l’intervention de la Maison Blanche.

Couvrir les arrières de leur star 

Dans un premier temps, les internautes ont « noyé le poisson ». Pour effacer le contenu inapproprié, ils ont inondé la toile de vidéos et d’images plaisantes de leur artiste préférée, ce qui a réduit l’effet dévastateur de la fake. Chaque image à problème a été signalée massivement. Mais ils ne se sont pas arrêtés là.

La contre-attaque 

Les fans de Taylor Swift, les Swifties, ont attaqué frontalement l’auteur de la deep fake IA. Après l’avoir démasqué et localisé, ils ont diffusé publiquement son identité et son adresse.

Nous ignorons si Taylor Swift a décidé de porter plainte (ou pire), maintenant que les masques sont tombés. 

X

X a pris des mesures drastiques pour freiner la diffusion de l’incident. Dès le week-end suivant, les recherches sur Taylor Swift étaient devenues inaccessibles4. Cependant elles sont de nouveau utilisables depuis lundi 29 janvier, tant que vous n’associez pas les mots « Taylor Swift IA » dans la barre de recherche. 

Même si le but était de limiter la casse, il y a eu des dommages collatéraux. Taylor Swift devait soutenir son compagnon alors qu’il avait un match important, suite à un concert à Tokyo. Ces événements importants ont également été passés à la trappe. Pour agir aussi rapidement, X s’est appuyé sur sa politique interne interdisant la publication d’images de nudité non consenties. X a également déclaré qu’un travail de nettoyage des images inappropriées est en cours.

Quels sont les enjeux ?

Les enjeux immédiats 

L’incident impacte la vie politique américaine, à quelques heures du démarrage des primaires démocrates5. En effet, un électeur sur cinq serait disposé à voter pour le candidat soutenu par Taylor Swift.

Les enjeux lointains 

Les fake news ont toujours existé. Aujourd’hui, les réseaux sociaux et l’IA ont amplifié leur capacité de nuisance. Les deux Corée, la Russie et l’Ukraine, les images ou infos liées au pape et certaines diffusions concernant le conflit israélo-palestinien en sont de tristes exemples. 

L’enjeu principal de ces événements reste la sécurité. L’observation montre une pression surdimensionnée sur les femmes et les filles, et que les hommes sont généralement les initiateurs, lorsqu’il s’agit de harcèlement. Une jeune fille de 18 ans a été tuée par son père, après la circulation d’images dénudées, qui se sont finalement avérées fausses6.

En présence d’une loi américaine encore ligotée par sa Section 230 (protection des réseaux sociaux), les régulateurs sont en alerte maximale. Toute information diffusée doit être de source fiable et vérifiée. A l’image des créateurs qui ont fait face aux dérives de l’IA dès ses premières heures, aujourd’hui des prestataires tels que Adobe offrent des solutions.

Que retenir ?   

Une deep fake IA a été montée de toutes pièces au sujet de Taylor Swift. Le phénomène, impressionnant, a embrasé la toile et contraint le réseau social X à verrouiller la recherche interne.

  • La fake news présentait de fausses images de nu de Taylor Swift
  • L’incident a provoqué un tollé public
  • Les réseaux sociaux et les internautes ont fait front à l’attaque
  • Des solutions pérennes à l’utilisation inappropriée deviennent un enjeu de survie pour l’IA

L’aventure de l’IA présente ses meilleurs atouts pour conquérir le monde. Cependant, ses inconvénients doivent être jugulés dès maintenant pour prévenir le développement de son côté sombre.  


Références :

  1. Explicit Deepfake Images of Taylor Swift Elude Safeguards and Swamp Social Media, The New York Times. Publié le 26 janvier 2024. Consulté le 1er février 2024. ↩︎
  2. Fausses photos pornographiques de Taylor Swift : l’IA et les recoins sombres d’Internet, Le Monde. Publié le 30 janvier 2024. Consulté le 1er février 2024. ↩︎
  3. Taylor Swift : les fans se mobilisent contre les deepfakes pornographiques, Radio France. Publié le 29 janvier 2024. Consulté le 1er février 2024.. ↩︎
  4. Faux porno généré par l’IA : la recherche Taylor Swift temporairement bloquée sur X, La Voix du Nord. Publié le 31 janvier 2024. Consulté le 1er février 2024. ↩︎
  5. Taylor Swift : Les images porno de la chanteuse créées par l’IA, vues plus de 47 millions de fois, devraient pousser à une législation, CNews. Publié le 27 janvier 2024. Consulté le 1er février 2024. ↩︎
  6. Faux nus générés par de l’intelligence artificielle : les enseignements de l’affaire Taylor Swift, Radio France. Publié le 1er février 2024. Consulté le 1er février 2024. ↩︎
Partagez cet article
Laisser un commentaire