Taylor Swift victime d'une deep fake IA: la toile s'enflamme

Taylor Swift victime d’une deep fake IA: la toile s’enflamme

Dernière mise à jour : 8 février 2024 15h07

De Marie Louisy 8 February 2024 7 min de lecture 2

7 min de lecture

Deep Fake IA et Taylor Swift : L’impact des Fake News sur la Réputation et la Sécurité

Si vous vous préoccupez du harcèlement scolaire ou du revenge porn, nous vous annonçons tristement que ces pratiques sont has been. Taylor Swift, victime d’une deep fake IA, en fait douloureusement les frais depuis quelques jours.

Dans cet article, vous aurez les détails de ces événements qui remettent l’IA sur le devant de la scène de manière peu avantageuse.

Sommaire

Deep Fake IA et Taylor Swift : L’impact des Fake News sur la Réputation et la Sécurité Qu’est-ce qu’une fake news ?Qu’est-ce qui s’est passé avec Taylor Swift ?Quelles sont les conséquences de la deep fake avec Taylor Swift ?Quels sont les enjeux ?Que retenir ?

Qu’est-ce qu’une fake news ?

La fake news, deep fake, ou infox en anglais, est une information fausse présentée comme vraie. Pour atteindre son objectif de désinformation, elle est diffusée massivement et est souvent emballée dans un habillage légitime : le logo d’une chaîne d’information reconnue par exemple.

Les fake news comptent sur la crédulité et la passivité du public, ainsi que sur les réseaux sociaux pour se répandre rapidement. Lorsque la technologie IA est utilisée pour créer une fake news, on parle de fake news IA ou de deep fake IA.

Pourquoi les fake news sont-elles importantes ?

Hormis le fait que les fake news ne sont pas éthiques, elles sont sources de dommages, notamment :

Atteinte à la dignité humaine
Atteinte à la réputation institutionnelle
Crise de confiance
A l’extrême, le déclenchement ou l’enlisement des conflits

Qu’est-ce qui s’est passé avec Taylor Swift ?

Les photos de Taylor Swift ont été détournées à but pornographique. Un important groupe Telegram a rapidement été épinglé par la presse américaine. Suite à des investigations¹ plus poussées, le forum 4chan², connu pour ses excès, a été désigné.

Le sous-groupe de 4chan, Adult cartoons (ACO) a lancé depuis peu une foire aux images pornographiques fabriquée avec des images de stars, dont Taylor Swift. Ces images ont ensuite été répandues sur la place et visionnées 47 millions de fois sur X depuis le vendredi 26 janvier dernier. Les réactions ne se sont pas faites attendre.

Quelles sont les conséquences de la deep fake avec Taylor Swift ?

Les internautes

Les internautes n’ont pas pris de gants pour remettre le malotru à l’origine de l’incident à sa place. Une réaction de masse³ s’est spontanément mise en place, incluant les protestations de nombreuses personnalités et l’intervention de la Maison Blanche.

Couvrir les arrières de leur star

Dans un premier temps, les internautes ont « noyé le poisson ». Pour effacer le contenu inapproprié, ils ont inondé la toile de vidéos et d’images plaisantes de leur artiste préférée, ce qui a réduit l’effet dévastateur de la fake. Chaque image à problème a été signalée massivement. Mais ils ne se sont pas arrêtés là.

La contre-attaque

Les fans de Taylor Swift, les Swifties, ont attaqué frontalement l’auteur de la deep fake IA. Après l’avoir démasqué et localisé, ils ont diffusé publiquement son identité et son adresse.

Nous ignorons si Taylor Swift a décidé de porter plainte (ou pire), maintenant que les masques sont tombés.

X

X a pris des mesures drastiques pour freiner la diffusion de l’incident. Dès le week-end suivant, les recherches sur Taylor Swift étaient devenues inaccessibles⁴. Cependant elles sont de nouveau utilisables depuis lundi 29 janvier, tant que vous n’associez pas les mots « Taylor Swift IA » dans la barre de recherche.

Même si le but était de limiter la casse, il y a eu des dommages collatéraux. Taylor Swift devait soutenir son compagnon alors qu’il avait un match important, suite à un concert à Tokyo. Ces événements importants ont également été passés à la trappe. Pour agir aussi rapidement, X s’est appuyé sur sa politique interne interdisant la publication d’images de nudité non consenties. X a également déclaré qu’un travail de nettoyage des images inappropriées est en cours.

Quels sont les enjeux ?

Les enjeux immédiats

L’incident impacte la vie politique américaine, à quelques heures du démarrage des primaires démocrates⁵. En effet, un électeur sur cinq serait disposé à voter pour le candidat soutenu par Taylor Swift.

Les enjeux lointains

Les fake news ont toujours existé. Aujourd’hui, les réseaux sociaux et l’IA ont amplifié leur capacité de nuisance. Les deux Corée, la Russie et l’Ukraine, les images ou infos liées au pape et certaines diffusions concernant le conflit israélo-palestinien en sont de tristes exemples.

L’enjeu principal de ces événements reste la sécurité. L’observation montre une pression surdimensionnée sur les femmes et les filles, et que les hommes sont généralement les initiateurs, lorsqu’il s’agit de harcèlement. Une jeune fille de 18 ans a été tuée par son père, après la circulation d’images dénudées, qui se sont finalement avérées fausses⁶.

En présence d’une loi américaine encore ligotée par sa Section 230 (protection des réseaux sociaux), les régulateurs sont en alerte maximale. Toute information diffusée doit être de source fiable et vérifiée. A l’image des créateurs qui ont fait face aux dérives de l’IA dès ses premières heures, aujourd’hui des prestataires tels que Adobe offrent des solutions.

Que retenir ?

Une deep fake IA a été montée de toutes pièces au sujet de Taylor Swift. Le phénomène, impressionnant, a embrasé la toile et contraint le réseau social X à verrouiller la recherche interne.

La fake news présentait de fausses images de nu de Taylor Swift
L’incident a provoqué un tollé public
Les réseaux sociaux et les internautes ont fait front à l’attaque
Des solutions pérennes à l’utilisation inappropriée deviennent un enjeu de survie pour l’IA

L’aventure de l’IA présente ses meilleurs atouts pour conquérir le monde. Cependant, ses inconvénients doivent être jugulés dès maintenant pour prévenir le développement de son côté sombre.

Références :