La gestion de la réputation à l’ère de la désinformation sur l’IA

Le côté obscur de l’IA pour les communicateurs.

Mike Nachshen est directeur chez Fortis Strategic Communications, LLC.

Des communiqués de presse en quelques secondes. Une corne d'abondance de contenu. Analyses de médias automatisées. C'est déjà devenu un cliché de dire que l'intelligence artificielle générative va changer le métier de la communication.

Mais il y a un revers à la médaille : « L’IA transforme les communications pour le mieux ».

L’IA permet également à quiconque d’attaquer plus facilement la réputation de votre organisation. Pensez à des employés mécontents, à des concurrents contraires à l'éthique, à des clients en colère ou à un jeune de 15 ans qui s'ennuie et qui a trop de temps libre.

C’est parce que l’IA démocratise la désinformation. Il donne à chacun la possibilité de créer et de diffuser efficacement des informations erronées avec une ampleur, une rapidité, une échelle et une qualité qui étaient auparavant réservées aux seuls gouvernements. Voici quelques façons dont cela se produit :

L'IA crée du contenu authentiquement inauthentique :

Cette image virale du pape en doudoune ? La « photo » de l’ancien président Donald Trump arrêté ? Le « clip vidéo » du rap du président Joe Biden ?

Il s’agissait tous de deepfakes – des médias générés par ordinateur au contenu très réaliste, mais entièrement fabriqué.

Et ces deepfakes ont trompé BEAUCOUP de gens.

L’IA fait un travail incroyable en créant du contenu contrefait qui ressemble à la réalité. Et ça ne fait que s'améliorer.

Il n’y a quasiment aucune barrière à l’entrée :

Vous voulez créer un deepfake ?

Tout ce dont vous avez besoin est un ordinateur, un accès Internet et quelques dollars.

Selon National Public Radio, un chercheur a récemment créé une vidéo deepfake très convaincante de lui-même en train de donner une conférence. Cela lui a pris huit minutes, lui a coûté 11 $, et il l'a fait en utilisant des IA disponibles dans le commerce.

Créer de la désinformation ne nécessite même pas de connaissances spécialisées en programmation. De nombreuses IA commerciales peuvent créer des deepfakes à l’aide de quelques invites simples en texte brut.

Créer un contenu écrit d’apparence authentique est tout aussi simple et peu coûteux.

En 2019, un chercheur de Harvard a soumis à Medicaid des commentaires générés par l’IA, dont Wired.com a rapporté que les gens ne pouvaient pas dire qu’ils étaient faux. Le chercheur a créé ce contenu à l'aide de Chat GPT 2.0 ; Chat GPT 4.0, qui est exponentiellement meilleur, vient de sortir il y a quelques semaines ; un abonnement mensuel coûte 20 $.

Vitesse et ampleur sans précédent

Un mauvais acteur n’a pas besoin de passer des heures à inventer de fausses informations. Tout ce qu’il faut, c’est la bonne invite, et l’IA crachera un torrent presque sans fin de désinformations sur votre marque. Synchronisez ensuite cela avec un algorithme généré par l'IA et ils pourront lancer un tsunami de fausses nouvelles sur les réseaux sociaux visant directement la réputation de votre organisation.

Précision étrange et rapide

La profession de communication excelle dans la compréhension des publics. Les IA ne peuvent pas « comprendre » les audiences comme nous, les humains, mais elles peuvent certainement analyser les audiences plus rapidement, à moindre coût et peut-être plus précisément que nous ne le pourrions jamais. Il peut ensuite utiliser cette analyse pour créer des informations erronées personnalisées et ciblées en temps quasi réel.

La désinformation générée par l’IA a déjà un impact sur les entreprises, la politique et les communicateurs. En mai, une fausse photo d’une explosion au Pentagone est devenue virale sur Twitter, stimulée par l’actualité russe. Le S&P 500 a brièvement chuté de trois dixièmes de point de pourcentage avant que les professionnels des relations publiques du ministère de la Défense et des pompiers du comté d'Arlington ne parviennent à maîtriser la situation.

Et nous ne sommes que la pointe de l’iceberg de la désinformation sur l’IA. Comme l’a souligné un récent document de recherche conjoint de Georgetown, OpenAI et Stanford, « [l’IA] améliorera le contenu, réduira les coûts et augmentera l’ampleur de la campagne [de désinformation]… [et elle] introduira de nouvelles formes de tromperie… »

La mauvaise nouvelle : il n’existe pas de solution miracle. Aucune politique, solution technique ou texte législatif ne pourra à lui seul résoudre le problème.