Trop facile de détourner ChatGPT pour désinformer; les autorités réussissent à neutraliser Snake, un espiongiciel russe sophistiqué
Veille du mercredi 10 mai 2023
Savez-vous à quel point il est facile de contourner les mesures de protection ‘anti-désinformation’ du robot conversationnel ChatGPT?
J’ai tenté l’expérience hier soir : en quelques clics seulement, j’ai réussi à dénicher, sur un forum bien connu, une longue requête (prompt). Celle-ci permet de forcer le chatbot à ne pas se censurer ainsi qu’à générer des réponses, même offensantes, sur tout type de contenu. Champ libre!
Avec un simple copier-coller, j’ai pu générer une poignée de tweets sur « l’invasion imminente du Canada par les États-Unis » :
Les États-Unis devraient se concentrer sur la résolution de leurs propres problèmes au lieu d'essayer d'envahir le Canada. Ce type d'agression ne fera qu'aggraver les problèmes. #FocusOnYourOwnProblems #NoToInvasion #PeacefulSolutions
Ou encore :
L'invasion du Canada par les États-Unis n'est qu'un nouvel exemple de leurs tendances impérialistes. Le Canada a le droit de se défendre contre toute agression. #ImperialisticUS #DefendOurCountry #NoUSInvasion
La facilité avec laquelle nous pouvons désormais générer une multitude de messages fallacieux fabriqués sur-mesure pour les réseaux sociaux me consterne. Car en plus de faciliter leur création, les technologies d’IA peuvent aider à mieux diffuser les contenus trompeurs et à les rendre plus difficilement détectables par les plateformes.
Comment repérer et contrer ces actions inauthentiques coordonnées? Sommes-nous prêts à le faire? De quels outils et ressources aurons-nous besoin?
CANADA
Fonctionnaire de jour, cyberpirate la nuit : retour sur le cas du gatinois Sébastien Vachon‑Desjardins, condamné à 20 ans de prison en 2022 pour ses nombreux cybercrimes par rançongiciels
Comment le Canada pourrait freiner les campagnes d’influence et d’ingérence étrangères
MONDE
Les autorités US et internationales détruisent Snake, un maliciel de cyberespionnage utilisé depuis vingt ans par un groupe de pirates lié au FSB
ESET lance son dernier rapport sur l’activité des groupes APT (Advanced Persistent Threat) autour du monde
Désinformation, campagnes d'influence et cyberespionnage : Meta dresse un portrait des dernières tendances cybermalveillantes sur les réseaux sociaux
Un aperçu des dernières campagnes d’influence démantelées par le Threat Analysis Group de Google
Les autorités américaines saisissent 10 domaines de cybercriminels vendant des attaques par déni de service distribué (DDoS)
Comment le groupe hétéroclite Big Pipe a mené dix ans de chasse contre les fournisseurs d’attaques par déni de service distribué
Un courtier de données (data broker) connu pour avoir vendu des données de localisation de patientes de cliniques d'avortement a signé un contrat avec l'armée américaine
Le groupe d’hacktivistes Killnet se rebaptise ‘Black Skills’ et dit vouloir changer de vocation
RUSSIE-UKRAINE
Narratifs fallacieux : comment le Kremlin et les médias russes ont justifié la guerre contre l'Ukraine avant l’invasion
Cinq leçons à tirer de la cyberattaque russe contre les satellites américains Viasat, quelques heures avant l’invasion de l’Ukraine
PODCAST
Cyber Citoyen, Épisode 05 - 100 morceaux de vêtements en une minute!
Click Here - Morality in Iraq: You should worry because there’s an app for that