AI, bots and deep fakes: MLI study shows how technology shapes the fight against foreign political interference

Original post from MacDonald- Laurier Institute

Hostile foreign actors are increasingly employing digital foreign interference (DFI) as part of their toolkit to undermine democratic countries like Canada and its allies. This remains a serious, ongoing threat. And, with our federal election less than two months away, Canada needs to guard against possible intrusions in its information environment and election process.

If such a threat looms large today, what does the future hold when it comes to DFI? What impact will technological advances have on the threat posed by DFI?

To help answer these questions, MLI’s latest report by Munk Senior Fellow Alex Wilner and several of his students – James Balasch, Jonathan Kandelshein, Cristian Lorenzoni, and Sydney Reis – explores how advances in Artificial Intelligence and Machine Learning could impact DFI in the future.

Titled The Threat of Digital Foreign Interference: Past, Present and Future, the report explores how DFI uses the Internet, social media platforms, and other types of technology to create and proliferate disinformation and misinformation. Once a malicious actor is virtually connected with foreign individuals and communities, they can create and disseminate tailored and targeted propaganda.

Russia’s Internet Research Agency (IRA), for instance, ran digital campaigns across multiple social media platforms during the 2016 US presidential election. This campaign resulted in 3841 persona accounts on Twitter generating 10.4 million tweets (of which 6 million were original), 81 unique Facebook pages containing 61,483 posts, 1107 videos across 17 YouTube channels, and 33 Instagram accounts containing 116,205 posts.

DFI campaigns also targeted Germany, the UK, France, and Taiwan. The process often starts with sophisticated hackers stealing sensitive personal and/or professional digital data, which are dumped anonymously and made publicly available.

“Twitter and other social media platforms are then used to draw broader attention to the documents and data. Bots do their part to amplify the process even further. The content enters the collective mainstream, shared by regular social media users and reported upon by traditional media,” note Wilner and his co-authors.

Contemporary DFI still has an important human element, in which information is generated and disseminated by people who publish material online via social media, in much the same way as ordinary citizens might communicate their own political views to their friends and family. Yet the future of DFI will be even further AI-enhanced and AI-generated.

“Powerful automated software will troll the Internet, generating its own content and disseminating it against pre-selected and vulnerable populations. AI-supported software may eventually autonomously generate manipulative or suggestive photographs, videos, and text. A DFI campaign may even be executed and managed by an artificially intelligent software program.”

Of particular concern are deepfakes, which are video forgeries that appear to make people say or do things they never did. A good example is the famous FakeApp forgery of President Barack Obama insulting President Trump.

“With enough photo or video images of a person, facial recognition algorithms can recreate a solid replica of the person’s original face. The material can then be superimposed onto other video content. Add audio – also facilitated by AI – and you have a convincing video of a person engaged in a scenario that never took place.”

Responding effectively to DFI will require a multifaceted, multilateral, and flexible approach. Internet companies and social media firms will have to be held accountable for the information they disseminate and post on their sites. Independent tribunals might be established to review and possibly reinstate material that is removed. States may need to promote a common legal understanding of the phenomenon of disinformation and misinformation among and between the private and public sectors.

Canada should continue working with like-minded states to counter DFI when and where it occurs. As the authors conclude: “Providing a common baseline for response and collective action will help individual democracies present a unified front. Working in partnership with others, Canada might cautiously explore whether and how it might use DFI against known and identified aggressors.”

For the future, Canada should encourage the continued private sector development of domestic AI excellence in a manner that finds the right balance with privacy rights. It can also explore ways to better integrate AI expertise into Canada’s defence establishment.

To read about the future of digital foreign interference, check out MLI’s latest report here.

***

Alex S. Wilner is an Assistant Professor of International Affairs at the Norman Paterson School of International Affairs, Carleton University and a Munk Senior Fellow at the Macdonald-Laurier Institute.

James Balasch, Jonathan Kandelshein, Cristian Lorenzoni, and Sydney Rei are MA students at the Norman Paterson School of International Affairs, Carleton University.

Renforcer le contrôle des exportations d’armes du Canada

Résumé

​

Le régime d’exportation d’armes du Canada contredit l’image que le Canada a de lui-même en tant que nation pacifique et progressiste. Maintenant que le Canada est sur le point d’adhérer au Traité sur le commerce des armes (TCA), le gouvernement fédéral devrait envisager d’établir des critères plus précis concernant les risques que du matériel militaire canadien soit utilisé en violation des lois de la guerre ou des droits de la personne. En outre, il devrait proposer un cadre qui permettrait d’évaluer ce qui constitue une violation inacceptable et qui rendrait un acheteur inadmissible aux exportations (actuelles ou futures). Enfin, il devrait envisager d’aligner la position canadienne sur celle de ses partenaires et alliés européens en mettant fin aux exportations vers l’Arabie saoudite. 

Enjeu

• Les gouvernements canadiens successifs se sont montrés réticents à refuser des licences d’exportation sur la seule base de considérations liées aux droits de la personne. Les critères d’évaluation du TCA obligent le gouvernement à refuser un permis s’il existe un risque important (c’est-à-dire un « risque sérieux » en droit canadien ou un « risque prépondérant » aux termes du Traité) que l’exportation entraîne la violation des lois de la guerre ou des droits de la personne.
• Les gouvernements canadiens successifs ont eu tendance à produire des rapports inadéquats sur les exportations de produits militaires du Canada ainsi que sur le courtage d’armes au Canada et par des Canadiens dans d’autres pays. Les ventes de systèmes civils aux utilisateurs finaux militaires ne sont pas déclarées au Canada, tout comme les ventes aux États-Unis, principal acheteur de produits militaires fabriqués au Canada. Le TCA oblige le Canada à modifier ces pratiques et à accroître considérablement la transparence.

Contexte

Le TCA énonce les critères humanitaires selon lesquels les gouvernements membres exportent des armes classiques, qu’elles soient légères ou lourdes. C’est le premier et le seul traité juridiquement contraignant conçu pour réglementer le commerce mondial des armes, lequel représente plusieurs milliards de dollars. Le Canada sera le dernier État membre de l’OTAN et du G7 à adhérer au Traité, qui a été adopté par l’Assemblée générale des Nations Unies en 2013 et est entré en vigueur en 2014. L’adhésion comporte des modifications au droit canadien, plus précisément à la Loi sur les licences d’exportation et d’importation et au Code criminel, et ajoute de nouveaux critères pour évaluer les demandes de permis d’exportation, notamment des critères liés à des actes graves de violence fondée sur le sexe ou à des actes graves de violence contre des femmes et des enfants. Plutôt que d’interdire des accords d’exportation spécifiques d’aujourd’hui ou de demain, le TCA ajoute un palier international de responsabilité au processus décisionnel canadien sur les licences d’exportation, tout en obligeant le gouvernement fédéral et les exportateurs à maintenir un système de contrôle national plus transparent et à défendre publiquement leurs évaluations des risques.

L’industrie canadienne de l’armement compte environ 2 000 entreprises qui génèrent 6 000 emplois pour l’économie canadienne et 12 milliards de dollars de revenus. Environ la moitié de ces revenus proviennent de l’étranger et de la vente de produits et services militaires à des clients dont le bilan en matière de droits de la personne est alarmant. La vente à l’Arabie saoudite de véhicules blindés de fabrication canadienne d’une valeur de 15 milliards de dollars en est un bon exemple.

Selon les médias et les sondages d’opinion publique, ce contrat déplaît à de nombreux Canadiens, sinon à la plupart, pour des raisons à la fois éthiques, juridiques et politiques. Restant l’un des principaux auteurs de violations des normes internationales relatives aux droits de la personne, le royaume mène actuellement une guerre au Yémen, où une coalition militaire dirigée par les Saoudiens cible régulièrement des civils par des bombardements et des blocus. Cela est non seulement illégal en droit international, mais aussi une cause directe de ce qui est, selon toute mesure raisonnable, la pire catastrophe humaine actuelle au monde. De plus, le gouvernement saoudien s’est engagé dans de multiples différends diplomatiques avec le Canada et ses alliés. Les relations entre Ottawa et Riyad se sont effondrées en août 2018 lorsque la ministre des Affaires étrangères, Chrystia Freeland, a légèrement critiqué l’horrible bilan du royaume en matière de droits de la personne. Après l’assassinat choquant du journaliste Jamal Khashoggi au consulat saoudien d’Istanbul plus tard cette année-là, le gouvernement Trudeau a évoqué la possibilité d’un arrêt des futures expéditions d’armes vers Riyad.

Facteurs à considérer

• Le TCA renforce la réglementation canadienne actuelle sur les transferts d’armes et d’équipement militaire. Le gouvernement fédéral est en mesure de renforcer davantage la réglementation canadienne en augmentant la transparence et en enregistrant les ventes de tous les produits de fabrication canadienne utilisés par les armées étrangères.
• Le gouvernement fédéral s’est maintenant engagé à produire des rapports sur les exportations aux États-Unis de produits militaires complets, mais pas nécessairement sur les principaux sous-systèmes et composants construits au Canada qui sont régulièrement intégrés aux principaux systèmes américains et vendus à des utilisateurs finaux tiers.
• En vertu de la nouvelle loi, le gouvernement fédéral est tenu d’évaluer toutes les exportations en fonction des critères d’évaluation du TCA, qui sont très variés, ainsi qu’en fonction d’un critère de risque sérieux.
• La détermination de la nature des violations du droit de la guerre ou des droits de la personne reste politiquement délicate. Toutefois, le gouvernement fédéral est en mesure de limiter légalement le pouvoir discrétionnaire du ministre des Affaires étrangères d’approuver les exportations d’armes et d’introduire des critères plus spécifiques quant à ce qui constitue un risque sérieux dans des situations politiques telles que l’affaire susmentionnée des armes saoudiennes.  
• À en juger par les déclarations du gouvernement et les sondages d’opinion publique, plusieurs alliés et partenaires du Canada ne veulent plus armer l’Arabie saoudite. Le Sénat américain a imputé l’assassinat de Khashoggi au gouvernement saoudien, et au prince héritier Mohammed bin Salman en particulier, tout en demandant au gouvernement américain de retirer son aide militaire à la guerre menée par les Saoudiens au Yémen. Les gouvernements du Danemark, de la Finlande, de la Suède, de l’Autriche et de la Grèce ont effectivement mis un terme aux futures exportations d’armes vers l’Arabie saoudite. Le gouvernement allemand a également mis un terme aux exportations déjà approuvées.
• En 2018, le gouvernement Trudeau a déclaré qu’il envisageait des moyens d’arrêter toutes les expéditions de véhicules de GDLSC vers le royaume, mais n’a fourni aucune mise à jour sur cette mesure depuis, ni fait de déclarations sur les exportations continues à destination de Riyad de fusils et autres équipements militaires fabriqués au Canada.
• Le gouvernement Trudeau et GDLSC ont tous deux déclaré que l’annulation de la vente d’armes saoudiennes entraînerait des pénalités d’un ou plusieurs milliards de dollars que le gouvernement canadien devrait payer.
• Les libéraux aussi bien que les conservateurs souhaitent maintenir le cap relativement au contrat des armes saoudiennes. Le Nouveau Parti démocratique, le Bloc Québécois et le Parti vert du Canada souhaitent l’annuler (le NPD a renversé sa position en 2016).

Recommandations

Le gouvernement fédéral devrait :

• suivre les conseils des organisations de défense des droits de la personne et prendre des mesures supplémentaires pour accroître la transparence et améliorer l’enregistrement des exportations d’armes du Canada; cela s’appliquerait à toutes les exportations vers les États-Unis, y compris les sous-systèmes et les composants;
• chercher à appliquer des critères stricts d’évaluation du TCA, y compris un critère de risque sérieux bien conçu, à l’égard des exportations d’armes du Canada; cela s’appliquerait à toutes les exportations vers les États-Unis, y compris les sous-systèmes et les composants;
• élaborer un cadre pour évaluer ce qui constitue une violation inacceptable rendant un acheteur inadmissible aux exportations, futures ou actuelles;
• envisager d’aligner la position du Canada sur celle de ses partenaires et alliés européens et de mettre fin aux exportations à destination de Riyad.

Publié le mercredi 14 août 2019 dans L'Impact uOttawa. Srdjan Vucetic