Les banques et autres institutions financières utilisant l’intelligence artificielle peuvent être particulièrement sensibles aux cyberattaques russes de représailles alors que les sanctions internationales fiscales s’aggravent, avertissent les experts.
Ces craintes, soulignées dans un récent Wall Street Journal rapportvient comme la Russie guerre sur l’Ukraine avance péniblement dans son deuxième mois et comme un barrage de sanctions internationales continuent de saper l’économie russe. Les institutions financières mondiales ont joué un rôle essentiel dans le régime de sanctions depuis le début, blocage l’argent coule de certaines banques russes, nier leur accès aux marchés internationaux, et même gelé les biens du président Vladimir Poutine et d’éminents oligarques russes.
Cependant, les experts craignent que la dépendance rapide de ces mêmes institutions aux modèles d’apprentissage automatique pour automatiser de plus en plus de leurs systèmes au nom de l’efficacité ne revienne les mordre dans le cul. Andrew Burt, ancien conseiller politique du chef de la division cyber du FBI, a décrit les vulnérabilités de l’IA comme « importantes et très largement ignorées » dans de nombreuses institutions financières qui en sont venues à s’appuyer sur elles. « C’est un énorme risque inexpliqué », a déclaré Burt.
Alors pourquoi exactement les algorithmes d’apprentissage automatique sont-ils plus sensibles aux attaques ? Eh bien, en général, la plupart des problèmes proviennent du besoin de l’apprentissage automatique d’utiliser de grandes quantités de données pour améliorer les calculs. Cette réalité les rend particulièrement susceptibles de manipulation de données attaques. Par le passé, les chercheurs ont montré il est possible qu’un attaquant délibérément « poison” les données d’entraînement d’un algorithme pour corrompre ou influencer les résultats qu’il peut cracher.
Alors que les problèmes de racial, le sexe, et d’autres biais dans les algorithmes d’IA résultant de données limitées sont devenus bien connus, certains chercheurs craignent que de mauvais acteurs ciblant les institutions financières ne déploient de grandes quantités de données biaisées pour attaquer les algorithmes du système financier cherchant à déjouer les sentiments du marché. Pensez aux mèmes de désinformation russes mais appliqués au secteur financier.
Pire encore, selon un rapport 2020 du Georgetown Center for Security and Emerging Technology, les vulnérabilités de l’apprentissage automatique ne peuvent pas être corrigées de la même manière que les autres logiciels, ce qui signifie que toute attaque potentielle pourrait durer beaucoup plus longtemps.
« Des vulnérabilités qui dorment dans ces systèmes sont différentes des failles traditionnelles avec lesquelles nous avons des décennies d’expérience », indique le rapport. « Ces vulnérabilités sont omniprésentes et peu coûteuses à exploiter à l’aide d’outils qui ont largement proliféré et contre lesquels il y a souvent peu de défense. »
Ces algorithmes peuvent également être dupés en temps réel sans grands ensembles de données. Des chercheurs de Tencent’s Keen Security Lab, par exemple, démontré plusieurs techniques relativement simples utilisées pour tromper les capacités d’apprentissage automatique de Tesla en 2019, en incitant d’abord les essuie-glaces à s’engager alors qu’ils n’étaient pas censés le faire, puis en utilisant un autocollant brillant sur une route pour convaincre une Tesla engagée dans le pilote automatique de dériver dans un adversaire voie.
« Je n’ai pas vu de réelles capacités en termes de capacité à se défendre contre le flot de désinformation », a déclaré au Journal le fondateur de l’Institut d’éthique de l’IA de Montréal, Abhishek Gupta. Gupta a poursuivi en décrivant la sécurité de l’apprentissage automatique comme un domaine « nouveau » rempli d’inconnues. « Lorsque vous introduisez l’apprentissage automatique dans n’importe quel type d’infrastructure logicielle, cela ouvre de nouvelles surfaces d’attaque, de nouvelles modalités de corruption du comportement d’un système. »
Bien que ces faiblesses en matière de sécurité soient préoccupantes même dans le meilleur des cas, les chefs de gouvernement, dont le président Biden, craignent que la Russie n’utilise des cyberattaques pour s’en prendre à ces institutions alors que les sanctions continuent de faire des ravages. Dans un communiqué publié plus tôt cette semaine, Biden informé entreprises privées aux États-Unis pour renforcer leurs pratiques de sécurité, citant « l’évolution des renseignements selon lesquels le gouvernement russe explore des options pour des cyberattaques potentielles ». Entre-temps, les banques mondiales auraient augmenté la surveillance du réseau et augmenté le forage pour des scénarios de cyberattaques potentiels dans les semaines qui ont suivi le début de l’invasion de l’armée russe Reuters Remarques.