# NSA CYBERSECURITY DIRECTOR AVERTS ON IMPACTS OF GENERATIVE AI ON DIGITAL SECURITY
Au RSA, la conférence de sécurité qui se tient à San Francisco cette semaine, on ressent inévitablement une certaine tension. Lors des conversations informelles dans les couloirs du Moscone Convention Center, dans les présentations officielles, sur le stand des fournisseurs et sur le terrain au cours de chaque session, il est question sans cesse de l’intelligence artificielle générative (generative AI) et de son impact potentiel sur la sécurité numérique et le piratage malveillant. Même le directeur de la cyber-sécurité de la NSA, Rob Joyce, abonde dans le même sens.
DÉVELOPPEMENT DE LA TECHNOLOGIE DE L’IA GÉNÉRATIVE
Ces derniers mois, les chatbots alimentés par de grands modèles de langage, tels que ChatGPT d’OpenAI, ont pris des années de développement et de recherche en apprentissage automatique pour les rendre plus concrètes et accessibles à tous les utilisateurs du monde entier. Mais aujourd’hui, il y a des questions pratiques sur la manière dont ces nouveaux outils seront manipulés et détournés par les acteurs malveillants pour développer et propager des logiciels malveillants, de la désinformation, du contenu inauthentique et étendre leurs capacités pour automatiser leurs attaques. En même temps, la communauté de la sécurité est impatiente d’utiliser l’IA générative pour défendre les systèmes et gagner un avantage protecteur. Mais en cette période précoce, il est difficile de savoir exactement ce qui va se passer. Les chatbots peuvent ne pas être en mesure de développer exactement des malwares innovants, mais les attaquants peuvent utiliser les compétences de codage que les plateformes possèdent pour apporter des changements mineurs qui pourraient avoir un effet considérable.
L’IA GÉNÉRATIVE AU SERVICE DU PIRATAGE
La NSA s’attend à ce que l’IA générative contribue à renforcer les escroqueries courantes telles que l’hameçonnage. Les attaques par hameçonnage reposent sur un contenu convaincant pour tromper les victimes, l’IA générative peut ainsi rapidement créer des communications et des supports sur mesure. Cependant, il est possible que les adversaires, nationaux ou criminels, commencent à expérimenter la génération de type ChatGPT pour leur donner davantage d’opportunités en anglais langue maternelle.
ECHELLE DE L’IMPACT DE L’IA GÉNÉRATIVE
Il est également difficile de déterminer l’échelle de l’impact que l’IA générative pourrait avoir sur l’avenir de la cybersécurité. Joyce a souligné la nature imprévisible de la situation actuelle pour l’IA et la sécurité, avertissant la communauté de la sécurité de « s’attacher les ceintures » pour ce qui est probablement quel arrivera très prochainement.
DEFFENSE À TRAVERS L’IA GÉNÉRATIVE
Joyce est cependant optimiste quant à la capacité de l’IA générative d’aider à l’analyse des grandes données et à l’automatisation de certaines fonctions. Il a cité trois domaines où la technologie montre une « réelle promesse » comme accélérateur de la défense : l’examen des journaux numériques, la découverte de modèles d’exploitation de vulnérabilités et l’aide à la priorisation des problèmes de sécurité. Cependant, avant que les défenseurs et plus largement les communautés puissent dépendre de ces outils au quotidien, il est nécessaire d’étudier comment les systèmes d’IA générative peuvent être manipulés et exploités.
CONCLUSION
En conclusion, l’IA générative peut apporter des avancées considérables en matière de défense, mais également des risques à prendre en compte. Les utilisateurs doivent rester vigilants face à l’evolution imprevisible de ces technologies et se familiariser avec leur évolution.
Reférences :
– https://www.wired.com/story/chatgpt-jailbreak-generative-ai-hacking/
– https://www.wired.com/story/chatgpt-ai-bots-spread-malware/
– https://www.wired.com/story/chatgpt-generative-ai-deepfake-2024-us-presidential-election/
