Dans
son nouveau rapport, Mandiant a examiné les tendances déjà observées afin de
fournir des prévisions réalistes de ce qu’elle anticipe dans le vaste monde de
la cybersécurité. Le rapport Cybersecurity Forecast 2025 regorge d'informations
prospectives fournies par les leaders de la sécurité de Google Cloud, notamment
Sunil Potti, VP/GM, Google Cloud Security, Sandra Joyce, VP de Google Threat
Intelligence chez Google Cloud, Charles Carmakal, CTO de Mandiant, Google
Cloud, et Phil Venables, VP, TI Security & CISO, Google Cloud.
La technologie
progresse, les menaces évoluent, le paysage de la cybersécurité change, et les
défenseurs doivent s'adapter à tout cela pour rester dans la course. Le rapport
Google Cloud Cybersecurity Forecast 2025 vise à aider le secteur de la
cybersécurité à encadrer sa lutte contre les cyberadversaires en 2025.
Utilisation par les
attaquants de AI
L'année prochaine,
Mandiant prévoit que les acteurs malveillants continueront d'adopter rapidement
des outils basés sur l'IA pour améliorer et assister leurs opérations en ligne
dans les différentes phases du cycle de vie des attaques. Mandiant anticipe une
utilisation accrue de l'IA et des grands modèles de langage (LLM) pour
développer et mettre à l'échelle des attaques de phishing, de vishing, de SMS
et d'autres attaques d'ingénierie sociale plus convaincantes. Mandiant s'attend
à ce que les acteurs du cyberespionnage et de la cybercriminalité continuent
d'exploiter les deepfakes à des fins d'usurpation d'identité, de fraude et de
contournement des exigences de sécurité liées à la connaissance du client
(KYC). L'entreprise anticipe également davantage de preuves de
l'expérimentation des LLM et des applications de deepfake par des acteurs
malveillants pour d'autres cas d'utilisation, y compris la recherche de
vulnérabilités, le développement de code et la reconnaissance.
En outre, Mandiant
prévoit une augmentation de la demande sur les forums clandestins pour des LLM
sans garde-fous de sécurité, permettant ainsi aux acteurs de la menace de faire
des recherches sur des sujets illicites sans aucune restriction. À mesure que
les capacités de l'IA se généraliseront en 2025, les entreprises auront de plus
en plus de mal à se défendre contre ces compromissions, qui seront plus
fréquentes et plus efficaces.
IA pour les opérations
d'information (IO)
Les acteurs des
opérations d'information tireront de plus en plus parti des outils d'IA
générique pour soutenir leurs efforts. Le déploiement des capacités d'IA s'est
étendu au-delà de l'utilisation initiale de profils créés par des réseaux
adverses génératifs (GAN) pour soutenir des personas inauthentiques et a évolué
pour inclure l'utilisation de grands modèles de langage (LLM) pour soutenir la
création de contenu, ainsi que la production d'articles apparemment
authentiques publiés sur des sites web inauthentiques. Cette technologie est un
multiplicateur de force significatif, augmentant l'échelle à laquelle les
acteurs peuvent produire du contenu et créer des couches supplémentaires
d'obscurcissement. Mandiant s'attend à ce que cette tendance se poursuive : les
acteurs utiliseront probablement des outils d'IA générique de plus en plus
disponibles à diverses fins, y compris la création de contenu à grande échelle,
la production de contenu plus persuasif et le support de personas
inauthentiques.
Prochaine phase de l'IA
et de la sécurité
En 2025, Mandiant
anticipe une deuxième phase de l'IA appliquée à la sécurité. L'année dernière,
les praticiens ont utilisé l'IA pour démocratiser la sécurité, c'est-à-dire
qu'ils ont commencé à employer des outils pilotés par l'IA pour automatiser la
synthèse de rapports complexes, interroger facilement de vastes ensembles de
données et obtenir des informations en temps réel.
L'IA permet aux
défenseurs de bénéficier d'une assistance en temps réel pour une multitude de
tâches, augmentant ainsi leurs capacités et rationalisant les flux de travail.
L'intégration de l'IA dans les processus permet de réduire la charge de travail
des défenseurs qui effectuent des tâches répétitives et d'améliorer
l'efficacité des enquêtes. Les décideurs en matière de sécurité voient l'IA
comme un outil essentiel dans la lutte contre les menaces.
Alors que le secteur se rapproche d'opérations de sécurité entièrement autonomes, l'année 2025 marquera le début d'une étape intermédiaire : les opérations de sécurité semi-autonomes. Cette étape nécessitera des capacités suffisantes pour que certains flux de travail de sécurité soient effectués de manière intelligente par le système lui-même, bien qu'un être humain soit toujours nécessaire pour accomplir davantage avec le soutien de l'IA. Cela inclut notamment la capacité d'analyser les alertes - même les fausses positives - afin de créer une liste des alertes les plus prioritaires, permettant ainsi aux équipes de sécurité de mieux trier les risques les plus importants et d'y remédier.