Bitget: haz trading inteligente. Lionel Messi, Official Partner. Regístrate

Le groupe de renseignement sur les menaces de Google affirme que les attaquants utilisent déjà des systèmes de modèles de langage qui analysent les mises à jour logicielles, déduisent quelle faille a été corrigée et construisent un exploit sans intervention humaine. Google répond avec Google AI Threat Defense, qui combine Gemini et d’autres modèles, Wiz, le correctif automatique de CodeMender et Mandiant. John Hultquist, son analyste en chef, résume que les attaquants s’en prennent à des failles connues et non corrigées, « mais avec beaucoup plus de rapidité et à une bien plus grande échelle ».

Le groupe de renseignement sur les menaces de l’entreprise a détecté des systèmes capables de rechercher des vulnérabilités, de préparer des exploits et d’exécuter plusieurs phases d’une intrusion. L’automatisation accélère les opérations, même si elle peut encore laisser des traces qui aident à les détecter.

Les cybercriminels passent d’une aide ponctuelle demandée aux modèles d’intelligence artificielle à l’intégration d’agents capables d’enchaîner des tâches au sein d’une opération. C’est l’une des principales conclusions du dernier rapport du Google Threat Intelligence Group, publié le 16 novembre. L’équipe, avec Mandiant, décrit des cas dans lesquels des outils basés sur de grands modèles de langage ont été employés pour examiner des systèmes, rechercher des vulnérabilités et progresser dans des intrusions avec moins d’intervention humaine. (Rapport de Google Threat Intelligence)

Le changement ne tient pas au fait que l’IA aurait inventé une nouvelle façon de pénétrer dans les réseaux. Selon le rapport, les attaquants continuent d’exploiter des identifiants volés et des systèmes non mis à jour, deux vecteurs connus depuis des années. La différence réside dans la vitesse et l’échelle. Les agents peuvent automatiser des tâches qui nécessitaient auparavant un travail manuel et réagir à ce qu’ils découvrent au cours de l’opération.

Google affirme avoir observé plusieurs frameworks multi-agents utilisés lors d’intrusions réelles. Parmi eux figurent des outils open source comme CAIRN et PentAGI, ainsi que des tests avec d’autres plateformes. Ces systèmes peuvent combiner des utilitaires de sécurité, générer du code pour une tâche précise et ajuster leurs actions en fonction des résultats obtenus.

L’un des exemples décrits dans le rapport est un système appelé exploit_agent. Il était configuré pour comparer les versions de programmes avant et après la publication d’un correctif, localiser d’éventuelles failles, puis préparer et exécuter des exploits. Google indique que le processus pouvait fonctionner sans qu’une personne intervienne à chaque étape. L’activité observée visait des sites français des secteurs des médias, du divertissement et de l’éducation.

L’automatisation réduit aussi le délai entre la publication d’un correctif et l’apparition de tentatives d’exploitation. Les attaquants peuvent comparer le code corrigé avec la version précédente pour en déduire quelle vulnérabilité a été réparée et développer une attaque contre les systèmes qui n’ont pas encore été mis à jour. Parallèlement, la facilité à produire des preuves de concept avec l’IA génère davantage de code qui semble valide mais ne fonctionne pas, ce qui alourdit le travail de vérification des équipes de sécurité.

Le rapport fait également état d’un marché autour de ce qu’on appelle le LLMJacking. Dans ces cas, les attaquants volent des identifiants ou des ressources de calcul dans le cloud pour utiliser des modèles d’IA ou revendre l’accès à des tiers. Google et Mandiant décrivent des incidents dans lesquels l’utilisation frauduleuse de ces ressources a fait exploser la facturation en quelques heures. Dans les cas les plus graves cités, les frais d’une seule journée ont dépassé 100 000 dollars et l’abus cumulé a atteint un million avant de pouvoir être stoppé.

L’IA apparaît aussi dans les opérations d’influence. Google soutient que des groupes liés à des États, des prestataires commerciaux et des réseaux cherchant à générer des revenus avec du contenu politique l’intègrent déjà pour produire des textes et des médias synthétiques, créer des profils fictifs et diffuser des publications à grande échelle. Le rapport prévient toutefois qu’un contenu plus convaincant n’implique pas nécessairement que la campagne atteigne ses objectifs.

La capacité d’opérer rapidement a un coût pour les attaquants. Selon Google, certains outils autonomes laissent une activité technique facile à tracer, génèrent un trafic voyant ou utilisent des identifiants reconnaissables. Ce manque de discrétion peut aider les défenseurs à détecter et contenir une intrusion. L’entreprise prévoit que cette faiblesse s’atténuera à mesure que les modèles et les systèmes qui les utilisent s’amélioreront.

Pour les organisations, le message pratique est connu, même si la marge de réaction se réduit. Maintenir les systèmes à jour, protéger les identifiants et surveiller l’utilisation des services cloud reste essentiel. La nouveauté est qu’une vulnérabilité exposée ou un compte compromis peut être exploité plus rapidement et au moyen de processus de plus en plus automatisés.

Recevez le meilleur de la semaine par email

Chaque lundi : les articles les plus lus de Territorio Blockchain, le nouvel épisode du podcast et l’actualité de nos événements. Gratuit et sans spam.