
Google威胁情报小组表示,攻击者已在使用基于语言模型的系统来分析软件更新、推断修复了哪个漏洞,并在无人干预的情况下构建漏洞利用程序。Google以Google AI Threat Defense作为回应,该方案整合了Gemini及其他模型、Wiz、CodeMender的自动修补功能以及Mandiant。其首席分析师John Hultquist总结称,攻击者瞄准的是已知且尚未修复的漏洞,“但速度和规模要大得多”。
该公司的威胁情报小组发现了能够搜寻漏洞、准备漏洞利用程序并执行入侵多个阶段的系统。自动化加快了攻击行动,但仍可能留下有助于发现这些行动的痕迹。
网络犯罪分子正从偶尔向人工智能模型寻求帮助,转向在攻击行动中集成能够串联多项任务的智能体。这是Google Threat Intelligence Group于11月16日发布的最新报告的主要结论之一。该团队与Mandiant共同描述了多起案例:基于大语言模型的工具被用于侦察系统、搜寻漏洞,并在更少人工干预的情况下推进入侵。(Google Threat Intelligence报告)
这一变化并不在于AI发明了入侵网络的新方式。报告指出,攻击者仍在利用被盗凭证和未更新的系统,这两种途径多年来早已为人所知。区别在于速度和规模。智能体可以将以往需要手动完成的任务自动化,并对行动过程中发现的情况作出响应。
Google称已观察到多个多智能体框架被用于真实入侵,其中包括CAIRN和PentAGI等开源工具,以及对其他平台的测试。这些系统可以组合使用安全工具、为特定任务生成代码,并根据所获结果调整行动。
报告中描述的一个例子是名为exploit_agent的系统。它被配置为比较补丁发布前后的程序版本、定位潜在漏洞,并准备和执行漏洞利用程序。Google表示,该流程可以在无人逐步干预的情况下运行。所观察到的活动针对的是法国的媒体、娱乐和教育网站。
自动化还缩短了从补丁发布到出现漏洞利用尝试之间的时间。攻击者可以将修复后的代码与旧版本进行比较,推断出被修复的漏洞,并针对尚未更新的系统开发攻击手段。与此同时,借助AI轻松生成概念验证代码,导致出现更多看似有效但实际无法运行的代码,从而增加了安全团队的核查工作量。
报告还记录了围绕所谓LLMJacking形成的市场。在此类案例中,攻击者窃取凭证或云计算资源来使用AI模型,或将访问权限转售给第三方。Google和Mandiant描述了一些事件,其中对这些资源的欺诈性使用在数小时内令账单激增。在所举最严重的案例中,单日费用超过10万美元,累计滥用金额在被遏制前达到100万美元。
AI也出现在影响力行动中。Google认为,与国家有关联的团体、商业供应商以及借政治内容牟利的网络已开始利用AI制作文本和合成媒体、创建虚假账户并大规模散布帖子。不过报告也提醒,内容更具说服力并不一定意味着活动能够达到其目的。
快速行动的能力对攻击者而言也有代价。据Google称,一些自主工具会留下易于追踪的技术活动、产生引人注目的流量或使用可识别的标识符。这种缺乏隐蔽性的情况可能有助于防御者发现并遏制入侵。该公司预计,随着模型及使用模型的系统不断改进,这一弱点将逐渐减少。
对于各类组织而言,实际建议并不新鲜,但反应窗口正在收窄。保持系统更新、保护凭证以及监控云服务的使用仍然至关重要。新的变化在于,暴露的漏洞或被入侵的账户可能会以更快的速度、通过日益自动化的流程被利用。
每周精选,直达您的邮箱
每周一:Territorio Blockchain 阅读量最高的新闻、最新一期播客以及我们活动的最新消息。免费,无垃圾邮件。
我们会发送一封确认邮件。您可以随时通过每期简报中的链接退订。 隐私政策














































