Insights |（一）LLMs的崛起：网络安全的分水岭时刻

大型语言模型（LLMs）和生成式AI应用的采用是网络安全行业的重要时刻。全球已经见证了自主代理和生成工具如何在从软件开发到客户服务的其他企业职能中提高生产力。

在NGP Capital，我们在过去的10年中一直投资于网络安全和企业AI，并相信这些技术的融合将在应对网络威胁时因速度和准确性而创造巨大价值。新兴的初创公司正在通过从头构建AI原生功能来重新构想当前网络工作流程的新兴初创企业，将成长为下一代的行业领导者。尽管如此，它们仍需要抵御竞争，建立专有数据集和工作流程，以保持领先于已经开始推出生成能力的现有公司。

当前的企业网络模式已被打破

如今，用于检测、调查和响应的网络工作流程和工具高度依赖人工，并且通常需要通过像埃森哲或IBM这样的托管安全服务提供商的离岸劳动力来应对大量威胁。各种安全工具、软件即服务（SaaS）和内部部署应用程序以及软件基础设施之间的数据各自为政，这导致了盲点、生产率低下和成本上升。

安全运营已经成为一场持续的猫捉老鼠游戏。运营一个内部安全运营中心（SOC）的平均成本已膨胀到每年超过280万美元（Ponemon 2020）！安全团队捉襟见肘，忙于编写检测规则和快速响应警报，以应对新的攻击载体。根据Vectra的2023年报告，SOC团队每天收到4500个警报，相当于每年超过30亿美元的劳动力成本。即使在这笔巨额支出下，该报告仍发现SOC团队无法处理超过三分之二的这些警报，造成企业安全计划中一个巨大的未解决的漏洞。

此外，全球所需的网络专业人员与现有人员之间的差距在2023年上升了12.6%，创下近400万人的纪录。这种失衡导致安全团队过度工作、资源不足和培训不充分，限制了他们防御威胁行为者的能力。世界经济论坛预测，到2027年，全球网络犯罪的成本将达到超过20万亿美元，几乎是2021年的4倍。

LLMs在网络安全中的潜力

资料来源：Darktrace《2024 年人工智能网络安全状况》，1800 位安全领导者参与调查‍

随着公司数字化并在其基础设施和IT堆栈中建立复杂性，攻击面将增加，并进一步加剧对新自动化方式的需求。安全运营只是生成式AI可能颠覆的多个领域之一。我们已经确定了生成式AI将在网络安全中产生最大影响的五个关键领域。让我们深入探讨其中的一些类别。

安全运营与威胁检测：

LLM 擅长从大型数据集中收集、关联和分析数据，以找出差距，自主生成检测规则，并根据业务风险确定威胁的优先级。

1. 安全知识层：这些平台从现有的安全工具（如SIEM系统、数据安全平台、身份提供商和威胁情报源）中获取日志，以关联和提升具有最高业务风险的警报。它们在架构上还利用并支持人工智能功能，提供向量存储和开箱即用的微调安全模型，因此客户可以无缝集成自己的人工智能资产。
2. 威胁暴露管理：通过分析历史事件数据和威胁情报源，LLMs可以预测未来的攻击并模拟假设场景，使企业能够主动加强其网络防御并最大限度地减少漏洞的影响。

事件响应与调查：

利用 LLMs 实现事件响应自动化可大幅缩短确定入侵原因、构建事件响应 (IR) 流程和响应警报所需的时间。新兴的初创公司将来自不同工具的复杂警报合成为简洁的摘要和响应计划，以简单的英语提供给SOC分析师，从而降低平均响应时间（MTTR）并增加警报处理能力。

安全意识与培训：

LLM 可以分析员工的工作角色、风险水平和安全知识，帮助提供具有相关性和洞察力的个性化培训材料，同时捕捉实时反馈。根据不同员工角色和经验调整培训内容，增强整体安全意识，使企业能够降低高度个性化和更先进的社交工程活动所带来的日益增长的风险。

网络GRC与TPRM：

LLMs可以自动执行风险评估、合规审计和第三方风险问卷等合规任务，释放资源用于更关键的操作。它们还可以帮助在不断增加的数据隐私和安全法规中映射控制措施。

数据安全：

LLM 可以对敏感数据类型（知识产权、财务模型、工程设计）进行分类，准确度达到人类水平。创新者建立了在庞大的公共数据/文档语料库上训练的大型分类模型，以提供更细粒度的敏感信息可见性和控制，而不依赖于手动审查或标题、文档类型或文件大小等表面标记。它们还允许用户以简单的英语编写数据丢失防护（DLP）规则。

注意风险！

虽然LLMs将改变网络保护，但对手利用这项技术也存在严重风险。恶意行为者已经在使用LLMs自动化侦察、增强恶意软件脚本、发现和利用漏洞，并创建高度个性化的社会工程攻击活动。微软和 OpenAI 于 2024 年 2 月发布了一份报告，记录了他们从一些国家威胁行为者（如 Forest Blizzard（俄罗斯）和 Emerald Sleet（朝鲜））那里看到的一些基于 LLM 的战术。私人威胁行为者也通过发布 WormGPT 和 FraudGPT 等可生成恶意软件和利用未知漏洞的微调模型，将 LLM 武器化。

生成式AI有望彻底改变网络安全，解决检测、响应和培训中的关键挑战，同时引入恶意行为者使用类似工具的新风险。网络安全行业会利用LLMs保持领先，还是会在AI推动的更复杂攻击浪潮中屈服？

在下一篇文章中，我们将深入探讨这五个关键领域，重点介绍新兴企业的创新方法，并揭示制胜关键。敬请关注最具颠覆性的人工智能网络初创企业的独家市场地图。

_________________

您已经读完了这篇文章！如果您正在创建一家利用生成模型重新想象传统网络类别的公司，我很乐意通过 LinkedIn 或发送电子邮件至 eric@ngpcap.com 与您联系。如果您有任何与本篇文章相关的反馈意见，欢迎随时与我联系！