人工智能公司 Anthropic 于周二发布了其新一代 “前沿模型” Mythos 的预览版本。该模型被称为 “迄今最强大”,并将通过名为 “Project Glasswing” 的安全项目,首批交给一小部分合作伙伴使用,专注于网络安全任务。
根据公司介绍,Mythos 是 Claude 系统中的一款通用大模型,具有卓越的编程和推理能力。虽然并非专为网络安全而训练,但当前的预览版主要用于扫描第一方和开源软件中的代码漏洞。Anthropic 表示,Mythos 在最近的测试中发现了 “数千个零日漏洞”,其中不少漏洞的危害级别很高,且有些甚至可以追溯到一至二十年前的旧代码。这一发现展示了大模型在挖掘长期未被发现的 “历史漏洞” 方面的巨大潜力。
然而,随着这一技术的进步,行业内也出现了对于其安全性的担忧,特别是如果这些工具被恶意利用,可能会带来何种威胁。为了控制潜在风险,Anthropic 明确表示,这款预览版不对公众开放,仅限与公司签约的合作伙伴在特定的安全任务中使用。
目前,参与 Mythos 试用的组织包括 Amazon、Apple、Broadcom、Cisco、CrowdStrike、Linux Foundation、Microsoft 和 Palo Alto Networks 等数十家机构。这些机构将共同利用该模型进行 “防御性安全工作”,并在项目结束后分享经验,以帮助整个技术行业提高安全水平。
此外,Anthropic 还与美国联邦官员展开了 “持续讨论”,探讨 Mythos 在国家级关键系统中的潜在应用。这一讨论恰与 Anthropic 目前与美国国防部的法律纠纷并行,后者因该公司拒绝允许其技术用于对美国公民的自主打击或监控,而将其列为 “供应链风险实体”。
值得注意的是,Mythos 的曝光源于一个数据安全事件。上个月,Anthropic 的一份尚未正式发布的博客草稿被错误存放在一个公开可访问的数据湖中,导致安全研究人员迅速发现并扩散。该草稿中提到,Mythos 是一款比前一代 Opus 系列更大、更智能的模型,并警告如果该模型被恶意利用,可能会以超过防御者修补速度的能力发现并利用漏洞。
划重点:





京公网安备 11011402013531号