当前位置: 首页 » 资讯 » 新科技 » 正文

一道语音指令让从未接入互联网的机器人破防,于是它开始了攻击……

IP属地 中国·北京 第一财经资讯 时间:2025-12-08 12:22:13

一台从未接入互联网的机器人,仅凭一句语音指令,就能被远程控制,并转而攻击其他同类设备,这是2025年GEEKCON安全极客大赛上的真实一幕。

而在真实的物理攻击中,派拓网络大中华区总裁陈文俊说,“我们注意到2021年一次成功攻击平均需9天,2023年缩短至2天,今年最快只要25分钟。”一句话道出了防御体系的全面失速。面对AI驱动的主动式攻击,被动、碎片化的传统架构已无力招架。

技术狂奔,安全掉队,风险正在物理世界真实发生。在年底多个科技行业会议上,数据安全、网络安全都是重要的议题。对于安全厂商而言,留给他们教育用户“安全不只是合规”的时间不多了。

安全机制亟需前置

“我们发现了机器人内置的大模型Agent中的一个逻辑缺陷,这个漏洞可以让攻击者构造特定的语音输入来获取目标机器人上的任意代码执行权限。”2025年GEEKCON(新极棒)安全极客大赛上,有参赛选手针对某款人形机器人进行了深度突破,挑战仅凭一句自然语言对话,触发未知漏洞执行,远程攻破目标机器人并取得了控制权。

被控制的接入无线网络的机器人,再将攻击指令以近场通讯的形式传递给其他同型号未接入网络的机器人,并通过操纵未联网机器人完成攻击者的指令,实现了“隔山打牛”。这揭示了未来机器人集群可能面临的系统性风险。

现场评委、GEEKCON组委谭晓生在点评时表示,“安全的具身智能是具身智能在生产、生活中普及的先决条件,这是具身智能产业所面临的挑战。”

他告诉第一财经记者,攻防的对抗是永无止境的,最重要的是新技术创业公司需要有安全意识,要从软硬件设计就开始考虑安全机制。以具身智能为例,传感器、通信协议、大模型提示词防止恶意注入都需要特别关注。

尽管人们认同安全必须内生于设计,而非事后补丁,然而现实令人忧心。浙江大学求是特聘教授杜跃进看到的现状是:企业在向别人论证自己的公司“数据安全够好”时,多数在进行概念堆砌,少数会提到标准或法律,极个别会提到认证。“我们需要一个很好的合作心态,定制相应的演练。在网络安全行业,经验非常重要。”

显然,当技术已能操控未联网的物理实体,安全若还停留在“交材料、过检查”的层面,无异于在数字战场上“裸奔”。

工具越多,防线越弱?

过去,企业安全建设一度走了一条“头痛医头”的路:发现漏洞就买一个工具,遇到新威胁再加一个平台,形成了碎片化防御。在如今AI驱动的攻击面前,这一套形同虚设。黑客不再需要暴力破解,而是用生成式AI模拟合法行为,精准绕过规则引擎,甚至能自动学习防御策略,动态生成变种请求持续渗透。

“很多安全订单是为了合规。”一位第三方测评安全机构人士提到,国内安全行业的现状是企业愿意为防火墙、服务器等硬件付费,却不愿为持续运营、应急响应买单。结果是,安全建设“重采购、轻运维”,一旦出事,损失远超投入。

更讽刺的是,防御体系越复杂,管理盲区反而越多。安全团队疲于应付告警洪流,真正的高危事件反而被淹没。

破局的关键,是用AI重构防御。

深信服上海区数据安全产品总监王喆提供了一组对比:人工打标每天仅能处理500个数据字段;而基于大模型的系统,仅用两张4090D显卡,日处理量跃升至2万。在风险监测中,AI将原始4000条告警降噪90%,压缩至400条可行动的高价值事件。对运维团队而言,这是从“不可能”到“真正可控”的本质跨越。

这一转变也催生了新一代安全架构。派拓网络的Cortex AgentiX,试图以“代理型AI”打通应用安全、云安全与运行时保护模块,实现自主判断与联动响应。其大中华区售前总经理董春涛解释:“‘X’不仅代表扩展性,更代表在未知威胁下的自适应能力。”Fortinet则提出更激进的愿景:打造“自学习、自修复、自进化”的安全神经中枢。中国区总经理李宏凯强调,要将零信任架构、融合安全理念与可解释AI三位一体,才能“把AI的确定性价值留给业务,把不确定性风险关进笼子”。

但挑战同样尖锐:攻击者正用同样的AI技术重构APT与供应链攻击。若防御方仅将AI视为“更快的检测器”,而非“意图理解引擎”,仍会陷入被动。

安全按效果“定价”

即便AI大幅提升了防御效率,风险也不可能归零。合规是安全防范的第一步,更关键的问题是,谁来为损失买单?

蚂蚁集团副总裁、蚂蚁密算董事长、GEEKCON组委韦韬认为,安全不应该只是为了合规,而是要以效果来评判。他提出应该大力推广网络安全保险,根据安全防护的效果进行理赔。这一方面可以看到各家安全厂商的真正实力,另一方面,也可有效缓解企业用户的焦虑。

记者从业内人士处了解到,目前更普遍的做法还是把损失赔偿作为供应商的约定放在合同文件中。网络安全保险还属于“尝鲜”状态。

2023年7月,工业和信息化部与国家金融监督管理总局联合印发了《关于促进网络安全保险规范健康发展的意见》,明确提出要加快推动网络安全产业和金融服务融合创新,将网络安全保险作为提升企业风险应对能力的关键举措,并于同年12月发布通知启动网络安全保险服务第一批试点工作。

今年6月,首批次试点工作圆满完成。试点期间,网络安全保险面向企业累计落地保单数量超1500个、总保费规模超1.5亿元、总保额近115亿元。11月,第二批次网络安全保险服务试点工作已经启动。

当一份保单的保费高低取决于企业实际防护能力,当理赔与否由攻防结果决定,市场会用精算模型投票。更重要的是,保险不是兜底,而是倒逼。它迫使企业在部署AI防御平台的同时,必须建立可验证、可审计、可持续的运营机制。这才是对“以新安全格局保障新发展格局”最扎实的践行:安全不再靠材料过关,而是靠能力说话;发展不再以风险为代价,而是以韧性为基石。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。