搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

OpenAI承认Atlas浏览器提示词注入攻击难以根治

2025-12-26 09:57:52
来源:

猫眼电影

作者:

李碧华

手机查看

  猫眼电影记者 刘林宇 报道首次登录送91元红包

IT之家 12 月 23 日消息,尽管 OpenAI 正致力于强化其 Atlas 人工智能浏览器的网络攻击防御能力,但该公司承认,提示词注入攻击 —— 一种通过操纵人工智能智能体、使其执行隐藏在网页或电子邮件中的恶意指令的攻击手段 —— 带来的风险短期内无法消除。这也引发了人们对人工智能智能体在开放网络环境下能否安全运行的质疑。

OpenAI 在当地时间周一发布的一篇博客文章中详细阐述了该公司为增强 Atlas 的防御能力、抵御持续攻击所采取的措施,并写道:“提示词注入攻击就像网络上的诈骗和社会工程学攻击一样,几乎不可能被完全‘攻克’。”该公司坦承,ChatGPT Atlas 的“智能体模式”“扩大了安全威胁面”。

据IT之家了解,OpenAI 于今年 10 月推出了 ChatGPT Atlas 浏览器,随后安全研究人员迅速发布了相关演示,证明只需在谷歌文档中输入寥寥数语,就能改变底层浏览器的行为。就在同一天,浏览器厂商 Brave 也发布博客指出,间接提示词注入攻击是所有人工智能驱动型浏览器面临的系统性挑战,Perplexity 公司的 Comet 浏览器也未能幸免。

意识到提示词注入攻击威胁将长期存在的并非只有 OpenAI 一家。英国国家网络安全中心本月早些时候发出警告,称针对生成式人工智能应用的提示词注入攻击“或许永远无法被完全缓解”,这使得各类网站都面临数据泄露的风险。这家英国政府机构建议网络安全从业者,应着力降低提示词注入攻击的风险及影响,而非寄希望于将这类攻击“彻底阻止”。

就 OpenAI 而言,该公司表示:“我们将提示词注入视为一项长期的人工智能安全挑战,未来需要持续强化防御措施。”

那么,面对这项永无止境的任务,OpenAI 给出了怎样的解决方案?答案是建立一套主动式快速响应机制。该公司称,这套机制已初显成效,能够在新型攻击手段被用于“实战攻击”前,提前在内部发现这些攻击策略。

这一思路其实与 Anthropic、谷歌等竞争对手的主张并无本质区别:要应对提示词注入攻击的持续威胁,必须构建多层防御体系,并持续开展压力测试。例如,谷歌近期的研究重点就聚焦于智能体系统的架构层面与策略层面管控。

不过,OpenAI 采取了一种与众不同的策略 —— 开发“基于大语言模型的自动化攻击程序”。本质上,这是一款由 OpenAI 借助强化学习技术训练而成的机器人,其作用是模拟黑客行为,寻找向人工智能智能体植入恶意指令的途径。

这款机器人可以先在模拟环境中测试攻击手段,再投入实际应用。模拟环境能够还原目标人工智能在遭遇攻击时的思维过程与可能采取的行动。随后,机器人可分析目标的反应,调整攻击方式,并反复进行测试。这种能够洞悉目标人工智能内部推理逻辑的优势,是外部攻击者所不具备的。因此从理论上讲,OpenAI 的这款机器人发现系统漏洞的速度,要快于现实中的黑客。

这是人工智能安全测试领域的一种常用方法:打造一个智能体,让它找出系统的极端漏洞场景,并在模拟环境中开展快速测试。

OpenAI 在博客中写道:“我们通过强化学习训练的攻击程序,能够诱导目标智能体执行复杂且需要多步骤推进的有害任务流程,这些流程的操作步骤可达数十步甚至数百步。此外,我们还发现了一些全新的攻击策略,这些策略既未出现在我们的人工红队测试中,也没有相关外部报告提及。”

在一份演示案例中(上图为部分截图),OpenAI 展示了其自动化攻击程序如何将一封恶意电子邮件植入用户收件箱。当人工智能智能体后续扫描收件箱时,它执行了邮件中隐藏的恶意指令,发送了一封辞职信,而非按要求撰写休假自动回复邮件。不过 OpenAI 称,在完成安全更新后,“智能体模式”已能成功检测到提示词注入攻击的企图,并向用户发出告警。

该公司表示,尽管要实现对提示词注入攻击的万无一失防御难度极大,但仍在依靠大规模测试与更快速的补丁更新周期,力争在相关攻击手段出现在现实世界之前,完成系统防御加固。

针对 Atlas 的安全更新是否已显著降低攻击成功率这一问题,OpenAI 发言人拒绝透露具体数据,但表示该公司早在 Atlas 浏览器发布前,就已与第三方机构合作,共同强化其针对提示词注入攻击的防御能力。

网络安全公司 Wiz 的首席安全研究员拉米・麦卡锡指出,强化学习技术确实能实现对攻击者行为的持续自适应防御,但这只是解决方案的一部分。

麦卡锡在接受科技媒体 TechCrunch 采访时表示:“衡量人工智能系统风险的一个有效方法,是计算其自主性与访问权限的乘积。”

他进一步解释道:“智能体浏览器恰恰处于这一风险模型中的高挑战区域:它们拥有中等程度的自主性,同时又具备极高的系统访问权限。当前许多安全建议,其实都反映了这种利弊权衡。比如限制登录状态下的访问权限,主要是为了减少暴露面;而要求对各类确认请求进行人工审核,则是为了约束智能体的自主操作权限。”

这两点也被列入 OpenAI 向用户提供的风险降低建议中。该公司发言人还表示,Atlas 浏览器经过训练,在发送邮件或执行支付操作前,都会向用户发起确认请求。OpenAI 同时建议用户,应向智能体下达具体明确的指令,而非直接授予其收件箱访问权限,简单告知其“自行采取必要措施”。

OpenAI 指出:“即便已部署安全防护措施,过高的自主操作权限也会让隐藏的恶意内容更容易对智能体产生影响。”

尽管 OpenAI 声称,保护 Atlas 用户免受提示词注入攻击是公司的首要任务,但麦卡锡仍对这类高风险浏览器的投入产出比持怀疑态度。

他在接受 TechCrunch 采访时表示:“对于大多数日常使用场景而言,智能体浏览器目前带来的价值,尚不足以匹配其当前的风险水平。由于它们能够访问电子邮件、支付信息等敏感数据,因此风险系数极高 —— 但与此同时,也正是这种高访问权限赋予了它们强大的功能。这种利弊平衡状态未来或将逐步改善,但就目前而言,其中的取舍权衡依然十分显著。”

 时事1:银河国际版

  12月26日,“十五五”高质量发展怎么干?深圳将从这5个方面发力,欧盟中国商会在接受贝壳财经记者采访时强调,尽管中企不认可欧方调查的初衷,但依然全面配合欧方调查过程,尽最大努力填报问卷、配合欧方对中企在中国、欧洲多地工厂和经营场所的核查等。同时,多家企业及利益攸关方反映,欧方在调查中滥用调查权,采取不当调查行为,包括部分调查方向和领域超出反补贴调查范畴,对企业提出不合理和超出企业举证范围的要求,未给企业和各利益攸关方提供充足时间应答和举证。,a7娱乐注册官网。

  12月26日,《中国餐饮产业发展报告(2025)》发布,兰州机场T1+T2面积8.9万平方米,去年吞吐量超过1700万人次,可以说不堪重负。乌鲁木齐机场T1+T2+T3面积18.48万平方米,需要承载超过2700万人次的吞吐量。,体育娱乐十大网址,蓝球比分官方网,欧博会员注册登录。

 时事2:天博网址多少

  12月26日,民主党派唱响海南自贸港建设“协奏曲”,目前,全球已建成最长的海底隧道是连接英国和法国的英吉利海峡隧道。英吉利海峡隧道由三条长51公里的平行隧洞组成,总长度153公里,其中海底段的隧洞长度为3×38公里。经过长期勘察和谈判,1986年英法两国签署了《坎特布利条约》,1987年正式破土动工,历时八年建成通车。英吉利海峡隧道大大方便了英法两国之间的交通联系,每年通过隧道的旅客人数达到了1800万人,货运达到了800万吨。,尊龙注册App,万博manbetx手机版网页注册,银河网址。

  12月26日,第十八届闽台陈靖姑民俗文化交流活动福州启动,北京、上海、广州是3大全方位门户复合型功能的国际航空枢纽,成都、深圳、重庆、昆明、西安、乌鲁木齐、哈尔滨是7大区位门户复合型功能的国际航空枢纽。,掌上365皇冠app可靠吗,美高梅官网平台,亚娱娱乐官网。

 时事3:手机银河平台娱乐

  12月26日,湖北武汉:芦荻花开引人入胜,在外盘带动下,上期所黄金期货主力合约全天震荡上行,尾盘强势拉升,一举突破1000元/克大关,收盘报1000.86元/克,单日涨幅达2.10%。,伟德快速登陆,m8平台网址,AG亚洲国际登录。

  12月26日,20分钟“空中直达” 江苏太仓—浦东首条常态化低空航线开通,报道称,林芳正在采访中强调了日本“严峻而复杂”的地区安全环境,声称除了俄乌冲突之外,东京还在应对拥有核武器的朝鲜以及崛起的中国。但林芳正辩称,可能开设的联络处“不针对特定国家”,“这不是为了传递什么信息”。,kb体育平台下载官网,世界杯威廉希尔投注网,凯发k8国际手机。

 时事4:世界杯下载网站安装

  12月26日,中国电子产品受到欧洲消费者喜爱,比赛开始后,辽粤大战延续了前两回合的强度,广东队在主场观众的助威下率先发力,取得13分领先优势。上半场尾声阶段,辽宁队连续追分,将分差追至只有3分。下半场,胡明轩连续突破得手,徐杰也命中三分,广东队打出18比5的攻势,再度拉开分差。第四节初,辽宁队主帅杨鸣不满判罚,吃到技术犯规。随着分差扩大到20分以上,广东队提前锁定胜局。,威尼斯真人有反水吗,皇冠hg2020官网下载,为什么365网站打不开。

  12月26日,现代五项全国冠军陈柏良:热爱是最好的动力,中国政法大学财税法研究中心主任施正文告诉第一财经,根据2016年相关规定,跨境电子商务零售进口商品需要按照货物实际交易价格来征收关税和进口环节增值税、消费税,并对限额内给予零关税、进口环节增值税、消费税打七折的优惠政策。普通消费者通过跨境电子商务平台来缴税比较难管控,所以现行规定关税等代收代缴义务人有三类,分别是电子商务企业、电子商务交易平台企业或物流企业。,新普京威尼斯娱乐线上,AG登录平台,电玩城舞会森林。

责编:路虎豪

审核:项爱民

责编:武吉

相关推荐 换一换