搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

OpenAI承认Atlas浏览器提示词注入攻击难以根治

2025-12-24 14:17:49
来源:

猫眼电影

作者:

杨斌

手机查看

  猫眼电影记者 郝军 报道首次登录送91元红包

IT之家 12 月 23 日消息,尽管 OpenAI 正致力于强化其 Atlas 人工智能浏览器的网络攻击防御能力,但该公司承认,提示词注入攻击 —— 一种通过操纵人工智能智能体、使其执行隐藏在网页或电子邮件中的恶意指令的攻击手段 —— 带来的风险短期内无法消除。这也引发了人们对人工智能智能体在开放网络环境下能否安全运行的质疑。

OpenAI 在当地时间周一发布的一篇博客文章中详细阐述了该公司为增强 Atlas 的防御能力、抵御持续攻击所采取的措施,并写道:“提示词注入攻击就像网络上的诈骗和社会工程学攻击一样,几乎不可能被完全‘攻克’。”该公司坦承,ChatGPT Atlas 的“智能体模式”“扩大了安全威胁面”。

据IT之家了解,OpenAI 于今年 10 月推出了 ChatGPT Atlas 浏览器,随后安全研究人员迅速发布了相关演示,证明只需在谷歌文档中输入寥寥数语,就能改变底层浏览器的行为。就在同一天,浏览器厂商 Brave 也发布博客指出,间接提示词注入攻击是所有人工智能驱动型浏览器面临的系统性挑战,Perplexity 公司的 Comet 浏览器也未能幸免。

意识到提示词注入攻击威胁将长期存在的并非只有 OpenAI 一家。英国国家网络安全中心本月早些时候发出警告,称针对生成式人工智能应用的提示词注入攻击“或许永远无法被完全缓解”,这使得各类网站都面临数据泄露的风险。这家英国政府机构建议网络安全从业者,应着力降低提示词注入攻击的风险及影响,而非寄希望于将这类攻击“彻底阻止”。

就 OpenAI 而言,该公司表示:“我们将提示词注入视为一项长期的人工智能安全挑战,未来需要持续强化防御措施。”

那么,面对这项永无止境的任务,OpenAI 给出了怎样的解决方案?答案是建立一套主动式快速响应机制。该公司称,这套机制已初显成效,能够在新型攻击手段被用于“实战攻击”前,提前在内部发现这些攻击策略。

这一思路其实与 Anthropic、谷歌等竞争对手的主张并无本质区别:要应对提示词注入攻击的持续威胁,必须构建多层防御体系,并持续开展压力测试。例如,谷歌近期的研究重点就聚焦于智能体系统的架构层面与策略层面管控。

不过,OpenAI 采取了一种与众不同的策略 —— 开发“基于大语言模型的自动化攻击程序”。本质上,这是一款由 OpenAI 借助强化学习技术训练而成的机器人,其作用是模拟黑客行为,寻找向人工智能智能体植入恶意指令的途径。

这款机器人可以先在模拟环境中测试攻击手段,再投入实际应用。模拟环境能够还原目标人工智能在遭遇攻击时的思维过程与可能采取的行动。随后,机器人可分析目标的反应,调整攻击方式,并反复进行测试。这种能够洞悉目标人工智能内部推理逻辑的优势,是外部攻击者所不具备的。因此从理论上讲,OpenAI 的这款机器人发现系统漏洞的速度,要快于现实中的黑客。

这是人工智能安全测试领域的一种常用方法:打造一个智能体,让它找出系统的极端漏洞场景,并在模拟环境中开展快速测试。

OpenAI 在博客中写道:“我们通过强化学习训练的攻击程序,能够诱导目标智能体执行复杂且需要多步骤推进的有害任务流程,这些流程的操作步骤可达数十步甚至数百步。此外,我们还发现了一些全新的攻击策略,这些策略既未出现在我们的人工红队测试中,也没有相关外部报告提及。”

在一份演示案例中(上图为部分截图),OpenAI 展示了其自动化攻击程序如何将一封恶意电子邮件植入用户收件箱。当人工智能智能体后续扫描收件箱时,它执行了邮件中隐藏的恶意指令,发送了一封辞职信,而非按要求撰写休假自动回复邮件。不过 OpenAI 称,在完成安全更新后,“智能体模式”已能成功检测到提示词注入攻击的企图,并向用户发出告警。

该公司表示,尽管要实现对提示词注入攻击的万无一失防御难度极大,但仍在依靠大规模测试与更快速的补丁更新周期,力争在相关攻击手段出现在现实世界之前,完成系统防御加固。

针对 Atlas 的安全更新是否已显著降低攻击成功率这一问题,OpenAI 发言人拒绝透露具体数据,但表示该公司早在 Atlas 浏览器发布前,就已与第三方机构合作,共同强化其针对提示词注入攻击的防御能力。

网络安全公司 Wiz 的首席安全研究员拉米・麦卡锡指出,强化学习技术确实能实现对攻击者行为的持续自适应防御,但这只是解决方案的一部分。

麦卡锡在接受科技媒体 TechCrunch 采访时表示:“衡量人工智能系统风险的一个有效方法,是计算其自主性与访问权限的乘积。”

他进一步解释道:“智能体浏览器恰恰处于这一风险模型中的高挑战区域:它们拥有中等程度的自主性,同时又具备极高的系统访问权限。当前许多安全建议,其实都反映了这种利弊权衡。比如限制登录状态下的访问权限,主要是为了减少暴露面;而要求对各类确认请求进行人工审核,则是为了约束智能体的自主操作权限。”

这两点也被列入 OpenAI 向用户提供的风险降低建议中。该公司发言人还表示,Atlas 浏览器经过训练,在发送邮件或执行支付操作前,都会向用户发起确认请求。OpenAI 同时建议用户,应向智能体下达具体明确的指令,而非直接授予其收件箱访问权限,简单告知其“自行采取必要措施”。

OpenAI 指出:“即便已部署安全防护措施,过高的自主操作权限也会让隐藏的恶意内容更容易对智能体产生影响。”

尽管 OpenAI 声称,保护 Atlas 用户免受提示词注入攻击是公司的首要任务,但麦卡锡仍对这类高风险浏览器的投入产出比持怀疑态度。

他在接受 TechCrunch 采访时表示:“对于大多数日常使用场景而言,智能体浏览器目前带来的价值,尚不足以匹配其当前的风险水平。由于它们能够访问电子邮件、支付信息等敏感数据,因此风险系数极高 —— 但与此同时,也正是这种高访问权限赋予了它们强大的功能。这种利弊平衡状态未来或将逐步改善,但就目前而言,其中的取舍权衡依然十分显著。”

 时事1:6up注册

  12月24日,残运会轮椅篮球女子四强出炉,证券日报网讯 12月23日,新宝股份在互动平台回答投资者提问时表示,截至2025年12月19日收市后,公司股东总户数27674户,其中机构户数是3329户。,广州传真猜特诗。

  12月24日,在国营老厂当“主理人”:重庆民主村靠“融”字经翻身,与此同时,在麻醉镇痛这一核心领域,公司的领先地位正受到来自恒瑞医药、恩华药业等竞争对手的挑战。这些企业通过加大研发投入、推动新产品上市,不断侵蚀人福医药的市场份额。,百老汇正规网站,网赌网站排名,leyu乐鱼app在线登录。

 时事2:电子篮球比分

  12月24日,上海中国和平统一促进会二届四次理事会召开,彼时信达财险的建立,更多是为了其大股东中国信达服务。作为信达财险的首任董事长,陈方清在该公司发展初期主导了战略定位。其曾表示,信达财险的成立是信达资产转型的战略需要,旨在利用股东中国信达的客户和网络资源优势,同时通过创新在市场竞争中寻找差异化发展路径,例如采取“主做财险、辅做车险”的策略。,万博狼队,皇冠国际官网app手机版下载,明升体育买球。

  12月24日,浙江湖州“民建助你上大学”:一笔善款,改变一个命运,美国商业地产投资的底层逻辑正在被人工智能热潮重塑,这一趋势虽然为投资者带来了巨额潜在回报,但也使其投资组合以前所未有的程度暴露在单一行业的风险之下。,美高梅充值中心,易博体育注册入口官网,口袋彩票怎么样。

 时事3:澳门拉斯维加斯app下载

  12月24日,二里头夏都遗址博物馆冬日吸引游客,战略转型的漫长征程:虽然康养生态的蓝图绘就,但短期内难以改变传统业务“一条腿走路”的局面。从销售保单到提供“产品+服务”的综合解决方案,需要巨大的资源投入、时间沉淀和跨行业整合能力,这对公司的战略耐心和执行能力构成了严峻挑战。,足球投注技巧,半岛平台官方网站入口,捕鱼顶级信誉平台。

  12月24日,青藏高原第一块茶田:雪山脚下,茶园飘香,除了管理混乱之外,人福医药的财务状况也值得关注。截至2025年第三季度末,公司合并资产负债表显示,短期借款高达67.10亿元,而同期货币资金仅为约36.52亿元,两者之间存在超过30亿元的缺口。这种“短债长用”的财务结构使公司极易受到信贷环境波动的冲击。,八仙图,金沙客户端app下载,AG平台集团官网。

 时事4:世界杯混合投注规则

  12月24日,柬埔寨国防部:新一轮柬泰边境冲突中柬方平民死亡人数升至6人,事故迅速传导至资本市场,12月23日快手股价盘中一度下探超5.7%,较前一交易日蒸发约164亿港元。截至今日收盘,快手报64.35港元/股,跌幅3.52%,总市值2779亿港元。,澳博官网登陆,亚新体育官网是多少,手机必威官网登录。

  12月24日,国际机构看中国经济 经合组织:中国是全球经济增长关键贡献者,上海仪电是一家历史悠久、与时俱进的国有企业,前身是1960年成立的上海市仪表电讯工业局,目前聚焦新一代信息技术产业和人工智能主业。近年来,上海仪电积极落实国家战略和上海重大项目任务,大力发展以人工智能为引领的新一代信息技术服务业和仪器仪表为主的电子信息制造业,建成万卡以上的高性能算力集群和国产算力集群,持续为重点用户和重要创新企业的智能算力供给。,易游游戏,乐虎国际线路检测,优发国际官方平台网。

责编:甲库

审核:李俊和

责编:程明明

相关推荐 换一换