猫眼电影记者 理查德朗赫斯特 报道首次登录送91元红包

IT之家 12 月 23 日消息，尽管 OpenAI 正致力于强化其 Atlas 人工智能浏览器的网络攻击防御能力，但该公司承认，提示词注入攻击 —— 一种通过操纵人工智能智能体、使其执行隐藏在网页或电子邮件中的恶意指令的攻击手段 —— 带来的风险短期内无法消除。这也引发了人们对人工智能智能体在开放网络环境下能否安全运行的质疑。

OpenAI 在当地时间周一发布的一篇博客文章中详细阐述了该公司为增强 Atlas 的防御能力、抵御持续攻击所采取的措施，并写道：“提示词注入攻击就像网络上的诈骗和社会工程学攻击一样，几乎不可能被完全‘攻克’。”该公司坦承，ChatGPT Atlas 的“智能体模式”“扩大了安全威胁面”。

据IT之家了解，OpenAI 于今年 10 月推出了 ChatGPT Atlas 浏览器，随后安全研究人员迅速发布了相关演示，证明只需在谷歌文档中输入寥寥数语，就能改变底层浏览器的行为。就在同一天，浏览器厂商 Brave 也发布博客指出，间接提示词注入攻击是所有人工智能驱动型浏览器面临的系统性挑战，Perplexity 公司的 Comet 浏览器也未能幸免。

意识到提示词注入攻击威胁将长期存在的并非只有 OpenAI 一家。英国国家网络安全中心本月早些时候发出警告，称针对生成式人工智能应用的提示词注入攻击“或许永远无法被完全缓解”，这使得各类网站都面临数据泄露的风险。这家英国政府机构建议网络安全从业者，应着力降低提示词注入攻击的风险及影响，而非寄希望于将这类攻击“彻底阻止”。

就 OpenAI 而言，该公司表示：“我们将提示词注入视为一项长期的人工智能安全挑战，未来需要持续强化防御措施。”

那么，面对这项永无止境的任务，OpenAI 给出了怎样的解决方案？答案是建立一套主动式快速响应机制。该公司称，这套机制已初显成效，能够在新型攻击手段被用于“实战攻击”前，提前在内部发现这些攻击策略。

这一思路其实与 Anthropic、谷歌等竞争对手的主张并无本质区别：要应对提示词注入攻击的持续威胁，必须构建多层防御体系，并持续开展压力测试。例如，谷歌近期的研究重点就聚焦于智能体系统的架构层面与策略层面管控。

不过，OpenAI 采取了一种与众不同的策略 —— 开发“基于大语言模型的自动化攻击程序”。本质上，这是一款由 OpenAI 借助强化学习技术训练而成的机器人，其作用是模拟黑客行为，寻找向人工智能智能体植入恶意指令的途径。

这款机器人可以先在模拟环境中测试攻击手段，再投入实际应用。模拟环境能够还原目标人工智能在遭遇攻击时的思维过程与可能采取的行动。随后，机器人可分析目标的反应，调整攻击方式，并反复进行测试。这种能够洞悉目标人工智能内部推理逻辑的优势，是外部攻击者所不具备的。因此从理论上讲，OpenAI 的这款机器人发现系统漏洞的速度，要快于现实中的黑客。

这是人工智能安全测试领域的一种常用方法：打造一个智能体，让它找出系统的极端漏洞场景，并在模拟环境中开展快速测试。

OpenAI 在博客中写道：“我们通过强化学习训练的攻击程序，能够诱导目标智能体执行复杂且需要多步骤推进的有害任务流程，这些流程的操作步骤可达数十步甚至数百步。此外，我们还发现了一些全新的攻击策略，这些策略既未出现在我们的人工红队测试中，也没有相关外部报告提及。”

在一份演示案例中（上图为部分截图），OpenAI 展示了其自动化攻击程序如何将一封恶意电子邮件植入用户收件箱。当人工智能智能体后续扫描收件箱时，它执行了邮件中隐藏的恶意指令，发送了一封辞职信，而非按要求撰写休假自动回复邮件。不过 OpenAI 称，在完成安全更新后，“智能体模式”已能成功检测到提示词注入攻击的企图，并向用户发出告警。

该公司表示，尽管要实现对提示词注入攻击的万无一失防御难度极大，但仍在依靠大规模测试与更快速的补丁更新周期，力争在相关攻击手段出现在现实世界之前，完成系统防御加固。

针对 Atlas 的安全更新是否已显著降低攻击成功率这一问题，OpenAI 发言人拒绝透露具体数据，但表示该公司早在 Atlas 浏览器发布前，就已与第三方机构合作，共同强化其针对提示词注入攻击的防御能力。

网络安全公司 Wiz 的首席安全研究员拉米・麦卡锡指出，强化学习技术确实能实现对攻击者行为的持续自适应防御，但这只是解决方案的一部分。

麦卡锡在接受科技媒体 TechCrunch 采访时表示：“衡量人工智能系统风险的一个有效方法，是计算其自主性与访问权限的乘积。”

他进一步解释道：“智能体浏览器恰恰处于这一风险模型中的高挑战区域：它们拥有中等程度的自主性，同时又具备极高的系统访问权限。当前许多安全建议，其实都反映了这种利弊权衡。比如限制登录状态下的访问权限，主要是为了减少暴露面；而要求对各类确认请求进行人工审核，则是为了约束智能体的自主操作权限。”

这两点也被列入 OpenAI 向用户提供的风险降低建议中。该公司发言人还表示，Atlas 浏览器经过训练，在发送邮件或执行支付操作前，都会向用户发起确认请求。OpenAI 同时建议用户，应向智能体下达具体明确的指令，而非直接授予其收件箱访问权限，简单告知其“自行采取必要措施”。

OpenAI 指出：“即便已部署安全防护措施，过高的自主操作权限也会让隐藏的恶意内容更容易对智能体产生影响。”

尽管 OpenAI 声称，保护 Atlas 用户免受提示词注入攻击是公司的首要任务，但麦卡锡仍对这类高风险浏览器的投入产出比持怀疑态度。

他在接受 TechCrunch 采访时表示：“对于大多数日常使用场景而言，智能体浏览器目前带来的价值，尚不足以匹配其当前的风险水平。由于它们能够访问电子邮件、支付信息等敏感数据，因此风险系数极高 —— 但与此同时，也正是这种高访问权限赋予了它们强大的功能。这种利弊平衡状态未来或将逐步改善，但就目前而言，其中的取舍权衡依然十分显著。”

  时事1：必赢亚洲登录页

  12月25日,南京大屠杀死难者“烛光祭”：星火寄哀思 微光祈和平,青海省军区少将副司令员朗杰、工商银行青海省分行行长博来共同揭牌，西宁警备区大校司令员刘翔宣布了任职命令，市委常委、市政府副市长王刚参加活动并致词。,乐博app官方。

  12月25日,海南自贸港原辅料“零关税”政策落地五年减免税款超16亿元,潘金说，去美元化的过程正在进行中，这是一种趋势，不知道美元是否会消失，但每种主要货币都有自己的生命周期。潘金表示，去美元化的趋势开始得更早，近些年来的各种危机加速了这种趋势，许多国家一直在关注俄罗斯资产被冻结，并意识到同样的事情可能会发生在自己身上。这位部长补充说，许多新兴国家现在变得更加强大，其货币也随之变得更有信誉。,博亚体彩app,有赌博的网址吗,万博官网欢迎你。

  时事2：真人线上ag捕鱼网址

  12月25日,3600个红灯笼扮靓“冰城”哈尔滨,双方强调，美国和北约作为侵略占领阿富汗20年的责任方，不应再次企图将军事设施部署到阿富汗及其周边地区，而应为阿富汗当前经济民生困局负主要责任，承担阿富汗重建的主要支出，并采取一切必要措施解除对阿富汗国家资产的冻结。,欧洲杯2019半决赛,娱乐登录2首页,大发888网址。

  12月25日,山西持续深化营商环境改革 为高质量发展注入强劲动力,从行业环境看，人福医药面临的政策压力未有缓解迹象，药品集中带量采购范围不断扩大，从化学药向生物药、中成药扩展，价格降幅依然明显；医保支付方式改革（DRG/DIP）全面推行，促使医院更加关注药品的成本效益，对高价原研药和专利药形成压力。,体育平台接口,ManBetX万博外围官网,火狐体育官方app。

  时事3：万博手机app下载

  12月25日,广德“三件套”出圈 中小城市如何接住“泼天富贵”？,李东明：男，1971年1月出生。2017年7月加入国任保险，任执行董事、党委副书记、工会主席、董事会秘书。2024年10月任董事会秘书。曾任深圳市建业股份有限公司工业发展部投资管理科科长，深圳市建设投资控股公司经济师、资产管理部副部长，深圳市国资委产权管理处助理研究员、领导人员管理处副处长，深圳市投资控股有限公司人力资源部部长、董事会秘书、董事会办公室主任。,澳门赌场介绍,世界杯外围赛买球,恒彩88注册登录。

  12月25日,2025中国田径协会10公里精英赛重庆站鸣枪起跑,首先根据我们前面的推导可以得出，目前央行整体流动性投放相对比较中性，因此在扰动相对较大的情况下，资金的宽松或更多是来自于国有行资金的相对充裕。,苹果手机怎么买球,爱游戏app下载,注册平台大发。

  时事4：博鱼体育平台官方入口

  12月25日,专家解读：日本加速西南军事化部署 是何用意？,孔铉佑大使临行前辞行拜会了日本参众两院议长、外相等政府高层、朝野主要政党负责人及地方、经济、友好团体等各界人士。,博狗买球网,闪电玩,六合家中宝A。

  12月25日,中国国际热作产业大会观察：热带特色农业如何抢抓新机遇？,双方高度重视人工智能问题，愿就人工智能的发展、安全和治理加强交流与合作。俄方欢迎中方提出《全球人工智能治理倡议》，中方欢迎俄方在人工智能领域提出治理准则。双方同意建立并用好定期磋商机制加强人工智能和开源技术合作，在国际平台上审议人工智能监管问题时协调立场，支持对方举办的人工智能相关国际会议。,百德利手机棋牌,江南手游平台下载,大发棋牌游戏平台网址。