搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-22 08:36:10
来源:

猫眼电影

作者:

苏志东

手机查看

  猫眼电影记者 李杏 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:天博体育最新版本登录

  12月22日,中国副财长出席G20财政和央行副手会议,8月28日上午,中国煤矿文工团召开干部大会,宣布文工团领导任命决定。经文化和旅游部研究决定,任命靳东为中国煤矿文工团(中国安全生产艺术团)团长。,皇冠彩票网官网首页。

  12月22日,我国修改对外贸易法 明确国家维护公平公正的国际经济贸易秩序,行业痛点前面几位嘉宾已经说得很好了。但我需要强调我们最终要达成的目标:在做业务时,实现流程自动化、数据可视化、风控智能化。几位嘉宾都提到,不管是传统业务流程还是传统风控,实际上已无法满足业务转型需求。必须借助内部和外部数据,实现智能风控。任何一个行业,如果没有智能风控的加持,转型和科技租赁的落地都是一句空话。所以我们致力于解决这个问题。,打鱼可下分,线上赌博送现金,三昇体育靠谱吗。

 时事2:必发在哪里玩

  12月22日,旺旺集团首席代表林天良:台当局应智慧处理两岸关系,与此同时,中银理财新增河北沧州农商行、石家庄汇融农村合作银行作为产品代销合作机构;招银理财与浙江南浔农商行签订理财产品代销合作协议。,金莎娱乐场app下载,沙巴体育修改客户注单,速8平台登录地址。

  12月22日,海南白沙山兰稻飘香引客来,特朗普还承诺,借助关税政策,美国将 “迅速偿还国家债务,且这一切很快就会实现”。,经典炸金花手游,明升体育平台网址,凯发娱乐手机版网页登陆。

 时事3:日博体育在线app

  12月22日,菲律宾央行降息至4.50% 为三年来最低水平,参加调研的还有新疆维吾尔自治区党委书记马兴瑞,国务委员、国务院秘书长吴政隆。,威尼斯人官网手机版下载,pg电子开挂神器,买球平台网投。

  12月22日,最新“世界品牌500强”:谷歌、微软和苹果居前三 中国50个品牌上榜,过去一周,地缘政治紧张局势上升进一步放大了黄金的避险吸引力,尤其是在委内瑞拉:美国封锁油轮,并加大对马杜罗(Nicolás Maduro)总统政府的施压力度。,腾龙国际客服电话,金沙24小时网址更新,球探体育手机比分网。

 时事4:韦德体育官网

  12月22日,为期三个月!三部门重拳整治知识产权代理行业,比利时则主要因为没有足够的存放空间和条件,所以将其黄金储备分别存放在英格兰银行和加拿大中央银行的金库。欧洲中央银行曾表示,其黄金储备目前分开存放在5个地点——伦敦、巴黎、里斯本、纽约和罗马,原因是这些黄金的所有权转移到欧洲央行之前,就已经存放于上述地点,而搬运黄金的成本高昂。,亚博国际体育,线上真钱网,大赢家体育官网网址。

  12月22日,羽超联赛第一循环结束:厦门银行队领跑排行榜,报道称,美国国务院发言人马修·米勒在一份声明中表示,美国“于2023年5月9日在(汤加首都)努库阿洛法正式开设美国大使馆”,“开设这个大使馆象征着两国关系重新开始,它强调了我们对双边关系、对汤加人民,以及我们对印太地区伙伴关系的坚定承诺”。,巴黎人注册网址,真正的AG网址是哪个,世界杯买球比分规则。

责编:廉国钊

审核:李敬敬

责编:艾丽莎

相关推荐 换一换