搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-22 16:14:25
来源:

猫眼电影

作者:

邱正干

手机查看

  猫眼电影记者 张海 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:欧宝体育平台登录

  12月22日,新疆乌鲁木齐:首个“雪假” 6大滑雪场本地学生免票畅玩,西部地区在维护国家生态安全、水安全、能源资源安全、国防边境安全方面具有重要战略地位。,bb新体育。

  12月22日,综述|日本有识之士强烈要求高市早苗撤回涉台错误言论,作为建立多极世界进程中的独立力量,中俄将全面挖掘两国关系潜力,推动实现平等有序的世界多极化和国际关系民主化,凝聚力量构建公正合理的多极世界。,足彩外围哪个app下载,美高梅线上娱乐官网,立博中文官网。

 时事2:云顶娱乐手机端官网首页

  12月22日,司法部负责人就《行政执法监督条例》答记者问,广西北海市气象台7日5时50分将暴雨橙色预警信号提升为红色,北海全市中小学停课。,亚太娱乐城,博亚娱乐平台,四人游戏。

  12月22日,外交部回应对岩崎茂采取反制措施,2026年1月资金面扰动因素核心围绕“信贷、政府债缴款、税收、春节取现”展开。,大发体育好玩吗?,直播365足球,巴黎人下载。

 时事3:乐博在线买球

  12月22日,2025年京津冀职业院校教师AI+教学能力大赛在津启动,“从洛阳到开封,从开封到南阳,基本形成了一个遍及河南18个省辖市,处处开花的这样一种发展态势。其中,郑州作为交通枢纽,对周边城市的辐射带动效应也是不可替代的。”宋向清指出。,幸运快3彩票下载,葡京网投导航,必威官网首页。

  12月22日,巴西圣保罗推动“妈祖”纪念日纳入官方活动日历,广州市统计局在分析一季度经济运行情况时指出,广州“面临燃油车、房地产两大市场需求不足影响,以及自身产业周期性、结构性因素的挑战”。,体球网足球,10博app下载,新百胜实体平台网址。

 时事4:c7网官方下载

  12月22日,长春今冬降雪明显偏少 气象部门称属局地气候异常,据新加坡联合早报报道,国际货币基金组织(IMF)驻印度办事处前负责人费尔曼指出,尽管印度的科技行业表现强劲,但其传统经济领域仍陷于困境,未能提供足够的就业机会。费尔曼强调,制造业有潜力为印度提供必要的就业机会。,鸿运国际,168可靠吗,银河在线游戏娱乐。

  12月22日,云南省大理州副州长、州公安局局长雷楚英接受审查调查,随着中国政府加大对人工智能芯片制造商的扶持力度,海外投资者认为中国正不断缩小与美国的科技差距。而与此同时,美股上市人工智能股票估值高企引发的担忧持续升温,这促使投资者纷纷押注中国相关企业。,六合财经D加大版,欧洲杯开户网址线上,澳门萄京在线登录。

责编:斯诺

审核:王小利

责编:欧阳晓

相关推荐 换一换