搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-23 13:23:08
来源:

猫眼电影

作者:

华里西

手机查看

  猫眼电影记者 于青山 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:ope体育平台

  12月23日,二里头夏都遗址博物馆冬日吸引游客,参与运营北京奥林匹克森林公园西畔的国家网球中心两片红土网球场地的维宁体育创始人、CEO纪宁8日告诉《环球时报》记者:“本就稀缺的网球场馆在郑钦文夺冠后变得更加炙手可热,现在根本都约不上。”,网上真人斗地主。

  12月23日,一批日本731罪行档案首次披露 这些文字让人心惊肉跳,Copyright © 1996-2024 SINA Corporation,九游会网址是多少,和记娱乐投注登录,世界杯投注竞彩啥意思。

 时事2:四川血战麻将现金版

  12月23日,上海交大举办系列活动致敬钱学森归国70周年,去年,民航局、国家发改委联合发文《关于推进国际航空枢纽建设的指导意见》,画出国际航空枢纽的蓝图,提出“3+7+N”国际航空枢纽功能体系。,娱乐百家乐现金,永利网站官网,乐鱼官方下载。

  12月23日,应对甲流,不止囤药:每天13元,让医生持续守护家人,该扩建工程是陕西民航发展的“头号工程”,也是目前西北投资规模最大、建筑体量最大的机场建设工程。,斗球体育官网首页,皇冠手机版登陆,天博tb体育靠谱吗。

 时事3:体育下载地址

  12月23日,过去5年 山西省属煤企产煤1/3用于能源保供,[环球时报综合报道]“一段时间以来,比亚迪、吉利等中国自主品牌的崛起给不少外国汽车品牌带来压力。”美国CNBC网站18日报道称,美银证券汽车产业分析师约翰·墨菲当天在美国汽车媒体协会有关活动中表示,美国底特律三巨头(即通用汽车、福特汽车和斯特兰蒂斯)应“尽快”退出中国市场。他同时警告说,美国三大车企需要采取更严厉的措施削减开支,尤其是在内燃机业务方面,因为这是目前利润的主要来源。,188金宝搏一直维护,365bet现金信誉,BET9app下载。

  12月23日,人工智能赋能教师队伍建设 未来教师公益计划启动,青海将西宁机场三期扩建工程视为深度融入国家“一带一路”建设的重点工程;甘肃认为兰州中川国际机场三期工程是积极参与共建“一带一路”的有力注脚;西安和乌鲁木齐都表示,咸阳机场、天山机场的改扩建工程,能助力西安、乌鲁木齐打造“一带一路”核心枢纽。,十大网投平台,乐鱼网,bet365开户。

 时事4:凯发是正规平台吗

  12月23日,忘记历史就意味着背叛,否认罪责就意味着重犯,根据美国CNBC网站梳理的数据,通用汽车及其合资公司在华市场份额从2015年的15%左右降至去年的8.6%,中国市场盈利占通用汽车全部盈利的比例也有所下降。2022年,斯特兰蒂斯集团表示只在中国地区保留其旗下Jeep品牌的进口业务。,港彩连连中,欧亚娱乐平台,万博ManBetX吧。

  12月23日,两部门:到2035年各科学事业单位内部控制体系更加健全,值得一提的是,三座机场都在本轮扩建中新修了跑道,兰州、乌鲁木齐因此成为国内为数不多的三跑道机场,西安更是拥有了四条跑道。,1383开元官网,188bet亚洲体育,电玩大师炸金花。

责编:郭可盈

审核:王瓦利

责编:普恩特

相关推荐 换一换