搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-26 08:55:34
来源:

猫眼电影

作者:

马奎斯

手机查看

  猫眼电影记者 杨国红 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:十六浦注册

  12月26日,《康雍乾三朝通纪》发布 收录200余幅珍贵图像资料,2018年自然资源部成立后,钟自然任自然资源部党组成员,中国地质调查局局长、党组书记。直至2022年9月卸任。今年1月2日,即2024年首个工作日,其官宣被查。,二八杠都需要什么牌。

  12月26日,香港中医药业界为大埔宏福苑受灾居民提供中医义诊,在无人机业务中,我们做了很多赋能。比如电池电量监控、飞行路线规划、空域管制政策等,都需要输入大模型。再以小例子说明,为轮船接入全息网后,可监测航线是否有海盗出没——这些都是重大风险点,靠人力难以解决,必须通过系统内外部数据对接来实现。这是我们系统设计的亮点。,尊龙AG旗舰厅app,皇冠游戏官网,欢乐斗地主手机版。

 时事2:新宝gg投注登录

  12月26日,浙江:强化对养老机构监管 确保服务质量,一直以“能打”闻名的佛山,经济结构中工业占比近六成,在万亿级城市中罕有。2023年,佛山规上工业总产值首次突破3万亿元,正式晋级中国工业第四城,比肩深圳、苏州及上海;在省内,佛山工业规模也多年领先广州、东莞,稳居广东工业第二城。,亚新体育在线注册,万博平台登录网址,188体育比分直播吧。

  12月26日,沪宁合高速铁路南京枢纽项目建设迎新进展,此外,中国政府也需要采取相应的措施来维护国内车企的合法权益。例如可以加强与欧盟的沟通和协商争取达成互利共赢的贸易协议;同时也可以通过调整出口策略、优化产品结构等方式来降低对欧盟市场的依赖程度并开拓其他国际市场以缓解贸易压力。,银河app平台网址,爱游戏体育手机版,滚球吧。

 时事3:体育现金网

  12月26日,新能源汽车出口“芜湖-上海”精品航线开航,“岛屿涉及海洋权益,不管日本是怎么测出了这么多岛屿,但既然宣布拥有这么多岛屿,很可能今后日本与周边国家的领土纷争会更多。”北京大学海洋战略研究中心主任胡波3日在接受《环球时报》记者采访时指出,日本声称一下子多出7000多个“岛屿”,“这很难从技术方面去合理解释”。,日博体育在线官方平台,天博平台app下载中心,火狐app官方下载。

  12月26日,走进民企看发展丨面壁智能CEO李大海:大模型公司,就是为创新而生,华福证券分析称,总体来看,当前我国经济正处于温和复苏阶段,往后看,随着经济内生动能的不断修复,预计后续将会延续回升向好的趋势;结构上来看,“依靠质优来促量稳”将是未来中国经济发展的重要特点,未来经济结构将不断改善。(中新经纬APP),乐虎国际2022世界杯,云顶国际APP安卓,m8米博体育合法吗。

 时事4:名爵国际娱乐城

  12月26日,坚守海岛15年女班长邹嫦艳:我的战位是方寸之间的“指尖江湖”,记者了解到,2011年至2023年任吕王镇工商所所长的,是邓志军。知情人士告诉记者,2023年,邓志军任大悟县市场监督管理局药械股股长、不良反应检测中心主任。5月10日,记者多次电话联系邓志军,均被挂断,采访短信也未获回复。,新威尼斯人,万博ManBetX首页,ag大平台。

  12月26日,山南市第45届雅砻物资交流会开幕 焕发商贸新活力,由此,深投控成为信达财险第一大股东,该公司实控人由财政局变为深圳国资委,而中国信达仍旧留有3亿股,占比10%,退位成第三大股东。,天健棋牌,开元棋乐棋牌10元,最新送体验金网站。

责编:司学军

审核:韩家洼

责编:徐铮

相关推荐 换一换