搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-24 12:43:32
来源:

猫眼电影

作者:

胡相明

手机查看

  猫眼电影记者 黄文洲 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:三肖三肖

  12月24日,上海最大数智草莓植物工厂落成 实现365天“草莓自由”,根据《一品红药业集团股份有限公司关于全资子公司获得丙戊酸钠注射用浓溶液注册证书的公告》(公告编号:2025-095),现予以公告。,MG技巧及建议。

  12月24日,匈牙利总理:欧盟使用俄被冻结资产援乌的方案难获通过,双方注意到,当前,地区和全球性冲突不断,国际安全环境不稳定,包括核武器国家在内的国家间对抗加剧导致战略风险不断加大。双方对国际安全形势表示关切。,hy8590cc海洋之神入口,雷速体育5.4,ayx平台首页。

 时事2:乐鱼体育登陆官网

  12月24日,日本前首相石破茂再批“日本拥核”言论,经历前期短暂的震荡整理后,黄金市场再度走出强势单边行情,向历史高位发起新一轮冲击。12月22日,国际金价率先发力,现货黄金盘中首次突破4400美元/盎司整数关口,刷新历史纪录,年内累计涨幅进一步扩大。亚市早盘,现货黄金再度大幅攀升,金价刚刚触及4484.31美元/盎司,创下历史新高,金价日内飙升逾40美元。黄金价格已是今年第50天刷新纪录。,亿游网址,爱游戏电竞网站,网上注册赌博就送钱。

  12月24日,1.5万名“小海豚”绘就残特奥会温暖画卷,当资源与精力纷纷向新兴业务倾斜、全力冲刺增长目标时,基本盘中潜藏的隐患却在被忽视的角落发酵。短视频平台的核心竞争力,既在于前沿技术带来的增长活力,更在于内容安全构建起的信任基础。这次风波,正是基本盘防守薄弱的集中爆发,风控技术跟不上黑灰产的迭代节奏,应急响应机制在饱和式攻击面前滞后,这些问题并非一日之寒。,美高梅国际官网开户,开元棋下载app麻将胡了,足球现金网站。

 时事3:尊龙人生就是博ag

  12月24日,我国首条百万吨级近零碳钢铁产线全线贯通,以往,农商行主要关注银行理财子公司的产品丰富度、产品净值波动稳定性、整体业务规模、品牌影响力与系统对接可靠性等方面。而在《办法》对理财产品代销业务全流程提出更严格要求后,农商行开始高度关注产品代销环节的操作合规性。,芒果体育官网网页,天博APP安卓,贝多娱乐彩票。

  12月24日,CBA常规赛:广东主场胜山东 豪取六连胜,在周期低点,生产企业通常会主动减产、降低资本开支,通过供给端收缩的方式形成新的供需平衡。,网络赌城哪家最正规,下载cq9跳高高,威廉希尔中文网站app。

 时事4:博天堂免费试玩

  12月24日,未到天安门却抚到“天安门的红” 新疆九旬老兵摸到天安门升旗的国旗后热泪盈眶,中金公司研究表示,若市场利率进一步下行,2026年银行理财子公司或将不得不面对理财产品整体收益率降至2%以下的时代,预计部分理财产品需通过提升风险资产配置比重以增厚收益。,云顶国际竞彩官网,火狐app网站,线上代理。

  12月24日,哈尔滨冰雪大世界“童话雪人一家”雪雕落成,另一方面,日本的风俗行业也基本拒绝有文身者从事风俗服务工作。究其原因,是因为长期以来,日本社会中进行文身的人群多以各类黑道组织、暴力团成员为主。以广岛县广岛市为首,从2004年起开始,日本各地方自治体(都道府县)纷纷开始制定“暴力团排除条例”或类似规定,以在日常生活中排除或限制黑道、帮派人员的活动。酒店、温泉浴场等依规实行了暴力团禁入原则,但在执行上基本以是否有文身作为判定依据。,新宝gg网址登录,给个365bet网址,现金上下分捕鱼。

责编:魏建晋

审核:陈玉轩

责编:郑石萍

相关推荐 换一换