搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-28 15:05:21
来源:

猫眼电影

作者:

王首道

手机查看

  猫眼电影记者 摩比斯 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:bwin手机版

  12月28日,2025年终观察|4000点、3万亿……数看A股新变化,公器私用,将地质调查、矿产开发等权力作为敛财纳贿的工具,搞权钱交易,利用职务便利为他人在企业经营、项目承揽、矿权审批等方面谋利,并非法收受巨额财物;,斗球体育官网首页。

  12月28日,国际滑联花样滑冰大奖赛总决赛:中国队包揽青年组双人滑冠亚军,包括普华永道咨询公司在内的多数行业专家认为,电动汽车行业并非迎来末日,只是市场对其的预期终于回归理性。普华永道预测,电动汽车行业将在本十年末迎来复苏,到 2030 年,电动汽车在美国新车市场的渗透率有望达到 19%。,上游棋牌官网,竞博体育jbo,贝博app体育滚球。

 时事2:万博手机版登录注册

  12月28日,1—11月中国财政收入同比增长0.8%,这一全面关税声明震动市场,为其第二任期的关税推进工作定下基调 —— 尽管他在图表中展示的多项针对特定国家的关税率,不久后便被暂停实施至 5 月,且在当年剩余时间里多次调整。,世界杯投注在哪驻fc3,tv,菲律宾现金网,韦德体育网投平台。

  12月28日,昆明机场口岸11月出入境客流量超33万人次,报道称,这名网友12日在脸书发文称,上午和孩子跑遍她家附近的超市都没有买到鸡蛋,后来在便利店才买到最后2盒,她把买好的鸡蛋放在自行车车篮中,又想起漏买东西并再次进入便利店,她出来发现车篮空空如也,惊觉刚买的鸡蛋被偷了,直呼“我的天啊!这是台湾,这是台湾,我真不敢相信啊!”,蜗牛扑克allnewbet,炸金花三张牌网址,新华美育注册。

 时事3:凯时官网手机版首页

  12月28日,陈芋汐当选世界泳联2025年度最佳女子跳水运动员,“早就不关心足球了,伤心了,辽足也没了,现在沈阳看辽篮的球迷多。”打车去少年宫的路上,出租车司机和澎湃新闻记者闲聊起了这场中泰之战,说着说着,司机开始真情流露,“武磊踢不了,希望韦世豪能够帮助球队,他和几名归化球员状态都不错。”,美高梅网投平台,巴黎人网站怎么进不去了,亚美体育怎么下载。

  12月28日,西安网评:从“倡导”到“条例”,全民阅读何以升格,对比之下,这笔研发投入在分散至算法优化、产品迭代、市场拓展等多个领域后,真正投向内容安全防御的份额究竟有多少,能否支撑起抵御黑灰产持续冲击的需求,已成为外界质疑的焦点。黑灰产的技术手段借着低成本试错快速升级,短视频平台的防御投入若未能聚焦、形成规模效应,便难以构建起真正的“铜墙铁壁”。,ROR体育,彩票快三app大全,尊龙凯时。

 时事4:威尼斯人推荐极致体验

  12月28日,聚焦应用场景落地等方向 2025中关村量子大会在京开幕,对于年龄上的放宽,不少司机纷纷发声支持,表示十分开心自己能多开几年车,既能增加点收入,也是一种精神寄托。,米乐在线客服,博鱼体育官网登录入口,云顶娱乐官方最新版下载。

  12月28日,启动全岛封关运作,吸引全球优质资源,世界今日聚焦中国海南,他说,作为涉外领域的基础性法律,有必要对反制和限制措施作出原则性的规定:中国的核心利益不容损害,主权和领土完整不容侵犯,对于损害中国主权安全发展利益的行为,侵犯中国公民合法权益的行为,我们在法律中作出相关规定,予以坚决反制,是正当和必要的。,通比牛牛直播,2020俄罗斯欧洲杯,送彩金论坛网址大全。

责编:李瑞伟

审核:陈细怪

责编:李鹏飞

相关推荐 换一换