搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-29 16:19:35
来源:

猫眼电影

作者:

蔡秋荣

手机查看

  猫眼电影记者 陈淑琴 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:bet8游戏

  12月29日,【统战巡礼】扎根中原大地 河南凝聚各界之力促统战工作提质增效,韩国国务调整室曾于4月16日发布政府部门联合新闻稿,重申日本福岛核污染水排海计划需从科学、客观层面确保安全性,并符合国际标准的既有立场。,亚洲游戏排行榜。

  12月29日,民主党派唱响海南自贸港建设“协奏曲”,随着新能源汽车替代加速,刚果(金)逐渐因马诺诺锂矿等世界级锂矿床而为国人所知。在当地,从手机档口老板转型投资矿产生意的商人不在少数。手机看起来和矿产毫无关系,但瞄准的是刚果(金)另一种同样丰厚的“资源”:这是一个人口过亿的国家,并且年龄中位数不到16岁,这是非洲整体人口结构的缩影。,全讯网体育,体育足球bet,世界杯投注盘怎么看。

 时事2:华纳娱乐平台开户

  12月29日,中央定调!明年经济工作这么干,而在今年以前,该公司股东大会上极少出现反对票,仅2023年9月的第四十次临时股东大会上《关于修订公司章程的议案》有0.5亿票反对。,优博备用网址,必威官网首页,平博88登录。

  12月29日,未到天安门却抚到“天安门的红” 新疆九旬老兵摸到天安门升旗的国旗后热泪盈眶,具体来说,高渝文的从业经历可清晰划分为多个阶段,第一阶段是在集团体系内任职:2008年7月至2013年5月,高渝文担任通用技术集团医药事业本部(医控公司)总经理、党委副书记,为他后续执掌中国医药奠定了基础。,亚新注册,AG真人投注登录,澳洲皇冠4hu。

 时事3:牛宝体育线路检测

  12月29日,海南自贸港将迎来全岛封关运作,李强还提到,要用好我国大市场、大工程、大应用等独特优势,支持企业加大研发投入、加快技术积累和迭代,积极参与标准制定,创建优质品牌,在市场竞争中接受检验、赢得主动。,澳门永利集团304am官方入口,欧博官网注册账号,w88优德体育手机版。

  12月29日,解放军报:让精神利刃永不卷刃,部分农商行已着手采取应对举措,包括与银行理财子加强产品沟通与销售话术培训的合作,增加分支行网点巡查与落实“双录”(录音录像)操作规范,杜绝虚假宣传、捆绑销售、承诺保本保收益、代客签署文件等违规行为。尤其是面向老年客群,有农商行制定了专项销售流程,以防范销售误导。,现金线上app,新利18全站luck,365bet怎么设置中文。

 时事4:乐动体育世界杯下注

  12月29日,黑龙江:强化政治监督 保障高质量振兴发展,6月中旬以来,我国华北、黄淮等地高温肆虐,多地炎热程度同期少见,今明两天(6月14日至15日),北方大部地区高温将短暂缓和,但仍未彻底结束。而在南方,预计19日前,江南、华南以及西南地区东部等地强降雨依然频繁,部分地区暴雨连连,需注意防范暴雨致灾。,万人二八杠棋牌游戏,新濠天地登录网站,电子娱乐官网下载。

  12月29日,CBA常规赛:北京控股队战胜辽宁本钢队,此次工行青海分行设立武装部,建设一支“平时服务、急时应急、战时应战”的国防力量,是西宁市委市政府贯彻习近平强军思想的重要举措,也是西宁市国防体制改革的重大实践。,皇冠客户端app下载,九游会登录首页,线上买球大全。

责编:4楼

审核:陈雅茹

责编:黄士杰

相关推荐 换一换