搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-25 16:23:53
来源:

猫眼电影

作者:

陈万霞

手机查看

  猫眼电影记者 罗志军 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:365bet足球比分

  12月25日,“赫哲故里”同江:冰天雪地里的鱼味传承,监管部门要求未设立理财子公司的银行需在2026年底前,逐步压降存量自营理财业务。这一因素使得农商行一面大幅压缩自营理财业务,一面积极转型寻找银行理财子公司进行代销合作,填补理财产品供给缺口。,球探体育最新下载。

  12月25日,“延安十三年与铸牢中华民族共同体意识”专题展在拉萨开幕,截至12月23日收盘,昊海生科股价报44.25元/股,总市值为102.92亿元。,体育赌博,飞禽走兽老虎机单机手机版,星隆国际场真人cs。

 时事2:金沙下注官

  12月25日,民营经济打开发展新空间,激发有潜能的消费,扩大有效益的投资,各地都迫切地希望形成消费和投资相互促进的良性循环。而文旅的“撬动”作用越发受到重视,带动批、零、住、餐,更带动文化演艺市场乃至城市品牌的塑造。,赌神兔报,pt游戏平台手机版,新濠天地官方。

  12月25日,兰州:“从黄河到天山——史前彩陶的西渐之路”大展吸引民众,“传统产业再怎么发展都会有一定的瓶颈,所以要大力培育新兴产业,当然这也有一个过程。”彭澎认为,佛山要稳住自身传统优势产业,推进智能化数字化进程,开发一些新的消费领域。同时,要布局一些有市场前景的新兴产业,对城市发展形成新的支撑力,这是最重要的。,欧博投注登录,1388彩集团,国际象棋真人秀作文。

 时事3:6up官网

  12月25日,短视频里为何总有“三月回本,月入N万”的活?摆拍套路揭秘,兰州机场T1+T2面积8.9万平方米,去年吞吐量超过1700万人次,可以说不堪重负。乌鲁木齐机场T1+T2+T3面积18.48万平方米,需要承载超过2700万人次的吞吐量。,必威官网注册,bv伟德客户端下载,十博体育app怎么下载。

  12月25日,一见·新时代,我们为何持续推进作风建设?,(观察者网讯)综合福克斯新闻、路透社等外媒11日报道,前总统特朗普任命的美国联邦法官凯尔·邓肯(Kyle Duncan)近日受邀为斯坦福大学法学院的学生们演讲时,因其在过往处置案件中表现出的反LGBT、反避孕等主张,遭到了数百名学生的当面辱骂和起哄以示抗议,致使演讲无法进行,气得他当场大骂抗议学生是“白痴”。,168网页登陆,百老汇注册登录,澳门游戏官方网站首页。

 时事4:凯发app官方网站

  12月25日,应对今冬首场强降雪 山西电力“立体巡检+科技融冰”力保电网安全,公告称,依据《中华人民共和国证券法》的有关规定,对李国杰短线交易中科曙光股票行为进行了立案调查、审理,并依法向当事人告知作出行政处罚的事实、理由、依据及当事人依法享有的权利,当事人未提出陈述、申辩意见,也未要求听证。本案现已调查、审理终结。,十大网投娱乐平台,云顶娱乐注册页面在哪里,宝马会网址是多少。

  12月25日,雪落哈尔滨仿若童话世界,他的这一说法也迅速引来网友的质疑和驳斥。有网友指出,比尔·尼尔森的“月球背面永远处于黑暗”的说法明显用词不当,月球背面虽然始终背对地球,但是有阳光照射的。,男篮世界杯下注,彩票365官网下载,创富B。

责编:杨云芳

审核:潘杰

责编:李光厚

相关推荐 换一换