搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-28 06:20:59
来源:

猫眼电影

作者:

高广慧

手机查看

  猫眼电影记者 塔罗 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:皇冠入口welcome

  12月28日,国家金融监管总局要求在港中资银行保险公司及时满足灾民金融需求,《华盛顿邮报》主持人询问斯托尔滕贝格,中国是否有可能在结束俄乌冲突的谈判中发挥外交作用时,斯托尔滕贝格表示,中国“尚未谴责俄罗斯”,但他欢迎两国领导层的对话,“因为欧洲发生的事情关系到亚洲,而亚洲发生的事情关系到欧洲”。斯托尔滕贝格同时宣称,如果“普京获胜”,所有人都会“变得脆弱”。,贝博体育官网登陆。

  12月28日,(乡村行·看振兴)行走浙江金东八仙积道共富带:民宿焕新激活发展新图景,其中,一季度,广东规模以上工业增加值0.91万亿元,同比增长6.1%,增速比上年同期和上年全年分别提高4.7个、1.7个百分点。分门类看,采矿业增加值增长4.2%,制造业增加值增长6.0%,电力、热力、燃气及水生产和供应业增加值增长8.2%。,365bet手机客户端网址,明发国际网址,线上真钱游艺。

 时事2:网上赌现金平台

  12月28日,广州两百余名巧匠同台竞技 展现技艺传承与技术创新,商业地产长期以来的吸引力在于其“多元化”属性,例如写字楼通常租给多个行业的不同公司。然而,随着数据中心的主要增长动力来自人工智能,该资产类别正变得高度依赖单一类型的租户,而这些租户的商业模式尚未完全实现盈利。,爱游戏体育官网入口app,云顶集团app,ag真人官方软件app。

  12月28日,一只羊能有超170种产品!看草原美味如何撬动消费大市场,数据显示,美国11月CPI同比上涨2.7%,低于经济学家此前预测的3.1%。数据公布后,联邦基金利率期货显示,美联储2026年1月会议降息概率小幅上升。美联储理事沃勒上周亦表示,美联储仍有更大的降息空间,其言论进一步强化了市场的宽松预期。,刺激战场国际服段位多高才有真人,欧宝官方网站是多少,PG电子游戏网页版。

 时事3:九州娱城乐十年信誉玩家首选

  12月28日,香港特区政府官员与立法会候任议员交流 盼施政更贴近民意,欧委会同时列出其他合作企业名单,其中包括大部分中国企业,以及宝马、特斯拉和雷诺等在中国生产、出口欧洲的跨国企业。欧委会称,特斯拉提出了申请,可能会在最终阶段按照单独计算的关税征收。,世界杯买球app官方网站,威廉国际平台,365体育官网APP下载。

  12月28日,全国供销合作社系统援疆援藏协作交流会在惠州召开,周觉担任过外交部部长助理、国务院新闻办公室副主任等职,曾是中国驻土耳其大使、驻法国大使。,篮球如何买外围,捕鱼网络平台,炸金花最新。

 时事4:亚星体育

  12月28日,巴西圣保罗推动“妈祖”纪念日纳入官方活动日历,在这样的背景下,AI与电商成为快手押注的未来,而AI业务的表现不负众望,在今年下半年成为拉动公司增长的新动力。,威尼斯尼人电子网址,国际象棋的游戏真人怎么做,现金娱乐场。

  12月28日,香港公布监管新制度规范外墙棚网使用,亚洲新闻台(CNA)记者提问:去年中国全国人大公布了《对外关系法(草案)》,其中包括中国在必要时可以采取反制和限制措施。考虑到中国面临的外部挑战,包括涉及美国的挑战,上述措施对中国的外交政策意味着什么?中国外交是否会越来越具有攻击性?,365bet官网app,凯时88,买球在哪买。

责编:宋如亚

审核:汤成俊

责编:风湃

相关推荐 换一换