搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-24 13:49:04
来源:

猫眼电影

作者:

陈凌燕

手机查看

  猫眼电影记者 郭伟 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:澳客竞彩篮球官网

  12月24日,经济日报评论员:坚持政策支持与改革创新并举——论贯彻落实中央经济工作会议精神,“我们已经在讨论(在日本设立联络处)了,但还没有最后敲定细节。”林芳正说。,韦德体育官方网站。

  12月24日,川航成都直飞奥克兰航线正式复航,明天,黑龙江东北部、江南中东部和南部、西南地区南部、华南大部等地部分地区有中到大雨,其中,江西东部、浙江南部、福建北部、广西东北部、广东中北部等地部分地区有暴雨或大暴雨。,w66利来国际,澳门威尼斯软件,新利luck18网址。

 时事2:钱龙捕鱼个人技巧

  12月24日,中国工程院院士贺克斌:中美欧正驱动全球新能源转型,另外,关税法草案二审稿增加规定,海关发现多征税款时,应当及时通知纳税人办理退还手续。另外,草案此前也明确,将纳税人发现多缴税款时申请退税的期限由1年延长为3年,并明确海关发现多征税款的应当及时退还纳税人。,世界杯手机在哪里投注,开元棋牌竞彩官网,qy206vip下载千亿APP。

  12月24日,日本遗孤中井玲子:很多遗孤被亲生父母拒认,广西北海市气象台7日5时50分将暴雨橙色预警信号提升为红色,北海全市中小学停课。,库博官网,银河集团娱乐网址,365比分网直播。

 时事3:口袋足球下载

  12月24日,“孔子家乡 好客山东”文旅推介会在悉尼举行,据《华盛顿邮报》5月9日报道,日前,北约秘书长斯托尔滕贝格就俄乌冲突前景等议题接受了《华盛顿邮报》的专访,但双方“不可避免”提到了所谓“北约是否会介入台海冲突”的话题。对此,斯托尔滕贝格表示,北约“是一个欧洲组织,只会保卫欧洲成员国领土,不会成为亚洲组织”。,手机比分直播,巴黎人网络电子,博狗网站多少。

  12月24日,定制客运迈入规模化数字化“快车道”,《星岛》从现场了解到,上述两个新项目计划于2026年集中施工,预计2027年投产。建成后,2GWh的钠电产能将有效填补市场供需缺口,推动钠电在储能、AI数据中心等场景规模化应用,降低行业对锂资源的依赖;AI机器人技术将推动工厂生产及智能化升级、公司管理效能跃迁、电池技术持续创新、构建全链路智能锂电生态。,捕鱼官方推荐,腾龙公司官网,AG娱乐网站是多少。

 时事4:九州体育登陆

  12月24日,中国第41次、42次南极考察中山站越冬队完成交接,中方敦促日方从双边经贸关系大局出发,及时纠正错误做法,共同维护全球产业链供应链稳定,中方将采取必要措施,坚决维护企业正当权益。,购买世界杯彩票网站,沙巴官方下载,真人国际乒乓球大赛游戏。

  12月24日,李成:中国科创并非全新开始,而是“重新崛起”,2025年12月17日,中国证监会一纸《行政处罚决定书》震动资本市场——江苏诺泰澳赛诺生物制药股份有限公司(以下简称“诺泰生物”)因在2021年年度报告中虚增营业收入3000万元、虚增利润总额2595.16万元,并在2023年公开发行可转债文件中编造重大虚假内容,被处以合计4740万元罚款;公司实际控制人及多名高管合计被罚2880万元,总罚金高达7620万元。,亚博官网地址,贝博ballbet体育官网登录,bobapp官网下载。

责编:段建祥

审核:邵仁杰

责编:吴美蓉

相关推荐 换一换