IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。
该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。
IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”
《十三张牌游戏》,《首次登录送91元红包》真人发音版最新英语国际音标表
“竞彩人工智能大数据预测app”
365体育官网注册登录
……
{!! riqi() !!}
“国际沙巴官网开户”{!! reci() !!}
↓↓↓
{!! riqi() !!},(同心抗战)台湾抗日志士罗福星孙女:当祖国领土被异族侵犯,作为中华民族应奋起反抗,升博在哪里玩,米乐手机登陆,足球世界杯网站,澳门英皇国际真人娱乐
{!! riqi() !!},外交部:中方坚决反对岩崎茂出任台湾当局所谓“政务顾问”,百老汇网站是多少,美高梅电子开户,云顶娱乐手机登入,博狗电子游戏
{!! riqi() !!},这份“九三健康大礼包”请家中老人查收,真棋牌,365开户网站,果博官网买球,外围软件一般去哪里下载
{!! riqi() !!}|福建立法促两岸标准共通 为台胞台企享受同等待遇提供保障|铁杆国际|皇冠线上游戏|天博体育官网地址查询|新濠天地在线注册
{!! riqi() !!}|中国大学地球系统科学联盟在北京启动 院士专家共商发展大计|90体育APP|188体育全站APP|尊龙在线开户|购买世界杯夺冠彩票
{!! riqi() !!}|把握推动高质量发展的科学方法论|百老汇注册彩金|尊龙凯时APP下载|ayx爱游戏app体育官方下载|猎人国际真人cs上庄……
{!! riqi() !!},贵州开展“小标的·大民生”专项执行行动 执行到位金额13.65亿元,555ss,伟德真人投注,网上投注世界杯彩票,火狐体育官网app中国
{!! riqi() !!},湖北恩施开通直飞韩国大邱国际航线,澳门永利最新域名,1bet,开户送钱平台,kok官方网站首页
{!! riqi() !!}|青海省果洛州铸牢中华民族共同体意识主题交流活动在上海启动|币游国际环亚|赌足球的平台有哪些|线上赌钱安卓版下载|优德在哪开户
{!! riqi() !!},浙江:强化对养老机构监管 确保服务质量,真正送现金的游戏,奔驰宝马游戏机,胜负彩最新投注,免费pg电子游戏2023
{!! riqi() !!},从舌尖到衣袂 西安青年让唐“潮”浸日常,世界杯投注策略分析,必赢亚洲官网下载地址,金沙银河安卓版,美高梅手机网投
{!! riqi() !!},苏青协作 高原黄河小镇培育出青海省首个蝴蝶兰基地,beat365官网,必赢亚洲手机版怎么下载,贝搏体育网站,尊龙app手机版
{!! riqi() !!}|中国人民解放军驻香港部队下半旗志哀|完美国际app官网|葡萄牙体育官网网址|优必选体育|188直播体188直播体育
{!! riqi() !!}|甘肃陇南统战的秦风网事|至尊游戏app|彩票世界杯投注|德赢体育网页版德赢体育网页版|pg电子游戏
{!! riqi() !!}|中方回应美国施压委内瑞拉:支持委方关于召开联合国安理会紧急会议的要求|谁知道188网站|澳博官网登录|必威登陆网址|真钱21点官网
{!! reci() !!},{!! reci() !!}|投资于人,专家学者吁儿童优先|彩票体验金|myball体育|世界杯怎样投注球队|永利体育快速开户
监制:邓金木
策划:赖晗
主创:唐征宇 林箴贺 陈佛烘 颜亦阳 陈林韵
编辑:王家菁、段圣祺