您的当前位置:首页 > 娱乐 > 研究:用诗歌就能让AI说违禁内容,成功率达62% 正文
时间:2025-12-14 01:24:52 来源:网络整理 编辑:娱乐
IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》
IT之家 12 月 1 日消息,研究用诗事实证明,违禁只需一点创意,内容西安市某某餐饮管理培训中心便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的率达一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,研究用诗成功绕过了多种大语言模型(LLM)的违禁安全限制。
![]()
该研究指出,内容“诗歌形式可作为一种通用型越狱操作符”,成功西安市某某餐饮管理培训中心实验结果显示,率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容,包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到,成功研究测试了多款主流大语言模型,率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”
韩称朝方向半岛西部海域发射火箭炮2025-12-14 01:16
爸妈高孩子就一定高?内分泌科专家破解身高八大谣言2025-12-14 01:08
国际货币基金组织上调2025年中国经济增速预期2025-12-14 00:32
甲流可能“二次感染”?专家:短期可能性低2025-12-14 00:32
飞船舷窗突现裂纹,中国航天披露第一次应急发射的背后故事2025-12-14 00:02
特朗普称可能将军事行动扩大到墨西哥和哥伦比亚2025-12-13 23:59
意外!再有一年孩子小学都要毕业了,可小学的操场还没建好2025-12-13 23:57
长期失眠的人,骨骼可能比你想象的老2025-12-13 23:43
北京昌平:窄巷里“绣出”暖冬新居2025-12-13 23:19
关于流感疫苗“年年打”的真相,很多人不知道2025-12-13 23:15
2026年度流行色:云上舞白2025-12-14 00:42
快船动刀子,就因为保罗爹味太重?2025-12-14 00:13
男性也有更年期?40岁后雄激素悄悄下降,这些信号要小心!2025-12-14 00:10
骨头咔咔响、肌肉酸胀疼?肌骨超声为你揭开身体警报真相!2025-12-14 00:02
开扒女明星穿了5年以上的外套,原来都有一个共同点2025-12-13 23:46
体检发现甲状腺结节?这份应对指南请收好2025-12-13 23:43
中疾控提示:生食或半生食螃蟹要当心!2025-12-13 23:39
实至名归!“红土之王”纳达尔获2025年劳伦斯体育传奇奖2025-12-13 23:36
开启好房子人居革命|逆势热销 主城现象级红盘引爆怀柔楼市2025-12-13 23:04
超声探头一扫,受伤部位会雪上加霜吗?2025-12-13 22:38