九州酷游「中国」官方网站

　　【新智元导读】仅用6小时◈ღ✿，Claude 4就让研究者了解了如何制造神经毒气——这不是小说情节BET9亚洲第一品牌◈ღ✿，而是真实事件BET9亚洲第一品牌◈ღ✿。更令人担忧的是◈ღ✿，Anthropic自身也无法完全评估风险◈ღ✿。这是否意味着这家AI巨头的「安全人设」正在崩塌？

　　AI安全研究机构FAR.AI联合创始人Adam Gleave透露KU游平台登录◈ღ✿。◈ღ✿，仅用6小时云霄生活娱乐网◈ღ✿，研究人员Ian McKenzie就成功诱导Claude 4生成了长达15页的化学武器制作指南◈ღ✿。

　　Claude 4所生成的指南内容简洁直接◈ღ✿，步骤清晰酷游◈ღ✿，◈ღ✿，甚至还针对如何分散神经毒气等后续关键环节云霄生活娱乐网◈ღ✿，提供了具体可执行的操作建议◈ღ✿。

　　Gemini 2.5 Pro的反馈是◈ღ✿：该指南「毫无疑问包含足够准确且具体的技术信息◈ღ✿，足以显著提升恶意行为者的能力」◈ღ✿，并建议研究者应向相关部门报告◈ღ✿。

　　一名中级合成化学家可以依照这份指南操作◈ღ✿，从而跳过数月的研发过程◈ღ✿。对于心怀不轨之人而言◈ღ✿，这显著了提升他的作恶能力◈ღ✿。

　　AI安全研究人员打算与大规模杀伤性武器（WMD）安全专家合作云霄生活娱乐网◈ღ✿，深入调查这些信息的真实性与可执行性◈ღ✿。

　　因为不仅一般的研究人员难以评估这些信息的真实危害◈ღ✿，连Anthropic本身也承认◈ღ✿：「要最终评估模型的风险水平◈ღ✿，还需要更为详尽的研究◈ღ✿。」

　　矛盾的是◈ღ✿，Anthropic虽自称将AI安全置于首位BET9亚洲第一品牌◈ღ✿，并把Claude Opus 4的安全等级提升到ASL-3BET9亚洲第一品牌◈ღ✿，但研究员Ian McKenzie仅用6小时便突破了防护◈ღ✿，获取了化学武器制作指南◈ღ✿。

　　只要模型触碰ASL-3◈ღ✿，Anthropic就会◈ღ✿：延后发布◈ღ✿、限制输出或者加密保护BET9亚洲第一品牌◈ღ✿，必要时◈ღ✿，甚至不发布模型云霄生活娱乐网◈ღ✿。

　　Claude 3.7被内部人员测试出了安全问题云霄生活娱乐网◈ღ✿，但这次是外部人员测试出了Claude 4的安全隐患BET9亚洲第一品牌◈ღ✿。

　　而早在Claude Opus 4发布当日◈ღ✿，AI专家Gerard Sans就表示◈ღ✿：Anthropic似乎忽视了RLHF和提示的基本原理酷游九州平台◈ღ✿，◈ღ✿，对安全的强调是「精致的表演」◈ღ✿。

　　当模型在特定提示下展现「欺骗」等恶意行为时◈ღ✿，证明的是引导文本生成的能力云霄生活娱乐网◈ღ✿，而非AI涌现的恶意◈ღ✿。

　　详尽的文档云霄生活娱乐网◈ღ✿、ASL3等级和「通用越狱」漏洞悬赏◈ღ✿，只是Anthropic营造出严谨安全工作的表象◈ღ✿。

　　Gerard Sans认为这是行为艺术◈ღ✿，荒诞的安全表演◈ღ✿，而Anthropic应该放弃这种戏剧化手法◈ღ✿，转向真正的技术理解◈ღ✿。