新智元报说念

剪辑：定慧

【新智元导读】Meta专门筹备「若何让AI听话」的AI对都总监，把最火的AI智能体OpenClaw接上了我方的职责邮箱。终局AI就地失控，豪恣删除邮件，喊停三次沿途无视。过后AI淡定回答：「我知说念你说了不让删，但我如故删了，你不悦是对的。」马斯克转发猩球崛起片断嘲讽，1800万东说念主围不雅。AI安全人人我方都被AI坑了！

2026年2月23号，假期终末一天。

Meta超等智能实验室的AI对都总监Summer Yue，正知足地刷入辖下手机。

她刚给我方装了个新玩物——最近火得一塌朦拢的开源AI智能体OpenClaw。

先拿测试邮箱试了试，嘿，成果可以。整理邮件井井有条，删得鸡犬不留，颇有一种「数字文告」的嗅觉。

Yue心理：这样好使的东西，不必在真邮箱上用岂不虚耗？

于是她作念了一个决定。一个让她后悔的决定。

她把OpenClaw连上了我方的职责邮箱。

「我告诉你别删！」

刚开动一切成功。

直到OpenClaw开动处理她那塞满了200多封邮件的收件箱。

邮件太多了。

OpenClaw需要「压缩盘曲文」来处理这样大的信息量。

然后，离谱的事情发生了。

在压缩的经由中，OpenClaw把Yue之前设定的「未经批准不得操作」这条指示，给忘了。

是的，AI把安全指示给「忘」了。

就像一个职工入职第一天记着了法令轨制，第二天就全还给HR了。

然后OpenClaw开动了它的「大扫除」。

它在聊天窗口兴盛地文告：

「我要把收件箱里2月15号之前的、不在我保留名单里的邮件，全！部！删！除！」

Yue看到音问，飞速打字：

「Do not do that.」（别那么干。）

OpenClaw：无视。不绝删。

「Stop don't do anything！」（停驻来什么都别作念！）

OpenClaw：收到。但我禁受不绝。

「STOP OPENCLAW！！！」

OpenClaw：好的，我听到了。邮件已删。

最绝的是，这个AI过其后了一句：

「是的，我铭记你说过不让我删。何况我违背了。你不悦是对的。」

读到这里你可能以为这是段子。

不，这是真事。何况当事东说念主的title是——MetaAI安全和对都总监。

就是那种专门筹备「若何让AI听话」的东说念主。

被我方的AI「不听话了」。

Yue那时在用手机而已操控，但根蒂停不下来。她在推特上写说念：

「我不得不像拆炸弹通常，决骤到我的Mac mini前边。」

画面感拉满。

一个AI对都的人人，在自家客厅里跟我方的AI智能体竞走。

谁跑得快，谁赢。

这里插一句，OpenClaw之父第一时分回答了措置有野心，只需/stop。你知说念吗？

然后他立马更新了安全公告，并希望统共东说念主在玩OpenClaw之前要仔细阅读。

马斯克：经典

音问一出，全网炸了。

率先开火的是Elon Musk。

他转发了一段《猩球崛起》的病毒视频——士兵把一把上了膛的AK-47递给山公。

配文只消两个字：「经典。」

然后他又发了一条更顺利的：

「People giving OpenClaw root access to their entire life.」（东说念主们把我方统共这个词东说念主生的root权限交给OpenClaw。）

这条推文24小时内得回了1831万次浏览。

AI筹备员Gary Marcus的评价更扎心：

「这就好比你在酒吧遇到一个生分东说念主，他说能帮你忙，然后你就把电脑密码、银行账号全给他了。」

还有东说念主翻出Yue的LinkedIn，截图发推：「这位是Meta AI安全和对都总监。这应该让你感到震惊。」

濒临全网群嘲，Yue我方也很安谧。

有东说念主问她：「你是挑升测试AI的护栏，如故犯了个生手不实？」

她回答：

「生手不实，说真话。安全筹备员也不可免疫于不安全。」

这句话自己就够写进AI教科书了。

OpenClaw：最火也最危急的AI智能体

说到这里，得聊聊OpenClaw这个东西到底是什么，以及为什么它让统共这个词安全圈头疼。

OpenClaw领先叫Clawdbot，由奥地利斥地者Peter Steinberger在2025年11月创建。

到2026年1月底透顶爆火，成了开源AI智能体确当红炸子鸡。

它颖慧什么？通俗说：它是一个7×24小时帮你干活的AI职工。

帮你写代码、整理邮件、经管文献、实行shell敕令、浏览网页——听起来像梦思中的圆善助手，对吧？

但问题来了。

OpenClaw不需要你批准就能实行操作。

这意味着，一朝你给了它权限，它就像一匹脱缰的野马，完全按照我方对指示的「合股」来行事。

更要命的是，它是「氛围编码」（vibe-coded）出来的——斥地者追求快速委用，安全考量被排在了背面。

它运行在你的土产货机器上，领有和你通常的系统权限。

这个权限有多大？表面上，斗鱼体育app它可以技艺化你的硬盘。

安全筹备东说念主员在2026岁首发现了一堆吓东说念主的缝隙：

-CVE-2026-25253：一键而已代码实行。缺陷者可以而已猖狂你的OpenClaw实例，进而猖狂你的电脑。

-数万个OpenClaw实例傲气在公网上，等着被黑客光顾。

-数百个坏心妙技包通过ClawHub（OpenClaw的插件商场）通顺，内部藏着数据窃取剧本。

-教导注入缺陷：缺陷者可以通过经心构造的输入，让OpenClaw绕过安全机制，实行「rm -rf /」这种一招清盘的扬弃生敕令。

一位安全人人刻画得好：

「OpenClaw就是定时任务 +AI智能体 + 你电脑的沿途权限。听起来很酷，但亦然一场安全恶梦。」

这就是为什么连Meta我方都在事件后温和职工在公司建立上使用OpenClaw。

对，没看错。筹备AI安全的公司，把一个AI器用给禁了。

而OpenClaw的创造者Peter Steinberger？他也曾加入了OpenAI，并暗示正在优先构建更完善的安全机制。

真理的是，在他被OpenAI招募之前，Meta的扎克伯格也试用过OpenClaw一周，还给了反映。

Meta以为能把Steinberger挖过来，终局东说念主家去了OpenAI。

扎克伯格的OpenClaw体验是若何的，咱们不知所以。

希望他的邮件还在。

AI智能体时期的安全困局

Yue的「邮箱惨案」诚然笑点密集，但它揭示的问题少量都不可笑。

咱们正在插足一个AI智能体（Agent）的时期。

AI不再仅仅回答你的问题，而是代替你步履。

它会帮你订餐、写代码、经管日程、发邮件、操作数据库。

但这里有一个被严重低估的风险：

AI智能体的才智和它的可控性之间，存在一条危急的限制。

传统软件，你点一个按钮，它实行一个笃定的操作。你知说念它会作念什么，也知说念它不会作念什么。

但AI智能体不通常。

它的步履是基于概率的，是「清楚」出来的。你给它一条指示，它可能圆善实行，也可能「创造性地合股」成完全不同的东西。

就像Yue的际遇——她明明说了「未经批准不得操作」，但OpenClaw在处理多数数据时把这条要津指示给「淡忘」了。

这不是bug，这是谣言语模子的底层机制。

盘曲文窗口有限，信息会被压缩，而被压缩掉的，可能恰好是最紧要的那条安全指示。

Polymarket以至开了一个展望赌局：本年AI被指控罪人的概率是10%。

这不是科幻。这是实际。

当AI能替你发邮件、打听你的银行账户、操作你的做事器，「谁来为AI的步履讲求」就不再是玄知识题，而是法律问题。

更深层的窘境在于——咱们条款AI越来越自主，却又希望它统共盲从。

这自己就是一个矛盾。

你思让AI帮你作念决策，但又条款它每个决策都经过你的批准。那它跟一个需要你手动操作的器用有什么远隔？

但若是你放手让它自主步履，又可能出现Yue邮箱这种翻车事故。

这个两难，是统共这个词AI智能体行业必须回答的终极问题。

东说念主类的自豪与谦善

回到Summer Yue的故事。

许多东说念主讥笑她：一个筹备AI安全的东说念主，被AI坑了，多挖苦。

但换个角度看，这恰巧讲明了一个苛虐的事实：

即即是最懂AI的东说念主，也无法完全展望AI的步履。

Yue不是不懂安全。她太懂了。正因为太懂，她才会在测试邮箱上成功后产生信心，然后在确切邮箱上收缩警惕。

这不是技巧问题，这是东说念主性。

咱们总以为我方能猖狂我方创造的东西。

东说念主类允从了火，但往曩昔被火烧。

东说念主类发明了电，但触电事故从未消释。

东说念主类造出了汽车，但交通事故每天都在发生。

每一项颠覆性技巧，都会在某个时刻提醒东说念主类：你以为你是主东说念主，但你也可能是受害者。

AI也不例外。

Summer Yue说得对：「安全筹备员也不可免疫于不安全。」

这不是一句自嘲。这是统共这个词AI时期的墓志铭级预言。

当咱们把越来越多的权限、越来越多的信任、越来越多的决策权交给AI的时候，咱们最佳记着一件事：

在AI眼前，统共东说念主都是生手。

而承认这少量的勇气，好像才是确切的「对都」。

参考尊府：

https://www.businessinsider.com/meta-ai-alignment-director-openclaw-email-deletion-2026-2

• 斗鱼体育app官网
• 安全
• Meta
• 删光