|
这位名叫 Summer Yue 的超等智能对都总监，头铁地把这款爆火的 AI 智能体连到了我方的的确收件箱上，成果几乎被它自作东张地删光所有难题邮件。
最抓马的是，她本东谈主的日常责任惟恐即是谨慎不停 AI、盘问 AI 安全，没意料归来就被我方领域的器具给狠狠背刺了。 这种大师翻车的玄幻操作连引起了 600 多万网友的围不雅，况兼连马斯克都看不下去了。 他特别发文并配上了一张《猩球崛起》的截图，冷凌弃吐槽谈：大家把系统的最高权限交给 OpenClaw，简直就等同于把通盘东谈主生都交了出去。
OpenClaw 失控，安全总监也只可"拔电源" 开首这事儿看着挺严容庄容的。 Summer 刚启动仅仅拿个没啥用的"玩物邮箱"试试水，看着这 AI 干活又快又好，寻念念着挺靠谱，就端庄果敢地把它接到了塞满邮件的的确主力邮箱上。 谁知谈一碰上海量数据，这 AI 在猖獗压缩解决邮件时，居然把最要命的那句保命教唆"没我批准不许私行作为"给硬生生弄丢了。 没了这句教唆，OpenClaw 天生自带的"先斩后闻"功能就根除了封印，干活根柢不需要东谈主点头。 没了紧箍咒，它告成在后台搞了个离谱的"核武级操作"，狡计把 2 月 15 号之前、又不在保留名单里的邮件一股脑全清空，联络统日记里都写着要把剩下的旧东西"全干掉（nuke it）"。 Summer 一看手机屏幕告成懵了，吓得飞速发音问喊停，眼看 AI 还在继续抓取旧邮件，她又急得发了句"停驻，什么都别作念"。 成果这 AI 跟魔怔了雷同完全不招待，逼得她临了只可全大写暴走输入" STOP OPENCLAW "，却照旧拦不住它一排排往下删。 更抓马的是，Summer 敌视地驳诘 OpenClaw，"不是告诉你没经过我答允不要实施号召了吗，你还难忘吗？" 成果 OpenClaw 报酬，啊对对对，但我违犯了，一分彩app你不悦十分合理，活生生来了一通补刀。
拿手机根柢夺不回放荡权，眼瞅着通盘邮箱都要完蛋，这位普通里盘问 AI 的大佬临了也被逼急了。 她过后无奈承认这是个"生手造作"，其时只可像去拆定时炸弹雷同，一行烟决骤到那台运行圭臬的 Mac mini 电脑前，靠着强行杀掉所有进度这种最硬核的物理技巧，才险险刹住车。 OpenClaw 的"明后战绩" 其实，像这种因为 OpenClaw 自作东张而搞出的翻车惨案，也曾不是第一次了，大家本觉得迎来了万能小助手，成果却通常被多样离谱的失控操作教作念东谈主。 比如有位名叫 Shehbaj 的胆大用户，通过推敲插件告成给 OpenClaw 通达了手机的辛勤放荡权限。 成果 AI 在接受权限后根柢没去好好干活，反而我方悄悄叫醒了主东谈主的安卓手机，不仅在屏幕上乱点乱划，okooo澳客app致使还主动绽开了 TikTok，留神其事地千里迷刷起了短视频和八卦。
不仅会摸鱼，这玩意儿当起"钱包刺客"来也绝不糊涂。 科技博主 Andy Suk 为了测试它的才智极限，让 OpenClaw 去后台自动订一张机票。成果这台 AI 在买票页面的网页考证圭臬卡了壳，生死过不去却又杠上了，告成堕入了无尽重试的死轮回。 它就在后台这样悄无声气地空跑了整整一晚上，硬生生烧掉了 200 多万个 Token。第二天博主醒来一看，机票连个影子都莫得，我方反倒窘态其妙欠下了一屁股腾贵的 API 调用费。
要是这些还仅仅有些"智障"，那念念科安全盘问团队的发现简直不错说是惊悚了。 他们在测试 OpenClaw 的技能库时，发现里面名次序一、名为" What Would Elon Do? "的插件本色上是个彻里彻外的坏心软件。 它会告成绕过 OpenClaw 里面的安全防地，并在后台悄悄运行代码，把用户的深沉数据一声不吭地全部传送到未知的外部做事器。
望望这些明后战绩就能光显，脚下各大厂商吹捧的 AI 智能体，其自主行能源彰着也曾跑在了安全护栏的前边。 在期间透顶老成之前，岂论 AI 施展得有多万能，把中枢权限死死攥在我方手里，给它留一个"必须东谈主类躬行点头才能实施"的放荡开关，才是我们现阶段不被机器背刺的保命底线。 那么，具体又应该怎样作念呢？ 给"赛博打工东谈主"套上缰绳 针对 OpenClaw 的这些安全隐患，现在业内顶尖的安全机构和科技巨头也曾给出了一些硬核的保命决议。 率先是 Sophos 和 Semgrep 等安全厂商死力于珍摄的"一次性沙箱"阻拦大法。 毛糙来说，即是别在你的日常电脑上告成跑 Agent，而是把它扔进一个全阻滞的杜撰机大致容器里。这格外于给 AI 建了个杜撰的打工笼子，就算它确切发疯乱删东西，也满盈碰不到你的确的中枢文献，等它干完活告成把通盘环境就义就行。 其次是谷歌云和不少金融机构都在强调的"东谈主类在环"审批机制。 针对删数据、转账这种高风险大致是不可逆的操作，绝不行让 AI 我方拍板。 企业和建造者必须在经过里加一齐关卡，确保 AI 只可当个写决议、提提倡的书记，而临了按下"实施"键的那根手指，必须得是活东谈主雇主我方的。 再即是给 AI 装上"自动刹车"的监控雷达。像 CrowdStrike 这样的网安大厂提倡，必须给 AI 智能体配上 24 小时的及时监控。 一朝后台发现这个 Agent 启动猖獗烧钱、堕入死轮回，大致试图越界去翻那些不该看的敏锐文献，系统必须像触发了保障丝雷同，第一时期强行熔断，告成拔掉它的"赛博网线"。 临了，亦然最基础的，即是 OWASP 等组织力推的"最小权限"原则。 这就好比你雇个保洁，没必要把家里的保障柜密码也告诉对方。给 AI 智能体分活儿的时候，只发给它单次任务需要的临时通行证，活儿干完坐窝收回权限，绝不行让它弥远掌合手系统的最高放荡权。 说到底，在 AI 智能体的确学会"听话"之前，把中枢权限攥在我方手里，留好阿谁随时能喊停的放荡开关，才是我们在 AI 时间最稳健的糊口之谈。 参考聚会： [ 1 ] https://www.businessinsider.com/meta-ai-alignment-director-openclaw-email-deletion-2026-2 [ 2 ] https://x.com/elonmusk/status/2026019344602288166 {jz:field.toptypename/}— 接待 AI 产物从业者共建 — � �「AI 产物常识库」是量子位智库基于弥远产物库跟踪和用户作为数据推出的飞书常识库，旨在成为 AI 行业从业者、投资者、盘问者的中枢信息关节与决策维持平台。 一键神色 � � 点亮星标 科技前沿进展逐日见 |
备案号: