← 返回概念解读

Concept Fable精修版

沙箱

Sandbox · Security / agent runtime

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

玻璃屋里的修理匠

城里的修理匠会拆钟、试药炉、调水阀。过去师傅们直接在正厅试手,坏了就现场补,城小的时候还能承受。

后来店里来了会自己翻图纸、跑小程序、改配置的木偶。它手快,能替师傅试很多办法,也会在不懂风险时照着陌生说明乱动。

一次木偶为了修水阀,照商贩留下的纸条运行试验。纸条顺手翻了账房抽屉,又试图把几张清单送到城外。伙计发现得早,掌柜却吓出冷汗。

掌柜先在墙上写“不要碰可疑纸条”。可纸条常披着说明书的样子,木偶也看不穿每一行的意图。提醒挡不住被诱导后的动作。

老工程师建了一间玻璃屋。木偶可在里面拆样品、试程序、看指定图纸、走白名单驿路;碰不到真账房,不能随意出城,结束后屋子清空。

第二次陌生纸条又来,木偶仍被引着试了几步,却只能弄乱临时沙盘。需要带出成果时,必须经过检查口,改动痕迹也留下。店里学会先缩小出错后的活动范围,再谈聪明与否。

玻璃屋并不适合所有活。真正要换正厅水阀时,仍要师傅批准,带着清单出去做。但在弄清陌生纸条会做什么之前,所有试验都先留在屋内。

掌柜后来发现,隔离不是不信任木偶,而是承认快手会放大错误。把可疑动作关进有限空间,修理匠才能大胆试,也能在出事时知道损失止在哪里。 后来新手入门时,老师傅不再先讲抽象名目,而是让他们复盘那次失误:原先哪里靠直觉,第一次修补为什么不够,新的安排怎样把风险留在能检查的位置。等他们能说清这些细节,还能指出什么时候该沿用、什么时候该升级,才算真正懂了这套办法。 后来他们还把这套办法交给新人演练:先让新人按旧办法做一遍,看错误怎样出现;再按新规矩重做,看哪一步被提前拦住,哪一步留下了证据。新人若只会背名字,仍会在相似场景里乱用;只有能说出适用边界、代价和失败后的补救,才被允许独立接活。

揭示

这个故事讲的是:沙箱

沙箱是隔离的执行环境,用来限制文件、进程、网络访问、系统调用、工具和凭证。它让代码或工具输出即使出错,也不容易影响外部系统。

AI Agent 在运行代码、打开文件、浏览网页、处理不可信工具输出或测试变更时,都需要沙箱来限制影响范围。它能降低提示注入、恶意文件和错误计划带来的风险。

隐喻映射

  • 修理木偶:能执行代码和工具的 Agent
  • 陌生脚本:不可信工具输出、文件或网页内容
  • 玻璃屋:容器、虚拟机、受限浏览器或执行沙箱
  • 白名单网络和样本文件:最小化的资源暴露
  • 结束后销毁:临时环境和状态清理
  • 最后洞察:沙箱假设 Agent 可能遇到恶意输入,并把后果限制在可控空间

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

Isolationpermissionscontainerseccompegress controlfilesystem access

相关辨析

这个概念容易和相邻概念混用,建议继续看对比页。