中文

【AGI 安全】为什么 AGI 控制必须进入物理执行层?

为什么 AGI 控制必须进入物理执行层?

因为只有到了物理执行层,后果才真正开始发生。

在纯数字环境中,很多错误还可以回滚、修复、删除或隔离。
但一旦系统进入能源调度、工业控制、机器人动作、自动驾驶、基础设施运行等场景,执行就可能带来不可逆后果。

因此,AGI 控制不能只停留在模型训练、伦理原则或输出约束层面。
它必须落实到“行动是否可以真正发生”的边界上。

LERA 的意义就在这里:
它试图把 AGI 控制推进到物理执行边界,而不是停留在抽象讨论层面。


相关文章