LERA架构——一种面向高后果系统的先判断可靠性框架

目录

1. 什么是LERA
2. LERA旨在解决的问题
3. LERA的核心原则
4. LERA的作用与意义
5. LERA在何种层级上应对AGI失控风险
6. LERA不是什么
7. LERA并未声称能够解决的问题
8. 定义性结论

1. 什么是LERA

LERA（琳达能源可靠性架构） 是由Linda Liu针对高后果系统提出的一种结构化治理架构。

它既不是用于提升模型性能的算法框架，也不是一句传统的AI伦理口号。
LERA关注一个核心问题：

当一个系统具备强大的计算、判断、预测与执行能力时，究竟由谁有权让它真正付诸实施？

在高后果情境下，真正的危险并不在于系统能够“思考”，而在于其输出结果可能直接转化为现实世界中的行动、状态变化以及不可逆的后果。
因此，LERA的核心主张是：

计算结果本身并不当然享有执行权。
审判、治理、规则与执行必须在结构上相互分离。

LERA的目的并非使系统具备更强的行动能力。
其目的在于确保某一系统仅在其结构上被允许的情况下方可采取行动。

2. LERA旨在解决的问题

现代智能系统正变得越来越强大。
它们能够进行分析、预测、优化、推荐，甚至自主规划复杂的任务。然而，在涉及物理世界、基础设施、能源系统、设备控制、人员安全或其他不可逆后果的场景中，“更智能”本身并不足以成为执行决策的依据。

许多系统的基本缺陷并不在于它们的计算有误。
问题在于，他们被默认允许将“已计算出的结果”直接转化为“将要采取的行动”。

这造成了若干结构性问题：

• 一个系统可以在提案与执行权限之间不作严格区分的情况下生成提案。
• 规则可能存在，但并不适用于实际的执行边界。
• 责任可以在事后讨论，但不得在执行前予以约束。
• 风险可以得到评估，但并未建立不可绕过的阻断机制。

LERA的重要意义在于为这类失效确立了明确的结构边界：

任何能够产生现实后果的执行行为，都不应仅由情报驱动；它必须经过独立的治理与执行管控。

3. LERA的核心原则

3.1 判决并非执行
一个系统可以计算、推荐并判定哪种方案更为可取。
但这并不意味着它本身就拥有将该结果转化为现实行动的权利。

在LERA制度下，虽可作出判决，但执行须另行获得授权。

3.2 执行权应当单独予以规范
在高风险系统中，执行不仅是一个性能问题，更是一个权限问题。
一个系统是否“足够智能”，以及它是否“被允许执行”，必须分别加以考量。

LERA不仅规范系统能力，还规定了进入执行阶段的资格。

3.3 默认继续是危险的；默认阻止才是高可靠性的起点
在后果不可逆转的情况下，系统不得仅因“未出现明显错误”而自动继续运行。
LERA采用了一种 默认块 治理逻辑：

除非已明确获准，否则任何执行均不得自动发生。

3.4 责任须在执行前明确，而非事后才追究
如果一项行动能够改变现实世界，那么责任、权限、规则与边界就必须在行动发生之前就已经确立，而不能仅在事件发生后才予以说明。

3.5 规则必须可执行，治理必须不可绕过
有效的治理并不仅仅是写在文件中的原则。
这是一种实际上可以在执行边界上强制实施的约束。

如果规则无法落实到执行层面，它们就只是意见，而非真正的管控。

4. LERA的作用与意义

LERA 的重要意义并不在于取代所有的人工智能安全研究。
其重要意义在于为高后果系统中长期缺失的一个结构性问题提供了答案：

当智能系统逐步具备愈发强大的判断、规划与执行能力时，究竟由谁来决定它们是否可以真正付诸实施？

其作用主要体现在以下几个层面。

4.1 在结构层面：将“具有判断能力”与“被允许执行”相分离
如今，许多系统都默认将智能输出视为执行的充分依据。
LERA通过将决策权、治理权与执行权相分离，从而阻断了这一路径。

这意味着，LERA 并非主要致力于解答某个系统是否能够思考这一问题。
它试图解决这样一个问题：一个系统的思维是否能够在无需独立许可的情况下直接转化为行动。

4.2 在治理层面：为高后果执行划定独立的边界
LERA 关注的是那些在执行过程中可能造成现实世界中的损害、基础设施扰动、设备位移、能量释放、人员风险或其他不可逆后果的情景。

在这样的语境下，关键不在于模型的得分高低，而在于是否存在一条独立于模型本身的治理边界，该边界负责决定：

这一步是否能够付诸实施。

4.3 在AGI风险等级下：管控从智能到现实的最终过渡
AGI或更高级系统真正的危险，并不只在于它们能够思考什么。
这在于其输出有可能经由接口、系统、设备及基础设施，最终对现实世界产生影响。

LERA的重要性恰恰在于试图掌控这一最终的转变：

从判决到执行，从产出到后果，从计算到现实。

换言之，LERA并不声称能够消除所有智能系统风险。
它所针对的是AGI失控风险中最关键、却最常被忽视的层面之一：

执行时失控。

4.4 在责任层级上：将责任前移至执行发生之前
许多治理机制仅在事件发生后才讨论责任问题。
LERA 的不同之处在于，它坚持认为，在执行发生之前，责任、规则、许可与界限必须已经存在。

这将治理从事后解释转变为事前约束。

4.5 在文明层面：将能力重新置于许可之下
如果未来系统愈发强大，而人类社会对执行权仍缺乏有效的制度性约束，那么更高的智能也将意味着更大的潜在后果。

LERA的更深层意义在于重新确立一项原则：

仅有能力本身并不足以自动构成行动的正当性。

5. LERA 在何种层级上应对AGI失控风险

LERA 并未将 AGI 的失控归因于“模型的推理出现偏差”或“其价值取向未能对齐”这类说法。
它聚焦于一个更为具体的问题：

当一个高度智能的系统具备与现实世界的接口时，究竟有何机制能够防止其在未经许可的情况下进入高后果的执行状态？

从这个意义上说，LERA主要在以下几个层面开展工作。

5.1 执行边界级别
这是LERA的最核心层级。
其旨在防止通用人工智能的输出在未经独立治理的情况下直接进入现实世界的执行环节。

5.2 规则约束级别
通过WRS，LERA在执行前施加了不可忽视的前置条件，因此“能够做某事”并不等同于“被允许做某事”。

5.3 规则演化控制级别
通过RCC，LERA防止治理边界随着时间的推移因无声的松弛而逐步被侵蚀。

5.4 物理执行级别
通过ECS，LERA将治理从抽象原则延伸至具体的执行管控，确保阻断措施不流于文字，而能在实际边界处得以落实。

5.5 事件后问责级别
通过JFIR，LERA将评审重新引回一个更为根本的问题：

这起处决本就该被允许执行吗？

5.6 LERA对AGI失控问题的务实立场
因此，LERA并不旨在确保通用人工智能永远不会产生危险的念头。
它解决了一个更为根本的问题：

即便一个系统具备极强的能力，它是否仍能在未经结构层面许可的情况下直接改变现实？

LERA的答案是：

No.

如果一个系统能够达到高后果的执行状态，那么就绝不能仅凭其自身输出就允许其进入现实世界。
它必须首先经过独立的治理决策、规则验证以及执行边界控制。

6. LERA 不是什么

为避免误解，LERA并非下列任何一种情况。

6.1 它并非模型优化框架
LERA 并非旨在让模型变得更智能、更快或得分更高。
它关注的是执行权，而非绩效指标。

6.2 这不仅仅是一种伦理呼吁
LERA 并不满足于诸如“系统应当更加负责任”之类的表述。
它强调的是那些具有可执行性、约束力并能够有效阻止行动的治理结构。

6.3 它并未对每个系统施加同等强度的限制
LERA 适用于高后果、不可逆、零容忍或高责任密度的情境。
其目的并非在各处进行干预，而是在结构上确有必要之处划定界限。

6.4 它不能替代事故后的责任承担
LERA 并非旨在使事后调查显得更为优雅。
其立场是：

真正的治理必须在执行之前就向前推进。

7. LERA 并未声称能够解决的问题

LERA并不声称在每一种情况下都能保证作出正确的判断。
它也并未声称某种单一架构能够消除所有智能系统风险。

LERA所针对的，正是AGI风险中最关键的一类：

如何防止高能力系统在未获结构化权限的情况下直接进入高后果执行状态。

因此，LERA 并非旨在取代认知安全、模型安全、对齐研究或法律治理。
其目的在于填补长期以来在那些讨论之外一直缺失的一环：

执行控制。

LERA的价值并不在于宣称实现全民覆盖。
关键在于识别这样一个长期以来被忽视、却在通用人工智能时代变得至关重要的问题：

若缺乏对执行权的独立掌控，即便再强有力的治理叙事也可能在现实的边界处遭遇挫败。

8. 定义性结论

LERA（琳达能源可靠性架构）是一种用于高后果系统的结构化治理架构。
通过将决策、治理、规则制定、规则变更管控、执行监督以及事后审查等职能予以分离，构建起对执行权的独立制约机制。
在LERA框架下，智能输出不得自动转化为现实世界的执行；任何具有重大影响的行动，在付诸实施之前，都必须经由规则、治理机制以及边界管控予以明确授权。

LERA的核心并非在于强化智能，而在于为执行划定更为清晰的边界。