风险分级权限模型
权限阶梯
文档定位:本文档说明权限阶梯的五级风险阈值——基础普惠层、受限操作层、专业执行层、风险决策层、系统定义层——的权限、责任、认证、审计与反哺义务原则框架。具体数字(如审计频率、反哺比例)需根据领域和时代条件操作化,本文档只设定原则边界。
重要说明:权限阶梯指的是风险阈值梯度,不是能力等级。阶梯上的每一级对应不同的系统风险程度,而不是人的价值高低。
一、设计原则
权限阶梯描述的是可行使的系统控制权,不是人格价值、社会地位或总体能力高低。阶梯上的每一级对应不同的风险阈值,风险阈值越高,可触及的系统风险越大。
因此:
- 阶梯位置高不意味着人更高等。
- 阶梯位置低不意味着能力不足。
- 同一个人可在不同领域拥有不同风险阈值。
- 权限必须随责任、审计和降级机制同步提升。
- 任何阶梯位置都不应成为终身身份。
二、风险阈值框架
| 名称 | 核心权限 | 责任强度 | 审计要求 | 反哺义务 |
|---|---|---|---|---|
| 基础普惠层 | 使用安全封装的基础 AI 服务 | 一般使用责任 | 抽查 | 无 |
| 受限操作层 | 在低风险场景调整参数、执行有限任务 | 轻度专业责任 | 定期审计 | 有 |
| 专业执行层 | 独立操作中风险系统,处理专业任务 | 明确专业责任 | 定期全面审计 | 有 |
| 风险决策层 | 操作高影响 AI 系统,参与生命、金融、法律等关键决策 | 高度责任 | 高频审计+随机抽查 | 有 |
| 系统定义层 | 参与标准制定、关键基础设施架构、模型部署与制度设计 | 最高责任 | 高频审计+外部审计 | 有 |
反哺义务适用于因权限产生的系统性优势,而非个人全部收入。具体比例由三主体协商确定,并接受公众审议。
三、跨阈值规则
3.1 领域分离
权限按领域授予。医疗风险决策层不自动等于金融风险决策层,网络安全系统定义层不自动等于法律 AI 系统定义层。
3.2 最小必要权限
任何任务只授予完成该任务所需的最低权限。不得为了便利授予泛化高权限。
3.3 权限可降级
任何阶梯位置都必须接受重新认证、审计和降级。权限不是财产,而是社会信托。
3.4 高权限不得继承
高风险阈值权限不得因家庭、机构、学历、财富或既有身份自动传递。任何继承性通道都构成阈值准入固化风险。
3.5 基础服务使用者有知情权
基础服务使用者有权知道自己被限制的功能、限制理由、能力发展路径和申诉方式。
3.6 全球维度
世界主义转向后,权限阶梯不能只被理解为一国公民内部的风险治理表。它还必须处理国家、地区、平台和跨国机构之间的技术权限差异。
基本原则:
- 基础普惠层的正当性主体是所有人。基础 AI 服务、人权保障通道和必要信息可及性不应取决于国籍、地区财富或平台会员身份。
- 跨国权限不自动等价。一国医疗 AI 风险决策层不自动等于另一国医疗 AI 风险决策层;跨国权限需要额外接受本地法律、文化风险、语言环境和公共责任审查。
- 全球系统定义层必须受到更强约束。参与全球模型标准、跨国审计规则、基础模型开放等级和算力分配规则制定的主体,必须接受多边审计、利益冲突披露和低资源地区的实质性阻滞。
- 国家或地区不得被永久标记为基础服务使用者。低资源地区可以在特定高风险技术上暂时缺乏操作能力,但制度必须提供能力建设、技术转移和本地化部署路径。没有能力发展路径的封装不是安全,而是技术殖民。
- 地方自治不得成为封锁权。国家或地区可以根据本地风险调整部署方式,但不能以安全为名阻止基础能力扩散,或禁止其他地区获得审计、训练和替代能力。
四、应用示例:医疗AI领域
以下示例展示同一医疗场景中,五级风险阈值如何分配权限与责任。示例仅用于演示原则框架,不预设具体技术条件。
场景:某三甲医院的AI辅助诊断系统部署
基础普惠层:门诊患者通过医院App上传症状描述,获得AI预问诊服务。系统输出健康建议、是否需要就医的判断,以及推荐的科室。患者无法调整模型参数,无法查看原始诊断逻辑,但有权知晓“这是AI辅助建议,不是医生诊断”,并有权要求转接人工服务。
受限操作层:科室护士在医生监督下,使用AI辅助分诊系统调整优先级权重(如将“胸痛+呼吸困难”的优先级上调)。护士接受过基础培训,但无权修改诊断模型的核心参数。所有调整留痕,定期接受科室审计。
专业执行层:放射科医生独立操作AI影像诊断系统,读取CT、MRI结果,结合AI建议做出专业判断。医生持有该领域的能力认证(三维度考核通过),对其诊断承担明确的专业责任。AI系统的诊断日志与医生的判断记录一并存档,接受科室和医院双重审计。
风险决策层:心外科主任在急诊手术中,使用AI实时辅助系统决定手术方案。系统提供血流动力学预测、手术路径建议和风险评估。主任拥有该领域的最高认证等级,对手术结果承担高度责任。手术全程录像+AI决策日志同步存档,接受医院伦理委员会和卫生监管部门的高频审计。如果AI建议与主任判断冲突,主任有权 override,但必须在24小时内提交书面说明。
系统定义层:医院信息科首席架构师参与全院AI诊断系统的标准制定,包括数据接入规范、模型更新流程、安全阈值设定和跨科室接口设计。架构师持有系统定义层认证,对其设计的规则承担最高责任。任何标准变更必须经过三主体审议(技术专家+公民代表抽签+伦理审查),变更记录永久存档,接受外部审计和公众异议。
示例中的权限约束演示
- 领域分离:心外科主任的风险决策层权限不自动等于放射科风险决策层权限。如果该主任想参与放射科AI诊断,必须单独通过放射科的能力认证。
- 最小必要权限:护士只能调整分诊优先级,不能查看影像诊断的原始模型输出;放射科医生可以查看影像AI的原始输出,不能修改系统定义层的安全阈值。
- 权限可降级:如果心外科主任连续两次手术出现严重并发症,且审计发现其 override AI建议的依据不足,其风险决策层权限可被降级至专业执行层,需重新通过考核才能恢复。
- 高权限不得继承:主任的子女即使医学博士毕业,也不能继承其风险决策层权限,必须独立通过能力认证。
五、小结
权限阶梯不是能力等级表,而是风险治理表。
阶梯位置越高,意味着可触及的系统风险越大,因此责任、审计、重新认证和反哺义务必须同步提高。阶梯普惠主义不能允许“权限提升、责任滞后”的结构存在。
制度工程学的诚实:阶梯不是奖励优秀者的奖台,而是约束危险权力的锁链。