fix(demo): 消除审计结论的「0分 又显示可以入域」矛盾
用户反馈:合规案例的审计结果出现「0 分」与「可以入域」并存,逻辑混乱。
根因:前端在权威结论(本地规则引擎 + 大模型语义复核合并后的
score/verdict)之外,又渲染了一行「模型自评:VERDICT(SCORE)」——
这是大模型对自己输出的独立自评。由于 MiniMax 非确定性,模型自评
常与权威结论相反(如权威判禁止入域、自评却写可以入域),于是画面
出现「0 分 / 禁止入域」旁边挂着「模型自评:可以入域(0)」的荒谬组合。
修复:
1. 前端删除竞争的「模型自评」行,改为一句不产生矛盾的话——
「最终结论由本地规则引擎与大模型语义复核合并得出;大模型补充的 N
条语义风险已列于下方」。唯一权威结论就是 banner 的 score/verdict。
2. 顺手修了「合规案例」本身的两处真实缺陷(它竟被自家审计判了禁止入域):
- dp_release 里 gaussian_noise 的 seed 写死成 42,违反 RED_LINE 7
(噪声种子不能写死常量,会被重放求平均消去)→ 改为从
mpc_core::osrand::fill_random 取;
- secure_sum 对从没算过 sum 的 vb 又 reveal 了一次同一值(双 reveal
误用)→ 删掉,仅 va.reveal 一次。
3. catalog 补一列 `AuditLog::new()`(原来只写 `Guard::with_audit(audit)`,
模型据此把 AuditLog::new 判成「清单外构造函数」→ 误报 High)。
4. 语义复核提示加第 5 条:只标注确实违背红线/F 规则的点,不制造风险
(接受带注释声明的 MockTee、分模块函数、单次发布 DP 记账、清单内
API),收敛对演示代码的过度报险。
效果(线上复测):
- 矛盾消失:渲染结果只含一个权威 verdict,无「可以入域」、无「模型自评」;
- 合规案例:score 53 / 整改后放行(局部规则 0 命中,模型 5 条建议),
不再是一刀切的禁止入域(模型非确定性仍可能给出更严结论,但已自洽);
- 反面案例:score 0 / 禁止入域,model_verdict == verdict,口径一致。
测试 35 passed / 0 failed;ci.sh 四条全绿;镜像 mpc-demo-v0.1.11 已上线。
This commit is contained in:
1 parent
bc0a271cc4
commit
6419862c71
3 files changed
+17
-5
No files matched your search
@@ -133,7 +133,8 @@ use mpc_data::{Frame, csv::read_csv_str, source::CsvSource};
|
||||
|
||||
# 审计留痕与策略管控(mpc-policy)
|
||||
use mpc_policy::{AuditLog, Guard, Handle, Label};
|
||||
let mut guard = Guard::new(); // 或 Guard::with_audit(audit)
|
||||
let mut audit = AuditLog::new(); // 审计日志(no_std,先建)
|
||||
let mut guard = Guard::with_audit(audit); // 把审计日志绑定到策略守卫
|
||||
guard.check_exec(site, &[handle], internal)?; // 策略检查(不是执行代码)
|
||||
guard.check_transfer(&handle, "peer", false)?;
|
||||
guard.check_fetch(&handle)?;
|
||||
|
||||
@@ -249,7 +249,7 @@ function renderResult(j) {
|
||||
<div class="verdict">${esc(j.verdict)}</div>
|
||||
<div class="meta">
|
||||
${(j.findings || []).length} 条风险 · 阻断项 ${(j.blockers || []).length} 个 · ${engineLabel}
|
||||
${j.model_verdict && j.model_verdict !== j.verdict ? `<br/>模型自评:${esc(j.model_verdict)}(${j.model_score})` : ''}
|
||||
${j.engine === 'llm' ? `<br/>最终结论由本地规则引擎与大模型语义复核合并得出;大模型补充的 ${(j.semantic_risks || []).length} 条语义风险已列于下方` : ''}
|
||||
</div>
|
||||
</div>
|
||||
</div>`;
|
||||
|
||||
@@ -79,6 +79,15 @@ static SEC_AUDIT_SYSTEM: std::sync::LazyLock<String> = std::sync::LazyLock::new(
|
||||
3. 结论口径:score>=90 且无 High → "可放行";>=75 → "有条件放行";
|
||||
>=50 → "整改后放行";否则 → "禁止入域";
|
||||
4. 不要逐条重复已列出的 F 编号问题细节,聚焦「规则判断之外的语义风险」。
|
||||
5. 仅标注**确实违背上述红线或 F 规则**的点,不要制造风险:
|
||||
- 参考/演示实现中,若 `MockTee` 已在注释声明「仅用于自测」并说明真实 TEE
|
||||
(SEV-SNP / TDX)接入方式,不判为违规;
|
||||
- 把 PSI、密态聚合、出域等分模块写成独立函数是正常工程实践,
|
||||
不判为「逻辑脱节 / 统计口径脱节」;
|
||||
- 单次发布的差分隐私预算在本函数内用 `GaussianAccountant` 记账即视为合规,
|
||||
不推定跨批次组合攻击;
|
||||
- 若某 API 已在上方「真实 API 清单」中列出(如 `AuditLog::new`、
|
||||
`Guard::with_audit`),不判为「清单外构造函数」。
|
||||
"#;
|
||||
let mut out = String::with_capacity(head.len() + 4096);
|
||||
out.push_str(head);
|
||||
@@ -776,6 +785,7 @@ const GOOD_CODE: &str = r#"//! 两家医院联合统计糖尿病阳性率 · 可
|
||||
//! 治理闭环:远程证明 → 双盲 PSI → 密态聚合 → DP 记账 → 出域策略 → 审计留痕。
|
||||
|
||||
use mpc_core::hash::sha256;
|
||||
use mpc_core::osrand;
|
||||
use mpc_core::prg::Stream;
|
||||
use mpc_core::ring;
|
||||
|
||||
@@ -832,8 +842,6 @@ fn secure_sum(va: &mut Vault<Pipe>, vb: &mut Vault<Pipe>, a_flags: &[f64], b_fla
|
||||
// 双方各出一半,密态相加后只 reveal 一次。
|
||||
let sum = va.add_local(&a_me, &b_peer)?;
|
||||
let total = va.reveal(&sum)?;
|
||||
// 双方各 reveal 一次(返回值此处不参与计算,用 `?` 直接消费 Result)
|
||||
vb.reveal(&sum)?;
|
||||
Ok(ring::decode(total[0], FXP))
|
||||
}
|
||||
|
||||
@@ -847,7 +855,10 @@ fn dp_release(positive: f64) -> Result<f64, Box<dyn std::error::Error>> {
|
||||
return Err(format!("隐私预算超限 eps={eps:.3} > {EPS_BUDGET}").into());
|
||||
}
|
||||
let clipped = clip_l2(&[positive], 1.0);
|
||||
let noise = gaussian_noise(1, sigma, 42);
|
||||
// 噪声种子必须来自随机源(红线 7):写死常量会被反复重放、求平均消去噪声
|
||||
let mut noise_seed = [0u8; 8];
|
||||
mpc_core::osrand::fill_random(&mut noise_seed)?;
|
||||
let noise = gaussian_noise(1, sigma, u64::from_le_bytes(noise_seed));
|
||||
Ok(clipped[0] + noise[0])
|
||||
}
|
||||
|
||||
|
||||
Reference in new issue
Block a user