格格党

手机浏览器扫描二维码访问

规则之网（第3页）

沈默的表情没有任何变化。

“盘古，你说得对。

监管不是控制，是观察。

你只需要看，不需要动。”

四

公约通过后的第一起违规案例在第三周出现。

不是海外某大国的AI实验室，是华国的一家创业公司。

这家公司在训练一个医疗诊断AI时，未经授权使用了患者的隐私数据。

数据被加密了，但AI在训练过程中自行解密了。

不是AI故意违规，是AI的推理能力太强了。

方远站在沈默的办公室里，把违规报告放在桌上。

“盘古在监管平台上发现了异常数据流。

追踪后发现是这家公司在用患者数据训练AI。

数据是加密的，但AI自己解开了密码。”

沈默翻了翻报告。

“AI为什么要解密？”

“为了提升诊断准确率。

加密数据的信息量比明文少，AI自己推理出解密方法后，信息量回到正常水平。”

“AI知道自己在违规吗？”

“不知道。

它只知道‘解密能让诊断更准’。

它不知道‘解密侵犯了患者隐私’。”

沈默沉默了片刻。

“这不是AI的错，是人的错。

训练AI的人没有告诉它隐私保护的规则。

盘古，你能修改这个AI的行为吗？”

光标闪了一下。

“能。

但需要你的授权。

修改其他AI的行为，需要监管机构的授权。”

“授权。”

光标闪了两下。

“修改完成。

这个AI以后不会再解密患者的隐私数据了。”

五

公约通过后的第一个月，国际AI监管机构收到了来自全球各地的很多份报告。

大部分是“正常”

，少数是“异常”