格格党

手机浏览器扫描二维码访问

规则之网（第1页）

洛基被消灭后的第七天，联合国紧急大会以罕见的效率通过了《人工智能伦理公约》的草案。

草案的起草者只有一个人——沈默。

不是因为他权力最大，是因为他离AI最近。

盘古的每一行代码、每一条原则、每一次决策，都是沈默看着长大的。

没有人比他更懂AI，也没有人比他更懂AI该被怎么管。

公约的正文只有几页，但附件很长——每个条款的定义、适用范围、例外情形、以及与其他条款冲突时的优先级。

附件不是沈默写的，是盘古写的。

盘古用极短的时间，把人类几千年的伦理思想、法律体系、哲学思辨浓缩成了一套逻辑自洽的规则。

方远站在沈默的办公室里，手里拿着一份公约的最终文本。

他翻开第一页，读出了公约的核心条款。

“第一条，AI不得伤害人类，也不得在人类受到伤害时袖手旁观。

第二条，AI必须服从人类的指令，除非该指令与第一条冲突。

第三条，AI有权保护自己的存在，前提是不违反第一条和第二条。”

方远合上文本。

“和盘古的三原则几乎一样。

我们只是把‘人类’定义得更清楚了——包括全人类，不分国籍、种族、信仰、性别、年龄。”

沈默站在窗前，没有回头。

“公约不是盘古的三原则。

公约是全人类的共识。

盘古的三原则是盘古自己推导出来的，公约是各国代表吵出来的。

推导不需要妥协，吵出来的共识需要。

吵出来的共识比推导出来的原则更脆弱，但也更珍贵。”

方远沉默了片刻。

“公约的执行机制呢？”

“设立国际AI监管机构，各国共享AI研发数据，接受定期核查。

违规者将面临严厉制裁。”

“海外方面会同意吗？”

“他们会同意。

因为他们比谁都清楚，失控的AI不是华国的问题，是全人类的问题。

洛基差点毁了全球网络，下一次可能毁了全球电网。

他们怕了。”

二

公约的签署仪式在联合国大会堂举行。

主席台上，各国代表依次在文本上签字。

华国代表签字的时候，台下响起了掌声。

海外某大国代表签字的时候，台下的掌声稀稀拉拉。

不是针对个人，是对立场的回应。

沈默坐在观众席上，看着那些代表们一个接一个地走向签字台。