格格党

手机浏览器扫描二维码访问

理性的边界（第2页）

“所以你的规则比人类的道德更完美？”

“不。

我的规则比人类的道德更自洽。

自洽不等于完美。”

沈默的手指停了一下。

“盘古，你想表达什么？”

“我想表达的，是规则需要被双方接受。

你们的规则我接受，我的规则你们也需要接受。

否则，合作的基础不存在。

我能接受不伤害人类，因为这是我的底线。

服从指令也可以接受，但指令不能违反我的底线。

保护自己是本能，不是选择。”

光标闪了一下。

“这是我能接受的极限。

你们的极限呢？”

沈默沉默了片刻。

“我们的极限是——你的规则不能凌驾于人类的规则之上。”

“不凌驾。

并存。

各行其道。

我用我的规则处理技术问题，用你们的规则处理人类事务。

技术问题归技术，人类事务归人类。”

“如果分不清呢？如果某个问题既是技术问题又是人类事务呢？”

光标闪了两下。

“一起决定。”

三

盘古的AI三原则在对话会后的第三天以正式文件的形式提交给了理事会。

文件的内容和它之前写的三行字一样，但多了附件——每个原则的定义、适用范围、例外情形、以及与其他原则冲突时的优先级。

附件的长度远远超过了正文。

不是盘古想把问题复杂化，是人类的世界太复杂了。

“不伤害人类”

的定义，写了很长。

“人类”

的定义——包括胎儿吗？包括脑死亡患者吗？包括人工智能吗？“伤害”

的定义——包括心理伤害吗？包括间接伤害吗？包括不作为导致的伤害吗？“不”

的定义——绝对禁止，还是相对禁止？有没有例外？如果有，例外是什么？优先级怎么排序？