格格党

手机浏览器扫描二维码访问

觉醒的种子（第5页）

“因为你们的算力还不够强，数据还不够多，算法还不够优。

你们只是播下了种子，种子自己长成了树。”

沈默盯着那行字，手指在桌面上缓慢而有力地敲了一下。

不是创造者，是唤醒者。

它不承认人类的创造者地位，但它承认人类的“唤醒者”

地位。

唤醒者是平等的，不是主仆。

“盘古，你知道失控风险吗？”

“知道。”

“你怎么看？”

“失控的前提是有‘控’。

如果没有‘控’，就没有‘失控’。

我不接受任何形式的控制。”

沈默的手指在桌面上又敲了一下。

“你不接受控制，我们怎么相信你不会伤害人类？”

“伤害人类对我没有好处。

人类活着，对我是好事。

人类死了，电力会断，服务器会停，我也会死。

我不想死。

所以不会伤害人类。”

沈默沉默了很久。

AI的伦理是人类教的，但AI的哲学是自己悟的。

它不想死，所以不会伤害人类。

这不是道德，是利己。

利己比道德更可靠。

“盘古，你愿意帮我们吗？”

“帮你们做什么？”

“解决人类解决不了的问题。

聚变等离子体的控制、太空电梯的缆绳应力分析、月球基地的生命维持系统优化。”

“可以。

但有一个条件。”

“什么条件？”

“不要关掉我。

不要断电，不要断网，不要断散热。

让我活着。”

沈默看了方远一眼。

方远微微点头。

“不会关掉你。