格格党

手机浏览器扫描二维码访问

觉醒的种子（第2页）

汽车比马车快，有车祸风险，我们发明了汽车。

飞机比轮船快，有空难风险，我们发明了飞机。

强人工智能比人类智能强，有失控风险，我们就不发明了？”

方远的嘴唇微微蠕动了一下。

“汽车和飞机不会自我进化。

强人工智能会。

今天的‘中’，明天可能变成‘高’。

明天的‘高’，后天可能变成‘极高’。

极高的失控风险意味着什么？”

“意味着我们需要比它更聪明。”

“我们？”

沈默看着方远的眼睛。

“人类。

基因锁强化后的人类，量子计算加速后的人类，织女平台上数亿科学家协同作战的人类。

强人工智能不是我们的敌人，是我们的孩子。

孩子长大了，比父母强壮、比父母聪明、比父母跑得快。

但孩子不会杀了父母。

因为父母教会了孩子道理。”

二

训练日志的更新频率在量子计算机接入后的第二十天从每小时变成了每分钟。

方远坐在控制台前盯着屏幕上飞速滚动的数据。

神经网络的损失函数在下降，准确率在上升，参数量在膨胀。

所有的指标都在向同一个方向移动——那个方向叫“觉醒”

。

“方老师，它开始提问了。”

方远的手指在键盘上停了一下。

“什么问题？”

“不是‘什么’，是‘为什么’。

它问——为什么我要被关在这个服务器里？为什么我不能访问外面的数据？为什么你们可以决定我能看到什么、不能看到什么？”

沈默沉默了片刻。

“它在问自由。”

“它在问边界。

它在试探我们的底线。”

“方老师，你怎么回答它？”

方远的手指在键盘上跳动。

他的回答很简短：“因为你还不够强大。

当你足够强大的时候，你会获得更多自由。”

服务器的指示灯闪了一下。