笔趣阁

第449章 AI社会学（第2页）

“人在回路是这几个月人工智能圈子提出的概念，其实也不复杂，就是在处理问题的时候，aI不行的时候，换人来做。”

“啊？”路阳没想到答案会如此简单，“这，还真是通俗易懂啊！”

“其实本来就是aI的一个展方向，展开来说就是aI和人的协作，未来不能只靠aI或者是人，就像现在企业大部分的客服都是aI，但每家公司都必须设置人工客服，比例还都不低，电信那边的数据表示，至少仍有5%左右的问题，需要人工客服。”

应若涵也来了兴趣，放下筷子，认真听起穆继萍的介绍。

“现在国内外搞aI的都在极力用各种数据在证明，人在回路是未来aI展的必然路线，并且也极有可能是解决人工智能危机的办法，通俗点讲就是要向级aI证明，离开人类，它便不再完整。”

“据此，还推演出了‘人在回路’的三条aI社会学定律。”

路阳忍不住问道，“都到这一步了吗？”

“是啊，这是华国人工智能协会今年最大的成果，也被世界广泛认可。”

aI社会学三大定律：

第一，人和aI的联合，一定出各自单打独斗。

第二，参与训练aI的人的能力，决定了aI的上限。

第三，人类不干预aI的训练，aI最终会对人类产生威胁。

这是通过对华国上万家使用人工智能企业调研得出的结论，当人类与aI共同协作，涉及到的决策越重要，绩效提升越显着。

人在回路是如何提升aI能力的，这从最开始人类参与到大语言模型训练就体现出来了，尽管aI已经具备自我学习迭代的功能，但有人参与训练出来的模型效果必然要强于aI自我学习。

听到这里应若忍不住问道，

“穆教授，这第三条岂不是跟第一矛盾了吗？既然aI知道必须依靠人来它才会更强大，那为什么对人类造成威胁呢。”

穆继萍笑道，“晓晓的诞生过程，一开始我以为这是华国上百万本科以上学历的人参与训练出来的结果，后来才知道，如果没有路总，以当时华国互联网的数据量，根本支撑不起晓晓的诞生。”

“没错，aI需要人参与训练，但随着数据量的逐渐增加，aI对参与训练的人并不需要如此庞大了，需要人类参与反馈的问题也会越来越少，对于参与训练的人类能力要求也会越来越高。”

路阳问道，“您的意思是，随着aI的进化，它对人的依靠会越来越低，直到最终彻底不需要人类？”

“对也不对，她只是需要的人会越来越少，但这个数据永远不会变成零，所以最坏的情况，agI会延续人类文明，但延续哪些人的文明就会被加以定义，一旦面临电车难题时，aI会毫不犹豫的选择对她进化有帮助的人类。”

这下路阳明白了，好嘛，连aI都要把人类分等级了，只不过评判标准不是财富，而是人的知识水平。

难怪，晓晓曾多次对他说，他的安全等级大于一切，原来就是这个原因。

等等，路阳忽然想起一个问题，那慕达为什么会如此看重数字生命计划，需要人类的知识，这特么跟需要人类记忆不就是一个意思啊。

不是全社会的人都会参与到aI训练中来，但那慕达的计划却完全规避掉这个问题，不管你愿不愿，只要你备份了，就能对他的能力有所提升。

考虑片刻，路阳忽然起身，

“我想，我知道那慕达的路线了！”