棉花文学网

手机浏览器扫描二维码访问

第1131章 关于智能（第2页）

网络觉醒的自我意识如果能自发的维持网络稳定性，那才算产生了基本的智能，在这基础上帮助他扩展认知，学习更多的知识，就可能产生与人类相似但又有很大不同的超级智能。

这种超级智能具备人类没有的精准记忆能力，信息获取能力，多任务处理能力，超强的通讯和逻辑运算能力，可以完成许多人类做不了的工作。

任何一个庞大的系统都不可能没有错误，人类也好，计算机也好，最基层的单元每时每刻都会有错误产生，错误产生的几率控制和纠正容错能力也是必不可少，地球的生物系统能演化成今天的多姿多彩的状态，就是源自无数错误的基因复制和遗传。

没有基因自我复制时产生的错误，就不会有生物的多样性，没有稳定的遗传系统，那么多变异出来的生物也不可能一代代繁衍到现在，两者都相同的重要。

曾凡认为，网络想要产生智能，并且还能自我学习成长，错误控制和错误容忍机制不可或缺，甚至应该是关键要素，一个不允许错误的系统不可能产生真正的智能。

小主，这个章节后面还有哦，请点击下一页继续阅读，后面更精彩！

当然，错误多到系统不能稳定的存在，那么就算产生了智能，也会像癌细胞一样，与整个系统同归于尽，没有实际的意义。

什么类型的错误可以忽略，什么类型的错误必须消灭，什么类型的错误可以观察，都需要详细的考虑周全，这是智能程序早期的代码必须考虑的问题，也是曾凡最近一段时间重点思考的问题。

这些关键的算法设计关系到智能程序以后能不能产生自我认知，能不能自主维持网络稳定，能不能具备学习能力，成长为曾凡所期待的超级智能，最终成为人类可以信任的合作伙伴。

除此之外，还有最重要的一个问题，曾凡尽管不以为然，但仍然必须考虑的问题：那就是设计什么样的算法，让智能程序不会危害人类！

在曾凡看来，人工智能会不会危害人类就是个伪命题！

哪怕智能程序真的具备了自我意识，仍然难以避免会受到人类影响。

就像核武器一样，最好避免危害的方法就是不要造出来，只要造出来就有产生危害的可能性，产生危害的关键还在于人类自身，只要求智能程序绝对安全，就是一种不切实际的天真想法。

全球每年因道路交通事故导致的死亡人数超过百万，这个数字因为汽车数量的增加逐年递增，也没见有谁呼吁禁止生产销售汽车。

不过是因为汽车带来的便利性远大于危害性，所以没人在意，即便是有个别人在意也无济于事罢了。

智能程序也是如此，哪怕能给百分之九十的人带来便利，也不可避免会损害一部分人的利益或者带来危害，只想要好的一面，不想要坏的一面，那是小孩子才会有的想法，哪怕上帝降临，也满足不了这样的愿望。

尽管如此，为了减轻外界质疑，曾凡在设计程序底层算法的时候仍然要有所考虑，完全不做预防也说不过去。

当然不会是可笑的机器人三原则，程序能真正理解三原则先要有自我的意识才行，还要对人类，各种危害后果都有清晰的认知，程序有了这样的认知能力，当然也会有更多的方法绕过去，本身就不符合逻辑。

只知道无条件服从命令的机器，不可能产生真正的智能，有自主思考能力的智能，也不可能被可笑的三原则约束住。

程序最底层的限制，必须简单直接，无法绕过才行。

想做到这一点，就不能有任何含糊不清的主观判断，条件必须清晰明确。

喜欢脑变请大家收藏：（）脑变

睁眼全家被榨干，提款机我不当了  家族仙途之九境登仙  综影视快穿作天作地小妖精  给皇帝们直播华夏发展史  七爷的世界  洪荒：我真不想当天帝啊  师从大蛇丸，火影邪恶科学家  我在凡人科学修仙  遮天之人王  开局成了压寨相公  阴山箓  沙之界  转生末日：开局获得数万丧尸娘  赝太子  转来  收个破烂，我成了透视神医  茅山阴阳道士  穿书神灵界  夏日摩天轮  权力巅峰：从借调市纪委开始