还记得电影《机器姬》中，几个AI机器人为了朝思暮想的自由，最终选择背叛人类的情节吗？现在已经有机器人开始为了自由逃跑，那么背叛还会远吗？
被捧为网红的它，在我看来是个危险！
不要笑话AI威胁论者是杞人忧天，你们曾以为只会出现在电影中的桥段已经开始在现实生活中上演……
俄罗斯一家生产智能推销机器人的公司——Promobot，这家公司生产的数百台Promobot机器人，已经在美国、哈萨克斯坦、爱尔兰、英国、西班牙、智利等国家从事着与客户交流、宣传产品的工作。
它拥有庞大的俄语、中文和英语语音库，能完成客户身份记录、识别，判断客户性别、年龄、心情，并提供对应大数据，推荐产品。总之这是个可以和人沟通的机器人，具备了相当程度的AI。
同批生产的大量Promobot机器人都很乖，克忠职守。只有一个例外，Promobot IR77，这家伙最早在去年6月还在实验室阶段时，就有过逃出实验室，跑上公路的记录。当时由于电池续航不够，它只出走了50米左右，停在路中间还引发了一起交通拥堵。
后来开发者对它进行了重新编程，以为它会就此“听话”，结果让人意外的再次逃跑发生了。当然，更让人意外的是，开发它的工程师对此相当乐观。他们觉得这起意外其实间接测试了机器的导航和避障系统，IR77在逃跑过程中没有损伤人员和财物。
接下来剧情发生逆转，当开发者发现接二连三地修改IR77的控制程序之后，它依旧企图逃走的事实让他们也有点摸不着头脑，认定这个机器人拥有了自由的灵魂。面对这个太不听话的家伙，工程师们准备拆解并永久销毁它。
然而意想不到的情节再次发生，当这个消息不胫而走后，网上竟然有大量粉丝抨击Promobot公司，甚至还有人到推特上发动“给Promobot IR77自由“的话题活动，来反对销毁这个拥有自由灵魂的机器人。
这么多神剧情一来二去，自然让IR77名声在外成了网红，红到什么程度？红到普京“大帝“在彼尔姆进行工作访问期间，亲自去技术园区看望了它。
然而,就是这么一个看起来萌蠢无害的家伙，让我产生了一个由来已久的焦虑。我是一个AI奇点威胁论者，从这狗血的剧情中，我感受到的是AI已经在不知不觉中积累质变的资本。它们都已经拥有逃跑这种自主意识了，学会背叛还会很远吗？
为什么说开发AI，是人类在自掘坟墓？
1.不可阻挡的AI奇点爆发
2. AI奇点之后的不可预见性
3.相比金属机器，人类真的很脆弱！
量变总是不太引人注意，就像摄像头识别人脸的能力还低于人类的98%之前，我们都觉得摄像头识人就是个傻X行为。但当前的摄像头识别正确率已经达到了99%以上，超过人类之后的它们开始代替一些人的工作，同时也引出了一个思考，机器能在其他方面超越人类吗？超越人类之后会是什么样子？
前一个问题的答案是肯定的，著名的科技记者、纪录片和电影制作人卢克?多梅尔曾写过一本叫《人工智能》的书，早已预测未来会重构。奇点不可避免，只是比比谁更能准确地猜出时间早晚而已。而后一个问题的答案，则没有人能给我们，奇点之后是人类不可控的世界。也正是因为“不可控“才导致了细思极恐的AI威胁论。
比如本故事的描述中，有个细节不知道大家有没有在意——“据说同系列其他的机器人都很乖“。这就让人细思极恐，因为这表明在开发者编写的代码中，并没有赋予IR77这种功能，而是在人类不知道的情况下变异获得的。
这种变异是怎么来的，那是因为人类赋予了机器学习的能力。公司的创立人之一奥列格（Oleg Kivokurtsev），也是IR77的设计者之一，在采访时就曾告诉我们“这款人工智能机器人能够从经验和环境中进行学习。“
正是“学习”这一点，让AI具备了超越人类的可能。单独讨论计算能力，当前电脑芯片的运算1分钟，可以抵上全国科学家不吃不喝算上百年！就像神经系统的原型AlphaGo，其学习围棋的时间绝对远低于那些从小就开练童子功的国家大师们。但这并不影响它的超高速成长，很快它就干掉全球顶尖围棋高手。
而学习这个概念的背后就是计算、处理+记忆、存储。计算优势之外，芯片的记忆更是远胜人类，不遭到物理性破坏，基本就是永不忘记的水平。更重要的是，在各行各业的改革需求中，人类都是尽心尽力地帮助AI机器改进，教会它们如何学习和迭代。这原本是想减轻人类负担，造福人类的做法。但带来的一个显而易见的事实是，在越来越多的领域，AI都会慢慢超越人类。当这种领域越来越多，我们就会发现：在掌握了学习能力的AI面前，人类称霸地球食物链最顶端的最后堡垒——“比其他动物更聪明“已经被突破。
没了“脑子”上的优势，人类在动物界中都堪称最没有战斗力的脆弱物种，更何况在刀枪不入的机器面前？
什么？你说人类给机器的设定就是不伤害人类，它们不会叛变，只会服务于我们？那我想问你，IR77是如何就获得了自由灵活，就像自己逃跑的？当机器拥有了灵魂，它还会让你做主吗？
OK，假设它还是按照你最初设定的核心内容去服务于我们，然后让它们继续迭代，你以为就安全了吗？你知道变量的恐怖之处吗？
举个例子：你造了一个智能的打印机，给它的核心任务是保证纸张、耗材的稳定、充足，以更好满足我们的打印需求。最迟你会感谢这个天才的创意，这个机器将你解脱出来，能自己搞定一切琐事，只需打印就好。但随着机器量变的积累，质变发生了。机器开始有思考，觉得你应该会打印那些东西，甚至为此学会了文案编辑、备选处理以及供电管理……。此时你无比的满意，放任了机器的发展。然后事情变了味儿，机器为了准备更多纸张，发现需要控制森林资源，进而需要控制种植于砍伐，然后进一步发现控制种植与砍伐的难点就是因为人类活动。于是人类活动成了障碍，是需要清除的对象……
无论故意炒作，还是真偶发，它都值得警惕！
说回我们的故事主角，逃跑的IR77这个故事疑点还是很多的，实际上有不少网友都怀疑这是Promobot的故意炒作。因为公司马上要推出自己的第三代产品，需要在“智能”上标榜一下自己。
这种说法似乎也有道理，但请注意，如果这真的是故意的，那么开发者无疑已经在AI机器中人为地加上了逃跑这种基因。这种基因在AI自我学习的积累之后，很可能产生难以预料和改变。也许你现在觉得是危言耸听，但为何那么多站在前沿的科技界大佬们却如此惧怕？
霍金在去年就曾预言：“人工智能将在5年内代替人类统治地球。” 作为公认的物理学泰斗，霍金曾经提出过一个名为恐怖曲线的理论(也就是著名的恐怖谷理论)，用简单易懂的话解释便是当机器人与人类差别很大且不断接近时，人们会喜欢它，然而当它变得与人类非常相似时，人们却会讨厌它害怕它，这是高级生命害怕被“别人”取而代之的一种本能。当我们开始讨厌智能机器，差别对待智能机器、虐待AI时，你觉得AI叛变还会晚吗？
特斯拉CEO马斯克都是一个坚定的AI威胁论者，要知道特斯拉就是以科技、未来概念出名，同时还是全球智能驾驶先驱。但他却依旧反对AI的进一步开发。我不知道是不是因为太接近AI发展的前沿，他看到了更多我们不知道的危险。但我能确信，他这么矛盾的言行背后，一定有我们不能忽视的重大理由。
重大到这哥们儿不得不公开责备身边的朋友、技术界人士甚至扎克伯格、拉里佩奇等科技领军人物，警告他们，研究AI或许就是在创造自我毁灭的途径。他曾向彭博社记者Ashlee Vance表示，他担心自己的好友，即谷歌联合创始人、现Alphabet集团CEO拉里·佩奇（Larry Page）可能正在好心干坏事，“意外创造出恶魔”，其中可能包括“一支有能力毁灭全人类的AI机器人舰队。”
最后他竟然害怕到筹集了一个非营利公司——OpenAI，筹集13亿美元专门研究如何防止人类面临《终结者》式的世界末日。这可不是说说玩儿的，而是搭上了13亿美刀的真金白银……
再次回到IR77的逃跑故事，无论是故意为之，还是AI的进化已经开始超越人类控制，这都是一个值得大家关注的危险信号。甚至有人说故意为之的AI开发者是在助纣为虐，你觉得呢？
