您可以在百度里搜索“企鹅科普（第一辑） 艾草文学(www.321553.xyz)”查找最新章节！

　　奇点

　　人工智能的“奇点”，即预想中的通用人工智能系统变得比人类更聪明的那一刻。人们一直担心达到人工智能奇点后将会发生什么。很多人害怕这些系统会利用自身的智能来自我提高，然后更智能的系统进一步自我提高，如此循环往复。也许那时候，人工智能将不受人类控制，甚至可能对我们的生存构成威胁。在像电影《终结者》（Terminator）这样的科幻片和很多科幻小说中常常能看见这种场景。

　　在讨论奇点时，常有人建议使用著名科幻小说家艾萨克·阿西莫夫（Isaac Asimov）提出的“机器人三定律”（Three Laws of Robotics）：

　　（1）机器人不得伤害人类，或者在人类受伤时袖手旁观；

　　（2）在不违背第一定律的前提下，机器人必须服从人类的指令；

　　（3）在不违背第一和第二定律的前提下，机器人必须保护好自己。

　　不幸的是，阿西莫夫的三定律要求机器人能够预测其所有行为对遥远的未来的影响。这一点完成起来非常困难，机器人不可能做到。

　　有关奇点是否能出现，科学界众说纷纭。即使奇点出现，也不一定会出现毁灭性的后果。虽然人工智能在长远的未来有很多不确定性，但是，在可预见的未来，毋庸置疑的是由于自身的愚蠢而丧命的人肯定远多于死于人工智能的人。 企鹅科普（第一辑）