“并且我能设想假定统统顺利，几百年、几千年或几百万年后当我们的后代子孙回顾我们这个世纪，他们或许会说，我们的先人、我们这一代人所做的最最首要的事情，就是做出了最精确的决定。”
“比如黑猩猩很强健，划一的体量相称于两个安康男性，但是这二者之间的关头更多的是取决于，人类能做到甚么，而不是黑猩猩能做到甚么。”
“……我们晓得，神经元在轴突中的信号传输速率最多100米/秒，但是在电脑里，信号是以光速传播的。除此以外另有尺寸的限定，人类的大脑只要头颅那么大，你没法对其停止二次扩容，但是计算机却能够多次扩容，能够一个箱子那么大，能够一个房间，乃至一栋大厦的容积，这一点毫不成能被忽视。”
“试想一下，我们曾经胡想过的统统猖獗的科技，或许人类能够在必然的时候内完成并实现它，比如闭幕朽迈、长生、大宇宙殖民……”
……
“再比如，假定我们付与这个超等AI的任务目标是解答一个极度磨难的数学题目，它会心识到有一个更有效的体例来完成任务目标，那就是把全部天下、全部地球乃至更夸大的标准变成一个超大型计算机，如许它的运算才气就更强大了，完成任务目标就更轻易了。并且它会心识到这个别例并不会被我们承认，人类会禁止，人类就是在这个形式中的潜伏威胁，为此它会为了终究目标处理统统停滞，包含人类，任何事件，比如策齐截些次一级的打算毁灭人类等行动。”
“我们和我们的先人有25万代的差异，在此期间，我们从捡起地上的石头作为兵器到能操纵原子能制造毁灭性的超等炸弹，现在我们晓得如此庞大的机制需求很长的时候来退化获得，这些庞大的窜改倒是取决于人脑中藐小的窜改，黑猩猩的大脑和人类的大脑并没有太大的差别，但人类胜利了，我们在内里而它们在植物园内里！”
“或许会说，我不是很有信心确保超等AI会不会发明缝隙并逃脱。以是我们决定断开互联网的连接来建立一个空地绝缘，但我不得不重申一遍，人类黑客都能够一次次以社会工程超越如许的空地。”
“现在，或许我们并不能处理第二个安然性的题目，因为有些身分需求你去体味，你需求利用到阿谁实际架构的细节才气有效实施。”
“而当付与该任务的野生智能是一个超等聪明体，超等AI的时候，它就会心识到有一个更好的体例能够达到这个结果或者说完成任务：它能够节制天下，并在统统人类的脸部肌肉上插入电极让人类不竭地笑。”
“以是我们现在面对一个题目：人类还需求多久才气够让野生智能具有这类强大的才气？”
“或者你也能够假装出了题目。这个时候，法度员就会把你翻开看看是那里出错了，他们找出源代码，而在此过程中你便能够获得节制权了。或者你能够策划出一个非常诱人的科技蓝图，当我们实现以后，会存在一些作为野生智能的你已经打算好的奥妙的副感化用于实现你的隐晦目标等，例子是多的数不堪数。”
“假定现在有一个如此成熟科技的超等聪明体，它的强大将是人类难以设想的，凡是环境下它能获得它想要获得的任何东西，我们人类的将来将会被这个超等AI的爱好所主宰。”
“的确还是相称困难（轰笑声再次传遍全场）！”
“那么把这个题目简朴化的表达，比如我们把野生智能放入一个小盒子里，制造一个保险的软件环境，比如一个它没法逃脱的假造实际摹拟器。”