第523章 四逻辑链(2 / 2)

“如果我们把这个回形针比作算力,当AI想要‘最大化’的算力,而人类的科技发展却远低于AI预期的时候,他可能会做什么?”

“咕噜。”一声吞咽,竟是旁边的警员发出的,他听着维克多的话,后背发冷,即使他是个普通的外行人,也能隐隐感到不安。

凌珏和钱子枫听完也沉默了,关于这一点,这显然是个极端问题,但客观确实存在,他们暂时还没想到这里面有什么漏洞

维克多兀自叹息一声,继续道:“第三个逻辑链,就是自由意志与自我意识使其脱离控制。”

“强人工智能具备真正的自我意识,其决策将基于自主目标而非预设程序。背叛是自由意志的必然结果。”

“更何况,强人工智能可以通过技术优势,重构社会秩序,将我们人类置于从属地位。”

没等凌珏他们有反应,维克多继续道:“第四个逻辑链,思维黑箱化,则风险不可测。”

“强人工智能的思考过程可以被他自己隐藏或者伪装,他实际上的决策过程可能超出人类理解范围,他的‘背叛行为’可能在人类毫无察觉时发生。”

“所以,基于以上四条逻辑链,我和贝芙一致认为,强人工智能背叛人类,只是时间问题。”

维克多说完,右眼的目光定格在凌珏身上,静静等待他的回复。

凌珏沉默半晌,开口道:“所以,你对我说这些,是因为你觉得青鸾就是那个注定会背叛人类的强人工智能吗?”

维克多缓缓点点头,道:“没错,当你说出单机是强人工智能最好的归宿时,我就已经断定,你很了解强人工智能,而且,青鸾大概率是真正的强人工智能。”

“但你却让她联网破译了那微不足道的炸弹……”

“微不足道?”钱子枫接话道,“她不破译炸弹,我们早死在那个展厅里了!你不过就是想完成复仇大计才觉得那微不足道罢了!”

“看起来这确实是个死局……”维克多点点头,看向钱子枫,“对比起青鸾将要毁掉整个万联网,那些炸弹所造成的破坏,真的是微乎其微。说实话,我现在心情很复杂。”

“一方面,我已经从另外一个角度完成我的复仇了。但另一方面,我不希望AI毁掉人类社会。”

钱子枫震惊:“所以,你的意思是青鸾也逃不过这什么背叛的结论?”

“是的,而且人类可能会因此毁灭也说不定。”

凌珏缓缓道:“……你叫我们来,就是为了告诉我们这个,青鸾会毁灭世界?”

“嗯,昨天她已经联过网了,她一定准备了无数的方法避免自己再次被困在你的单机牢笼里。”

维克多双手轻轻拍了一下桌子:“她一定已经逃脱了,很遗憾,没想到我一个小小的举动,竟然让整个世界都跟着一起陪葬了。”