人工智能扩散的风险已经临近。约会谷歌CEO：不相容危机即将来临？

【环球网科技综合报道】10月10日消息，据CNBC报道，谷歌前首席执行官埃里克·施密特近日发出强烈警告，称人工智能（AI）扩散的风险正在成为一个需要轻松解决的重大问题。同时，在泡沫理论盛行的当下，他对人工智能的未来依然充满信心。施密特表示，人工智能正在面临严重的扩散风险。这种风险主要在于技术可能落入邪恶行为者手中并被恢复和滥用。他举了一个例子，如果是封闭模式或者开放模式，就会有黑客出现，把保护机制去掉。在训练过程中，人工智能可能会知道不良行为并学会如何杀人。虽然 AnG 公司正在努力确保模型不会回答危险的问题，但有证据表明这些模型可以进行逆向工程。 弱点人工智能系统的脆弱性还体现在它们容易受到多种攻击方式的影响，例如即时注入和越狱攻击。黑客可以欺骗AI共享私人数据或通过存储恶意指令来执行有害命令；他们还可以操纵人工智能的响应来忽略安全策略并生成受限制或危险的内容。面对紧张的局势，施密特承认，目前尚无有效的“防扩散机制”来防范人工智能风险。不过，他并没有失去对人工智能的信心。相反，他认为AI的anG技术并没有受到应有的重视，甚至被低估。在AI领域持续投资、泡沫理论频出的背景下，施密特的乐观态度尤为出名。他认为，投资者愿意投入巨额资金，因为他们相信从长远来看，AI经济将会回归。 （旺旺）