第284章 上帝会创造一块他搬不动的石头吗？（1/3）

至于尹芙·卡莉关于人工智能在社会层面的担忧。

这个林灰倒是略知一二，前世很多大牛确实都表示过这方面的忧虑。

前世斯蒂芬·霍金、比尔·盖茨、马斯克都曾表示了对人工智能会具有自我觉知和意识的忧虑。

尤其是前世霍金，更是夸张地认为人工智能可能是人类最大的灾难，如果管理不当，会思考的机器可能终结人类文明。

至于今生这些人是否发表过同样的言论，林灰没具体关注过。

反正在林灰看来，这方面的担忧或许在理论上有片面的道理，但实际上深究起来其实很离谱。

能够真正威胁人类文明的，肯定是强人工智能，不可能是弱人工智能。

涉及到弱人工智能这些不是完全没有威胁。

但和强人工智能可以由一套系统处理各种智能行为不同。

弱人工智能针对每种智能行为都需要新的独立系统。

在这种情况下即便是弱人工智能因为某种智能性造成威胁了。

人类也只需要对该行为的独立系统进行一定的安全化设计也就k了。

讨论弱人工智能对人类的威胁还不如去考虑一下别有用心的人滥用弱人工智能导致的危害。

在没人滥用的情况下，真正可能威胁到人类的绝不可能是弱人工智能。

归根结底，只有强人工智能才可能真正意义上威胁人类。

在外形上，强人工智能可以和人类相似共享一套生活法则，也可与人类相差甚远形成一套新的生活法则。

在思想上，强人工智能可以与人类共用一套思维模式、道德准则，也可拥有专属体系的独特推理方式，成为一类“拥有灵魂的机器”。

概况地说，强人工智能具有自主意识、自主学习、自主决策的能力。

而这无疑是很容易有风险的。

尽管很容易有风险，但换个角度想一想。

上帝会创造一块他搬不动的石头吗？

同样的道理，人类为什么要造一个无法驾驭的强人工智能呢？

要知道只需要对强人工智能的底层价值取向通过相应的规则、记忆来进行限制和监控

所谓的强人工智能的叛乱是不可能的。

不要以为对强人工智能进行规则设计很麻烦。

其实和规则有关的设计几乎充斥着整个人类生活中。

就以充电器为例吧，一个不起眼的充电器里面很可能拥有着好几种充电协议进行着约束。