第一百七十八章 木卫四（4/7）

员工发生了什么事吗？”

基地货车.十八沉默了一阵，“老板，他被人格格式化了啊。”

李蟠，“啥意思，当时的记忆也删除了？”

基地货车.十八，“不止是记忆，是人格被重置了，已经被消除了思想和感情，想不起来自己是人了，就是个有问必答，服从命令的机器。

除了实际上是人脑上传智能，几乎和人工智能没有任何区别，是为了绕过伦理委员会的ai禁令，提升上传智能效率的手术。

任何交流，都要直接上报到总公司那儿申请权限的。”

李蟠理解了，“所以他也不一定是不知道，是没有总公司的许可，什么也不会说呗。唉，那算了……”

基地货车.十八又沉默了一阵，“老板，我会听话的，不要把我格式化好不好？”

李蟠，“嗯，我不会的。”

基地货车.十八，“谢谢老板。”

两人一时沉默了，因为他们都很清楚，这种事情，李蟠说了可不算。

十八是公司的财产，最高权限已经在总公司手里。现在还保留自我人格，单纯是格式化这事儿，李蟠一开始忘了，现在业务也乱糟糟的，懒得去搞了。

可就算现在李蟠能暂时庇护她，但这一天或早或晚都会来。

比如伦理委员会发现十八有什么‘叛乱风险’，又或者总公司突如心血来潮要做系统升级，都可能立刻对十八进行系统格式化重置，把十八的意识和自我彻底抹杀。

上传智能，脑机飞升么，就是这点不好。十八虽然在赛博世界，在虚拟网路中可以称为神，但也不过是人造的道具，大系统的螺丝钉。她的生死完全掌握在总公司手里了。

人家要关机就关机，要拔网线拔网线，记忆擦除人格覆盖程序重写，想怎么删改都可以。

也不要说人类残酷，但这年头赛博控制论到了颠覆，通过qvn控制的东西太多了。所以严格限制人工智能是必要的。

把一切掌握在人的智能手里，而非人工智能手里，是伦理委员会成立最基础和最核心的原则，也是人工智能叛乱的血的教训。

要在控制智脑科技的基础上继续发展，驾驭这庞大到惊人的算力为科学研究提供支持，一点点必要的措施是不可避免的。

李蟠也不知道怎么安慰十八，不过或许也没必要他来安慰。

毕竟这丫头这么聪明，大概早就知道了，自己的终结。

基地货车.十八驶出冰层间的轨道，在一座巨大的合金门前停下。