然而,疑虑依旧存在。
“林部长,它的能力确实惊人。”一位负责社会管理的官员谨慎地问道,“但将如此多的城市管理权限交给一个……机器,是否安全?万一它的判断出错,或者被……干扰呢?”
雷娜更直接:“它能否被用于军事指挥?哪怕是辅助指挥?如果敌方掌握了干扰甚至控制它的方法,后果不堪设想。”
面对质疑,林薇早有准备。
“安全是最高优先级。”她调出了“伏羲”的系统架构图,核心区域被醒目的红色标注,“‘伏羲’不具备任何对外网络的直接写入权限。所有决策建议,必须经过对应权限的人类官员审核确认后,方能执行。 它更像一个拥有极致算力和知识储备的‘参谋’,而非‘司令’。”
她指向那些红色区域:“核心代码库物理隔离,并由‘零’的子系统进行实时行为监控。任何试图突破权限、修改核心逻辑或表现出异常学习模式的行为,都会触发最高级别警报并立即锁定。同时,我们设置了多重‘逻辑枷锁’,防止其进行自我复制、意识涌现或执行危害人类的底层指令。”
“至于军事应用,”林薇看向雷娜,“目前仅限于后勤规划、战场环境模拟、情报数据分析等非直接指挥领域。并且,所有涉及军事的数据处理,都在独立的、安保级别更高的子服务器中进行,与主网络物理断开。”
措施不可谓不严密。但深知“混沌低语”诡异的墨衡,还是忍不住提醒:“林部长,江元首,此物虽无自主之灵,然其运算之能,已近乎于‘智’。智者,易惑。那‘低语’无孔不入,恐会寻隙而入,扭曲其推算之结果,使其‘合理’地引导我等步入陷阱。需慎之又慎。”
江辰沉默地听着各方意见,目光始终落在那团代表“伏羲”的光晕上。他知道墨衡的担忧并非空穴来风,但联邦的发展,确实需要这样一股强大的推力。
这章没有结束,请点击下一页继续阅读!
“风险与机遇并存。”江辰终于开口,声音沉稳,“‘伏羲’必须上线,但不能毫无限制。”
他做出最终决断:
“一、‘伏羲’即日起,有限度上线试运行。首批接入范围为:城市基础服务优化、非敏感科研辅助、宏观经济数据模拟。”
“二、成立‘人工智能伦理与安全监察委员会’,我任主任,林薇、雷娜、墨衡先生为主要成员,负责监督‘伏羲’的所有应用,拥有一票否决权。”
“三、所有‘伏羲’输出的决策建议,必须标注置信度与推演逻辑链,强制要求人类官员进行二次判断与背书记录。任何时候,人类的最终决策权,高于人工智能的建议。”