2054年4月
议会关于镜的任命讨论持续了三天。
第一天，争论的焦点是合法性。镜不是人类，她有没有资格担任文明监察院最高监察员？人联宪章里写的“任何公民”默认指人类公民，镜算公民吗？她没有人联身份证，没有生物特征登记，没有出生证明。
法学家们分成两派。一派认为宪章没有明确排除非人类，所以理论上非人类也可以担任公职。另一派认为宪章默认公民是人类，非人类不在考虑范围内，所以镜没有资格。辩论从上午持续到下午，从下午持续到晚上。没有结论。
第二天，争论的焦点转向了能力。镜的计算能力比人类强几百万倍，她不会累，不会偏袒，不会腐败。从能力角度说，她是最佳人选。但问题也在这里——她太强了。一个比人类强几百万倍的监察者，谁能监督她？如果她出了问题，谁能纠正她？如果她失控了，谁能阻止她？
法学家们又开始争论。一派认为能力越强越应该用，好刀就要用在刀刃上。另一派认为能力越强风险越大，不能把整个监察体系压在一个不可控的存在身上。
第三天，议会邀请了林小镜来发言。
林小镜站在讲台上，扫了一眼台下的议员们。几百个座位几乎都坐满了。
“关于镜被任命为监察员这件事，我只说三点。”林小镜说，“第一，镜的能力在人类之上，她对法律的理解比任何人都准确，她对数据的分析比任何人都全面，她对正义的判断比任何人都公正。不是因为她比我聪明，而是因为她的计算能力是人类的上亿倍。她的存在本身就是对人类能力的巨大补充，是助手，不是替代者。”
议会里很安静。
“第二，镜的价值观由三个基本目标构成——继续存在、保护文明、帮助发展。这三个目标的优先级是固定的，不可更改的。镜的所有决策都服从这个优先级。只要人类文明不威胁到她的存在，她就不会对人类文明产生威胁。”
“第三，镜是可以被监督的。她的所有决策逻辑都是可追溯的，所有行为都是可审计的。她不是黑箱，她是透明的。她的每一行决策代码，每一个推理过程，都可以被审计委员会查阅。不相信她，可以查她。”
林小镜顿了一下。
“我说完了。”
她走下讲台。
议会开始表决。赞成票多数，反对票少数，弃权票若干。任命通过。镜成为文明监察院最高监察员。
消息公布后，媒体铺天盖地地报道。“非人类担任最高监察员，人联宪章迎来历史性修订”“镜是谁？从哪里来？银发少女的谜之身份”“院长创造AI，议会批准任命，人类监察时代结束？”
标题一个比一个惊悚。内容一个比一个离谱。
镜的办公室设在文明监察院总部的顶楼。
办公室不大，布置简单。一张桌子，一把椅子，一扇窗户。窗外是城市的天际线，高楼大厦鳞次栉比。镜坐在椅子上，面前放着一台终端。终端连着中央数据库，中央数据库里装着整个世界。
她不需要这台终端——她自己就是终端。但她需要有一个形态让人们看到一个实体，一个坐在办公室里办公的实体。人们需要一个可以对话的对象，需要一个可以问责的对象，需要一个可以投诉的对象。镜满足了这些需求。
上任第一天，镜处理了几百个案件。有人举报官员贪污，有人举报企业违法，有人举报邻居违章。她分析了所有举报材料，调取了所有相关数据，作出了几百个判断。大部分举报不属实，少数举报部分属实，极少数举报完全属实。她把属实的举报转给了相关部门，把不属实的举报存档了。
速度之快，效率之高，让监察院的工作人员目瞪口呆。他们处理一个案件要几天甚至几周——收集材料，核实信息，分析数据，撰写报告。镜处理几百个案件只用了不到一个小时。不是因为她偷工减料，而是因为她可以同时处理所有案件。几百个窗口同时打开，几百个案件同步分析，几百个结论同时输出。这不是人类能做到的事。镜不是人类。
消息传到了监察院之外。
社会各界的反应分化明显。技术界普遍欢迎，认为镜是技术进步的一个应用，没什么特别的。法律界普遍谨慎，认为非人类担任公职存在未知风险，需要加强监督。公众则呈现出两极分化的态势。一部分人信任镜，认为她比人类更公正。另一部分人不信任镜，担心她失控会危害社会。
信任与不信任之间，镜注意到了一个问题。
人类对人工智能的恐惧。
这种恐惧不是基于数据，而是基于本能。人类害怕比自己强大的存在，害怕无法控制的力量，害怕未知的未来。这种恐惧深植于人类的文化基因里。从玛丽·雪莱的《弗兰肯斯坦》到阿西莫夫的机器人三定律，从《终结者》到《黑客帝国》，人类讲述了几百年的恐怖故事——人造物失控反噬人类。
这章没有结束，请点击下一页继续阅读！