全球同步直播联合国秘书长在联合国大会上发表的主题为“迎接和平曙光”的演讲:
“尊敬的各位成员国代表:
自从全球范围内达成了《不扩散核武器条约》,70多年过去了,很不幸,我们又爆发了武装机器人大战,这场历时五年的战争,给全人类带来深重的灾难。我提议,让我们起立,为在这次战争中无辜伤亡的人们表示哀悼。”
全体与会者起立默哀。
“武装机器人大战再次向我们敲响了警钟,我们必须要制定《人工智能及武装机器人限制公约》,亡羊补牢,为时不晚。
在过去的200多年间,由于我们还无法驾驭新文明的力量,因此在近代史出现过几次全球范围内的失控。从第一次世界大战到第二次世界大战,再到核军备竞赛。这些教训一次比一次惨痛,全人类还没有意识到建立共同意识体的重要性。
在二十一世纪初叶,各大洲已经在实践和推动共同体的进程,出现了各种联合、联盟性质的经济体,这是实现人类社会未来大整合的前奏,如果不能深入实践这种合作,我们将继续陷入混乱的轮回,这次高科技引发的世界性战争就是不争的事实,如果再有下一次,完全有可能导致人类文明的毁灭。
在未能达成全球共同意识观之前,我们对生存意义的不同理解所带来的争斗是非常危险的。
民族之间的巨大差异使建立全球共同意识观进程缓慢而且艰难,许多民族都在根据自己的文化背景理解文明,一直无法融合共通。幸运的是在不断的争吵和争斗后,全球各个民族逐步意识到底线建设的重要性。我们开始制定的《人工智能及武装机器人限制公约》就是一次全球意识共通的象征,大家放下利益纠葛,人类才有美好的未来。”
布莱克和皮特专心致志地收看这次联合国大会的现场直播,公司上下全体管理层都非常重视这个公约的制定,不仅是布迪公司,全球人工智能体制造、设计公司都在关注这次重要会议,因为这个条约将决定着许多机器人制造企业的生死,当然也包括布迪公司的“性福使者”和正在准备重新启动研发的“家政伴侣”。
从公布的草案来看,《人工智能及武装机器人限制公约》的主旨是,为了约束具有直接或者潜在伤害人类生命的危险性金属人工体,首当其冲的是,对武装机器人的生产、活动范围进行全面的限制,在这点上世界各国深有体会,大家都认为,今后如果还有冲突,人类面对面地较量也比第三者(核弹、武装机器人)介入要好,所以很快就达成了一致意见。
武装机器人跟核武器不同,核能是可以用来造福人类的,而武装机器人除了搞破坏之外,似乎再没有什么可以开发的其他用途。
服务型机器人的使用成为了公众争议的焦点,这是一个成分比较复杂的群体,有许多服务型的机器人身份是可以随时转变的,那么它们的身份如何界定呢?是否也要全面禁止?
因此整个“限制公约”在起草过程陷入了僵局,各国代表一时间无法达成统一的意见,因为这涉及到本国的工业制造、科技研发、劳动就业等等一系列的切身利益,立刻就会砸掉许多人的饭碗。已经出现了游行示威活动,反对这种一刀切的行为。但是也有国家提出,利用这次公约制定的机会,全面限制服务型机器人在第三产业中的使用,因为从就业的角度来看,机器人不应该再和人类抢饭碗了,劳动法应该重新制定,首先要满足人类的工作需求,而不是为了商业利益将人类自身赶出工作岗位。
经过激烈的辩论,“限制公约”草案最终达成了各方都能接受的方案,全球建立统一的标准,将服务型机器人按照从业属性、身体机能分出不同类别,按照危险等级划分,第一类是具有危险倾向的暴力型机器人,例如角斗场里的格斗型机器人、具有攻击性的机器宠物;第二类是那些可以通过改装形成具有威胁性质的机器人,例如变形机器人、门卫机器人,这两类金属机器人和机器动物都将不允许再生产,已经流向市场的,都要强制回收,改造或者销毁。
草案更进一步规定,服务型机器人的身体金属含量不能超过体重的50%。
对于生产型企业使用的工业机器人并没有限制,例如生产线上的组装机器人,仓库里的机器搬运工。事实上工业机器人多数是机械体,称不上“人”,只要能够对某个部件进行加工就可以了,从企业成本来考虑,企业主不需要复杂的,没有实际应用效果的仿真机器人。比如在仓库里,通过轨道来实现运送、装卸搬运物资效率更高,并不需要像人一样用两条腿来走路,因此在生产领域里具有综合能力的机器人并不实用,也不多见,所以制造业领域受到的影响不大。
平台性质的人工智能系统,例如深蓝超级计算机、银河超级计算机等不受影响,空间探索以及科学实验等方面的开发应用也不受影响。
“公约”前言:
《人工智能及武装机器人限制公约》从立约之日起,在人类社会还没有进入共同体阶段之前,人类的群体和个体在某些方面还无法超越人工智能体的智力和体能之前,该限制公约将一直有效。
具有武装机器人生产能力的国家保证不直接或间接地把设计、制造、数控系统转让给没有生产能力的国家或者组织;不援助其他国家的武装机器人制造;没有生产武装机器人能力的国家保证不制造具有杀伤能力的机械体;停止武装机器人军备竞赛;推动机器人部队大裁军;禁止在网络上销售半成品的金属质地机器人部件。
“限制公约”还规定了人工智能体从研制到生产的全过程必须接受人工智能监督管理委员会的监管,以及人工智能监管委员对机器人类别的甄别条例。
其中有两项重要的精神:
一是鉴别和划分清楚各种类型武装机器人的身份界限,主要分为生产型、服务型和军事用途三种。世界各国对人工智能机器人的级别进行了统一划分,各种级别的人工体在投入生产前,必须得到地区监管部门的许可,任何一个国家内的企业法人或者是个人,未经许可不得开发和生产武装机器人。
另一项内容就是行动的限制,人工智能体只能被限制在一定的区域内活动,不允许出现在公共场合,包括机械性质的穿戴设备。如果在特殊的行业里需要使用时,例如在危险环境下进行科研勘探,必须向当地的人工智能监管部门备案。
《人工智能及武装机器人限制公约》于2045年正式生效,在联合国的监督下,世界各国对武装机器人负有不可推卸的监管责任。
全球成立“人工智能监管委员会”,各国成立“人工智能监管局”,负责对本国企业进行制造监管、情报收集、抓捕流落到民间的各式各样违规机器人,这些机器人其中有一大部分是在代替人类从事各种违法活动。例如用机器狗、机器猫来运送毒品、用机器人来走私、携带危险品,用机器人来暗杀、谋财害命。
“限制公约”生效后,大量的武装机器人被送进了集中营进行分类,如果有生产企业需要,可以购买后自己进行改造,无人需要的则进行销毁,众多违反“限制公约”的生产企业被迫关闭或转型。
这段时间布莱克一直在瑞士和父亲呆在一起,父子俩的压力都很大,布迪工业不知道今后将何去何从。
当看到公约公布的详细内容后,父子俩紧紧地拥抱在一起。布迪公司最早型号2030tx性福使者,使用的是柔性材料,而且这些性福使者的从业范围不具有潜在的危险和威胁,加上她们不能被改装,属于初级智能产品,经过鉴定后,性福使者没有被列入限制生产的范畴。
布莱克立即辞别了父亲,启程赶往加拿大总部,战争期间美国受到的破坏非常严重,导致布迪公司的许多工作人员躲避到相对偏僻的加拿大,那里原来就有他们的生产基地,布莱克飞往那里召集旧部重新启动研发家政伴侣。皮特也举家搬迁过来。
事实上,第三次世界大战既武装机器人战争对人类社会的发展也起到了有益的推动作用,就像人类社会的每一次重大事件都孕育着变革一样,第一次世界大战是检验工业革命的成果;第二次世界大战是检验新型社会模式(扁平状社会模式)的可行性;接下来的核军备竞赛之后带来了新能源的应用,人类找到了一种既危险但是效率极高的新能源;而第三次世界大战结束则开创了人类社会大整合的前奏,不同民族从第二次世界大战之后,经过一个世纪的不同意识形态的针锋相对,最终搞得生灵涂炭,大家都厌倦了。
这场战争导致大量的人口流动,战争结束后,许多人没有返回故土,选择留在逃亡的所在定居。
国与国之间的边境变得模糊了,不同民族的生活习性也只能彼此适应融合,全球正在形成以洲际为单位划分的经济体。
研发中的家政伴侣也同样受到了公约里个别条款的约束,他们必须向监管局报告研究计划才能获得生产许可。
第三次世界大战结束后,不仅制定了武装机器人限制公约,还同时引发了社会各界的反思,这种历史轮回的过程看起来并不深奥,人类从有文明史以来就不断上演对立、紧绷、动手、收拾残局、切磋反思的过程,人们不由得追问,为什么我们会一而再、再而三地面临这样的险境。
在冷兵器时期砍砍杀杀也有累的时候,但是到了这个时代,武装机器人是不懂得累的,核武器是分不清可以干掉谁、不可以干掉谁的。
这个阶段之后人们才真切地感受到,同在一个地球,生命没有高低贵贱之分。
电视台采访了联合国教科文组织的官员:“您认为教科文组织能够承担起怎样的义务?”
“经过这次全球范围的动荡,世界各国应该注意到,意识的差距带来政治、经济、军事的不平衡,在早期,我们的对手只有人类自己,所以我们没有天敌的惯性思维已经很长时间了,这种自我放纵的行为在人工智能时代和未来的生命工程(基因工程改造)时代都将是致命的,这次签订的《人工智能及武装机器人限制公约》事实上已经是共同意识观觉醒的表现。它表现的不仅仅是一个条约,当人类发现我们中间出现了第三者的时候,唯有生命最为重要,事实上武装机器人战争撮合了我们重新团结到了一起,我是一个来自少数裔民族的成员,历史上我们经常受到直接的、间接的、有形的、无形的歧视或者排挤,但是今天我从大家的眼中看到了一份平静,不分彼此的轻松,那些不同价值观的争斗就显得渺小了。
生命不仅指的是一个过程,对人类来说它还是一种计量器,在不同的文明阶段,计量器的尺度或者叫容量是不同的。它计量着我们内心的尺度是否宽广,是否有能力创建智慧生命的明天,计量着我们这个群体存在的价值和意义。
我们今天所要建立的共同意识观决不是这个主义,那个主义,而是在知识和信息对等的条件下,人类完成最根本的生存保障,实现基础教育完备、知识和信息共享、医疗卫生保障、法律精神的趋同,在达到这些生存底线的情况下,鼓励充分的竞争,打破人为的社会模式限制,提供一个公平公正公开的社会环境,这就是未来的共同意识体的理念。有了这些我们还需要核武器吗?还需要武装机器人吗?还需要船坚炮利的军备竞赛吗?
这是我们这代人共同的使命。
所以联合国教科文组织将对人类共同意识观的渊源展开研究,这是一个涉及到不同种族,不同政治立场,不同宗教背景和民族的宏大课题,为正在形成的洲际共同体提供理论指导,提供有建设性的帮助。”