许多个月前，1942年，当智能计算机开始出现在科幻小说中时，艾萨克·阿西莫夫为建造机器人制定了三条规则：它们不应通过行动或不作为对人类造成伤害；必须始终服从人类的命令；只要这不违反前两条规则，就能够确保自己的生存

随着计算能力的快速增长，并开始覆盖我们生活的许多方面，人们越来越担心，尽管阿西莫夫规则很明智，但可能不适合21世纪。斯蒂芬·霍金（Stephen Hawking）等科学家和埃隆·马斯克（Elon Musk）等高科技企业家敲响了警钟，称超级智能计算机“变得无赖”，如果不破坏人类文明的话，还会称霸世界

C。Raja Mohan

印度外交政策的首席分析师，也是南亚安全、亚洲大国关系和军备控制方面的专家

更多>

并非所有人都同意我们即将面临这样一个灾难性的时刻。但是，考虑到人工智能发展的速度、其应用范围的扩大以及当前研究工作的日益激烈，重新审视和修改阿西莫夫关于计算的命令可能还为时过早

这正是上个月一大群研究人员、商人、律师和伦理学家所做的，他们提出了一份23项关于规范人工智能未来的建议清单。近900名人工智能研究人员赞同这些原则，但这些原则似乎过于理想化和模糊

技术乐观主义者会将代码视为“卢德宣言”。有些人会对“人类价值观”这类定义的困难吹毛求疵。更重要的是，律师们会说，这些指导方针是不可执行的。尽管存在诸多局限性，但人工智能代码确实是对机器人和机器学习所带来的非凡挑战的一个重要反思应该追求“有益的智力”，而不是“无方向的智力”。它“应该让尽可能多的人受益并赋权”，人工智能带来的繁荣应该得到广泛分享。指南中共享利益的理念与以下主张相吻合：在对人工智能研究进行投资的同时，还应为法律、伦理和社会研究提供资金，这些研究将解决计算机进步带来的更广泛问题。它还呼吁人工智能研究人员和开发人员之间加强合作、信任和透明度

新法规还敦促人工智能社区避免在安全标准上偷工减料，因为他们相互竞争，以从新兴技术中获得多重商业利益。这些原则坚持人工智能系统在其整个使用寿命内的可验证安全性。系统的透明度问题也被认为是至关重要的。该守则坚持认为，如果人工智能系统造成伤害，“应该可以查明原因。”

道德和价值观是拟议人工智能准则的一个重要方面。它坚持认为，人工智能系统的建设者是“使用和滥用人工智能的道德影响的利益相关者”，有责任将其设计为“符合人类尊严、权利、自由和文化多样性的理想”

人类对机器人的控制这一主题是人工智能代码解决的最大长期挑战。在提到新技术对国内和国际安全构成的威胁时，该准则宣布，不应允许人工智能颠覆人类社会，并敦促各国在开发“致命自主武器”时避免“军备竞赛”

该守则认为，人工智能可能标志着“地球生命史上的深刻变化”，它所带来的灾难性和生存风险应以“相应的护理和资源”来管理。该准则指出，机器可以自主学习、复制并自主行动，因此，设计用于“自我改进或自我复制的人工智能系统必须遵守严格的安全和控制措施，以确保质量或数量快速增长。”

并非所有人都对人工智能开发行为准则的想法感到满意。一些人担心政府可能会介入过度监管一项即将起飞的技术。他们同意需要某种监督，人工智能本身可能会为有效的人类提供适当的解决方案监督

在国际层面，主要大国，特别是美国、中国和俄罗斯，正在人工智能方面进行大规模投资，以获得军事和战略优势。随着关于人工智能的广泛国际讨论的展开，德里一反常态地保持沉默。近70年来，德里一直是关于技术革命的政治、经济、社会和伦理影响的全球辩论的先行者之一。不过，在人工智能方面，德里还有很多工作要做。

本文最初发表于《印度快报》

简介