笔者认为，人工智能治理应遵循三个层面的原则：

1、科技伦理先行

2019年10月，美国联邦政府独立咨询机构“国防创新委员会”发布《人工智能准则：美国国防部使用人工智能的伦理建议》报告指出，国防部的人工智能伦理原则主要涵盖五大领域：负责任（Responsible）、公平性（Equitable）、可溯源、可信赖（Reliable）、可控性（Governable）。2021年11月，联合国教育、科学及文化组织（教科文组织）大会提出了《人工智能伦理问题建议书》，指出：考虑到人工智能技术可以对人类大有助益并惠及所有国家，但也会引发根本性的伦理关切，例如：人工智能技术可能内嵌并加剧偏见，可能导致歧视、不平等、数字鸿沟和排斥，并对文化、社会和生物多样性构成威胁，造成社会或经济鸿沟；算法的工作方式和算法训练数据应具有透明度和可理解性；人工智能技术对于多方面的潜在影响，包括但不限于人的尊严、人权和基本自由、性别平等、民主、社会、经济、政治和文化进程、科学和工程实践、动物福利以及环境和生态系统，又认识到人工智能技术会加深世界各地国家内部和国家之间现有的鸿沟和不平等，必须维护正义、信任和公平，以便在公平获取人工智能技术、享受这些技术带来的惠益和避免受其负面影响方面不让任何国家和任何人掉队，同时认识到各国国情不同，并尊重一部分人不参与所有技术发展的意愿，注意到应对风险和伦理关切的努力不应妨碍创新和发展，而是应提供新的机会，激励合乎伦理的研究和创新，使人工智能技术立足于人权和基本自由、价值观和原则以及关于道义和伦理的思考。

2019年7月，中央全面深化改革委员会第九次会议审议通过《国家科技伦理委员会组建方案》，这表明科技伦理建设已经进入国家层面。2022年11月，中国政府在瑞士日内瓦举行的联合国《特定常规武器公约》缔约国大会上正式提交《中国关于加强人工智能伦理治理的立场文件》，指出：中国始终致力于在人工智能领域构建人类命运共同体，积极倡导“以人为本”和“智能向善”理念，主张增进各国对人工智能伦理问题的理解，确保人工智能安全、可靠、可控，更好赋能全球可持续发展，增进全人类共同福祉。为实现这一目标，中国呼呼各方秉持共商共建共享理念，推动国际人工智能伦理治理。

2022年3月，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，《意见》指出：科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范，要进一步完善科技伦理体系，提升科技伦理治理能力，有效防控科技伦理风险，不断推动科技向善、造福人类。科技伦理治理要求伦理先行，明确科技伦理原则，包括：增进人类福祉，不断增强人民获得感、幸福感、安全感，促进人类社会和平发展和可持续发展；尊重生命权利，科技活动应最大限度避免对人的生命安全、身体健康、精神和心理健康造成伤害或潜在威胁，尊重人格尊严和个人隐私；坚持公平公正，公平、公正、包容地对待不同社会群体，防止歧视和偏见；合理控制风险，防止科技成果误用、滥用，避免危及社会安全、公共安全、生物安全和生态安全；保持公开透明，公布科技活动相关信息时应提高透明度，做到客观真实。

人工智能伦理是指处理人与机器、机器和社会之间相互关系时应遵循的道理和准则，包含着人与机器、机器和社会之间的行为规范。人工智能最大的弱点是缺乏直接的感受能力，在价值判断上存在弱点，而人工智能伦理准则所倡导的造福人类、避免伤害、公平正义等价值理念，为人工智能技术层面的开发和运用提供了价值判断标准。5

人工智能的研发与应用首先应当为了共同利益和人类福祉，以促进人类向上向善为目的，保护人类在社会和工作中的尊严、诚信、自由、隐私和安全，推动全社会公平共享人工智能带来的益处，不断增强人民获得感、幸福感、安全感，促进人类社会和平发展和可持续发展；其次，运行应符合可理解原则和公平原则，人工智能应该能够为人类社会现有的道德所理解，切实保护各相关主体合法权益，促进社会公平正义和机会均等；再其次，人工智能的运行应当保持透明可见的原则，不让特定个人或少数群体遭受偏见、侮辱和歧视；再次，尊重生命权利，人工智能应最大限度避免对人的生命安全、身体健康、精神和心理健康造成伤害或潜在威胁，尊重人格尊严和个人隐私，保障人工智能参与者的知情权和选择权；最后，人工智能的发展应当可控，人类不从属于人工智能也不应受到人工智能的胁迫，保障人类在人工智能中的决定作用，当人工智能失控时应当有毁灭装置。

2、数据治理的原则

以机器学习为代表的人工智能技术需要大量的数据，数据是机器学习的根基，数据的真实性、完整性、规模和质量是人工智能进行分析与建模的关键。人工智能公平性的核心基础是数据，数据的不公平主要体现在：不同群体在数据中所占比例不均衡，数据固有的歧视，数据固有的偏见，数据的包容性不够，数据的通用性以及数据的准确性等。数据固有的歧视和偏见，是因为一些带有歧视和偏见的价值观映射在数据上。如果没有对上述数据不公平现象进行调试和校验，就将反馈到人工智能算法模型并将最终映射到人工智能公平性上。

2018年，德国成立了数据伦理委员会，负责为德国联邦政府制定数字社会的道德标准和具体指引。德国数据伦理委员会认为，人格尊严、自我决策、隐私、安全、民主、正义、团结、可持续发展等应被视为德国不可或缺的数字社会行为准则，这一理念也应在“数据”和“算法系统”的监管中加以贯彻。6人工智能数据伦理以人格尊严、自我决策、隐私、安全、民主、正义、团结、可持续发展等为原则，尊重人在科技时代的主体地位，构建人与机器、机器与社会之间的和谐关系，增进人类和社会福祉。我们要强调人在数据中的主体地位，尊重人的权利和自由，实现有秩序有规范的数据共享。

3、算法治理的原则

数字经济时代的来临，算法已经广泛应用于在线社交、游戏、媒体、学习、医疗、教育、工作、生活等诸多数字经济场景，全面渗透于人们的现实世界和虚拟世界。数字经济时代，同时也是一个算法的时代，算法合规与否直接决定了数字经济合规与否。算法时代，是一个由政府机构、社会团体、商业平台等基于大量数据利用并通过算法进行自动化决策的时代，是广泛应用在医疗、教育、就业、金融等行业决策的时代。算法，源自计算机科学的一个概念，是执行预定良好计算过程的计算机代码或指令，基于原始数据的输入通过自动化决策产生结果数据的输出。算法的出现和使用，是为了执行大规模重复的任务和计算，是为了实现商业上高效快速的交易，是为了实现公权力具有广度、深度和效率的运行。随着算法的日益广泛应用，算法已经成为促进政治、经济、文化和社会发展的工具。算法，简而言之就是“数据处理活动”，收集处理数据，挖掘数据价值，涵盖了数据的生成、采集、存储、转换、处理和输出的全过程。算法，应当遵循人类共同价值观，遵守国家或地区伦理道德；算法应当尊重人类主体地位，给用户选择权和决策权；算法应当抑制人类社会无处不在的歧视和偏见；算法应当保障用户的人身权和财产权。

政府机构、社会团体、商业平台等将算法内嵌在健康码、个人征信、风险评估、金融风控、智能安防、公共卫生防治等应用场景中，可以支配数据流动挖掘数据价值并构建新的社会秩序。算法，已经不是纯粹的的计算机代码或指令，不再是简单的数据处理工具，而是被政府机构、社会团体、商业平台等预设了其利益或偏见的不透明自动化决策系统。“算法滥用”，即算法的不正当使用，借助算法的工具属性和算法“技术中立”的本质属性，将其利益或偏见嵌入到算法运行的各个微观层面，嵌入到新生产生活资料引发的经济秩序和社会秩序重构，可能对公民权利、社会秩序、政治权力体系等造成一定的冲击。算法治理，就是对政府机构、社会团体、商业平台等控制算法的人采集、传输、分类、选择、分析、评估、控制数据方式的治理，是对算法自动化决策系统本质方面的深入理解，也是对社会秩序的一种治理。比如：麻省理工学院的研究人员开发了一种新的深度学习算法，旨在帮助机器在真实的、不完美的世界中导航，通过对它们收到的测量和输入建立健康的 "怀疑论"。7 IBM 研究人员开发了一种方法来减少训练数据集中可能存在的偏见，这样之后利用该数据集进行学习的AI 算法就能尽量保持公平。8

脚注：

1.51CTO博客，阿西洛马人工智能原则，https://blog.51cto.com/u_14808965/2966847

2.人民网，英国版“人工智能准则”有望确立，http://scitech.people.com.cn/n1/2018/0419/c1007-29936165.html

3. 参考网，高玉英，科技启智向善：OECD《人工智能原则》解读与启示，https://www.fx361.com/page/2021/0916/8859502.shtml

4. 脉脉，中国信通院：《2020人工智能治理白皮书》（全文），https://maimai.cn/article/detail?fid=1542295739&efid=u2sPlQ1_SxoVGfH8KtLOfw

5.中国网财经，人人皆可换脸 眼见不再为真：人工智能安全如何保障？http://finance.china.com.cn/roll/20210108/5472031.shtml

6.百度，腾讯研究院，德国发布AI和数据伦理的75项建议，提出数据和算法协同治理等理念｜腾讯网络法专报，https://baijiahao.baidu.com/s?id=1655085509459280794&wfr=spider&for=pc

7. 贤集网，MIT开发新算法,帮助人工智能系统躲避“对抗性”输入，https://www.xianjichina.com/special/detail_475806.html

8. 中国安全防范产品行业协会，IBM发布未来五年五大科技预测之AI偏见，http://news.21csp.com.cn/c5/201803/11367635.html