【中国机器人峰会】如何对机器人的行为加以约束，如何引导机器人的行为和公共决策能够符合人类的基本价值观，成为了机器人设计者、生产者、应用者乃至社会管理者都十分关注的课题。

随着机器人技术的进步和全球机器人市场不断扩大，机器人的应用场景早已由原先的工业领域扩展到了教育、医疗、家庭、安防等各个方面，为社会带来了新的增长点、给家庭带来新的生活模式。人与机器人正变得越来越密不可分。

基于这一背景，日前，北京大学出版社推出了中国首部机器人伦理标准——《中国机器人伦理标准化前瞻》，为人类与机器人的和谐共生提供新思路。

 

 

中国工程院院士王天然

    “希望这项研究能够为未来机器人伦理标准的制定乃至伦理法律治理奠定基础，推动机器人的设计和研发越来越有益于人类和自然的和谐发展。”中国工程院院士、中国机器人峰会学术委员会委员王天然表示。

 

为何要加强机器人伦理建设

 

机器人与人工智能技术及其他科学技术的深度结合，使得机器人的智能化水平、适应环境的能力、与人交互和协作的能力不断提高。未来机器人会越来越多的融入到人类的生活中，与人紧密协调，人和机器人会逐步形成新的“人机共融关系”。例如在制造业中，工人和机器人打破物理区隔，互相配合，共同完成一项作业任务；在家庭生活中，服务机器人与人存在于同一空间，机器人能够与人聊天，护理病人，完成家务等。这些都意味着机器人将从“工具”变为人类的“合作伙伴”。

 

机器人与人共融的紧密关系，给人类工作和生活带来极大便利，但也给我们原有的社会秩序带来了新的挑战。比如工业机器人与人共同工作，一旦发生事故，责任如何划分；家用服务机器人进入家庭，会不会泄露个人隐私，人类会不会对其产生“感情”；服务于医院的公共机器人决策过程中会不会带有偏见，例如分配急诊病人的优先次序时带有偏见等。人们担忧机器人不知何时会失控、在人类不知情的情况下侵犯人类的权利、更担忧这些行为无法追溯和问责。

 

如何应对机器人伦理风险

 

这些问题并非是技术瓶颈，而是机器人如何“做决定”的问题，也就是机器人伦理问题。

这些问题的解决方式直接决定了公众对于机器人及其技术的接受程度。

因此如何对机器人的行为加以约束，如何引导机器人的行为和公共决策能够符合人类的基本价值观，成为了机器人设计者、生产者、应用者乃至社会管理者都十分关注的课题。从标准化的角度，研究和探讨机器人的伦理问题，并提出一整套机器人伦理体系，用于引导机器人的设计、生产和应用，规避机器人的伦理风险也就显得尤为重要了。

摘编：中国日报网