王亮

• 1:西安交通大学马克思主义学院

摘要(Abstract)：

在人工智能体的道德设计思路中常被考虑的道德理论主要包括义务论、功利主义和美德伦理，然而义务论的抽象原则和功利主义的伦理计算都忽视了道德情境的复杂性，最终表现出缺乏“情境敏感性”。相反，美德伦理注重经验知识的学习过程，以一种开放、动态的理论特质来适应复杂道德情境，而强化学习同样注重动态学习过程。因此，美德伦理与强化学习具有理论相洽性，二者的结合使人工智能体道德强化学习成为可能，并且这也是立足于现实复杂道德情境之最佳的人工智能体道德设计方案。

关键词(KeyWords)： 人工智能体;美德伦理;强化学习

Abstract:

Keywords:

基金项目(Foundation): 国家社会科学基金青年项目“跨文化视角下人工智能的伦理嵌入机制研究”(19CZX018)

作者(Author): 王亮

DOI: 10.19484/j.cnki.1000-8934.2022.10.001

参考文献(References)：

• [1] [德]康德.康德著作全集(第4卷)[M].李秋零，译.北京：中国人民大学出版社，2005.
• [2] Moor J H.The Nature,Importance,and Difficulty of Machine Ethics [J].IEEE Intelligent Systems,2006,21(4):18-21.
• [3] Awad E,Dsouza S,Kim R,et al.The Moral Machine Experiment [J].Nature,2018,563(7729):59-64.
• [4] [美]芭芭拉·赫尔曼.道德判断的实践[M].陈虎平，译.北京：东方出版社，2006.
• [5] [德]康德.康德著作全集(第6卷)[M].李秋零，译.北京：中国人民大学出版社，2007:222-224.
• [6] Powers T M.Prospects for a Kantian Machine [J].IEEE Intelligent Systems,2006,21(4):46-51.
• [7] Anderson M,Anderson S L.Machine Ethics:Creating an Ethical Intelligent Agent [J].AI Magazine,2007,28(4):15-26.
• [8] Klincewicz M.Challenges to Engineering Moral Reasoners:Time and Context [C]// Lin P,Jenkins R,Abney K.(eds.) Robot Ethics 2.0:From Autonomous Cars to Artificial Intelligence.New York:Oxford University Press,2017:244-257.
• [9] [美]仙侬·维乐.论技术德性的建构[J].陈佳，译.东北大学学报(社会科学版),2016,18(5):441-449.
• [10] 朱勤，王前.社会技术系统论视角下的工程伦理学研究[J].道德与文明，2010(6):119-124.
• [11] Swierstra T.Identifying the Normative Challenges Posed by Technology’s ‘Soft’ Impacts [J].Etikk i praksis-Nordic Journal of Applied Ethics,2015,9 (1):5-20.
• [12] Bok S.Exploring Happiness:From Aristotle to Brain Science [M].New Haven:Yale University Press,2010.
• [13] 杨秀香.论康德幸福观的嬗变[J].哲学研究，2011(2):85-92.
• [14] White M D.The Problems with Measuring and Using Happiness for Policy Purposes [J].Mercatus Research,2015(7):1-25.
• [15] 亚里士多德.尼各马可伦理学[M].廖申白，译注.北京：商务印书馆，2003.
• [16] Rosen S.The Elusiveness of the Ordinary:Studies in the Possibility of Philosophy [M].New Haven:Yale University Press,2002:119.
• [17] Hursthouse R.On Virtue Ethics [M].Oxford and New York:Oxford University Press,1999.
• [18] 李义天.感觉、认知与美德——亚里士多德美德伦理的情感概念及其阐释[J].哲学动态，2020(4):92-102.
• [19] 王作为.具有认知能力的智能机器人行为学习方法研究[D].哈尔滨：哈尔滨工程大学，2010.
• [20] Narvaez D.Integrative Ethical Education [C]// Killen M,Smetana J G.(eds.) Handbook of Moral Development.New Jersey:Lawrence Erlbaum Associates,Inc.,2006:703- 732.
• [21] 刘鑫.亚里士多德的类比学说[J].清华西方哲学研究，2015,1(1):400-431.
• [22] Howard D,Muntean I.Artificial Moral Cognition:Moral Functionalism and Autonomous Moral Agency [C]// Powers T M.(ed.) Philosophy and Computing:Essays in Epistemology,Philosophy of Mind,Logic,and Ethics.Cham:Springer International Publishing AG,2017:121-159.
• [23] WYJJYN.深度强化学习落地方法论 [EB/OL].[2019-12-12](2021-08-10).https://zhuanlan.zhihu.com/p/97032357.
• [24] 黄宏程，李净，胡敏，等.基于强化学习的机器人认知情感交互模型[J].电子与信息学报，2021,43(6):1781-1788.
• (1)译文中“实践智慧”被翻译为“明智”。