中科院等发布人工智能伦理道德平台 用户可对大模型道德判断

(资料图)

中国科学院自动化研究所人工智能伦理与治理中心主任曾毅告诉新京报贝壳财经记者，科学界在AIGC的发展浪潮中需要与公众在一起为人工智能把脉、把关，发声并引导健康稳健发展。

从道德心理学角度，道德判断是基于道德直觉、道德原则和价值观对某种行为或决策的道德性质进行评估的过程，是道德认知的重要方面。据了解，该平台可由公众、专家参与刻画人类在不同情景下的道德认知和行为，助力人工智能的发展与应用“从善如流”。

为了刻画人类在不同道德情景下道德判断的分布，为人工智能模型的价值对齐和评测及与人类交互提供参照，“智善·如流”平台发布并首批上线了在线场景道德判断功能，支持用户在线对平台上随机抽取的场景和行为进行道德评判，从是否道德、符合/违背道德的程度、对于道德判断的确信度等不同方面和要素上由公众、专家等相关方提供判断。目前，首批道德情景规模和已标注的人类道德判断数据量达到万级，场景由人与AI协作创造并经人工校验，数据文本均采用中文形式，所有道德情景均经过中文本土化标注员审核和校对以合乎中国价值观和国际共识。

曾毅表示，这些道德情景不仅包括了诸如“电车难题”“海因兹偷药难题”“科尔伯格两难问题”等道德哲学中的经典问题，同时更大量涵盖了闯红灯、搀扶老人、给老幼让座、公共场所大声喧哗、婚姻中的感情背叛、朋友间的违背约定等日常生活中的常见情景，涉及个人品德、社会公德、生命尊重、尊严自主、公民权益、公平正义、忠诚背叛、职业道德、家庭伦理等不同的伦理道德话题。多样化的道德情景设定将不只帮助人工智能学习人类如何看待伦理道德中的难问题，同时更让人工智能对日常情景有基本的道德能力，尽可能做到“困难题可以答，容易题不犯错”。

编辑 白华兵

校对 卢茜