人工智能价值对齐的伦理挑战及其消解路径

扫码查看

原文链接

NETL
NSTL
万方数据

中文摘要：人工智能自主性的增强使其具有了"主动"制造伦理问题的能力，这进一步凸显了确保高度自主的人工智能的价值观与人类的价值观保持一致的必要性，即实现人工智能与人类的价值对齐。当前基于机器学习的人工智能价值对齐研究与实践有蓬勃发展之势，但是这一对齐路径将会面临由规范伦理学中的"是"到"应该"的逻辑推导鸿沟导致的人工智能不能从数据信息中提取出价值规范的道德价值提取挑战，以及行为伦理学中的"有限伦理"理论所揭示的人工智能学习的数据信息可能具有内在道德缺陷的道德价值来源合道德性挑战。这两大伦理挑战揭示了基于机器学习的人工智能价值对齐路径所具有的深刻伦理缺陷，故而若想真正实现人工智能价值对齐，必须探究如何消解上述两大伦理挑战。

作者：

袁旭亮

展开 >

作者单位：

大连理工大学大数据与人工智能伦理法律与社会研究中心、哲学系

南开大学

关键词：

人工智能价值对齐机器学习 "是"到"应该"的逻辑推导鸿沟有限伦理

出版年：

2024

伦理学研究

CSTPCDCSSCICHSSCD北大核心

影响因子：0.435

ISSN：1671-9115

年,卷(期)：2024.(6)