生成式人工智能安全风险与综合治理研究——以ChatGPT为例
Research on Security Risks and Comprehensive Management of Generative Artificial Intelligence
陈嘉鑫 1董紫来1
作者信息
摘要
生成式人工智能作为人工智能技术的新主流形态,具有决策式人工智能所不具备的人格化表象突出、数据挖掘能力提升、算法黑箱凸显、数据垄断深化等鲜明特征.随着生成式人工智能的不断迭代,虚假误导与无意义信息致人损害、模型训练与知识重组忽视知识产权、恶意滥用与算法黑箱削弱监管体系等安全风险不断凸显.在治理路径上,需要由直接规制风险逐步转向"科技—社会—法律"三元综合治理,从建设内容模型训练管理体系、厘清程序运行的知识产权边界、强化算法黑箱与恶意滥用综合治理能力、深化"科技—社会—法律"三元综合治理模式等方面着力,在规制风险的同时促进生成式人工智能安全发展.
关键词
生成式人工智能/ChatGPT/算法黑箱/个人信息保护Key words
Generative Artificial Intelligence/ChatGPT/Algorithmic Black Box/Protec-tion of Personal Information引用本文复制引用
基金项目
研究阐释党的十九届六中全会精神国家社科基金重大项目(22ZDA120)
出版年
2023
NETL
NSTL
万方数据