点击右上角
微信好友
朋友圈

请使用浏览器分享功能进行分享

作者:赵红丹(上海大学管理学院教授)、谢佳(上海大学管理学院博士生)
作为新一轮科技革命和产业变革的重要驱动力量,人工智能技术正以前所未有的速度迭代演进,但也引发了AI依赖、算法偏见、数据泄漏等诸多伦理风险,为人工智能治理带来全新挑战。面对日益凸显的人工智能伦理风险,我国始终坚持发展和安全并重,持续推进人工智能伦理治理工作。从2017年国务院发布《新一代人工智能发展规划》,首次将法治与伦理纳入人工智能发展的制度保障体系;到2021年发布《新一代人工智能伦理规范》,进一步细化人工智能伦理要求;再到后续发布的《全球人工智能治理倡议》《人工智能全球治理行动计划》等一系列政策文件,我国已逐步构建起层级清晰、覆盖全面的人工智能伦理治理制度体系,为人工智能健康有序发展提供有效指引。近日,在2026世界人工智能大会上,《国际人工智能伦理治理行动计划》正式发布,更是标志着我国人工智能伦理治理从理念共识迈向务实行动。
尽管人工智能伦理治理制度日益完善,但如何推进政策制度有效落地,成为当前人工智能伦理治理所面临的关键问题。这一问题仅靠政府部门的政策引领难以解决,需要加强行业协同治理,压实企业主体责任,提升公众AI素养。通过构建“政策引领、行业协同、企业履责、公众参与”的多元共治体系,让人工智能伦理治理落地生效。
加强行业协同治理,促使AI伦理治理的政策规范细化为行业准则
行业协会、产业联盟等行业组织作为连接政府与企业的重要桥梁,是推动政策条文转化为实操准则的重要载体。需要加强行业协同治理,深耕细分领域标准建设,打通全域产业共治链条。
一方面,科技、金融、服务、制造等不同行业领域所面临的伦理风险有所不同,顶层政策难以直接覆盖各行业所面临的所有伦理问题。行业组织应联合各领域内的龙头企业、科研机构、技术服务商、用户代表等,将算法公平、隐私保护、安全可控等通用伦理原则,转化为适配各行业业务场景的专项技术规范与伦理审查细则。
另一方面,人工智能研发、模型训练、场景应用与检测评估等环节相互嵌套,伦理风险往往会沿产业链跨环节传导。行业组织应切实发挥统筹协调作用,着力构建覆盖全产业链上下游的常态化协同治理机制。例如,定期组织基础模型提供方、技术服务商、应用机构和研究院所开展风险研判与规则协调,推动产业链各环节在风险评估和处置流程上达成共识。同时,依托行业联盟建设伦理风险信息共享平台,统一风险事件的分类、报告和预警标准,及时汇总行业共性问题,发布风险提示和治理建议。此外,可通过发布行业治理白皮书、优秀实践案例库等,推广成熟经验,逐步形成标准共建、风险共识、信息共享和问题共治的行业治理格局。
压实企业主体责任,推动AI伦理治理的政策要求内化为企业规范
作为研发与应用的主体,企业需将外部伦理合规要求转化为内部治理规范。例如,企业应将伦理审查嵌入人工智能产品研发、部署、应用全生命周期。在人工智能产品设计之初便纳入伦理考虑,提升训练数据清洗过滤性能,完善人工智能算法伦理判断机制,在源头嵌入伦理防线,减少违规内容生成。在部署应用环节,企业应建立常态化的动态监测与风险评估机制,搭建实时审核平台,采用“自动审核+人工复核”的双重模式,对人工智能生成内容进行全时段监测,一旦发现潜在违规内容,立即启动拦截、溯源与整改流程。同时,企业需要建立健全人工智能伦理审查机制,设立专门治理机构,明确研发、运营、审核等各环节伦理责任,主动接受社会监督,在出现伦理争议时坚决摒弃推诿借口并及时整改。
提升公众AI素养,引导AI伦理治理的政策理念转化为社会行动
社会公众既是人工智能产品和服务的直接使用者,也是伦理风险的重要感知者与参与者。当前,部分公众对人工智能的技术边界、伦理规范和潜在风险认识不足,既可能通过恶意提示诱导人工智能生成低俗、虚假或违法违规内容,也可能因不了解算法运行机制而过度信任人工智能输出的内容,对其中存在的事实错误、算法偏见和极端言论缺乏必要的辨别与警惕。
对此,政府可依托媒体宣传、科普讲座、公益广告、社区宣讲等多种形式,普及人工智能伦理规范、使用边界和风险防范知识,引导公众依法合规、理性审慎地使用人工智能,自觉抵制诱导生成和传播违法违规内容的行为。同时,鼓励公众主动提升自身人工智能素养,增强对人工智能生成内容的鉴别能力,警惕其中的偏见、错误与极端言论。在此基础上,搭建便捷高效的人工智能伦理问题反馈平台,畅通公众意见表达渠道,使其能够对人工智能的不当输出进行监督与反馈,让公众成为人工智能伦理治理的参与者、监督者与受益者。
(本文系国家自然科学基金面上项目[72472093、72172086]的阶段性成果)
