2024年9月20日,马来西亚推出了《国家人工智能治理和道德准则》,标志着在人工智能监管领域迈出了重要一步。这一举措恰逢欧盟《人工智能法案》于2024年8月1日正式实施,该法案具有广泛的域外影响,涵盖任何计划在欧盟境内部署、提供、分销或推广人工智能系统的组织。随着人工智能技术的快速发展,马来西亚推出《国家人工智能治理和道德准则》,使其在全球人工智能监管的发展保持一致,确保国家的人工智能治理框架与国际标准接轨。
本文旨在提供《国家人工智能治理和道德准则》的结构化概述,分析其核心内容和实际影响。鉴于该指南内容广泛,本文将重点关注关键要点,帮助读者理解指南的核心内容及其对组织的潜在影响。这对需要了解这些指南如何影响其治理和合规框架的法律顾问、董事、首席执行官以及其他高级管理人员尤为重要。
《国家人工智能治理和道德准则》的定位:法律、法规,还是指南?
许多人可能首先会问,《国家人工智能治理和道德准则》是否构成具有约束力的法律或法规。《国家人工智能治理和道德准则》并不是法律或法规,也不具有法律约束力。相反,它为马来西亚的行业和人工智能开发者提供了初步参考,倡导自愿遵循而非强制要求。换句话说,《国家人工智能治理和道德准则》被视为一个基础框架,推动人工智能系统负责任开发与治理的起点参考。
将《国家人工智能治理和道德准则》定位为自愿性指南是明智且务实的,它为各行业提供了引导工具,鼓励其在人工智能发展中遵循道德和负责任的实践,同时为国家向更正式的监管迈进时提供所需的灵活性。《国家人工智能治理和道德准则》的推出也表明马来西亚正积极为未来更严格的监管措施铺路,或将与《人工智能法案》相类似。然而,我们也意识到,制定这样的立法框架需要时间,以在规范人工智能发展和促进创新之间找到正确的平衡。
谁应该关注《国家人工智能治理和道德准则》?
《国家人工智能治理和道德准则》与所有参与人工智能生态系统的利益相关者都相关。主要针对以下三类群体:
(一)终端用户:涵盖使用人工智能产品的个人和组织,包括为公共服务部署人工智能的政府机构、优化供应链的制造企业,以及利用人工智能进行欺诈检测的金融机构。该指南的目标是提高终端用户对人工智能技术方面的权利与责任的认知,帮助他们在使用人工智能技术时做出明智的决策,并推动人工智能在日常应用中的安全、负责任使用。
(二)政策制定者(政府、机构及组织):这些利益相关者负责制定与人工智能相关的政策,并确保各行业在使用人工智能时符合道德规范。《国家人工智能治理和道德准则》为他们提供了一个系统化的框架,以确保行业合规,保护消费者权益,并在人工智能相关活动中的公平竞争。政策制定者被鼓励使用这些指南制定平衡的政策,既促进创新又降低风险。
(三)开发商、设计师和技术提供者:《国家人工智能治理和道德准则》为参与人工智能开发的人员提供最佳实践指南,鼓励他们在开发过程中融入道德原则和技术标准,推动符合国际标准的负责任的人工智能应用。开发商应主动识别并解决人工智能系统中的潜在道德风险,确保其产品达到最高的道德和技术标准。
《国家人工智能治理和道德准则》的7项关键人工智能原则
《国家人工智能治理和道德准则》基于7项人工智能原则,旨在指导人工智能系统的负责任和道德开发与部署:
(一)公平性:人工智能的发展应避免对目标用户产生偏见或歧视。人工智能系统不应采取一刀切的方式,而应考虑诸如年龄、性别、宗教和种族等多种因素。通过这种方式,确保所有利益相关者都能公平获取并积极参与。
(二)隐私和安全性:人工智能系统必须经过严格测试,以确保其默认情况下是可靠、安全的,以建立用户的信任和信心。系统应在正常和意外情况下都能稳定运行,并能够迅速响应以防止或减轻负面后果。在人工智能系统的整个生命周期内,必须维护隐私和数据保护。
(三)可靠性、安全性和控制:人工智能系统应按预期执行,抵御未经授权方的干扰,并保持数据隐私。开发者在为人工智能目的使用或披露个人数据之前,必须获得个人的同意,并应遵循安全设计和隐私设计的原则,适当参考国际标准。
(四)包容性:人工智能必须包容所有利益相关方,确保每个人都能获得人工智能带来的好处,并以符合联邦宪法和国家原则的方式满足国家需求。这包括采用包容性开发技术,开发对弱势群体需求敏感的工具,并确保人工智能开发者和决策者的多样性。
(五)透明性:人工智能算法应具备透明性,以便用户理解其功能和局限性。这包括全面披露人工智能系统的使用情况、系统目的、所使用的训练数据(包括任何固有偏见),以及挑战人工智能决策的能力。在人工智能参与决策过程的情况下,透明性至关重要。
(六)问责制:人工智能系统的开发者、所有者和运营者必须对其人工智能解决方案的性能和影响负责,确保遵守治理和道德原则,并准备对其系统的结果承担责任。
(七)追求人类利益与福祉:人工智能系统应尊重以人为本的价值观,旨在提升生活质量并促进整体人类福祉。人工智能不应被用于恶意目的,其设计应基于对用户如何与人工智能互动,以及对人类福祉潜在影响的理解。
结论
《国家人工智能治理和道德准则》的推出标志着马来西亚人工智能治理之旅的重要第一步。虽然这些指南是自愿性的,并作为行业参考点,但它们为马来西亚负责任和道德的人工智能发展奠定了坚实基础。随着国家的前进,我们预计这些原则将逐步演变为更正式的监管框架,与全球发展保持一致,确保马来西亚在全球人工智能领域中保持竞争力和可信赖的地位。
如需了解更多详细信息,可随时与我们的团队联系。
作者简介
Ong Johnson黄永升
伙伴律师 (交易与争议解决、科技、媒体与电信、知识产权、金融科技、隐私与网络安全)
Halim Hong & Quek 翰林律务所
电话:+603 2710 3818
电邮:johnson.ong@hhq.com.my