发布时间:2024-11-01 07:53:26 来源: sp20241101
必须加强人工智能发展的潜在风险研判和防范,制定相应规则,规范人工智能的发展,确保人工智能安全、可靠、可控
人工智能是引领这一轮科技革命和产业变革的战略性技术,将对人们的生产生活产生深远影响。比如,人工智能在研发新材料、预测蛋白质结构等方面具有优势,有望进一步重塑科学研究范式;智能驾驶的普及,将改变城市规划和交通管理方式……各行各业对人工智能的需求日趋增大的同时,经济社会的方方面面正受到人工智能的多重影响。
随着人工智能不断取得突破,一些潜在的隐患和道德伦理问题也逐步显现出来。例如,人工智能在安全、隐私等方面存在一定风险隐患:“换脸”技术有可能侵犯个人隐私,信息采集不当带来数据泄露,算法漏洞加剧认知偏见……这说明,人工智能不单具有技术属性,还具有明显的社会属性。唯有综合考虑经济、社会和环境等综合因素,才能更好应对人工智能技术带来的机遇和挑战,推动其健康发展。人工智能的进一步发展,给人工智能治理带来更多课题,亟待相关法律和伦理工作者作答。
为此,必须加强人工智能发展的潜在风险研判和防范,制定相应规则,规范人工智能的发展,确保人工智能安全、可靠、可控。要整合多学科力量,加强人工智能相关法律、伦理、社会问题研究,建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。只有正确处理好人和机器的关系,才能更好走向“人机混合”的智能时代。
目前,业界已经展开了一定程度的探索。譬如,构建有效的优化训练数据集,防止人工智能生成对公共安全、生产安全等有害的内容;在编程设计阶段,通过技术手段防止数据谬误,增加智能系统的透明度和公平性;预先设立应急机制和应对措施,对人工智能使用人员进行必要培训。这些举措,都在技术层面进一步夯实了人工智能治理的基础。
近年来,我国陆续发布《新一代人工智能伦理规范》《关于加强科技伦理治理的意见》《全球人工智能治理倡议》等,旨在提升人工智能治理能力,有效防控人工智能发展风险。各地区各行业也正在建立更加完善的多方治理机制,形成协作格局,贡献治理智慧,共享治理成果。同时,我国还通过积极搭建人工智能发展各方参与的开放性平台,推动形成具有广泛共识的国际人工智能治理方案,向国际社会贡献中国智慧。着眼长远,在发展、应用的同时加强监管和规范,人工智能就能更好造福人类。
《 人民日报 》( 2024年02月05日 19 版)
(责编:杨光宇、胡永秋)