您的位置:首页 >资讯>针灸养生

星纪魅族朱玲凤:人工智能产业链分散、相互依存且动态变化 风险或被继承甚至扩散


(资料图)

8月15日,由中国社会科学院法学研究所主办,中国社会科学院法学研究所网络与信息法研究室、南财合规科技研究院等共同承办的“全球治理话语竞赛下人工智能立法的中国方案”研讨会在北京举行。会上,星纪魅族集团数据合规执行总监朱玲凤围绕人工智能产业链的复杂变化对于当前治理的冲击进行详细分析。在她看来,人工智能产业链呈现分散式、互相依存,但又是动态变化的特点。基于人工智能产业链的特点去看风险,风险从上游传导到下游,其风险影响更大。

“人工智能产业链走得非常快,但是产业形态尚未定型。”朱玲凤说道。在她看来,不同于移动应用从APP、SDK、应用分发直至操作系统构筑的移动应用生态圈,人工智能更适合于“产业链”的说法。无论是芯片、算力、存储,还是算法模型,对于人工智能来说缺一不可,通过相互作用最终才能形成用户可以使用的一项服务。在这种情况下,对于人工智能产业的上下游非常依赖。另外,人工智能产业链是偏动态变化的,服务最终形态会根据过程当中数据输入变化、场景的变化和选择链路的变化而发生不停的动态变化情况。

“我们很难通过传统的在个人信息保护领域的控制者和处理者的逻辑来去区分责任。在整个产业呈现分散式、互相依存,但又是动态变化的状态下,再去看风险本身,会比从个人信息保护领域出发看到的风险,从上游到下游的风险影响更大。”朱玲凤说道。如来自上游训练数据如因代表人群不足导致存在偏见,在下游的使用过程中,如面部识别过程中相关偏见可能会变成极端事件发生,风险发生继承乃至扩散。

基于上述人工智能产业链特点导致风险传递甚至扩散的特点,人工智能产业链上的企业每个环节只能看到自己的上下游,没有全景视图,责任机制落实会失效。比如风险评估和管理机制就比较难实现,对于研发者来说很难基于使用场景来识别和管理风险,提供者来说了解使用场景,但是可能并不掌握训练数据、模型选择、模型测试等情况,无法实际判断风险。

但同时需要明确的是,人工智能,尤其是大模型,或者是其他更基础类的研究需要大量的投入,大企业、平台企业占据的领导性地位会更高,在这个过程中如果不通过法定的义务去限制或衔接,则可能出现通过合同,或者通过平台规则发生责任转嫁的情况。在这种情况下更合理的方式是法律规定一个初步的义务分工,以及落实责任原则。

在人工智能出现很多可预期和不可预期的情况下,朱玲凤表示企业将从两方面进行认知。

一是法律确定性方面,需要明确告诉企业义务边界如何划分。具体到产业链,以透明性为例,需要上游数据提供方能够提供类似数据卡的方式,告知数据来源、质量、清洗过程、许可方式等,需要明晰的统一规则。对于模型方来说,在数据清晰认知的情况下,可以生成模型卡。提供方在具体场景的应用中可以向监管、用户更好展示透明性和可解释性。“在这个情况下,通过技术流程措施辅以明确义务,相互之间有清晰的责任边界以及可以互相衔接的方式,来保证整套合规义务和责任的控制。”

二是针对不可预期的风险,应该发挥整个行业的主观能动性,更建议在监管或者立法层面上以明晰的且相互衔接产业链责任划分,同时希望能有更多技术工具组,如个人信息保护中的隐私计算,人工智能领域还有很多可解释性、局部解释的算法,端到端解释性算法,这些都可以在日常工作和风险防范过程中运用,通过技术监管方式真正解决技术带来的风险。

(文章来源:21世纪经济报道)

关键词:

相关的文章>>

标签:
8月15日,由中国社会科学院法学研究所主办,中国社会科学院法学研究所[ 查看全文 ]
标签:
骑士乳业8月23日北交所首发上会拟募资2 61亿元[ 查看全文 ]
标签:
继社会消费品后,服务零售首度被纳入经济运行统计数据,服务消费成为未[ 查看全文 ]
标签:
科技日报记者宋迎迎通讯员张冰璇8月16日,科技日报记者从山东省青岛市[ 查看全文 ]
标签:
文|郝鑫,编|刘雨琦 天下大事,合久必分。阿里云和钉钉这对“佳偶”也[ 查看全文 ]
标签:
男子支付宝被盗号凭空背债1 3万,民警帮办45张证明解绑账户,平台回应,[ 查看全文 ]
标签:
加拿大7月新屋开工(万户)今值:25 5,预期:24 4,前值:28 14。每日经济新闻[ 查看全文 ]
标签:
近期新冠病毒变异株EG 5感染病例在全球多地呈上升趋势,世界卫生组织将[ 查看全文 ]
标签:
加拿大西北地区林火形势再次升级。当地时间8月15日下午,加拿大西北地[ 查看全文 ]
标签:
摘要:2023年08月15日蕾奥规划(300989)换手率大于8%,主力资金净流入[ 查看全文 ]
标签:
鱿鱼萝卜汤颜色鲜明,不断吸引人的眼球,勾起人的食欲,而且鱿鱼独特的[ 查看全文 ]
标签:
开立医疗30063308月15日在投资者关系平台上答复了投资者关心的问题投资[ 查看全文 ]
标签:
日系车为啥抵触新能源?[ 查看全文 ]
标签:
武汉自驾回安徽黄山武汉自驾安徽天柱山太微星斗拱琼宫,圣祖琳宫镇九垓[ 查看全文 ]
标签:
本报讯(记者颜小镇)8月9日,竹溪镇党委政府主要负责人带队开展“夏送[ 查看全文 ]
标签:
名单人选范围浮现最新一期国足集训大名单,哪些球员可以得到国足主帅扬[ 查看全文 ]
标签:
2023年啤酒消费趋势白皮书发布:解读3大趋势6大赛道,啤酒,原浆,精酿,品[ 查看全文 ]
标签:
“燃油车的命运,注定被纯电动汽车终结。”当你还没有细品网上这句话,[ 查看全文 ]
标签:
中国报告大厅2023年8月16日氧化镁价格最新走势监测显示:河南宝兴环保[ 查看全文 ]
标签:
逆水寒奇遇中吉信义千金,逆水寒已经开始公测了,相信很多小伙伴已经进[ 查看全文 ]

热门标签

热门搜索:

春季养生 健康问答 资讯

资讯

更多
  • 星纪魅族朱玲凤:...

  • 骑士乳业8月23日北...

  • 青岛支持企业跨区...

  • 男子支付宝被盗号...

  • 加拿大7月新屋开工...

  • 蕾奥规划(300989...

图说健康

更多

体育健身

更多