您的位置:首页 >资讯>少儿健康

打着“开源”旗号的AI大模型,可能会有一些陷阱?

2023-08-29 02:40:07 来源:学术头条 收藏

ChatGPT 的问世,让更多人开始有机会使用强大的人工智能(AI),但这个聊天机器人的内部运作机制仍是一个未公开的秘密。

因而,近几个月来,让人工智能更加“开放”的相关工作似乎获得了人们的更多关注。


(资料图片)

今年 5 月,有人泄露了 Meta 公司的“Llama”模型,让外界可以访问其底层代码以及决定其行为的模型权重等。今年 7 月,Meta 又推出了功能更强大的模型 Llama 2,声称供任何人下载、修改和重复使用。自此,Meta 的 Llama 系列模型成为了许多公司、研究人员和人工智能业余爱好者构建具有类似 ChatGPT 功能的工具和应用程序的基础

“我们在世界各地拥有广泛的支持者,他们相信我们对当今人工智能的开放方法......研究人员致力于使用该模型进行研究,而科技界、学术界和政策部门的人们也和我们一样,看到了 Llama 和开放平台的好处,” Meta 在发布 Llama 2 时说。日前,Meta 也发布了另一个模型——Llama 2 Code,该模型针对编码进行了微调。

数十年来,开源方法使软件的获取变得更加民主、确保了透明度并提高了安全性,现在似乎也被认为可以对人工智能产生类似的影响。

但这或许还远远不够。

来自卡内基梅隆大学(Carnegie Mellon University)、AI Now 研究所(AI Now Institute)和 Signal 基金会(Signal Foundation)的研究团队,在一篇题为“Open (For Business): Big Tech, Concentrated Power, and the Political Economy of Open AI”的论文中,探讨了“Llama 2”和其他以某种方式“开源”的人工智能模型的现实情况。他们表示,打着“开源”旗号的模型可能会有一些“陷阱”

据论文描述,尽管 Llama 2 可以免费下载、修改和部署,但它不在传统的开源许可范围内。Meta 的许可证禁止使用 Llama 2 训练其他语言模型,如果开发者将 Llama 2 部署到每日用户超过 7 亿的应用程序或服务中,则需要特殊许可证。

这种程度的控制意味着 Llama 2 可以为 Meta 带来重大的技术和战略利益——例如,当外部公司在自己的应用程序中使用 Llama 2 模型时,Meta 可以从有益的调整中获益。

研究人员说,在普通开源许可下发布的模型,如非营利组织 EleutherAI 的 GPT Neo,开放程度更高。但这些项目很难与大型公司推出的模型竞争。

首先,训练高级模型所需的数据往往是保密的;其次,构建此类模型所需的软件框架通常由大公司控制,最流行的两个软件框架 TensorFlow 和 Pytorch 分别由谷歌和 Meta 维护;再者,训练大型人工智能模型所需的计算机能力也非一般开发人员或公司所能承担,通常一次训练需要数千万或数亿美元;最后,完善和改进这些模型所需的人力也大多是大公司才能获得的资源。

因此,研究团队认为,从目前的趋势来看,这项数十年来最重要的技术之一最终可能只会丰富和增强少数几家公司的能力,其中包括 OpenAI、微软、Meta 和谷歌。如果人工智能真的是一项能改变世界的技术,而且能得到更广泛的应用和普及,就能为全世界带来最大的好处。

“我们的分析表明,(这种程度的)开源不仅不会使人工智能‘民主化’,” 该论文的作者之一 Meredith Whittaker 告诉《连线》(Wired),“事实上,公司和机构可以而且已经利用“开源”技术来巩固和扩大权力集中。”

进一步说,即使是最开放的“开放”人工智能系统,其本身也不能确保人工智能的民主获取或有意义的竞争,开放本身也不能解决监督和审查的问题。

Whittaker 补充说,开源应该成为亟需制定的人工智能法规的一个重要考虑因素,“我们确实亟需有意义的替代技术,来取代由大型垄断企业定义和主导的技术——尤其是当人工智能系统被整合到医疗保健、金融、教育等具有特殊公共影响的高度敏感领域时。创造条件让这种替代成为可能,是一个可以与反垄断改革等监管运动共存甚至得到其支持的项目。”

研究团队也表示,除了制衡大公司的权力之外,让人工智能更加开放对于释放该技术的最佳潜力——同时避免其最坏的倾向——可能至关重要。

如果我们想了解最先进的人工智能模型有多大能力,并降低部署和进一步发展可能带来的风险,那么最好向全世界的科学家开放这些模型。

正如“隐晦式安全”(security through obscurity)永远无法真正保证代码的安全运行一样,对强大的人工智能模型的工作原理加以保护,也未必是一个最明智的做法。

关键词:

相关的文章>>

标签:
打着“开源”旗号的AI大模型,可能会有一些陷阱?,ai,陷阱,人工智能,应[ 查看全文 ]
标签:
一、过失以危险方法危害公共安全罪的起刑点是什么?过失以危险方法危害[ 查看全文 ]
标签:
湘财基金总经理程涛发新基金,在管3只权益产品年内跌超11%,基金产品,湘[ 查看全文 ]
标签:
为满足旅客出行需求,南航将于8月29日起新开长沙至重庆武隆航线,9月1[ 查看全文 ]
标签:
海南海口买房升值潜力排行榜,蔚蓝海语印象PK远洋山海买房投资分析!海[ 查看全文 ]
标签:
凯迪拉克纯电LYRIQ锐歌在上市之际,我就有一直关注到它,尤其是对它的[ 查看全文 ]
标签:
近年来,我国饲料机械行业相关专利申请数量呈现出波动变化趋势,据佰腾[ 查看全文 ]
标签:
0471房产来为大家解答以上的问题。8 6光年是什么意思,光年是什么意思[ 查看全文 ]
标签:
本文转自:人民网-安徽频道8月25日,中国银行安徽省分行与安徽省信用融[ 查看全文 ]
标签:
1、四画坛坏坜址坚坝坐坌坋圻坂均坍坎坞坟坊坑块坠坳灶五画坪坷茔坩坯[ 查看全文 ]
标签:
多项利好刺激下,A股今天高开,随后涨幅有所回落。到底是反弹还是反转[ 查看全文 ]
标签:
来源:全球半导体观察RISC-V近两年的火爆程度难以想象。RISC-V作为一种[ 查看全文 ]
标签:
荆楚网(湖北日报网)讯(通讯员王睿婷)8月24日,武汉经开区湘口街道[ 查看全文 ]
标签:
1976年,陈清泉从中国内地移居香港,在美国等地充分调研后,决定走上研[ 查看全文 ]
标签:
千易网8月28日消息,据博主@数码闲聊站今日爆料,华为Mate60系列官方预[ 查看全文 ]
标签:
这种时髦的九分裤有着不同的款式,不同的剪裁,如果说要在夏天选一条九[ 查看全文 ]
标签:
《守望先锋2》在国内玩家中的口碑持续下滑。根据某游戏平台的评测数据[ 查看全文 ]
标签:
时隔15年,证券交易印花税再次下调。昨天,财政部、税务总局发布《关于[ 查看全文 ]
标签:
“青岛发布”微信公众号消息,8月28日,山东首个空港综保区开关运行,[ 查看全文 ]
标签:
根据浙江省烟草专卖局(公司)2023年度业务类岗位招聘工作安排,经笔试、[ 查看全文 ]

热门标签

热门搜索:

春季养生 健康问答 资讯

资讯

更多
  • 打着“开源”旗号...

  • 过失以危险方法危...

  • 湘财基金总经理程...

  • 南航开通长沙至重...

  • 2023年中国饲料加...

  • 8.6光年是什么意思...

图说健康

更多

体育健身

更多