北京时刻7月23日晚,Meta 认真发布最新的开源大模子Llama 3.1系列,进一步减弱了开源模子与闭源模子的差距。Llama 3.1包含8B、70B和450B 3个参数范围,其中450B参数的模子在多项基准测试中起先了OpenAI的GPT-4o139爱,与Claude 3.5 Sonnet 等起先的闭源模子相失色。
Meta 首创东谈主CEO 扎克伯格吞并时刻在官网发布一篇博客为这次发布造势,他示意,Llama 3.1 版块将成为行业的一个升沉点,大无数开垦东谈主员将启动主要使用开源,开源AI是将来的发展见地。
英伟达高等参议科学家Jim Fan在X上发文道贺Meta团队,他提到,“GPT-4的力量就在咱们手中,(这是)一个委果具有历史敬爱敬爱的时刻。”
在具体细节上,Llama 3.1三个版块的模子高下文窗口齐从 8k 加多到了 128K,扩大 16 倍,同期撑捏8种说话。其中Llama 3.1 -405B模子使用了起先15万亿个tokens进行考研,何况为了能达到这一考研范围,团队使用了1.6万块H100 的GPU。官方示意,405B模子是第一个以这种范围考研的 Llama 模子。
开源大型说话模子在功能和性能方面大多逾期于闭源模子,“但咫尺,咱们正迎来一个由开源引颈的新期间。”
官方博客中,Meta 评估了起先了 150 个基准数据集的性能,相比了 Llama 3.1 与其他模子的智力发达,旗舰模子 Llama 3.1 -405B 在学问、可操作性、数学等一系列任务中可与GPT-4、GPT-4o 和 Claude 3.5 Sonnet 相失色。此外,8B 和 70B 微型模子与具有通常数目参数的闭源和开源模子具有竞争力。
在施行场景中,Llama 3.1 405B进行了与东谈主工评估的相比139爱,其总体发达优于GPT-4o和Claude 3.5 Sonnet。
这次Meta还更新了开源许可,允许开垦者初度使用 Llama 模子(包括 405B)的输出来校正其他模子。对标GPT-4o,官方称,他们也会聘用组合表情将图像、视频和语音功能整合到 Llama 3 中,使模子大略识别图像和视频,并通过语音撑捏交互。但咫尺这一功能仍在开垦中,尚未准备好发布。
欧美激情电影在官方博客中,Meta 示意,咫尺遏抑扫数 Llama 版块的总下载量已起先 3 亿次。
除了这次模子发布外,扎克伯格同期在官网发布了长文《Open Source AI Is the Path Forward》,其中提到了开源的攻击性,他以为开源对扫数开垦者、对Meta以及对全国齐是功德。
扎克伯格以开源系统Linux驯顺闭源系统 Unix为例,以为东谈主工智能会以访佛的表情发展。“有几家科技公司正在开垦起先的封锁模子,但开源很快在减弱差距。”他提到,客岁,Llama 2只可与旧一代模子同日而论。而本年,Llama 3 在一些领域具有竞争力,致使在某些方面起先于起先进的模子。
扎克伯格以为,开源能促进改革、缩短本钱、擢升安全性。对开垦者来说,行使开源不错考研、微谐和蒸馏我方的模子,每个组织齐有不同的需求,最佳使用不同尺寸的模子来雀跃这些需求,而这些模子是通过特定数据进行考研或微调的。
同期,开垦者不错不被锁定在封锁供应商中,保护数据安全。“开源软件时常更安全,因为它的开垦愈加透明,不错被无为审查。”扎克伯格以为。
扎克伯格同期提到,开源模子的本钱更低且效果高,开垦者不错在他们我方的基础圭臬上运行 Llama 3.1 405B 上的推理,本钱大要是使用像 GPT-4o 这么的封锁模子的50%,适用于用户界面和离线推理任务。
“开源东谈主工智能代表着全国最佳的契机。”在扎克伯格看来,行使这项本事不错创造最大的经济契机和安全保险。
举报 第一财经告白协作,请点击这里此本色为第一财经原创,著述权归第一财经扫数。未经第一财经籍面授权,不得以任何表情加以使用,包括转载、摘编、复制或建立镜像。第一财经保留根究侵权者法律遭殃的权益。 如需赢得授权请关系第一财经版权部:021-22002972或021-22002335;banquan@yicai.com。 文章作家刘晓洁
关系阅读 AI周报 | Character AI超25亿好意思元卖身谷歌;黄仁勋对谈扎克伯格:互联网也曾开源的好英伟达或濒临反把持打听;Meta拟用数百万好意思元向好莱坞明星重金求声。
4小时前 谷歌Gemma 2系列新增20亿参数模子谷歌发力参数目更小的大模子。
08-01 12:59 黄仁勋扎克伯格撑捏AI大模子开源,两东谈主互换外衣抒发兄弟情深尽管英伟达的GPU供应捏续急切,但英伟达仍然需要拉拢Meta、亚马逊AWS这类云行状商大客户,以在将来特别长一部分时刻保捏其主导地位。
07-30 08:14 AI周报|Meta发布最强开源模子Llama 3.1;OpenAI测试AI搜索功能“咱们正迎来一个由开源引颈的新期间。”Meta 首创东谈主兼CEO扎克伯格在官网一篇博客中示意。
07-28 09:07 华东医药:子公司与澳宗生物签署居品独家许可公约139爱华东医药:子公司与澳宗生物签署居品独家许可公约
07-14 17:50 一财最热 点击关闭