电子行业点评:META发布开源LLAMA2模型 边缘AI落地加速

2023-07-23 07:55:02 和讯  民生证券方竞/宋晓东
  事件:继今年2 月发布Llama 1 大模型后,Meta AI 在7 月19 日凌晨又发布了最新一代的开源大模型Llama 2。该模型在测试中表现优异,Meta 计划将该模型开放开源免费使用,且支持高通芯片运行,有望助力边缘AI 加速落地。
  Llama2 模型的训练数据量均有增加,测试中表现优异。Llama 2 的参数、训练数据和上下文长度相比上一代模型增加。新模型Llama 2 系列包含70 亿、130 亿和700 亿三种参数类型,相比原来Llama 1 最多650 亿参数有所增加。
  并且,相比于Llama 1 预训练模型1.4 万亿的训练token 数,Llama 2 预训练模型的训练数据提升了40%至2 万亿,且针对聊天用例进行的Chat 模型精调训练数据超过100 万人类标记数据,使用人类反馈进行强化学习(RLHF)从而提高模型安全性。此外,对于大模型非常重要的上下文长度限制,Llama 2 比Llama1 翻了一倍至4096 字符,能处理更多信息。Llama 2 模型在大多数基准测试中表现优于其他开源模型,包括编码、推理、知识、精通性测试等。不仅如此,Meta从有用性和安全性进行评估,认为Llama 2 有希望成为闭源模型的替代品。
  Llama 2 开放开源免费使用,加速生态构建。Llama 一直以来是AI 社区内性能最强的开源大模型之一,但此前存在开源协议问题,此次Meta 发布Llama2 模型将免费供给研究和商业用途,有望吸引更多开发者,加速AI 应用落地节奏。此外,Meta 宣布与微软云服务Azure 合作开发基于Llama 2 模型的云服务,微软作为全球领先的大模型和云服务厂商,二者合作有望加快生态构建速度。
  Llama 2 可用于高通芯片,有望加速边缘AI 落地。Meta 与高通宣布Llama2 将于2024 年应用于高通骁龙芯片,成为谷歌PaLM 2 大模型之后又一个将运行于高通芯片的大模型,将打破AI 产业中英伟达、AMD 的芯片垄断,今后Llama的生态将进一步完善。目前已有开发者将Llama 2 模型在智能手机终端离线状态运行,将来Llama 2 模型有望进一步运用在汽车、PC、AR/VR 等终端设备上,无需担忧网络连接和云端拥挤问题即可使用AI 服务,可提高服务的可靠性,并且减少云端运行成本;个人数据和信息仅保存在设备边缘端而非云端,可满足用户数据保密需求,并且不牺牲隐私即可提供更个性化的产品和服务,推动边缘AI加速落地,也将推动边缘硬件加速迭代。
  投资建议:我们认为,此次Meta 发布的轻量化AI 模型将赋能硬件,带来产品逻辑深度改革,智能硬件有重估值潜力,建议关注边缘测智能终端以及SoC全面升级带动的全面创新周期。重点关注:1)边缘AI 终端:立讯精密、安克创新、传音控股、联想集团;2)边缘计算芯片:晶晨股份、全志科技、瑞芯微;3)边缘连接芯片:乐鑫科技。
  风险提示:大模型进展不及预期的风险;AI 应用不及预期的风险。
【免责声明】本文仅代表第三方观点,不代表和讯网立场。投资者据此操作,风险请自担。
(责任编辑:王丹 )

   【免责声明】本文仅代表第三方观点,不代表和讯网立场。投资者据此操作,风险请自担。

看全文
写评论已有条评论跟帖用户自律公约
提 交还可输入500

最新评论

查看剩下100条评论

热门阅读

    和讯特稿

      推荐阅读