计算机行业周报：META发布LLAMA3 开源生态再迎重大更新

Meta 发布Llama3，有望开源400B 参数模型。2024 年4 月18 日，Meta发布开源大模型Llama 3 系列，包括8B 和70B 两个版本，并宣布超过400B的版本正在训练中。Llama3 支持8K 上下文长度，是Llama2 的两倍，同时大大降低了错误拒绝率，改善了一致性，并增加了模型响应的多样性，在推理、代码生成和指令跟踪等功能也有极大改进。大规模、高质量的训练数据处理对Llama3 至关重要，Llama 3 经过超15T token 的预训练，训练数据集比Llama 2 使用的数据集大七倍，并且包含四倍多的代码。Meta 还自己开发了一套新的高质量人类评估数据集。在接下来的几个月中，Meta 将发布多个具有新功能的模型，包括多模态、以多种语言交谈的能力、更长的上下文窗口和更强的整体功能。Llama3 赋能的Meta AI 助手已嵌入WhatsApp、Messenger 和Instagram 等多项应用。
开源生态蓬勃发展，良性竞争推动产业进步。当前无论是商业闭源大模型还是开源大模型都相当丰富。除了Meta 的Llama 系列模型，还有众多科技大厂和创业公司在贡献各种规模的大模型可供选择。如法国初创公司MistralAI，智源研究院的悟道系列模型，阿里的通义千问系列模型，百川智能的baichuan 系列模型等。同时huggingface，Modelscope、智源社区等开源社区也为大模型生态作出极大贡献。开源模型相比闭源模型，具备可控性、定制化能力以及成本优势。我们认为，模型生态的不断发展和技术的日益成熟，将有力促进AI 应用生态的繁荣发展。
建议关注：算力侧：中科曙光、浪潮信息、海光信息、利通电子、高新发展、中际旭创、新易盛、工业富联、朗科科技、云赛智联、寒武纪、万马科技、神州数码、浙文互联、软通动力、恒为科技、润建股份、拓维信息、烽火通信等。
AI 相关：金山办公、大华股份、中广天择、福昕软件、海康威视、昆仑万维、拓尔思、科大讯飞、万兴科技、润达医疗、开普云、漫步者、紫天科技。
自动驾驶：特斯拉、赛力斯、长安汽车、江淮汽车、德赛西威、中科创达、万马科技、海天瑞声、华依科技、北汽蓝谷、阿尔特、菱电电控、经纬恒润、东风汽车、光庭信息等。
风险提示：AI 技术迭代不及预期风险；经济下行超预期风险；行业竞争加剧风险。
【免责声明】本文仅代表第三方观点，不代表和讯网立场。投资者据此操作，风险请自担。

   【免责声明】本文仅代表第三方观点，不代表和讯网立场。投资者据此操作，风险请自担。