计算机行业:聚焦AI治理 AI性能和安全是一体两翼

2024-07-05 08:30:07 和讯  国泰君安李沐华/伍巍
  投资建议:2024年 WAIC大会首次更名为“世界人工智能大会暨人工智能全球治理高级别会议”,凸显AI 治理与性能兼顾的一体两翼格局,随着多维度的治理标准和手段落地,考虑到AI 大模型演化过程中需要从底层来保证大模型的可控性,因此具备底层AI 技术积累的公司迎来催化。推荐标的:科大讯飞、虹软科技、金山办公、浪潮信息、紫光股份、工业富联,受益标的:润达医疗、昆仑万维。
  全球人工智能发展主要面临三个挑战,多维度、多层次、多领域、多举措的治理体系建设十分必要。全球AI 产业发展的三个挑战包括基础设施的鸿沟、公民数字素养的鸿沟、人工智能发展和治理的鸿沟。
  这些鸿沟不但阻碍全球产业发展,也对全球治理带来很大影响。目前在推动人工智能发展的路径上已有一定的积累,例如通过多途径建立国际交流及防控体系,加强政府间多边对话机制,这为打破壁垒、加强国际合作从而推动人工智能发展作出重要突破。
  AI 技术能力的提升催生风险的显著提升,需兼顾安全与性能。大模型为代表的深层次人工智能快速发展,模型自身及其应用带来一系列潜在风险的顾虑。以公众对AI 风险的关注顺序来看,首先是数据泄露、滥用隐私以及版权相关的内容风险,其次是恶意使用带来的伪造虚假信息等相关的使用风险,偏见、歧视等相关的伦理问题以及就业结构等社会系统性的挑战也受到重视。从长期的角度来看,安全与性能需要平衡发展,要实现平衡发展就需要强技术驱动、全流程优化、多主体参与以及敏捷治理。要实现这些目标,根据上海人工智能实验室提出的可信AGI 因果之梯,就要经历泛对齐、可干预、能反思三个演化阶段。
  “通“”专“融合是通往AGI 的战略路径。走向AGI 的roadmap 是二维而非一维的,模型需要兼备很强的泛化能力和足够的专业性。通专融合的新范式需要在基础模型层、融合协同层和自主进化与交互层有体系化的思考和规划,并在三层间具备协同和强耦合关系。基于此,上海人工智能实验室发布通专融合框架下前沿进展概况,并发布书生·浦语2.5、书生·万象多模态大模型和风乌气象海洋大模型,通专融合下,模型不仅可以提出科学假设,还可以掌握科学知识、分析实验结果、预测科学现象,进而在反思的基础上,进一步提升AI 提出科学假设的能力。
  风险提示:产品迭代不及预期,AI治理不及预期的风险。
【免责声明】本文仅代表第三方观点,不代表和讯网立场。投资者据此操作,风险请自担。
(责任编辑:王丹 )

   【免责声明】本文仅代表第三方观点,不代表和讯网立场。投资者据此操作,风险请自担。

看全文
写评论已有条评论跟帖用户自律公约
提 交还可输入500

最新评论

查看剩下100条评论

有问必答- 持牌正规投资顾问为您答疑解惑

    热门阅读

      和讯特稿

        推荐阅读