“对齐技术”引爆AI安全热潮，二级市场投资者争相布局！

中国科学院院士何积丰在2023 INCLUSION·外滩大会上提出了对齐技术为大模型戴上“紧箍咒”的观点，这引起了二级市场投资者的关注。对齐技术是指让人工智能系统的目标与人类的价值观一致，从而避免隐私泄露和意外的有害后果。这种技术可以通过反馈强化学习实现，即通过给模型不同的奖励信号来引导模型的高质量输出，或者通过给大模型提供明确的原则，系统自动训练模型对所有生成的输出结果提供初始排序。这意味着，不仅智能系统需要向人类价值观对齐，人类的训练方法也要向价值观对齐。对齐技术已经成为了一项跨学科研究，需要在技术和文化上都进行审视和考验。二级市场投资者可以关注这个技术的发展，以及其在AI安全方面的应用。

大模型的隐私问题日益凸显，如何利用对齐技术为其戴上“紧箍咒”成为了解决难点。对齐技术虽然面临着挑战，但反馈强化学习是实现对齐的技术途径，通过人工反馈和明确原则可以实现模型对所有生成的输出结果提供初始排序。对齐技术的研究将会是一个跨学科的研究，不仅考验技术，也审视文化。

和讯自选股写手

风险提示：以上内容仅作为作者或者嘉宾的观点，不代表和讯的任何立场，不构成与和讯相关的任何投资建议。在作出任何投资决定前，投资者应根据自身情况考虑投资产品相关的风险因素，并于需要时咨询专业投资顾问意见。和讯竭力但不能证实上述内容的真实性、准确性和原创性，对此和讯不做任何保证和承诺。