人工智能：训练数据污染带来安全挑战，有害输出上升

快讯正文

【8月5日国家安全部提示：人工智能训练数据污染带来安全挑战】 8月5日，国家安全部发布安全提示文章。指出人工智能训练数据良莠不齐，存在虚假信息、虚构内容和偏见性观点，造成数据源污染，给人工智能安全带来新挑战。 “数据投毒”产生的污染数据，会干扰模型训练阶段的参数调整，削弱模型性能、降低准确性，甚至诱发有害输出。 研究显示，训练数据集中仅0.01%的虚假文本，会使模型输出的有害内容增加11.2%；0.001%的虚假文本，有害输出也会上升7.2%。

本文由 AI 算法生成，仅作参考，不涉投资建议，使用风险自担