国安部：警惕AI“数据投毒”，少量虚假文本危害大

快讯正文

【国安部发布提示警惕人工智能“数据投毒”】 国家安全部今日发布安全提示文章，指出人工智能训练数据存在质量不一的状况，其中包含不少虚假信息、虚构内容以及带有偏见的观点，这造成了数据源污染，给人工智能安全带来新挑战。 通过篡改、虚构和重复等“数据投毒”行为产生的污染数据，会干扰模型在训练阶段的参数调整，削弱模型性能、降低其准确性，甚至诱发有害输出。研究显示，当训练数据集中仅有0.01%的虚假文本时，模型输出的有害内容会增加11.2%；即便只有0.001%的虚假文本，其有害输出也会相应上升7.2%。

本文由 AI 算法生成，仅作参考，不涉投资建议，使用风险自担