人民財訊8月5日電，國家安全部今日發文表示，人工智能的訓練數據存在良莠不齊的問題，其中不乏虛假信息、虛構內容和偏見性觀點，造成數據源污染，給人工智能安全帶來新的挑戰。通過篡改、虛構和重復等“數據投毒”行為產生的污染數據，將干擾模型在訓練階段的參數調整，削弱模型性能、降低其準確性，甚至誘發有害輸出。研究顯示，當訓練數據集中僅有0.01%的虛假文本時，模型輸出的有害內容會增加11.2%；即使是0.001%的虛假文本，其有害輸出也會相應上升7.2%。