数据投毒

研究发现，仅需数百份恶意文档即可在AI模型训练数据中植入后门，影响从6亿到130亿参数的各种规模模型。这些后门在测试中保持隐蔽，仅在触发时激活，可导致模型忽略安全规则或输出有害内容。研究挑战了传统认为...