AI 幻觉在关键业务中的投毒(Hallucination Exploitation):模型捏造虚假的第三方开源依赖库名称(Package Hallucination)。攻击者提前在 PyPI/NPM 上抢注这些虚构的库名并植入恶意代码,一旦开发者直接复制运行 AI 推荐的代码,便自动触发供应链木马感染。
Q3:在调用商业大模型(如 OpenAI API)时,如何防止企业核心代码外发被用于模型二次训练?
A3:必须在商业合同中明确签订“企业级数据隐私协议(Enterprise Data Agreement)”,开启 Zero Data Retention(ZDR)策略,确保服务商绝不将企业请求载荷用于模型的持续训练与优化;同时在本地网关部署 DLP 探针,对上传的代码进行敏感密钥脱敏。