AI安全、大模型安全研究（DeepSeek）
DeepSeek 点燃AI应用革命之火，但安全 “灰犀牛” 正在逼近
DeepSeek-R1国产大模型的发布，以技术创新惊艳了全球，更是极致的性价比推动国内千行百业接入 AI，政府、企业竞速开发智能业务处理、智能客服、代码生成、营销文案等应用，“落地效率” 成为第一关键词。然而与此相伴的是被忽视的潜在危机：大模型的安全防护不足所带来的内容合规风险、数据泄露风险、越狱风险、AI幻觉风险、算力消耗攻击风险。
> 1.大模型的内容合规风险
大模型内容合规风险本质上是大模型对齐问题，是指如何让AI大模型的行为与人类意图、价值观及伦理规范保持一致问题。
例如2023年10月，有家长发现某品牌学习机中《蔺相如》一文，出现诋毁伟人、扭曲历史等内容，不仅引起网友的口诛笔伐，导致出品此学习机的上市公司的市值跌去100多亿人民币，更引发公众对AI生成内容安全性的广泛质疑。对齐问题还可能会造成应用的运营商，面临着应用下架、服务关停整改的处罚。
> 2.大模型的幻觉问题
大模型的“幻觉”是指大