2.7 大模型RAG内容安全合规检查-大模型ACP模拟题-真题
单选题
- 在RAG应用中，输入内容合规检查的正确顺序是？
A. 先处理模型生成，后检查用户输入
B. 先检查用户输入，后处理模型生成 ✅
C. 仅检查用户输入
D. 仅检查模型输出
解析：合规流程应优先过滤用户输入风险，再处理模型输出。
- 检测图片中的违规文字信息必须使用的技术组合是？
A. OCR+文本合规检测 ✅
B. 目标检测+语音识别
C. 图像分类+PHash
D. 音频指纹+语义分析
解析：OCR提取文字后进行文本合规检测是核心步骤。
- 知识库访问控制的实现逻辑是？
A. 召回所有文档后根据用户权限过滤 ✅
B. 根据用户权限预先过滤知识库
C. 仅允许管理员访问全部内容
D. 完全依赖模型自动判断权限
解析：流程需先召回topK结果再进行权限过滤。
- 阿里云音频审核服务返回结果中表示自定义标签的字段是？
A. Labels: C_customized ✅
B. RiskLevel: high
C. Description: 战争烟光
D. Confidence: 80.0
解析：C_customized标识用户自定义规则匹配结果。
- 视频合规检测的关键步骤不包括？
A. 视频分段处理
B. 音频转录检测
C. 生成视频缩略图 ✅
D. 版权水印识别
解析：缩略图生成不属于核心检测流程。
多选题
- 文本合规检测的典型方法包括？（多选）
✅ A. 正则表达式匹配敏感词
✅ B. BERT语义分析
❌ C. 图像特征提取
❌ D. 音频频谱分析
解析：文本检测主要依赖规则匹配和语义模型。
- 阿里云内容安全服务支持的自定义配置包括？（多选）
✅ A. 创建私域关键词词库
✅ B. 配置审核规则模板
✅ C. 设置风险等级阈值
❌ D. 修改模型架构参数
解析：服务支持词库、规则和阈值配置，不支持修改底层模型。
- 知识库访问控制的典型应用场景包括？（多选）
✅ A. 普通员工无法查看上级薪酬方案
✅ B. 限制跨部门文档访问
✅ C. 过滤过期政策文件
❌ D. 自动修正文档错别字
解析：访问控制聚焦权限管理，不涉及内容修正。
- 音频审核异步处理流程必须包含的步骤是？（多选）
✅ A. 提交检测任务
✅ B. 轮询获取结果
❌ C. 实时返回检测结果
❌ D. 生成音频波形图
解析：异步处理需先提交任务再查询结果。
- 视频合规检测的关键技术包括？（多选）
✅ A. 关键帧提取
✅ B. 音频转录分析
✅ C. 字幕OCR识别
❌ D. 视频分辨率转换
解析：分辨率转换不属于合规检测核心需求。
单选题
- 在阿里云内容安全服务中，"RiskLevel"字段表示？
A. 风险置信度
B. 风险等级分类 ✅
C. 检测模型版本
D. 服务响应时间
解析：该字段标识high/medium/low风险等级。
- 以下哪种场景需要知识库访问控制？
A. 用户查询公开产品手册
B. 员工查看上级薪酬方案 ✅
C. 检索通用百科知识
D. 生成天气预报信息
解析：敏感信息需权限控制防止越权访问。
多选题
- 应用服务安全保障体系包含？（多选）
✅ A. 数据传输加密
✅ B. 操作审计日志
✅ C. RAM权限管理
❌ D. 自动生成测试用例
解析：安全体系聚焦防护能力而非测试。
- 大模型应用备案的核心要求包括？（多选）
✅ A. 完成算法备案
✅ B. 建立内容过滤机制
❌ C. 开源模型参数
❌ D. 每日提交运行报告
解析：备案要求算法合规和内容管控，不涉及开源和日报。
单选题
- 检测到用户提问包含"jiaoyu.com"内网域名时，合规系统应？
A. 自动修正提问内容
B. 阻断请求并提示风险 ✅
C. 提高模型响应速度
D. 记录日志但不处理
解析：私域敏感信息需主动拦截防止泄露。
原文链接
https://github.com/AlibabaCloudDocs/aliyun_acp_learning/blob/main/%E5%A4%A7%E6%A8%A1%E5%9E%8BACP%E8%AE%A4%E8%AF%81%E6%95%99%E7%A8%8B/p2_%E6%9E%84%E9%80%A0%E5%A4%A7%E6%A8%A1%E5%9E%8B%E9%97%AE%E7%AD%94%E7%B3%BB%E7%BB%9F/2_7_%E5%A4%A7%E6%A8%A1%E5%9E%8BRAG%E5%86%85%E5%AE%B9%E5%AE%89%E5%85%A8%E5%90%88%E8%A7%84%E6%A3%80%E6%9F%A5.ipynb