合合信息分享视觉内容安全新技术，助力行业智能化发展

在当今数字化高速发展的时代，视觉内容安全成为备受瞩目的话题。

为探寻AI安全治理的新道路，近日，由中国图像图形学学会主办，浙江大学、杭州全息智能技术研究院、中国图像图形学学会青年工作委员会承办的《中国图形图像学学会青年科学家会议2024》论坛在杭州顺利举行。论坛汇聚了行业专家和学术领袖，共同探讨分享。合合信息在论坛中全面展示了其前沿成果和实际应用，为AI时代的安全治理提供了全新的视角和实践方案。

深入洞察：视觉内容安全面临的挑战与机遇

随着生成式AI技术的迅速崛起，视觉伪造问题愈发突出。无论是深度伪造（Deepfake）视频，还是身份证、虚假票据与合同的篡改，这些威胁不仅对企业构成重大挑战，也对社会的信任机制产生了深远影响。

合合信息图像算法研发总监郭丰俊带来了以“视觉内容安全技术的前沿进展与应用”为主题的精彩报告。深入剖析了视觉伪造的主要挑战和技术应对措施，并分享了合合信息在图像和视频内容安全领域的技术创新与实践经验。

报告中，郭丰俊首先提出了针对视觉内容安全的核心需求，并系统介绍了现有技术方案，主要分为主动鉴别与被动鉴别两大类，为不同场景提供高效、可靠的解决方案：

• 主动鉴别：通过技术手段（如数字水印）对内容进行保护，可实现可溯源和无痕迹篡改识别，主要应用于版权保护、仿造检测和伪造溯源场景。

• 被动鉴别：无需额外水印添加，可直接对任意图像内容进行检测与分析。技术方法包括文件标记、分类方法与检测分割，广泛应用于卡证防伪、文档图像篡改检测、AIGC内容识别及仿造人脸检测等领域。

在此基础上，郭丰俊重点分享了合合信息在视觉内容安全领域的两大突破。

通用篡改检测平台

该平台支持多种文档形式的篡改检测，包括身份证、票据、文档截图、扫描件以及印章类内容。目前，该平台已被广泛应用于票据篡改防范和文档真实性验证，并受到多家银行和保险公司的青睐，尤其在金融领域表现尤为出色。

郭丰俊表示：“在图像内容安全领域，我们的技术团队基于数据驱动的神经网络模型，开发了行业领先的图像篡改检测方案。这一方案能够精准提取篡改过程中留下的细微痕迹，有效识别多种复杂的篡改形式。”

为帮助用户直观体验，就让我带大家快速实操探索这款平台的强大之处：

1. 扫码/访问访问链接
   https://www.textin.com/market/detail/manipulation_detection

2. 文档上传与检测

这里我们使用一张假的网上公开的身份证图片进行检测，可以清楚的看到该图片有篡改痕迹。

3. 检测结果分析：

系统会对文档或图像中的篡改区域进行精准识别与标记，用户可以直观看到修改痕迹，如图系统检测到身份证上的“乐”字和出生日期“11月2日”存在篡改，并以橙色高亮形式进行标注。

技术解读：通用篡改检测平台依托深度神经网络模型与视觉特征提取技术，能够精准捕捉篡改过程中遗留的细微痕迹，通过对图像的像素级别分析，识别出光线、纹理与边缘不自然等异常特征，从而实现对内容真实性的高效检测与精准定位。

人脸鉴伪检测平台

除了文档篡改检测外，合合信息推出的——人脸鉴伪检测平台，同样展现了卓越的技术能力，为用户提供高效的人脸伪造内容识别功能。
该检测平台主要针对常见的伪造手段，如AI换脸、照片活化、局部替换等技术，平台能够快速检测并识别伪造的人脸内容，保障身份真实性。

我们只需上传人脸图像，支持多种格式文件（如JPG、PNG、BMP）。

平台将快速对人脸内容进行检测，识别伪造区域，并输出详细检测报告。如上图：系统检测结果显示该人脸图像存在人脸，但被识别为伪造内容。

技术解读：人脸鉴伪检测平台本身是通过分析面部的动态特征与细节差异，如肤色变化、光线反射与面部纹理异常，结合大数据模型训练，精准识别伪造内容。

视觉内容安全技术趋势

郭丰俊老师对文档类图像篡改检测方面表示目前仍面临多重挑战。如：跨域泛化能力不足、纯色背景检测准确率较低，以及因压缩和传输导致图像质量退化等问题，依然是阻碍技术进一步发展的主要难点。同时，郭老师表示，“视觉内容的安全性与真实性已成为行业发展的刚性需求。”当前行业内接收到的需求中，AIGC（生成式AI内容）以及人脸视频伪造检测占据了主要部分，此外针对声音伪造的检测需求也在快速增长。

未来展望：大模型赋能视觉内容安全的全新高度

在报告的最后，郭丰俊老师强调，随着视觉内容安全的重要性日益凸显，内容防护需要从整体规划入手，通过各环节的有效协同来提升系统效率与可靠性。这其中包括标准的制定以及主动防护与被动检测的深度融合，构建更加完善的防护体系。

并指出，“在未来的技术发展中，基于大模型的探索与创新将不断推动视觉内容安全技术的升级，为行业带来更多可能性。”通过持续创新与实践，视觉内容安全技术正逐步成为保障数字化社会信任机制的关键力量。