信通院《大模型一体机安全要求与评估办法》启动试评估，助力行业安全规范落地

近日，中国信息通信研究院（以下简称“信通院”）牵头制定的《大模型一体机安全要求与评估办法》技术规范研制工作正式启动试评估。

该技术规范旨在明确大模型一体机在训练、推理及场景应用中的安全能力要求，覆盖基础网络安全、数据安全、内容安全等核心维度，为行业提供权威的技术评估框架，适用于大模型一体机安全能力设计开发者，大模型一体机产品的使用者，也适用于第三方评测机构。数美科技凭借在大模型内容安全领域的深厚技术积淀与实践经验，受邀参与编制。

《大模型一体机安全要求与评估办法》技术规范研讨会现场

在人工智能蓬勃发展的浪潮中，大模型一体机凭借普惠的算力、高效的模型以及丰富的智能体应用等显著优势，已深度融入众多领域，广泛覆盖政府、通信、金融、医疗、制造、教育、媒体等行业。

然而，在享受技术带来的红利时，潜在的安全隐患不容忽视。一方面，一体机内置部署的大模型自身存在安全风险，例如数据泄露、模型幻觉以及输出内容不合规等问题。另一方面，一体机在基础软硬件层面可能存在漏洞或后门、安全策略升级滞后、设备报废后数据销毁不彻底等风险，这些风险可能导致数据泄露、未授权访问、业务中断以及恶意网络攻击等灾难性后果，对政企用户的数据资产保护和业务稳定构成了严峻挑战。

大模型一体机安全要求框架图（来源：CAICT人工智能）

为了规范大模型一体机安全能力的设计、研发，为大模型一体机的安全使用、运行提供指引，中国信通院依托中国人工智能产业发展联盟AIIA（以下简称"AIIA"）安全治理委员会，联合多方研制了《大模型一体机安全要求与评估方法》。通过制定该技术规范，明确大模型一体机在安全防护、数据保护、隐私合规等方面的具体要求，促进大模型一体机市场的规范化和标准化发展。

数美科技基于内容安全领域近十年的专业经验，以及在AIGC行业超过100家客户的服务实践与技术沉淀，为此技术规范的内容安全部分提供专业力量，促进行业规范科学、高效落地。

针对大模型一体机，数美科技早于3月初就推出了DeepSeek一体机内容安全组件产品， 也是行业内首个深度融合“端云协同+国产化全栈适配”的内容安全产品。该产品为一体机提供实时的输入、输出内容风险检测能力和针对敏感问题的安全回答能力，将内容安全能力与硬件架构原生融合，构建内生式的防护系统。

作为一体机的原生组件，数美科技的这套产品优势显著：

1. 四级标签体系+多语种识别能力，筑牢安全防线

1800 + 四级内容标签体系，在端侧覆盖数百风险标签，精准识别多模态违规内容及深层意图，助力企业降本增效。产品识别准确率高达99.9%，全面响应监管要求，并可支持 20 + 全球语言，融合多区域合规经验，保障企业全球业务内容合规。

2.“端云”协同架构，构建全场景的安全防护

 “端云” 协同架构，实现一体化内容安全防护。端侧离线可高效审核文本、图片，联网后无缝切换云端引擎升级审核能力，同步云端策略更新，持续强化防御。该架构适配政务、金融等敏感场景物理隔离需求，为企业业务筑牢安全屏障。

3. 500万组QA对智能代答，平衡安全和体验

产品内置500 多万组 QA 敏感问题代答知识库，基于语义与风控策略理解，为敏感提问提供安全精准答复，降低拒答率，优化用户体验。知识库结合用户反馈与舆情动态持续迭代，确保内容准确适配大模型代答需求。

作为大模型内容安全领域的先行者，数美科技积极参与《大模型一体机安全要求与评估办法》技术规范制定，不仅彰显了其在内容安全领域的技术实力和行业担当，也将为推动大模型一体机安全标准的落地实施贡献力量。