信通院《大模型一体机安全要求与评估办法》启动试评估，助力行业安全规范落地

近日，中国信息通讯研究院（以下简称“信通院”）牵头订定的《大模型一体机安全要求与评估办法》技术规范研制工作正式启动试评估。
该技术规范旨在明确大模型一体机在练习、推理及场景应用中的安全能力要求，覆盖基础网络安全、数据安全、内容安全等核心维度，为行业提供权威的技术评估框架，适用于大模型一体机安全能力设计开辟者，大模型一体机产品的使用者，也适用于第三方评测机构。数美科技凭借在大模型内容安全领域的深厚技术积淀与实践经验，受邀参与编制。

《大模型一体机安全要求与评估办法》技术规范研讨会现场

在人工智能蓬勃发展的浪潮中，大模型一体机凭借普惠的算力、高效的模型以及丰富的智能体应用等显著优势，已深度融入浩繁领域，广泛覆盖政府、通讯、金融、医疗、制造、教诲、媒体等行业。
然而，在享受技术带来的红利时，潜在的安全隐患不容忽视。一方面，一体机内置部署的大模型自身存在安全风险，比方数据泄漏、模型幻觉以及输出内容不合规等问题。另一方面，一体机在基础软硬件层面大概存在弊端或后门、安全策略升级滞后、装备报废后数据销毁不彻底等风险，这些风险大概导致数据泄漏、未授权访问、业务中断以及恶意网络攻击等劫难性后果，对政企用户的数据资产掩护和业务稳定构成了严肃挑衅。

为了规范大模型一体机安全能力的设计、研发，为大模型一体机的安全使用、运行提供指引，中国信通院依托中国人工智能产业发展联盟AIIA（以下简称"AIIA"）安全治理委员会，联合多方研制了《大模型一体机安全要求与评估方法》。通过订定该技术规范，明确大模型一体机在安全防护、数据掩护、隐私合规等方面的具体要求，促进大模型一体机市场的规范化和标准化发展。
数美科技基于内容安全领域近十年的专业经验，以及在AIGC行业高出100家客户的服务实践与技术沉淀，为此技术规范的内容安全部分提供专业气力，促进行业规范科学、高效落地。
针对大模型一体机，数美科技早于3月初就推出了DeepSeek一体机内容安全组件产品， 也是行业内首个深度融合“端云协同+国产化全栈适配”的内容安全产品。该产品为一体机提供实时的输入、输出内容风险检测能力和针对敏感问题的安全答复能力，将内容安全能力与硬件架构原生融合，构建内生式的防护体系。

作为一体机的原生组件，数美科技的这套产品优势显著：
1. 四级标签体系+多语种辨认能力，筑牢安全防线

1800 + 四级内容标签体系，在端侧覆盖数百风险标签，精准辨认多模态违规内容及深层意图，助力企业降本增效。产品辨认正确率高达99.9%，全面响应监管要求，并可支持 20 + 环球语言，融合多区域合规经验，保障企业环球业务内容合规。

2.“端云”协同架构，构建全场景的安全防护

 “端云” 协同架构，实现一体化内容安全防护。端侧离线可高效审核文本、图片，联网后无缝切换云端引擎升级审核能力，同步云端策略更新，持续强化防御。该架构适配政务、金融等敏感场风景理隔离需求，为企业业务筑牢安全屏障。
3. 500万组QA对智能代答，平衡安全和体验

产品内置500 多万组 QA 敏感问题代答知识库，基于语义与风控策略理解，为敏感提问提供安全精准回复，降低拒答率，优化用户体验。知识库联合用户反馈与舆情动态持续迭代，确保内容正确适配大模型代答需求。


作为大模型内容安全领域的先行者，数美科技积极参与《大模型一体机安全要求与评估办法》技术规范订定，不仅彰显了其在内容安全领域的技术实力和行业担当，也将为推动大模型一体机安全标准的落地实施贡献气力。