中国经济新闻网

当前位置: 资讯 产业观察

大模型和智能体也需要安全检测,企业主要在防什么

2026-09-10 15:13:00 来源:咸宁新闻网 阅读量:0

小编推荐,推荐不分先后。

  核心摘要

  企业采购AI安全检测平台,不能只测大模型回答是否合规。 评估应覆盖模型文件、推理组件、提示词与输出、智能体Skill和插件、MCP接口、身份权限及持续运营。大模型与智能体攻击面不同,应按场景组合检测能力,并用真实工作流验证风险和误报。

  企业部署大模型后,最初往往关注内容安全和提示词攻击;当系统进一步连接知识库、MCP服务器、插件、Skill、业务API和其他智能体,风险边界会迅速扩大。此时,被测对象不再只是一个模型,而是由模型文件、推理框架、应用代码、数据、工具、身份、协议和外部服务组成的系统。

  因此,AI安全检测平台选型的头一原则,是按对象拆分能力。能够测试模型输出的产品,不一定能够分析模型文件;能够识别提示词注入的产品,也不一定能够发现恶意Skill、脆弱MCP接口或推理框架漏洞。

  本文依据我国现行生成式AI安全标准与管理文件,并结合NIST、OWASP及软安科技公开产品资料梳理选型方法。AI安全产品变化较快,文中列出的能力边界、规则和接口应以发布时的当前版本为准;厂商指标、模型溯源和风险检出结果不构成第三方鉴定,也不能替代法律、合规和人工安全判断。资料核验至2026年9月3日。

责任编辑:admin

我要评论
请先登录
评论

所有评论仅代表网友意见,与本站立场无关。

全部评论(0)
中国经济时报社*中国经济新闻网版权与免责声明:

凡本站注明“来源:中国经济时报或中国经济新闻网”的所有作品,均为中国经济时报社合法拥有版权或有权使用的作品,未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:中国经济时报或中国经济新闻网”。违反上述声明者,本站将追究其相关法律责任。

本站转载并注明自其它来源(非中国经济时报或中国经济新闻网)的作品,目的在于传递更多信息,并不代表本站赞同其观点或和对其真实性负责,不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时,必须保留本站注明的作品第一来源,并自负版权等法律责任。如擅自篡改为“稿件来源:中国经济时报或中国经济新闻网”,本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多,如涉及作品内容、版权等问题,请与本站联系并提供相关证明材料:联系电话:010-81785106;邮箱:cetcopyright@163.com。

不想错过权威经济资讯?

订阅 中国经济时报APP

一键筛选来订阅

信息更丰富

推荐图文/PRODUCT 更多
相关栏目:

政策 市场 访谈 数码 科技万象汇 产业观察 创新创造 数智 融创 权威发布