随着 AI 系统应用的不断拓展，如何及时发现潜在的安全隐患、防范黑客的攻击，却并未引起大家的足够重视。IBM 网络安全工程师 Jeff Crume 用 “甜甜圈” 的比喻，形象地介绍了构建 AI 安全 “护城河” 的完整方案。
所谓 “甜甜圈” 防御体系，就是以 AI 系统为核心，在其周围依次建立起 “发现”、“评估”、“控制”，和 “报告” 四大安全能力。这一体系的优势在于，通过各环节的有机协作，实现对风险的全面掌控。
首先，“发现” 环节要求我们梳理出所有正在运行的 AI 系统，无论它们部署在云端、本地，还是某台不显眼的服务器上，甚至那些未报备、私自上线的 “影子 AI” 也要纳入排查。只有全面掌握系统现状，安全防护才有基础，否则就像房子的窗户没锁好，随时可能出现未知风险。
“评估” 则是对已发现的系统进行安全检查。这一步包括排查漏洞、核查配置、甄别是否调用了存在风险的外部模型，还要通过模拟黑客攻击，检验系统的防御能力。通过这些措施，可以提前发现和消除潜在威胁，降低遭受攻击的概率。
接下来是 “控制” 环节，相当于在 AI 系统的出入口设置检查关卡。例如，用户输入内容时，系统会先检测是否存在恶意操作。当有人试图借助系统窃取敏感信息时，系统会及时拦截。同时，还要细致分配不同人员和部门的使用权限，防止越权或误操作造成的损失。
最后，“报告” 环节，怎是让安全管理工作变得透明可见。借助仪表盘等可视化工具，管理者可以实时掌握风险分布、系统运行状况以及各种安全事件。同时，还需生成合规报告，便于对外审计和内部自查，确保各项安全措施真正落地。
通过这四大环节，可以为 AI 系统构筑一道坚实的 “甜甜圈防线”，让系统既安全又高效。
当然，随着 AI 技术的不断发展，攻击手段也在持续演变。安全防护不是一劳永逸的静态方案，只有坚持闭环管理，与 AI 系统同步演进，才能在创新与风险之间取得平衡。
