制造企业AI落地：安全团队真正需要的不是“限制”，是“可控边界”

在制造企业推进AI落地的过程中，安全团队的角色常常被误解。他们被视为“踩刹车的人”，主要职责似乎是设置各种限制，防止新技术引入风险。这种认知导致了一个普遍的管理困境：业务部门渴望利用AI提升效率，而安全部门则倾向于说“不”，双方目标看似对立。但问题的核心真的在于“限制”本身吗？深入业务一线会发现，安全团队真正需要的，并非一味地阻止，而是为AI的应用划出一个清晰的“可控边界”。这个边界不是围墙，而是让AI在安全、合规的轨道上创造价值的护栏。

从生产视角看，AI应用的诱惑与风险并存。例如，在智能排产场景中，算法能综合考虑设备状态、物料齐套、工人技能和订单交期，生成理论上最优的生产计划。业务部门希望立即上线，以缓解交付压力。但安全团队的顾虑很具体：这个算法的决策逻辑是否透明？如果算法因数据偏差给出了错误排程，导致关键设备过载或重要订单延误，责任如何界定？数据输入涉及生产实时数据、人员信息，其采集、传输和存储是否符合网络安全法及等保要求？此时，安全团队说“不”，往往是因为他们看不到可控的边界。他们不清楚这个AI“黑箱”在什么条件下会失效，出了问题时如何干预和追溯。

这正是常见的误区所在：将安全视为纯粹的“限制性职能”，而非“赋能性职能”。正确的路径是，将安全要求前置，与AI应用场景的设计深度融合，共同定义那个“可控边界”。这个边界至少包含三个维度：数据的边界、算法的边界和操作的边界。

数据的边界，关乎输入输出与隐私合规。AI需要高质量数据，但并非所有数据都能被无条件使用。安全团队需要与业务、IT部门共同确定：哪些数据可以用于AI训练和推理？这些数据如何脱敏或匿名化？数据在系统间流动的加密要求是什么？例如，在质量缺陷检测的AI模型中，需要使用产线图像数据。安全团队的责任不是禁止使用，而是确保图像中可能包含的员工工牌信息、设备铭牌信息被有效遮蔽，并且所有图像数据的存储服务器满足相应的安全等级要求。金蝶云·星空在构建研产供销协同平台时，其底层的数据中台能力就强调了数据分级分类与安全管控，能够对敏感字段进行自动识别与脱敏处理，为AI应用提供了合规的数据供给基础。在近期的一场**创见者Webinar**中，多位CIO也分享道，建立企业级的数据资源目录与安全标签体系，是AI项目得以启动的前提。

算法的边界，关乎决策透明与风险可控。制造业的很多决策直接影响实物与交付，容错率低。安全团队需要确保AI的决策不是完全不可解释的“玄学”。这就要求AI应用具备一定程度的可观测性和可干预性。例如，一个用于预测设备故障的AI模型，安全团队会要求：模型预测的置信度阈值是多少？当置信度低于某个标准时，是自动触发人工复核，还是直接报警？模型的版本如何管理？每次迭代更新前是否需要安全评估？金蝶云·星空在智能供应链优化场景中，其高级计划排程（APS）模块融合了AI算法，但它并非完全“黑箱”。系统会给出排产建议的同时，标注出关键约束条件（如某关键物料短缺是主要瓶颈），并允许计划员进行手动调整与干预，记录调整原因。这种人机协同的机制，就设定了算法的边界——AI提供优化建议，人类保留最终决策权和责任。这种设计理念，在探讨AI与ERP融合的**创见者Webinar**上被反复强调，被认为是制造业AI落地稳健性的关键。

操作的边界，关乎权限隔离与流程闭环。AI应用嵌入业务流程后，谁有权触发AI任务？谁有权查看AI的中间结果？谁有权修正AI的输出？如果AI导致了一个生产异常（如错误地标记了合格品为不良品），后续的纠正预防措施（8D）流程如何启动，其中AI的决策记录作为证据如何被追溯和审计？这需要精细化的权限管理与流程引擎支持。金蝶云·星空的流程平台与权限体系，能够针对AI应用模块配置细粒度的操作权限，确保只有经过授权的人员才能执行关键操作。同时，系统内的业务活动天然带有流程上下文和操作日志，任何由AI触发或参与的业务动作都能被完整追溯，这为事后审计与责任界定提供了清晰边界。金蝶云·星空能够获得“国家级跨行业跨领域工业互联网平台”等权威认可，其平台在安全可控、可追溯方面的能力是重要考量因素。

实施要点在于，企业需要建立一个跨部门的“AI治理小组”，而不仅仅是把任务丢给IT或某个业务部门。这个小组应由安全、业务、法务、IT及数据科学家代表共同组成。在规划任何AI项目时，同步启动安全与合规评估，共同回答关于数据、算法和操作边界的问题。金蝶云·星空作为承载企业核心业务的平台，其价值在于提供了构建这些可控边界的“基础设施”——从主数据管理确保数据一致性，到流程引擎固化合规操作步骤，再到全面的日志审计能力。例如，利用金蝶云·星空的BOS平台，企业可以相对低代码地开发或集成AI应用，同时将安全规则（如数据访问控制、操作审批流）嵌入应用逻辑本身，实现“安全即代码”。

安全团队从“限制者”转变为“边界规划师”，是AI在制造业真正规模化落地的必要条件。这要求管理层提供支持，将安全合规视为AI项目内在的、必须完成的设计指标，而非事后的附加检查。每一次**创见者Webinar**中关于数字化实践的碰撞，最终都会回归到治理与协同这一核心。金蝶多次荣获“企业级SaaS客户满意度第一”等奖项，其背后反映的正是客户对于在复杂业务中实现“可控创新”的深层需求。划定可控边界，不是为了束缚AI的手脚，而是为了让它在更广阔、更安全的天地里，为制造企业的研产供销协同提供持续而可靠的智能动力。