AI治理

大模型进了公司,数据安全的红线该划在哪?

2026年10月17日 彭志林 · 山海咨询创始人 3 分钟阅读

红线只有一条原则:凡是不能外泄的数据,就不进公网大模型。先把“能喂”和“不能喂”分清楚,再谈提效——数据安全不是慢的理由,是能不能用的前提。

分享这篇文章

大模型进公司,最该先定的不是“怎么用得爽”,而是“什么不能喂”。凡是不能外泄的数据,就不进公网大模型——这一条守不住,提效越快,泄密越狠。安全不是慢的理由,是能不能用的前提。

为什么“随便把资料喂给大模型”很危险?

公网大模型可能把你的输入用于训练或留存,客户名单、薪酬、合同一旦出去就收不回。一次误发,可能就是一次无法撤回的泄密。

  • 留存风险:输入可能被记录、复用;
  • 越权扩散:一份机密被全公司随手喂;
  • 无法撤回:出去的数据收不回来。

哪些数据绝对不能进公网大模型?

三类:客户与个人隐私、薪酬与人事、未公开财报与合同。这三类默认“不喂”,要用的话走私有化部署或先脱敏,绝不直接丢进公网。

数据类型例子处理方式
个人隐私客户电话、身份证不喂 / 脱敏
人事薪酬工资、绩效不喂 / 私有化
商业机密未公开财报、合同不喂 / 私有化

想用 AI 又怕泄密,有什么两全法?

三招:敏感数据走私有化部署或本地模型、非敏感先做脱敏再喂、给全员一页“能喂/不能喂”清单并定期复盘。既吃到效率,又把门看住。

对应山海七力中的数字助推力与AI 治理:

  • 分通道:机密走私有,普通走公网;
  • 先脱敏:非敏感字段才进模型;
  • 给清单:人人知道边界在哪。

企业该怎么把这条红线变成日常习惯?

把“数据分级 + AI 使用规范”写进入职和项目启动,配一个可审计的私有通道,让安全用法比违规更简单。习惯一旦养成,红线就不用每次靠人盯。

  • 写进制度:新人入职就讲清;
  • 给工具:私有通道随手可用;
  • 可审计:谁用了什么数据留痕。

常见问题

私有化部署大模型,小公司扛得住成本吗?
现在有多种档位:轻量模型可在单机或私有云跑,成本已大幅下降;并非都要上巨型集群。小公司可先从“只处理机密的小模型 + 公网处理普通活”的组合起步,既控成本又控风险。
用大模型写方案,方案本身会不会被别人看到?
取决于你用的是哪家、什么通道。公网模型有留存风险,机密方案别走公网;走公司私有通道或本地模型,方案留在自己环境里。选供应商时把“数据不用于训练、不留存”写进合同。
员工已经把机密喂给公网模型了,怎么补救?
先改密码、收权限,评估泄露范围(哪些数据、可能流向哪);再和对方平台确认能否删除;最重要的是把这次当成教材,补上清单和培训。补救靠流程,不靠事后骂人。
怎么判断一家 AI 供应商的数据承诺靠不靠谱?
看三件事:是否签署“数据不用于训练、可删除”的书面条款;是否支持私有化或专用实例;是否有合规认证与审计日志。只口头承诺、拿不出条款的,再便宜也慎选。

觉得有启发?

把这篇分享给正面对同样问题的伙伴

点击右上角 ···
分享给好友或朋友圈

正在唤起分享…