为什么制造业现在非要啃工业联邦学习这块硬骨头?
制造业搞智能化这么多年,最大的拦路虎从来不是算法不够强,是数据拿不到。 不同工厂分属不同企业,数据涉及生产工艺、成本、质量这些核心机密,不可能随便把原始数据交出去集中训练。哪怕是同一个集团下的不同工厂,不同车间的数据标准不统一,部门墙堵的比城墙还厚,数据流动不起来。 你想训练一个靠谱的缺陷检测模型,单个工厂的缺陷样本可能才几百个,根本不够训。几百家工厂加起来,样本能到几十万,可就是拿不到一起。 这就是死结。直到工业联邦学习出来。 最核心的逻辑一句话就能说清:原始数据永远不出本地域,只共享加密后的模型更新信息。大家一起训模型,每家都能拿到更好的模型,没人能拿到别人的原始数据。完美解决数据安全和数据共享的矛盾。
工业联邦学习落地,和互联网场景有啥不一样?
很多人把联邦学习直接从互联网搬到工业,结果碰了一鼻子灰。工业场景的特殊性,决定了工业联邦学习必须改底层逻辑。 这里插两个大家问的最多的问题。 问:工业乱七八糟的数据,能直接训联邦模型吗? 答:根本不行。互联网的用户数据大多是同分布的,你我刷短视频的行为数据,分布差不了多少。工业数据呢?同样是做轴承质检,小厂用国产设备,大厂用进口设备,原材料产地不一样,生产环境温度湿度不一样,数据分布差十万八千里,强行用普通联邦学习训出来,效果还不如单个厂自己训的。现在成熟的工业联邦学习框架,都做了异构数据对齐,全局模型只学通用的缺陷特征,每个工厂保留自己的个性化输出层,既能吃到多厂数据的红利,又能适配自己工厂的实际情况。我见过一个钢铁质量预测的项目,这么改完之后,精度直接提了18个百分点,太惊艳了。 问:工业边缘节点带宽都不高,联邦学习来回传参数会不会卡爆? 答:这是早年落地最大的坑,现在已经解决的差不多了。最早的联邦每轮训练都要传完整的模型参数,一条生产线的边缘节点带宽才几兆,传一次要半个多小时,根本没法在线更新。现在主流的做法是梯度压缩加稀疏传参,只有变化大于阈值的参数才会上传,很多项目把通信开销压到了原来的8%不到,别说百兆带宽,哪怕是十兆的工业网络,都能跑的起来。
已经跑通的工业落地场景有哪些?

免责声明:文章内容来自互联网,本站仅作为分享,不对其真实性负责,如有侵权等情况,请与本站联系删除。
转载请注明出处:工业联邦学习:打破制造业数据孤岛的落地新思路 https://www.dachanpin.com/a/tg/69095.html