从变分边界到进化策略,一文读懂机器学习变换技巧"机器换人"愈演愈烈 起底珠三角厂长们的忧虑
本文作者FerencHuszár是一名机器学习研究者，在剑桥取得博士学位，对概率推断、生成模型、无监督学习和应用深度学习解决问题感兴趣。本文总结了他关于机器学习变换式的技巧，机器之心对此进行编译介绍。
本文分享的是我的笔记，旨在帮助大家获得更好的理解。这是一本关于各种「变换式」的手册，将这些变换用于机器学习问题，并最终使其转为已知解决方案的问题：寻找一个易处理向量场的稳定吸引子。
典型设置为：你有一些模型参数θ。你想优化一些客观标准，但是使用下面列出的方式解决优化问题比较困难。如果可以的话，你可以对问题进行相应的变换处理。之后，如果问题得到了高效优化，非常棒。如果没有，你可以递归地使用该「变换」，直到解决该问题。
你可以将其作为一种编译器，将抽象的机器学习问题编译成寻找易处理向量场中稳定吸引子的典型问题。
那么，我先来介绍以下这些问题的变换：
变分边界（variationalbound）
对抗博弈（Adversarialgame）
进化策略（EvolutionStrategy）
凸松弛法（convexrelaxation）
变分边界
典型问题
我的损失函数f(θ)很难计算，主要是由于它涉及到难以解决的边缘化（marginalization），我无法评估它，除了将其最小化。
解决方案
让我们构建一组通常可微分的上边界：
并解决优化问题
严格讲，一但优化结束，你可以摈弃辅助参数ψ?-尽管结果经常证明其本身是有意义和有用的，尤其是对于近似推理，比如VAE识别模型。
变换技巧
詹森不等式（Jensen'sinequality）：凸函数的平均值永远不会低于平均值的凸函数取值。一般出现在下面的标准证据下界（standardevidencelowerbound／ELBO）推导的一些变体之中：
再参数化技巧：在变分推理中我们经常遇到这种形式的梯度：
其中变量的pdf出现在被积函数中。如果我们可以找到有关其第二个参数的可微分函数h:(E,Θ)?X，和易于采样的p?对E的概率分布，下式则会成立：
我们可以使用以下在变分上边界经常遇到的积分重构。
对于这个期望的蒙特卡罗估计量通常比REINFORCE估计量的相同数量具有明显更低的方差。
对抗性博弈
典型问题
我无法根据样本直接估计损失函数f(θ)，原因通常在于损失函数依赖于数据分布或模型，或二者皆有。
解决方案
我们可以构建一个近似，使
然后就可以解决在双人博弈中找到稳定均衡的问题，博弈中双方分别最小化与ψ有关的损失函数g和与θ有关的损失函数h。
有时，近似可能是下界的形式，其中h=?g：
这种情况下，我们可以转而解决以下最小最大问题：
变换技巧
辅助任务中的贝叶斯优化：如果损失函数依赖于可从中轻松采样的概率分布的密度，通常你可以构建一个辅助任务，其贝叶斯优化解决方案依赖于密度的值。辅助任务示例：似然比估计的二分类、去噪，或评估评分函数的分数匹配。
凸共役性（Convexconjugate）：损失函数包含密度的凸函数（如f散度），你可以通过用凸共役性的形式重新表述来变换你的问题。f关于其凸共役性f?的表达式为：
注意：u是密度函数，内积?u,v_ψ?是v_ψ的期望值，可以近似到蒙特卡罗采样。
进化策略
典型问题
我的f(θ)易于评估但难以优化，可能是因为包含了离散运算，或者该函数是分段常值函数，无法使用反向传播。
解决方案
观察任意概率pψ在θ上的结果：
因此，在进化策略中，我们将优化问题简化为：
通常，根据函数f和分布pψ的类别，f的局部最小值可以从ψ的局部最小值中恢复。
变换技巧
强化梯度估计量：它依赖以下技巧
其中RHS可以轻松近似蒙特卡罗。蒙特卡罗强化估计量的方差一般比较高。
凸松弛法
典型问题
我的f(θ)很难优化，因为它具备不可微和非凸成分，如?_0（稀疏方法中的向量范数）或分类中的赫维赛德阶跃函数（Heavisidestepfunction）。
解决方案
用凸逼近替换非凸组件，将目标变换成典型的凸函数g。
变换技巧
?_1损失函数：在很多稀疏学习情况下，我们希望最小化向量中非零项的数量，叫作?_0损失函数。你可以用该向量的?_1范数替换?_0损失函数。
折叶损失函数（hingeloss）和大间隔方法：二值分类器在0-1损失函数下的错误率，其目标通常是分类器参数的分段常值函数（piecewiseconstantfunction），很难优化。我们可以用折叶损失替代0-1损失，可以理解为一个凸上界。然后，优化问题很可能最大化分类器的间隔。
"机器换人"愈演愈烈起底珠三角厂长们的忧虑
"机器换人"愈演愈烈起底珠三角厂长们的忧虑
来源:经济观察报(北京)
（原标题：“机器换人”愈演愈烈：珠三角的厂长们在忧虑什么）
过去五年里，索菲亚家居股份有限公司（002572.SZ，下称“索菲亚”）的信息与数字化中心员工数量从20多人增长大到了500余人，足足扩大了25倍。而在索菲亚数万平方米的工厂里，记者平均每走30到50米才见到一两个工人，他们或在操作控制台，或在做简单的搬运，工人们看起来要比那些繁忙的机械悠闲得多。
机器人正在取代许多体力工作的岗位，这些机器人虽然购买成本昂贵，但除了提高生产效率，也降低了由于人为原因而导致的出错。渣打银行今年7月发布的《中国、东盟及前景》报告中，调查了珠三角地区200多家企业制造商，这些制造商们预计工资平均涨将或达7.2%。在这样的背景下，希望使用更多机器人来代替工人的企业家不在少数。
6月28日，在深圳举办的华南国际工业自动化展览会上，几乎每一个人展台前都展示着正在工作中的机器人，一个个规律地进行着重复工作，动作整齐。经济观察报记者接触了来自珠宝、电缆、玩具和家具等多个行业的厂商，他们前来寻找能够给他们的生产线导入自动化设备的机器人企业，用那些不知疲倦的机器人代替需要吃饭、休息工人。
广东省是中国的大型制造业中心，也是劳动密集型企业聚集地。这些需要大量劳动力的工厂，正在努力提高自动化生产水平，减少对从事基础劳动力的需求，而机器人的市场则正在越变越大。
据国际机器人联合会（IFR）今年2月发布的报告，2010年到2016年，中国工业机器人市场增长了5倍多。2013年以后，中国已连续四年成为全球最大的工业机器人市场，中国占全球市场的市场份额从2013年的1/5，到去年已接近1/3。
一
7月3日，广州增城下起了小雨。索菲亚的总部位居于此。去年，索菲亚完成了45.3亿元的营业额，信息与数字化中心总经理王韧告诉记者，从他在2012年来到索菲亚工作算起，至今索菲亚的营业已经增长了3.7倍，在公司规模增大的同时，但工人数量却增长了不到1.5倍。这是自动化、信息化给索菲亚带来的最重要的成效之一。
位于增城的橱柜工厂总投资超过4亿人民币，是索菲亚在2014年从法国引进的司米橱柜全球第五大工业园。在司米橱柜工厂里，一块块木板有条不紊地在流水线上被切割、封边、打孔、分拣和包装，然后经过机器的检测和称重后，通过运输带进入全自动智能立体仓库，等待着发往全国各地的经销商。偌大的工厂中，记者平均每走30米，才看到一两个工人或在操作控制台、或进行简单的搬运工作。
离橱柜工厂不远，是索菲亚定制衣柜及其配套定制柜的华南生产基地，索菲亚总部所在地。记者参观的一个车间，每个班次50人，可以完成600到800个订单，即8万件大小规格不同的板件，平均每个工人每天可以完成约1600多件板材的处理。而在导入自动化生产线之前，一个车间每日只能完成300个不到的订单。
自动化设备不断增加的同时，索菲亚的信息与数字化中心变得越来越庞大。2012年，当王韧加入索菲亚时，IT团队只有20多名员工，如今已经增长到500多人。他们承担起了公司的IT技术、数据处理和产品研发、制造大数据和营销大数据分析等相关工作：与成品家具不同，从事定制家具的索菲亚每天都收到来自全国各地终端门店的个性化定制产品需求，如何把这些需求转化为可以大规模、数控化生产的数据，从而实现智能化大规模生产，是整个企业运转的根本。
板材从柔性生产线加工完成，再经过清洗、质检和分拣、然后把尺寸正确、品质合格、同一订单所含的板材集合到一起，打包发运给客户，机器人的使用还让索菲亚在板件分拣的工序中减少了80%的人力成本。
十几年前，按照单个订单制作衣柜最大的压力在于需要大量技术工人。他们跟传统的木工师傅一样，核心的工序都是由师傅来决定的，同一张图纸，打孔的方式可能都会不一样，甚至还会出现大量的错误。
索菲亚工厂的自动化设备基本都来自德国、奥地利等欧洲国家，但在王韧看来，中国工厂的信息化与自动化技术做得比欧洲的企业做得并不差，更接地气，速度效率更高，这主要体现在对大量信息数据的管理，和与自动化生产线的结合。“欧洲市场发展缓慢，生活也安逸，欧洲企业没有我们这么大量的订单，没有我们这样不断加强自动化、信息化处理能力的动力。”王韧告诉记者，如今他更关注的是如何招到既懂信息化、又略懂家具行业的人，但这样的成熟人才并不好招聘，大多都需要实践近半年才能独立承担工作。
深圳市得润电子股份有限公司董事长邱建民也表达了类似观点。得润电子从2012年开始相继收购了一批欧洲企业，邱建民告诉记者，当公司告诉欧洲的子公司相关市场扩张的战略时，欧洲的员工就会疑惑：为什么要扩张，现在不是做得挺好的吗？
最近，得润电子需要建设新的生产线，最新的工厂选在了重庆。邱建民说，除了当地的支持力度较大外，重庆本地工人多、流动性较低也是一个积极的客观因素。
广州一位不愿具名的制造企业生产负责人告诉记者：“有的时候到了生产旺季，有些工头会闹事。”与法定薪资上调相比，集体工资谈判话语权的情况正在增加。《中国、东盟及前景》调查的200多家制造商中，近4成企业称过去半年与职工代表有过正式工资谈判，而工资谈判制趋于导致更大规模的工资调整：谈判后上调工资的企业涨薪幅度平均达12%。
二
但是，并不是所有企业在导入自动化生产线的时候都能一帆风顺，特别是对于产品较为精密的小规格产品而言。
范伏清是贝尔顺集团的董事长，他的公司主要制造和销售骨传导耳机等可穿戴设备，有8条生产线，近800名员工。范伏清说，去年看到一位家电企业老板的朋友引进去数台机械手，提高了生产效率、降低了部门岗位的人工需求的同时，还拿到了60万元的政府补贴，他今年也决定效仿。
但由于范伏清的企业生产的是尺寸小、零部件较为精细的耳机，让他碰到了更多的困难。“不敢停，不敢停。”这是范伏清对现有生产线导入机械手的方案进行了解后的第一反应，那就是不敢停工。
范伏清招聘工人时非大专毕业以上不招，他的用工成本要比做家电的朋友高得多。他说，因为零件小、材质脆弱，工人非常容易不小心用力过大掰零件，损失非常大，而大专以上学历的工人在工作中则更为细致和耐心。这导致他的工人工资在包吃包住的情况下，每个月要支付人均工资4000多元，而那些家电企业朋友的工人只需3000元左右。
一开始，范伏清希望改造旧的生产线，引进一些机械手。但是，“经过研究，发现行不通。”范伏清面临许多之前意想不到的问题。
首先是机械手长期工作导致的地板塌陷，会影响精度。范伏清说，工厂的地板是水泥的，将机械手放置在一个固定的位置上进行了一段时间作业后，地板会开裂、塌陷，而由于产品极为惊喜，几毫米的位移，就会导致机械手作业不够精确。而如果要在机械手与水泥地之间加垫层，则需要生产线停工才能完成。
甚至车间的温度，也影响了机械手的温度。由于机械手与零部件直接接触的部分是塑料，在广东这样高温、湿冷与闷热、潮湿天气等说变就变的地区，温度、湿度的变化，都会导致机械手塑料件的变形。“太热，塑料里的水分就蒸发干了，塑料就会缩水变小；太潮，塑料又会膨胀，变大。”范伏清说，塑料一旦出现变形，工作精度就会受影响，产品质量就可能难以保证，如果没有及时发现，还会出现同一批次产品全部不合格的糟糕状况，损失巨大。甚至，由于机械手操作次数多，而塑料件与零部件的接触面小，使用久了就会有痕迹凹槽，也会影响机械手的操作。
最终，范伏清决定不改造旧线，而是在下半年增加的2条新生产线导入机械手。他说，到时候需要专门请熟悉自动化解决方案的团队对生产线进行管理，他们是保证自动化能不能做成的关键。如果机械手成功安装，范伏清的每条生产线可以节省30名以上的工人，这意味着每个月能省下24万元的现金工资，以及60名员工的食宿成本。
三
范伏清碰到的问题并非特例，高精度操作对机器人而言是目前较难攻克的一大难点。然而，有的行业对精度有着天然要求，珠宝、黄金便是其中一个。
在华南国际工业自动化展览会上，一名珠宝工厂的厂长找到了专门从事轻型机器人制造和解决方案的李群自动化的市场总监张存良，咨询为戒指的生产制造导入自动化设备的可能性。
聊了约半个小时，厂长邀请张存良有时间到工厂去瞧瞧。张存良告诉记者，戒指的加工、打磨，太困难了，因为太小，机械手如何抓松了，则打磨不到位；如果抓得过紧，则可能会造成磨损，而珠宝、黄金的磨损成本往往极为高昂。
与不同行业的生产特点进行结合是一些机器人企业碰到的最大难题。李群自动化的创始人石金博是大疆无人机董事长李泽湘的学生，她告诉记者，成立公司6年，最大的难点便是如何将机器人应用到不同行业的问题，因为隔行如隔山，不同领域的生产特点对机器人的操作有着千变万化的要求。
李群告诉经济观察报记者，不同于机器人在汽车总装这样的应用，广东当地以轻工业为主，中小型企业众多，对小型轻量级的工业机器人有大量需求，但许多企业却无法买到真正适合自己、能够解决特定问题的机器人。
2012年，李群自动化与其他生产商合作进行设备生产，但由于缺乏充分的市场调研，所研发的产品未引起市场关注，几番折腾，到2012年底，在资金和团队上都出现问题。关键时刻，李群自动化参与了苹果公司的一个项目，日夜加班，交付了样机得以生存。
从那以后，利群自动化便开始进行产品转型，自主进行机器研发与制造，并在食品包装、3C电子这样规模大、人工消费大的行业做了大量调研，设计能让工厂使用的机器人。2015后，李群自动化为广东、香港两家龙头月饼企业量身定制了月饼包装的自动化生产线。
2015年《中国制造2025》发布，“高档数控机床和机器人”是明确要求大力推动重点领域之一。如今，相关产业正在逐渐落地：越来越多的机器人产业园，出现在了深圳、上海、江苏昆山、香河等地。
在越来越多的机器人企业出现时，另一方面却石金博所说，一些企业的真正需求尚未得到解决。朱晓蕊是哈尔滨工业大学的副教授，曾担任大疆无人机的首席科学家。她告诉经济观察报记者，各地的机器人产业园主要由政府推动，或许会存在一些忽视企业需求而盲目追求热点技术的现象，但从全国来看，自动化产业发展还远远不足，大量企业存在着潜在的市场需求。
朱晓蕊说，对于一个相对较新的产业而言，政府的补贴、支持政策，虽然可能带来一定的泡沫，但在产业初期的市场培育阶段是必要的，而市场的淘汰机制将到产业成熟后成为主导，发挥更大的作用。
本文来源：经济观察报作者：刘创
第一赢销网.上一篇:潘石屹将卖京沪两个SOHO项目预计套现超105亿下一篇:名校毕业生制造惊天大案：涉案99亿专骗银行TAG:机器换人信息转载自网络，更多相关信息请点击：http:///
相关文章
-
京东物流称多款机器人已商业化运营
9月11日消息，据报道，在昨日于北京开幕的2021世界机器人大会上，京东物流展示了L4级别自动驾驶智能快递车、智能微型无人仓、搬运型AGV机器人地狼、轨道巡检AI机器人等多款机器人。 京东物流表示，多款高科技机器人已逐步投入现实场景的应用中。如此次展出的京东物流L4级别自动驾驶智能快递车，已经开始在全国超10个城市运营，京东物流智能快递车在参与武汉及石家庄等地抗疫中往返行驶总里程也已超6800公里
2024-03-18 09:44 -
拼多多为何有些机器人是不回复问题的(拼多多人工客服跟机器人一样)
步骤二：在确认状态正常后，请使用账号向店提问并注意截图，若咨询某个问题无法回答，将会自动转人工，转了以后，继续提问，都会由人工回答，机器人不再回复。,步骤三：在确认运行状态正常，且保留截图后，按以下模板反馈到后台。,4、自定义的知识点，是必须客户输入完全相同的话才能回答吗?不是，机器人具备匹配算法能力，当用户输入与配置的问题相似的话，都能匹配并回答。
2024-03-18 09:54 -
新版店小蜜和老机器人有什么区别
转载请保留：www.wanshifu.com（万师傅） 点击展开全文 店小蜜阿里巴巴阿里巴巴扶持阿里店铺 赞 (0) 电商编辑作者 0
2024-03-18 09:52 -
快手小店机器人是什么？如何开启？(快手小店虚拟行业隐私加密解决方案)
如选择停用，当用户咨询时，该知识不再参与问答。,目前已经内置了行业内通用高频的问答知识，覆盖多个场景，商家可根据实际业务情况修改回复内容，如：支持什么快递、发货时效等。,(2)操作方法打开客服机器人工作台，点击右上方【智能辅助接待】按钮开启功能。
2024-03-14 16:32 -
快手机器人接待产品优化升级(快手小店机器人回复怎么关闭？回复收费吗？)
消费者端新增机器人和人工接待卡片，同时智能客服头像优化，提升用户感知。,(注：pc客户端近期在做升级改造，若发现还未有功能更新不要着急，到时按照更新提示操作，就可以使用新功能啦!)优化点A、“机器人与人工展示”优化为更好的区分是人工接待还是机器人接待，在机器人接待时做出界面优化。,B、“满意度二级场景”优化当消费者对智能客服评价为失望和一般时，优化二级选项(更清楚了解消费者不满意原因)，场景如下：
2024-03-14 16:32 -
拼多多机器人回复设置常见问题解答
3、用户在运用机器人回复时商家客服人员是否会收到提示？,5、商家修正了机器人问题列表后，用户能否及时看到更改？,1.影响机器人问题列表的因素有：修正“问题”（包含标点符号）、“是否启用”；2.目前用户每天只能获取一次机器人问题列表，若收取列表的时刻点在商家修正列表前，则用户当日无法获取更新后的版别，需比及第二天进入谈天页面才干看到。
2024-03-14 16:22 -
拼多多客服机器人贵吗？有什么优势？
那么拼多多平台上面的客服机器人贵不贵呢?拼多多为新商家开通了三天免费试用，等三天过后，续费使用，这个机器人当时是比较贵的，因此，各位商家如果觉得自己能够承受得起，那也可以继续续费使用。,客服回复太慢，消费者一般都会失去耐心，要不就去别的店铺购买，要不就感觉到被疏忽而生气，觉得你的店铺不靠谱。,开通机器人客服后，无需晚睡早起就能及时回复消费者咨询，抓住更多转化机会。
2024-03-13 16:56 -
拼多多客服机器人怎么收费？有什么功能？
这个机器人当时是比较贵的，因此，各位商家如果觉得自己能够承受得起，那也可以继续续费使用。,客服回复太慢，消费者一般都会失去耐心，要不就去别的店铺购买，要不就感觉到被疏忽而生气，觉得你的店铺不靠谱。,开通机器人客服后，无需晚睡早起就能及时回复消费者咨询，抓住更多转化机会。
2024-03-13 16:56 -
拼多多人工客服怎么转接？客服机器人的优势
一、人工客服怎么转接?在手机中打开你的拼多多app。,进入到“官方客服”后，有很多选项，根据自己的问题来选择。,开通机器人客服后，无需晚睡早起就能及时回复消费者咨询，抓住更多转化机会。
2024-03-13 16:48 -
拼多多客服机器人怎么设置开场白？费用多少？
拼多多卖家想要笼络住客户，促进客户下单，首先要做好客户服务。我们可以设置机器人客服，在人工很忙的时候，可以让机器人来分流解决一些简单的问题。那么，怎么设置呢?一、怎么设置开场白?第一步：进入【商家管理后台】——【多多客服】——【消息设置】，找到【机器人回复设置】第二步：编辑开场白，编辑好内容后，点击保存并发布。第三步：新建问题，输入问题及对应回复，完成后点击确定。第四步：在【是否启用】栏，勾选需要
2024-03-13 16:34