论文部分内容阅读
江湖里有了人工智能是喜事一桩。
人工智能（AI）模型上了线，大家都说，银行可以变“聪明”，而银行的普遍状态是，变“迷糊”。
AI模型“上班”，带着“想干翻银行”的勇气出门。AI模型“下班”，被银行干得服服的。AI模型也有情绪，它只是不会发朋友圈罢了。
本文的AI模型上线是指，在IT开发环境用历史数据做模型（训练），然后把模型拿到生产进行上线（推理）。其他情况，暂不讨论。
更正式的说法是，通常的AI模型生产过程是，在训练端做模型开发，也就是模型训练或者叫线下开发。
然后把训练好的模型推送到推理端进行部署，然后进行模型服务也就是模型上线部署、发布与服务。
当走到AI模型上线这一步，金主爸爸对AI有一定认知，但是对“AI模型上线”这件事的复杂性认识不足，思想守旧。
故事的大部分素材，来源于采（吐）访（槽）。
采访人说，如果实名，就拉黑本文作者，名字是化名，资深售前张喵。
故事一开始，是这样的。
一般来说，客（金）户（主）的财力和吼声的音量成正比，财力特别雄厚，那么吼声，也会特别大，比如，银行。
其实，银行也会根据资产规模分个大中小。
第一梯队，工农中交建。第二梯队，股份商业银行。第三梯队，城市商业银行。
银行在落地人工智能项目的时候，往往有这么个镜头，客户爸爸拍桌一声怒吼：“就AI项目幺蛾子多，还能不能干？什么时候干好，什么时候给钱！再干不好就卷铺盖走人，钱也不给！”
客户一声怒吼，道出了AI科技公司的几种惨状。
作为炙手可热的“新技术”，为啥会这样？不仅如此，很多知名的AI明星公司（技术提供厂商）扎紧裤腰带，精打细算，开始考核销售团队利润率。
张喵售前坦言：“金额100万的项目，预付款只有10万，软件验收条款一大堆。干着干着项目就超期了，干着干着，利润就见底了。”银行考核乙方技术团队，那是相当有一套的。
AI公司，干著干着就亏本了。
不少IPO中止的AI明星公司，虽然不是只服务银行，但对此也应该深有体会。AI模型落地早期，小白银行（没有任何懂AI的技术团队）能接受“不确定性”这个新鲜事物，但是，这个“不确定”是有条件的。
一般说来，客户会根据业务实际情况建立一个“基线”，然后拟定一个提升所要达到的标准，比如准确率达到多少，覆盖率达到多少，“达到”即满意，也就是可以“验收”。
这里的“基线”可能是百分比，也可能是数字，根据业务情况不同而不同。但毕竟，新技术是有空子可钻的。比如有些公司把AI模型做得很漂亮，但是，智能化大生产的时候达不到事先承诺的“成绩”，再和客户扯皮。
这里，我揭秘一下AI厂商骚操作，也就是扯皮的重（下）要（作）手段：拉低客户预期。2021年，不是AI厂商出门做生意的第一年。
很多情况下，“AI厂商”是知道结果的，但并不会和客户说清楚。举个最最浅显的例子，某AI厂商做AI模型在历史数据下做得很好，但AI模型本身泛化性不好，导致上线后效果急剧下降。一场悲剧，即将发生。责任心强的AI厂商会积极投入，调整模型，为达到要求而努力。
反之，无责任心的AI厂商就开始扯皮，逼迫客户降低预期。
最后，客户妥协。这种流氓AI厂商会活得好吗？一时不会都死光。
但是，这种骚操作可以拿到订单，客户受损，凄凄凉凉。老实厂商，越来越难生存，吹牛厂商，糊弄，收钱，割韭菜，跑路。
长此以往，AI技术信用破产。相信有的银行已经经历过那种“说的效果和实际效果完全不是一回事儿”的悲剧，一边看本文，一边默默地擦眼泪。的确，漏屋偏逢连夜雨，数据中台、数智平台、智慧大脑等营销术语，徒然增加了沟通成本。
数据科学、统计学、机器学习、非结构化数据等富有知识感的词汇，也来捣乱。更有迁移学、强化学习、联邦学习、神经网络等包涵“学术背景”“专家风范”的用语，让人产生权威畏惧。
一时四下混沌，对技术路线的选择，不是“真假难辨“，而是是无从下手、无从选择。客户误以为他们能做到航空母舰，最后，交付了一只皮划艇。
这种是真假难辨。总是有好有坏。
可悲的是，客户不懂AI产品，不学AI，更别提深入研究了。
可叹的是，金主对新技术没有敬畏心，还以为自己老一套玩得转。无知者无畏的结果是，听信一些“虚假宣传”，走极端，要么认为人工智能无所不能，要么误认为人工智能是智障。
张喵售前工作经验十来年，作为企业级软件产品解决方案的售前人员，练就了一身本事，对此也压力山大。毕竟，这是人的问题，技术解决不了。
有一次，在某沿海城市，合作伙伴帮张喵售前约见到一位城商行领导。可惜，听完大概介绍，张喵售前心里凉了半截，需求不匹配。在电梯里，实心儿的张喵售前嘴巴跑得比脑子还快，脱口而出：“这项目估计干不了。”合作伙伴一听，瞬间翻脸，立刻口吐芬芳，场面失控。要不是电梯里空间狭小，腿脚伸展不开，搏击赛即将上演。
张喵售前反省：“合作伙伴对银行爸爸也是跪式服务，可能受了不知多少的委屈，才有了见面的机会。一听机会没了，心态当场崩了。”客户无法辨“忠奸”，一不小心把“说实话”的公司排除在外，其结果就是成单之后，这些“虚假宣传”的公司无法实现承诺，甚至有的AI大品牌“店大欺客“，晾着客户，项目迟迟无法交付，最后烂尾。很多银行对起诉是谨慎，因为执法的过程会曝光银行的“商业秘密”。
以前，甲方验收一个项目，达到“验收标准”，就交差。银行交易系统，转账成功了，收工。银行流程自动化，实现了，收工。甚至，到了大数据那一波，把银行的数据集中起来，存好，算好，收工。 但是，到了AI就扯淡了。
落后的观念、守旧的思想，傲慢的团队……对此，AI都无能为力。
这句话该写在教科书里。整体看银行这类客户，要齐刷刷理解AI技术，可能还需要2到3年左右。
有些银行客户走在前列，有的则起步较晚，表现的问题也各不相同，但即便是那些AI探索多年的银行，也面临着诸多问题。以前用算盘，现在用键盘。银行数字化转型和智能化演进有自己的节奏，智能最终是“标配“，谁也躲不了。在没有AI之前，IT系统好多年了，有不少“奇葩”的历史遗留问题。
甚至，有人说IT系统就是：“能跑起来不出问题就行，别动，别改”。银行是个传统生意，银行IT系统都是阶段性建设的，新的，旧的，各时期的技术剪裁拼接凑也是常见的。银行的基础的技术支撑类系统复杂到让人一言难尽，更别说AI上线所需要的线上服务器环境、离线训练环境、数据库、存储系统，它们之间都有非常紧密的关系。
牵一发，而动全身。比如，现如今，机器学习平台产品在银行有较好的落地场景，距离Gartner首次定义数据科学和机器学习平台（2017年2月），已经过去了好几年。
这个说法，有点像《辞海》的風格，听上去挺万能的。但是，没有说“什么万万不能”。有时候知道“不能干什么”，比知道“能干什么”，更重要。“集成”牵出来了平台型AI软件大大有别于“传统IT软件”的一点：
它是个大组件，需要和银行现有系统有效融合，也就是上下游都得搞得定。上游全面对接上游各式各样的数据和系统，下游为各种业务系统以及周边基础设施以及产品提供良好的AI服务。左右逢源，你懂吧。所以，AI模型上线“玩（策）法（略）”就五花八门了，一刀切的想法“很天真”。
通常，我们把和AI模型上线有关的环境，称之为AI的生产环境。
不同的生产环境，想大规模复现模型，并有相同的效果，是非常漫长的任务，甚至会耗费数月，半年时间。模型上线，一方面得符合所有IT运维的要求，高可用，灾备、稳定性，性能等等。
另一方面，AI自己不要面子的吗？要符合AI流程的一些东西。银行，这种在数智化里跑得快的行业。对于AI模型上线，一直存在无数问题。
你别不信，有些银行真的就是这样。
客气一点的说，就是每家银行所处的“时代”业不一样。
有的在秦朝吃土味烧烤，有的在宋朝吃东坡肘子。那些被银行虐多了的AI厂商会说，AI模型部署有三种可能：可能是集中部署统一提供服务，可能是远端部署，可能是边缘部署。
集中部署统一提供模型服务，那可能会出现一个模型真正触达要服务的业务端，流转好几个系统和网关，中间就会产生特别多的“麻烦”。
仅靠远端，仅靠边缘部署，灵活性又不够，比如模型调整和优化就没办法有效实施。银行高管吐槽：我一看到AI的项目，就往后排期。
执行团队瑟瑟发抖，雷公雷母随机抽取一个幸运观众，最好别是自己。但是，有的节奏慢，场景罕见、长尾场景、、费用有限、试错成本不能高、领导忍耐力有限。能不能避免踩雷，坐等AI产品彻底成熟？醒一醒吧。AI模型“轻松”上线仅仅是一个技术问题吗？显然不是。
AI模型从实验室走出来，迈着六亲不认的步伐。但是，到了企业里，生产中，尊严被按在地上摩擦。AI模型上线，这是一个成熟的AI平台公司面临的问题.
有些机器学习平台产品，没有人用，就快挂掉了，“死前”还没有遇到这个痛点：AI模型上线和数据、工具、流程等关键点，同时迭代创新难不难？AI模型承载业务，银行业务是一个饱含创造力的事情。业务创新难不难？所以，别妄想AI模型上线的产品100%成熟了，一切就省力了，创造力“永不休眠”。
初期，家家银行都会面临模型落地生产困难的问题，谁也逃不掉。
AI模型手工上线过程十分复杂，你别不信，我给你再列几个，每个都让人浑身难受。开发过程单一，算法、环境、模型、版本等管理混乱，无法协作开发，上线模型无法有效监控，软硬件资源管控缺失，上线模型模型效果衰减后的优化升级工作困难等等。因此，“老三样”建模手段已经无法有效支撑建模和模型上线和运维。
哪三样？第一，传统的作坊式的手工建模。第二，早期BI系统提供的简单建模。第三，不考虑系统，孤立建模。劳资钱多，花钱砸团队AI科学家团队的规模能“铲除”问题吗？
恭喜你，答案是，不能。一是成本奇高，让人力资源负责人给你拿一份人工智能科学家薪酬报告，看看年薪中位数，清醒一下。二是原有的人才得不到良好的发展，滋生团队内部消极学习的风气。某些银行，完全不懂数字化转型是啥，还蜜汁自信：“我不懂你说的机器人在学习是什么，也不想懂”。
不要讥讽别人的无能，因为这不能取代我们对自身的反思。当然，这类型的客户的数量也在日益变少，尤其是进入银行科技规划的预算项目，招标的时候指名道姓“机器学习”“人工智能”“深度学习”。
银行软件开发部门的领导，表面上，工作经验二十几年，手握重金，底气十足。私下里，焦虑得要死，每年投入以亿计，数智化结果在哪？
银行是和数（金）字（钱）打交道的生意，刚需就是要对数据多分析，才能赚更多钱，分析数据也意味着消耗更多人力资源。爱情不是独角戏，用好新技术，需要双方的努力。
真正努力的银行应该怎么做？想通了，就会将新老人才组织在一起工作（开发作业），把数据工程师和银行业务人员迅速转化为专家。
真正努力的AI技术提供商应该怎么做？狠狠心，玩命打磨产品，市面上所有要求的格式全套提供，所有的硬件和技术架构上做开放性支持。
为什么这么做才是正途？因为产品化降低工程施工成本。否则，就是永无宁日的量身剪裁，跪式服务。
在To B服务里，偏场景的定制化开发是避免不了的。但是，没有产品化，AI公司就是个装修施工队，哪里施工哪里去。AI公司商业模式就是吹牛皮，哪里韭菜多，哪里去。本质更像人力外包公司，高端人才的人力外包。
只有西红柿首富会说：“这个项目，我王多鱼，投了。”一位AI大神曾当面告诉我：“早期，我们对于AI的激动，激动于AI算法改变了世界。这肯定有对的成分，但AI落地也不那么容易。很多人都把AI的落地看成一件算法改变世界的事情，而今，我把它看成一个架构升级的事情。”
人工智能（AI）模型上了线，大家都说，银行可以变“聪明”，而银行的普遍状态是，变“迷糊”。
AI模型“上班”，带着“想干翻银行”的勇气出门。AI模型“下班”，被银行干得服服的。AI模型也有情绪，它只是不会发朋友圈罢了。
本文的AI模型上线是指，在IT开发环境用历史数据做模型（训练），然后把模型拿到生产进行上线（推理）。其他情况，暂不讨论。
更正式的说法是，通常的AI模型生产过程是，在训练端做模型开发，也就是模型训练或者叫线下开发。
然后把训练好的模型推送到推理端进行部署，然后进行模型服务也就是模型上线部署、发布与服务。
当走到AI模型上线这一步，金主爸爸对AI有一定认知，但是对“AI模型上线”这件事的复杂性认识不足，思想守旧。
故事的大部分素材，来源于采（吐）访（槽）。
采访人说，如果实名，就拉黑本文作者，名字是化名，资深售前张喵。
故事一开始，是这样的。
扯淡的AI技术？
一般来说，客（金）户（主）的财力和吼声的音量成正比，财力特别雄厚，那么吼声，也会特别大，比如，银行。
其实，银行也会根据资产规模分个大中小。
第一梯队，工农中交建。第二梯队，股份商业银行。第三梯队，城市商业银行。
银行在落地人工智能项目的时候，往往有这么个镜头，客户爸爸拍桌一声怒吼：“就AI项目幺蛾子多，还能不能干？什么时候干好，什么时候给钱！再干不好就卷铺盖走人，钱也不给！”
客户一声怒吼，道出了AI科技公司的几种惨状。
作为炙手可热的“新技术”，为啥会这样？不仅如此，很多知名的AI明星公司（技术提供厂商）扎紧裤腰带，精打细算，开始考核销售团队利润率。
张喵售前坦言：“金额100万的项目，预付款只有10万，软件验收条款一大堆。干着干着项目就超期了，干着干着，利润就见底了。”银行考核乙方技术团队，那是相当有一套的。
AI公司，干著干着就亏本了。
不少IPO中止的AI明星公司，虽然不是只服务银行，但对此也应该深有体会。AI模型落地早期，小白银行（没有任何懂AI的技术团队）能接受“不确定性”这个新鲜事物，但是，这个“不确定”是有条件的。
一般说来，客户会根据业务实际情况建立一个“基线”，然后拟定一个提升所要达到的标准，比如准确率达到多少，覆盖率达到多少，“达到”即满意，也就是可以“验收”。
这里的“基线”可能是百分比，也可能是数字，根据业务情况不同而不同。但毕竟，新技术是有空子可钻的。比如有些公司把AI模型做得很漂亮，但是，智能化大生产的时候达不到事先承诺的“成绩”，再和客户扯皮。
这里，我揭秘一下AI厂商骚操作，也就是扯皮的重（下）要（作）手段：拉低客户预期。2021年，不是AI厂商出门做生意的第一年。
很多情况下，“AI厂商”是知道结果的，但并不会和客户说清楚。举个最最浅显的例子，某AI厂商做AI模型在历史数据下做得很好，但AI模型本身泛化性不好，导致上线后效果急剧下降。一场悲剧，即将发生。责任心强的AI厂商会积极投入，调整模型，为达到要求而努力。
反之，无责任心的AI厂商就开始扯皮，逼迫客户降低预期。
最后，客户妥协。这种流氓AI厂商会活得好吗？一时不会都死光。
但是，这种骚操作可以拿到订单，客户受损，凄凄凉凉。老实厂商，越来越难生存，吹牛厂商，糊弄，收钱，割韭菜，跑路。
长此以往，AI技术信用破产。相信有的银行已经经历过那种“说的效果和实际效果完全不是一回事儿”的悲剧，一边看本文，一边默默地擦眼泪。的确，漏屋偏逢连夜雨，数据中台、数智平台、智慧大脑等营销术语，徒然增加了沟通成本。
数据科学、统计学、机器学习、非结构化数据等富有知识感的词汇，也来捣乱。更有迁移学、强化学习、联邦学习、神经网络等包涵“学术背景”“专家风范”的用语，让人产生权威畏惧。
一时四下混沌，对技术路线的选择，不是“真假难辨“，而是是无从下手、无从选择。客户误以为他们能做到航空母舰，最后，交付了一只皮划艇。
这种是真假难辨。总是有好有坏。
可悲的是，客户不懂AI产品，不学AI，更别提深入研究了。
可叹的是，金主对新技术没有敬畏心，还以为自己老一套玩得转。无知者无畏的结果是，听信一些“虚假宣传”，走极端，要么认为人工智能无所不能，要么误认为人工智能是智障。
张喵售前工作经验十来年，作为企业级软件产品解决方案的售前人员，练就了一身本事，对此也压力山大。毕竟，这是人的问题，技术解决不了。
有一次，在某沿海城市，合作伙伴帮张喵售前约见到一位城商行领导。可惜，听完大概介绍，张喵售前心里凉了半截，需求不匹配。在电梯里，实心儿的张喵售前嘴巴跑得比脑子还快，脱口而出：“这项目估计干不了。”合作伙伴一听，瞬间翻脸，立刻口吐芬芳，场面失控。要不是电梯里空间狭小，腿脚伸展不开，搏击赛即将上演。
张喵售前反省：“合作伙伴对银行爸爸也是跪式服务，可能受了不知多少的委屈，才有了见面的机会。一听机会没了，心态当场崩了。”客户无法辨“忠奸”，一不小心把“说实话”的公司排除在外，其结果就是成单之后，这些“虚假宣传”的公司无法实现承诺，甚至有的AI大品牌“店大欺客“，晾着客户，项目迟迟无法交付，最后烂尾。很多银行对起诉是谨慎，因为执法的过程会曝光银行的“商业秘密”。
以前，甲方验收一个项目，达到“验收标准”，就交差。银行交易系统，转账成功了，收工。银行流程自动化，实现了，收工。甚至，到了大数据那一波，把银行的数据集中起来，存好，算好，收工。 但是，到了AI就扯淡了。
丑陋的银行客户？
落后的观念、守旧的思想，傲慢的团队……对此，AI都无能为力。
这句话该写在教科书里。整体看银行这类客户，要齐刷刷理解AI技术，可能还需要2到3年左右。
有些银行客户走在前列，有的则起步较晚，表现的问题也各不相同，但即便是那些AI探索多年的银行，也面临着诸多问题。以前用算盘，现在用键盘。银行数字化转型和智能化演进有自己的节奏，智能最终是“标配“，谁也躲不了。在没有AI之前，IT系统好多年了，有不少“奇葩”的历史遗留问题。
甚至，有人说IT系统就是：“能跑起来不出问题就行，别动，别改”。银行是个传统生意，银行IT系统都是阶段性建设的，新的，旧的，各时期的技术剪裁拼接凑也是常见的。银行的基础的技术支撑类系统复杂到让人一言难尽，更别说AI上线所需要的线上服务器环境、离线训练环境、数据库、存储系统，它们之间都有非常紧密的关系。
牵一发，而动全身。比如，现如今，机器学习平台产品在银行有较好的落地场景，距离Gartner首次定义数据科学和机器学习平台（2017年2月），已经过去了好几年。
这个说法，有点像《辞海》的風格，听上去挺万能的。但是，没有说“什么万万不能”。有时候知道“不能干什么”，比知道“能干什么”，更重要。“集成”牵出来了平台型AI软件大大有别于“传统IT软件”的一点：
它是个大组件，需要和银行现有系统有效融合，也就是上下游都得搞得定。上游全面对接上游各式各样的数据和系统，下游为各种业务系统以及周边基础设施以及产品提供良好的AI服务。左右逢源，你懂吧。所以，AI模型上线“玩（策）法（略）”就五花八门了，一刀切的想法“很天真”。
通常，我们把和AI模型上线有关的环境，称之为AI的生产环境。
不同的生产环境，想大规模复现模型，并有相同的效果，是非常漫长的任务，甚至会耗费数月，半年时间。模型上线，一方面得符合所有IT运维的要求，高可用，灾备、稳定性，性能等等。
另一方面，AI自己不要面子的吗？要符合AI流程的一些东西。银行，这种在数智化里跑得快的行业。对于AI模型上线，一直存在无数问题。
你别不信，有些银行真的就是这样。
客气一点的说，就是每家银行所处的“时代”业不一样。
有的在秦朝吃土味烧烤，有的在宋朝吃东坡肘子。那些被银行虐多了的AI厂商会说，AI模型部署有三种可能：可能是集中部署统一提供服务，可能是远端部署，可能是边缘部署。
集中部署统一提供模型服务，那可能会出现一个模型真正触达要服务的业务端，流转好几个系统和网关，中间就会产生特别多的“麻烦”。
仅靠远端，仅靠边缘部署，灵活性又不够，比如模型调整和优化就没办法有效实施。银行高管吐槽：我一看到AI的项目，就往后排期。
执行团队瑟瑟发抖，雷公雷母随机抽取一个幸运观众，最好别是自己。但是，有的节奏慢，场景罕见、长尾场景、、费用有限、试错成本不能高、领导忍耐力有限。能不能避免踩雷，坐等AI产品彻底成熟？醒一醒吧。AI模型“轻松”上线仅仅是一个技术问题吗？显然不是。
AI模型从实验室走出来，迈着六亲不认的步伐。但是，到了企业里，生产中，尊严被按在地上摩擦。AI模型上线，这是一个成熟的AI平台公司面临的问题.
有些机器学习平台产品，没有人用，就快挂掉了，“死前”还没有遇到这个痛点：AI模型上线和数据、工具、流程等关键点，同时迭代创新难不难？AI模型承载业务，银行业务是一个饱含创造力的事情。业务创新难不难？所以，别妄想AI模型上线的产品100%成熟了，一切就省力了，创造力“永不休眠”。
正道的光
初期，家家银行都会面临模型落地生产困难的问题，谁也逃不掉。
AI模型手工上线过程十分复杂，你别不信，我给你再列几个，每个都让人浑身难受。开发过程单一，算法、环境、模型、版本等管理混乱，无法协作开发，上线模型无法有效监控，软硬件资源管控缺失，上线模型模型效果衰减后的优化升级工作困难等等。因此，“老三样”建模手段已经无法有效支撑建模和模型上线和运维。
哪三样？第一，传统的作坊式的手工建模。第二，早期BI系统提供的简单建模。第三，不考虑系统，孤立建模。劳资钱多，花钱砸团队AI科学家团队的规模能“铲除”问题吗？
恭喜你，答案是，不能。一是成本奇高，让人力资源负责人给你拿一份人工智能科学家薪酬报告，看看年薪中位数，清醒一下。二是原有的人才得不到良好的发展，滋生团队内部消极学习的风气。某些银行，完全不懂数字化转型是啥，还蜜汁自信：“我不懂你说的机器人在学习是什么，也不想懂”。
不要讥讽别人的无能，因为这不能取代我们对自身的反思。当然，这类型的客户的数量也在日益变少，尤其是进入银行科技规划的预算项目，招标的时候指名道姓“机器学习”“人工智能”“深度学习”。
银行软件开发部门的领导，表面上，工作经验二十几年，手握重金，底气十足。私下里，焦虑得要死，每年投入以亿计，数智化结果在哪？
银行是和数（金）字（钱）打交道的生意，刚需就是要对数据多分析，才能赚更多钱，分析数据也意味着消耗更多人力资源。爱情不是独角戏，用好新技术，需要双方的努力。
真正努力的银行应该怎么做？想通了，就会将新老人才组织在一起工作（开发作业），把数据工程师和银行业务人员迅速转化为专家。
真正努力的AI技术提供商应该怎么做？狠狠心，玩命打磨产品，市面上所有要求的格式全套提供，所有的硬件和技术架构上做开放性支持。
为什么这么做才是正途？因为产品化降低工程施工成本。否则，就是永无宁日的量身剪裁，跪式服务。
在To B服务里，偏场景的定制化开发是避免不了的。但是，没有产品化，AI公司就是个装修施工队，哪里施工哪里去。AI公司商业模式就是吹牛皮，哪里韭菜多，哪里去。本质更像人力外包公司，高端人才的人力外包。
只有西红柿首富会说：“这个项目，我王多鱼，投了。”一位AI大神曾当面告诉我：“早期，我们对于AI的激动，激动于AI算法改变了世界。这肯定有对的成分，但AI落地也不那么容易。很多人都把AI的落地看成一件算法改变世界的事情，而今，我把它看成一个架构升级的事情。”