ToB企服应用市场:ToB评测及商务社交产业平台

标题: 打造 AI “看牙”新体验，当 Serverless 遇上口腔医疗 [打印本页]

作者: 笑看天下无敌手 时间: 2024-5-20 16:06
标题: 打造 AI “看牙”新体验，当 Serverless 遇上口腔医疗
作者：姜伟，龚杨，周韬，王彬
客户介绍和业务背景
领健成立于2015年，总部位于上海，并在天下设立了20余家分支机构，拥有100项软件著作权、91项注册商标、35项发明专利，致力为口腔诊所、医美机构等消耗医疗企业提供经营管理一体化解决方案。
领健拥有 ISO/IEC27001 国内国际双认证、公安部等保三级认证及工信部通保三级认证，全面赋能消耗医疗机构的数字化经营，助力机构完成开源、避险、节流、增效的健康经营闭环。
领健创新 SaaS + X 模式，旗下拥有 e 看牙软件、e 看牙商城、领健悦见、领健悦容等品牌。e 看牙软件为口腔机构提供单店/连锁管理、电子病历、客户关系管理、进销存管理、智能营销、BI 商业智能分析、影像集成等覆盖口腔机构业务全流程的 SaaS 软件服务；e 看牙商城链接产业链上游1000+国内外知名耗材品牌，严选近2万+耗材商品，为口腔机构提供一站式耗材采购服务；领健悦见以“精确诊断·精准正畸·精准监控”为理念，是新一代隐形正畸解决方案服务商，现已推出悦见成人矫治、悦芽儿童早期矫治等多个产品系列。
领健作为业界领先的口腔机构数智化服务平台，在技能和服务上始终追求卓越。领健为口腔诊所提供了影像智能分析系统AI看牙，通过算法可对消耗者的全景片、口内照、侧位片等影像资料进行分析，识别牙齿题目，大夫仅需简单二次复合即可生成口腔检查报告，让患者全面相识口腔题目，牙齿检查数据与账单数据打通，实时相识商机的跟进速度与成交转化效果。
平台特点及业务痛点
口腔诊所的上班时间比较固定，一般都在08:30～18:00，节假日会更加繁忙一点，时间拉长到一个月，可以看到明显的波峰波谷。
领健早期在云上购买了一波 GPU 机器用于算法的部署，提供对外服务，但在使用过程中遇到了不少题目，重要有以下几个：

资源使用率低，成本浪费：接纳按月持有机器，在放工时间没有业务流量，由于考虑到可能的业务高峰，持有多台 GPU 机器，平峰期使用率不高。总体资源使用率维持在5%左右。
高峰期业务响应慢：应对突发流量本领不足，超出预期的流量会导致服务负载加大，请求响应时间变长，直接影响终端客户的使用体验，在业务最高峰，曾经出现单个请求排队10分钟的环境。
监控和排查本领不足：正畸算法在持续的迭代，在迭代部署的过程中，会出现请求偶发卡顿和步伐报错的环境，但由于本身监控和告警本领不足，没法第一时间主动感知，常常须要终端使用门店反馈环境，低落了主动优化算法的效率。

除此之外，频繁的运维动作和持续的的平台建设，也给运维同砚带来很多的一样平常工作，同时也加大了系统的不稳定因素，加上 GPU 技能在近年发展迅猛，领健技能同砚也须要在这个范畴持续投入不少精力，对于以上这些题目，领健技能同砚开始在云上寻求更好，更高效的解决方案。
解决方案
领健技能团队一直在寻求更好的解决方案，期望在成本，服务体验，运维效率上都能得到改善，在对比了阿里云的多个云产品之后，终极将重点放在了函数计算上。
阿里云函数计算是变乱驱动的全托管计算服务。通过函数计算，客户无需管理服务器等底子设施，只需编写代码并上传。函数计算会准备好计算资源，以弹性、可靠的方式运行代码，并提供日志查询、性能监控、报警等功能。
函数计算除支持传统的 CPU 算力，也支持 GPU 的算力，接纳服务器无感知计算的理念，通过提供一种按需分配的 GPU 计算资源，有效地解决原有 GPU 长驻使用方式导致的低资源使用率、高使用成本和低弹性本领等痛点题目。为客户提供更加便捷、高效的 GPU 计算服务，有效承载 AI 模子推理、AI 模子练习、音视频加快生产、图形图像加快等加快工作负载。
函数计算 GPU 资源架构图如下：

函数计算 GPU 接纳虚拟化技能，做到算力，显存，故障的强隔离，100%兼容原生应用。函数计算通过两级的资源池，保证算力的快速供给，函数计算 GPU 资源池平台持有，客户只须要按量使用，无需为闲置资源买单。
函数计算 GPU 资源请求模子如下：

当 GPU 函数部署完成后，客户可以通过设置预留 GPU 实例的弹性伸缩计谋开启预留 GPU 实例，以提供实时推理应用场景所需的底子设施本领。函数计算平台将根据客户设置的伸缩指标进行预留 GPU 实例的 HPA ，客户请求将优先分配至预留 GPU 实例进行推理服务，平台完全遮蔽冷启动，业务保持低延迟响应。除此之外，平台集成了可观测，日志，监控，告警等系统，以简化题目的排查效率和一样平常的运维工作。
终极，领健技能团队经过一系列验证之后，在函数计算的终极架构图如下：

架构图非常简单，业务流程如下：

客户将正畸算法做成尺度镜像放入阿里云镜像堆栈 ACR；
当前端有正畸的调用请求时，须要初始化实例时，FC 通过拉取 ACR 中镜像以及底层 GPU 资源完成实例的初始化工作，完成算法应用的部署；
正畸计算请求发送至新创建的 GPU 应用上进行计算，并返回效果；

成果和上风
通过将 GPU 计算负载放到函数计算，领健技能团队很好的解决了先前遇到的使用题目：

成本优化：函数计算按量付费的计费方式，真正做到了按照实际请求处置惩罚时间收费，最大限度的低落了资源持有的成本，相比早前的按月持有 GPU 资源，函数计算的费用低落了90%左右，达到了很好的降本效果。
高峰期业务体验：通过业务高峰期的提前资源拉起和突发资源的按量弹性，做到了后端资源实时的供给，接纳函数计算部署后，门店再也没有出现长时间排队的环境，大大提升了使用体验。
高效运维：通过函数计算内置的监控，日志和告警系统，可以实时关注业务的大盘运行环境，通过设置监控告警，在异常时，可以第一时间收到异常推送，并借助完善的日志系统和函数计算专业的技能团队，实时定位并解决步伐题目。

除此之外，接纳函数计算部署，给了整个系统很好的伸缩性，对于将来业务的增长，也不必担心核心的 GPU 资源规划题目，这一点也为业务的持续发展打下了坚固的底子。
总结&展望
通过将核心应用迁徙到函数计算平台，领健技能团队不仅成功应对了业务增长带来的挑战，还明显优化了成本结构，同时加快了开发和运维流程，实现了前所未有的敏捷性和效率。
展望未来，领健技能团队将继续深化与函数计算的合作。随着公司业务版图的不停扩展，预见更多的应用场景将得益于函数计算的弹性伸缩、低成本及高效率的上风。领健技能团队计划在新业务部署时，优先考虑接纳函数计算架构，以期进一步缩短产品上市时间，提升用户体验，并持续低落运营成本。
阿里云函数计算也期待与领健共同探索更高效、更智能的医疗服务解决方案，助力医疗健康产业的数字化转型。相信在双方的精密合作下，领健可以或许更好地服务于患者与医疗从业者，推动行业向更加智能化、高效化的方向迈进。
更多内容关注 Serverless 微信公众号（ID：serverlessdevs），搜集 Serverless 技能最全内容，定期举办 Serverless 运动、直播，用户最佳实践。

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。

欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/)