发布时间：2024-3-13 分类： 电商动态
近日，由信也科技推出的9模管理平台(NYSE:FINV)在信也科技开放日首次亮相。9平台可提供一站式人工智能模型服务，以AI技术服务集团全业务环节，助力金融科技产业融合创新。
据了解，9号平台的命名灵感来源于哈利波特系列中的9号平台，可以引领魔法学院开启一个精彩的世界，而信也科技的9号平台则通过人工智能技术支持集团的科技业务，为合作伙伴赋能。
众所周知，人工智能已经发展了几年，对人们的生活产生了潜移默化的影响，在越来越多的领域发挥着重要作用。无论是行业巨头还是新兴企业都在人工智能领域下功夫，试图将这项技术普及到更多的应用场景。
9模特管理平台：我从哪里来？
AI模型训练平台，基于不同的核心模块和应用场景，也可以称为深度学习平台、机器学习平台和人工智能平台。用户可以在AI平台上使用不同的机器学习框架进行大规模训练，管理和迭代数据集和模型，通过ApI和本地部署访问特定的业务场景。
简单来说，AI平台=AIFAAS (pAAS) (IAAS)。行业内有很多优秀的机器学习平台，如微软， Azure、亚马逊， AWS machine learning、百度阿里， paddle、腾讯TI等，通用平台产品基于基本的机器学习和深度学习计算框架重新开发，提供一站式生态服务，为用户提供从模型训练、模型评估、模型在线预测的全流程开发部署支持，以降低算法专家在工程上的使用门槛。
9模型管理平台：我的解决方案
AI平台在搭建和落地过程中，存在机器学习门槛高、落地慢、实现周期长等问题。结合日常工作流程中遇到的问题，9平台提供了一系列解决方案，解决了模型落地中的一系列难题。具体问题如下：
1.模型环境难以构建，从模型到服务的转化缓慢。2.多个模型共享一套环境，但是模型需要独立更新，环境的维护需要格外小心，变化的风险很大。3.模型服务交付周期长，工程环节耗时长，人力投入大。4.模型服务回滚缓慢。模型发布后，需要几分钟甚至几个小时才能尝试回滚到以前的版本。5.模型服务扩展缓慢，面对突发流量响应迟缓。
针对上述问题，9平台可以提供详细的解决方案，具体体现在以下五个方面：
1.模型环境的标准化描述，提供一套简单、统一和广泛的规范来定义模型环境和加快过程。2.镜像统一标准描述的模型环境，支持模型的容器化操作，提供模型环境隔离和模型操作隔离。3.工程环节的代码采用自动生成技术，实现了人力的零投入，降低了边际成本。4.模型发布采用蓝绿色发布和金丝雀发布，提供快速版本切换和流量细分，操作简单。5.将利用率和饱和指数与弹性扩展算法相结合，提供秒级的容量扩展，快速响应突发流量。
9模型管理平台：我的架构设计
根据企业不同的规模、资源和业务场景，AI平台往往有不同的定位。比如AI和数据可以是同一个中间平台，AI平台可以看作是业务中间平台的一部分，AI平台可以集成到技术中间平台或者后台等。规模小、资源有限的企业通常选择使用第三方AI平台来服务业务，而不是自己搭建AI平台。而信也科技在中台有数据，所以信也科技的AI平台更负责模型算法供给作为业务前台的角色，在中台数据的支持下，起到承载业务、与技术底层对接数据的作用。
9平台架构设计
现在主流的AI平台有两种产品形态：一种是趋势的AutoML，主要是非算法专家提供的视觉训练平台。通过拖拽完成训练中的模型设计和构件排列，完成模型构建。比如Azure另一个是面向专业人员的模型设计和培训工具，通过工程平台集成模型培训和管理。还有融合两种模式的AI平台，比如阿里，的pAI，为各级AI工作者和爱好者提供不同专业度的工具。
信也科技在AI平台上的定位是快速解决问题，提高能效。因此，信也科技优先为算法和模型运维工程师提供模型生命周期管理解决方案。
9平台加速模型生成和服务，可以提供从模型管理和培训到模型部署和模型监控的一整套生命周期解决方案。它不仅可以帮助算法专家解决训练环境和训练过程中的保存管理问题，还可以帮助解决模型部署和在线的各种问题，为在线部署模型提供监控服务。
目前，9模型管理平台已部署各类模型数百个，模型日服务量超过1000万；在秒级；可以获得合适的资源它可以自动使用CpU和GpU资源实现自动扩展，性能提升60%；模型上线只需要1分钟，大大节省了部署时间。
9平台的模型培训和在线服务
此外，平台9为模型训练提供了多套工作区容器。WorkSpace包含许多模型开发工具，包括Jupyter、一些常见的ide和一个终端接口。从准备到训练，代码可以直接在工作区生产在工作区，可以安装各种依赖，可以尝试各种方法，甚至可以将代码提交给Git，直到算法专家得到满意的模型
对于不需要在实时场景中执行或者不能在实时调用场景中执行的耗时模型，9提供了发布为Job任务的部署模式。用户可以通过Job任务执行回溯任务或更新训练数据，整个过程非常轻松。
模型的代码和内部逻辑将作为一个黑盒，打包成docker镜像，所以无论在何种环怎么发布，模型都是绝对安全可靠的，通过管理模块和实际服务模块，用户可以完成AI项目的管理和ApI、Job、镜像app等上层Applications的输出。整个过程可以由算法专家独立完成，无需运维人员和工程师的任何干预。
9平台模型管理模块
9模型管理平台：未来我将何去何从？
12月17日，信也科技成功举办首届科技开放日，并在当天首次亮相自己的科技全景，以地图的形式展示大数据、人工智能、智能决策产品等硬核科研成果。目前，平台9可以支持信也科技的所有技术业务，覆盖多个业务场景，支持多个外部合作伙伴。未来，信也科技人工智能平台将在增强模型评估功能、平台化在线预测、支持分布式训练等方面继续深入探索。
信也科技全景
平台9的成功发布，将进一步推动人工智能技术的研发，加强科研成果的转化和产出。信也科技也将通过持续的科技创新深度参与科技赋能，与合作伙伴共谋发展，助力金融科技产业创新，让人工智能成为企业发展的重要动力，让科技更好地服务人类社会。
