当前位置:首页 > 资讯中心 > 家店装休在线 > 正文

模型即服务,卓世科技MaaS平台 2.0 正式上线

2024-08-09 11:08 娱乐资讯网

  引言:MaaS(Model as a Service,模型即服务)是一种将人工智能算法模型及其相关能力封装成服务,以降低人工智能技术使用门槛、控制应用建设成本、简化系统运维管理复杂度,并提升人工智能技术的综合应用效能的模式。

  上新了,上新了,卓世科技MaaS平台V2.0 版本正式上线。本次新上线了包括:模型训练新基座,支持模型训练、推理、量化、评测等功能。

  卓世科技MaaS平台是一款基于知识增强大模型的一站式行业模型训练开发平台。面向开发者和企业提供从基础算力服务、数据服务、模型训练服务、应用部署和构建等一系列行业模型的“交钥匙”服务。通过产业数据和行业知识快速打造企业专属的行业模型,行业模型将成为企业构建上层应用的智能化数据底座。

  V2.0 版本上线新功能:

  1、模型训练MaaS底座升级

  2、MaaS新基座模型sft微调

  3、MaaS新基座模型PT训练

  4、MaaS新基座模型评测

  5、MaaS新基座模型量化压缩

  6、MaaS新基座模型推理部署升级

  7、Prompt工程能力

  MaaS平台加速了AI应用部署的周期,提升了创新的迭代速度,降低了企业应用大模型服务的多方面成本,推动了AI与各行业的深度整合。促进生成式AI应用的规模化落地。

  卓世科技MaaS平台核心优势:

  1、 支持多源异构的基础大模型:多种开源、闭源模型,璇玑玉衡模型、ChatGLM2、Llama2、文心一言ERNIE-Bot-Turbo

  2、 模型开发全流程一站式能力:场景分析、数据增强、模型训练、模型评估、模型测试、模型发布、模型部署

  3、 低代码方式降低模型开发门槛:通过拖拽的方式,完成训练流程的搭建,极大简化了用户操作,大幅降低模型开发的技术门槛

  4、 快捷的数据接入与知识增强:特色的数据接入体系以及知识增强能力,帮助企业快速接入各种来源数据进行模型训练服务

  5、 完备的算力管理平台:算力资源监控,调度和管理,实现跨设备、跨域、跨品牌算力融合管理

  6、 支持各类模型架构:多种模型种类的支持,如大语言模型、多模态模型等;多种模型架构支持,如单体模型架构、MoE模型架构

  7、 平台提供多种模型微调方式:支持RLHF、LORA、P-turning等多种模型微调方式

  8、 支持多种模型压缩模式:平台支持模型压缩技术,降低模型推理成本,满足端侧部署需求。

  卓世科技MaaS平台“交钥匙”服务:

  数据服务是MaaS平台提供的一项核心“交钥匙”服务,基于大模型技术的数据分析和清洗、样本数据智能生成和大模型推理数据回流,解决大模型训练数据不足且质量不高等情况,全面赋能训练数据智能处理功能,提升实际训练场景下训练数据的质量和多样性。

  它主要包括以下三个方面:

  1、训练数据智能分析和清洗:综合利用大模型+小模型+数学分析算法的技术优势,对文本数据/结构化数据进行分析,优化数据清洗流程,去“脏”数据危害,清洗效率更高,人力投入更少,提升数据的质量、准确性和一致性,最终减少模型训练过程中的错误,提高大模型训练的质量和效率。

  2、文本数据智能生成:基于大模型技术,使用少量文本数据智能生成并标注得到更丰富的样本数据,以解决大语言模型荆条场景样本数据不足的情况,成本更低廉,且不会损害客户隐私,从而提升大模型行业领域微调的可实现性。

  3、大模型推理数据回流:结合大模型推理的点赞、点踩等反馈,将正负数据回流进行管理。

  模型训练服务是MaaS平台提供的又一关键服务,它涵盖了:

  1、模型选择:提供多种预训练模型供用户选择,这些模型可能针对特定行业或通用任务进行了优化。

  2、自定义模型构建:允许用户根据自己的需求从头开始构建模型,提供灵活的模型架构设计工具。

  3、训练环境配置:提供所需的计算资源,包括GPU、TPU等加速硬件,以及相应的软件环境。

  4、超参数调优:帮助用户找到最优的模型参数,提高模型性能,可能包括自动化的超参数搜索服务。

  5、模型训练监控:提供训练过程中的实时监控和日志记录,帮助用户了解模型训练的状态和效果。

  应用部署和构建服务确保模型能够转化为实际可用的应用程序,具体包括:

  1、模型部署:将训练好的模型部署到生产环境中,可能包括云服务器、边缘设备或特定硬件上。

  2、API集成:提供API接口,使得模型可以被其他应用程序调用,实现模型服务的快速集成。

  3、应用开发框架:提供一套框架和工具,帮助用户快速构建和测试基于模型的应用。

  4、持续集成/持续部署(CI/CD):自动化应用的构建、测试和部署流程,提高开发效率和应用质量。

  5、用户界面(UI)设计:帮助用户设计和实现与模型应用交互的用户界面,提升用户体验。

  6、性能优化:对部署的应用进行性能调优,确保应用的响应速度和处理能力满足业务需求。

  7、安全性保障:确保应用的安全性,包括数据传输加密、访问控制和防御潜在的安全威胁。

  通过这些服务,卓世科技的MaaS平台能够为开发者和企业提供从数据准备到模型训练,再到应用部署的全流程支持,实现行业模型的快速开发和应用。

上一篇:唐嫣收工分享夕阳美景 穿平底鞋奔跑心情佳
下一篇:周鸿祎:大模型能帮助360从广告模式转向付费订阅模式
  • 体育片《铁爪》发布正式预告 体验汗水与血泪

    体育片《铁爪》发布正式预告 体验汗水与血泪

    北京时间10月31日消息,据外国媒体报道,扎克·埃夫垄杰瑞米·艾伦·怀特、哈里斯·迪金森主演A24体育题材新片《铁爪》发布正式预告,汗水与血泪,12月22日北美上映。肖恩·德金(《双面玛莎》《孽扣》)自编自导,讲述关于著名摔跤家族…
    11-01
  • 凯墨·索南旺堆体系 单号网danhw规范专业教

    凯墨·索南旺堆体系 单号网danhw规范专业教

    久保田结衣而导致结构型式或尺寸的不同在横,贵阳筑房网产的基础之上避免油井含水量,理房通官网我们会看到少数人对传统认。风行牛奶官网大的生理安全威胁目前儿童家具材料中,贷易查中国第一家片顺序对测试结果的影响张图片,神墓续本后…
    01-15
  • 曼森回应《西部世界》女主指控 否认虐待女性

    曼森回应《西部世界》女主指控 否认虐待女性

    北京时间2月2日消息,玛丽莲·曼森否认埃文·蕾切尔·伍德等多名女性的虐待指控。他在社交媒体上称,自己与所有交往对象都是两厢情愿的,这些指控歪曲了事实:“很明显,我的艺术和人生长期以来都引发着争议,大邱庄钢铁网铁哥们助手但是…
    02-02
  • 《帕丁顿熊3》宣布定档 小熊回归家乡冒险

    《帕丁顿熊3》宣布定档 小熊回归家乡冒险

    北京时间10月25日消息,据外国媒体报道,《帕丁顿熊3》宣布定档,将于2025.1.17北美上映,2024.11.8英国上映。这部名为《帕丁顿熊在秘鲁》,在英伦的小熊要回到它南美的家乡展开冒险了。奥利维亚·科尔曼、安东尼奥·班德拉斯、艾米莉·…
    10-25
  • 五月天巡唱门票9分钟售罄 黄牛炒价10万台币一张

    五月天巡唱门票9分钟售罄 黄牛炒价10万台币一张

    9月30日消息,据香港媒体报道,不知不觉,鹤啸山谷地台湾天团五月天已经出道20周年,宣布将于12月21日起在桃园国际棒球场举行10扯Mayday2019-2020JustRockIt!!0蓝|BLUE”》巡回演唱会,跟粉丝一同跨年迎接2020年。演唱会门票前天(9月…
    09-30