蚂蚁数科面向企业发布大模型服务平台,兼容适配主流开源大模型
北京青年报客户端
2024-06-28 17:56
6月28日,蚂蚁数科旗下多云PaaS平台SOFAStack正式发布大模型服务平台AI Max。该平台兼容适配主流开源大模型、国产算力,向企业提供进行模型训练、部署、评估、优化等一站式模型工作台,并实现可视化研发、管理多种具备行业知识库的Agent(智能体)应用,助力企业跑完企业AI应用业务落地的最后一公里。
“对企业来说,大模型训练耗时耗力耗资源,AI Max不仅支持主流开源大模型的一键微调训练,还提供三步即完成的零代码模型开发环境,把原先耗费至少3天的训练缩短至1小时。蚂蚁自研的预训练模型与先进的多模态算法,仅需小量数据即可进行训练,进一步提升数据的利用率和模型训练的效率。”蚂蚁数科云原生产品资深总监马振雄介绍。
在资源层,支持多种国产GPU算力平台纳管部署,企业按需灵活使用资源,使得有限的GPU资源可以高效的被利用起来,同时大大降低服务器使用成本;
在应用层,企业可以根据业务需求快速输出定制化的AI模型,构建服务业务需求的智能体,极大地简化了技术实施过程。
当企业开始构建大模型应用,还需要结合具备行业特性的业务经验。针对金融行业场景,SOFAStack融合金融助理支小助的最佳实践,包含其模型训练、推理能力、智能体研发等方面,可以帮助机构一键生成自身业务特色的智能体应用。过去9年,SOFAStack助力130家金融机构完成云原生架构转型。
“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键。”中国信息通信研究院云大所副所长栗蔚指出,“云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用中落地。”
文/北京青年报记者 温婧
编辑/田野
![](img/xia.png)
相关阅读
蚂蚁集团发布大模型密算平台 韦韬:AI加速数据密态时代到来
北京青年报客户端 2024-07-08
文心大模型4.0 Turbo面向企业开放,文心旗舰模型全线降价
北京青年报客户端 2024-07-05
蚂蚁百灵大模型最新进展:已具备原生多模态能力
北京青年报客户端 2024-07-05
国内厂商近期纷纷降价,大模型商用加速洗牌
经济日报 2024-06-30
智源推出大模型全家桶及全栈开源技术基座新版图
北京青年报客户端 2024-06-14
腾讯云存储面向AIGC全面升级,80%头部大模型厂商采用
北京青年报客户端 2024-04-08
传承雷锋精神 建功伟大时代
北京青年报客户端 2024-03-05
蚂蚁数科副总裁邹亮:数据技术将创造普惠金融新范式
每日经济新闻 2024-01-31
最新评论