百度在2024百度云智大会上宣布全面升级两大AI基础设施的报道。以下是文章的主要内容:
百舸 AI 异构计算平台 4.0:
- 百度智能云升级发布百舸AI异构计算平台4.0,以满足企业落地大模型的全旅程算力需求。
- 在集群创建阶段,百舸4.0预置了主流的大模型训练工具,实现了秒级部署,并将万卡集群运行准备时间从几周缩减至1小时。
- 在开发实验阶段,百舸4.0全新升级的可观测大盘,能够对多芯适配、集群效能、任务自动容错等方面进行全方位监测。
- 在模型训练阶段,百舸4.0能够自动筛查集群状态,并基于对GPU故障的预测,及时转移工作负载,降低故障发生频次。
- 百舸4.0在万卡集群上实现了有效训练时长占比99.5%以上,整体性能相比业界平均水平提升30%。
千帆大模型平台 3.0:
- 千帆大模型平台3.0发布,满足企业客户对模型调用、模型开发、应用开发的需求。
- 在模型调用方面,千帆平台支持调用包括文心系列大模型在内的近百个国内外大模型,还支持调用语音、视觉等各种传统的小模型。
- 在模型开发方面,千帆3.0提供了大模型工具链,支持CV、NLP、语音等传统模型的开发,并实现数据、模型、算力等资源的统一纳管和调度。
- 在应用开发方面,千帆3.0从检索效果、检索性能、存储扩展、调配灵活性四方面对企业级检索增强生成(RAG)进行了升级。
AI原生应用产品升级:
- 智能客服应用“客悦”:基于文心大模型重构,提升了用户复杂意图理解、多模态信息交流等方面的能力,问题自助解决率提升至92%。
- 数字人平台“曦灵”:支持根据文字快速生成不同妆造、不同行业特色的3D数字人形象和视频,3D超写实数字人的价格从万元降价至199元。
- AI代码提效工具“文心快码”:业界首发「企业级代码架构解释」、「企业级代码审查」两项全新功能,服务超过1万家企业客户,整体研发效率提升20%。
其他信息:
- 文心大模型日均调用量超过7亿次,累计帮助用户精调了3万个大模型,开发出70多万个企业级应用。
- 过去一年,文心旗舰大模型降价幅度超过90%,主力模型全面免费。
广告声明:
- 文章包含对外跳转链接,用于传递更多信息,结果仅供参考。
百度的这些升级展示了其在AI领域的最新进展,为开发者和企业提供了强大的工具,以实现更广泛的AI应用。如果您需要更多详细信息或有其他问题,请告诉我。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
走过万里,足下留香...