百度全面升级百舸 AI 异构计算平台 4.0、千帆大模型平台 3.0

百度全面升级百舸 AI 异构计算平台 4.0、千帆大模型平台 3.0

百度在2024百度云智大会上宣布全面升级两大AI基础设施的报道。以下是文章的主要内容:

  1. 百舸 AI 异构计算平台 4.0

    • 百度智能云升级发布百舸AI异构计算平台4.0,以满足企业落地大模型的全旅程算力需求。
    • 在集群创建阶段,百舸4.0预置了主流的大模型训练工具,实现了秒级部署,并将万卡集群运行准备时间从几周缩减至1小时。
    • 在开发实验阶段,百舸4.0全新升级的可观测大盘,能够对多芯适配、集群效能、任务自动容错等方面进行全方位监测。
    • 在模型训练阶段,百舸4.0能够自动筛查集群状态,并基于对GPU故障的预测,及时转移工作负载,降低故障发生频次。
    • 百舸4.0在万卡集群上实现了有效训练时长占比99.5%以上,整体性能相比业界平均水平提升30%。
  2. 千帆大模型平台 3.0

    • 千帆大模型平台3.0发布,满足企业客户对模型调用、模型开发、应用开发的需求。
    • 在模型调用方面,千帆平台支持调用包括文心系列大模型在内的近百个国内外大模型,还支持调用语音、视觉等各种传统的小模型。
    • 在模型开发方面,千帆3.0提供了大模型工具链,支持CV、NLP、语音等传统模型的开发,并实现数据、模型、算力等资源的统一纳管和调度。
    • 在应用开发方面,千帆3.0从检索效果、检索性能、存储扩展、调配灵活性四方面对企业级检索增强生成(RAG)进行了升级。
  3. AI原生应用产品升级

    • 智能客服应用“客悦”:基于文心大模型重构,提升了用户复杂意图理解、多模态信息交流等方面的能力,问题自助解决率提升至92%。
    • 数字人平台“曦灵”:支持根据文字快速生成不同妆造、不同行业特色的3D数字人形象和视频,3D超写实数字人的价格从万元降价至199元。
    • AI代码提效工具“文心快码”:业界首发「企业级代码架构解释」、「企业级代码审查」两项全新功能,服务超过1万家企业客户,整体研发效率提升20%。
  4. 其他信息

    • 文心大模型日均调用量超过7亿次,累计帮助用户精调了3万个大模型,开发出70多万个企业级应用。
    • 过去一年,文心旗舰大模型降价幅度超过90%,主力模型全面免费。
  5. 广告声明

    • 文章包含对外跳转链接,用于传递更多信息,结果仅供参考。

百度的这些升级展示了其在AI领域的最新进展,为开发者和企业提供了强大的工具,以实现更广泛的AI应用。如果您需要更多详细信息或有其他问题,请告诉我。

© 版权声明

相关文章

暂无评论

走过万里,足下留香...