百度智能云：千帆大模型平台接入Llama2等33个模型，推理成本可降低50%

(资料图片)

近日，百度智能云方面表示，千帆大模型平台已完成新一轮升级，重点升级了两大功能。

据了解，目前千帆大模型平台已经全面接入Llama 2全系列、ChatGLM2-6B、RWKV-4-World、MPT-7B-Instruct、Falcon-7B等33个大模型，成为国内拥有大模型最多的平台。接入的模型经过千帆平台二次性能增强，模型推理成本最高可降低50%。同时，千帆平台上线了国内最全的预置Prompt模板，模板数量多达103个，覆盖对话、游戏、编程、写作十余个场景。

2023年3月，百度智能云推出“千帆大模型平台”，它是全球首个一站式的企业级大模型平台，不但提供包括文心一言在内的大模型服务及第三方大模型服务，还提供大模型开发和应用的整套工具链，能够帮助企业解决大模型开发和应用过程中的所有问题。

百度智能云方面表示，本次千帆大模型平台升级的目的是给企业、开发者提供更加灵活、多样化、高效的大模型服务，客户可选择最适合自身业务的大模型，再利用千帆平台全套工具链进行模型再训练、指令微调等，高效率、低成本地打造企业专属大模型。此外，海量Prompt模板库可提高大模型内容准确性和满意度。

千帆接入Llama 2等33个优质模型，推理成本最高可降低50%

当前，开源大模型生态发展迅速，大量优质模型涌现，在不同任务场景、参数量级与算力环境下体现出了差异化优势。如何选择适合的大模型、如何应用大模型能力提升市场竞争力，成为越来越多企业迫切探索的方向。

文心大模型是百度发布的产业级知识增强大模型，据IDC 最新发布的《AI 大模型技术能力评估报告，2023》显示，文心大模型得到“综合评分第一，算法模型第一，行业覆盖第一”三个绝对第一。而在文心大模型3.5版支持下的文心一言，中文能力突出，在多个公开测评也显示有超出 GPT-4 的表现。

为了满足企业对大模型多样的需求，千帆大模型平台除百度自研的文心大模型外，还支持Llama 2全系列、ChatGLM2-6B、RWKV-4-World、MPT-7B-Instruct、Falcon-7B等33个大模型。

企业用户可将不同大模型搭配使用，以满足不同细分场景的业务需求。企业和开发者可以登陆千帆大模型平台操作台，在“模型仓库”中直接调用、部署。

据了解，千帆平台接入的大模型均经过严格优选，主要考核三大指标：模型效果、模型安全性、可商用。为给企业客户带来更好的模型产品，千帆对这33个大模型进行了性能+安全的双重增强。

一方面，千帆对每一个大模型进行了二次性能增强。通过优化模型吞吐、降低模型尺寸，实现模型推理速度的大幅提升。据测算，调优后模型体积可压缩至25%-50%，推理性能显著提升。这意味着，企业在千帆上调用这些模型可极大地节约成本，提升效果。

另一方面，千帆对第三方大模型做了二次安全增强，更好管控模型输出的安全性。客户在千帆上调用第三方模型，也享有平台的安全保障。

值得一提的是，为方便开发者和企业做模型调优，千帆还提供多种低门槛调优工具，包括SFT（全量参数微调、Prompt Tuning、LoRA）及强化学习（奖励模型学习、强化学习训练）等，同一模型可通过多种方式持续调优。此外，千帆还支持数据回流功能，可在实际生产过程中持续微调，提升模型效果。

上线国内最全Prompt海量模板库，大幅优化模型输出效果

是指通过自然语言向大模型提出问题/提示，帮助大模型更好的理解人类的问题。实际应用时，大模型往往因为缺乏针对性、描述不清晰等原因影响到内容准确性。

为帮助客户提高Prompt提问质量、提升模型输出满意度，本轮升级后，百度智能云千帆大模型平台上线了海量预置Prompt模板库，模板数量多达103个，包含对话、编程、电商、医疗、游戏、翻译、演讲等十余个常见场景。用户可以根据需求选择合适的模板，直接输出给大模型, 即可提高模型内容的针对性和准确度。

百度智能云表示，很多企业使用大模型时，认为效果不好是模型本身的问题，其实很多时候重新编写Prompt就能达到预想的效果。海量Prompt模板的推出，大幅降低了Prompt撰写难度。很多情况下，企业无需花费大量资源调优大模型，基于模板优化Prompt，即可得到满意的模型效果。

如今，大模型正在重塑各行各业，进入产业落地期。为降低大模型使用门槛，千帆大模型平台将持续汇聚优质的大模型资源，提供易用可靠的大模型工具链，帮助每个企业、开发者打通拥抱大模型的最短路径，共同探索大模型与行业结合的创新实践。

雷峰网(公众号：雷峰网)

硅谷NEC Lab往事：将中国企业拽进AI时代的人

港中文「1026实验室」往事：贾佳亚与他的学生们

独家对话黄学东：我在微软 30 年的风风雨雨

雷峰网版权文章，未经授权禁止转载。详情见转载须知。

关键词：

百度智能云：千帆大模型平台接入Llama2等33个模型，推理成本可降低50%

教育 23-08-04
兴民智通：公司的主营业务为汽车车轮轮毂，暂时不涉及自行车行业

安全 23-08-04
库里谈臂展：这真的让我很苦恼我的身高臂展都只有6尺3寸

存储 23-08-04
武汉凡谷：上半年净利润同比下降58.04%

明星 23-08-04

北京丰台30余名工作者驾驶渣土车、铲车紧急驰援门头沟

资讯 23-08-04
中国女足从澳大利亚提前飞抵广州，大量球迷机场接机，主帅水庆霞略带疲惫

安全 23-08-04
大通MAXUS & M动力，邀您共赴原生态足球之旅

综艺 23-08-04
深兰创鸿《新能源汽车维修培训教材》面向全球出版发行

存储 23-08-04

1000余名抢修人员、90余台应急发电车抵达河北涿州

安全 23-08-04
PCIe5.0加持，读写轻松破12G/s，影驰名人堂HOF EX50S固态体验

综艺 23-08-04
金融科技、云计算、通信相关ETF涨超3%；资金持续抄底医药板块

存储 23-08-04
白云机场：7月旅客吞吐量同比增长85.16%

明星 23-08-04

电脑一小时多少电费（电脑一小时用多少电）

资讯 23-08-04
白云机场：7月起降40922架次，同比增长31.72%

安全 23-08-04
联名款的耳机有必要买吗？

综艺 23-08-04
微视频｜涿州24小时

存储 23-08-04

百度智能云：千帆大模型平台接入Llama2等33个模型，推理成本可降低50%

阅读排行

精彩推送