千帆大模型-百度智能云
專用API
【更新時間: 2024.06.25】
百度智能云千帆大模型平臺是面向企業(yè)開發(fā)者的一站式大模型開發(fā)及服務運行平臺。千帆不僅提供了包括文心一言底層模型和第三方開源大模型，還提供了各種AI開發(fā)工具和整套開發(fā)環(huán)境，方便客戶輕松使用和開發(fā)大模型應用。
|
瀏覽次數(shù)
821
采購人數(shù)
20
試用次數(shù)
15
SLA: N/A
響應: N/A
適用于個人&企業(yè)
試用
收藏
×
完成
取消
×
書簽名稱
確定
|
- API詳情
- 定價
- 使用指南
- 常見 FAQ
- 關于我們
- 相關推薦
什么是百度智能云的千帆大模型?
"百度智能云千帆大模型"是百度智能云平臺上提供的一個大模型服務體系，它集成了多種先進的預訓練語言模型和AI技術，旨在為企業(yè)和個人開發(fā)者提供強大的人工智能解決方案。這些模型包括但不限于基于Llama2架構的中文增強版本、ERNIE系列的旗艦級模型以及其他由百度自研或基于開源框架優(yōu)化的高性能模型。
千帆平臺上的千帆SDK不僅支持中英雙語，覆蓋廣泛的應用場景如對話問答、創(chuàng)作生成、代碼生成等，而且部分模型針對特定需求進行了優(yōu)化，如壓縮加速、指令微調(diào)等，以適應不同資源條件下的部署和使用需求。為了進一步簡化開發(fā)流程和提高效率，百度智能云還推出了“千帆SDK”，使得企業(yè)和個人開發(fā)者能夠更加便捷地調(diào)用和集成這些大模型。
用戶可以通過千帆SDK平臺進行模型的選擇、訓練調(diào)優(yōu)及部署調(diào)用，以實現(xiàn)對復雜任務的支持和高效處理。同時，通過使用“千帆SDK”，開發(fā)者可以在自己的應用中快速集成千帆大模型的能力，無論是在本地還是云端部署，都能夠輕松實現(xiàn)。
此外，千帆SDK還提供了豐富的API和工具，幫助開發(fā)者進行模型的訓練、管理和優(yōu)化。開發(fā)者可以利用這些工具，結合千帆大模型平臺的模型，構建出更加智能和強大的應用程序。通過千帆SDK，百度智能云希望能夠賦能更多的開發(fā)者，推動人工智能技術的創(chuàng)新和應用。
什么是百度智能云的千帆大模型接口？
百度智能云的千帆大模型有哪些核心功能？
- 行業(yè)領先文心大模型： 千帆SDK預置全系列文心大模型與上百個精選第三方模型，覆蓋廣泛行業(yè)場景。
- 高效易用的AI原生應用開發(fā)服務： 企業(yè)級Agent、RAG應用開發(fā)平臺，易上手零代碼三步完成應用創(chuàng)建分發(fā)，代碼態(tài)開源API/SDK，支持高效二開零代碼搭建，開源API/SDK高效二開。
- 開放先進的大模型服務開發(fā)全流程： 文心大模型企業(yè)級服務唯一入口，提供高可用及高效價比的生成式AI服務及全流程模型開發(fā)工具鏈。
- 數(shù)據(jù)管理： 千帆SDK數(shù)據(jù)集管理統(tǒng)一納管自訓練模型的數(shù)據(jù)集，并支持自主版本迭代、數(shù)據(jù)查看、導入導出和刪除等操作。數(shù)據(jù)標注支持在線智能標注確保標注效率與質量；支持多人標注，實現(xiàn)大規(guī)模標注中的團隊協(xié)作。數(shù)據(jù)處理支持數(shù)據(jù)清洗、數(shù)據(jù)增強、數(shù)據(jù)生成，提升數(shù)據(jù)質量。
- 模型開發(fā)： 千帆SDK全功能開發(fā)提供Notebook建模、作業(yè)建模、可視化建模等模型訓練方法；提供特征庫，實現(xiàn)特征共享和復用。零代碼開發(fā)提供EasyDL圖像、文本、語音、視頻、結構化數(shù)據(jù)、場景建模等工具。大模型開發(fā)提供專屬大模型開發(fā)工具，支持SFT全量更新、LoRA、Post-pretrain等訓練方法。
- 模型管理： 千帆SDK模型管理支持導入與管理模型文件，支持模型部署包管理。模型評估支持模型評估，對比模型效果指標從而選擇最佳模型進行部署或重訓。模型加速支持多種推理優(yōu)化工具，包括量化壓縮、智能加速等
百度智能云的千帆大模型的核心優(yōu)勢是什么？
- 行業(yè)領先文心大模型： 千帆SDK預置全系列文心大模型與上百個精選第三方模型，覆蓋廣泛行業(yè)場景，提供強大的語言理解和生成能力。
- 高效易用的AI原生應用開發(fā)服務： 企業(yè)級Agent、RAG應用開發(fā)平臺，易上手零代碼三步完成應用創(chuàng)建分發(fā)，代碼態(tài)開源API/SDK，支持高效二開零代碼搭建，開源API/SDK高效二開。
- 開放先進的大模型服務開發(fā)全流程： 文心大模型企業(yè)級服務唯一入口，提供高可用及高效價比的生成式AI服務及全流程模型開發(fā)工具鏈，包括數(shù)據(jù)管理、模型訓練、高效推理、靈活部署至應用集成。
- 數(shù)據(jù)安全全面升級： 在數(shù)據(jù)安全方面，千帆SDK平臺2.0構建了全面的安全保障體系，為不同模型廠商設計了可信的專用隔離域，重點保護模型資產(chǎn)安全，并提供從模型、數(shù)據(jù)到日志的全鏈路加密功能
在哪些場景會用到百度智能云的千帆大模型？
1.數(shù)字政府領域： 百度智能云基于千帆大模型平臺2.0重構了數(shù)字政府解決方案，如“九州”解決方案，讓城市管理者能夠更加高效地處理政務事務，實現(xiàn)快速治理、高效辦公、便捷辦事。在代碼生成、數(shù)據(jù)報表、內(nèi)容分析等深度學習的文本場景中，千帆大模型平臺能夠快速生成可執(zhí)行的代碼，或者結合平臺的多種數(shù)據(jù)生成匹配度更高的應答內(nèi)容
2.金融領域： 在金融領域，“開元”解決方案幫助金融分析師從繁瑣的數(shù)據(jù)處理工作中解放出來，專注于業(yè)務分析，提高了金融服務的效率和準確性。這一解決方案能夠自動化處理大量復雜的數(shù)據(jù)，從而讓分析師從日常繁瑣的數(shù)據(jù)整理工作中解放出來，使他們能夠將更多的時間和精力投入到深入的業(yè)務分析和策略制定中。這樣的轉變不僅提高了金融服務的效率，還通過更精準的數(shù)據(jù)分析增強了決策的準確性，為金融行業(yè)帶來了革命性的進步。
3.工業(yè)領域： 重構后的“開物”解決方案不僅能夠幫助企業(yè)快速構建產(chǎn)線智能應用，還能通過自然語言交互方式輔助管理者進行決策，推動了工業(yè)生產(chǎn)的智能化升級。在代碼生成、數(shù)據(jù)報表、內(nèi)容分析等深度學習的文本場景中，千帆大模型平臺能夠快速生成可執(zhí)行的代碼，或者結合平臺的多種數(shù)據(jù)生成匹配度更高的應答內(nèi)容
4.交通領域： ACE 3.0利用了大模型強大的知識壓縮能力，將車、路、云、圖的基本能力和交通全要素進行了聚合和泛化升級，打造了交通大模型。在高速公路夜間低照度場景下，一體機能夠高效地對道路上遺撒物、障礙物等目標物完成拍攝和檢測，極大提升道路交通的安全性和通行效率。這一終端采用AIGC-ISP技術，實現(xiàn)了交通感知“大模型后臺”和“模型小型化”技術突破。
千帆大模型平臺預置推理服務支持多種靈活的計費方式，整體可以分為：
- 按Tokens用量計費：根據(jù)實際接口調(diào)用產(chǎn)生的tokens數(shù)量以及單價進行計費，不同預置服務tokens調(diào)用單價不同。
a. Tokens按量后付費：默認計費方式。
b. Tokens資源包付費：用戶提前購買Tokens資源包，優(yōu)先消耗Tokens資源包當中的tokens余量。購買的Tokens資源包越大，折扣越大。為保障服務調(diào)用的穩(wěn)定性與連續(xù)性，Tokens資源包用完以后自動切換至Tokens按量后付費模式。ERNIE 4.0系列和ERNIE 3.5系列資源包支持同系列模型不同版本共享。
- 按TPM配額計費：與Tokens用量付費互斥，不可同時存在，TPM&RPM配額付費到期（預付費配額到期）或終止（后付費人工終止）以后，為保障服務調(diào)用的穩(wěn)定性與連續(xù)性，會自動切換至Tokens按量后付費模式。根據(jù)實際購買/使用的配額時長以及單價進行收費，不同預置服務TPM&RPM配額單價不同。在配額范圍內(nèi)的請求，不再收取tokens用量費用。超過配額范圍外的請求會失敗，需要用戶增購配額。針對Tokens用量計費模式速率不滿足業(yè)務的場景，可以通過TPM&RPM配額計費模式支持。
a. TPM配額預付費：針對有穩(wěn)定Tokens用量的客戶，購買TPM預付費配額更加經(jīng)濟實惠。
b. TPM配額后付費：可以在TPM預付費配額的基礎上，再增購TPM&RPM后付費配額，以應對短時間的峰值流量。
不論是Tokens用量付費還是TPM&RPM配額付費，都存在接口調(diào)用速率限制。速率限制包含QPS和TPM的形式，旨在限制單位時間段內(nèi)用戶訪問推理API的次數(shù)和消耗的tokens數(shù)，詳細說明參考千帆大模型平臺流量限制說明。
前提條件
要使用百度千帆大模型平臺，首先需要注冊成為百度智能云用戶。
首先讓我們用5分鐘來注冊百度智能云賬號（如您已經(jīng)是開發(fā)者，可直接登錄使用），關于平臺計費標準可查看價格說明。
SDK快速使用
本文主要介紹如何快速開啟平臺前端快速使用平臺的流程與步驟，關于千帆大模型的SDK快速上手流程，您可參考SDK快速入門。
流程說明
千帆大模型平臺覆蓋從數(shù)據(jù)管理、數(shù)據(jù)標注、模型開發(fā)、模型納管、部署上線的AI能力研發(fā)與應用全生命周期建設和管理。接入文心大模型算法和開放第三方業(yè)內(nèi)知名的模型算法，降低全流程AI開發(fā)門檻。
平臺支持SFT，準備內(nèi)容可參考SFT快速調(diào)優(yōu)。
實現(xiàn)步驟
在您完成注冊后，可以登錄到千帆大模型操作臺，只要以下6個步驟即可快速完成大模型定制及測試效果的全過程。
數(shù)據(jù)導入-> 數(shù)據(jù)標注-> 訓練配置-> 模型納管-> 發(fā)布服務-> 體驗測試
詳情參考地址：https://cloud.baidu.com/doc/WENXINWORKSHOP/s/qlgujhcpo
安全合規(guī)可信的云服務 |
||||
 |
 |
 |
 |
 |
 |
 |
 |
 |
 |
千帆大模型平臺預置推理服務支持多種靈活的計費方式，整體可以分為：
- 按Tokens用量計費：根據(jù)實際接口調(diào)用產(chǎn)生的tokens數(shù)量以及單價進行計費，不同預置服務tokens調(diào)用單價不同。
a. Tokens按量后付費：默認計費方式。
b. Tokens資源包付費：用戶提前購買Tokens資源包，優(yōu)先消耗Tokens資源包當中的tokens余量。購買的Tokens資源包越大，折扣越大。為保障服務調(diào)用的穩(wěn)定性與連續(xù)性，Tokens資源包用完以后自動切換至Tokens按量后付費模式。ERNIE 4.0系列和ERNIE 3.5系列資源包支持同系列模型不同版本共享。
- 按TPM配額計費：與Tokens用量付費互斥，不可同時存在，TPM&RPM配額付費到期（預付費配額到期）或終止（后付費人工終止）以后，為保障服務調(diào)用的穩(wěn)定性與連續(xù)性，會自動切換至Tokens按量后付費模式。根據(jù)實際購買/使用的配額時長以及單價進行收費，不同預置服務TPM&RPM配額單價不同。在配額范圍內(nèi)的請求，不再收取tokens用量費用。超過配額范圍外的請求會失敗，需要用戶增購配額。針對Tokens用量計費模式速率不滿足業(yè)務的場景，可以通過TPM&RPM配額計費模式支持。
a. TPM配額預付費：針對有穩(wěn)定Tokens用量的客戶，購買TPM預付費配額更加經(jīng)濟實惠。
b. TPM配額后付費：可以在TPM預付費配額的基礎上，再增購TPM&RPM后付費配額，以應對短時間的峰值流量。
不論是Tokens用量付費還是TPM&RPM配額付費，都存在接口調(diào)用速率限制。速率限制包含QPS和TPM的形式，旨在限制單位時間段內(nèi)用戶訪問推理API的次數(shù)和消耗的tokens數(shù)，詳細說明參考千帆大模型平臺流量限制說明。
前提條件
要使用百度千帆大模型平臺，首先需要注冊成為百度智能云用戶。
首先讓我們用5分鐘來注冊百度智能云賬號（如您已經(jīng)是開發(fā)者，可直接登錄使用），關于平臺計費標準可查看價格說明。
SDK快速使用
本文主要介紹如何快速開啟平臺前端快速使用平臺的流程與步驟，關于千帆大模型的SDK快速上手流程，您可參考SDK快速入門。
流程說明
千帆大模型平臺覆蓋從數(shù)據(jù)管理、數(shù)據(jù)標注、模型開發(fā)、模型納管、部署上線的AI能力研發(fā)與應用全生命周期建設和管理。接入文心大模型算法和開放第三方業(yè)內(nèi)知名的模型算法，降低全流程AI開發(fā)門檻。
平臺支持SFT，準備內(nèi)容可參考SFT快速調(diào)優(yōu)。
實現(xiàn)步驟
在您完成注冊后，可以登錄到千帆大模型操作臺，只要以下6個步驟即可快速完成大模型定制及測試效果的全過程。
數(shù)據(jù)導入-> 數(shù)據(jù)標注-> 訓練配置-> 模型納管-> 發(fā)布服務-> 體驗測試
詳情參考地址：https://cloud.baidu.com/doc/WENXINWORKSHOP/s/qlgujhcpo
安全合規(guī)可信的云服務 |
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
