
微博熱搜API的免費調用教程
3.訪問控制臺,登錄后點在線調試進入控制臺。
4.點擊創(chuàng)建新應用創(chuàng)建應用。
5.進入服務詳情頁
可以訪問接口文檔,對應用進行自定義設置。
在獲取API密鑰后,進行可用性測試是確保其正常工作的重要步驟。
快速調用集成星火認知大模型(Python示例)
注:項目僅支持 Python3.8+
步驟一:安裝PyPI上的包,在python環(huán)境中執(zhí)行命令
pip install --upgrade spark_ai_python
步驟二:python代碼示例執(zhí)行
from sparkai.llm.llm import ChatSparkLLM, ChunkPrintHandler
from sparkai.core.messages import ChatMessage
#星火認知大模型Spark Max的URL值,其他版本大模型URL值請前往文檔(https://www.xfyun.cn/doc/spark/Web.html)查看
SPARKAI_URL = 'wss://spark-api.xf-yun.com/v3.5/chat'
#星火認知大模型調用秘鑰信息,請前往訊飛開放平臺控制臺(https://console.xfyun.cn/services/bm35)查看
SPARKAI_APP_ID = ''
SPARKAI_API_SECRET = ''
SPARKAI_API_KEY = ''
#星火認知大模型Spark Max的domain值,其他版本大模型domain值請前往文檔(https://www.xfyun.cn/doc/spark/Web.html)查看
SPARKAI_DOMAIN = 'generalv3.5'
if __name__ == '__main__':
spark = ChatSparkLLM(
spark_api_url=SPARKAI_URL,
spark_app_id=SPARKAI_APP_ID,
spark_api_key=SPARKAI_API_KEY,
spark_api_secret=SPARKAI_API_SECRET,
spark_llm_domain=SPARKAI_DOMAIN,
streaming=False,
)
messages = [ChatMessage(
role="user",
content='你好呀'
)]
handler = ChunkPrintHandler()
a = spark.generate([messages], callbacks=[handler])
print(a)
在使用訊飛星火API搭建應用時,除了獲取和測試API密鑰外,還需考慮以下因素:
注意: 該接口可以正式使用。如您需要申請使用,請點擊前往產品頁面。
Tips:
1 | 計費包含接口的輸入和輸出內容 |
2 | 1 token約等于1.5個中文漢字 或者 0.8個英文單詞 |
3 | Spark Lite支持[搜索]內置插件;Spark Pro, Spark Max和Spark 4.0Ultra支持[搜索]、[天氣]、[日期]、[詩詞]、[字詞]、[股票]六個內置插件 |
4 | Spark 4.0Ultra/Max現已支持system、Function Call功能 |
5 | Spark 4.0Ultra版本現已支持返回聯(lián)網檢索的信源標題及地址 |
Tips: 星火大模型API當前有Lite、Pro、Pro-128K、Max、Max-32K和4.0 Ultra六個版本,各版本獨立計量tokens。
傳輸協(xié)議 :ws(s),為提高安全性,強烈推薦wss
請求版本 | 請求地址 |
Spark4.0 Ultra | wss://spark-api.xf-yun.com/v4.0/chat |
Spark Max-32K | wss://spark-api.xf-yun.com/chat/max-32k |
Spark Max | wss://spark-api.xf-yun.com/v3.5/chat |
Spark Pro-128K | wss://spark-api.xf-yun.com/chat/pro-128k |
Spark Pro | wss://spark-api.xf-yun.com/v3.1/chat |
Spark Lite | wss://spark-api.xf-yun.com/v1.1/chat |
URL鑒權是保護Web應用中敏感資源的重要安全措施,它通過在URL中嵌入特定參數來控制對資源的訪問權限。這些參數通常包括時間戳、隨機數、用戶ID等,并結合密鑰使用哈希算法生成簽名,以驗證請求的合法性。
訊飛星火URL鑒權參考 通用URL鑒權文檔
# 參數構造示例如下
{
"header": {
"app_id": "12345",
"uid": "12345"
},
"parameter": {
"chat": {
"domain": "generalv3.5",
"temperature": 0.5,
"max_tokens": 1024,
}
},
"payload": {
"message": {
# 如果想獲取結合上下文的回答,需要開發(fā)者每次將歷史問答信息一起傳給服務端,如下示例
# 注意:text里面的所有content內容加一起的tokens需要控制在8192以內,開發(fā)者如有較長對話需求,需要適當裁剪歷史信息
"text": [
#如果傳入system參數,需要保證第一條是system
{"role":"system","content":"你現在扮演李白,你豪情萬丈,狂放不羈;接下來請用李白的口吻和用戶對話。"} #設置對話背景或者模型角色
{"role": "user", "content": "你是誰"} # 用戶的歷史問題
{"role": "assistant", "content": "....."} # AI的歷史回答結果
# ....... 省略的歷史對話
{"role": "user", "content": "你會做什么"} # 最新的一條問題,如無需上下文,可只傳最新一條問題
]
}
}
}
接口請求字段由三個部分組成:header,parameter, payload。 字段解釋如下
header部分
參數名稱 | 類型 | 必傳 | 參數要求 | 參數說明 |
---|---|---|---|---|
app_id | string | 是 | 應用appid,從開放平臺控制臺創(chuàng)建的應用中獲取 | |
uid | string | 否 | 每個用戶的id,非必傳字段,用于后續(xù)擴展 ,”maxLength”:32 |
parameter.chat部分
參數名稱 | 類型 | 必傳 | 參數要求 | 參數說明 |
---|---|---|---|---|
domain | string | 是 | 取值為[lite,generalv3,pro-128k,generalv3.5,max-32k,4.0Ultra] | 指定訪問的模型版本: lite指向Lite版本; generalv3指向Pro版本; pro-128k指向Pro-128K版本; generalv3.5指向Max版本; max-32k指向Max-32K版本; 4.0Ultra指向4.0 Ultra版本; 注意:不同的取值對應的url也不一樣! |
temperature | float | 否 | 取值范圍 (0,1] ,默認值0.5 | 核采樣閾值。用于決定結果隨機性,取值越高隨機性越強即相同的問題得到的不同答案的可能性越高 |
max_tokens | int | 否 | Pro、Max、Max-32K、4.0 Ultra 取值為[1,8192],默認為4096; Lite、Pro-128K 取值為[1,4096],默認為4096。 | 模型回答的tokens的最大長度 |
top_k | int | 否 | 取值為[1,6],默認為4 | 從k個候選中隨機選擇?個(?等概率) |
show_ref_label | boolean | 否 | 取值范圍[true,false] ,默認 false | 該參數僅4.0 Ultra版本支持,當設置為true時,如果輸入內容觸發(fā)聯(lián)網檢索插件,會先返回檢索信源列表,然后再返回星火回復結果,否則僅返回星火回復結果 |
payload.message.text部分
注意:1、請確保text下所有content內容累計的tokens數量在模型上下文長度的限制之內。具體可參考下文中content字段的參數要求
2、如果傳入system參數,需要保證第一條是system;多輪交互需要將之前的交互歷史按照system-user-assistant-user-assistant進行拼接
參數名稱 | 類型 | 必傳 | 參數要求 | 參數說明 |
---|---|---|---|---|
role | string | 是 | 取值為[system,user,assistant] | system用于設置對話背景(僅Max、Ultra版本支持) user表示是用戶的問題, assistant表示AI的回復 |
content | string | 是 | 所有content的累計tokens長度,不同版本限制不同: Lite、Pro、Max、4.0 Ultra版本: 不超過8192; Max-32K版本: 不超過32* 1024; Pro-128K版本:不超過 128*1024; | 用戶和AI的對話內容 |
在不返回檢索信源的情況下,大模型流式返回結構如下:
# 接口為流式返回,此示例為最后一次返回結果,開發(fā)者需要將接口多次返回的結果進行拼接展示
{
"header":{
"code":0,
"message":"Success",
"sid":"cht000cb087@dx18793cd421fb894542",
"status":2
},
"payload":{
"choices":{
"status":2,
"seq":0,
"text":[
{
"content":"我可以幫助你的嗎?",
"role":"assistant",
"index":0
}
]
},
"usage":{
"text":{
"question_tokens":4,
"prompt_tokens":5,
"completion_tokens":9,
"total_tokens":14
}
}
}
}
在不返回檢索信源的情況下,接口返回字段分為兩個部分,header,payload。字段解釋如下
header部分
字段名 | 類型 | 字段說明 |
---|---|---|
code | int | 錯誤碼,0表示正常,非0表示出錯;詳細釋義可在接口說明文檔最后的錯誤碼說明了解 |
message | string | 會話是否成功的描述信息 |
sid | string | 會話的唯一id,用于訊飛技術人員查詢服務端會話日志使用,出現調用錯誤時建議留存該字段 |
status | int | 會話狀態(tài),取值為[0,1,2];0代表首次結果;1代表中間結果;2代表最后一個結果 |
payload.choices部分
字段名 | 類型 | 字段說明 |
---|---|---|
status | int | 文本響應狀態(tài),取值為[0,1,2]; 0代表首個文本結果;1代表中間文本結果;2代表最后一個文本結果 |
seq | int | 返回的數據序號,取值為[0,9999999] |
content | string | AI的回答內容 |
role | string | 角色標識,固定為assistant,標識角色為AI |
index | int | 結果序號,取值為[0,10]; 當前為保留字段,開發(fā)者可忽略 |
payload.usage部分(在最后一次結果返回)
字段名 | 類型 | 字段說明 |
---|---|---|
question_tokens | int | 保留字段,可忽略 |
prompt_tokens | int | 包含歷史問題的總tokens大小 |
completion_tokens | int | 回答的tokens大小 |
total_tokens | int | prompt_tokens和completion_tokens的和,也是本次交互計費的tokens大小 |
在返回檢索信源的情況下,在大模型返回結果之前會先返回檢索信源,結構如下:
{
"header": {
"code": 0,
"message": "Success",
"sid": "cht000b79a4@dx190da456b5db80a560",
"status": 1
},
"payload": {
"plugins": {
"text": [
{
"name": "ifly_search",
"content": "[{\"index\":1,\"url\":\"https://baike.baidu.com/item/%E6%9B%B9%E6%93%8D/6772\",\"title\":\"曹操(中國東漢末年權臣,曹魏政權的奠基者)_百度百科\"},{\"index\":2,\"url\":\"https://zhidao.baidu.com/question/437349472.html\",\"title\":\"曹操是哪一年出生的? - 百度知道\"},{\"index\":3,\"url\":\"http://www.lidaishi.com/default.aspx?did=130019\",\"title\":\"曹操的一生事跡簡介-歷代史歷史網\"},{\"index\":4,\"url\":\"https://zhidao.baidu.com/question/374585705.html\",\"title\":\"曹操生于哪一年? - 百度知道\"},{\"index\":5,\"url\":\"https://baike.baidu.hk/item/%E6%9B%B9%E6%93%8D/6772\",\"title\":\"曹操(中國東漢末年權臣,曹魏政權的奠基者)_百度百科\"}]",
"content_type": "text",
"content_meta": null,
"role": "tool",
"status": "finished",
"invoked": {
"namespace": "ifly_search",
"plugin_id": "ifly_search",
"plugin_ver": "",
"status_code": 200,
"status_msg": "Success",
"type": "local"
}
}
]
}
}
}
解析檢索信源Python示例:
if('plugins' in data['payload']):
text_list = data['payload']['plugins']['text']
search_refer = text_list[0]
refer_content = search_refer['content']
refer_list = json.loads(refer_content)
print("參考內容:")
for line in refer_list:
num = line['index']
url = line['url']
title = line['title']
print(str(num) + "、" + title + "[ " + url + " ]")
Function call 作為大模型能力擴展的核心,支持大模型在交互過程中識別出需要調度的外部接口:
注:當前僅Spark Max/4.0 Ultra 支持了該功能;需要請求參數payload.functions中申明大模型需要辨別的外部接口,申明方式見下方請求示例
# 參數構造示例如下,僅在原本生成的基礎上,增加了functions.text字段,用于方法的注冊
{
"header": {
"app_id": appid,
"uid": "1234"
},
"parameter": {
"chat": {
"domain": domain,
"random_threshold": 0.5,
"max_tokens": 2048,
"auditing": "default"
}
},
"payload": {
"message": {
"text": [
{"role": "user", "content": ""} # 用戶的提問
]
},
"functions": {
"text": [
{
"name": "天氣查詢",
"description": "天氣插件可以提供天氣相關信息。你可以提供指定的地點信息、指定的時間點或者時間段信息,來精準檢索到天氣信息。",
"parameters": {
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "地點,比如北京。"
},
"date": {
"type": "string",
"description": "日期。"
}
},
"required": [
"location"
]
}
},
{
"name": "稅率查詢",
"description": "稅率查詢可以查詢某個地方的個人所得稅率情況。你可以提供指定的地點信息、指定的時間點,精準檢索到所得稅率。",
"parameters": {
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "地點,比如北京。"
},
"date": {
"type": "string",
"description": "日期。"
}
},
"required": [
"location"
]
}
}
]
}
}
}
接口請求payload.functions字段解釋如下:
參數名稱 | 類型 | 必傳 | 參數要求 | 參數說明 |
---|---|---|---|---|
text | array | 是 | 列表形式,列表中的元素是json格式 | 元素中包含name、description、parameters屬性 |
name | string | 是 | function名稱 | 用戶輸入命中后,會返回該名稱 |
description | string | 是 | function功能描述 | 描述function功能即可,越詳細越有助于大模型理解該function |
parameters | json | 是 | function參數列表 | 包含type、properties、required字段 |
parameters.type | string | 是 | 參數類型 | |
parameters.properties | string | 是 | 參數信息描述 | 該內容由用戶定義,命中該方法時需要返回哪些參數 |
properties.x.type | string | 是 | 參數類型描述 | 該內容由用戶定義,需要返回的參數是什么類型 |
properties.x.description | string | 是 | 參數詳細描述 | 該內容由用戶定義,需要返回的參數的具體描述 |
parameters.required | array | 是 | 必須返回的參數列表 | 該內容由用戶定義,命中方法時必須返回的字段 |
// 觸發(fā)了function_call的情況下,只會返回一幀結果,其中status 為2
{"header":{"code":0,"message":"Success","sid":"cht000b41d5@dx18b851e6931b894550","status":2},"payload":{"choices":{"status":2,"seq":0,"text":[{"content":"","role":"assistant","content_type":"text","function_call":{"arguments":"{\"datetime\":\"今天\",\"location\":\"合肥\"}","name":"天氣查詢"},"index":0}]},"usage":{"text":{"question_tokens":3,"prompt_tokens":3,"completion_tokens":0,"total_tokens":3}}}}
字段名 | 類型 | 字段說明 |
---|---|---|
function_call | json | function call 返回結果 |
function_call.arguments | json | 客戶在請求體中定義的參數及參數值 |
function_call.name | string | 客戶在請求體中定義的方法名稱 |
問題1:如何找到訊飛星火 API
冪簡集成是國內領先的API集成管理平臺,專注于為開發(fā)者提供全面、高效、易用的API集成解決方案。冪簡API平臺可以通過以下兩種方式找到所需API:通過關鍵詞搜索API(例如,輸入’有道翻譯 API‘這類品類詞,更容易找到結果)、或者從API hub分類頁進入尋找。
問題2:訊飛星火 API的替代品有哪些?
市場上存在免費、付費兩種替代者
例如
百川大模型API接口介紹及對接-百川智能 -超全API平臺-冪簡集成
Copilot AI大模型API接口介紹及對接 -超全API平臺-冪簡集成
混元大模型API接口介紹及對接-騰訊 -超全API平臺-冪簡集成
豆包大模型API接口介紹及對接-字節(jié)跳動 -超全API平臺-冪簡集成
千帆大模型API接口介紹及對接-百度智能云 -超全API平臺-冪簡集成
360多模態(tài)大語言模型API接口介紹及對接 -超全API平臺-冪簡集成
更多競品可以在訊飛星火API開放平臺找到。
本文詳細介紹了獲取訊飛星火大模型API密鑰的步驟,從訪問科大訊飛官網到注冊賬戶,再到創(chuàng)建項目和獲取密鑰,為開發(fā)者提供了全面的操作指南。文章還包括了如何進行 API 可用性測試的示例,以及使用過程中需要注意的關鍵因素,如接口說明、服務配置等。通過這些詳細的步驟和實用的建議,開發(fā)者可以輕松地將訊飛星火大模型的強大功能融入到自己的項目中。