項目地址:https://github.com/xionghonglin/DoctorGLM
論文地址:https://arxiv.org/abs/2304.010972

2. BenTsao (本草)

該項目集大成者,開源了多款經(jīng)過中文醫(yī)學(xué)指令微調(diào)的大語言模型,涵蓋LLaMA、Alpaca-Chinese、Bloom等,皆以醫(yī)學(xué)知識圖譜和醫(yī)學(xué)文獻為基礎(chǔ),結(jié)合ChatGPT API精心打造,實現(xiàn)了中文醫(yī)學(xué)指令微調(diào)數(shù)據(jù)集的精準(zhǔn)訓(xùn)練,極大提升了醫(yī)療領(lǐng)域問答的準(zhǔn)確性與實用性。
項目地址:https://github.com/SCIR-HI/Huatuo-Llama-Med-Chinese
論文地址:https://arxiv.org/abs/2304.069753

3. Med-ChatGLM

該項目同樣基于中文醫(yī)學(xué)指令微調(diào),對ChatGLM-6B模型進行了深度優(yōu)化,微調(diào)數(shù)據(jù)與BenTsao項目一脈相承,確保了模型在醫(yī)療領(lǐng)域的卓越表現(xiàn)。
項目地址:https://github.com/SCIR-HI/Med-ChatGLM

4. BianQue (扁鵲)

該項目開創(chuàng)性地推出了生活空間健康大模型,深度整合了當(dāng)前開源的中文醫(yī)療問答數(shù)據(jù)集,結(jié)合自建的生活空間健康對話大數(shù)據(jù),構(gòu)建了千萬級別的扁鵲健康大數(shù)據(jù)BianQueCorpus,基于此精心打造了ChatGLM-6B為初始化的BianQue模型,全面提升了模型在醫(yī)療與健康領(lǐng)域的應(yīng)用價值。
項目地址:https://github.com/scutcyr/BianQue

5. HuatuoGPT (華佗)

該項目鼎力推出醫(yī)療大模型HuatuoGPT,其中包括了基于Baichuan-7B訓(xùn)練的HuatuoGPT-7B與基于Ziya-LLaMA-13B-Pretrain-v1的HuatuoGPT-13B,旨在提供全方位、高標(biāo)準(zhǔn)的醫(yī)療智能服務(wù)。
項目地址:https://github.com/FreedomIntelligence/HuatuoGPT
論文地址:https://arxiv.org/abs/2305.150756

6. QiZhenGPT

該項目通過啟真醫(yī)學(xué)知識庫的精妙運用,構(gòu)建了獨具匠心的中文醫(yī)學(xué)指令數(shù)據(jù)集,進一步在Chinese-LLaMA-Plus-7B、CaMA-13B、ChatGLM-6B等尖端模型上精心調(diào)整指令,顯著提升了模型在中文醫(yī)療環(huán)境中的實用效果。
項目地址:https://github.com/CMKRG/QiZhenGPT

7. ChatMed

該項目創(chuàng)新性地發(fā)布了中文醫(yī)療大模型ChatMed-Consult,以ChatMed_Consult_Dataset中超過50萬的中文醫(yī)療在線問診數(shù)據(jù)及ChatGPT的精準(zhǔn)回復(fù)作為訓(xùn)練基石,基于LlaMA-7b并通過LoRA技術(shù)進行了細致微調(diào)。
項目地址:https://github.com/michael-wzhu/ChatMed

8. ShenNong-TCM-LLM(神農(nóng))

該項目推出了中文中醫(yī)藥領(lǐng)域的杰出模型ShenNong-TCM-LLM,以中醫(yī)藥知識圖譜為基礎(chǔ),運用實體為核心的自指令方法,通過ChatGPT生成了豐富的2.6萬+中醫(yī)藥指令數(shù)據(jù)集ChatMed_TCM_Dataset,再基于LlaMA底座,借助LoRA技術(shù)進行了精準(zhǔn)微調(diào)。
項目地址:https://github.com/michael-wzhu/ShenNong-TCM-LLM

9. XrayGLM

該項目開創(chuàng)了中文多模態(tài)醫(yī)學(xué)數(shù)據(jù)集與模型的先河,尤其在醫(yī)學(xué)影像診斷與多輪交互對話中展現(xiàn)出卓越的潛能。
項目地址:https://github.com/WangRongsheng/XrayGLM

10. MedicalGPT

該項目隆重推出了醫(yī)療大模型MedicalGPT,集成了增量預(yù)訓(xùn)練、有監(jiān)督微調(diào)、RLHF(獎勵建模、強化學(xué)習(xí)訓(xùn)練)和DPO(直接偏好優(yōu)化)等前沿技術(shù)。
項目地址:https://github.com/shibing624/MedicalGPT

11. Sunsimiao(孫思邈)

該項目推出了中文醫(yī)療大模型Sunsimiao,該模型以baichuan-7B和ChatGLM-6B為堅實底座,在數(shù)十萬條高質(zhì)量的中文醫(yī)療數(shù)據(jù)中進行了精心微調(diào)。
項目地址:https://github.com/thomas-yanxin/Sunsimiao

12. CareLlama(關(guān)懷羊駝)

項目地址:https://github.com/itsharex/CareLlama
該項目推出了醫(yī)療大模型CareLlama,并匯集了數(shù)十個公開可用的醫(yī)療微調(diào)數(shù)據(jù)集和開放可用的醫(yī)療大語言模型,旨在為醫(yī)療LLM的快速發(fā)展注入強勁動力。

13. DISC-MedLLM

該項目由復(fù)旦大學(xué)發(fā)布,針對醫(yī)療健康對話式場景精心設(shè)計了醫(yī)療領(lǐng)域大模型與數(shù)據(jù)集。模型通過DISC-Med-SFT數(shù)據(jù)集在Baichuan-13B-Base基礎(chǔ)上進行指令微調(diào),有效匹配了醫(yī)療場景下的人類偏好,縮小了通用語言模型輸出與真實世界醫(yī)療對話之間的差距。
項目地址:https://github.com/FudanDISC/DISC-MedLLM
論文地址:https://arxiv.org/abs/2308.1434614

14. PMC-LLaMA

本項目公開了前沿的醫(yī)療大模型PMC-LLaMA,其中包含MedLLaMA_13B預(yù)訓(xùn)練版本與PMC_LLaMA_13B指令微調(diào)版本,為醫(yī)療領(lǐng)域帶來了革新的技術(shù)突破。
項目地址:https://github.com/chaoyi-wu/PMC-LLaMA
論文地址:https://arxiv.org/abs/2304.14454

15. ChatDoctor

ChatDoctor,一款基于LLaMA訓(xùn)練的醫(yī)療大模型,其開源特性讓更多人能夠領(lǐng)略醫(yī)療科技的魅力。
項目地址:https://github.com/Kent0n-Li/ChatDoctor
論文地址:https://arxiv.org/abs/2303.14070

16. MING (明醫(yī))

項目地址:https://github.com/189569400/MedicalGPT-zhMING,一個基于bloomz-7b指令微調(diào)而成的醫(yī)療大模型,其卓越的性能在醫(yī)療問答、智能問診等方面得到了充分體現(xiàn)。

17. IvyGPT

IvyGPT,一款醫(yī)療大模型,經(jīng)過高質(zhì)量的醫(yī)學(xué)問答數(shù)據(jù)監(jiān)督微調(diào)和人類反饋強化學(xué)習(xí)訓(xùn)練,展現(xiàn)了出色的智能醫(yī)療處理能力。
項目地址:https://github.com/WangRongsheng/IvyGPT

18. PULSE

本項目開源了中文醫(yī)療大模型PULSE,該模型采用約4,000,000個中文醫(yī)學(xué)與通用領(lǐng)域指令微調(diào)數(shù)據(jù)進行優(yōu)化,支持廣泛的醫(yī)療領(lǐng)域自然語言處理任務(wù),包括健康教育、醫(yī)師考試問題解答、報告解讀、醫(yī)療記錄結(jié)構(gòu)化以及模擬診斷和治療等。
項目地址:https://github.com/openmedlab/PULSE

19. HuangDI (皇帝)

HuangDI,一款中醫(yī)大模型,其獨特之處在于融合了中醫(yī)教材、網(wǎng)站數(shù)據(jù)與Ziya-LLaMA-13B-V1基座模型,打造出具有深厚中醫(yī)知識理解力的預(yù)訓(xùn)練模型,并通過海量中醫(yī)古籍指令對話數(shù)據(jù)與通用指令數(shù)據(jù)進行微調(diào),實現(xiàn)中醫(yī)古籍知識問答的精準(zhǔn)能力。
項目地址:https://github.com/Zlasejd/HuangDI

20. ZhongJing (仲景)

ZhongJing,一個旨在傳承中醫(yī)精髓與現(xiàn)代技術(shù)相結(jié)合的中醫(yī)大模型。該項目不僅弘揚了中醫(yī)的博大精深,還通過現(xiàn)代技術(shù)創(chuàng)新,為醫(yī)學(xué)領(lǐng)域提供了可信賴和專業(yè)的工具,是中醫(yī)與AI融合的杰出代表。
項目地址:https://github.com/pariskang/CMLM-ZhongJing

21. TCMLLM

該項目旨在通過大型模型技術(shù),實現(xiàn)中醫(yī)臨床輔助診療(包括病證診斷、處方推薦等)以及中醫(yī)藥知識問答等多項任務(wù),引領(lǐng)中醫(yī)知識問答與臨床輔助診療等領(lǐng)域的飛躍性進步。當(dāng)前,我們已針對中醫(yī)臨床智能診療中的處方推薦問題,發(fā)布了TCMLLM-PR這一中醫(yī)處方推薦大模型。該模型通過整合真實世界的臨床病歷、醫(yī)學(xué)典籍與中醫(yī)教科書等海量數(shù)據(jù),精心構(gòu)建了包含68k數(shù)據(jù)條目的處方推薦指令微調(diào)數(shù)據(jù)集,并在ChatGLM大模型上進行深度優(yōu)化與微調(diào)。
項目地址:https://github.com/2020MEAI/TCMLLM

22. OpenBioMed

該項目致力于開源多模態(tài)生物醫(yī)學(xué)大模型,涵蓋了BioMedGPT這一多模態(tài)生物醫(yī)藥大模型、DrugFM和MolFM等多模態(tài)小分子基礎(chǔ)模型,以及CellLM等細胞表示學(xué)習(xí)模型。
項目地址:https://github.com/PharMolix/OpenBioMed
論文地址:https://arxiv.org/abs/2308.09442

附:大模型數(shù)據(jù)集&評測基準(zhǔn)匯總

C-Eval

image

[paper]

image

C-Eval是一個由上海交通大學(xué)發(fā)布的中文基礎(chǔ)模型評測基準(zhǔn),包含了13948個多項選擇題,涵蓋了人文,社科,理工,其他專業(yè)四個大方向,52個學(xué)科,從中學(xué)到大學(xué)研究生以及職業(yè)考試。

AGIEval

image

[paper]

image

AGIEval是一個由微軟發(fā)布的評測基準(zhǔn),用于評估大模型在人類認知任務(wù)中的表現(xiàn),包含了20個面向普通考生的官方、公開、高標(biāo)準(zhǔn)入學(xué)和資格考試,包括普通大學(xué)入學(xué)考試 (中國高考和美國SAT考試)、法學(xué)院入學(xué)考試、數(shù)學(xué)競賽和律師資格考試、國家公務(wù)員考試等。

Xiezhi (獬豸)

image

[paper]

image

Xiezhi是一個由復(fù)旦大學(xué)發(fā)布的綜合的、多學(xué)科的、能夠自動更新的領(lǐng)域知識評測基準(zhǔn),包含了哲學(xué)、經(jīng)濟學(xué)、法學(xué)、教育學(xué)、文學(xué)、歷史學(xué)、自然科學(xué)、工學(xué)、農(nóng)學(xué)、醫(yī)學(xué)、軍事學(xué)、管理學(xué)、藝術(shù)學(xué)這13個學(xué)科門類,516個具體學(xué)科,249587道題目。

CMMLU

image

[paper]

image

CMMLU是一個綜合性的中文評測基準(zhǔn),專門用于評估語言模型在中文語境下的知識和推理能力。CMMLU涵蓋了從基礎(chǔ)學(xué)科到高級專業(yè)水平的67個主題。它包括:需要計算和推理的自然科學(xué),需要知識的人文科學(xué)和社會科學(xué),以及需要生活常識的中國駕駛規(guī)則等。此外,CMMLU中的許多任務(wù)具有中國特定的答案,可能在其他地區(qū)或語言中并不普遍適用。因此是一個完全中國化的中文測試基準(zhǔn)。

MMCU

image

[paper]

image

MMCU是一個綜合性的中文評測基準(zhǔn),包括來自醫(yī)學(xué)、法律、心理學(xué)和教育等四大領(lǐng)域的測試。

CG-Eval

image

[paper]

image

CG-Eval是一個由甲骨易AI研究院與LanguageX AI Lab聯(lián)合發(fā)布的針對中文大模型生成能力的評測基準(zhǔn)。包含了科技與工程、人文與社會科學(xué)、數(shù)學(xué)計算、醫(yī)師資格考試、司法考試、注冊會計師考試等六個大科目類別下的55個子科目的11000道不同類型問題。CG-Eval包含一套復(fù)合的打分系統(tǒng):對于非計算題,每一道名詞解釋題和簡答題都有標(biāo)準(zhǔn)參考答案,采用多個標(biāo)準(zhǔn)打分然后加權(quán)求和;對于計算題目,會提取最終計算結(jié)果和解題過程,然后綜合打分。

CBLUE

image

[paper]

image

CBLUE是一個中文醫(yī)學(xué)語言理解評測基準(zhǔn),包含8個中文醫(yī)療語言理解任務(wù)。

PromptCBLUE

image

[paper]

image

PromptCBLUE是一個面向中文醫(yī)療場景的評測基準(zhǔn),通過對CBLUE基準(zhǔn)進行二次開發(fā),將16種不同的醫(yī)療場景NLP任務(wù)全部轉(zhuǎn)化為基于提示的語言生成任務(wù)。

LAiW

image

[paper]

image

LAiW 是一個中文法律大模型評測基準(zhǔn),針對3大能力設(shè)計13個基礎(chǔ)任務(wù):1)法律 NLP 基礎(chǔ)能力:評測法律基礎(chǔ)任務(wù)、 NLP 基礎(chǔ)任務(wù)和法律信息抽取的能力,包括法條推送、要素識別、命名實體識別、司法要點摘要和案件識別 5 個基礎(chǔ)任務(wù);2)法律基礎(chǔ)應(yīng)用能力:評測大模型對法律領(lǐng)域知識的基礎(chǔ)應(yīng)用能力,包括爭議焦點挖掘、類案匹配、刑事裁判預(yù)測、民事裁判預(yù)測和法律問答 5 個基礎(chǔ)任務(wù);3)法律復(fù)雜應(yīng)用能力:評測大模型對法律領(lǐng)域知識的復(fù)雜應(yīng)用能力,包括司法說理生成、案情理解和法律咨詢 3 個基礎(chǔ)任務(wù)。

LawBench

image

[paper]

image

LawBench 是一個面向中國法律體系的法律評測基準(zhǔn)。LawBench 模擬了司法認知的三個維度,并選擇了20個任務(wù)來評估大模型的能力。與一些僅有多項選擇題的現(xiàn)有基準(zhǔn)相比,LawBench 包含了更多與現(xiàn)實世界應(yīng)用密切相關(guān)的任務(wù)類型,如法律實體識別、閱讀理解、犯罪金額計算和咨詢等。

LegalBench

image

[paper]

image

LegalBench 是一個面向美國法律體系的法律評測基準(zhǔn),包含162個法律推理任務(wù)。

LEXTREME

image

[paper]

image

LEXTREME是一個多語言的法律評測基準(zhǔn),包含了24種語言11個評測數(shù)據(jù)集。

LexGLUE

image

[paper]

image

LexGLUE是一個英文法律評測基準(zhǔn)。

CFBenchmark

image

[paper]

image

CFBenchmark是一個旨在評估大語言模型在中文金融場景下輔助工作的評測基準(zhǔn)。CFBenchmark的基礎(chǔ)版本包括3917個金融文本涵蓋三個方面和八個任務(wù),從金融識別、金融分類、金融生成三個方面進行組織。

FinanceBench

image

[paper]

image

FinanceBench是一個用于評估開放式金融問題問答的評測基準(zhǔn),包含 10,231 個有關(guān)上市公司的問題,以及相應(yīng)的答案。

FinEval

image

[paper]

image

FinEval是一個金融知識評測基準(zhǔn),包含了4,661個高質(zhì)量的多項選擇題,涵蓋金融、經(jīng)濟、會計和證書等領(lǐng)域,34個不同的學(xué)術(shù)科目。

FLARE

image

[paper]

image

FLARE是一個金融評測基準(zhǔn),包含了金融知識理解和預(yù)測等任務(wù)。

CFLEB

image

[paper]

image

CFLEB是一個中文金融評測基準(zhǔn),包含兩項語言生成任務(wù)和四項語言理解任務(wù)。

FLUE

image

[paper]

image

FLUE是一個金融評測基準(zhǔn),包含5個金融領(lǐng)域數(shù)據(jù)集。

GeoGLUE [paper]

image

GeoGLUE是一個由阿里巴巴達摩院與高德聯(lián)合發(fā)布的地理語義理解能力評測基準(zhǔn),旨在推動地理相關(guān)文本處理技術(shù)和社區(qū)的發(fā)展。本榜單提煉了其中多個典型場景:地圖搜索、電商物流、政府登記、金融交通,并設(shè)計了六個核心任務(wù):門址地址要素解析、地理實體對齊、Query-POI庫召回、Query-POI相關(guān)性排序、地址Query成分分析、WhereWhat切分。

OWL-Bench

image

[paper]

image

OWL-Bench 是一個面向運維領(lǐng)域的雙語評測基準(zhǔn)。它包含 317 個問答題和 1000 個多選題,涵蓋了該領(lǐng)域的眾多現(xiàn)實工業(yè)場景,包括信息安全、應(yīng)用、系統(tǒng)架構(gòu)、軟件架構(gòu)、中間件、網(wǎng)絡(luò)、操作系統(tǒng)、基礎(chǔ)設(shè)施和數(shù)據(jù)庫這九個不同的子領(lǐng)域。以確保 OWL-Bench 能夠展現(xiàn)出多樣性。

DevOps-Eval

image

image

DevOps-Eval是由螞蟻集團聯(lián)合北京大學(xué)發(fā)布的面向DevOps領(lǐng)域的大語言模型評測基準(zhǔn)。

總結(jié)本文全面概述了當(dāng)前垂直領(lǐng)域模型與評測基準(zhǔn),涵蓋了12個領(lǐng)域,57個領(lǐng)域微調(diào)模型,并配備了豐富的評測數(shù)據(jù)集,以供各界參考與借鑒。

image

參考文獻
1、https://github.com/luban-agi/Awesome-Domain-LLM

原文轉(zhuǎn)載自:https://mp.weixin.qq.com/s/dTcOYY09CgDFvpCviiDnQw

上一篇:

在Sealos 平臺的幫助下一個人維護著 6000 個數(shù)據(jù)庫

下一篇:

6個大模型的核心技術(shù)介紹
#你可能也喜歡這些API文章!

我們有何不同?

API服務(wù)商零注冊

多API并行試用

數(shù)據(jù)驅(qū)動選型,提升決策效率

查看全部API→
??

熱門場景實測,選對API

#AI文本生成大模型API

對比大模型API的內(nèi)容創(chuàng)意新穎性、情感共鳴力、商業(yè)轉(zhuǎn)化潛力

25個渠道
一鍵對比試用API 限時免費

#AI深度推理大模型API

對比大模型API的邏輯推理準(zhǔn)確性、分析深度、可視化建議合理性

10個渠道
一鍵對比試用API 限時免費