本站 消息，10 月 11 日，近日全鏈數(shù)據(jù)網(wǎng)絡(luò) Chainbase 宣布在 HuggingFace 開(kāi)源其專為加密領(lǐng)域打造的大語(yǔ)言模型 Theia-Llama-3.1-8B。該模型在困惑度（Perplexity）和 BERT 評(píng)分上均超越了市場(chǎng)主流模型，對(duì) crypto 世界的理解能力超過(guò)大多主流開(kāi)源大模型。
Chainbase 團(tuán)隊(duì)獨(dú)創(chuàng)性地構(gòu)建了首個(gè)專業(yè) Web3 數(shù)據(jù)集，收錄了 CoinMarketCap 前 2000 項(xiàng)目的各類資料。數(shù)據(jù)集經(jīng)過(guò)手動(dòng)和算法過(guò)濾，確保訓(xùn)練數(shù)據(jù)的準(zhǔn)確性、多樣性和專業(yè)性。基于此數(shù)據(jù)集，團(tuán)隊(duì)采用 LoRA 技術(shù)高效微調(diào)模型，并利用 DeepSpeed 等工具加速訓(xùn)練過(guò)程。此外，模型量化為 Q8 GGUF 格式，大幅降低了內(nèi)存占用，提升了推理速度。
據(jù)悉，Theia-Llama-3.1-8B 是 Chainbase 在加密領(lǐng)域大模型的初步嘗試且該模型已成功應(yīng)用于 Chainbase DEMO 交互應(yīng)用 TheiaChat，目前日活用戶超過(guò) 30 萬(wàn)。
鄭重聲明：本文版權(quán)歸原作者所有，轉(zhuǎn)載文章僅為傳播更多信息之目的，如作者信息標(biāo)記有誤，請(qǐng)第一時(shí)間聯(lián)系我們修改或刪除，多謝。
