国产馆,国产免费观看网站,国产视频高清在线观看,国产 欧美日韩亚洲中文字幕一区二区三区_久久婷婷五月综合色

推理模型 QwQ-32B 上線青云 AI 算力云

QwQ-32B,僅 320 億參數(shù),卻能與 6710 億參數(shù)的 DeepSeek – R1 相媲美,現(xiàn)已正式上線青云科技旗下 AI 算力云服務(wù)——基石智算CoresHub 模型廣場。

QwQ-32B 在數(shù)學(xué)推理的 AIME 評測集、代碼能力評估的 LiveCodeBench 中表現(xiàn)出色,在 LiveBench、IFEval 評測集、BFCL 測試中得分甚至超越了 DeepSeek – R1,同時集成了與 Agent 智能體相關(guān)的能力,能在使用工具時進(jìn)行批判性思考,并根據(jù)環(huán)境反饋調(diào)整推理過程。

基石智算致力于打造技術(shù)領(lǐng)先的 AI Infra 平臺,將 AI 算力云與模型開發(fā)部署服務(wù)完美融合,通過模型廣場實現(xiàn)云端一鍵部署,讓用戶更便捷地根據(jù)自身需求進(jìn)行個性化的模型調(diào)用和管理,按需使用算力。

本文將介紹如何通過基石智算模型廣場使用 QwQ-32B。


第一步?

注冊并登錄基石智算(coreshub.cn)。進(jìn)入“AI 算力云服務(wù)”-“模型廣場”,選擇 QwQ-32B 模型。點擊“模型部署”按鈕。

第二步?

點擊模型部署后,選取對應(yīng)的算力資源,建議選擇?4?卡?4090?資源。


第三步

點擊“創(chuàng)建”按鈕,進(jìn)入推理服務(wù)詳情頁面,在服務(wù)信息頁簽內(nèi),獲取外網(wǎng)訪問地址和 API 密鑰。

第四步

模型調(diào)用。

方法一:臨時調(diào)用

將外網(wǎng)訪問鏈接中的 inference 字段修改為 inference-web。例如,外網(wǎng)連接為:http://ai.coreshub.cn/xb2a/inference/usr-5hy8cbjf/inf-gmqpqccv/修改為:http://ai.coreshub.cn/xb2a/inference-web/usr-5hy8cbjf/inf-gmqpqccv/瀏覽器中輸入修改后的外網(wǎng)鏈接,即可直接使用。

方法二:直接使用 Curl 手動調(diào)用

1.模型部署完成后,用戶可打開本地電腦終端。

2.執(zhí)行命令,直接發(fā)送 HTTP POST 請求。

方法三:使用第三方客戶端調(diào)用(以 CherryStudio 為例)

1.下載安裝好 CherryStudio,點擊設(shè)置-模型服務(wù)。

2.在彈出添加提供商窗口中,配置各項參數(shù),點擊確定。

3.新添加的提供商已顯示在列,配置相應(yīng)的?API 密鑰和?API 路徑,并點擊【管理】可識別出模型 。API 密鑰:即模型部署完成后,服務(wù)信息頁面獲取到的?API 密鑰,需根據(jù)實際情況進(jìn)行修改。API 地址:即模型部署完成后,服務(wù)信息頁面獲取到的外網(wǎng)訪問地址,需根據(jù)實際情況進(jìn)行修改。注意,CherryStudio 平臺填寫路徑時需忽略 v1 版本,故僅填寫模型服務(wù)的外網(wǎng)訪問地址即可,去掉末尾“/”。

4.識別出模型后點【+】即可添加成功。

5.選擇添加的模型,即可與模型對話。

基石智算提供 NVIDIA 全系列、主流國產(chǎn)芯片等多元算力資源,提供包括 QwQ-32B、DeepSeek-R1、DeepSeek-V3 在內(nèi)的文本處理、文生圖、文生視頻、語音轉(zhuǎn)換等多種類型的模型,支持模型的一鍵啟動、一鍵部署以及在線微調(diào),助力用戶打造專屬 AI 應(yīng)用。

熱門標(biāo)簽
Ubuntu
邊緣計算
飛騰
教育
超融合
云易捷
數(shù)據(jù)
存儲
U10000
云服務(wù)器
RadonDB
數(shù)據(jù)庫
復(fù)制成功