貴州白山云科技股份有限公司近日正式發(fā)布“大模型API”產(chǎn)品,首發(fā)上線DeepSeek-R1-0528、DeepSeek-R1-0528-Qwen3-8B、Qwen3-32B-FP8等大語言模型,旨在降低大模型應(yīng)用成本和開發(fā)門檻,助力企業(yè)和個人用戶快速進行AI創(chuàng)新。
隨著多模態(tài)交互、多輪會話、AgenticAI自主決策等復(fù)雜場景爆發(fā),傳統(tǒng)集中式數(shù)據(jù)中心的算力供給模式下,用戶面臨網(wǎng)絡(luò)時延的線性增長、算力成本的指數(shù)上升,更低延時、更優(yōu)成本的邊緣算力推理成為必需。邊緣推理通過分布式算力下沉與智能調(diào)度,能夠為高實時、高隱私、高性價比場景提供關(guān)鍵支撐,驅(qū)動AI從集中式智能邁向“云-邊-端”全域協(xié)同智能。
聚焦邊緣推理場景,白山云基于全球1700邊緣節(jié)點構(gòu)成的算力網(wǎng)絡(luò)基座,于今年3月推出“邊緣算力云平臺”并持續(xù)完善升級,覆蓋從GPU算力資源到MaaS模型服務(wù)的一站式AI算力基礎(chǔ)設(shè)施,為用戶提供高性能、低成本的AIInfra解決方案。
“大模型推理的需求與成本壓力,正推動邊緣算力從‘流量節(jié)點’向‘智能計算單元’進化,這是下一代AI基礎(chǔ)設(shè)施的核心范式。依托全球60多國、核心城市節(jié)點密度TOP5的邊緣網(wǎng)絡(luò),白山云正構(gòu)建‘日均萬億Token級推理處理’的邊緣智能平臺?!卑咨皆艭EO霍濤表示。
貴州日報天眼新聞記者李姍
延伸閱讀:與 AI 編程十:字路口 為什么,說 Copilot (模式是創(chuàng))業(yè)陷阱 的相關(guān)文章