【TechWeb】7月9日消息,全球應(yīng)用交付和API安全解決方案提供商F5宣布F5BIG-IPNextforKubernetes推出全新功能,該解決方案深度整合NVIDIABlueField-3DPU以及NVIDIADOCA軟件框架,并已通過歐洲客戶Sesterce的實(shí)際部署驗(yàn)證。
作為對F5應(yīng)用交付與安全平臺(F5ApplicationDeliveryandSecurityPlatform)的進(jìn)一步擴(kuò)展,BIG-IPNextforKubernetes現(xiàn)可原生運(yùn)行于NVIDIABlueField-3DPU,為大規(guī)模AI基礎(chǔ)設(shè)施提供高性能流量管理與安全防護(hù),從而顯著提升AI應(yīng)用的運(yùn)行效率、控制能力與性能表現(xiàn)。
借助該聯(lián)合解決方案,企業(yè)可將簡單的AI相關(guān)任務(wù)路由至成本更低、更輕量級的LLM以支持生成式AI,同時(shí)將更復(fù)雜的查詢留給性能更強(qiáng)大的高階模型處理。該可定制化的智能路由機(jī)制還支持按領(lǐng)域調(diào)用特定LLM,從而提升輸出質(zhì)量并顯著改善客戶體驗(yàn)。F5的先進(jìn)流量管理技術(shù)可確保查詢精準(zhǔn)分發(fā)至最適合的模型節(jié)點(diǎn),從而降低延遲并加快首個(gè)詞元生成時(shí)間。
今年早些時(shí)候,NVIDIA推出Dynamo框架,旨在為生成式AI與推理模型在大規(guī)模分布式環(huán)境中的部署提供支撐。通過統(tǒng)一調(diào)度、流量路由和內(nèi)存管理等核心任務(wù),NVIDIADynamo有效簡化了分布式環(huán)境中AI推理的復(fù)雜性,確保其在動態(tài)工作負(fù)載下的穩(wěn)定運(yùn)行。F5與NVIDIA的聯(lián)合解決方案的核心優(yōu)勢之一,是將部分計(jì)算操作從CPU卸載至BlueFieldDPU,從而顯著提升整體效率。借助F5技術(shù),DynamoKVCacheManager可基于容量智能路由請求,并通過鍵值(KV)緩存機(jī)制,顯著加速生成式AI應(yīng)用的響應(yīng)速度。該機(jī)制通過復(fù)用歷史運(yùn)算信息,避免重復(fù)計(jì)算,顯著降低資源開銷。就基礎(chǔ)架構(gòu)而言,企業(yè)通過KV緩存存儲與復(fù)用機(jī)制,相比直接占用GPU昂貴的內(nèi)存資源,能以更低成本實(shí)現(xiàn)性能優(yōu)化。
另外,通過在MCP服務(wù)器前端部署F5與NVIDIA聯(lián)合解決方案,F(xiàn)5可充當(dāng)反向代理,從而增強(qiáng)MCP解決方案及其所支持LLM的安全能力。同時(shí),F(xiàn)5iRules提供的全數(shù)據(jù)可編程能力,能夠快速并靈活地響應(yīng)AI協(xié)議的快速演進(jìn)需求,并進(jìn)一步抵御新興網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。
陳天極的傳奇冒險(xiǎn)與無字天書的奧秘
在一片古老而神秘的土地上,陳天極這位英勇的青年開始了他的傳奇之旅|——。陳天極是一位擁有武道天賦與勇氣的年輕武者,他不僅擁有俊朗的外表,更在眼神中透露出對武道的堅(jiān)定與熱愛-_。從小便展現(xiàn)出過人天賦與勇氣的他,每日刻苦修煉,渴望有朝一日能成為守護(hù)所愛之人的強(qiáng)大武者。▍ 無字天書的出現(xiàn)一次意外的機(jī)遇,陳天極獲得了一本無字天書——。這 無字天書的秘密在探索過程中,陳天極對無字天書的理解逐漸深入-_。他發(fā)現(xiàn)這本書不僅蘊(yùn)含著強(qiáng)大的力量,更隱藏著世界的深層次秘密-。他通過對無字天書的深入理解,逐步揭示世界秘密,找到對抗邪惡的關(guān)鍵——-。挑戰(zhàn)與考驗(yàn)歷經(jīng)漫長而艱辛的努力,陳天極終于觸及到了武極天尊之力-|。這種力量足以讓他蛻變,與邪惡勢力的首領(lǐng)抗衡|。但說完了|-。