【TechWeb】7月9日消息，全球應(yīng)用交付和API安全解決方案提供商F5宣布F5BIG-IPNextforKubernetes推出全新功能，該解決方案深度整合NVIDIABlueField-3DPU以及NVIDIADOCA軟件框架，并已通過歐洲客戶Sesterce的實際部署驗證。
作為對F5應(yīng)用交付與安全平臺（F5ApplicationDeliveryandSecurityPlatform）的進(jìn)一步擴(kuò)展，BIG-IPNextforKubernetes現(xiàn)可原生運行于NVIDIABlueField-3DPU，為大規(guī)模AI基礎(chǔ)設(shè)施提供高性能流量管理與安全防護(hù)，從而顯著提升AI應(yīng)用的運行效率、控制能力與性能表現(xiàn)。
借助該聯(lián)合解決方案，企業(yè)可將簡單的AI相關(guān)任務(wù)路由至成本更低、更輕量級的LLM以支持生成式AI，同時將更復(fù)雜的查詢留給性能更強(qiáng)大的高階模型處理。該可定制化的智能路由機(jī)制還支持按領(lǐng)域調(diào)用特定LLM，從而提升輸出質(zhì)量并顯著改善客戶體驗。F5的先進(jìn)流量管理技術(shù)可確保查詢精準(zhǔn)分發(fā)至最適合的模型節(jié)點，從而降低延遲并加快首個詞元生成時間。
今年早些時候，NVIDIA推出Dynamo框架，旨在為生成式AI與推理模型在大規(guī)模分布式環(huán)境中的部署提供支撐。通過統(tǒng)一調(diào)度、流量路由和內(nèi)存管理等核心任務(wù)，NVIDIADynamo有效簡化了分布式環(huán)境中AI推理的復(fù)雜性，確保其在動態(tài)工作負(fù)載下的穩(wěn)定運行。F5與NVIDIA的聯(lián)合解決方案的核心優(yōu)勢之一，是將部分計算操作從CPU卸載至BlueFieldDPU，從而顯著提升整體效率。借助F5技術(shù)，DynamoKVCacheManager可基于容量智能路由請求，并通過鍵值（KV）緩存機(jī)制，顯著加速生成式AI應(yīng)用的響應(yīng)速度。該機(jī)制通過復(fù)用歷史運算信息，避免重復(fù)計算，顯著降低資源開銷。就基礎(chǔ)架構(gòu)而言，企業(yè)通過KV緩存存儲與復(fù)用機(jī)制，相比直接占用GPU昂貴的內(nèi)存資源，能以更低成本實現(xiàn)性能優(yōu)化。
另外，通過在MCP服務(wù)器前端部署F5與NVIDIA聯(lián)合解決方案，F(xiàn)5可充當(dāng)反向代理，從而增強(qiáng)MCP解決方案及其所支持LLM的安全能力。同時，F(xiàn)5iRules提供的全數(shù)據(jù)可編程能力，能夠快速并靈活地響應(yīng)AI協(xié)議的快速演進(jìn)需求，并進(jìn)一步抵御新興網(wǎng)絡(luò)安全風(fēng)險。
小說:苦練童子功被迫禁欲,破戒即自宮?他誓破魔咒!
日本的這些異世界轉(zhuǎn)生輕改動畫追求的就是一種快餐式的爽快，什么角色成長，什么困難挫折，能夠不要的就不要，就算遇到了真正的困難挫折，也可以憑借各種開掛神棍去輕松解決。如果說，站在老美的角度來看待異世界轉(zhuǎn)生作品的話，同樣是主角遇上交通意外而轉(zhuǎn)生到異世界，主角在來到異世界后的境況，會跟日本那邊的異世界后面會介紹。
明明已經(jīng)涼透的游戲女郎,卻因人氣太高強(qiáng)行復(fù)活
這肥胖的貴族正是卡曼的父親，暴風(fēng)斗神后裔，蘭寧帝國禮法大臣威德諾公爵，“卡曼，弗朗西斯不過是個不能修煉斗氣的廢物，你跟他生什么氣？而且他畢竟是圣輝斗神后裔，今天打你又是為了救人，如果你因為這個找他報仇，是圣教法典所不允許的！”“我不管，這件事不能就這么……哎呀！”卡曼捂著胸口慘叫一聲，趕忙去等我繼續(xù)說。
盤點動漫中的“七人組合”,誰的實力最強(qiáng)?
實則，朱菜的實力并不僅限于前期所見。關(guān)于我轉(zhuǎn)生成為史萊姆這檔事2# 朱菜的力量？雖說朱菜跟隨利姆魯后從不上戰(zhàn)場，但并不代表她實力弱，在日常生活中，朱菜與紫苑爭寵時（搶奪利姆魯），曾展現(xiàn)過極強(qiáng)的臂力，只不過當(dāng)時大家都在看熱鬧，并沒有將注意力放在這上面而已|。要知道，紫苑作為十二守護(hù)王之一的「斗神王等我繼續(xù)說。
延伸閱讀：與 多租戶：(與安全能)||力 的相關(guān)文章
助理否認(rèn)沈玉琳進(jìn)ICU
財曉得丨A股重返3600點，這次有什么不一樣？
循環(huán)歌單|“法修散打の小曲”|《室內(nèi)系的TrackMaker (Melodic Minor版)》
法院認(rèn)為不能認(rèn)定武漢大學(xué)圖書館男生實施性騷擾，學(xué)校應(yīng)不應(yīng)該撤銷處分？撤銷處分難點在哪？
宇樹發(fā)布雙足機(jī)器人新品 Unitree R1，售價 3.99 萬元起，如何評價這款機(jī)器人？競爭力怎樣？
《南京照相館》中，嬰兒啼哭后金老板殿后，日軍為什么沒有繼續(xù)追林毓秀？
鯰魚效應(yīng)是真是假？
37歲確診胃癌前身體發(fā)出的信號
【轟】什么？你說我背后有臟東西？？
壞damn?。。。?）
