10/21/2025，光纖在線訊，日前，IBM（紐約證券交易所代碼：IBM）與Groq宣布達成戰(zhàn)略市場推廣與技術(shù)合作，旨在讓客戶通過watsonx Orchestrate即時訪問Groq的推理技術(shù)GroqCloud，以更低的成本獲得高速AI推理能力，從而加速自主AI代理的部署。

作為合作的一部分，Groq和IBM計劃將RedHat開源vLLM技術(shù)與Groq的LPU架構(gòu)進行集成與增強。IBM還計劃讓其Granite模型在GroqCloud上運行，以供IBM客戶使用。

企業(yè)將AI代理從試點推向生產(chǎn)時，仍然面臨速度、成本和可靠性方面的挑戰(zhàn)，這在醫(yī)療保健、金融、政府、零售和制造等關(guān)鍵領(lǐng)域尤為明顯。此次合作結(jié)合了Groq的推理速度、成本效益以及對最新開源模型的訪問能力，與IBM的自主AI編排技術(shù)，共同提供幫助企業(yè)實現(xiàn)規(guī)?；璧幕A(chǔ)設(shè)施。

GroqCloud由其定制LPU驅(qū)動，其推理速度比傳統(tǒng)GPU系統(tǒng)快5倍以上，且成本效益更高。即使在全球化的工作負載下，也能實現(xiàn)持續(xù)的低延遲和可靠的性能。這對于受監(jiān)管行業(yè)的自主AI代理尤其重要。

例如，IBM的醫(yī)療保健客戶會同時收到數(shù)千個復雜的患者問詢。借助Groq，IBM的AI代理可以實時分析信息并立即提供準確答案，從而提升客戶體驗，讓組織能夠做出更快速、更明智的決策。

該技術(shù)也正應(yīng)用于非監(jiān)管行業(yè)。IBM在零售和快速消費品領(lǐng)域的客戶正在使用Groq來支持人力資源代理，以幫助增強人力資源流程的自動化并提高員工生產(chǎn)力。

IBM軟件兼首席商務(wù)官Rob Thomas表示："許多大型企業(yè)在進行AI推理實驗時有多種選擇，但當他們想要投入生產(chǎn)時，必須確保能夠成功部署復雜的工作流，以保證高質(zhì)量的體驗。我們與Groq的合作關(guān)系彰顯了IBM致力于為客戶提供最先進技術(shù)以實現(xiàn)AI部署并推動業(yè)務(wù)價值的承諾。"

Groq首席執(zhí)行官兼創(chuàng)始人Jonathan Ross表示："憑借Groq的速度和IBM的企業(yè)專長，我們正在讓自主AI代理成為企業(yè)的現(xiàn)實。我們共同使組織能夠釋放AI驅(qū)動響應(yīng)的全部潛力，并獲得規(guī)?；璧男阅堋３怂俣群晚g性，此次合作關(guān)乎改變企業(yè)使用AI的方式，讓他們充滿信心地從實驗階段邁向全企業(yè)范圍的采用，并為AI能夠即時行動并持續(xù)學習的新模式打開大門。"

IBM將立即開始提供對GroqCloud功能的訪問，雙方聯(lián)合團隊將專注于為IBM客戶交付以下能力：高速、高性能的推理，釋放AI模型和自主AI代理的全部潛力，賦能客戶關(guān)懷、員工支持和生產(chǎn)力提升等用例；專注于安全與隱私的AI部署，旨在支持最嚴格的監(jiān)管和安全要求，實現(xiàn)復雜工作流的有效執(zhí)行；與IBM的自主AI產(chǎn)品watsonx Orchestrate無縫集成，為客戶提供靈活性，以采用針對不同用例量身定制的專用代理模式。

該合作還計劃集成并增強RedHat開源vLLM技術(shù)與Groq的LPU架構(gòu)，為開發(fā)人員在推理過程中面臨的常見AI挑戰(zhàn)提供不同的解決方法。該解決方案有望使watsonx能夠以熟悉的方式利用這些能力，并讓客戶留在他們偏好的工具中，同時通過GroqCloud加速推理。此集成將滿足AI開發(fā)者的關(guān)鍵需求，包括推理編排、負載均衡和硬件加速，最終簡化推理過程。

IBM和Groq共同為企業(yè)提供了增強的途徑，以獲取快速、智能且為產(chǎn)生實際影響而構(gòu)建的企業(yè)級AI的全部潛力。需要說明的是，關(guān)于IBM和Groq未來方向和意圖的聲明可能隨時更改或撤銷，并且僅代表目標和目的。

【關(guān)于IBM】
IBM是全球混合云與人工智能及咨詢服務(wù)的領(lǐng)先提供商。我們幫助超過175個國家的客戶從數(shù)據(jù)中獲取洞察、簡化業(yè)務(wù)流程、降低成本并在其行業(yè)中獲得競爭優(yōu)勢。數(shù)以千計的政府機構(gòu)和關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域（如金融服務(wù)、電信和醫(yī)療保?。┑钠髽I(yè)依靠IBM的混合云平臺和Red Hat OpenShift進行快速、高效和安全的數(shù)字化轉(zhuǎn)型。IBM在AI、量子計算、行業(yè)特定云解決方案和咨詢領(lǐng)域的突破性創(chuàng)新為客戶提供了開放和靈活的選擇。所有這些都得益于IBM對信任、透明、責任、包容和服務(wù)的長期承諾。

【關(guān)于Groq】
Groq是為AI提供所需速度和成本效益的推理基礎(chǔ)設(shè)施提供商。公司成立于2016年，開發(fā)了LPU和GroqCloud，旨在使計算更快、更經(jīng)濟。如今，Groq受到全球超過200萬開發(fā)者和團隊的信任，并且是美國AI技術(shù)棧的核心組成部分之一。