ICC訊  日前，IBM（紐約證券交易所代碼：IBM）與Groq宣布達成戰略市場推廣與技術合作，旨在讓客戶通過watsonx Orchestrate即時訪問Groq的推理技術GroqCloud，以更低的成本獲得高速AI推理能力，從而加速自主AI代理的部署。

  作為合作的一部分，Groq和IBM計劃將RedHat開源vLLM技術與Groq的LPU架構進行集成與增強。IBM還計劃讓其Granite模型在GroqCloud上運行，以供IBM客戶使用。

  企業將AI代理從試點推向生產時，仍然面臨速度、成本和可靠性方面的挑戰，這在醫療保健、金融、政府、零售和制造等關鍵領域尤為明顯。此次合作結合了Groq的推理速度、成本效益以及對最新開源模型的訪問能力，與IBM的自主AI編排技術，共同提供幫助企業實現規模化所需的基礎設施。

  GroqCloud由其定制LPU驅動，其推理速度比傳統GPU系統快5倍以上，且成本效益更高。即使在全球化的工作負載下，也能實現持續的低延遲和可靠的性能。這對于受監管行業的自主AI代理尤其重要。

  例如，IBM的醫療保健客戶會同時收到數千個復雜的患者問詢。借助Groq，IBM的AI代理可以實時分析信息并立即提供準確答案，從而提升客戶體驗，讓組織能夠做出更快速、更明智的決策。

  該技術也正應用于非監管行業。IBM在零售和快速消費品領域的客戶正在使用Groq來支持人力資源代理，以幫助增強人力資源流程的自動化并提高員工生產力。

  IBM軟件兼首席商務官Rob Thomas表示："許多大型企業在進行AI推理實驗時有多種選擇，但當他們想要投入生產時，必須確保能夠成功部署復雜的工作流，以保證高質量的體驗。我們與Groq的合作關系彰顯了IBM致力于為客戶提供最先進技術以實現AI部署并推動業務價值的承諾。"

  Groq首席執行官兼創始人Jonathan Ross表示："憑借Groq的速度和IBM的企業專長，我們正在讓自主AI代理成為企業的現實。我們共同使組織能夠釋放AI驅動響應的全部潛力，并獲得規模化所需的性能。除了速度和韌性，此次合作關乎改變企業使用AI的方式，讓他們充滿信心地從實驗階段邁向全企業范圍的采用，并為AI能夠即時行動并持續學習的新模式打開大門。"

  IBM將立即開始提供對GroqCloud功能的訪問，雙方聯合團隊將專注于為IBM客戶交付以下能力：高速、高性能的推理，釋放AI模型和自主AI代理的全部潛力，賦能客戶關懷、員工支持和生產力提升等用例；專注于安全與隱私的AI部署，旨在支持最嚴格的監管和安全要求，實現復雜工作流的有效執行；與IBM的自主AI產品watsonx Orchestrate無縫集成，為客戶提供靈活性，以采用針對不同用例量身定制的專用代理模式。

  該合作還計劃集成并增強RedHat開源vLLM技術與Groq的LPU架構，為開發人員在推理過程中面臨的常見AI挑戰提供不同的解決方法。該解決方案有望使watsonx能夠以熟悉的方式利用這些能力，并讓客戶留在他們偏好的工具中，同時通過GroqCloud加速推理。此集成將滿足AI開發者的關鍵需求，包括推理編排、負載均衡和硬件加速，最終簡化推理過程。

  IBM和Groq共同為企業提供了增強的途徑，以獲取快速、智能且為產生實際影響而構建的企業級AI的全部潛力。

  需要說明的是，關于IBM和Groq未來方向和意圖的聲明可能隨時更改或撤銷，并且僅代表目標和目的。

  關于IBM

  IBM是全球混合云與人工智能及咨詢服務的領先提供商。我們幫助超過175個國家的客戶從數據中獲取洞察、簡化業務流程、降低成本并在其行業中獲得競爭優勢。數以千計的政府機構和關鍵基礎設施領域（如金融服務、電信和醫療保健）的企業依靠IBM的混合云平臺和Red Hat OpenShift進行快速、高效和安全的數字化轉型。IBM在AI、量子計算、行業特定云解決方案和咨詢領域的突破性創新為客戶提供了開放和靈活的選擇。所有這些都得益于IBM對信任、透明、責任、包容和服務的長期承諾。

  關于Groq

  Groq是為AI提供所需速度和成本效益的推理基礎設施提供商。公司成立于2016年，開發了LPU和GroqCloud，旨在使計算更快、更經濟。如今，Groq受到全球超過200萬開發者和團隊的信任，并且是美國AI技術棧的核心組成部分之一。