สตาร์ทอัพชิป AI "Groq" ระดมทุน 640 ล้านดอลลาร์ ท้าชิงตลาดจาก Nvidia

Key takeaway

• Groq สตาร์ทอัพผู้พัฒนาชิป AI ระดมทุนได้ 640 ล้านดอลลาร์ มีมูลค่าบริษัทอยู่ที่ 2.8 พันล้านดอลลาร์ และมีเงินทุนรวมกว่า 1 พันล้านดอลลาร์
• Groq พัฒนา LPU (Language Processing Unit) ที่อ้างว่ารันโมเดล Generative AI ได้เร็วกว่าและประหยัดพลังงานกว่าโปรเซสเซอร์ทั่วไป
• Groq เผชิญการแข่งขันจาก Nvidia ผู้ครองตลาดชิป AI และบริษัทยักษ์ใหญ่อย่าง Amazon, Google, Microsoft รวมถึงสตาร์ทอัพอีกจำนวนมาก
• Groq มุ่งเน้นขยายตลาดไปยังลูกค้าองค์กรและหน่วยงานรัฐบาล ผ่านความร่วมมือกับพันธมิตรต่างๆ และวางแผนใช้ LPUs มากกว่า 108,000 เครื่องภายในต้นปี 2025

Groq บริษัทสตาร์ทอัพที่พัฒนาชิปเพื่อรันโมเดล Generative AI ได้เร็วกว่าโปรเซสเซอร์ทั่วไป ประกาศเมื่อวันจันทร์ว่าได้ระดมทุนรอบใหม่มูลค่า 640 ล้านดอลลาร์ นำโดย Blackrock นอกจากนี้ยังมีผู้ร่วมลงทุนอย่าง Neuberger Berman, Type One Ventures, Cisco, KDDI และ Samsung Catalyst Fund

การระดมทุนครั้งนี้ทำให้ Groq มีเงินทุนรวมกว่า 1 พันล้านดอลลาร์ และมูลค่าบริษัทอยู่ที่ 2.8 พันล้านดอลลาร์ ซึ่งถือเป็นชัยชนะครั้งใหญ่ของ Groq ที่เดิมตั้งเป้าระดมทุนที่ 300 ล้านดอลลาร์ด้วยมูลค่าบริษัทที่ต่ำกว่าเล็กน้อย (2.5 พันล้านดอลลาร์) การระดมทุนครั้งนี้ทำให้มูลค่าของ Groq เพิ่มขึ้นกว่าเท่าตัวจากเดิม (~1 พันล้านดอลลาร์) ในเดือนเมษายน 2021 เมื่อบริษัทระดมทุนได้ 300 ล้านดอลลาร์ในรอบที่นำโดย Tiger Global Management และ D1 Capital Partners

Groq ยังประกาศในวันนี้ด้วยว่า Yann LeCun หัวหน้านักวิทยาศาสตร์ด้าน AI ของ Meta จะมาเป็นที่ปรึกษาด้านเทคนิคให้กับ Groq และ Stuart Pann อดีตหัวหน้าธุรกิจ Foundry ของ Intel และอดีต CIO ของ HP จะมาร่วมงานกับสตาร์ทอัพในตำแหน่ง Chief Operating Officer การแต่งตั้ง LeCun นั้นค่อนข้างไม่คาดคิด เนื่องจาก Meta เองก็ลงทุนในชิป AI ของตัวเองอยู่ แต่ก็ไม่ต้องสงสัยเลยว่ามันจะทำให้ Groq มีพันธมิตรที่ทรงพลังในตลาดที่มีการแข่งขันอย่างดุเดือด

Groq ซึ่งเปิดตัวอย่างเงียบ ๆ ในปี 2016 กำลังสร้างสิ่งที่พวกเขาเรียกว่า LPU (Language Processing Unit) Inference Engine บริษัทอ้างว่า LPU ของพวกเขาสามารถรันโมเดล Generative AI ที่มีสถาปัตยกรรมคล้ายกับ ChatGPT และ GPT-4 ของ OpenAI ได้เร็วกว่า 10 เท่า และใช้พลังงานเพียงหนึ่งในสิบเท่านั้น

ความโด่งดังของ Jonathan Ross ซีอีโอของ Groq คือการช่วยคิดค้น TPU (Tensor Processing Unit) ชิปเร่งความเร็ว AI ที่กูเกิลใช้ในการเทรนและรันโมเดล Ross ร่วมมือกับ Douglas Wightman ผู้ประกอบการและอดีตวิศวกรที่ X moonshot lab ของ Alphabet บริษัทแม่ของ Google เพื่อร่วมก่อตั้ง Groq เมื่อเกือบทศวรรษที่แล้ว

Groq มีแพลตฟอร์มนักพัฒนาที่ขับเคลื่อนด้วย LPU ชื่อว่า GroqCloud ซึ่งมีโมเดล "เปิด" อย่างเช่นตระกูล Llama 3.1 ของ Meta, Gemma ของ Google, Whisper ของ OpenAI และ Mistral ของ Mixtral รวมถึง API ที่ให้ลูกค้าใช้ชิปของพวกเขาใน Cloud Instance ได้ (Groq ยังมี Playground สำหรับแชทบอท AI ชื่อว่า GroqChat ซึ่งเปิดตัวปลายปีที่แล้ว) ณ เดือนกรกฎาคม GroqCloud มีนักพัฒนากว่า 356,000 คน Groq ระบุว่าส่วนหนึ่งของเงินที่ได้จากการระดมทุนครั้งนี้จะถูกนำไปใช้ในการขยายขีดความสามารถและเพิ่มโมเดลและฟีเจอร์ใหม่ ๆ

Stuart Pann ซีโอโอของ Groq บอกกับ TechCrunch ว่า "นักพัฒนาจำนวนมากมาจากองค์กรขนาดใหญ่ ตามประมาณการของเรา มีบริษัทใน Fortune 100 กว่า 75% ที่เป็นตัวแทน"

ในขณะที่กระแส Generative AI ยังคงดำเนินต่อไป Groq ก็เผชิญกับการแข่งขันที่เพิ่มขึ้นทั้งจากสตาร์ทอัพชิป AI คู่แข่ง และ Nvidia ผู้ครองตลาดชิป AI ที่ใช้ในการเทรนและใช้งานโมเดล Generative AI

Nvidia ควบคุมตลาดชิป AI ที่ใช้ในการเทรนและใช้งานโมเดล Generative AI ประมาณ 70% ถึง 95% และบริษัทกำลังดำเนินการอย่างเข้มข้นเพื่อรักษาความเป็นผู้นำ

Nvidia ได้ให้คำมั่นว่าจะปล่อยสถาปัตยกรรมชิป AI ใหม่ทุกปี แทนที่จะเป็นทุก ๆ สองปีอย่างที่เคยเป็นมาในอดีต และมีรายงานว่ากำลังจัดตั้งหน่วยธุรกิจใหม่ที่มุ่งเน้นการออกแบบชิปตามความต้องการสำหรับบริษัทคลาวด์คอมพิวติ้งและอื่น ๆ รวมถึงฮาร์ดแวร์ AI

นอกเหนือจาก Nvidia แล้ว Groq ยังแข่งขันกับ Amazon, Google และ Microsoft ซึ่งทั้งหมดเสนอ หรือกำลังจะเสนอชิปที่กำหนดเองสำหรับ AI Workload บนคลาวด์ Amazon มีโปรเซสเซอร์ Trainium, Inferentia และ Graviton ที่ใช้ได้ผ่าน AWS ลูกค้าของ Google Cloud สามารถใช้ TPU ที่กล่าวถึงข้างต้น และในอนาคตจะมีชิป Axion ของ Google ส่วน Microsoft เพิ่งเปิดตัว Azure Instance ในรูปแบบตัวอย่างสำหรับ CPU Cobalt 100 โดยจะมี Instance ของ Maia 100 AI Accelerator ตามมาในอีกไม่กี่เดือนข้างหน้า

นอกจากนี้ Groq อาจถือว่า Arm, Intel, AMD และสตาร์ทอัพจำนวนมากขึ้นเรื่อย ๆ เป็นคู่แข่งในตลาดชิป AI ที่อาจมีมูลค่าถึง 4 แสนล้านดอลลาร์ต่อปีในอีก 5 ปีข้างหน้า ตามการวิเคราะห์ของบางคน โดยเฉพาะอย่างยิ่ง Arm และ AMD มีธุรกิจชิป AI ที่กำลังเติบโตอย่างรวดเร็ว ขอบคุณการใช้จ่ายเงินทุนที่พุ่งสูงขึ้นของผู้ให้บริการคลาวด์เพื่อตอบสนองความต้องการของ Generative AI

D-Matrix ระดมทุนได้ 110 ล้านดอลลาร์เมื่อปลายปีที่แล้วเพื่อนำแพลตฟอร์ม Inference Compute ที่พวกเขาอ้างว่าเป็นครั้งแรกของโลกออกสู่ตลาด ในเดือนมิถุนายน Etched เปิดตัวด้วยเงิน 120 ล้านดอลลาร์สำหรับโปรเซสเซอร์ที่สร้างขึ้นมาเป็นพิเศษเพื่อเร่งความเร็วสถาปัตยกรรมโมเดล Generative AI ที่ครองตลาดในปัจจุบันอย่าง Transformer มีรายงานว่า Masayoshi Son แห่ง SoftBank กำลังมองหาการระดมทุน 1 แสนล้านดอลลาร์สำหรับธุรกิจชิปเพื่อแข่งขันกับ Nvidia และมีข่าวลือว่า OpenAI กำลังเจรจากับบริษัทลงทุนเพื่อเปิดตัวโครงการผลิตชิป AI

เพื่อสร้างตลาดเฉพาะของตัวเอง Groq กำลังลงทุนอย่างหนักในการเข้าถึงองค์กรและหน่วยงานรัฐบาล

ในเดือนมีนาคม Groq ได้เข้าซื้อกิจการ Definitive Intelligence บริษัท AI โซลูชันสำหรับธุรกิจในพาโลอัลโต เพื่อจัดตั้งหน่วยธุรกิจใหม่ชื่อ Groq Systems ภายใต้การดูแลของ Groq Systems คือการให้บริการองค์กรต่าง ๆ รวมถึงหน่วยงานรัฐบาลสหรัฐฯ และประเทศอธิปไตย ที่ต้องการเพิ่มชิปของ Groq ในศูนย์ข้อมูลที่มีอยู่ หรือสร้างศูนย์ข้อมูลใหม่โดยใช้โปรเซสเซอร์ Groq

ล่าสุด Groq ได้ร่วมมือกับ Carahsoft ซึ่งเป็นผู้รับเหมาด้าน IT ของรัฐบาล เพื่อขายโซลูชันให้กับลูกค้าภาครัฐผ่านพันธมิตร reseller ของ Carahsoft และ startup แห่งนี้ยังมีจดหมายแสดงเจตจำนงที่จะติดตั้ง LPUs หลักหมื่นเครื่องที่ data center ในนอร์เวย์ของบริษัท Earth Wind & Power ในยุโรปอีกด้วย

นอกจากนี้ Groq ยังร่วมมือกับ Aramco Digital บริษัทที่ปรึกษาจากซาอุดีอาระเบียเพื่อติดตั้ง LPUs ใน data center ในตะวันออกกลางในอนาคต

ในขณะเดียวกันที่ Groq กำลังสร้างความสัมพันธ์กับลูกค้า บริษัทซึ่งตั้งอยู่ที่ Mountain View รัฐแคลิฟอร์เนียก็กำลังมุ่งหน้าสู่ชิปรุ่นถัดไป เมื่อเดือนสิงหาคมที่ผ่านมา บริษัทประกาศว่าจะร่วมมือกับ Samsung's foundry business เพื่อผลิตชิป LPUs ขนาด 4nm ซึ่งคาดว่าจะให้ประสิทธิภาพและประสิทธิผลที่ดีขึ้นกว่าชิปรุ่นแรกขนาด 13nm ของ Groq

Groq ระบุว่ามีแผนจะใช้ LPUs มากกว่า 108,000 เครื่องภายในสิ้นไตรมาสแรกของปี 2025

Why it matter

ข้อมูลอ้างอิงจาก AI chip startup Groq lands $640M to challenge Nvidia