推理速度达英伟达GPU的10倍，刚获6.4亿美元融资的Groq是什么来头？

“行业观察者”是我们针对人工智能、XR、元宇宙和Web3等前沿科技而设立的专栏，主要分享这些领域中的新兴企业或者创业者们的故事。以快著称的AI芯片独角兽Groq，官宣融资6.4亿美元，最新估值也暴涨到28亿美元。短期内的迅速扩张，它是如何做到的？以下是我们的第22期内容，以下Enjoy。

8月5日，美国人工智能芯片初创公司Groq官宣获得6.4亿美元最新融资，公司估值也来到了28亿美元。

此轮融资由华尔街资管巨头贝莱德的BlackRock Private Equity Partners领投，思科的Cisco Investments和三星电子的Samsung Catalyst Fund也参与其中。Groq背后的技术创新实力和财力支持可见一斑。

01.

1分钟项目速览

1.项目名称：Groq

2.成立时间：2016年

3.产品简介：

Groq推出的新型AI加速芯片LPU，专为大语言模型量身定制，具有高速推理性能。其芯片性能表现比常规的GPU和TPU提升10到100倍，推理速度达到了NVIDIA GPU的10倍。

4.创始人团队：

• Jonathan Ross：创始人兼CEO，谷歌TPU项目核心研发人员

• Yann LeCun：图灵奖得主、深度学习三巨头之一，担任技术顾问

5.融资情况：

• 2017年，Groq在成立初期获得了种子轮融资1030万美元；

• 2018年，Groq在A轮融资中筹集了5230万美元，由Social Capital领投；

• 2020年，Groq在B轮融资中筹集了1.5亿美元，由Tiger Global Management领投，参与者还包括D1 Capital Partners和The Spruce House Partnership；

• 2021年，Groq在C轮融资中筹集了3亿美元，由Tiger Global Management和D1 Capital Partners继续支持；

• Groq在最新一轮融资中筹集了6.4亿美元，由BlackRock Inc.基金领投，思科、三星跟投。

02.

创新驱动的AI处理器先锋

Groq的创立过程可以被视为创新和技术突破的一个典范。

Ross在创办Groq之前，曾在谷歌担任工程师，负责推动深度学习和计算架构方面的研究。在谷歌工作期间，Ross发现传统计算架构在处理现代AI任务时存在显著的性能瓶颈，特别是在深度学习和大规模数据分析方面。

传统的CPU和GPU无法满足这些任务对并行计算和低延迟的高要求。这种认知促使Ross离开谷歌，创办一家专注于突破传统计算限制的公司——Groq。

Groq的创始团队在公司创立初期集中精力于硬件设计和技术研发。团队成员来自于高性能计算和半导体领域的顶尖人才，具备丰富的经验和技术背景。早期的工作包括处理器架构的设计、原型的开发以及性能测试。

Groq的技术理念围绕着一种创新的处理器架构展开，旨在提供比现有处理器更高的计算性能和效率。公司的目标是设计一种能够突破CPU和GPU限制的硬件平台，以满足AI和HPC领域对计算能力的不断增长的需求。

随着技术的成熟和市场需求的增加，Groq开始扩展其业务范围，进入了数据中心、云计算和边缘计算等领域。目前，该公司已与多个行业领先的技术合作伙伴建立了战略合作关系，推动其产品在全球范围内的应用。

03.

重塑高性能计算

自创立以来，Groq凭借其突破性的技术和卓越的产品，迅速成为人工智能（AI）和高性能计算（HPC）领域的先锋。

Groq的技术核心在于其创新的处理器架构。与传统的CPU和GPU处理器不同，Groq的设计理念着眼于提升计算能力和效率，特别是针对现代AI和数据密集型应用的需求。

• 高度并行化设计：Groq的处理器架构采用了极高的并行化设计，集成了大量计算单元，能够同时处理大量的数据。这种设计不仅提升了计算能力，还降低了数据处理的延迟。

• 简化数据路径：传统处理器常常面临数据传输瓶颈，Groq的架构通过优化数据路径和高速缓存设计，显著减少了数据传输延迟。这样一来，处理器能够以更高的效率处理大规模数据集，满足AI训练和推理过程中的高性能要求。
  

• 灵活的配置选项：Groq提供了多种配置选项，允许用户根据具体应用需求调整计算资源。这种灵活性使得其处理器可以广泛应用于不同的计算场景，从数据中心到边缘计算环境。

• 
  

Groq的AI加速器是其产品阵容中的核心组成部分，专为加速深度学习模型的训练和推理而设计。其优势主要体现在以下三个方面：

• 高吞吐量和低延迟：AI加速器通过提高处理能力和降低延迟，显著加快了机器学习模型的训练速度。这对于需要处理海量数据的应用，如图像识别和自然语言处理，尤其重要。

• 优化算法支持：Groq的加速器优化了各种机器学习算法，包括卷积神经网络（CNN）、循环神经网络（RNN）等。通过硬件层面的优化，加速器能够高效执行这些复杂的计算任务，提高模型的训练效率和推理性能。
  

• 扩展性和可配置性：加速器设计支持高扩展性，能够应对不同规模的数据处理任务。用户可以根据需要配置多个加速器，构建高性能计算集群，以满足大规模AI应用的需求。

凭借高度并行化的设计、优化的数据路径、以及强大的AI加速能力，Groq为数据中心、云计算和边缘计算等多个领域提供了卓越的技术支持。

随着技术的不断发展和产品的持续优化，Groq正在为现代计算需求提供前所未有的解决方案，推动计算科技向更高水平迈进。

作为AI芯片领域黑马的Groq，其LPU芯片的高速推理能力毋庸置疑。 但随着公司估值的暴涨和市场的期待，Groq也在面临着一系列的挑战与问题。

04.

挑战与机遇并存

首先便是LPU的容量问题，虽然在处理大语言模型时展现出了卓越的性能，但内存较小导致在实际部署时可能需要大量的硬件资源。

据分析，LPU在运行LLaMA 70B等大模型时，Groq的硬件需求和成本可能远高于预期，这无疑增加了公司在大规模部署时的经济压力。

其次，LPU的专用性虽然在特定任务上提供了优势，但也限制了其在更广泛AI任务中的应用。与GPU相比，LPU的通用性不足可能影响其在多样化AI场景中的竞争力。

作为初生产品与初创公司，Groq在技术成熟度、市场认可度以及生态系统建设方面还有很长的路要走。它需要不断优化产品，扩大研发团队，并与行业伙伴建立合作关系，以加速技术的商业化进程。

展望未来，Groq的发展机遇同样巨大。随着AI技术的不断进步和应用场景的拓展，相关企业对高效能AI芯片的需求日益增长。Groq若能有效解决成本和通用性问题，其LPU芯片有望在AI推理市场占据重要地位。

Groq公司计划到2025年3月底前推出10.8万个LPU，这一宏伟目标若能实现，将进一步巩固其在行业中的领导地位。Groq如何在激烈的市场竞争中不断突破自我，实现技术创新与商业成功的双重飞跃，值得我们持续关注。

1. https://groq.com/

2.https://www.reuters.com/technology/artificial-intelligence/ai-chip-startup-groq-valued-28-bln-after-latest-funding-round-2024-08-05/

3.https://techcrunch.com/2024/08/05/ai-chip-startup-groq-lands-640m-to-challenge-nvidia/

【声明】：未经允许严禁转载，如需转载请联系我们，文章版权和最终解释权归元宇宙之心所有。

最新行业深度研究报告发放中！ 资本实验室全新发布37页量化报告《2023全球区块链应用市场暨产业图谱报告（2023）》，收录1000+应用案例 ，探索区块链应用趋势 ，入群即可免费领取。

还怕找不到对象？

AI红娘帮你牵线！

AI改变打工人方式，3种策略帮你应对

‍‍

牙科AI领域融资5800万美元！这只是Pearl的开始

‍‍

亏损50亿美元！OpenAI寿命只剩一年了？