AMD收购AI推理芯片公司Taalas：模型"刻进"芯片，推理速度达17000 TPS

2026年8月12日，AMD宣布收购AI推理专用芯片公司Taalas，将其技术与AMD Instinct GPU结合打造系统级推理解决方案。Taalas采用"模型即计算机"理念，将模型和权重硬编码到基于掩膜ROM的权重读取结构中，辅以SRAM存放微调权重和KV Cache。首款验证芯片HC1将Llama 3.1 8B"刻进"芯片，实现接近17000 TPS/user推理速度，对比NVIDIA H200、B200及Groq、SambaNova、Cerebras断层领先。

成本方面，使用Taalas产品推理Llama 3.1 8B每百万Token仅0.75美分，DeepSeek R1为7.6美分，而GPU成本在20至49美分之间。功耗方面，Taalas单机架仅12-15kW，GPU机架通常高达120-600kW，且采用风冷散热免去数据中心液冷改造费用。Taalas交付形式为PCIe加速卡，可直接插入标准服务器，不需要HBM和CUDA软件栈。尽管模型"刻进"芯片牺牲灵活性，但可通过修改2层掩膜在约2个月完成定制化修改，LoRA微调仍可用于优化特定领域表现。

Taalas由Ljubisa Bajic（前Tenstorrent CEO、AMD/NVIDIA资深架构师）等三人创立，团队仅24人但大多来自AMD、Apple、Google、NVIDIA和Tenstorrent。累计融资2.19亿美元，投资方包括Quiet Capital、Fidelity。此举标志着AI推理专用芯片赛道的崛起——从Groq、SambaNova到Etched再到Taalas，专用化程度不断加深。NVIDIA也在下一代Vera Rubin系统中引入Groq 3 LPX专用推理芯片，GPU不再是AI推理的唯一选择。