21岁华裔小哥开发AI加速芯片「Sohu」，推理性能超H100十倍，2人公司估值3400万刀

据新智元报道编辑润所述，两位哈佛辍学生共同创立的AI芯片公司已经估值达3400万美元，并计划推出名为「Sohu」的AI推理加速芯片。这款芯片的LLM推理性能达到H100的10倍，单价吞吐量更是高达140倍。公司名为Etched.ai，创始人为Gavin Uberti和Chris Zhu，两人于2024年第三季度计划交付这款专门用于大语言模型加速的AI加速器芯片。

在种子轮投资中，公司获得了536万美元的资金，其中包括Ebay前CEO Devin Wenig在内的多家风投机构。该公司所开发的芯片将集成Transformer构架，并在硬件层面上将推理速度提升了8-10倍，相比英伟达H100。这款名为「Sohu」的芯片被称为能够在毫秒级别内处理数千个单词，并支持更好的编码通过树搜索的方式，同时能够并行比较数百个响应。此外，该芯片还支持多重推测解码（Multicast speculative decoding）。

文章链接：《推理性能超H100十倍！21岁华裔小哥哈佛辍学开发AI加速芯片「Sohu」，2人公司估值3400万刀》

联系作者：
新智元
作者微信：AI_era
作者简介：智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人对人类社会与文明进化的影响，领航中国新智能时代。