“关系户”拿到2.2万块NVIDIA H100计算卡:1小时耗电3.1万度

2023-07-05 08:00:37 快科技


(相关资料图)

NVIDIA A100编程计算卡无疑是AI行业最火爆的加速计算卡,而它的下js一代H100也发布一年多了,只是产量一直有限,需求又太火爆,妥妥的一卡难求。

不过一家名为Inflection AI”的AI创业公司,却宣布要用多达2.2万块H100计算卡,打造一台AI超级计算机。

Inflection AI的宗旨是让AI普及到每个人,最近发布了Inflection-A AI模型,虽然还达不到ChatGPT、Google LAMDA的水平,但在通用任务上表现非常好,更适合做个人工作和生python活助手。

Inflection AI正在打造世界最顶级的AI超算之一,为此要使用2.2万块NVIDIA androidH100计算卡,分为接近700个机柜,而每个机柜内还有四块Intel至强处理器。

整套系统的功耗,也将达到恐怖的31兆瓦,也就是每小时3.1万度电。

至于说Inflection AI为什么能轻松拿到这么多H100计算卡,原因也很简单:NVIDIA正准备投资它呢。

Inflection AI创业以来已经拿到了大约15亿美元投资,估值达编程客栈40亿美元。