AI计算需求激增，英伟达H100功耗成挑战

伴随着人工智能技术飞跃式的进步，对于计算机运算能力的需求同样大幅提升。目前，英伟达公司的H100芯片销售火爆。值得关注的是，单片H100芯片的峰值功率高达700瓦。随着此类芯片的广泛使用，预计到2024年末，其总体功耗将相当于甚至超越某些欧洲小型国家。

根据预测，若H100的年利用率保持在61%，那么单台设备每年将耗电3740千瓦小时左右。如果英伟达在2023年售出150万块H100，2024年再增加至200万块，那么到2024年底，将有350万块H100芯片投入使用，其总年用电量将高达130.91亿千瓦小时（13091.82GWh）。相对而言，一些国家的年平均发电水平，如格鲁吉亚、立陶宛和危地马拉，也是这个数量级。

尽管H100的电力消耗数字让人瞠目结舌，但我们可以看到，AI以及高性能计算GPU的能效正逐步改善。英伟达下一代Blackwell架构的B100芯片不仅可能拥有超过H100的功耗，而且还能实现更高的性能表现，从而在相同能耗下完成更多任务。

很明显，随着AI技术的持续发展，如何妥善处理算力与能耗之间的矛盾，成为了未来亟待解决的重大问题。