Metaは10万台以上のNVIDIA H100を使用してLlama-4をトレーニングしている

ツイート

Metaのマーク・ザッカーバーグCEOが2024年第3四半期(7～9月)決算報告の場で「10万台以上のNVIDIA H100、あるいは他社が報告しているものよりも大きい規模のクラスターで、Llama-4モデルをトレーニングしている」ことを明らかにしました。Meta is using more than 100,000 Nvidia H100 AI GPUs to train Llama-4 - Mark Zuckerberg says that Llama 4 is being trained on a clus…