इंटेल、NVIDIA、ARM FP8 मानक AI को बढ़ावा देता है:सबसे मजबूत ग्राफिक्स कार्ड में 4.5 गुना प्रदर्शन सुधार है

हाल के वर्षों में ऐ आर्टिफिशियल इंटेलिजेंस एक हॉट टॉपिक रहा है,सीपीयू और जीपीयू दोनों एआई प्रदर्शन में सुधार कर रहे हैं,原本都有競爭關係的 IntelNVIDIA 及 ARM 也首次聯手推出了 FP8 格式 ,यह नया एआई प्रारूप कंप्यूटिंग प्रदर्शन में सुधार कर सकता है,सबसे शक्तिशाली त्वरण कार्ड H100 का प्रदर्शन 4.5 गुना अधिक है。

三家攜手推出通用的AI格式跟當前的混亂有關很多人都知道之前衡量GPU性能經常用FP32單精度FP64雙精度格式然而在AI時代不需要這麼高的精確度再加上廠商往往會自定義計算格式所以這幾年也出現了INT8BF16TF32之類的AI標準

廠商各自為戰顯然不利於AI技術發展所以IntelNVIDIA及ARM三大CPU/GPU巨頭就聯手推出了AI標準格式FP8並發布了FP8 Formats for Deep Learning白皮書還把標準提交給IEEE協會不出意外的話接下來會成為AI領域的通用標準

根據他們的說法FP8標準會有兩個編碼變體分別為E5M2E4M3可以最大限度地減少與當前IEEE754標準的偏差不僅可以為AI運算帶來更高的靈活度還能在軟硬件中取得平衡改善開發者的效率

根據NVIDIA發布的結果FP8在廣泛使用的訓練模型中都有類似16位浮點的效果而且性能更好NVIDIA的H100加速卡使用新的FP8格式在BERT模型中實現了4.5倍的性能提升

यह ध्यान देने लायक है,三大廠商聯合定義FP8標準卻沒有看到AMD的身影不知道AMD的態度如何不過AMD最終應該也會接納FP8標準與三家統一

उत्तर छोड़ दें

आपका ईमेल पता प्रकाशित नहीं किया जाएगा. आवश्यक फ़ील्ड चिह्नित हैं *