L'intelligence artificielle de l'IA a été un sujet brûlant ces dernières années,CPU et GPU améliorent les performances de l'IA,Intel, qui avait à l'origine une relation compétitive 、 Nvidia et ARM unissent également leurs forces pour la première fois,Format FP8 lancé ,Ce nouveau format d'IA peut améliorer les performances informatiques,Les performances de la carte d'accélération la plus puissante H100 sont 4,5 fois plus élevées。

Les trois entreprises travaillent ensemble pour lancer un format d'IA universel lié au chaos actuel,Beaucoup de gens savent que la précision unique FP32 est souvent utilisée pour mesurer les performances du GPU.、FP64 Format de double précision,Cependant, à l'ère de l'IA, il n'y a pas besoin d'une précision aussi élevée,De plus, les fabricants personnalisent souvent le format de calcul,Donc Int8 est également apparu ces dernières années、BF16、Normes d'IA telles que TF32。
Les fabricants se battent, évidemment, ne sont pas propices au développement de la technologie de l'IA,So Intel、Nvidia et ARM ont uni leurs forces pour lancer un format standard AI FP8,Et a publié les formats FP8 pour le livre blanc en profondeur,Les normes ont également été soumises à l'association IEEE,Si rien de inattendu ne se produit, il deviendra une norme commune dans le domaine de l'IA.。
Selon eux,Il existe deux variantes de codage de la norme FP8,E5m2、E4M3,Il peut minimiser les écarts par rapport à la norme actuelle de l'IEEE754,Non seulement il peut apporter une plus grande flexibilité à l'informatique de l'IA,Il peut également équilibrer les logiciels et le matériel,Améliorer l'efficacité des développeurs。
Selon les résultats publiés par Nvidia,FP8 a des effets similaires au point flottant 16 bits dans des modèles de formation largement utilisés,Et de meilleures performances,La carte d'accélération H100 de Nvidia utilise le nouveau format FP8,Atteindre 4,5x amélioration des performances dans le modèle Bert。
Il est à noter que,Trois principaux fabricants définissent conjointement la norme FP8,Mais je n'ai pas vu AMD,Je ne sais pas quelle est l'attitude d'AMD,Cependant, AMD devrait éventuellement adopter la norme FP8.,Unifié avec les trois familles。
