AI büyük modellerinin maliyetinin üç açıdan azaltılabileceğini belirten Zhang Wen, bu açıların yonga, sistem ve kümeleme yeteneklerini içerdiğini söyledi. "Yonga seviyesinde, daha önce bir AI büyük modelin eğitimi birkaç ay sürebilirdi, şimdi ise yonga işlem gücünün artması ve bant genişliğinin artmasıyla birkaç haftaya kısaltılabilir. Sistem açısından, CPU, GPU ve DPU mimarilerini birleştirerek sistem kümeleme yeteneğini artırabiliriz. Şu anda kümeleme daha da geliştiriliyor ve işlem gücü verimliliği büyük ölçüde artıyor."
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
AI büyük modellerinin maliyetinin üç açıdan azaltılabileceğini belirten Zhang Wen, bu açıların yonga, sistem ve kümeleme yeteneklerini içerdiğini söyledi. "Yonga seviyesinde, daha önce bir AI büyük modelin eğitimi birkaç ay sürebilirdi, şimdi ise yonga işlem gücünün artması ve bant genişliğinin artmasıyla birkaç haftaya kısaltılabilir. Sistem açısından, CPU, GPU ve DPU mimarilerini birleştirerek sistem kümeleme yeteneğini artırabiliriz. Şu anda kümeleme daha da geliştiriliyor ve işlem gücü verimliliği büyük ölçüde artıyor."