A data de 26 de fevereiro da Golden Ten informou que a Fourth Paradigm (06682.HK) lançou hoje a solução integrada de grande modelo de inferência SageOneIA, reduzindo ainda mais o custo de inferência de grande modelo. Por exemplo, a versão completa do DeepSeekV3/R1 só requer dois integrados para uso. Além disso, a solução integrada também incorpora a tecnologia inteligente de pooling de poder de computação, que suporta modelos grandes mainstream como DeepSeekV3/R1, QWen2.5, LLama3.3, etc., permitindo que as empresas alternem flexivelmente entre a versão completa e vários modelos de destilação, aumentando a utilização da GPU em mais de 30% e melhorando o desempenho de inferência em média 5-10 vezes.
Ver original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
A Fourth Paradigm lança a solução all-in-one SageOne IA para grandes modelos de inferência
A data de 26 de fevereiro da Golden Ten informou que a Fourth Paradigm (06682.HK) lançou hoje a solução integrada de grande modelo de inferência SageOneIA, reduzindo ainda mais o custo de inferência de grande modelo. Por exemplo, a versão completa do DeepSeekV3/R1 só requer dois integrados para uso. Além disso, a solução integrada também incorpora a tecnologia inteligente de pooling de poder de computação, que suporta modelos grandes mainstream como DeepSeekV3/R1, QWen2.5, LLama3.3, etc., permitindo que as empresas alternem flexivelmente entre a versão completa e vários modelos de destilação, aumentando a utilização da GPU em mais de 30% e melhorando o desempenho de inferência em média 5-10 vezes.