Поставщик крупных моделей DeepSeek, подразделение квантового фонда, использует технологию кэширования на жестком диске

Компания-лидер частной продажи Huanyuan Quantitative объявила в своем официальном аккаунте в сети о запуске нового проекта по исследованию общего искусственного интеллекта AGI - DeepSeek, который использует технологию кэширования контекстного жесткого диска для хранения контента, который предположительно будет повторно использоваться в будущем, на распределенном массиве жестких дисков. В сценарии использования API больших моделей, если ввод повторяется, повторяющуюся часть можно просто прочитать из кэша, без необходимости вычислений. За использование кэша DeepSeek берет плату в размере 0,1 юаня за миллион токенов.

Посмотреть Оригинал
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
  • Награда
  • комментарий
  • Поделиться
комментарий
0/400
Нет комментариев
  • Закрепить