Данные 26 февраля сообщили, что из Первого примера стало известно, что Первый пример выпустил решение по решению краевой стороны для больших моделей ModelHub AIoT, пользователи могут легко развертывать небольшие модели дистилляции, включая DeepSeek R1, Qwen 2.5, серии Llama 2/3, и выполнять их в автономном режиме. Пользователи могут гибко переключаться между несколькими моделями, учитывая сжатие моделей и производительность вывода, решая сложности развертывания и оптимизации. Компания заявляет, что это решение не только удовлетворяет потребности пользователей в конфиденциальности и реальном времени, но также значительно снижает стоимость вывода больших моделей искусственного интеллекта.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Четвертый парадигмы запускает решение для краевого вывода крупных моделей ModelHub AIoT
Данные 26 февраля сообщили, что из Первого примера стало известно, что Первый пример выпустил решение по решению краевой стороны для больших моделей ModelHub AIoT, пользователи могут легко развертывать небольшие модели дистилляции, включая DeepSeek R1, Qwen 2.5, серии Llama 2/3, и выполнять их в автономном режиме. Пользователи могут гибко переключаться между несколькими моделями, учитывая сжатие моделей и производительность вывода, решая сложности развертывания и оптимизации. Компания заявляет, что это решение не только удовлетворяет потребности пользователей в конфиденциальности и реальном времени, но также значительно снижает стоимость вывода больших моделей искусственного интеллекта.