NeuralChat
Дообученная Mistral 7B от Intel, показывавшая обучение и запуск на процессорах и ускорителях Intel. Устарела, интересна как пример оптимизации под железо Intel.
- Разработчик
- Intel, США
- Первый выпуск
- ноя 2023
- Последний выпуск
- дек 2023
- Размеры
- 7B
- Лицензия
- Можно в коммерциюApache 2.0
- Русский язык
- Нет
- Запуск
- Есть в OllamaНужна видеокарта
- Сферы
- Поддержка клиентов, Образование
Какие задачи решает
- Простой чат-ассистент
- Эксперименты с запуском на железе Intel
- Основа для дообучения
Где применяется
Требования к железу
Версии
- neural-chat-7b-v3-3
- neural-chat-7b-v3-1
Как внедряю у заказчика
- ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
- УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
- ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
- ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.
Похожие модели
Европейские модели с упором на скорость. Mixtral — одна из первых открытых моделей на архитектуре «смесь экспертов»; есть версии с картинками (Pixtral, Medium 3.5), для доказательств в Lean и модерации (Shieldstral).
ПодробнееТекстZephyrHugging Face (H4) · СШАМожно в коммерциюУчебные чат-модели Hugging Face на базе Mistral, Gemma и Mixtral с открытым рецептом дообучения. Zephyr 7B Beta показал, что маленькую модель можно «воспитать» до уровня крупных без ручной разметки людьми.
ПодробнееТекстOpenChatOpenChat (Университет Цинхуа) · КитайКоммерция с условиямиДообучения Mistral 7B и Llama 3 8B по методу C-RLFT, которые в 2023–2024 годах догоняли ChatGPT-3.5 при размере 7–8B. Лёгкий универсальный ассистент для слабого сервера.
Подробнее