Текст
TinyLlama
Модель на 1.1B с архитектурой Llama 2, обученная на 3 трлн токенов. Сегодня уступает новым малым моделям, но остаётся популярной основой для экспериментов и дообучения.
- Разработчик
- TinyLlama (исследователи SUTD), Сингапур
- Первый выпуск
- сен 2023
- Последний выпуск
- мар 2024
- Размеры
- 1.1B
- Лицензия
- Можно в коммерциюApache 2.0
- Русский язык
- Нет
- Запуск
- Есть в OllamaРаботает и без видеокарты
- Сферы
- Образование, Наука, Разработка ПО
Какие задачи решает
- Простые чат-боты на слабом железе
- Эксперименты и обучение команды
- Основа для дообучения под узкую задачу
Где применяется
ОбразованиеИсследованияПрототипы
Требования к железу
НоутбукНоутбук или обычный ПК, до 8 ГБ видеопамяти — младшие версии
подходит1 видеокартаОдна видеокарта на 16–80 ГБ — средние версии
нет версийКластерСервер с несколькими видеокартами — флагманские версии
нет версийВерсии
- TinyLlama v1.1 (общая, код и математика, китайская)
- TinyLlama-1.1B-Chat v1.0
- TinyLlama-1.1B (промежуточные чекпоинты)
Как внедряю у заказчика
- ПодборВыбираю размер модели под задачу и ваше железо, проверяю на ваших примерах.
- УстановкаРазворачиваю на вашем сервере или в закрытом контуре, отдаю API.
- ДообучениеДообучаю на ваших данных (LoRA) или подключаю базу знаний — что дешевле для задачи.
- ВстраиваниеПодключаю к CRM, 1С, боту, сайту или рабочему чату, настраиваю мониторинг.
Похожие модели
ТекстSmolLMHugging Face · СШАМожно в коммерцию
Крошечные открытые модели Hugging Face для телефонов и ноутбуков. SmolLM3 на 3B умеет рассуждать и держит длинный контекст, весь рецепт обучения открыт.
ПодробнееТекстPhiMicrosoft · СШАМожно в коммерциюМалые модели Microsoft, обученные на тщательно отобранных данных: сильны в логике и математике при скромном размере. Есть версии с картинками и речью.
ПодробнееТекстPythia и GPT-NeoXEleutherAI · СШАМожно в коммерциюПолностью открытые модели некоммерческой лаборатории EleutherAI: GPT-NeoX-20B и серия Pythia с опубликованными промежуточными снимками обучения.
Подробнее