Рубрика: Нейросети

локальные модели, ИИ-агенты, GPU, промпты, сравнения моделей

Дообучение модели на своих данных: LoRA на одной видеокарте

Поиск по своим документам: RAG на локальной модели и pgvector

Ollama, llama.cpp и vLLM: чем отличаются и что выбрать под свою задачу

Open WebUI: свой чат с моделями для команды

Квантизация моделей: что означают Q4, Q5, Q8 и сколько памяти нужно

Локальная языковая модель для небольшой компании: один сервер, несколько сотрудников

Видеокарта NVIDIA в Linux: драйверы, CUDA и проброс в Docker

Ollama на Ubuntu Server: установка, выбор модели, работа по API

Ollama на Ubuntu Server: установка, выбор модели, работа по API

Локальные языковые модели на своём сервере: железо, программы, ограничения

Локальные языковые модели на своём сервере: железо, программы, ограничения