Локальные модели

Локальная модель работает прямо на вашем компьютере: данные никуда не утекают в принципе. Это максимальный уровень конфиденциальности – и главный компромисс по качеству.

Что важно понимать

• Мощная локальная модель уровня «почти как топовые» требует очень дорогого железа. На обычном компьютере запускаются только небольшие модели (например, Qwen через Ollama) – они заметно слабее большой четверки.
• Правильная ниша локальных моделей – вспомогательные задачи: слой проверки в анонимизаторе, локальная транскрибация через Whisper, черновая сортировка документов.
• Для серьезной юридической аналитики локальная модель – пока не замена облачным: сила рассуждений не та.

Как попробовать

Устанавливаете Ollama, выбираете модель под характеристики компьютера – дальше агент сам подключит ее к вашему скрипту. Даже на старом компьютере с бюджетной видеокартой цикл обработки небольшого документа занимает десятки секунд – для фоновых задач приемлемо.

Связанные заметки: Анонимизаторы · Конфиденциальность и ИИ · Вайб-кодинг