Модели

llmfit: как подобрать большую модель под ваше железо и не расплакаться

Лёгкая и толковая статья про llmfit — терминальный инструмент, который подбирает LLM-модели под вашу систему: от CPU и RAM до GPU и MoE. Про TUI, планирование «что нужно для этой модели» и интеграции с Ollama и llama.cpp.

Steerling-8B: модель, которая объясняет себя (и не кричит «я не знаю»)

Художественный обзор релиза Steerling-8B — 8B-ая интерпретируемая языковая модель, умеющая трассировать каждый токен до контекста, понятий и источников данных.