Информационная теория подсказывает: когда мы сжимаем код до телеграмм, растёт перплексность — и LLM начинает ошибаться. На примерах q/kdb+ и простых Python-операторов разбираемся, почему более развёрнутый стиль делает ИИ точнее в объяснениях, отладке и расширении кода.
Как из аккуратно собранных кусочков вдруг складывается болтливый ИИ: заметки по главе 5 книги Себастиана Рашки — про первые запуски, сиды, оптимизаторы, скорость на GPU, температуру и top‑k, а также про загрузку весов GPT‑2.
Исследование Anthropic показало: чтобы заставить большие языковые модели выдавать белиберду, достаточно около 250 специально подготовленных документов — даже для систем с 13 млрд параметров. Разбираемся, почему это возможно, к чему ведёт такая хрупкость датасетов и какие контрмеры уже просматриваются.
Легкая прогулка по вехам, которые привели ИИ от n-грамм и распределённых представлений к трансформерам, предобучению и RLHF — с приметами «горького урока» масштаба.
Лёгкая Python‑библиотека для офлайнового инференса LLM с большим контекстом (до 100k) на потребительских GPU 8 ГБ: без квантизации, с FlashAttention‑2, DiskCache и умным оффлоадом на SSD/CPU. Поддержка моделей Qwen3, Llama 3 и gpt‑oss, установка через pip.