Исследования

Исследовательский инструмент, который автоматически подбирает параметры направленной абляции, снижая долю отказов при минимальном отклонении от исходной модели. Краткий разбор идеи, результатов, ограничений и этических оговорок.

Исследование Anthropic показало: чтобы заставить большие языковые модели выдавать белиберду, достаточно около 250 специально подготовленных документов — даже для систем с 13 млрд параметров. Разбираемся, почему это возможно, к чему ведёт такая хрупкость датасетов и какие контрмеры уже просматриваются.