Эксперимент с правкой весов показал ограничения подхода

Эксперимент с правкой весов показал ограничения подхода

Тест с настройкой локальной Qwen3-4B под правила написания холодных писем показал неожиданные результаты: промпт с двумя примерами дал 18 из 24 успешных сообщений, обычный файнтюнинг LoRA — 6 из 24, а правки весов от Astra и Fable — 0 из 24. Хотя правки изменили поведение модели (например, начинать с факта), полный набор правил так и не освоился.

Связи

• Weight-Space Programming: LLM редактирует веса других моделей — Практическая проверка эффективности инструментов Astra и Fable, описанных в теоретической заметке.
• Разные уровни правил в системах — Объяснение неудачи: правка весов затронула поверхностные правила, но не глубинную логику системы.
• Промпт как способ создания bias у LLM — Сравнение эффективности промптинга и файнтюнинга как методов коррекции поведения нейросети.
• Промпт для имитации человеческого общения — Подтверждение эффективности промптинга для имитации человеческого стиля в холодных письмах.

---

Источник: Telegram, 2026-11-05