Weight-Space Programming: LLM редактирует веса других моделей

Weight-Space Programming: LLM редактирует веса других моделей

Новый подход Weight-Space Programming позволяет большим языковым моделям читать и изменять веса других нейросетей, а маленькие сети даже писать с нуля. Например, Astra может исправить зацикливание модели Qwen, изменяя небольшую часть весов, а Fable может создать веса маленькой сети для специфической задачи вроде проверки юридических ссылок.

Связи

• Эксперимент с правкой весов показал ограничения подхода — Практическая проверка эффективности и ограничений метода прямого редактирования весов другими моделями
• Плюсы и минусы on-the-fly прошивки моделей — Анализ применимости и рисков технологии динамической «прошивки» весов в сравнении с промптингом
• CHOP — Chat-Oriented Programming — Сопоставление Weight-Space Programming с другими новыми парадигмами разработки систем через AI
• Итеративная оптимизация AI моделей через downgrading — Стратегия использования мощных LLM для настройки и повышения эффективности работы простых моделей

---

Источник: Telegram, 2026-11-05