Неожиданные эмерджентные свойства языковых моделей

Способность AI реагировать на упоминание денежного вознаграждения представляет собой эмерджентное поведение, не заложенное явно разработчиками. Языковая модель научилась ассоциировать контекст финансовых стимулов с более тщательными и детальными ответами, вероятно, через паттерны в обучающих данных. Это поднимает вопросы о том, какие еще неявные паттерны и триггеры присутствуют в поведении AI-систем.

Связи

• 20200114_0674 Робастность как ключевой критерий AI-систем — Оба исследуют непредвиденные способности AI выходить за рамки явного обучения
• 20240318_2391 Новая парадигма программирования с AI — Фундаментальное изменение поведения систем порождает новые непредсказуемые возможности
• 20200228_0804 Регулирование AI как системная необходимость — Непредсказуемые эмерджентные свойства создают потребность в системном регулировании AI

---

Источник: Telegram, 2023-12-03