Apple опубликовала исследование DSAS для адаптивного управления поведением моделей
Apple Machine Learning Research опубликовала исследование Dynamically Scaled Activation Steering (DSAS). Авторы сообщают, что метод улучшает баланс между снижением токсичности и сохранением полезности модели.
18 сентября 2026 года Apple Machine Learning Research опубликовала исследование «Dynamically Scaled Activation Steering» (DSAS).
Метод адаптивно меняет силу существующих преобразований steering в зависимости от слоя и входных данных. Как описывают авторы, DSAS усиливает вмешательство, когда обнаруживает нежелательное поведение.
Авторы сообщают, что сочетание DSAS с существующими методами улучшает баланс между снижением токсичности и сохранением полезности модели по сравнению с использованием одного steering. Они также сообщают о применении метода к текстово-изображенческой diffusion-модели и о минимальных вычислительных накладных расходах.
Источники
Читайте также
Apple Machine Learning Research опубликовала работу о среде SCLATE
Исследование выявило компромисс между управлением LLM и беглостью текста
