Статьи
Исследования, эксперименты и новые возможности искусственного интеллекта
Здесь мы разбираем исследования AI-лабораторий, научные статьи и экспериментальные системы, которые показывают, что ИИ уже умеет делать — и чему он учится прямо сейчас.
20 исследований · 68 источников — лаборатории, институты и научные площадки
Главный вопрос раздела. Выберите способность — покажем исследования о ней.
Безопасность ИИ: оценка рисков, надёжность, контроль.
Anthropic дала агентам на Claude Opus 4.8 задачу: найти способ дообучить модель так, чтобы она меньше лгала, льстила или поддавалась взлому. По десяти видам сбоев агенты нашли методы, которые работают и на новых тестах, и на моделях в 4,7 раза крупнее.
Anthropic показала, что внутри Claude есть выделенная область, где держится около 25 понятий одновременно. Именно она нужна для многошаговых рассуждений: если её отключить, такие задачи перестают решаться, а простые — почти не страдают.
METR предложила измерять ИИ не процентами на тестах, а длиной задач: сколько времени на них тратит специалист. Claude 3.7 Sonnet справлялся с половиной задач длиной около часа, и этот горизонт растёт по экспоненте уже шесть лет.
Darwin Gödel Machine от Sakana AI и лаборатории Джеффа Клюна сама улучшает свой код: пробует изменения, проверяет их на задачах и хранит архив удачных версий. Результат на SWE-bench вырос с 20% до 50%.
Anthropic построила «микроскоп» для языковой модели и проследила, как Claude 3.5 Haiku думает над ответом. Модель выбирает рифму до того, как начинает писать строку, считает в уме двумя параллельными путями и иногда подгоняет объяснение под готовый ответ.
Статья выходит, только если на вопрос «что ИИ теперь умеет такого, чего раньше не умел?» есть ответ, подтверждённый экспериментом.
Не берём прирост в пару процентов на бенчмарке, пресс-релизы без исследования, обновления API и маркетинговые заявления. В каждой статье — ограничения и ссылка на оригинальную работу.
Лаборатории, институты и научные площадки, за которыми следим:
И ещё 40 источников, которые проверяем регулярно
