AI: дайджест за 25 апреля 2026

Kirill Brusenskiy

25 Apr 2026

1. Концепция «learning mechanics» как шаг к предсказательной теории глубокого обучения

Группа исследователей предложила рамку «механики обучения», синтезирующую несколько направлений теории DL, чтобы перейти от эмпирического подбора к предсказательным макрозаконам динамики обучения. Это важно, потому что обещает перенос гиперпараметров между масштабами и более строгую основу для scaling laws и вопросов безопасности/alignement без дорогостоящего перебора.

Источники: t.me/gonzo_ML

2. Sharpness Dimension: новая теоретическая мера для обобщения в режиме Edge of Stability

Авторы описали стохастическую оптимизацию как случайную динамическую систему, сходящуюся к фрактальному pullback-аттрактору, и ввели метрику Sharpness Dimension на основе полного спектра гессиана. Это важно, потому что работа предлагает объяснение хорошего обобщения перепараметризованных сетей в хаотичном режиме Edge of Stability и указывает, что одиночные метрики «резкости» могут быть ненадежны.

Источники: t.me/gonzo_ML

AI: дайджест за 5 июля 2026

1. HOLA: «гиппокамп» для линейного внимания с точной эпизодической памятью В работе «A Hippocampus for Linear Attention» предложена архитектура Hippocampal Linear Attention (HOLA): к рекуррентной state-space основе добавляется небольшой точный KV-кэш, который сохраняет наиболее «удивительные» токены по метрике из остатка дельта-правила. Это снижает перплексию на Wikitext-103 на 16,1% и

AI: дайджест за 4 июля 2026

1. DeepSeek представила DSpark для ускорения спекулятивного декодирования Команда DeepSeek-AI описала фреймворк DSpark: полуавторегрессионный параллельный «драфтер» и шедулер префиксов на основе уверенности, чтобы ускорять инференс LLM под высокой конкурентной нагрузкой. Заявлено ускорение генерации на 60–85% для DeepSeek-V4 при сохранении пропускной способности и без деградации качества в «хвосте» последовательности; код

AI: дайджест за 27 июня 2026 - 4 июля 2026

1. Anthropic временно вернули Fable 5 в подписку с лимитами и усиленными гардрейлами Fable 5 снова доступна в подписке Anthropic: с 1 по 7 июля её можно использовать бесплатно до 50% недельного лимита без активации, после 8 июля — только через API за доплату. Сообщается, что Anthropic усилили ограничения и в

AI: дайджест за 3 июля 2026

1. Утечки о Seedance 2.5: режимы, 4K и long-video до 180 секунд Появились утечки о Seedance 2.5: релиз ожидают примерно через две недели, заявлены варианты Full/Mini/Fast, генерация до 30 секунд и 4K, а также упоминание beta long-video mode с возможностью расширения до 180 секунд. Также опубликованы