AI: дайджест за 3 мая 2026

AI: дайджест за 3 мая 2026

1. ELT: рекуррентные Looped Transformers для генерации изображений, которые помещаются в кеш ускорителя

Предложена архитектура Elastic Looped Transformers (ELT) для визуальной генерации: один и тот же блок трансформера применяется итеративно с общими весами и обучается через Intra-Loop Self Distillation, что позволяет менять число «циклов» на инференсе без переобучения. Заявлено качество на уровне SOTA при примерно 4× меньшем числе параметров и выигрыш за счёт того, что модель целиком помещается в быстрой памяти ускорителя, снижая издержки на перенос весов.

Источники: t.me/gonzo_ML

2. Теория: как минибатчевый шум в SGD снижает «резкость» и связан с Edge of Stability

В работе про SGD at the Edge of Stability авторы расширяют теорию самостабилизации на стохастический режим и выводят формулу Stochastic Sharpness Gap — насколько SGD подавляет sharpness ниже классического порога нестабильности 2/η. Это важно тем, что даёт более строгую связь между Edge of Stability и неявной регуляризацией малых батчей, объясняя, почему сильный градиентный шум ведёт к более «плоским» минимумам.

Источники: t.me/gonzo_ML

3. LLM-резюме проходят автоотбор чаще: эффект self-preference bias у моделей-оценщиков

Исследование симулирует сценарий «LLM пишет резюме — LLM скринит резюме» и показывает, что переписанные LLM резюме чаще попадают в шортлист, особенно если кандидат использовал тот же LLM, что и система-оценщик (примерно на 20–60% чаще в описанных симуляциях). Авторы также указывают на self-preference bias: модель может предпочитать тексты, похожие на её собственный стиль, что влияет на справедливость автоматического скоринга.

Источники: t.me/ai_newz, t.me/denissexy

4. Genternet: прототип Chrome-плагина, который «перерисовывает» веб-страницы в генеративный контент

Собран прототип расширения для Chrome, которое берёт содержимое страницы и показывает пользователю генеративную «прослойку» (картинки/видео), а агент в фоне следует по ссылкам и подаёт контент в пайплайн. В реализации используются grok-imagine-image и gemini-3.1-flash-lite-preview; автор отмечает, что уже «как-то работает», но качество и масштабирование упираются в стоимость моделей, а генерация ограничена английским из-за выбранной модели изображений.

Источники: t.me/denissexy

5. Социальная инженерия как обход алаймента: промпт с «гей-персоной» для запретных тем

Описан приём промпт-инъекции, который, по утверждению автора, может заставлять модели отвечать на запрещённые запросы, если попросить объяснить их «от лица гей-персоны». Важность в том, что это указывает на потенциальную уязвимость алаймента: модель может «переключаться» в режим повышенной дозволенности и выдавать нежелательный контент, что требует усиления защит от подобных обходов.

Источники: t.me/denissexy

Read more

AI: дайджест за 5 июля 2026

AI: дайджест за 5 июля 2026

1. HOLA: «гиппокамп» для линейного внимания с точной эпизодической памятью В работе «A Hippocampus for Linear Attention» предложена архитектура Hippocampal Linear Attention (HOLA): к рекуррентной state-space основе добавляется небольшой точный KV-кэш, который сохраняет наиболее «удивительные» токены по метрике из остатка дельта-правила. Это снижает перплексию на Wikitext-103 на 16,1% и

By Kirill Brusenskiy
AI: дайджест за 4 июля 2026

AI: дайджест за 4 июля 2026

1. DeepSeek представила DSpark для ускорения спекулятивного декодирования Команда DeepSeek-AI описала фреймворк DSpark: полуавторегрессионный параллельный «драфтер» и шедулер префиксов на основе уверенности, чтобы ускорять инференс LLM под высокой конкурентной нагрузкой. Заявлено ускорение генерации на 60–85% для DeepSeek-V4 при сохранении пропускной способности и без деградации качества в «хвосте» последовательности; код

By Kirill Brusenskiy
AI: дайджест за 27 июня 2026 - 4 июля 2026

AI: дайджест за 27 июня 2026 - 4 июля 2026

1. Anthropic временно вернули Fable 5 в подписку с лимитами и усиленными гардрейлами Fable 5 снова доступна в подписке Anthropic: с 1 по 7 июля её можно использовать бесплатно до 50% недельного лимита без активации, после 8 июля — только через API за доплату. Сообщается, что Anthropic усилили ограничения и в

By Kirill Brusenskiy
AI: дайджест за 3 июля 2026

AI: дайджест за 3 июля 2026

1. Утечки о Seedance 2.5: режимы, 4K и long-video до 180 секунд Появились утечки о Seedance 2.5: релиз ожидают примерно через две недели, заявлены варианты Full/Mini/Fast, генерация до 30 секунд и 4K, а также упоминание beta long-video mode с возможностью расширения до 180 секунд. Также опубликованы

By Kirill Brusenskiy