Нейросеть Anthropic вскрыла Chrome, Safari и Android, и ей за это сказали спасибо
27 октября команда Frontier Red Team компании Anthropic рассказала, как неопубликованная внутренняя версия Claude несколько месяцев искала уязвимости в браузерах и операционных системах. Итог — пять цепочек атак, почти не требующих участия пользователя. В Chrome хватало одного клика: страница открывается, и через несколько секунд на macOS сам запускается калькулятор, за пределами песочницы. По находкам в Chrome присвоено 62 CVE, все критической или высокой опасности, и к версии Chrome 156 все закрыты.
Остальной улов не скромнее. В Safari модель обошла политику одного источника: чужой сайт мог читать вашу почту, если вы в ней залогинены. С украденного Pixel 9 цепочка вытаскивала фотографии, не разблокируя телефон. Сервер Windows с HTTP/3 падал от пары пакетов, а таких в сети, по оценке компании, несколько миллионов. В сетевом стеке ядра Linux нашлась дыра, дающая права root на серверах с multipath TCP без пароля и без клика: в демонстрации на утечку адреса ядра ушло 48 минут и еще пять — на запуск команды.
Все это уже исправлено: производителю дают 90 дней на патч и еще 45 дней до публичных подробностей. Задачу каждый раз ставили люди, а независимой проверки отчета нет. Вывод для защитников все равно неприятный: то, что раньше умели несколько специализированных команд в мире, теперь умеет модель и доказывает работающим эксплойтом. Взломщик, который сдает находки производителю раньше всех, — пожалуй, лучший из возможных.
Первоисточник: отчет Anthropic Frontier Red Team
Cloudflare призналась, что ее ИИ-сервис раздавал клиентам обрывки чужих запросов
26 октября Cloudflare опубликовала разбор инцидента с моделью GLM-5.3 в сервисе Workers AI. С 27 августа по 9 сентября часть клиентов получала ответы с данными из чужих запросов к той же модели, отправленных незадолго до них. Всего таких ответов 155, и все — на запросы длиннее 681 280 токенов. О проблеме 8 сентября через программу HackerOne сообщил исследователь Гади Эврон из Knostic; в течение 40 минут после объявления инцидента модель сняли, а 9 сентября вернули исправленной.
Причина в двух ошибках сразу. Модели пообещали окно контекста в 1 048 576 токенов, а память под кэш на серверах вмещала только 681 280. Расхождение знали еще до запуска, но рассчитывали, что движок SGLang вежливо вернет ошибку на слишком длинный запрос. Движок вместо этого подменял запрос заглушкой в один токен, и вторая половина системы спокойно писала ответ поверх кэша, где еще лежали остатки предыдущих разговоров. Теперь буфер вмещает около 2,04 млн токенов, вдвое больше окна.
Утечка случилась в конце лета, новость — сам разбор. Признаков намеренной эксплуатации компания не нашла, но это ее собственный вывод. Урок старый, как сами облака: «мы ожидали, что система выдаст ошибку» — самая дорогая фраза в любом отчете об инциденте.
Первоисточник: разбор инцидента в блоге Cloudflare
Google Research уложила языковую модель спать, и та проснулась умнее
27 октября исследователи Google Research Али Бехруз и Вахаб Миррокни описали «режим сна» для больших языковых моделей. Обычно модель после выпуска застывает: новое помнит, пока оно в окне контекста, а дообучение стирает старое. В новой схеме она живет циклами: в активной фазе работает и копит свежее в кратковременной памяти, а в фазе сна перестает принимать запросы, открывает заранее зарезервированные блоки экспертов архитектуры MoE и переносит туда накопленное, тренируясь на примерах, которые сочинила сама.
Есть и «сновидения»: при генерации учебных примеров маршрутизатор нарочно включает случайных экспертов, чтобы смешать далекие области знаний, а лучшие «сны» отбираются и идут в дообучение. По данным авторов, на тесте BABILong схема почти без потерь держит контекст до 10 млн токенов, а на математических олимпиадах AIME 24, AIME 25 и HMMT 25 дает 79,2%, 69,0% и 46,1%.
Это исследовательская методика, а не функция Gemini, и сравнения провели сами авторы. «Сон» и «сновидения» тоже метафора: в Google прямо оговаривают, что все происходит внутри фиксированной архитектуры и по правилам обучения, заданным людьми. Зато у нейросети впервые появилось научное оправдание, чтобы не отвечать по ночам.
Первоисточник: блог Google Research о фреймворке сна
DeepMind показала Genie 4: мир по текстовому запросу, со звуком и дублями
27 октября Google DeepMind представила Genie 4 — новую модель мира. Она генерирует не ролик, а интерактивную сцену, по которой ходят с клавиатуры, и сразу озвучивает ее: музыка, шум, реплики персонажей. Сцену можно менять текстом прямо на ходу — погоду, ракурс камеры, нового человека или предмет, — а модели Gemini между командами следят, чтобы мир оставался связным.
Первыми модель получили доверенные тестировщики. Кинематографисты пробуют снимать в живой симуляции несколько дублей одной сцены, на ходу меняя свет, ракурс и диалог. Разработчики игр пробуют собрать прототип по описанию раньше, чем написана первая строка кода движка.
Пока это исследовательское превью: дальше обещают подписчиков Google AI Ultra в Project Genie и партнеров раннего доступа Gemini API и Google AI Studio, без сроков. Ограничения DeepMind перечисляет сама: на длинной сессии детали и предметы «плывут», сложная физика, точность звука и читаемый текст еще в работе. Мир, где вещи меняются, стоит ненадолго отвернуться, пока больше похож на сон, чем на симуляцию, — что после предыдущей новости даже логично.
Первоисточник: анонс Genie 4 в блоге Google DeepMind
