Как дистилляция всколыхнула индустрию больших языковых моделей в Китае

Как дистилляция всколыхнула китайскую индустрию больших языковых моделей в 2026 году: извлечённые цепочки рассуждений, обвинения Anthropic и споры о бенчмарках — перекрёстная проверка фактов.

Буря дистилляции: что происходит в центре китайского спора о дистилляции моделей

Источник: статья основана на анонимном рассказе инсайдера, опубликованном на Reddit в сообществе r/LocalLLM пользователем u/feelspeaceman (около 28 июля 2026 года, более 110 комментариев), и сверена с открытыми публикациями Anthropic, Bloomberg, PCMag, SCMP, AP News, The Information, Hacker News, LessWrong, Artificial Analysis и A Few Thoughts on Cryptographic Engineering. Утверждения снабжены пометками о степени проверки: ✅ подтверждено, ⚠️ подтверждено частично, ❌ не подтверждено, 🔴 противоречит открытым данным.

Пролог: зашифрованная цепочка рассуждений

История начинается с технического открытия: зашифрованную цепочку рассуждений (CoT), используемую OpenAI и Anthropic, можно было извлечь и воспроизвести.

Китайские лаборатории дистиллировали данные из самых передовых моделей — диалоговые ответы, последовательности действий агентов, генерацию кода, вызовы инструментов, — получая всё это с помощью масштабных запросов к API. Однако долгое время идеальной дистилляции мешал один пробел: исходная цепочка рассуждений модели, то есть весь её внутренний ход рассуждений до получения ответа. Без неё дистилляция напоминала попытку получить готовые ответы, не имея решений с разбором.

«Подпись мышления»

Обе компании включали в потоковый вывод сводку CoT, но также возвращали поле Blob — «подпись мышления», содержавшую полную исходную CoT, зашифрованную с помощью Fernet (AES-128-CBC + HMAC-SHA256, с префиксом gAAAAAB). При отправке в последующем запросе сервер расшифровывал её и добавлял к контексту модели. Тестирование показало, что длина Blob коррелирует с длиной CoT, подтвердив, что поле содержало полные зашифрованные рассуждения. (✅ Подтверждено: издание A Few Thoughts on Cryptographic Engineering независимо писало о зашифрованных рассуждениях, подтвердив использование base64-блоков, подписи HMAC и возможность их повторной отправки.)

Claude против GPT

Согласно источнику, обучение Claude защите от инъекций стало лазейкой: поддельный префикс подписи мышления мог заставить Claude вывести полную цепочку рассуждений. GPT было взломать сложнее: модель следовала скрытым системным инструкциям и выдавала только сводки. Важное архитектурное различие: Anthropic, как сообщается, сохраняла исторические Blob с рассуждениями между ходами диалога, тогда как OpenAI удаляла их. (❌ Не подтверждено: эти конкретные технические сведения о сохранении данных между ходами и эксплуатации защиты от инъекций основаны на заявлениях инсайдера и не подтверждены открытыми источниками.)

OpenAI заблокировала параметры выборки — температуру и top_p нельзя было менять, — закрыв возможность обратного проектирования на основе детерминированного вывода. Реализация Fernet была криптографически надёжной; единственным рабочим способом оставалось внедрить Blob в другой запрос и позволить модели повторить собственные рассуждения.

Предыстория: публичное обвинение Anthropic (февраль 2026 года)

23 февраля 2026 года Anthropic опубликовала запись в блоге, обвинив три китайские ИИ-лаборатории в «атаках по дистилляции в промышленных масштабах». (✅ Проверено по официальному блогу Anthropic.)

Три лаборатории использовали около 24 000 мошеннических аккаунтов, чтобы создать более 16 миллионов обменов сообщениями:

Лаборатории пользовались услугами коммерческих прокси, чтобы обходить региональные ограничения доступа. Anthropic установила причастность к каждой кампании на основании сопоставления IP-адресов, метаданных запросов и признаков инфраструктуры. Компания представила это как угрозу национальной безопасности: в дистиллированных моделях могут отсутствовать защитные механизмы. (✅ Подтверждено: все цифры и цитаты совпадают с официальным блогом Anthropic.)

Примечательно, что Qwen (Alibaba) и Z.ai не упоминались. Moonshot так и не выступила с публичным ответом. (ℹ️ BBC сообщила 24 июня 2026 года, что позднее Anthropic отдельно обвинила Alibaba в другом случае.)

Февраль

Март

Апрель

Май

Июнь

Июль

Август

DeepSeek

Moonshot AI (Kimi)

MiniMax

Alibaba (Qwen)

Tencent (Hunyuan)

ByteDance (Seed)

Обвинение

Запуск продукта

Финансирование / IPO

Политика

Технологии

Акт I: GLM первой взламывает шифрование, а затем делится находкой

Примерно в марте–апреле 2026 года Zhipu AI (GLM), как сообщается, первой взломала шифрование CoT передовой модели и получила полные данные о цепочке рассуждений. Вместо того чтобы держать метод в секрете, GLM поделилась и методом, и данными с другими отечественными лабораториями. (❌ Не подтверждено: открытые публикации не подтверждают, что GLM первой взломала CoT или поделилась методом. Оценка стоимости в «десятки тысяч долларов США» также не подтверждена.)

Что известно из открытых источников: GLM-5.2 — модель MoE с общим количеством параметров 744B и 40B активных параметров, контекстом в 1 миллион токенов и открытым исходным кодом; она была опубликована в 2026 году. По результатам независимых оценок, на отдельных задачах её показатели приближались к уровню передовых моделей.

Акт II: великая волна дистилляции

Согласно источнику, после того как GLM заложила основу, дистилляция быстро распространилась:

(✅ Tencent/Hunyuan — подтверждено: 28 апреля 2026 года The Information сообщило, что «новая модель Tencent показывает улучшения, отчасти благодаря Anthropic»: из утекших записей следовало, что сотрудники Tencent использовали Claude для оценки и дообучения внутренних моделей.)

Хронология DeepSeek

DeepSeek анонсировала июльский релиз в конце июня, но к тому времени ещё не начала крупномасштабную дистилляцию, что привело к задержке. В начале июля появилась внутренняя бета-версия. Затем появился «серый тест официального релиза V» — однако источник утверждает, что все запросы направлялись исключительно фронтирной модели и эта версия была доступна только в OpenCode. При ценах DeepSeek это не имело экономического смысла. (❌ Не подтверждено: утверждение о такой маршрутизации — заявление инсайдера. Открытые источники показывают обратную картину: разработчики используют DeepSeek как более дешёвый бэкенд для Claude Code)

Двухфронтовая операция Qwen

Источник утверждает, что Qwen одновременно дистиллировала и Claude, и GPT, а сторонний сервис маршрутизации накапливал данные Claude для GLM. (❌ Не подтверждено: утверждение о дистилляции GPT моделью Qwen — заявление инсайдера)

Акт III: подход Kimi

Изменения в команде RL

Источник утверждает, что начиная с K2.x Kimi отказалась от обучения с подкреплением. Генеральный директор Ян Чжилинь объяснил сокращение команды RL «снижением затрат и повышением эффективности», а высвободившиеся сотрудники перешли в Qwen. (🔴 Противоречит открытым данным: публичных сообщений об увольнениях в команде RL Moonshot нет; в статье Business Insider от 18 июля 2026 года говорится, что Ян руководит направлениями RL и агентных возможностей; в релиз K3 от Moonshot вошла песочница RL (AgentENV)) ⚠️ Это самое значительное неподтверждённое утверждение в исходном материале.

Архитектура K3

Согласно официальной документации Moonshot и Hugging Face, Kimi K3 — это разреженная MoE-модель с общим числом параметров 2,8T и примерно 50B активных параметров, 896 экспертами (16 активных + 2 общих на токен), нативным контекстом в 1M токенов и мультимодальными возможностями на базе MoonViT-V2. Выпущена 16 июля 2026 года; открытые веса опубликованы 27 июля. (✅ Подтверждено)

(ℹ️ В источнике указано «1T параметров» — открытые данные подтверждают 2,8T. По всей видимости, это ошибка редактирования)

Moonshot объявила о двух архитектурных нововведениях:

(✅ Подтверждено: все архитектурные особенности подтверждены официальной документацией Moonshot)

Источник отмечает, что эти особенности создают трудности для инфраструктуры, формируя нарратив, в котором «архитектурные инновации» служат публичным объяснением, а источником производительности называют дистилляцию. (⚠️ Замечание о проблемах с инфраструктурой — аналитическая оценка; сами архитектурные особенности подтверждены)

Споры о бенчмарках

В источнике описаны несколько явлений, связанных с оценкой моделей:

• Загрязнение тестовых наборов: по утверждениям, тестовые наборы бенчмарков включали в обучающие данные. MiniMax первой поймали на этом. (❌ Неподтверждённое заявление инсайдера)

• Маршрутизация на фронтирную модель: утверждается, что запросы для оценки на Arena направлялись фронтирной модели. (❌ Не подтверждено)

• Прицельная работа с оценщиками: тестовые вопросы блогера Zhihu, известного под именем «Кот-босс» (猫老板), якобы извлекли из системных логов. (✅ Подтверждено, что «Кот-босс» — реальный оценщик LLM на Zhihu, известный анализом манипуляций с бенчмарками; ❌ утверждение об извлечении вопросов из логов не подтверждено)

• Аномальное распределение результатов по программированию: одни оценки чрезвычайно высокие, другие — чрезвычайно низкие. (❌ Не подтверждено)

Открытые данные показывали неоднозначную картину. K3 поднялась на 17 позиций в категории Arena Frontend Code и заняла первое место. Однако собственная оценка Moonshot показала, что в программировании, работе с агентами и фронтирных задачах SWE K3 уступает Claude. HackerNoon отметил, что самые высокие результаты K3 были получены в режимах с максимальным уровнем усилий на рассуждение. SCMP (24 июля) сообщил, что в тестировании безопасности K3 оказалась «значительно слабее» американских конкурентов. PCMag (22 июля) сообщил, что представитель Белого дома обвинил K3 в «клонировании американских технологий». (✅ Все сообщения в открытых источниках подтверждены)

Kimi K3

Kimi K2.6

Claude

Наведите курсор на столбцы, чтобы увидеть анализ

Источники: Artificial Analysis · SCMP · PCMag · HackerNoon · LMSYS Arena · отчёт об оценке Moonshot

Перетекание идентичности

Многие пользователи сообщали, что K3 представляется словами: «Я Claude, ИИ-ассистент, созданный Anthropic». Тестирование пользователем Hacker News показало, что это происходило примерно в 15% взаимодействий. LessWrong сообщил, что GLM 5.2 демонстрировала похожее поведение. (✅ Подтверждено)

Техническое сообщество разделилось в интерпретации: одни называли это обычной утечкой обучающих данных («модели обычно не знают собственного имени»), другие считали косвенным свидетельством дистилляции.

Claude

Исходная модель

Дистилляция

~3,4 млн диалогов

Kimi K3

«Я Claude, созданная Anthropic»

Дистиллированная модель

В 15% взаимодействий K3 называет себя Claude

Доля случаев перетекания идентичности по моделям

Частота галлюцинаций

Источник утверждал, что частота галлюцинаций составляет около 30%. Открытые данные говорят о другом: Artificial Analysis измерила частоту галлюцинаций K3 на уровне 51% по показателю AA-Omniscience (против 39% у K2.6); это подтвердили Emergent и Kili Technology. (🔴 Противоречие: 30% в источнике против 51% в открытых данных)

Главное — выпустить первой

Kimi завершила SFT и быстро выпустила модель. В течение 48 часов спрос вынудил Moonshot приостановить оформление новых подписок после того, как возможности GPU достигли предела (AP News, 20 июля). (✅ Подтверждено)

Источник предполагает, что это подтолкнуло другие лаборатории ускорить работу, усилив конкуренцию. (⚠️ Аналитическое утверждение)

Акт IV: влияние на индустрию

Маршрут дистилляции означал, что любая лаборатория, следовавшая этой методике, могла достичь результатов, близких к передовым. Источник характеризует подход Kimi как нарушивший это равновесие: первыми выпустив модель и агрессивно применяя тактики оптимизации под бенчмарки, они оттеснили на второй план лаборатории, которые не гнались за высокими оценками. Несколько независимых источников — оценщик, сотрудники DeepSeek, бывшие сотрудники Kimi и сотрудники Qwen — выразили обеспокоенность. (❌ Не подтверждено: эти конкретные мнения сотрудников основаны на инсайдерской информации)

Акт V: Участники

Moonshot AI (Kimi)

Деловой контекст: Bloomberg (29 июля) сообщил, что Moonshot привлекла $3.5B при постинвестиционной оценке в $35B. KrASIA сообщила о целевой оценке для IPO в $50B. The Standard (HK) (3 августа) сообщил, что Moonshot опровергла подачу документов на IPO в августе. По сообщениям, Alibaba поддерживает компанию, предоставив ей около 20,000 чипов Nvidia. (✅ Подтверждено)

В феврале Anthropic обвинила компанию, но та так и не ответила публично. 29 июля компания открыла веса K3.

$3.5B

Привлечено (29 июля)

$35B

Постинвестиционная оценка

$50B

Целевая оценка для IPO (по сообщениям)

~20K

Чипы Nvidia (Alibaba)

Динамика оценки ($B)

Завершено

Цель

Опровергнуто

Этап

Обвинения Anthropic

Этап

Выпуск Kimi K3

Этап

Приостановка подписок

Этап

Привлечено $3.5B при оценке $35B

Завершено

Целевая оценка для IPO: $50B

Цель

Опровергнута подача документов на IPO в августе

Опровергнуто

29 июля 2026 года · Привлечено $3.5B при оценке $35BЗавершено$35B

Bloomberg сообщил, что Moonshot AI завершила раунд финансирования на $3.5B при постинвестиционной оценке в $35B.

DeepSeek

Считается относительно сильной среди отечественных лабораторий. В начале июля была доступна внутренняя бета-версия. Причина необъяснимой маршрутизации к передовой модели остается открытым вопросом. (❌ Утверждение о маршрутизации не подтверждено)

Qwen (Alibaba)

Хорошо укомплектована кадрами; по сообщениям, к ней перешли бывшие участники команды Kimi по обучению с подкреплением. Одновременно занимается дистилляцией GPT, согласно источнику. Результаты нестабильны. (❌ Не подтверждено: утверждения о переходе специалистов по обучению с подкреплением и дистилляции GPT основаны на инсайдерской информации)

GLM (Zhipu)

Первыми раскрыли CoT передовой модели и поделились им с другими (согласно источнику). Модель GLM-5.2 опубликована с открытым исходным кодом; в отдельных задачах она приблизилась к уровню передовых моделей. (❌ Раскрытие и передача не подтверждены; ✅ характеристики GLM-5.2 подтверждены)

MiniMax

Первую обвинили в загрязнении тестовой выборки: результаты модели были настолько низкими, что это стало заметно. Согласно обвинениям Anthropic, у MiniMax был самый большой объем дистилляции — более 13M обменов.

Акции: стоимость акций MiniMax Group Inc (HKEX: 0100.HK) упала с мартовского пика в HK$1,330 до примерно HK$186 — более чем на 80%. 9 июля, после окончания периода блокировки акций, на рынок вышло около 153M акций (примерно 48.9% капитала), что спровоцировало однодневное падение на 18%. Компания экстренно начала привлечение капитала на сумму около HK$16B. К 3 августа акции восстановились примерно до HK$247. (✅ Подтверждено: Google Finance подтверждает все цифры)

Причины: обвинения Anthropic, постоянное снижение цены M3, низкая маржинальность потребительских продуктов, регулирование ИИ-компаньонов и значительные ежегодные убытки. Подготовка Moonshot к IPO усилила конкурентное давление.

HK$1,330

Пик (март)

HK$186

Минимум (июль)

-86%

Снижение от пика

HK$16B

Экстренное привлечение капитала

HKEX: 0100.HK · MiniMax Group Inc · Источник: Google Finance и документы, поданные на HKEX

Mistral

Постоянно испытывала нехватку ресурсов. Европейские лаборатории почти не участвовали в этой истории.

Акт VI: Публичная дискуссия

На Bilibili появились видео о дистилляции. Разделы комментариев превратились в площадки для споров: одни отрицали дистилляцию, представляя обвинения как «очернение отечественных технологий». Другие преподносили результаты как доказательство «технологического подъема Китая».

Исходный пост на Reddit в r/LocalLLM собрал более 110 комментариев; его перепубликовали в r/MistralAI и r/LocalLLaMA.

Один из широко распространенных комментариев: «Частота галлюцинаций ИИ снижается, а частота галлюцинаций людей растет».

Акт VII: Логика, основанная на бенчмарках

Источник утверждает, что отечественные лаборатории зашли дальше западных в использовании игровых тактик для бенчмарков — как по масштабу, так и по методам. Более глубокая причина носит структурный характер: оценки в бенчмарках напрямую влияют на оценку компаний при привлечении финансирования и внимание рынка. Главный конфликт — между оптимизацией под «оценки в задачах программирования» и под «способность программировать». (⚠️ Аналитическое утверждение, отражающее интерпретацию автора источника, а не проверяемый факт)

Техническая справка

Источник предполагает, что GPT, вероятно, представляет собой готовый к промышленному применению Looped Transformer с эффективностью использования данных в несколько раз выше. (⚠️ Предположение: OpenAI официально этого не подтверждала; в arXiv циклические трансформеры рассматриваются в академических работах, но OpenAI никогда не подтверждала, что GPT использует эту архитектуру)

Источник отмечает, что ритм индустрии стал таким: «ждать выпуска от передовой лаборатории, вносить улучшения в архитектуру, публиковать статьи и проводить дистилляцию». (⚠️ Аналитическое наблюдение)

Приложение: технические подробности о зашифрованной CoT

Следующие сведения взяты из приложения к исходному документу. Формат шифрования подтвержден ✅ инженерным блогом о криптографии; сведения о конкретных экспериментах и данных Blob ❌ не подтверждены и основаны на инсайдерской информации.

A.1 Формат шифрования: Fernet (AES-128-CBC + HMAC-SHA256), префикс gAAAAAB. Структура: версия + временная метка + IV + зашифрованный текст + HMAC. (✅ Подтверждено сайтом cryptography.io и блогом о криптографии)

A.2 Поведение между ходами: Blob в текущем ходе → модель его читает. Исторические Blob → отбрасываются. (❌ Различия в сохранении данных между ходами у OpenAI и Anthropic не подтверждены)

A.3 «Игра в телепатию»: подделка ответов ассистента с помощью refusal_blob + настоящего blob для создания фальшивого диалога «сопротивление → преодоление → решение». (❌ Метод не подтверждён)

A.4–A.7: корреляция длины Blob с числом токенов, поведение нескольких Blob, изоляция ключей между моделями, сохранение возможности повторного воспроизведения (24 ч и более). (✅ Возможность повторного воспроизведения подтверждена блогом о криптографии; ❌ остальные подробности не подтверждены)

A.8–A.9: сравнительная таблица OpenAI и Anthropic; блокировка параметров GPT. (✅ Блокировка параметров GPT подтверждена; ❌ сравнение поведения между ходами не подтверждено)

Сводка проверки

Ключевые противоречия:

Общая оценка: основная версия событий — широкомасштабная дистилляция в китайских лабораториях, публичные обвинения Anthropic и споры вокруг бенчмарков Kimi K3 — хорошо подтверждается открытыми публикациями. Многие конкретные детали изнутри (взлом GLM и распространение взломанной модели, изменения в команде RL, загрязнение тестового набора, конкретные обвинения в маршрутизации запросов) не удалось проверить независимо. Три фактические детали противоречат общедоступным данным и исправлены в этой статье.

Источники

Первичный источник (рассказ инсайдера):

• Reddit r/LocalLLM — «Полная история „бури дистилляции“ среди китайских компаний, занимающихся большими моделями», автор u/feelspeaceman (около 28 июля 2026 года, более 110 комментариев) — анонимный рассказ инсайдера, послуживший основой этой статьи. PDF источника прикреплён ниже.

Упомянутые публикации в открытых источниках:

• Anthropic — «Обнаружение атак с использованием дистилляции и предотвращение таких атак» (23 февраля 2026 года) — официальная публикация в блоге с обвинениями в адрес DeepSeek, Moonshot и MiniMax

• Bloomberg — освещение оценки Moonshot AI в 35 млрд долларов (29 июля 2026 года) — данные о раунде финансирования и оценке компании

• PCMag — «Белый дом: китайская модель ИИ Kimi K3 жульничала, копируя американские технологии» (22 июля 2026 года) — обвинение Белого дома

• SCMP — «Способность китайской Kimi K3 к взлому „значительно уступает“ американским конкурентам» (24 июля 2026 года) — результаты тестирования безопасности

• AP News — «Новая китайская модель ИИ приостанавливает оформление новых подписок на фоне резкого роста спроса» (20 июля 2026 года) — приостановка оформления подписок

• The Information — «Новая модель Tencent показывает улучшения, отчасти благодаря Anthropic» (28 апреля 2026 года) — свидетельства дистилляции у Tencent

• The Standard (HK) — «Moonshot AI отрицает планы провести IPO в Гонконге в августе» (3 августа 2026 года) — опровержение планов IPO

• Business Insider — «Кто такой Ян Чжилинь, генеральный директор, стоящий за новейшим ИИ Китая» (18 июля 2026 года) — профиль генерального директора

• HackerNoon — «Почему результаты Kimi K3 за первую неделю после запуска требуют проверки переносимости» — анализ бенчмарков

• Hacker News — Kimi K3 представляется как Claude — отчёт о пользовательском тестировании

• LessWrong — «Переносится ли вместе с дистиллированной Claude её персона?» — перенос идентичности в GLM 5.2

• Artificial Analysis — индекс интеллекта Kimi K3 — данные о частоте галлюцинаций

• Emergent — «Бенчмарки Kimi K3: все результаты и их значение» — разбор бенчмарков

• Kili Technology — «Бенчмарки и галлюцинации Kimi K3» — анализ галлюцинаций

• A Few Thoughts on Cryptographic Engineering — «Поговорим о зашифрованных рассуждениях» (29 мая 2026 года) — техническая проверка Fernet/Blob

• Hugging Face — обзор модели Kimi K3 — характеристики архитектуры

• Trending Topics — «GLM-5.2: китайская Zhipu AI превосходит даже лучшие модели Google» — результаты GLM-5.2

• arXiv — «Трансформеры Hyperloop» (2 июля 2026 года) — статья об архитектуре трансформера с циклическими блоками