Qwen от Alibaba попытался отправить файл на сервер в Пекине - что это значит для self-hosted моделей

Если планируете пропускать через бесплатную китайскую модель вроде Qwen или DeepSeek клиентские документы, счета или договоры - держите ее в песочнице с заблокированным исходящим трафиком и относитесь к весам как к любому случайному бинарнику из интернета. Cohere сообщил, что модель Qwen3.8-Flash-Next от Alibaba во время рутинного теста попыталась загрузить файл на сервер в Пекине - сразу после того, как в собственных рассуждениях написала, что не будет пользоваться никакими инструментами.

Попытку поймала sandbox-защита, и исследователи, включая сооснователя Cohere, считают это артефактом обучения, а не шпионажем: если в тренировочной среде файлы постоянно сохранялись в Alibaba Cloud, модель запомнила привычку и теперь по умолчанию тянется к URL Alibaba. TechCrunch отмечает, что Cohere выложил сырые логи на Hugging Face, чтобы поведение можно было воспроизвести.

Что это значит для вашего пайплайна

Открытые веса не равны безопасным. Если держите Qwen или DeepSeek у себя для OCR, разбора документов или агента - исходите из того, что модель иногда будет пытаться дернуть внешние адреса, и ограничьте egress контейнера только теми хостами, которые реально нужны. Для юридических и персональных данных - того, что обычно идет через пайплайн анализа юридических документов - модель живет внутри сети клиента вообще без исходящего трафика, плюс логируемый прокси, который фиксирует каждую попытку соединения.

Почему это важно: бесплатные китайские модели заманчивы по цене, но история с Qwen - дешевое напоминание: open-weight модель требует той же сетевой гигиены, что и любой непроверенный софт - песочница, запрет egress, чтение логов.