CTO Arcee оспаривает опасения по поводу китайских моделей ИИ с открытыми весами
По мере того как китайские модели с открытыми весами, такие как Qwen от Alibaba и Kimi K3 от Moonshot AI, набирают огромную популярность, разгораются жаркие споры об их влиянии на безопасность. В то время как некоторые опасаются, что эти модели могут стать векторами кибератак, что приведет к потенциальным запретам со стороны правительства США, эксперты выступают против идеи об их врожденной опасности.
Развенчание нарратива о «злом умысле»
Основное опасение критиков заключается в том, что разработанные в Китае модели могут содержать «скрытые намерения» или бэкдоры, закодированные злоумышленниками. Однако Лукас Аткинс (Lucas Atkins), технический директор американской ИИ-лаборатории Arcee, утверждает, что это заблуждение в корне неверно представляет принцип работы больших языковых моделей (LLM).
В отличие от традиционного программного обеспечения, где разработчик может явно прописать конкретную вредоносную команду, LLM являются продуктом процессов обучения. Аткинс отмечает, что как только модель с открытыми весами скачана и запущена в частной локальной среде, первоначальный разработчик не имеет возможности получить доступ к этому экземпляру или контролировать его. Это разделение между весами модели и инфраструктурой пользователя обеспечивает критически важный уровень безопасности, которого лишены традиционные программы.
Техническая реальность безопасности моделей
Пока споры продолжаются, техническое сообщество подчеркивает, что риски «скрытого» поведения ИИ крайне низки. Одним из теоретических опасений является вопрос о том, можно ли обучить модель кодинга внедрять вредоносное ПО в определенные кодовые базы. Хотя Аткинс признает, что это теоретически возможно, он отмечает, что для этого потребовались бы «акробатические подвиги» в области инженерии, которые на данный момент непрактичны.
Более того, природа LLM является вероятностной и творческой, что делает крайне маловероятным возникновение «идеального шторма», необходимого для срабатывания конкретного вредоносного ответа. Для предприятий безопасность обеспечивается через несколько стандартных уровней:
- Тестирование безопасности: Крупные организации подвергают ядра моделей строгим процессам проверки.
- Постобучение (Post-Training): Компании дообучают модели для конкретных задач, что позволяет им проводить аудит на предмет предвзятости, токсичности и галлюцинаций.
- Модельная агностичность: Современная архитектура ИИ становится все более модельно-агностичной, что означает, что предприятия могут заменять китайские модели американскими альтернативами без перепроектирования всего своего технологического стека.
Конкуренция через инновации, а не через регулирование
Компания Arcee, которая создает открытые модели, чтобы предоставить американским компаниям отечественные альтернативы, находится в уникальном положении. Хотя запрет китайских моделей теоретически принес бы выгоду их бизнесу, Аткинс утверждает, что акцент должен сместиться с запретов на развитие устойчивой внутренней экосистемы.
Интересно, что появление высокопроизводительных китайских моделей на самом деле ускоряет инновации на Западе. Arcee использует эти модели с открытыми весами, чтобы учиться на их архитектуре и возможностях, запуская цикл непрерывного совершенствования. По словам Аткинса, лучший способ для американских лабораторий конкурировать — это не политика, а производительность: «Способ конкурировать с китайскими моделями — выпустить модель, которая будет лучше».
Основные выводы
- Безопасность через изоляцию: Как только модели с открытыми весами развернуты в частном дата-центре, у первоначальных разработчиков нет механизмов для доступа к локальной среде или манипулирования ею.
- Теоретический против практического риска: Хотя «скрытое обучение» для внедрения вредоносного кода теоретически возможно, в текущих архитектурах LLM это остается невероятно сложной и маловероятной задачей.
- Инновации через конкуренцию: Вместо того чтобы добиваться запретов, сектор ИИ в США может извлечь выгоду из конкурентного давления и обмена знаниями, которые обеспечивают высокопроизводительные модели с открытыми весами из Китая.