CTO Arcee заперечує побоювання щодо китайських моделей ШІ з відкритими вагами

Оскільки китайські моделі з відкритими вагами, такі як Qwen від Alibaba та Kimi K3 від Moonshot AI, здобувають величезну популярність, виникли жваві дискусії щодо їхніх наслідків для безпеки. Хоча дехто побоюється, що ці моделі можуть стати векторами кібератак, що призведе до потенційних заборон з боку уряду США, експерти заперечують ідею про те, що вони є небезпечними самі по собі.

Спростування наративу про «зловмисні наміри»

Основне занепокоєння критиків полягає в тому, що розроблені в Китаї моделі можуть містити «приховані наміри» або бекдори, закодовані зловмисниками. Однак Лукас Аткінс, технічний директор (CTO) американської ШІ-лабораторії Arcee, стверджує, що це непорозуміння докорінно викривлює розуміння того, як функціонують великі мовні моделі (LLM).

На відміну від традиційного програмного забезпечення, де розробник може явно закодувати певну шкідливу команду, LLM є продуктом процесів навчання. Аткінс зазначає, що як тільки модель з відкритими вагами завантажена та запущена в приватному локальному середовищі, оригінальний розробник не має жодного способу отримати доступ до цього екземпляра або контролювати його. Таке розмежування між вагами моделі та інфраструктурою користувача забезпечує критично важливий рівень безпеки, якого бракує традиційному ПЗ.

Технічна реальність безпеки моделей

Поки тривають дискусії, технічна спільнота наголошує, що ризики «прихованої» поведінки ШІ є надзвичайно низькими. Одним із теоретичних побоювань є те, чи можна навчити модель кодування впроваджувати шкідливе програмне забезпечення в певні бази коду. Хоча Аткінс визнає, що це теоретично можливо, він зазначає, що це потребувало б «акробатичних зусиль» у сфері інженерії, які наразі є непрактичними.

Крім того, природа LLM є ймовірнісною та креативною, що робить «ідеальний шторм», необхідний для ініціювання конкретної шкідливої відповіді, вкрай малоймовірним. Для підприємств безпека забезпечується кількома стандартними рівнями:

• Тестування безпеки: Великі організації проводять суворі процеси перевірки ядер моделей.
• Післянавчання (Post-Training): Компанії донавчають моделі для конкретних завдань, що дозволяє їм перевіряти їх на наявність упередженості, токсичності та галюцинацій.
• Модельна агностичність: Сучасна архітектура ШІ стає дедалі більш агностичною до моделей, що означає, що підприємства можуть замінити китайські моделі американськими альтернативами без перепроектування всього свого технологічного стека.

Конкуренція через інновації, а не через регулювання

Arcee, яка створює відкриті моделі, щоб надати американським компаніям вітчизняні альтернативи, перебуває в унікальному становищі. Хоча заборона китайських моделей теоретично була б вигідною для їхнього бізнесу, Аткінс стверджує, що фокус має зміститися з заборон на сприяння розвитку надійної внутрішньої екосистеми.

Цікаво, що поява високопродуктивних китайських моделей насправді прискорює інновації на Заході. Arcee використовує ці моделі з відкритими вагами, щоб вчитися на їхній архітектурі та можливостях, стимулюючи цикл безперервного вдосконалення. За словами Аткінса, найкращий спосіб для американських лабораторій конкурувати — це не через політику, а через продуктивність: «Спосіб конкурувати з китайськими моделями — це випустити модель, яка буде кращою».

Основні висновки

• Безпека через ізоляцію: Після розгортання моделей з відкритими вагами у приватному центрі обробки даних оригінальні розробники не мають механізмів для доступу до локального середовища або маніпулювання ним.
• Теоретичний проти практичного ризику: Хоча «приховане навчання» для впровадження шкідливого коду теоретично можливе, воно залишається неймовірно складним і малоймовірним завданням у сучасних архітектурах LLM.
• Інновації через конкуренцію: Замість того, щоб домагатися заборон, сектор ШІ США може отримати вигоду від конкурентного тиску та обміну знаннями, які забезпечують високопродуктивні моделі з відкритими вагами з Китаю.