Коли урядам варто контролювати моделі ШІ?
Нещодавно компанія Anthropic зіткнулася з серйозною проблемою. Уряд США видав директиву, яка забороняє іноземним громадянам використовувати їхні моделі Fable 5 та Mythos 5. Щоб дотримуватися закону, Anthropic заблокувала доступ для всіх клієнтів.
Це масштабний зсув.
Передовий ШІ (Frontier AI) — це вже не просто програмне забезпечення. Він стає стратегічною інфраструктурою. Коли програмне забезпечення стає інфраструктурою, в справу втручаються уряди.
Ми часто сприймаємо ШІ як категорію продуктів, на кшталт чат-ботів або генераторів зображень. Але справжні зміни відбуваються на глибинному рівні. Сучасні системи ШІ можуть писати код, знаходити вразливості в системі безпеки та керувати робочими процесами. Вони діють напівавтономно.
Це змінює рівень ризику. Стандартний додаток легко регулювати. Система, яка автоматизує кібератаки, більше схожа на інфраструктуру національної безпеки.
Аргументи на користь регулювання Якщо модель прискорює виникнення ризиків біобезпеки, шахрайство або масове стеження, необмежений доступ є небезпечним. Інженери вже звикли до обмежень щодо хімікатів, військової техніки та критичної інфраструктури. Якщо ШІ змінює ландшафт загроз, контроль доступу є цілком логічним.
Аргументи проти надмірного втручання Державний контроль може бути грубим і політизованим. Раптові обмеження шкодять дослідникам, стартапам та інженерам. Це також створює проблему конкуренції. Якщо лише великі компанії зможуть дозволити собі дотримуватися складних правил, ми отримаємо централізацію. Централізація призводить до меншої кількості аудитів та зниження стійкості.
Рішення: правила на основі можливостей Ми не повинні обмежувати моделі на основі хайпу чи популярності. Ми повинні обмежувати їх на основі того, що вони насправді здатні робити.
Поставте собі такі запитання:
- Чи може вона знаходити та експлуатувати вразливості в системі безпеки?
- Чи може вона виконувати шкідливі завдання для неспеціалістів?
- Чи може вона керувати інструментами в різних системах без нагляду?
- Чи обходить вона засоби захисту під тиском?
Інженери мають очолити цю дискусію. Політика не може бути абстрактним законом. Вона потребує технічних знань про можливості моделей, доступ до інструментів та контекст розгортання.
Справжнє поле битви: контроль доступу Безпека ШІ — це не лише ваги моделей. Це контроль доступу.
Хто може користуватися системою? Це класична інженерна задача. Запит природною мовою може спровокувати дії в багатьох системах. Права доступу мають бути частиною інфраструктури, а не чимось, про що згадують наприкінці. Потужна модель у слабкій оболонці продукту є небезпечною.
Моя думка Заборона ШІ є нежиттєздатною. Випуск усього без правил є безвідповідальним.
Втручання є виправданим, коли збігаються три умови:
- Високі можливості
- Високий потенціал для зловживань
- Низька підзвітність
Мета полягає в тому, щоб запобігти катастрофі, не заморожуючи інновації.
ШІ стає інфраструктурою ще до того, як ми розробимо для нього правила. Вибір, який ви робите під час проектування системи — права доступу, логування та схвалення людиною — визначатиме те, як світ керуватиме ШІ.
Майбутнє контролю над ШІ буде закладене в інфраструктурі.
Джерело: https://dev.to/joshua-fields/when-should-governments-pull-the-plug-on-ai-models-ffo
Додаткова спільнота для навчання: https://t.me/GyaanSetuAi