Проєкт регламенту Європейського Союзу «Chat Control» розширить обов'язкову перевірку контенту на будь-який сервіс, що забезпечує міжособистісну комунікацію, — тепер це включає й чат-інтерфейси ШІ. У разі прийняття постачальники розмовного ШІ можуть бути змушені сканувати кожен запит користувача на наявність незаконних матеріалів, перетворюючи приватні питання про здоров'я, право чи бізнес на точки даних, які органи влади перевірятимуть автоматично.
Чому закон тепер поширюється на ШІ
Спочатку ЄС мав на меті обмежити незаконний контент, зокрема матеріали з сексуальним насильством над дітьми, у приватних месенджерах. Однак формулювання не обмежуються лише SMS або платформами для обміну повідомленнями. Воно визначає «міжособистісну комунікацію» достатньо широко, щоб охопити будь-який інструмент, де двоє або більше людей обмінюються повідомленнями, і регулятори трактують це визначення так, що воно включає чат-вікна ШІ.
Технічні оцінки кількох держав-членів зазначають, що розмови з ШІ часто містять більше конфіденційної інформації, ніж звичайні тексти — користувачі регулярно розкривають медичні історії, юридичні стратегії або конфіденційні бізнес-плани, щоб отримати пораду від моделі. Ті самі автоматизовані фільтри, що сканують повідомлення між телефонами, можуть бути перепрофіковані для аналізу запитів до ШІ, і посадовці побоюються, що зловмисники можуть використовувати генеративні моделі для створення незаконного контенту в масштабах.
Що вже відбувається з даними ШІ
Навіть без нового закону великі ШІ-компанії вже збирають і зберігають дані користувачів. OpenAI за замовчуванням зберігає розмови та використовує їх для вдосконалення своїх моделей, а також ділиться даними з партнерами та, у разі потреби, з правоохоронними органами. Google включає логи чатів ШІ до того ж профілю, де зберігаються історія пошуку та дані про місцезнаходження користувача, створюючи детальнішу картину індивідуальної поведінки. Anthropic, хоча й позиціонується як компанія, що більше дбає про приватність, все одно зберігає запити користувачів і виконує законні розпорядження про розкриття інформації.
Якщо «Chat Control» поши
Локальні моделі можуть не зрівнятися з широтою можливостей GPT-4, але вони чудово справляються з повсякденним написанням текстів, допомогою у програмуванні та дослідницькими завданнями. Головна перевага полягає в тому, що промпти ніколи не залишають вашого пристрою, що усуває ризик автоматичного сканування.
На що варто звернути увагу далі
Законодавчий процес у ЄС розгортатиметься протягом найближчих місяців: комітети розглядатимуть межі «міжособистісного спілкування». Галузеві групи вже лобіюють винятки або чіткіші визначення, які б дозволили виокремити сервіси ШІ-чатів. Стежте за заявами великих постачальників ШІ — вони можуть запровадити нові засоби контролю конфіденційності або навіть оскаржити це регулювання в суді.
Якщо правило буде прийнято в поточному вигляді, баланс конфіденційності для користувачів ШІ кардинально зміниться. До того часу ставтеся до кожного промпту так, ніби його може прочитати третя сторона, і за можливості обирайте рішення, орієнтовані на локальне використання. Ваші запитання є особистими; їхній захист має бути пріоритетом, а не чимось, про що згадують наостанок.