Чому ШІ-чатботи не є вашими друзями, на думку Мередіт Віттекер із Signal

Оскільки великі мовні моделі (LLM) дедалі глибше інтегруються в наші щоденні цифрові робочі процеси, межа між людською взаємодією та машинною відповіддю розмивається. Президентка Signal Мередіт Віттекер виступає з суворим попередженням для користувачів: не помиляйте складне статистичне моделювання з щирим товариством чи свідомим інтелектом.

Ілюзія свідомості в LLM

В нещодавньому інтерв'ю Bloomberg Мередіт Віттекер торкнулася зростаючої тенденції антропоморфізувати моделі ШІ, такі як ChatGPT від OpenAI та Claude від Anthropic. Вона наголосила, що, попри їхню розмовну плавність, цим системам бракує свідомості та суб'єктності. «Це не ваші друзі. Це не свідомі істоти. Це не наділені розумом співрозмовники», — заявила Віттекер, нагадуючи користувачам, що чатботи — це, по суті, складні механізми, розроблені для передбачення наступного токена в послідовності.

Озабоченість Віттекер виходить за межі філософських визначень і стосується когнітивного впливу ШІ на людську творчість. Хоча вона визнає, що використовує інструменти ШІ для незначних завдань, таких як форматування документів, вона відмовляється використовувати їх для міркувань високого рівня. Вона стверджує, що покладання на ШІ під час генерації ідей ризикує «обмежити» людський мисленнєвий процес, оскільки ці моделі функціонують шляхом «усереднення того, що вже існує», що потенційно пригнічує оригінальне, не похідне мислення.

Ціна приватності «агентного» ШІ

Розмова набула більш критичного тону, коли мова зайшла про появу «ШІ-агентів» — систем, розроблених для автономної дії від імені користувача. Віттекер спеціально спростувала прогноз генерального директора Microsoft AI Мустафи Сулеймана, який припустив, що такі інструменти, як Microsoft Copilot, зрештою зможуть керувати складними особистими завданнями, наприклад, покупками до свят.

Віттекер вказала на величезні компроміси щодо приватності, властиві таким «агентним» можливостям. Щоб ШІ міг керувати покупками чи розкладом користувача, йому потрібен повсюдний доступ до надзвичайно чутливих даних, зокрема:

• Інформація про особисті кредитні картки та історія переглядів.
• Комунікація в режимі реального часу через такі додатки, як Signal.
• Приватні календарі та домашні адреси.

З точки зору безпеки, Віттекер розглядає такий рівень інтеграції як серйозну вразливість. Вона зазначила, що надання ШІ можливості моніторити сімейні групові чати або надсилати повідомлення братам чи сестрам від імені користувача, по суті, створюватиме «backdoor» у найбільш приватне цифрове життя користувача.

Наслідки для екосистеми ШІ

Позиція Віттекер підкреслює зростаючу напруженість у технологічній індустрії: гонку за «агентною» корисністю проти фундаментального права на приватність і когнітивну автономію. Оскільки розробники прагнуть створювати моделі, здатні працювати в кількох застосунках, галузь постає перед критичним питанням: чи зможемо ми досягти безперешкодної допомоги ШІ, не створюючи централізованої точки тотального нагляду? Для розробників і засновників це підкреслює необхідність побудови архітектур ШІ за принципом «privacy-first», які надають перевагу локальній обробці та суворій ізоляції даних замість повсюдної інтеграції з повним доступом.

Основні висновки

• Уникайте антропоморфізму: Моделі ШІ — це статистичні інструменти, а не свідомі істоти, і ставлення до них як до «друзів» може призвести до неправильного розуміння їхніх можливостей і ризиків.
• Захищайте когнітивну автономію: Надмірна залежність від ШІ під час мозкового штурму та вирішення проблем може призвести до «регресії до середнього», коли людська креативність нівелюється усередненими наборами даних.
• Розрив у приватності агентного ШІ: Прагнення до створення автономних агентів ШІ потребує безпрецедентного доступу до персональних даних, що створює значні «backdoors» у безпеці та вразливості приватності.