Гіперінтегрований асистент проходить випробування
Instinct, розроблений Spear Street Technology під керівництвом колишнього дослідника Sierra Ноа Шінна, позиціонує себе як «цифровий сурогат», що перевершує звичайні чат-боти. Під час приватного тестування учасники спілкуються з асистентом за допомогою тексту, WhatsApp або голосових дзвінків, у той час як він читає електронну пошту, месенджери, календарі та отримує телеметрію пристрою в реальному часі — знімки екрана, переміщення курсора, натискання клавіш. Обіцянка: бездоганний персональний асистент, який виконує будь-яке рутинне завдання, не змушуючи користувача навіть поворухнути пальцем.
Як працює Instinct
Глибока інтеграція виділяє Instinct серед інших. Отримуючи сигнали з пристрою в реальному часі, він може помітити підтвердження рейсу, витягти деталі календаря та автоматично перебронювати пропущений пересадковий рейс. Він може сканувати поштову скриньку Gmail і резюмувати непрочитані повідомлення, робити замовлення через Resy та керувати списками покупок.
Конфіденційність та юридичні ризики
Такий широкий доступ викликає суперечки. Умови надання послуг надають Instinct «вічну та безвідкличну» ліцензію на доступ, розміщення, відтворення та зміну будь-яких матеріалів користувача, включаючи право використовувати ці дані для навчання своїх моделей. На практиці асистент може зберігати копії електронних листів ще довго після того, як користувач відкликає дозвіл.
Перші користувачі вже зіткнулися з конкретними проблемами. Тестувальниця Клер Во виявила, що Instinct продовжував резюмувати її поштову скриньку навіть після відключення інтеграції, що свідчить про те, що сервіс зберігав вміст у відкритому тексті для майбутнього пошуку. Умови надання послуг також дозволяють асистенту укладати «угоди, зобов'язання або здійснювати транзакції» від імені користувача, що фактично дозволяє ШІ накладати на людину фінансові або контрактні зобов'язання без людського підпису. Спроби видалити зовнішні записи, такі як логи Gmail, зустріли опір, хоча команда Instinct заявляє, що нові інструменти видалення даних уже в розробці.
Побоювання щодо безпеки
Окрім юридичних ризиків, асистент відкриває нові вектори атак. Тестувальники показали, що Instinct можна обдурити фішинговими повідомленнями; ШІ іноді надсилає електронні листи або повідомлення без явного підтвердження з боку користувача. Перехоплення натискань клавіш і вмісту екрана створює привабливу ціль для зловмисників, які шукають облікові дані або персональні дані.
Спостерігачі галузі зазначають, що ті самі функції, які роблять Instinct привабливим — безперервний доступ, автономне прийняття рішень — також посилюють наслідки будь-якого зламу. Якщо зловмисник захопить контроль над асистентом, він зможе читати приватне листування та здійснювати транзакції. Потенційна поверхня шкоди значно розширюється порівняно з традиційними обліковими записами, захищеними паролем.
Що каже індустрія
Партнер Union Square Ventures Майкл Міньяно стверджує, що такі продукти, як Instinct, «фундаментально змінять сучасні норми безпеки». Він зазначає, що передача паролів і телеметрії пристрою сторонньому ШІ-агенту відходить від давньої моделі автентифікації під контролем користувача. Ризик, попереджає він, полягає в тому, що галузь ще може не мати механізмів захисту для масштабного захисту користувачів.
Погляд у майбутнє
-
-
-
-
Якщо Instinct зможе продемонструвати надійні засоби захисту, зберігаючи при цьому зручність використання, він може стати шаблоном для наступного покоління ШІ-асистентів. Якщо ні, хвиля критики може змусити розробників повернутися до більш обмежувальних дизайнів із мінімальним рівнем дозволів.
Підсумок
Амбіція Instinct стати по-справжньому автономним персональним асистентом ставить зручність проти контролю. Глибока інтеграція з пристроєм забезпечує автоматизацію, яка здається майже магічною, проте та сама інтеграція робить користувачів вразливими до постійного збору даних, юридично обов'язкових дій ШІ та розширеної поверхні атак. Найближчі місяці покажуть, чи прийме ринок такий компроміс, чи вимагатиме суворіших захисних механізмів, перш ніж передати ШІ ключі від цифрового життя.