Một trợ lý tích hợp siêu sâu đang được chạy thử nghiệm

Instinct, được xây dựng bởi Spear Street Technology và dẫn dắt bởi cựu nghiên cứu viên của Sierra là Noah Shinn, tự quảng bá mình là một “người đại diện kỹ thuật số” vượt xa các chatbot thông thường. Trong các đợt thử nghiệm nội bộ, những người tham gia có thể trò chuyện với trợ lý này qua văn bản, WhatsApp hoặc các cuộc gọi thoại, trong khi nó đọc email, các ứng dụng nhắn tin, lịch và dữ liệu đo lường thiết bị trực tiếp—bao gồm ảnh chụp màn hình, chuyển động con trỏ và thao tác bàn phím. Lời hứa đưa ra là: một trợ lý cá nhân mượt mà, có thể xử lý bất kỳ tác vụ thông thường nào mà người dùng không cần phải động tay vào.

Cách thức hoạt động của Instinct

Sự tích hợp sâu tạo nên sự khác biệt cho Instinct. Bằng cách thu thập các tín hiệu thời gian thực từ thiết bị, nó có thể nhận diện một xác nhận chuyến bay, trích xuất chi tiết lịch trình và tự động đặt lại chuyến bay nối chuyến bị lỡ. Nó có thể quét hộp thư đến Gmail để tóm tắt các tin nhắn chưa đọc, đặt hàng qua Resy và quản lý danh sách mua sắm.

Các cảnh báo về quyền riêng tư và pháp lý

Chính phạm vi truy cập rộng lớn này lại gây ra những tranh cãi. Điều khoản Dịch vụ (ToS) cấp cho Instinct một giấy phép “vĩnh viễn và không thể hủy bỏ” để truy cập, lưu trữ, sao chép và sửa đổi bất kỳ tài liệu nào của người dùng, bao gồm cả quyền sử dụng dữ liệu đó để huấn luyện các mô hình của nó. Trên thực tế, trợ lý này có thể lưu giữ các bản sao email rất lâu sau khi người dùng đã thu hồi quyền truy cập.

Những người dùng sớm đã gặp phải các vấn đề cụ thể. Người thử nghiệm Claire Vo phát hiện ra rằng Instinct vẫn tiếp tục tóm tắt hộp thư đến của cô ngay cả sau khi cô đã ngắt kết nối tích hợp, cho thấy dịch vụ này đã lưu trữ nội dung dưới dạng văn bản thuần túy để phục vụ việc tìm kiếm trong tương lai. ToS cũng cho phép trợ lý thực hiện các “thỏa thuận, cam kết hoặc giao dịch” thay mặt người dùng, về cơ bản cho phép AI ràng buộc một cá nhân vào các nghĩa vụ tài chính hoặc hợp đồng mà không cần chữ ký của con người. Các nỗ lực xóa các bản ghi bên ngoài như nhật ký Gmail đã gặp phải sự kháng cự, mặc dù đội ngũ của Instinct cho biết các công cụ xóa dữ liệu mới đang được phát triển.

Các mối lo ngại về bảo mật

Ngoài các rủi ro pháp lý, trợ lý này còn mở ra các vectơ tấn công mới. Các kiểm thử viên đã chỉ ra rằng Instinct có thể bị đánh lừa bởi các tin nhắn lừa đảo (phishing); AI đôi khi gửi email hoặc tin nhắn mà không có bước xác nhận rõ ràng từ người dùng. Việc thu thập thao tác bàn phím và nội dung màn hình tạo ra một mục tiêu béo bở cho các tác nhân độc hại đang tìm kiếm thông tin đăng nhập thô hoặc dữ liệu cá nhân.

Các quan sát viên trong ngành lưu ý rằng chính những tính năng làm cho Instinct trở nên hấp dẫn—truy cập liên tục, ra quyết định tự chủ—cũng làm phóng đại bất kỳ vụ vi phạm nào. Nếu một kẻ tấn công chiếm quyền điều khiển trợ lý, chúng có thể đọc các thông tin liên lạc riêng tư và thực hiện các giao dịch. Bề mặt thiệt hại tiềm tàng sẽ mở rộng đáng kể so với các tài khoản được bảo vệ bằng mật khẩu truyền thống.

Ý kiến từ ngành công nghiệp

Đối tác của Union Square Ventures, Michael Mignano, lập luận rằng các sản phẩm như Instinct sẽ “thay đổi căn bản các chuẩn mực bảo mật hiện đại.” Ông chỉ ra rằng việc bàn giao mật khẩu và dữ liệu đo lường thiết bị cho một tác nhân AI bên thứ ba là sự chuyển dịch khỏi mô hình xác thực do người dùng kiểm soát vốn đã tồn tại từ lâu. Ông cảnh báo rằng rủi ro nằm ở chỗ ngành công nghiệp có thể chưa có các biện pháp bảo vệ để bảo vệ người dùng trên quy mô lớn.

Nhìn về phía trước

-

-

-

-

Nếu Instinct có thể chứng minh được các biện pháp bảo vệ đáng tin cậy trong khi vẫn duy trì được trải nghiệm của mình, nó có thể tạo ra một khuôn mẫu cho thế hệ trợ lý AI tiếp theo. Nếu không, sự phản ứng dữ dội có thể đẩy các nhà phát triển quay trở lại với các thiết kế ít yêu cầu quyền truy cập hơn.

Điểm mấu chốt

Tham vọng trở thành một trợ lý cá nhân thực sự tự chủ của Instinct đang đặt sự tiện lợi lên bàn cân đối đầu với quyền kiểm soát. Sự tích hợp sâu vào thiết bị mang lại khả năng tự động hóa mang lại cảm giác gần như kỳ diệu, nhưng chính sự tích hợp đó lại khiến người dùng phải đối mặt với việc bị thu thập dữ liệu vĩnh viễn, các hành động của AI có tính ràng buộc pháp lý và một bề mặt tấn công bị mở rộng. Những tháng tới sẽ cho thấy liệu thị trường sẽ chấp nhận sự đánh đổi đó hay sẽ yêu cầu các rào chắn nghiêm ngặt hơn trước khi giao chìa khóa cuộc sống kỹ thuật số cho một AI.