یک دستیار فوقیکپارچه، دوره آزمایشی خود را آغاز میکند
Instinct که توسط Spear Street Technology ساخته شده و تحت مدیریت نوآ شین (Noah Shinn)، پژوهشگر سابق Sierra است، خود را یک «جایگزین دیجیتال» معرفی میکند که از چتباتهای معمولی فراتر میرود. در آزمایشهای خصوصی، شرکتکنندگان از طریق متن، WhatsApp یا تماسهای صوتی با این دستیار صحبت میکنند، در حالی که دستیار، ایمیلها، اپلیکیشنهای پیامرسان، تقویمها و تلهمتری زنده دستگاه (شامل اسکرینشاتها، حرکت نشانگر موس و ضربات کلید) را میخواند. وعده این است: یک دستیار شخصی بیدردسر که هر وظیفه روتینی را بدون اینکه کاربر حتی انگشتی تکان دهد، انجام میدهد.
Instinct چگونه کار میکند
یکپارچگی عمیق، Instinct را متمایز میکند. این دستیار با استخراج سیگنالهای لحظهای از دستگاه، میتواند تأییدیه پرواز را شناسایی کند، جزئیات تقویم را استخراج نماید و بهطور خودکار پروازهای از دست رفته را مجدداً رزرو کند. همچنین میتواند صندوق ورودی Gmail را اسکن کرده، پیامهای خوانده نشده را خلاصه کند، از طریق Resy سفارش ثبت کند و لیستهای خرید را مدیریت نماید.
هشدارهای حریم خصوصی و مسائل حقوقی
همین گستردگی دسترسی، جنجالآفرین شده است. شرایط خدمات (Terms of Service) به Instinct مجوز «دائمی و غیرقابل بازگشت» برای دسترسی، میزبانی، بازتولید و تغییر هرگونه محتوای کاربر را میدهد، که شامل حق استفاده از آن دادهها برای آموزش مدلهای خود نیز میشود. در عمل، ممکن است دستیار مدتها پس از آنکه کاربر مجوز خود را لغو کرد، نسخههایی از ایمیلها را نزد خود نگه دارد.
پذیرندگان اولیه پیش از این با مشکلات ملموسی مواجه شدهاند. کلر وو (Claire Vo)، یکی از آزمایشکنندگان، دریافت که Instinct حتی پس از قطع اتصال یکپارچگی، همچنان به خلاصهسازی صندوق ورودی او ادامه میدهد؛ این نشان میدهد که سرویس، محتوا را برای جستجوهای آینده به صورت متن ساده (plain text) ذخیره کرده است. همچنین، شرایط خدمات به دستیار اجازه میدهد تا از طرف کاربر وارد «توافقات، تعهدات یا تراکنشها» شود که عملاً به هوش مصنوعی اجازه میدهد بدون امضای انسانی، فرد را به تعهدات مالی یا قراردادی متعهد کند. تلاشها برای حذف سوابق خارجی مانند لاگهای Gmail با مقاومت روبرو شد، هرچند تیم Instinct میگوید ابزارهای جدید برای حذف دادهها در راه است.
نگرانیهای امنیتی
فراتر از آسیبپذیریهای حقوقی، این دستیار بردارهای حمله جدیدی را باز میکند. آزمایشکنندگان نشان دادهاند که Instinct میتواند با پیامهای فیشینگ فریب بخورد؛ این هوش مصنوعی گاهی اوقات ایمیلها یا پیامهایی را بدون مرحله تأیید صریح کاربر ارسال میکند. ضبط ضربات کلید و محتوای صفحه، هدفی سودآور برای مهاجمانی ایجاد میکند که به دنبال اطلاعات ورود خام یا دادههای شخصی هستند.
ناظران صنعت خاطرنشان میکنند که دقیقاً همان ویژگیهایی که Instinct را جذاب میکنند — یعنی دسترسی مداوم و تصمیمگیری خودگردان — هرگونه رخنه امنیتی را نیز بزرگتر میکنند. اگر مهاجمی دستیار را به کنترل خود درآورد، میتواند ارتباطات خصوصی را بخواند و تراکنشها را انجام دهد. سطح آسیب بالقوه در مقایسه با حسابهای سنتی که با رمز عبور محافظت میشوند، بهطور چشمگیری گسترش مییابد.
دیدگاه صنعت
مایکل میگنانو (Michael Mignano)، شریک Union Square Ventures، استدلال میکند که محصولاتی مانند Instinct «هنجارهای امنیتی مدرن را بهطور اساسی تغییر خواهند داد.» او اشاره میکند که سپردن رمزهای عبور و تلهمتری دستگاه به یک عامل هوش مصنوعی شخص ثالث، از مدل دیرینه «احراز هویت تحت کنترل کاربر» فاصله میگیرد. او هشدار میدهد که خطر اصلی این است که صنعت ممکن است هنوز تدابیر حفاظتی لازم برای محافظت از کاربران در مقیاس وسیع را نداشته باشد.
نگاهی به آینده
-
-
-
-
اگر Instinct بتواند ضمن حفظ تجربه کاربری، تدابیر حفاظتی قابل اعتمادی را نشان دهد، ممکن است الگویی برای نسل بعدی دستیارهای هوش مصنوعی باشد. در غیر این صورت، واکنشهای منفی میتواند توسعهدهندگان را به سمت طراحیهای محدودتر و با مجوزهای کمتر سوق دهد.
خلاصه کلام
جاهطلبی Instinct برای تبدیل شدن به یک دستیار شخصی واقعاً خودگردان، راحتی را در مقابل کنترل قرار میدهد. یکپارچگی عمیق با دستگاه، اتوماسیونی را ارائه میدهد که تقریباً جادویی به نظر میرسد، اما همین یکپارچگی، کاربران را در معرض جمعآوری دائمی دادهها، اقدامات هوش مصنوعی با الزام قانونی و سطح حمله گستردهتر قرار میدهد. ماههای آینده مشخص خواهد کرد که آیا بازار این موازنه را میپذیرد یا پیش از سپردن کلیدهای زندگی دیجیتال به یک هوش مصنوعی، خواستار محدودیتهای سختگیرانهتری میشود.