ผู้ช่วยที่ผสานการทำงานอย่างล้ำลึกเริ่มเปิดทดสอบใช้งาน
Instinct ซึ่งพัฒนาโดย Spear Street Technology และนำโดยอดีตนักวิจัยจาก Sierra อย่าง Noah Shinn นิยามตัวเองว่าเป็น "ตัวแทนดิจิทัล" (digital surrogate) ที่เหนือกว่าแชตบอตทั่วไป ในการทดสอบแบบส่วนตัว ผู้เข้าร่วมสามารถสื่อสารกับผู้ช่วยผ่านข้อความ WhatsApp หรือการโทรด้วยเสียง ในขณะที่มันจะอ่านอีเมล แอปส่งข้อความ ปฏิทิน และข้อมูลโทรมาตรของอุปกรณ์แบบสดๆ เช่น การจับภาพหน้าจอ การเคลื่อนที่ของเคอร์เซอร์ และการกดแป้นพิมพ์ คำมั่นสัญญาคือ: ผู้ช่วยส่วนตัวที่ทำงานได้อย่างราบรื่นและจัดการงานประจำวันต่างๆ ได้โดยที่ผู้ใช้ไม่ต้องขยับนิ้วเลยแม้แต่นิดเดียว
Instinct ทำงานอย่างไร
การผสานการทำงานอย่างล้ำลึกทำให้ Instinct แตกต่างออกไป ด้วยการดึงสัญญาณแบบเรียลไทม์จากอุปกรณ์ มันสามารถตรวจพบการยืนยันเที่ยวบิน ดึงรายละเอียดจากปฏิทิน และจองเที่ยวบินใหม่ให้โดยอัตโนมัติหากพลาดการต่อเครื่อง นอกจากนี้ยังสามารถสแกนกล่องจดหมาย Gmail เพื่อสรุปข้อความที่ยังไม่ได้อ่าน สั่งอาหารผ่าน Resy และจัดการรายการซื้อของได้อีกด้วย
ประเด็นความเสี่ยงด้านความเป็นส่วนตัวและกฎหมาย
ขอบเขตการเข้าถึงที่กว้างขวางนี้เองที่นำไปสู่ข้อโต้แย้ง ข้อกำหนดการให้บริการ (Terms of Service) มอบสิทธิ์แบบ "ถาวรและไม่สามารถเพิกถอนได้" ให้แก่ Instinct ในการเข้าถึง โฮสต์ ทำซ้ำ และแก้ไขเนื้อหาใดๆ ของผู้ใช้ รวมถึงสิทธิ์ในการใช้ข้อมูลนั้นเพื่อฝึกฝนโมเดลของตน ในทางปฏิบัติ ผู้ช่วยนี้อาจเก็บสำเนาอีเมลไว้เป็นเวลานานหลังจากที่ผู้ใช้ยกเลิกการอนุญาตไปแล้ว
กลุ่มผู้ใช้งานกลุ่มแรกเริ่มพบปัญหาที่เป็นรูปธรรมแล้ว Claire Vo ผู้ทดสอบพบว่า Instinct ยังคงสรุปกล่องจดหมายของเธอต่อไปแม้ว่าเธอจะตัดการเชื่อมต่อการผสานการทำงานแล้วก็ตาม ซึ่งแสดงให้เห็นว่าบริการนี้ได้จัดเก็บเนื้อหาในรูปแบบข้อความธรรมดา (plain text) เพื่อใช้ในการค้นหาในอนาคต นอกจากนี้ ข้อกำหนดการให้บริการยังอนุญาตให้ผู้ช่วยสามารถทำ "ข้อตกลง พันธสัญญา หรือธุรกรรม" ในนามของผู้ใช้ ซึ่งเท่ากับเป็นการอนุญาตให้ AI ผูกมัดบุคคลเข้ากับภาระผูกพันทางการเงินหรือสัญญาโดยไม่ต้องมีการลงลายมือชื่อโดยมนุษย์ การพยายามลบข้อมูลบันทึกภายนอก เช่น บันทึกของ Gmail ยังพบกับอุปสรรค แม้ว่าทีมงานของ Instinct จะกล่าวว่าเครื่องมือลบข้อมูลใหม่ๆ กำลังอยู่ในระหว่างการพัฒนา
ความกังวลด้านความปลอดภัย
นอกเหนือจากความเสี่ยงทางกฎหมายแล้ว ผู้ช่วยนี้ยังเปิดช่องทางการโจมตีใหม่ๆ อีกด้วย ผู้ทดสอบแสดงให้เห็นว่า Instinct สามารถถูกหลอกด้วยข้อความฟิชชิง (phishing) ได้ โดยบางครั้ง AI จะส่งอีเมลหรือข้อความออกไปโดยไม่มีขั้นตอนการยืนยันจากผู้ใช้อย่างชัดเจน การดักจับการกดแป้นพิมพ์และเนื้อหาบนหน้าจอทำให้กลายเป็นเป้าหมายที่ล่อตาล่อใจสำหรับผู้ไม่หวังดีที่ต้องการข้อมูลประจำตัวหรือข้อมูลส่วนบุคคล
ผู้สังเกตการณ์ในอุตสาหกรรมตั้งข้อสังเกตว่า คุณสมบัติที่ทำให้ Instinct น่าดึงดูด—การเข้าถึงอย่างต่อเนื่องและการตัดสินใจด้วยตนเอง—ก็เป็นสิ่งที่ขยายความรุนแรงหากเกิดการละเมิดข้อมูลขึ้นเช่นกัน หากผู้โจมตีสามารถยึดครองผู้ช่วยนี้ได้ พวกเขาก็จะสามารถอ่านการสื่อสารส่วนตัวและทำธุรกรรมต่างๆ ได้ พื้นที่ความเสียหายที่อาจเกิดขึ้นจึงขยายตัวอย่างมหาศาลเมื่อเทียบกับบัญชีที่ป้องกันด้วยรหัสผ่านแบบดั้งเดิม
มุมมองจากอุตสาหกรรม
Michael Mignano พาร์ทเนอร์ของ Union Square Ventures แย้งว่าผลิตภัณฑ์อย่าง Instinct จะ "เปลี่ยนแปลงบรรทัดฐานความปลอดภัยสมัยใหม่อย่างสิ้นเชิง" เขาชี้ให้เห็นว่าการมอบรหัสผ่านและข้อมูลโทรมาตรของอุปกรณ์ให้กับตัวแทน AI ของบุคคลที่สาม เป็นการเปลี่ยนทิศทางไปจากโมเดลการยืนยันตัวตนที่ผู้ใช้ควบคุมเองซึ่งใช้มาอย่างยาวนาน เขาเตือนว่าความเสี่ยงคืออุตสาหกรรมนี้อาจยังไม่มีมาตรการป้องกันเพื่อปกป้องผู้ใช้ในวงกว้าง
มองไปข้างหน้า
-
-
-
-
หาก Instinct สามารถแสดงให้เห็นถึงมาตรการป้องกันที่เชื่อถือได้ในขณะที่ยังคงรักษาประสบการณ์การใช้งานไว้ได้ มันอาจกลายเป็นต้นแบบสำหรับผู้ช่วย AI รุ่นต่อไป แต่หากทำไม่ได้ กระแสต่อต้านอาจผลักดันให้นักพัฒนาต้องกลับไปสู่การออกแบบที่มีข้อจำกัดมากขึ้นและใช้การขออนุญาตที่น้อยลง
บทสรุป
ความทะเยอทะยานของ Instinct ที่จะกลายเป็นผู้ช่วยส่วนตัวที่ทำงานได้ด้วยตนเองอย่างแท้จริงนั้น เป็นการนำความสะดวกสบายมาแลกกับการสูญเสียการควบคุม การผสานการทำงานกับอุปกรณ์อย่างล้ำลึกช่วยให้เกิดระบบอัตโนมัติที่ให้ความรู้สึกราวกับเวทมนตร์ แต่ในขณะเดียวกัน การผสานการทำงานดังกล่าวก็ทำให้ผู้ใช้ต้องเผชิญกับการเก็บเกี่ยวข้อมูลอย่างต่อเนื่อง การกระทำของ AI ที่มีผลผูกพันทางกฎหมาย และพื้นที่การโจมตีที่กว้างขึ้น ในช่วงไม่กี่เดือนข้างหน้าจะเผยให้เห็นว่าตลาดจะยอมรับการแลกเปลี่ยนนี้ หรือจะเรียกร้องมาตรการป้องกันที่เข้มงวดกว่าเดิม ก่อนที่จะมอบกุญแจสู่ชีวิตดิจิทัลให้กับ AI