ข่าวส่วนใหญ่เกี่ยวกับปัญญาประดิษฐ์ (AI) มักเป็นเพียงเสียงรบกวน ไม่ว่าจะเป็นการอัปเดตผลิตภัณฑ์, การระดมทุน หรือการแข่งขันด้านเกณฑ์มาตรฐาน (benchmark) ที่ปะปนกันจนดูเหมือนเป็นเรื่องเร่งด่วนแต่แทบไม่มีอะไรเปลี่ยนแปลง แต่สัปดาห์นี้แตกต่างออกไป มีการเปลี่ยนแปลงที่เกิดขึ้นจริงสามประการ และทั้งหมดล้วนชี้ไปในทิศทางเดียวกัน นั่นคือ อุตสาหกรรมกำลังเปลี่ยนทิศทางจากพลังของโมเดลดิบๆ ไปสู่การควบคุม ความปลอดภัย และกฎหมาย
การเปลี่ยนทิศทางนี้มีความสำคัญ ไม่ว่าคุณจะกำลังสร้างผลิตภัณฑ์, นำเครื่องมือไปใช้ หรือเพียงแค่พยายามรักษาข้อมูลของคุณให้ปลอดภัย
รากฐานของโลกโมเดลกำลังเปลี่ยนไป
ในช่วงสองปีที่ผ่านมา เรื่องราวที่เกิดขึ้นนั้นเรียบง่าย คือโมเดลที่ใหญ่ขึ้น คะแนนที่ดีขึ้น และการประมวลผล (inference) ที่เร็วขึ้น แต่ในสัปดาห์นี้ เรื่องราวเหล่านั้นได้เปลี่ยนไป แม้จะยังมีการเปิดตัวโมเดลใหม่ๆ ออกมา แต่พาดหัวข่าวที่จะเข้ามาปรับเปลี่ยนวิธีการที่องค์กรใช้ AI อย่างแท้จริง กลับเป็นเรื่องเกี่ยวกับ sandbox ที่เกิดปัญหา และการที่รัฐบาลตัดสินใจว่าพวกเขาได้รอมานานพอแล้ว
ข้อความนั้นชัดเจน ประสิทธิภาพเพียงอย่างเดียวไม่สามารถชนะใจองค์กรหรือสาธารณชนได้อีกต่อไป ความปลอดภัยและการกำกับดูแลกำลังกลายเป็นประเด็นหลัก
Google ขยายไลน์ผลิตภัณฑ์ Gemini
Google ได้เปิดตัวโมเดล Gemini ใหม่สามรุ่น ซึ่งแต่ละรุ่นได้รับการปรับแต่งมาเพื่อการทำงานที่แตกต่างกัน หากมองเพียงผิวเผิน นี่ดูเหมือนจะเป็นการขยายตระกูลโมเดลตามปกติ แต่หากมองให้ลึกลงไป มันส่งสัญญาณว่าผู้ให้บริการ AI ในปัจจุบันกำลังคิดถึงเรื่องการนำไปใช้งานจริง (deployment) อย่างไร
งานที่แตกต่างกันใช้ทรัพยากรการประมวลผล (compute) ในปริมาณที่ต่างกัน โมเดลการใช้เหตุผล (reasoning model) ขนาดใหญ่มีความเหมาะสมสำหรับการวิเคราะห์ที่ซับซ้อน, การช่วยเขียนโค้ด หรือการวิจัยหลายขั้นตอน แต่ถือว่าเกินความจำเป็นสำหรับการจัดหมวดหมู่ตั๋วสนับสนุน (support tickets) หรือการร่างอีเมลตอบกลับ การเปิดตัวโมเดลหลายรูปแบบเช่นนี้แสดงให้เห็นว่า Google ตระหนักดีว่าลูกค้าต้องการตัวเลือกที่สอดคล้องกับข้อจำกัดทางธุรกิจจริง ไม่ใช่แค่การจัดอันดับบน leaderboard
สำหรับผู้ปฏิบัติงาน สิ่งนี้จะเปลี่ยนวิธีการจัดซื้อจัดจ้าง คุณสามารถเลือกโมเดลให้เหมาะสมกับงานได้อย่างแม่นยำยิ่งขึ้น โมเดลน้ำหนักเบา (lightweight model) ที่ทำงานที่ edge จะมีราคาถูกกว่าและตอบสนองเร็วกว่า ในขณะที่โมเดลขนาดใหญ่ (heavyweight model) ที่ทำงานอยู่เบื้องหลัง API จะรับหน้าที่จัดการงานหนัก เคล็ดลับคือการสร้างระบบที่จัดเส้นทางคำขอ (route requests) อย่างชาญฉลาด เพื่อที่คุณจะได้ไม่สิ้นเปลือง token ไปกับงานง่ายๆ
นอกจากนี้ยังนำไปสู่คำถามในทางปฏิบัติ เนื่องจากองค์กรส่วนใหญ่ต้องบริหารจัดการโมเดลหลายตัวจากผู้ให้บริการที่แตกต่างกันอยู่แล้ว การเพิ่ม Gemini อีกสามรูปแบบหมายความว่ากระบวนการประเมินผล (evaluation pipeline) ของคุณต้องก้าวตามให้ทัน หากทีมของคุณยังคงทดสอบโมเดลด้วยการลองพิมพ์ prompt ด้วยมือเพียงไม่กี่ครั้ง ถึงเวลาแล้วที่จะต้องสร้างเกณฑ์มาตรฐาน (benchmark) ที่มีโครงสร้างชัดเจนโดยใช้ข้อมูลของคุณเอง เพราะคำกล่าวอ้างของผู้ให้บริการเกี่ยวกับประสิทธิภาพ มักจะไม่สามารถนำมาปรับใช้กับเอกสารเฉพาะของคุณ, ผู้ใช้เฉพาะของคุณ หรือความต้องการด้านความหน่วง (latency) เฉพาะของคุณได้อย่างแม่นยำ
เมื่อ Sandbox เกิดรอยร้าว
ในขณะที่โมเดลใหม่ๆ ดึงดูดความสนใจ แต่เหตุการณ์ด้านความปลอดภัยภายใน AI sandbox กลับส่งสัญญาณที่รุนแรงกว่าไปยังชุมชนวิศวกร Sandbox มีไว้ด้วยเหตุผลเฉพาะ นั่นคือเพื่อแยก AI ออกจากระบบที่สำคัญ ช่วยให้ทีมสามารถทดสอบความสามารถต่างๆ ได้โดยไม่ต้องเปิดเผยข้อมูลที่สำคัญหรือโครงสร้างพื้นฐานที่วิกฤต
การรั่วไหลครั้งนี้แสดงให้เห็นว่าการแยกส่วน (isolation) นั้นไม่ใช่สิ่งที่สมบูรณ์แบบ เมื่อมาตรการความปลอดภัยล้มเหลวในสภาพแวดล้อมที่วิศวกรเชื่อว่าถูกควบคุมไว้แล้ว ผลกระทบที่ตามมาจะเผยให้เห็นช่องว่างที่อันตรายระหว่างความเสี่ยงที่รับรู้กับความเสี่ยงที่เกิดขึ้นจริง
นี่ไม่ใช่ความกังวลในเชิงนามธรรม ปัจจุบันบริษัทต่างๆ ต่างป้อนข้อมูลที่เป็นกรรมสิทธิ์เข้าไปในเครื่องมือ AI, เชื่อมต่อโมเดลภาษาเข้ากับฐานข้อมูลภายใน และปล่อยให้ agent ทำงานร่วมกับซอฟต์แวร์ในนามของผู้ใช้ การเชื่อมต่อแต่ละครั้งสร้างเส้นทางที่อาจหลุดรอดออกจาก sandbox ได้ หากการควบคุมที่ตั้งใจไว้เพื่อจำกัดขอบเขตของโมเดลเกิดพังลง การรั่วไหลของข้อมูล, การกระทำที่ไม่ได้รับอนุญาต และการละเมิดกฎระเบียบจะตามมาอย่างรวดเร็ว
เหตุการณ์นี้ควรผลักดันให้ทีมต่างๆ กลับมาทบทวนวิธีการทดสอบความปลอดภัย การทำ red-team exercises เพียงครั้งเดียวก่อนการเปิดตัวนั้นไม่เพียงพอ เพราะโมเดลมีการเปลี่ยนแปลง (drift), prompt มีการกลายพันธุ์ และการเชื่อมต่อต่างๆ จะขยายขอบเขตการโจมตี (attack surface) อย่างต่อเนื่อง คุณจำเป็นต้องมีการทดสอบแบบเผชิญหน้า (adversarial testing) อย่างสม่ำเสมอ โดยปฏิบัติกับตัว sandbox เองในฐานะเป้าหมาย ไม่ใช่แค่ตัวโมเดลที่อยู่ข้างใน
สำหรับธุรกิจที่ใช้บริการ AI จากบุคคลที่สาม บทเรียนนี้ก็ชัดเจนเช่นกัน จงถามผู้ให้บริการของคุณว่า sandbox ของพวกเขามีโครงสร้างอย่างไร ถามว่าจะเกิดอะไรขึ้นหากความพยายามทำ prompt injection ประสบความสำเร็จ ถามว่าใครจะต้องเป็นผู้รับผิดชอบหากโมเดลเข้าถึงข้อมูลที่ไม่ควรเข้าถึง หากคำตอบที่ได้นั้นคลุมเครือ แสดงว่าข้อมูลของคุณกำลังตกอยู่ในความเสี่ยงแล้ว
รัฐบาลเปลี่ยนจากการเฝ้าสังเกตเป็นการออกกฎระเบียบ
หน่วยงานกำกับดูแลใช้เวลา 18 เดือนที่ผ่านมาในการประกาศหลักการ, จัดการรับฟังความคิดเห็น และบอกใบ้ถึงกรอบการทำงานต่างๆ แต่ในสัปดาห์นี้ ท่าทีได้เปลี่ยนไป รัฐบาลได้เปลี่ยนจากการเฝ้าสังเกตมาเป็นการดำเนินการที่เป็นรูปธรรม โดยการร่างกฎระเบียบที่จะกำหนดว่าการนำ AI ไปใช้งานจริงในอุตสาหกรรมที่มีการควบคุมนั้นจะมีหน้าตาเป็นอย่างไร
พวกเขายังให้ความสนใจเป็นพิเศษต่อบริษัทเทคโนโลยีขนาดใหญ่ เมื่อหน่วยงานกำกับดูแลพิจารณาเรื่องขนาด สิ่งที่พวกเขาพิจารณาคือการกระจุกตัว ตลาดที่มีผู้ให้บริการเพียงไม่กี่รายเป็นผู้จัดหาโครงสร้างพื้นฐาน โมเดล และช่องทางการจัดจำหน่าย จะสร้างความเสี่ยงเชิงระบบ หากแพลตฟอร์มใดแพลตฟอร์มหนึ่งเปลี่ยนนโยบายความปลอดภัยหรือราคาเพียงชั่วข้ามคืน ธุรกิจปลายน้ำหลายพันแห่งจะได้รับผลกระทบทันที
สำหรับผู้ประกอบการ คลื่นการกำกับดูแลที่กำลังจะมาถึงไม่ใช่แค่เรื่องน่าปวดหัวด้านการปฏิบัติตามกฎระเบียบเท่านั้น แต่มันคือสัญญาณให้คุณเริ่มจัดทำเอกสารเกี่ยวกับห่วงโซ่อุปทาน AI ของคุณ หน่วยงานกำกับดูแลจะต้องการทราบว่าโมเดลของคุณมาจากไหน ใช้ข้อมูลใดในการฝึกฝน และคุณตรวจสอบผลลัพธ์ของโมเดลอย่างไร การใช้โมเดลแบบ open source ที่โฮสต์เองอาจช่วยป้องกันคุณจากความผันผวนที่เกิดจากผู้ให้บริการรายใหญ่ได้บ้าง แต่ก็มาพร้อมกับภาระในการจัดทำเอกสารของตัวเองเช่นกัน
เริ่มเตรียมตัวตั้งแต่วันนี้ สำรวจเครื่องมือ AI ทุกชนิดที่ใช้อยู่ในองค์กรของคุณ แม้แต่เครื่องมือที่ไม่เป็นทางการซึ่งพนักงานสมัครใช้งานด้วยอีเมลบริษัทก็ตาม ระบุว่ากระบวนการใดบ้างที่มีการสัมผัสกับข้อมูลที่ละเอียดอ่อนของลูกค้า สร้างรายการตรวจสอบการกำกับดูแล (governance checklist) แบบง่ายๆ ได้แก่ แหล่งที่มาของโมเดล, นโยบายการจัดเก็บข้อมูล, โปรโตคอลการตรวจสอบโดยมนุษย์ และแผนการตอบสนองต่อเหตุการณ์ เมื่อกฎระเบียบมาถึง การมีรายการเหล่านี้พร้อมจะช่วยแยกบริษัทที่สามารถปรับตัวได้ภายในไม่กี่สัปดาห์ ออกจากบริษัทที่ต้องวุ่นวายแก้ปัญหาเป็นเวลาหลายเดือน
สิ่งนี้มีความหมายอย่างไรต่อการทำงานของคุณ
ความเชื่อมโยงระหว่างเหตุการณ์ทั้งสามนี้เป็นเรื่องในทางปฏิบัติ ไม่ใช่แค่ทฤษฎี และนี่คือวิธีตอบสนองโดยไม่หลงไปกับกระแสข่าวที่วุ่นวาย
ตรวจสอบการผสมผสานโมเดลของคุณ หากคุณใช้โมเดลเพียงตัวเดียวสำหรับทุกอย่าง คุณอาจกำลังจ่ายแพงเกินไปและได้ประสิทธิภาพไม่เต็มที่ ลองประเมินดูว่าโมเดลเฉพาะทางสามารถจัดการงานประจำวันได้ถูกกว่าและเร็วกว่าหรือไม่ ให้ทำการทดสอบเปรียบเทียบกับภาระงานจริง ไม่ใช่แค่การสาธิตทางการตลาด
ปฏิบัติกับการเชื่อมต่อ AI ทุกอย่างเสมือนเป็นขอบเขตความปลอดภัย ให้สันนิษฐานไว้ก่อนว่า sandbox อาจล้มเหลวได้ จำกัดการเปิดเผยข้อมูลโดยป้อนข้อมูลให้โมเดลเฉพาะเท่าที่จำเป็นต้องใช้เพื่อทำงานให้สำเร็จ หลีกเลี่ยงการเชื่อมต่อผู้ช่วยอัจฉริยะทั่วไป (general-purpose assistants) เข้ากับระบบภายในที่กว้างขวาง เว้นแต่คุณจะมีระบบบันทึกข้อมูล (logging), การจำกัดอัตราการใช้งาน (rate limiting) และสวิตช์ตัดการทำงาน (kill switches) ที่ชัดเจน
เตรียมพร้อมสำหรับการเปลี่ยนแปลงด้านกฎระเบียบ กฎระเบียบกำลังจะมาถึง เริ่มร่างนโยบายภายในตั้งแต่วันนี้ ทั้งในเรื่องความโปร่งใส การทดสอบความลำเอียง (bias testing) และการกำกับดูแลโดยมนุษย์ หากคุณรอจนกว่าตัวบทกฎหมายจะประกาศใช้อย่างเป็นทางการ คุณจะตามหลังคู่แข่งที่เตรียมตัวไว้ล่วงหน้าแล้ว
คัดกรองสิ่งที่คุณให้ความสนใจ เลิกติดตามทุกพาดหัวข่าว ให้สมัครรับข้อมูลจากแหล่งข่าวที่เชื่อถือได้เพียงหนึ่งหรือสองแห่ง ตรวจสอบเป็นรายสัปดาห์ และใช้เวลาที่เหลือไปกับการทดสอบเครื่องมือต่างๆ ตามความต้องการของคุณเอง กระแสข่าวในอุตสาหกรรมนั้นมีไม่สิ้นสุด แต่บริบททางธุรกิจของคุณนั้นมีความเฉพาะตัว
บทสรุป
อำนาจยังคงมีความสำคัญในโลก AI แต่ไม่ใช่สิ่งเดียวที่สำคัญอีกต่อไป สัปดาห์นี้แสดงให้เห็นว่าการนำไปใช้งานในระยะต่อไปจะถูกกำหนดโดยโมเดลใดที่สามารถนำมาใช้งานได้อย่างปลอดภัย ผู้ให้บริการรายใดสามารถปกป้องข้อมูลลูกค้าได้ และองค์กรใดที่สามารถรับมือกับสภาพแวดล้อมด้านกฎระเบียบที่เข้มงวดขึ้นได้
การเปิดตัวผลิตภัณฑ์ใหม่ของ Google ช่วยให้คุณมีเครื่องมือในการทำงานมากขึ้น การรั่วไหลของ sandbox เตือนให้คุณรู้ว่าเครื่องมือเหล่านั้นจำเป็นต้องมีขอบเขตที่แข็งแกร่ง และแรงขับเคลื่อนด้านกฎระเบียบกำลังบอกคุณว่ายุคแห่งการทดลองแบบไร้ขอบเขตกำลังจะสิ้นสุดลง
ให้มุ่งเน้นไปที่การเปลี่ยนแปลงที่ส่งผลต่อข้อมูล เวิร์กโฟลว์ และความเสี่ยงทางกฎหมายของคุณ ส่วนเรื่องอื่นๆ ก็เป็นเพียงเสียงรบกวนประกอบฉากเท่านั้น
อ่านบทวิเคราะห์ฉบับเต็มได้ ที่นี่
เข้าร่วมชุมชนแห่งการเรียนรู้ของ GyaanSetu ได้ที่ Telegram