ทำไมถึงต้องเร่งนำ AI มาใช้
ผู้ผลิตอุปกรณ์กำลังตกอยู่ภายใต้ความกดดันในการลดระยะเวลาในกระบวนการทำงาน (cycle times) ปรับปรุงการจัดการข้อร้องเรียน และขุดค้นข้อมูลจากกระแสข้อมูลที่เพิ่มขึ้นอย่างต่อเนื่อง ในขณะเดียวกัน หน่วยงานกำกับดูแลที่ทำหน้าที่อนุมัติอุปกรณ์ฝังตัวหรือการทดสอบวินิจฉัยใหม่ๆ ก็กำลังเพิ่มความเข้มงวดในการตรวจสอบซอฟต์แวร์ที่ใช้ในการนำทางการตัดสินใจทางคลินิก
คู่มือการดำเนินงานแบบทีละขั้นตอน
1. กำหนดวัตถุประสงค์การใช้งาน (intended use) ก่อนเลือกโมเดล
เขียนข้อความที่กระชับเพื่อระบุกลุ่มผู้ใช้งาน ข้อมูลที่จะป้อนเข้าสู่ระบบ และที่สำคัญที่สุดคือ สิ่งที่ระบบ ต้องไม่ ทำ ตัวอย่างเช่น ผู้ช่วย AI อาจได้รับอนุญาตให้สรุปข้อร้องเรียนได้ แต่ต้องไม่ได้รับอนุญาตให้ออกรายงานทางการแพทย์ฉบับสมบูรณ์โดยเด็ดขาด
2. วางแผนผังกระบวนการทำงานในปัจจุบัน (workflow)
บันทึกขั้นตอนการทำงานระหว่างแผนกต่างๆ ในปัจจุบัน เช่น ฝ่ายกิจการทางการแพทย์ (medical affairs), ฝ่ายกำกับดูแล (regulatory), ฝ่ายควบคุมคุณภาพ (quality) เป็นต้น โดยระบุจุดส่งต่องาน ระยะเวลาในกระบวนการทำงาน (cycle times) และอัตราความผิดพลาดที่มีอยู่ ข้อมูลพื้นฐานนี้จะช่วยให้คุณเห็นว่า AI สามารถเพิ่มมูลค่าได้ในจุดใด และจุดใดที่ AI ต้องไม่เข้าไปรบกวนการควบคุมที่สำคัญ
3. ดำเนินการบริหารจัดการความเสี่ยงโดยใช้มาตรฐาน ISO 14971
ปฏิบัติต่อความเสี่ยงของ AI เช่นเดียวกับอันตรายที่เกิดจากอุปกรณ์ อย่าแยก "ทะเบียนความเสี่ยงสำหรับ AI เท่านั้น" ออกมาต่างหาก แต่ให้รวมความล้มเหลวที่อาจเกิดขึ้น เช่น ผลลัพธ์ที่ไม่ถูกต้องหรือล่าช้า เข้าไปในการวิเคราะห์ความปลอดภัยในภาพรวม โดยพิจารณาว่าความล้มเหลวนั้นส่งผลกระทบต่อความปลอดภัยของผู้ป่วยหรือไม่ และกำหนดระดับความรุนแรงและความน่าจะเป็นตามความเหมาะสม
4. สร้างรากฐานข้อมูลที่เชื่อถือได้
AI ต้องการข้อมูลที่สะอาดและมีบริบท ให้จัดทำรายการบันทึกข้อมูลที่จะป้อนเข้าสู่โมเดล เช่น รายงานการบริการ, รหัสระบุอุปกรณ์, ไฟล์ความเสี่ยง เป็นต้น ปรับรูปแบบรหัสระบุให้เป็นมาตรฐานเดียวกัน (normalize) เพื่อให้ระบบสามารถเชื่อมโยงข้อร้องเรียนเข้ากับล็อตผลิตหรือเวอร์ชันซอฟต์แวร์ที่ถูกต้อง และลบข้อมูลที่ล้าสมัยออก นอกจากนี้ ให้ใช้การควบคุมการเข้าถึงแบบเดียวกับที่คุณใช้อยู่แล้วเพื่อป้องกันข้อมูลส่วนบุคคลรั่วไหล
5. สร้างชุดข้อมูลสำหรับประเมินผลก่อนการปรับแต่ง Prompt
รวบรวมคลังข้อมูลสำหรับทดสอบที่สะท้อนถึงโลกความเป็นจริง เช่น ข้อร้องเรียนทั่วไป, กรณีที่เกิดขึ้นได้ยาก (edge cases), ข้อมูลนำเข้าหลายภาษา และบันทึกการบริการที่ขัดแย้งกัน โดยต้องตัดข้อมูลส่วนบุคคลออกเพื่อให้เป็นไปตามนโยบายความเป็นส่วนตัว ชุดข้อมูลนี้จะกลายเป็นเกณฑ์มาตรฐาน (benchmark) สำหรับการวัดประสิทธิภาพของโมเดลและการเบี่ยงเบน (drift)
6. แยกกฎเกณฑ์ออกจากส่วนการสร้างเนื้อหา (generation)
อย่าปล่อยให้โมเดลภาษาตัดสินใจทุกอย่าง ให้ใช้โค้ดแบบกำหนดผลลัพธ์แน่นอน (deterministic code) สำหรับฟิลด์ที่จำเป็น การคำนวณกำหนดเวลา และการตรวจสอบด้านกฎระเบียบ ส่วนโมเดลนั้นให้สงวนไว้สำหรับงานที่เน้นด้านภาษา เช่น การสรุปความหรือการแปลภาษา การแยกส่วนเช่นนี้จะช่วยให้กระบวนการทำงานสามารถตรวจสอบย้อนกลับได้ และลดโอกาสที่ผลลัพธ์ที่เกิดจากการหลอน (hallucinated output) จะหลุดรอดออกมา
7. ดำเนินการตามลำดับขั้นตอนที่ควบคุมได้
กระบวนการทำงานที่ปลอดภัยมักจะดำเนินตามลำดับดังนี้:
- ยืนยันตัวตนผู้ใช้งาน
- ดึงหลักฐานที่ได้รับการอนุมัติแล้ว (เช่น รายงานก่อนหน้า, ประวัติอุปกรณ์)
- ใช้กฎทางธุรกิจที่ตายตัว (hard business rules) เพื่อตรวจสอบความครบถ้วน
- สร้างร่างเนื้อหาที่รวมการอ้างอิงแหล่งที่มา
- ทำเครื่องหมายระบุความไม่แน่นอนหรือความขัดแย้งที่ตรวจพบโดยโมเดล
- กำหนดให้ผู้ตรวจสอบที่เป็นมนุษย์เป็นผู้ยอมรับ แก้ไข หรือปฏิเสธร่างเนื้อหานั้น
บันทึก (log) ทุกขั้นตอนเพื่อการตรวจสอบย้อนกลับ
8. ตรวจสอบความถูกต้อง (Verify) และยืนยันความเหมาะสม (Validate) ของระบบ
การตรวจสอบความถูกต้อง (Verification) คือการเช็กว่าคุณสร้างระบบได้ถูกต้องตามที่ออกแบบไว้หรือไม่ เช่น เวอร์ชันของโมเดลที่ถูกต้อง, การออกแบบ Prompt, ตรรกะการดึงข้อมูล และอินเทอร์เฟซสำหรับการตรวจสอบโดยมนุษย์ ส่วนการยืนยันความเหมาะสม (Validation) คือการยืนยันว่าคุณสร้างระบบที่ตอบโจทย์ผู้ใช้งานจริงหรือไม่ เช่น เครื่องมือนี้ช่วยลดระยะเวลาในกระบวนการทำงานโดยไม่เพิ่มอัตราความผิดพลาดหรือไม่? ให้ใช้ชุดข้อมูลประเมินผลแบบเดียวกับที่ใช้ในขั้นตอนที่ 5 จากนั้นจึงทำการทดสอบการยอมรับโดยผู้ใช้ (user-acceptance testing) กับผู้ปฏิบัติงานจริง
9. ติดตามและกำกับดูแลหลังการใช้งานจริง
เริ่มใช้งานเครื่องมือทีละน้อยและติดตามตัวชี้วัดหลัก เช่น จำนวนร่างที่ถูกปฏิเสธ, ความล้มเหลวในการดึงข้อมูล และการเปลี่ยนแปลง Prompt ใดๆ ให้ถือว่าการปรับแต่ง Prompt หรือการอัปเกรดโมเดลเป็นการเปลี่ยนแปลงการกำหนดค่า (configuration change) ซึ่งต้องผ่านกระบวนการ CAPA ที่มีอยู่เดิมของคุณ และให้นำรูปแบบความล้มเหลวกลับไปบันทึกในทะเบียนความเสี่ยงเพื่อให้ข้อมูลใน ISO 14971 เป็นปัจจุบันอยู่เสมอ
บทสรุป
การนำ Generative AI มาใช้ใน MedTech ไม่ใช่เพียงการนำโมเดลแบบกล่องดำ (black-box model) มาใช้งาน แต่คือการหลอมรวมโมเดลเข้ากับระบบคุณภาพที่มีการบันทึกเป็นลายลักษณ์อักษรอยู่แล้ว ซึ่งทุกผลลัพธ์สามารถตรวจสอบย้อนกลับได้ ทุกความเสี่ยงได้รับการจัดการ และทุกการตัดสินใจยังคงอยู่ภายใต้การควบคุมของมนุษย์ หากปฏิบัติตามทั้งเก้าขั้นตอนและปฏิบัติกับการเปลี่ยนแปลงของ AI เสมือนเป็นการเปลี่ยนแปลงการกำหนดค่าอื่นๆ คุณก็จะสามารถบรรลุเป้าหมายในการสร้างกระบวนการทำงานที่รวดเร็วและชาญฉลาดยิ่งขึ้นได้ โดยไม่ลดทอนความปลอดภัยหรือสถานะด้านการกำกับดูแล