The Greatest Danger to AI

คนส่วนใหญ่กลัวเครื่องจักรที่ตื่นขึ้นมา

แต่อันตรายที่แท้จริงนั้นเงียบเชียบกว่า

AI อาจไม่ได้ล้มเหลวเพราะมันฉลาดเกินไป แต่มันอาจล้มเหลวเพราะเราวางยาข้อมูลที่มันใช้เรียนรู้

ภายในปี 2029 โมเดลต่างๆ จะมีขนาดใหญ่ขึ้น มีความสามารถในการใช้เหตุผลที่ดีขึ้น และมีเอเจนต์ (agents) มากขึ้น บริษัทต่างๆ จะให้ความไว้วางใจพวกมันมากขึ้น

โมเดลเหล่านี้ฝึกฝนจากอินเทอร์เน็ต พวกมันอ่านบล็อก ฟอรัม โซเชียลมีเดีย และงานวิจัยต่างๆ

แต่อินเทอร์เน็ตกำลังเปลี่ยนไป

บอต บริษัท และกลุ่มการเมืองต่างๆ กำลังเผยแพร่เนื้อหาในสเกลที่มหาศาล พวกเขาไม่ได้แค่โพสต์สแปม แต่โพสต์เนื้อหาที่เขียนอย่างดีและดูน่าเชื่อถือ

อินเทอร์เน็ตกำลังกลายเป็นสมรภูมิสำหรับชุดข้อมูลฝึกฝน (training datasets)

การโฆษณาชวนเชื่อแบบดั้งเดิมมุ่งเป้าไปที่ผู้คน แต่ในโลกของ AI เป้าหมายคือตัวโมเดลเอง

หากคำโกหกหรือความลำเอียงหลุดเข้าไปในข้อมูลฝึกฝน มันจะกลายเป็นส่วนหนึ่งของ AI มันจะไม่เป็นเพียงแค่คำอ้างอิง แต่มันจะกลายเป็นข้อสันนิษฐานพื้นฐาน และกลายเป็นคำตอบที่ฟังดูสมเหตุสมผล

นี่ไม่ใช่แค่การโจมตีทางเทคนิค แต่มันคือการเปลี่ยนแปลงที่แนบเนียน

เป้าหมายไม่ใช่การทำลายโมเดล แต่คือการบิดเบือนมัน

พิจารณาความเสี่ยงเหล่านี้:

  • หน้าเว็บปลอมนับพันทำให้ผลิตภัณฑ์ดูเหมือนปลอดภัย
  • การแชทปลอมของนักพัฒนาทำให้โค้ดที่ไม่ปลอดภัยดูเหมือนเป็นแนวทางปฏิบัติที่ดีที่สุด (best practice)
  • เรื่องราวทางการเมืองถูกวางแผนไว้ล่วงหน้าหลายปีก่อนการเลือกตั้ง
  • ความคิดเห็นที่สร้างขึ้น (synthetic opinions) จะกลายเป็นเสียงของเหล่าผู้ช่วยในอนาคต

อันตรายไม่ใช่คำโกหกเพียงคำเดียว แต่อันตรายคือแผนที่แห่งความจริงที่บิดเบือน

อินเทอร์เน็ตถูกสร้างขึ้นเพื่อการสื่อสารและการพาณิชย์ ไม่ได้ถูกสร้างมาเพื่อให้เป็นชุดข้อมูลที่สะอาด

ตอนนี้ผู้คนเขียนเนื้อหาเพื่อโมเดลในอนาคต แทนที่จะเขียนให้ผู้อ่านที่เป็นมนุษย์

  • โพสต์บล็อกกลายเป็นเมล็ดพันธุ์
  • รีวิวปลอมกลายเป็นสัญญาณในการฝึกฝน (training signal)
  • บทความทางเทคนิคกลายเป็นข้อแนะนำด้านพฤติกรรม

คำโกหกเล็กๆ น้อยๆ นับพันจะกลายเป็นความจริงทางสถิติ

AI รับสืบทอดเอกสาร เสียงรบกวน และการบิดเบือนของเรา หากอินเทอร์เน็ตยังคงปนเปื้อน โมเดลก็จะเรียนรู้จากความบิดเบือนเหล่านั้น

คำถามไม่ใช่แค่ "เราจะทำให้ AI ปลอดภัยได้อย่างไร?"

คำถามที่แท้จริงคือ "เราจะรักษาความรู้ของเราให้ปลอดภัยเพื่อให้ AI เรียนรู้ได้อย่างไร?"

โมเดลในวันพรุ่งนี้เรียนรู้จากอินเทอร์เน็ตในวันนี้ และผู้คนก็กำลังเขียนเนื้อหาเพื่อโมเดลเหล่านั้นอยู่แล้ว

Source: https://dev.to/marrouchi/the-greatest-danger-to-ai-6km