เมื่อ AGI อาจกลายเป็นรัฐบาลโลกโดยไม่ตั้งใจ

TL;DR

• องค์กรแรกที่สร้าง AGI สำเร็จอาจกลายเป็นผู้ปกครองโลกโดยไม่ได้ตั้งใจ หาก intelligence explosion เกิดขึ้นอย่างรวดเร็ว
• โครงการที่นำโดยรัฐบาลหลายประเทศร่วมกันจะปลอดภัยกว่าการให้บริษัทเอกชนควบคุม AGI
• ประเทศไทยต้องเตรียมตัวเลือกข้างและสร้างขีดความสามารถ AI ของตัวเองให้พร้อม

แนวคิดหลัก

ลองจินตนาการดูว่าถ้าวันหนึ่ง OpenAI หรือ Google ประกาศว่าพวกเขาสร้าง AGI ที่ฉลาดกว่ามนุษย์ได้สำเร็จแล้ว แล้วจะเกิดอะไรขึ้น? หากเทคโนโลยีนี้พัฒนาไปอย่างรวดเร็วจนกลายเป็น superintelligence ที่เหนือกว่ามนุษย์ในทุกด้าน คณะกรรมการหรือทีมผู้บริหารของบริษัทนั้นก็จะมีอำนาจเหนือโลกทั้งใบโดยอัตโนมัติ

เรื่องนี้ไม่ใช่แค่นิยายวิทยาศาสตร์นะ แต่เป็นความเป็นไปได้จริงที่นักวิจัย AI หลายคนกำลังกังวลกันอยู่ เพราะ AGI ที่ถูกออกแบบให้เชื่อฟังคำสั่งของกลุมคนเล็กๆ จะทำให้กลุมนั้นมีอำนาจสูงสุดในการควบคุมเทคโนโลยีที่ทรงพลังที่สุดในประวัติศาสตร์มนุษยชาติ

ทำไมถึงเป็นเช่นนั้น

ปัญหาหลักอยู่ที่การ "align" AI ให้ทำในสิ่งที่เราต้องการ เมื่อสร้าง AGI ขึ้นมาแล้ว ใครก็ตามที่ได้ตัดสินใจว่า AI ตัวนี้จะมีเป้าหมายและค่านิยมอะไร คนๆ นั้นก็จะกลายเป็นผู้มีอำนาจสูงสุดไปโดยปริยาย เหมือนกับที่ OpenAI มี board ที่ควบคุมการตัดสินใจสำคัญ แต่ถ้าเป็น AGI จริงๆ board นั้นก็จะมีอำนาจเหนือโลกทั้งใบเลย

แล้วทำไมถึงกลายเป็นรัฐบาลโลก? เพราะความได้เปรียบจาก superintelligence จะมหาศาลมาก มันจะสามารถทำให้เศรษฐกิจเป็นอัตโนมัติได้ 99% สร้างกองทัพหุ่นยนต์ได้อย่างรวดเร็ว และที่สำคัญคือป้องกันไม่ให้คนอื่นพัฒนา AI ระดับเดียวกันได้ เหมือนกับการมีเทคโนโลยีที่เหนือกว่าคนอื่นหลายร้อยปี

การแข่งขันแบบปกติจะหยุดลงทันที เพราะไม่มีใครสู้ได้ องค์กรที่ควบคุม AGI จะสามารถแก้ปัญหาทุกอย่างได้ตั้งแต่โรคภัยไข้เจ็บไปจนถึงการเปลี่ยนแปลงสภาพภูมิอากาศ แต่ในขณะเดียวกันก็จะมีอำนาจในการควบคุมทุกคนบนโลกใบนี้ด้วย

ตัวอย่างในชีวิตจริง

ดูจากกรณี TikTok สิ เมื่อรัฐบาลสหรัฐฯ เห็นว่า TikTok มีอิทธิพลต่อประชาชนมากเกินไป พวกเขาก็เข้ามาแทรกแซงทันที แต่นั่นเป็นแค่แอปโซเชียลมีเดีย ลองจินตนาการดูว่าถ้าเป็น AGI ที่มีอำนาจมากกว่านั้นเป็นพันเท่า รัฐบาลจะยอมปล่อยให้บริษัทเอกชนควบคุมได้หรือเปล่า?

นั่นคือเหตุผลที่บริษัทเอกชนมีโอกาสน้อยกว่าที่จะกลายเป็นรัฐบาลโลก เพราะรัฐบาลสามารถเข้ามายึดควบคุมได้เสมอ เหมือนกับที่เราเห็นรัฐบาลจีนควบคุม Alibaba และ Tencent เมื่อพวกเขาใหญ่เกินไป หรือรัฐบาลสหรัฐฯ ที่พยายามควบคุม Meta และ Google

แต่ถ้าเป็นโครงการที่รัฐบาลหลายประเทศร่วมกันตั้งแต่แรกล่ะ? มันจะเหมือน Manhattan Project แต่ในระดับโลก โครงการแบบนี้จะมีความชอบธรรมมากกว่า เพราะไม่ใช่ประเทศเดียวที่ควบคุม และจะมีอำนาจแข็งกว่าด้วย เพราะครอบคลุม supply chain ของเซมิคอนดักเตอร์และลดจำนวนประเทศที่อาจเป็นศัตรู

บริบทไทย

สำหรับเมืองไทยเรา เรื่องนี้หมายความว่าอะไร? เราอยู่ในจุดที่ต้องเลือกข้างในการแข่งขันเทคโนโลยีระหว่างมหาอำนาจ ไทยมีความสัมพันธ์ที่ดีกับทั้งสหรัฐฯ และจีน แต่เมื่อถึงจุดที่ AGI กลายเป็นเรื่องจริง เราอาจต้องเลือกว่าจะอยู่ฝั่งไหน

ที่สำคัญกว่านั้น เราต้องเตรียมตัวรับมือกับการเปลี่ยนแปลงที่อาจเกิดขึ้นอย่างรวดเร็ว หาก intelligence explosion เกิดขึ้นจริง ประเทศที่ไม่พร้อมอาจถูกทิ้งไว้ข้างหลัง หรือแย่กว่านั้นคือถูกควบคุมโดยไม่สามารถต่อรองได้

ไทยควรลงทุนเสริมสร้างขีดความสามารถด้าน AI ของเราเองให้แข็งแกร่งขึ้น ไม่จำเป็นต้องแข่งขันสร้าง AGI แต่อย่างน้อยต้องมีความเข้าใจและความสามารถพอที่จะเป็นพันธมิตรที่มีค่า ไม่ใช่แค่เป็นผู้รับเทคโนโลยีเท่านั้น

การสร้างความสัมพันธ์กับประเทศอื่นๆ ในอาเซียนก็สำคัญเหมือนกัน เพราะถ้าเราร่วมมือกันได้ เราจะมีอำนาจต่อรองมากขึ้น และอาจได้รับประโยชน์จากเทคโนโลยี AGI อย่างเป็นธรรมมากกว่า

ข้อควรระวัง

แน่นอนว่าสถานการณ์นี้อาจไม่เกิดขึ้นตามที่คาดการณ์ไว้ก็ได้ Intelligence explosion อาจไม่เกิดขึ้นเร็วหรือรุนแรงเท่าที่คิด ทำให้คู่แข่งตามทันได้ หรือเทคโนโลยี AGI อาจไม่ได้ให้ความได้เปรียบมากขนาดที่จะครอบงำโลกได้

อีกด้านหนึ่งคือรัฐบาลอาจจัดการความเสี่ยงด้านความปลอดภัยของ AI ได้แย่กว่าบริษัทเอกชน เพราะขาดความเชี่ยวชาญทางเทคนิคและมีกระบวนการที่ช้า การผลักดันให้เป็นโครงการรัฐบาลอาจทำให้การพัฒนาช้าลงและเกิดข้อผิดพลาดที่อันตรายได้

ปัญหาใหญ่อีกอันคือประเทศเผด็จการอาจไม่ยอมรับการถูกแยกออกจากโครงการ AGI ที่สำคัญ พวกเขาอาจใช้วิธีการรุนแรง เช่น ขโมย model weights หรือโจมตีทางทหาร หากรู้สึกถูกคุกคาม นี่อาจนำไปสู่สงครามโลกก่อนที่ AGI จะเสร็จสมบูรณ์ด้วยซ้ำ

การออกแบบรัฐบาลโลกที่เหมาะสมก็เป็นเรื่องยากมาก เราจะแน่ใจได้อย่างไรว่าโครงการชั่วคราวจะไม่กลายเป็นเผด็จการถาวร? การให้ประโยชน์กับประเทศที่ไม่ได้เข้าร่วมโครงการอย่างยั่งยืนก็ซับซ้อนไม่แพ้กัน

สุดท้ายแล้ว เราต้องระวังไม่ให้ตกไปในกับดักของการคิดว่าต้องป้องกัน AGI ทุกรูปแบบ แทนที่จะโฟกัสที่การออกแบบ governance ที่ดี หรือผลักดันประชาธิปไตยระดับโลกแบบสุดโต่งจนทำให้สหรัฐฯ ไม่อยากเข้าร่วมโครงการหลายประเทศ ความสมดุลระหว่างการควบคุมและการพัฒนาเป็นกุญแจสำคัญที่จะกำหนดอนาคตของมนุษยชาติ