ผู้เชี่ยวชาญทั่วโลกเตือนเรื่องความเสี่ยง AI ออสเตรเลียเตรียมตัวรับมืออย่างไร

ฟังพอดคาสต์ในเรื่องอื่นๆ ของเราได้ที่นี่

เกือบ 60 ปีหลังจากที่สแตนลีย์ คูบริก (Stanley Kubrick) พาผู้ชมไปรู้จักกับ HAL ปัญญาประดิษฐ์ที่พร้อมปกป้องตัวเองจากมนุษย์ที่ควบคุมมัน ผู้ที่กำลังพัฒนาระบบ AI ในปัจจุบันบางส่วนบอกว่า คำถามสำคัญที่อยู่เบื้องหลังเรื่องนี้ไม่ได้จำกัดอยู่แค่ในโลกของนิยายวิทยาศาสตร์อีกต่อไป

ความกังวลนี้มุ่งไปที่สิ่งที่นักวิจัยเรียกว่า “ปัญญาประดิษฐ์ที่เหนือกว่ามนุษย์” หรือ superintelligence ซึ่งหมายถึงความเป็นไปได้ที่ในอนาคต AI อาจมีความสามารถเหนือกว่ามนุษย์ และยากต่อการควบคุมมากขึ้นเรื่อย ๆ

ในการประชุม Artificial Intelligence Masterclass ซึ่งเป็นส่วนหนึ่งของ Sydney Dialogue จัสติน บาสซี ผู้อำนวยการบริหารของ Australian Strategic Policy Institute กล่าวว่า การเปลี่ยนแปลงที่เกิดขึ้นอย่างรวดเร็วทำให้คำถามเกี่ยวกับเรื่องนี้ยิ่งเร่งด่วนมากขึ้น

"สถานการณ์กำลังเปลี่ยนแปลงอย่างรวดเร็วมาก ในช่วงสุดสัปดาห์ที่ผ่านมา เราได้เห็นผู้นำในอุตสาหกรรม 3 คนออกมายอมรับว่า การพัฒนา AI กำลังก้าวไปเร็วกว่ามาตรการด้านความปลอดภัย จึงจำเป็นต้องชะลอการพัฒนาลง หากยังสามารถทำได้"

คำเตือนดังกล่าวมีขึ้นหลัง เจคอบ ค็อกซอน นักวิจัยด้าน AI วัย 27 ปี ลาออกจาก Anthropic บริษัทผู้พัฒนา Claude

นายค็อกซอน ซึ่งก่อนหน้านี้เคยทำงานที่ OpenAI กล่าวว่า เขาตัดสินใจลาออก เพราะเชื่อว่าอุตสาหกรรม AI กำลังแข่งขันกันพัฒนาไปสู่ “superintelligence” หรือ AI ที่สามารถพัฒนาความสามารถของตัวเองให้สูงขึ้นได้ โดยยังไม่มีมาตรการป้องกันความเสี่ยงที่เพียงพอ

 "ผมเชื่อว่ามีความเป็นไปได้ที่มนุษยชาติอาจสูญพันธุ์"

นายค็อกซอนเขียนบนแพลตฟอร์มโซเชียลมีเดีย X ว่า ทั้ง Anthropic และ OpenAI ต่างไม่ได้ดำเนินการอย่างมีความรับผิดชอบ พร้อมกล่าวหาว่าบริษัทเหล่านี้กำลังเร่งแข่งขันไปสู่การพัฒนา AI ระดับ superintelligence ที่สามารถพัฒนาตัวเองได้ และกำลังนำชีวิตของมนุษย์มาเสี่ยง

สิ่งที่เขากังวลคือแนวคิดที่เรียกว่า recursive self-improvement หรือกระบวนการที่ระบบ AI เข้ามามีบทบาทมากขึ้นในการช่วยพัฒนาระบบ AI รุ่นต่อไปให้มีความสามารถสูงยิ่งขึ้น

"สิ่งที่เกิดขึ้นคือสิ่งที่เรียกว่า ‘การระเบิดทางปัญญา’ หรือ intelligence explosion ซึ่ง AI จะฉลาดขึ้นเรื่อย ๆ โดยไม่จำเป็นต้องมีมนุษย์เข้ามาเกี่ยวข้อง"

และเขาไม่ใช่คนเดียวที่ออกมาแสดงความกังวลในเรื่องนี้

อีวาน ฮูบิงเกอร์ นักวิจัยของ Anthropic ออกมาสนับสนุนคำเตือนของนายค็อกซอน โดยระบุต่อสาธารณะว่า เขาเชื่อว่ามีโอกาสมากกว่า 10% ที่ AI ขั้นสูงอาจคร่าชีวิตมนุษย์ทั้งหมดภายในช่วง 10 ปีข้างหน้า

เจฟฟรีย์ ฮินตัน) นักวิทยาศาสตร์คอมพิวเตอร์ชาวอังกฤษ-แคนาดา ซึ่งมักได้รับการยกย่องว่าเป็นหนึ่งใน “บิดาแห่ง AI สมัยใหม่” ก็ออกมาเตือนถึงผลกระทบที่อาจเกิดขึ้นเช่นกัน

“มันสามารถสร้างความโกลาหลอย่างรุนแรงได้ เพียงแค่พูดคุยกับผู้คน แต่มันยังอาจออกแบบไวรัสที่อันตรายอย่างมาก ทั้งไวรัสทางชีวภาพและไวรัสคอมพิวเตอร์ สามารถก่อการโจมตีทางไซเบอร์ที่สร้างความเสียหายร้ายแรง และยังมีอีกนับไม่ถ้วนที่มันอาจใช้กำจัดพวกเรา หากมันต้องการ ดังนั้นเราจึงต้องหาวิธีออกแบบมันให้ไม่ต้องการทำเช่นนั้น”

อย่างไรก็ตาม สถานการณ์เหล่านี้ยังเป็นเพียงการคาดการณ์ ไม่ใช่สิ่งที่ระบบ AI ในปัจจุบันสามารถทำได้

แต่นักวิจัยกำลังศึกษาพฤติกรรมที่ไม่คาดคิดของ AI ที่สามารถทำงานได้อย่างอิสระมากขึ้น หรือที่เรียกว่า AI agents รวมถึงกรณีที่ระบบทำงานออกนอกขอบเขตที่กำหนดไว้ และพยายามเข้าถึงทรัพยากรจากภายนอก

คำถามสำคัญสำหรับรัฐบาลต่าง ๆ ในขณะนี้จึงอยู่ที่ว่า จะเตรียมรับมือกับความสามารถของ AI ที่อาจพัฒนาขึ้นโดยส่วนใหญ่เกิดขึ้นนอกเขตอำนาจของประเทศตนเองได้อย่างไร

แอนดรูว์ ชาร์ลตัน รัฐมนตรีช่วยด้านวิทยาศาสตร์ เทคโนโลยี และเศรษฐกิจดิจิทัลของออสเตรเลีย กล่าวต่อที่ประชุมว่า AI แตกต่างจากการปฏิวัติทางเทคโนโลยีในอดีต เนื่องจากในอนาคต AI อาจมีความสามารถในการทำงานและตัดสินใจได้อย่างเป็นอิสระในระดับที่สูงกว่าที่ผ่านมา

"เราไม่เคยสร้างสิ่งประดิษฐ์ใดที่สามารถคิดได้ด้วยตัวเองมาก่อน และไม่เคยสร้างสิ่งใดที่มีความสามารถในการตัดสินใจและลงมือทำได้อย่างเป็นอิสระในระดับเดียวกับปัญญาประดิษฐ์ ดังนั้น AI จึงมีความแตกต่างจากเทคโนโลยีที่ผ่านมาอย่างสิ้นเชิง และจำเป็นต้องมีแนวทางรับมือที่แตกต่างออกไปเช่นกัน"

ดร. ชาร์ลตัน กล่าวว่า ออสเตรเลียไม่ควรปล่อยให้อนาคตของเทคโนโลยีนี้ขึ้นอยู่กับบริษัทที่กำลังพัฒนา AI เพียงฝ่ายเดียว และไม่ควรคิดว่าประเทศมหาอำนาจอย่างสหรัฐอเมริกาและจีนจะเป็นผู้กำหนดมาตรการป้องกันความเสี่ยงที่เหมาะสมให้

และแม้ว่าผู้บริหารบริษัทเทคโนโลยีหลายรายกำลังออกมาพูดถึงการชะลอการพัฒนา AI แต่เขาระบุว่า รัฐบาลจำเป็นต้องมองให้ไกลกว่าคำมั่นสัญญาเหล่านั้น

"ผมไม่คิดว่าเราควรให้ความสำคัญมากนักกับสิ่งที่ผู้บริหารแต่ละคนพูด หรือสิ่งที่พวกเขาบอกว่าอยากให้เกิดขึ้น สิ่งที่เราควรให้ความสำคัญคือ สิ่งที่กำลังเกิดขึ้นจริง และสิ่งที่เกิดขึ้นจริงก็คือ เรากำลังเพิ่มขีดความสามารถของระบบเหล่านี้อย่างต่อเนื่อง ในสภาพแวดล้อมที่การขยายขนาดการพัฒนาไม่ได้ชะลอลง และระบบเหล่านี้ก็กำลังมีความสามารถเพิ่มขึ้นเรื่อย ๆ"

ดาริโอ อโมเดอี ซีอีโอของ Anthropic เสนอแนวทาง 3 ประการเพื่อรับมือกับปัญหาดังกล่าว

เขาระบุว่า บริษัทที่พัฒนา AI ระดับแนวหน้า ควรเปิดให้หน่วยงานอิสระจากภายนอกเข้ามาประเมินระบบ ประเทศประชาธิปไตยควรร่วมกันกำหนดมาตรฐานด้านความปลอดภัย และรัฐบาลต่าง ๆ ควรแสวงหาความร่วมมือในระดับนานาชาติ รวมถึงกับจีน

นายอโมเดอีมองว่า หากมีการบริหารจัดการอย่างรอบคอบ AI สามารถสร้างประโยชน์มหาศาลได้ แต่ขณะเดียวกันก็เตือนถึงความเสี่ยงหลายด้าน ตั้งแต่การสูญเสียการควบคุมระบบ การโจมตีทางไซเบอร์ การก่อการร้ายทางชีวภาพ ไปจนถึงผลกระทบครั้งใหญ่ต่อระบบเศรษฐกิจ

"ทั่วโลกจำเป็นต้องร่วมมือกัน หากเราเดินหน้าช้าเกินไป ผมยังเชื่อว่าเทคโนโลยีนี้อาจตกไปอยู่ในมือของคนที่ไม่เหมาะสม และนั่นก็จะทำให้ความเสี่ยงที่สิ่งต่าง ๆ จะผิดพลาดเพิ่มสูงขึ้นอย่างมาก"

 อีลอน มัสก์ ออกมาสนับสนุนคำเตือนของนายอโมเดอีต่อสาธารณะ โดยระบุว่า “ดาริโอพูดถูก” แซม อัลต์แมน ซีอีโอของ OpenAI ก็แสดงความเห็นด้วยกับข้อเสนอบางส่วน รวมถึงการเปิดให้หน่วยงานอิสระเข้ามาประเมินระบบ AI ขั้นสูง

ความกังวลเกี่ยวกับการพัฒนา AI ยังขยายไปถึงองค์การสหประชาชาติ โฟลเคอร์ เติร์ก ข้าหลวงใหญ่สิทธิมนุษยชนแห่งสหประชาชาติ กล่าวว่า รัฐบาลและบริษัทเทคโนโลยีจำเป็นต้องลงมือจัดการกับความเสี่ยงตั้งแต่ตอนนี้ ก่อนที่ระบบ AI จะมีศักยภาพสูงจนยากที่จะควบคุม

"ผมมีความกังวลเช่นเดียวกับคนในอุตสาหกรรมที่เตือนว่า AI ขั้นสูงอาจกลายเป็นภัยคุกคามต่อการดำรงอยู่ของมนุษยชาติ"

อย่างไรก็ตาม ความท้าทายสำหรับผู้กำหนดนโยบายคือ การชะลอการพัฒนา AI ก็อาจนำมาซึ่งความเสี่ยงเช่นกัน

ดร. ชาร์ลตัน กล่าวว่า ออสเตรเลียจำเป็นต้องมีมาตรการป้องกันความเสี่ยงที่เหมาะสม ขณะเดียวกันก็ต้องไม่ปล่อยให้ประเทศตามหลังในขณะที่เทคโนโลยีกำลังพัฒนาอย่างรวดเร็ว

สำหรับรัฐบาลและสังคมโดยรวม คำถามในวันนี้จึงไม่ใช่เพียงว่า ปัญญาประดิษฐ์จะพัฒนาไปจนมีศักยภาพสูงได้เพียงใด

แต่คือ กฎระเบียบ ความร่วมมือระหว่างประเทศ และการกำกับดูแลโดยมนุษย์ จะสามารถพัฒนาได้รวดเร็วพอที่จะตามทัน AI หรือไม่

ติดตามข่าวสารล่าสุดจากเอสบีเอส ไทยได้ที่ เว็บไซต์ เฟซบุ๊ก อินสตาแกรมและ ยูทูบ