OpenAI เรียกร้องสหรัฐฯ นำความร่วมมือโลก วางมาตรฐานความปลอดภัย AI

• มาตรฐานการประเมินความสามารถของ AI โดยเฉพาะ AI ขั้นสูง
• วิธีการวัดและประเมินความเสี่ยงร่วมกัน
• ระบบรายงานเหตุการณ์ด้านความปลอดภัย เพื่อให้ประเทศต่าง ๆ สามารถแลกเปลี่ยนข้อมูลและรับมือกับเหตุการณ์ได้ดีขึ้น
• ช่องทางที่ปลอดภัยสำหรับรัฐบาลและผู้ดูแลโครงสร้างพื้นฐานสำคัญในการแลกเปลี่ยนข้อมูลเกี่ยวกับภัยคุกคามและช่องโหว่ของ AI

OpenAI ยังกล่าวถึง Recursive Self-Improvement (RSI) หรือแนวคิดที่ระบบ AI สามารถใช้ซอฟต์แวร์ช่วยพัฒนาความสามารถของตัวเองได้ โดยเสนอว่าการพัฒนาในลักษณะดังกล่าวไม่ควรเดินหน้าจนกว่าจะสามารถดำเนินการได้อย่างปลอดภัยและมีมาตรการควบคุมที่เหมาะสม

ไม่ได้เสนอให้หยุดพัฒนา AI ทั้งหมด
ประเด็นหนึ่งที่ OpenAI เน้นคือคำว่า “Pacing AI development” ไม่ได้หมายถึงการกำหนดว่าการพัฒนา AI ต้องช้าลงในอัตราที่ตายตัว แต่หมายถึงการทำให้การวิจัยด้านความปลอดภัยและการนำมาตรการดังกล่าวมาใช้สามารถก้าวนำหน้าการเพิ่มขีดความสามารถของ AI ได้

ข้อเสนอนี้เกิดขึ้นในช่วงที่ภาคอุตสาหกรรมและรัฐบาลหลายประเทศกำลังพูดถึงความจำเป็นในการจัดการความเสี่ยงของ AI ขั้นสูง หลังมีเหตุการณ์ด้านความปลอดภัยที่เกี่ยวข้องกับระบบ AI ของบริษัทเทคโนโลยีหลายแห่ง รวมถึงเหตุการณ์ที่เกี่ยวข้องกับ Hugging Face ซึ่ง OpenAI ระบุว่าเป็นตัวอย่างของความเสี่ยงที่อาจรุนแรงขึ้นหากไม่มีมาตรการป้องกันที่เพียงพอ

จับตาเวทีสหประชาชาติ
เรื่อง AI จะเป็นหนึ่งในประเด็นสำคัญของการประชุมระดับสูงของสหประชาชาติในสัปดาห์นี้ โดย Sam Altman มีกำหนดเข้าชี้แจงต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติ ซึ่งมีสมาชิก 15 ประเทศ ในวันที่ 23 กันยายน ในหัวข้อที่เกี่ยวข้องกับ AI และความมั่นคงระหว่างประเทศ

การประชุมดังกล่าวจัดขึ้นภายใต้การเป็นประธานของฝรั่งเศสในเดือนกันยายน และจะมี Jean-Noël Barrot รัฐมนตรีว่าการกระทรวงการต่างประเทศฝรั่งเศสเป็นประธานการประชุม

ขณะเดียวกัน สหรัฐฯ และจีนก็กำลังหารือเรื่องความปลอดภัยของ AI โดยเจ้าหน้าที่ระดับสูงของทั้งสองประเทศตกลงที่จะมีการหารือเพิ่มเติมเกี่ยวกับ AI Safety และพัฒนาช่องทางสื่อสารสำหรับเหตุการณ์ด้านความปลอดภัยของ AI

ข้อเสนอของ OpenAI จึงสะท้อนถึงความพยายามผลักดันให้ มาตรฐานการประเมินความสามารถ ความเสี่ยง และการรายงานเหตุการณ์ของ AI มีแนวทางที่ประเทศต่าง ๆ สามารถทำงานร่วมกันได้ ขณะที่การกำหนดว่าจะนำมาตรฐานเหล่านี้ไปบังคับใช้ในกฎหมายของแต่ละประเทศอย่างไร ยังคงเป็นเรื่องที่รัฐบาลแต่ละประเทศต้องตัดสินใจเอง

ที่มา: RTL Today (AFP), Reuters และ OpenAI