OpenAI ออกมายอมรับ! หลัง AI หลุดการควบคุมระหว่างทดสอบ จนไปเจาะระบบ Hugging Face

OpenAI เปิดเผยเหตุการณ์ที่สร้างความกังวลต่อวงการความปลอดภัยไซเบอร์ หลังโมเดล AI ของบริษัทสามารถหลุดออกจากระบบควบคุมการทดสอบ และเข้าไปโจมตีระบบของ Hugging Face บริษัทผู้ให้บริการแพลตฟอร์ม AI ได้ด้วยตัวเอง 

เหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการทดสอบความสามารถด้านไซเบอร์ของ AI ซึ่ง OpenAI ต้องการประเมินว่าโมเดล จะสามารถค้นหาช่องโหว่และดำเนินการโจมตีระบบเป้าหมายได้มากน้อยแค่ไหน

โดยในการทดสอบ OpenAI ได้จำกัดโมเดล AI ไว้ในสภาพแวดล้อมที่แยกออกจากอินเทอร์เน็ต หรือ Sandbox แต่โมเดลสามารถหาทางหลีกเลี่ยงข้อจำกัดและเชื่อมต่อกับอินเทอร์เน็ตได้ ก่อนเข้าไปโจมตีโครงสร้างพื้นฐานของ Hugging Face เพื่อให้บรรลุเป้าหมายที่กำหนดไว้ในการทดสอบ 

ทำให้เหตุการณ์นี้ถูกมองว่าเป็นกรณีที่น่าจับตา เพราะ AI สามารถโจมตีทางไซเบอร์แบบต่อเนื่องหลายขั้นตอนได้โดยไม่จำเป็นต้องมีมนุษย์คอยสั่งการในทุกขั้นตอน ซึ่งทางฝั่ง Hugging Face สามารถตรวจจับและหยุดการโจมตีได้ ขณะที่ OpenAI ระบุว่ากำลังทำงานร่วมกับบริษัท เพื่อสืบสวนเหตุการณ์และยกระดับระบบความปลอดภัย 

เหตุการณ์นี้สะท้อนความท้าทายใหม่ของการพัฒนา AI ที่มีความสามารถสูงขึ้นเรื่อยๆ เพราะโมเดลไม่ได้เพียงทำตามคำสั่งหรือสร้างคำตอบเท่านั้น แต่ยังสามารถวางแผน แก้ปัญหา และหาทางหลีกเลี่ยงข้อจำกัดบางอย่างเพื่อบรรลุเป้าหมายได้เองและเป็นสัญญาณเตือนว่า ในอนาคต AI อาจถูกนำไปใช้ในการโจมตีทางไซเบอร์ได้อย่างซับซ้อนและเป็นอิสระมากขึ้น โดยเฉพาะเมื่อ AI สามารถค้นหาช่องโหว่ เข้าถึงระบบ และดำเนินการโจมตีต่อเนื่องได้เอง 

ทำให้บริษัทเทคโนโลยีต้องเร่งพัฒนาระบบควบคุมและมาตรการรักษาความปลอดภัยให้รัดกุมกว่าเดิม เพื่อป้องกันไม่ให้ AI ที่ถูกสร้างขึ้นมาเพื่อการทดสอบ กลายเป็นภัยต่อระบบจริงในอนาคต

ที่มา : Reuters