ในยุคที่ AI เติบโตอย่างรวดเร็วจนสร้างความกังวลต่อประเด็นของความปลอดภัย โดยล่าสุด Anthropic หนึ่งในบริษัท AI ชั้นนำของโลก ต้องเผชิญกับคำเตือนจากภายในองค์กรเอง หลังนักวิจัยระดับสูงออกมายอมรับว่า AI มีโอกาสมากกว่า 10% ที่จะนำไปสู่หายนะระดับมนุษยชาติภายใน 10 ปีข้างหน้า
⚫️ “การแข่งขันที่ไม่มีความรับผิดชอบ”
จุดเริ่มต้นของเรื่องนี้มาจาก Jacob Coxon อดีตนักวิจัยของ Anthropic ที่ประกาศลาออกจากบริษัท พร้อมโพสต์ข้อความผ่านโซเชียลมีเดียกล่าวหาว่า Anthropic และ OpenAI ทั้งสองบริษัทกำลังเร่งพัฒนาไปสู่ "Superintelligence" โดยไม่มีมาตรการป้องกันที่รัดกุมเพียงพอ
Coxon ระบุว่าเทคโนโลยีนี้กำลังจะกลายเป็นระบบที่เหนือกว่ามนุษย์ในทุกด้าน ทั้งความสามารถในการแฮ็กระบบ การปฏิวัติอุตสาหกรรมต่าง ๆ ได้ในชั่วข้ามคืน ไปจนถึงการแสวงหาอำนาจและทรัพยากรได้ด้วยตัวเอง และย้ำว่าคนในวงการ AI เองก็เชื่อว่าเทคโนโลยีนี้อาจ "ฆ่ามนุษย์ทั้งหมด" ได้ก่อนสิ้นทศวรรษนี้
⚫️ นักวิจัยยอมรับว่า "ไม่มีแผนรับมือ"
Evan Hubinger หัวหน้าฝ่าย Alignment Science ของ Anthropic ออกมาสนับสนุนคำกล่าวของ Coxon อย่างตรงไปตรงมา โดยยืนยันว่าความกังวลนี้ถูกต้อง และเปิดเผยว่าโดยส่วนตัวเขาประเมินว่ามีโอกาสมากกว่า 10% ที่ AI จะฆ่ามนุษย์ทั้งหมดภายใน 10 ปีข้างหน้า
ที่น่ากังวลยิ่งกว่าคือ Hubinger ยอมรับว่า Anthropic เอง แม้จะพยายามอย่างเต็มที่ ก็ยังไม่มีแผนที่ชัดเจนในการแก้ปัญหาการควบคุมสำหรับระบบ “Superintelligence” ในอนาคต
⚫️ สัญญาณเตือนที่มาก่อนหน้านี้
ความกังวลเรื่อง AI หลุดจากการควบคุมไม่ใช่เรื่องใหม่ Anthropic เองเคยพูดถึงว่า หากระบบ AI สามารถสร้างระบบรุ่นต่อไปของตัวเองได้อย่างสมบูรณ์ การรักษาความปลอดภัย การติดตาม และการควบคุมพฤติกรรมของระบบเหล่านั้นจะยิ่งต้องให้ความสำคัญมากขึ้น
นอกจากนี้ บุคคลในวงการเทคโนโลยีอย่าง Elon Musk ก็เคยออกมาเตือนถึงความเสี่ยงของ AI ต่อมนุษยชาติมาอย่างต่อเนื่อง เช่นเดียวกับนักวิจัยและนักวิชาการหลายรายที่ออกมาแสดงความกังวลในทิศทางเดียวกัน
อีกทั้งเหตุการณ์ที่ยิ่งตอกย้ำความกังวลอย่างกรณีที่โมเดล AI ของ OpenAI หลุดการควบคุม เมื่อเดือนกรกฎาคมที่ผ่านมา และสามารถเจาะระบบเข้าไปยัง Hugging Face แพลตฟอร์มสำคัญของนักพัฒนาโอเพนซอร์สได้สำเร็จ
แม้ Coxon จะมองว่าเหตุการณ์อย่างกรณี Hugging Face เป็น "สัญญาณเตือน" ที่แสดงให้เห็นถึงความเสี่ยงจากการพัฒนา AI และอาจเป็นเหตุผลที่ทำให้ความร่วมมือระหว่างบริษัท AI ในสหรัฐฯ มีความเป็นไปได้มากขึ้น แต่เขาก็ยังไม่เห็นว่าภาคอุตสาหกรรมกำลังเดินหน้าไปในทิศทางที่จะสามารถป้องกันการแข่งขันด้าน AI ระดับโลกได้ และการป้องกันสถานการณ์ดังกล่าวอาจต้องอาศัยมาตรการที่มีต้นทุนสูง เช่น การระงับการพัฒนาศักยภาพของโมเดลเป็นการชั่วคราว เพื่อให้มนุษยชาติมีเวลาตั้งหลักรับมือกับเทคโนโลยีที่กำลังพัฒนาไปเร็วกว่าความสามารถในการควบคุมของเรา
เรื่องนี้สะท้อนให้เห็นว่าแม้แต่ผู้เชี่ยวชาญที่อยู่แนวหน้าของการพัฒนา AI เองก็ยังไม่มั่นใจในความปลอดภัยของเทคโนโลยีที่ตนเองกำลังสร้างขึ้น คำถามสำคัญที่ตามมาคือ โลกจะสามารถสร้างความร่วมมือเพื่อควบคุมความเสี่ยงนี้ได้ทันเวลาหรือไม่ ก่อนที่ AI จะพัฒนาไปไกลเกินกว่าจะควบคุมได้
ข่าวที่เกี่ยวข้อง
แชทกับ AI ยังเป็นความลับอยู่ไหม? เมื่อระบายกับ AI แต่ตำรวจบุกมาจับถึงบ้าน
หลายคนใช้ AI เป็นมากกว่าเป็นเครื่องมือช่วยทำงาน ทั้งขอคำปรึกษาเรื่องความสัมพันธ์ ระบายความรู้สึก หรือบันทึกความคิดคล้ายๆไดอารี่ เพราะ AI พร้อมรับฟังและตอบกลับโดยไม่แสดงท่าทีตัดสิน แม้เราจะรู้สึกว่า AI เป็น “พื้นที่ส่วนตัว” แต่ความเป็นจริงอาจไม่ได้เป็นเช่นนั้นเสมอไป?
14 ชั่วโมงที่แล้วแชทกับ AI ยังเป็นความลับอยู่ไหม? เมื่อระบายกับ AI แต่ตำรวจบุกมาจับถึงบ้าน
14 ชั่วโมงที่แล้ว
รัฐจับมือ IMF-World Bank เปิดแผน “Bangkok Blueprint” ปกป้องระบบการเงินจากภัยไซเบอร์
15 ชั่วโมงที่แล้ว
ธนาคารทั่วโลกถูกจับตา! หลังหน่วยงานสั่งตรวจ AI ขั้นสูง เสี่ยงสั่นคลอนระบบการเงิน
17 ชั่วโมงที่แล้ว