เมื่อ AI ถูกใช้ในเกมอำนาจ อาจพาโลกไปไกลเกินควบคุม?

ความน่ากังวลของโลกในตอนนี้คือการที่ AI ถูกดึงไปเป็นเครื่องมือของสงคราม ที่แลกมาด้วยความผิดพลาดที่ใหญ่ขึ้น และความสูญเสียที่ไม่อาจย้อนคืนได้

Project Maven เครื่องมือทางทหารสหรัฐฯ

โดยการนำมาช่วยประมวลผลภาพ และวิดีโอจากโดรน รวมถึงข้อมูลจากดาวเทียม และเซนเซอร์ต่าง ๆ เพื่อเปลี่ยนข้อมูลจำนวนมหาศาลให้กลายเป็นข่าวกรองที่ใช้งานได้เร็วขึ้น ช่วยคัดกรองข้อมูลความเคลื่อนไหวที่น่าสงสัย จุดไหนควรจับตา และเป้าหมายไหนที่ควรถูกส่งต่อให้คนดำเนินการต่อ

ซึ่ง Reuters บอกว่า Maven Smart System ของ Palantir ถูกยกระดับให้เป็นระบบหลักของกองทัพสหรัฐฯ ที่จะถูกใช้งานระยะยาว และได้รับการสนับสนุนในระดับโครงสร้างของกองทัพ ซึ่งก็ได้มีการใช้ในปฏิบัติการโจมตีจำนวนมากต่ออิหร่านแล้ว

ความโหดร้ายของการใช้ AI ในสงคราม จะล็อกเป้าหมายง่ายขึ้น?

มีรายงานว่า Claude ของ Anthropic ถูกนำไปใช้งานร่วมด้วยในช่วงแรก เพื่อวางแผนเชิงยุทธศาสตร์ การสนับสนุนปฏิบัติการ การวิเคราะห์ ข่าวกรอง และการประเมินภัยคุกคาม

ซึ่งก็ชัดแล้วว่า AI วันนี้ไม่ได้เป็นแค่ธุรกิจที่ช่วยอำนวยความสะดวกในชีวิตประจำวัน แต่กำลังถูกเชื่อมเข้ากับโครงสร้างอำนาจด้านความมั่นคงของรัฐมหาอำนาจอย่างจริงจัง

เหตุ “ชัตดาวน์ผู้นำอิหร่าน” อาจทำให้ต้องกลับมาทบทวน “การควบคุมใช้ AI”

แม้ยังไม่มีหลักฐานยืนยันได้ชัดว่าการชัตดาวน์ของผู้นำอิหร่าน ถูกล็อกเป้าโดย AI ทั้งหมด แต่แน่นอนว่าอาจเป็นส่วนหนึ่งของปฏิบัติการอย่างแน่นอน ที่ช่วยค้นหา วิเคราะห์ และระบุเป้าหมายในปฏิบัติการทางทหารที่เกี่ยวข้องกับอิหร่าน

โดยศาสตราจารย์ David Leslie ผู้เชี่ยวชาญด้านจริยธรรมเทคโนโลยี ให้ความเห็นว่า การปล่อยให้ AI คิดและตัดสินใจแทนมากเกินไป เราอาจค่อย ๆ ชินกับการสังหารโดยไม่รู้ตัว เพราะคิดว่า AI เลือกสิ่งที่ดีที่สุดให้แล้ว เป็นเหตุผลที่องค์กรระหว่างประเทศจำนวนมากออกมาเตือนเรื่องนี้อย่างต่อเนื่อง

ซึ่งคณะกรรมการกาชาดระหว่างประเทศ หรือ ICRC ก็เคยเตือนว่าระบบอาวุธอัตโนมัติมีความเสี่ยงร้ายแรง เพราะยากจะคาดการณ์ผลลัพธ์และควบคุมผลกระทบได้ ขณะที่สหประชาชาติก็เรียกร้องให้เร่งสร้างกติกาที่มีผลผูกพันทางกฎหมาย เพื่อควบคุมหรือห้ามใช้ระบบที่อันตรายเกินไป

ที่อาจต้องเร่งวางกติกาให้ชัดว่า AI ควรมีบทบาทอย่างไรในด้านสงคราม ต้องมีคนควบคุม และตรวจสอบย้อนหลังได้หรือไม่ เพราะเมื่อเทคโนโลยีอยู่ในมือของคนบางกลุ่มที่ใช้เพื่อผลประโยชน์บางอย่าง โดยไม่สนใจผลกระทบที่ตามมาต่อคนทั้งโลก วันหนึ่งมันอาจกลายเป็นสิ่งที่ผลักให้มนุษยชาติไปสู่รูปแบบสงครามที่อันตรายเกินกว่าจะควบคุม