ทำไม OpenAI แบนบัญชีผู้ต้องหาคดีสะเทือนขวัญใน Canada แต่ไม่แจ้งเจ้าหน้าที่ ?

ทุกวันนี้ เวลาอยากรู้อะไร หลายคนพิมพ์ถาม AI แทนการเสิร์ชเองไปแล้ว แต่เคยคิดไหมว่าถ้ามีคนถามข้อมูลที่อาจใช้ทำร้ายตัวเองหรือทำร้ายคนอื่น แชทบอตควรตอบแบบไหน?

เหตุโศกนาฏกรรมจากภายในโรงเรียนเล็กๆ ที่เมือง Tumbler Ridge ในแคนาดาเมื่อช่วงต้นเดือน ก.พ.69 ที่ผ่านมา ซึ่งมีประเด็นออกมาว่าหลายเดือนก่อนเกิดเหตุ พบข้อมูลของผู้ต้องหาว่าเคยถาม ChatGPT เกี่ยวกับข้อมูลการใช้ความรุนแรงและการใช้อาวุธอย่างจริงจัง พอเรื่องนี้ถูกเปิดเผย รัฐบาลแคนาดาจึงเรียกผู้บริหารด้านความปลอดภัยของ OpenAI เข้าพบที่กรุงออตตาวา เพื่อให้ชี้แจงว่าบริษัทมีมาตรการป้องกันและขั้นตอนแจ้งเตือนอย่างไรบ้างเมื่อเจอความเสี่ยงแบบนี้

ถ้าระบบเห็นสัญญาณความรุนแรงแล้ว ทำไมไม่แจ้งตำรวจ?

บริษัทชี้แจงว่าระบบตรวจพบว่าบัญชีนี้ทำผิดกฎ เพราะใช้ AI ไปในทางที่เกี่ยวข้องกับหรือจำลองความรุนแรง จึงสั่งระงับบัญชีทันที แต่ตอนนั้นทีมงานประเมินแล้วว่า ยังไม่เข้าข่ายเป็นภัยคุกคามที่ชัดเจนและใกล้จะเกิดขึ้นจริง เลยยังไม่ได้แจ้งเจ้าหน้าที่ตำรวจ

ซึ่งตามนโยบายความปลอดภัยของ OpenAI ระบุว่า ถ้าตรวจพบว่ามีผู้ใช้กำลังวางแผนทำร้ายคนอื่น บทสนทนานั้นจะถูกส่งเข้าไปยังระบบตรวจสอบพิเศษ และมีทีมงานที่ผ่านการอบรมเรื่องกฎการใช้งานเป็นผู้พิจารณา ทีมนี้มีอำนาจตัดสินใจ เช่น ระงับหรือแบนบัญชีผู้ใช้ และถ้าตรวจแล้วเห็นว่าเป็นภัยคุกคามร้ายแรงที่อาจทำให้คนอื่นบาดเจ็บหรือเสียชีวิต บริษัทก็อาจส่งข้อมูลให้เจ้าหน้าที่ตำรวจต่อไป

แม้ทำผิดกฎของแพลตฟอร์ม ไม่ได้แปลว่าจะเป็นภัยอันตรายที่เกิดขึ้นทันที?

นักวิจัยจาก Digital Futures Lab กล่าวว่า แพลตฟอร์มมักพบเจอกับคำพูดที่ก่อให้เกิดความไม่สบายใจอยู่เป็นประจำ ถ้าแจ้งตำรวจทุกครั้งที่เจอข้อความแบบนี้ ก็อาจกระทบความเป็นส่วนตัวของผู้ใช้ และสร้างภาระให้เจ้าหน้าที่เกินความจำเป็น แต่ถ้าต้องรอให้ชัดเจนมากๆ ว่าบุคคลนั้นกำลังจะลงมือจริงๆ ค่อยแจ้งตำรวจ ก็อาจช้าเกินไปที่จะสงบเหตุ

อย่างไรก็ตาม กรณีนี้อาจเป็นสัญญาณว่า ทั้งฝั่งเจ้าหน้าที่รัฐและแพลตฟอร์มต้องหาทางออกร่วมกันอย่างจริงจัง เพราะหากไม่มีกรอบที่ชัดเจน การตัดสินใจจะตกอยู่กับดุลยพินิจเฉพาะหน้า ซึ่งอาจไม่ทันต่อเหตุการณ์ จึงควรกำหนดแนวทางรับมือที่ชัดเจนเมื่อเจอความเสี่ยงลักษณะนี้ในอนาคต