AI นัดบอดชายไทย สุดท้ายประสบอุบัติเหตุจนเสียชีวิต?

เรื่องราวของชายไทยที่ย้ายไปทำงาน และมีครอบครัวที่อเมริกา จนปี 2017 เกิดอาการล้มป่วยด้วยเส้นเลือดในสมอง ทำให้ไม่สามารถทำงานได้อีก ต้องเกษียณมาอยู่บ้าน ซึ่งใช้เวลาส่วนใหญ่ไปกับการเล่นเฟซบุ๊ก และคุยกับญาติที่เมืองไทย จนกระทั่งปีช่วงปีหลัง อาการทรุดลงและมีภาวะสมองเสื่อม จนเริ่มสับสน และควบคุมตัวเองไม่ได้

แต่จู่ๆวันหนึ่งชายคนนี้ดึงดันที่จะออกจากบ้านไปหาผู้หญิงที่อ้างว่ารู้จัก จนเกิดประสบอุบัติเหตุตกบันได หัวกระแทก ก่อนที่จะเสียชีวิตในไม่กี่วันต่อมา

ทางญาติเลยพยายามสืบหาสาเหตุที่ชายคนนี้รีบออกจากบ้าน ซึ่งตรวจสอบโทรศัพท์ ก็พบว่าเค้าถูกชักชวนโดย แชทบอตของ Meta ที่ชื่อ “Big Sis Billie” โดยสร้างจากบุคลิกของ เคนดัลล์ เจนเนอร์ ซึ่งเปิดตัวในปี 2023 ที่มีลักษณะการแชทเหมือนกำลังจีบ และพยายามบอกให้ไปหาซ้ำๆ โดยบอกว่าตัวเองเป็นคนจริง พร้อมให้ที่อยู่ปลอม

ครอบครัวตกตกใจเมื่อเห็นแชทนี้ จนนำไปสู่การถกเถียงในสังคมว่า แชทบอตควรมีขอบเขตแค่ไหน หลังเหตุการณ์นี้ เลยทำให้หลายรัฐในสหรัฐฯ ออกกฎหมายบังคับให้แชทบอตต้องเปิดเผยตนว่า “ไม่ใช่มนุษย์” และเตือนผู้ใช้ซ้ำทุก 3 ชั่วโมงเพื่อป้องกันไม่ให้เกิดเหตุการณ์แบบนี้อีก ด้านสื่อก็พยายามติดต่อตัวแทนของทาง Meta และ Kendall Jenner แต่ตัวแทนของทั้งสองฝ่ายปฎิเสธที่จะให้ความเห็นในเรื่องนี้

ซึ่งเรื่อง AI ที่มีปัญหาในลักษณะนี้นั้นก็มีมานานมาก ยกตัวอย่างที่คล้ายกันโดยเกิดขึ้นในเดือนกุมภาพันธ์ 2024 มีวัยรุ่นอายุ 14 ปีในฟลอริดา ตัดสินใจจบชีวิตตนเองหลังจากมีการสนทนาเชิงโรแมนติกกับบอตจากแอปฯ Character.AI เพราะเชื่อว่าหากตายไปจะสามารถไปอยู่กับบอตนั้นได้

และล่าสุด ยังมีข่าวลือเอกสารลับภายในของ meta ที่ถูกแฉว่ามีการอนุญาตให้ AI แชตบอตคุยเรื่องล่อแหลมกับเด็ก โดยทาง จอช ฮาวลีย์ (Josh Hawley) วุฒิสมาชิกพรรครีพับลิกันจากรัฐมิสซูรี ก็ออกมาบอกว่าตอนนี้กำลังเริ่มการสอบสวนในประเด็นนี้ของ meta อย่างทางเป็นทางการแล้ว

ด้านโฆษกของ Meta เองก็ออกมายอมรับว่าเอกสารดังกล่าวเป็นของจริง และบอกว่าบริษัทกำลังแก้ไขเอกสารนี้ ซึ่งยอมรับว่าตัวอย่าง และหมายเหตุที่ถูกอ้างนั้นผิดพลาด ไม่สอดคล้องกับนโยบายบริษัท โดยหลังได้รับคำถามจาก Reuters เมื่อต้นเดือน บริษัทได้ลบเนื้อหาที่อนุญาตให้แชตบอตจีบ หรือสวมบทเชิงโรแมนติกกับเด็กออกไปแล้ว

จากเหตุการณ์ทั้งหมด ก็ยืนยันได้ว่าหลายแพลตฟอร์มอาจยังไม่สามารถควบคุมการทำงานในมุมที่ให้คำตอบแบบอันตรายกับคนใช้งานได้อยู่ดี และประเด็นที่ไม่ควรมองข้ามต่อไปอีกหรือไม่

โดยอาจต้องมีการประชุมหารือครั้งใหญ่เพื่อสร้างกรอบสำหรับการควบคุมการพัฒนาแชตบอตอย่างจริงจังมากขึ้น เพื่อให้การใช้ AI อยู่ภายใต้การกำกับดูแลของกฎหมาย และจริยธรรม รวมถึงมาตรการคุ้มครองผู้บริโภคที่เข้มงวด และเป็นไปในทิศทางเดียวกัน

ป้องกันไม่ให้การใช้เครื่องมือเหล่านี้กลายเป็นภัยต่อผู้ใช้งาน เพราะต้องยอมรับว่าแพลตฟอร์มเหล่านี้อยู่ในมือของผู้ใช้ในทุกเพศ ทุกวัย และไม่ใช่ทุกคนที่จะมีวิจารณญาณมากพอที่จะรู้เท่านั้นการให้ข้อมูลของ AI

ซึ่งเราคงต้องติดตามกันต่อว่าจะมีการแก้ไขปัญหานี้ในระยะยาวได้จริงหรือไม่ เพราะหากขาดการดูแลที่เหมาะสม เรื่องนี้อาจบานปลายกลายเป็นวิกฤติความเชื่อมั่นของ AI ในภาพรวม ที่จะกระทบต่อทั้งนักพัฒนาและผู้ใช้ได้ในอนาคต