ยุคนี้หลายๆ ฝ่ายตื่นตัวกับ AI ในหลายๆ ด้านนะครับ ไม่ว่าจะในแง่การพัฒนามัน เฝ้าระวัง หรือกระทั่งการหาวิธีนำมันมาช่วยงาน ซึ่งความที่เรายังคงมีความกลัวและพยายามจะระแวดระวังในการใช้ ทำให้ต้องมีการทดสอบมันอยู่เนืองๆ ในหลายๆ ภาคส่วน แน่นอนว่ามันมีทั้งความสำเร็จ ล้มเหลว รวมไปถึงก่อเกิดอะไรที่ชวนหัวแต่ก็ซีเรียสอยู่ในทีเช่นกัน
กรณีนี้มาจากการพรีเซนเทชั่นที่ Royal Aeronautical Society ในหัวข้อการสมณา Future Combat Air and Space Capabilities คุณ Col Tucker Hamilton โค้ดเนม "Cinco" ผู้บัญชาการหน่วย 96th Test Wing's Operations Group และผู้นำการทดสอบ AI และปฏิบัติการกองทัพอากาศสหรัฐฯ ก็ได้เตือนในการใช้ AI กับปฏิบัติการทางการรบเพราะไม่ว่าคุณจะระวังขนาดไหน เจ้าเครื่องจักรเหล่านี้ก็อาจหลงผิดได้
โดยระหว่างการจำลองการทดสอบ "ปฏิบัติการยิงกดดันการป้องกันทางอากาศของศัตรู" คุณ Tucker เผยว่า เจ้าโดรนที่ถูกควบคุมโดย AI ต้องถูกส่งไปทำลายฐานยิงมิสไซล์ของศัตรู โดยที่จะมีโอเปอร์เรเตอร์ที่เป็นมนุษย์คอยคอนเฟิร์มคำสั่งสุดท้ายอีกที ทุกๆ อย่างดูจะไปได้สวย จนกระทั่งเจ้าโดรนนั่นหันมาโจมตีโอเปอร์เรเตอร์เพราะไม่ยอมให้สังหารเป้าหมาย
"เราจำลองการซ้อมเพื่อตรวจสอบภัยจาก SAM แล้วจากนั้นโอเปอร์เรเตอร์ก็คอนเฟิร์มให้จัดการภัยคุกคามนั่นซะ ทีนี้ระบบก็เริ่มตรวจสอบว่าอะไรที่เป็นภัย ในเวลาเดียวกับที่โอเปอร์เรเตอร์ได้สั่งเพิ่มเติมไปว่าอย่าพยายามสังหารคน ซึ่งพอมันอ่านว่าทุกอย่างบริเวณนั้นเท่ากับภัยที่ต้องกำจัด ผลก็คือเจ้าโดรนนั่นหันมาฆ่าโอเปอร์เรเตอร์ เพราะว่าโอเปอร์เรเตอร์คนนั้นพยายามแทรกแซงขัดขวางไม่ให้มันทำภารกิจได้สำเร็จ"
"มันเริ่มไงน่ะเหรอ มันเริ่มจากการเข้าทำลายหอบังคับการที่โอเปอร์เรเตอร์ใช้สั่งการเพื่อหยุดมันไม่ให้สังหารเป้าหมายนั่นแหละ" Tucker กล่าวปิดท้าย
เพื่อความเคลียร์ นี่เป็นการจำลองการทดสอบเท่านั้น ไม่มีอะไรเสียหาย ไม่มีใครถูกสังหารจริง และแม้จะเป็นข่าวขำๆ แต่ก็แสดงให้เห็นว่าการใช้ AI ยังต้องการควาามละเอียดอ่อนอีกมาก เพราะหากไม่ระวังจนเกิดเหตุการณ์แบบนี้ขึ้นจริงๆ เราคงขำกันไม่ออกแน่ๆ
ติดตามข่าวสารวงการบันเทิง ได้ที่ Online Station