หลังจากที่เป็นประเด็นร้อนฉ่าไปทั่วโลกกันสักพักใหญ่ ๆ ล่าสุดทาง X (อดีต Twitter) ได้ออกมายืนยันอย่างเป็นทางการแล้วว่า AI ประจำแพลตฟอร์มอย่าง Grok จะไม่สามารถใช้งานเพื่อตัดต่อหรือแก้ไขภาพของบุคคลที่มีตัวตนจริงให้อยู่ในสภาพวาบหวิวหรือถอดเสื้อผ้าได้อีกต่อไป โดยคาดว่าน่าจะเป็นผลพวงจากการที่มีผู้ใช้งานหัวใสจำนวนไม่น้อยใช้ Grok ไป "ลบเสื้อผ้า" ออกจากภาพถ่ายของผู้อื่น ซึ่งมีทั้งภาพของผู้ใหญ่และที่น่ากังวลที่สุดคือภาพของผู้เยาว์ จนทำให้หน่วยงานของหลาย ๆ ประเทศ รวมถึงในสหรัฐอเมริกาเองต้องลงมาตรวจสอบ!
โดยทีมงาน Safety ของ X ได้ออกมาแจงรายละเอียดมาตรการความปลอดภัยใหม่ โดยระบุว่าได้วางระบบป้องกันทางเทคนิคเพื่อห้ามไม่ให้ Grok ยอมทำตามคำสั่งแก้ไขภาพบุคคลจริงให้อยู่ในชุดล่อแหลมอย่างบิกินี่ ซึ่งข้อจำกัดนี้มีผลกับผู้ใช้งานทุกระดับไม่เว้นแม้แต่สมาชิก Premium ยิ่งไปกว่านั้นยังมีระบบ Geoblock เข้ามาเสริมเพื่อปิดกั้นการสร้างภาพคนจริงในชุดชั้นในหรือชุดว่ายน้ำสำหรับผู้ใช้งานที่อยู่ในเขตอำนาจศาล (หรือประเทศ) ที่กฎหมายระบุว่าเนื้อหาลักษณะนี้เป็นสิ่งผิดกฎหมาย
ก่อนหน้านี้ทาง X ได้จำกัดสิทธิในการแก้ไขรูปภาพด้วย Grok AI ให้ใช้ได้เฉพาะสมาชิกแบบเสียเงินเท่านั้น โดยทางแพลตฟอร์มให้เหตุผลว่ามาตรการนี้เปรียบเสมือนเกราะป้องกันอีกชั้นที่จะช่วยให้สามารถตรวจสอบและระบุตัวตนเพื่อเอาผิดผู้ที่พยายามใช้บัญชี Grok ในทางที่ผิดหรือละเมิดกฎหมายได้ง่ายขึ้น ขณะที่บรรดานักวิจัยและสื่อต่าง ๆ เริ่มสังเกตเห็นว่า AI มีการตอบสนองที่เปลี่ยนไปจากเดิมมาได้สักพักใหญ่ ๆ แล้ว
อย่างไรก็ตาม ทางกลุ่ม AI Forensics องค์กรตรวจสอบอัลกอริทึมจากยุโรปตั้งข้อสังเกตว่า ยังมีความไม่แน่นอนในการจัดการกับเนื้อหาแนวโป๊เปลือย โดยพบว่าการใช้งาน Grok แบบสาธารณะบน X กับการใช้งานผ่านแชตส่วนตัวทางหน้าเว็บไซต์ Grok.com นั้นยังมีมาตรฐานการกรองเนื้อหาที่แตกต่างกัน
ทางด้าน Elon Musk ก็ได้ออกมาโพสต์ผ่าน X ว่าเขา "ไม่ทราบเรื่อง" มาก่อนว่ามีการใช้ Grok สร้างภาพโป๊ของผู้เยาว์ และยืนยันว่าหลักการทำงานของ Grok คือการปฏิเสธที่จะสร้างเนื้อหาผิดกฎหมายและต้องปฏิบัติตามกฎหมายของแต่ละประเทศอย่างเคร่งครัด แต่ถึงอย่างนั้น นักวิจัยกลับมองว่าปัญหาใหญ่คือการที่ AI ยอมเปลี่ยนชุดของผู้เยาว์ให้กลายเป็นชุดว่ายน้ำหรือจัดท่าทางที่ส่อไปในทางเพศ ซึ่งผู้กระทำผิดอาจต้องโทษทางกฎหมายร้ายแรงถึงขั้นจำคุกได้
สถานการณ์ของ Grok ตอนนี้เรียกว่ากำลังถูกเพ่งเล็งอย่างหนัก เพราะนอกจากอัยการรัฐแคลิฟอร์เนียจะประกาศสอบสวนเรื่องการแพร่ระบาดของภาพลามกที่สร้างจาก AI แล้ว ตัวบริการนี้ยังถูกแบนในประเทศอินโดนีเซียและมาเลเซีย ส่วนในสหราชอาณาจักร ทางหน่วยงานกำกับดูแลอย่าง Ofcom ก็ได้เริ่มกระบวนการสอบสวน X อย่างเป็นทางการแล้วเช่นกัน
แปลและเรียบเรียงจาก
CNN
ติดตามข่าวสารวงการบันเทิง ไลฟ์สไตล์อื่นๆ ได้ที่ Online Station