15 มกราคม 2569 สำนักข่าวต่างประเทศรายงานว่าหลังจากที่ อินโดนีเซีย และ มาเลเซีย เป็น 2 ประเทศแรกของโลกที่ปิดกั้นการใช้งาน Grok (กร็อก)  แชตบอตปัญญาประดิษฐ์บนแพลตฟอร์มเอ็กซ์ (X) ของ มหาเศรษฐีชาวสหรัฐ อีลอน มัสก์ (Elon Musk) หลังรัฐบาลมาเลเซียและอินโดนีเซียบอกว่า Grok ถูกนำไปใช้ในทางที่ผิดเพื่อตัดต่อภาพอนาจาร หรือ ใช้ทำภาพอื่นที่บุคคลดังกล่าวไม่ได้อนุญาต

ล่าสุดแพลตฟอร์มเอ็กซ์ (X) ประกาศใช้มาตรการทางเทคโนโลยีเพื่อป้องกันไม่ให้แชตบอต AI ชื่อดังอย่าง Grok (กร็อก) สามารถแก้ไขหรือสร้างภาพบุคคลจริงในชุดล่อแหลม โดยมาตรการนี้จะมีผลกับผู้ใช้งานทุกคนรวมถึงสมาชิกแบบชำระเงินด้วย 

การปรับเปลี่ยนครั้งใหญ่เกิดขึ้นหลังจากฟีเจอร์ที่เรียกว่า Spicy Mode ของกร็อก ถูกวิพากษ์วิจารณ์อย่างหนักว่ายอมให้ผู้ใช้ใส่คำสั่งง่ายๆ เช่น ให้เธอใส่ชุดว่ายน้ำ หรือ ถอดเสื้อผ้าเธอออก เพื่อสร้างภาพ Deepfakeเชิงอนาจารของบุคคลจริง รวมถึงเด็กและเยาวชน

ผลการวิเคราะห์ภาพจาก Grok มากกว่า 20,000 ภาพโดยองค์กรไม่แสวงหากำไร AI Forensics ในกรุงปารีส พบว่ากว่าครึ่งเป็นภาพบุคคลที่สวมเสื้อผ้าน้อยชิ้น ซึ่งส่วนใหญ่เป็นผู้หญิง และร้อยละ 2 ของภาพเหล่านั้นดูเหมือนเป็นเยาวชน

ปัจจุบันเอ็กซ์เอไอ ซึ่งเป็น บริษัทผู้พัฒนา Grok กำลังถูกตรวจสอบอย่างหนักจากหลายหน่วยงาน โดยในสหรัฐฯ อัยการสูงสุดรัฐแคลิฟอร์เนียประกาศเริ่มการสืบสวนเอ็กซ์เอไอ ว่าละเมิดกฎหมายรัฐในประเด็นการสร้างภาพอนาจารโดยไม่ได้รับยินยอมหรือไม่ 

ขณะที่ผู้ว่าการรัฐแคลิฟอร์เนียประณามการปล่อยให้ภาพ Deepfake ระบาดว่าเป็นเรื่องที่ น่ารังเกียจ ส่วนสหภาพยุโรป คณะกรรมาธิการยุโรปกำลังเฝ้าระวังมาตรการใหม่ของแพลตฟอร์มเอ็กซ์ อย่างใกล้ชิด เพื่อประเมินว่าจะสามารถปกป้องพลเมืองในอียูได้อย่างมีประสิทธิภาพจริงหรือไม่

นอกจากเทคโนโลยีป้องกันการแก้ไขภาพบุคคลจริง แพลตฟอร์มเอ็กซ์ ยังได้ประกาศจำกัดสิทธิ์การสร้างและแก้ไขภาพผ่าน Grok ให้เฉพาะสมาชิกแบบชำระเงินเท่านั้น เพื่อสร้างชั้นการป้องกันพิเศษและช่วยให้ระบุตัวตนผู้ใช้งานได้ง่ายขึ้น

ต่อมา กลุ่มภาคประชาสังคมกว่า 28 แห่ง ได้รวมตัวกันยื่นจดหมายเปิดผนึกถึงซีอีโอของแอปเปิล และกูเกิล เพื่อเรียกร้องให้ถอดแอปพลิเคชันเอ็กซ์ และ Grok ออกจากแอปสโตร์ เนื่องจากความกังวลว่ามาตรการที่ออกมาอาจไม่เพียงพอที่จะหยุดยั้งได้