13 มกราคม 2568 สำนักข่าวต่างประเทศรายงานว่า อินโดนีเซีย รวมถึง มาเลเซีย เป็น 2 ประเทศแรกของโลกที่ปิดกั้นการใช้งาน Grok (กร็อก)  แชตบอตปัญญาประดิษฐ์บนแพลตฟอร์มเอ็กซ์ (X) ของ มหาเศรษฐีชาวสหรัฐ อีลอน มัสก์ (Elon Musk)หลังรัฐบาลมาเลเซียและอินโดนีเซียบอกว่า Grok ถูกนำไปใช้ในทางที่ผิดเพื่อตัดต่อภาพอนาจาร หรือ ใช้ทำภาพอื่นที่บุคคลดังกล่าวไม่ได้อนุญาต

หน่วยงานกำกับดูแลของอินโดนีเซียและมาเลเซีย ระบุว่า มาตรการที่มีอยู่ไม่สามารถป้องกันการสร้างและเผยแพร่เนื้อหาทางเพศที่ไม่เป็นความจริง โดยเฉพาะในการตัดต่อภาพเปลืองของผู้หญิง หรือเด็ก Grok ถูกแบนการเข้าถึงในวันที่ 10 มกราคม ในประเทศอินโดนีเซียและในวันต่อมาในประเทศมาเลเซีย

รัฐมนตรีกระทรวงสื่อสารและกิจการดิจิทัลของอินโดนีเซียกล่าวในแถลงการณ์ว่า รัฐบาลเล็งเห็นว่าการตัดต่อหน้าคนอื่นลงในภาพเปลือยโดยไม่ได้รับอนุญาตจากบุคคลดังกล่าวเป็นการละเมิดสิทธิมนุษยชน เกียรติ และความปลอดภัยของประชาชนในโลกออนไลน์อย่างร้ายแรง มาตรการแบน Grok จึงมีวัตถุประสงค์เพื่อปกป้องผู้หญิง เด็ก และสังคมโดยรวมจากเนื้อหาทางเพศที่ผลิตโดยเอไอ

เบื้องต้นของทางกระทรวงพบว่า Grok ไม่มีแนวทางป้องกันที่ดีพอเพื่อหยุดไม่ให้ผู้ใช้งาน Grok ผลิต และส่งต่อเนื้อหาทางเพศที่ตัดต่อโดยใช้ภาพจริงของคนอินโดนีเซีย พฤติการณ์เช่นนั้นถือเป็นการละเมิดสิทธิส่วนบุคคลและสิทธิในภาพถ่ายจากการถูกนำภาพไปบิดเบือนหรือส่งต่อโดยไม่ได้รับความสมัครใจ ทำให้เกิดผลกระทบต่อชื่อเสียง

ด้านคณะกรรมการการสื่อสารและมัลติมีเดียของมาเลเซียสั่งให้จำกัดการเข้าถึง Grok ชั่วคราว เพราะมีการใช้งานในทางที่ผิดหลายครั้งเพื่อผลิตภาพทางเพศเกี่ยวกับเด็กและผู้หญิง จึงได้ออกคำเตือนไปยังเอ็กซ์ เพื่อให้มีการปรับปรุงมาตรการป้องกันเพื่อแก้ไขการนำ Grok ไปใช้ในลักษณะดังกล่าว แต่กระบวนการทางกฎหมายและกฎระเบียบกำลังดำเนินไปในขณะนี้