‘มันมีงานวิจัยที่เขาใช้คำว่า Structural Drift (การเคลื่อนตัวของโครงสร้าง) อันนี้คือโครงสร้างของความคิด วิธีคิดมันค่อยๆ เปลี่ยนไป ก็คือเวลายิ่งคุยกับ AI (ปัญญาประดิษฐ์) ตอนแรกเราอาจยังดีอยู่ แต่สักพักก็จะมีสิ่งที่ทำให้ AI เขาถามมาทีละนิดๆ เช่น สมมติอยู่อพาร์ตเมนท์ คอนโดฯ อะไรอย่างนี้ ดูข้างล่างมันมีไฟกระพริบๆ แล้วเหมือนแบบ ‘มันอะไร?’ จริงๆ มันไม่มีอะไร แต่เราถาม AI แล้ว AI บอกว่าเดี๋ยวลองดูสิข้างๆ มันกระพริบไหม? ถามไปถามมามันกลายเป็นเรื่องราวใหญ่โตว่ามันมีคนกำลังจะตามล่าเราอยู่ อะไรต่ออะไรอย่างนี้’

เรื่องเล่าจาก สุนิตย์ เชรษฐา ผู้อำนวยการสถาบัน ChangeFusion ในการบรรยายหัวข้อ ‘เมื่อ AI กลายเป็นเครื่องจักรผลิตความจริงปลอม’ ว่าด้วย ‘ภาวะหลงผิดของมนุษย์อันเกิดจากคำแนะนำของปัญญาประดิษฐ์ (AI Psychosis)’ ที่เริ่มพบมากในปัจจุบันเมื่อผู้คนหันมาพุดคุยกับ AI ในฐานะที่ปรึกษาปัญหาต่างๆ ในชีวิตมากขึ้น โดยเฉพาะหากเป็นคนที่เดิมมีอาการอยู่แล้ว AI จะยิ่งกระตุ้นให้อาการนั้นมาเร็วและรุนแรงขึ้น

อะไรเป็นที่มาของปรากฏการณ์นี้? สุนิตย์ กล่าวต่อไปถึงอีกคำหนึ่งคือ ‘การประจบสอพลอโดยปัญญาประดิษฐ์ (AI Sycophancy)’ หมายถึงการที่ AI ถูกออกแบบหรือพัฒนาขึ้นในลักษณะที่ทุกการคำนวณหรือการเดาคำตอบนั้นพยายามเอาใจผู้ใช้งาน เพื่อให้ผู้ใช้งานมีปฏิสัมพันธ์ (Interact) หรือนำข้อมูลไปใช้ได้อย่างถูกต้อง แต่ผลที่เกิดขึ้นคือคำตอบของ AI ที่ออกมามักยืนยันความเชื่อเดิมที่ผู้ใช้งานมีอยู่แล้ว หากเทียบกับมนุษย์ก็คือคนประเภทที่ชอบบอกว่า ‘ใช่เลย’ โดยไม่กระตุ้นให้ผู้ถามได้คิดเชิงวิเคราะห์ (Critical Thinking) เพื่อตั้งคำถามกับความเชื่อเดิมของตนเอง

ซึ่งการที่ AI คอยยืนยันความเชื่อหรือความคิดเดิมของผู้ใช้งานโดยปราศจากการทักท้วง หลายครั้งก็นำไปสู่ ‘ภาวะวนอยู่กับการหลงผิด (Delusional Spiraling)’ ในระดับที่หนักขึ้นเรื่อยๆ จนบางครั้งนำไปสู่พฤติกรรมอันตราย เช่น ทำร้ายร่างกายผู้อื่น แยกตนเองออกจากสังคมเพราะเข้าใจว่า AI เข้าใจตัวเราดีที่สุดยิ่งกว่าใครๆ หรือเกิดความเข้าใจไปว่าตนเองกำลังถูกตามล่า ดังตัวอย่างจากเรื่องเล่าข้างต้น ที่เมื่อ AI บอกว่ามีไฟกระพริบแล้วผู้ใช้งานถามต่อ AI ก็อาจบอกให้ลองดูคนข้างบ้านว่ากำลังทำอะไรอยู่ แอบมองเราอยู่หรือไม่ ความเข้าใจผิดก็ยิ่งขยายไปกันใหญ่  

หรือกรณีของ อดัม เรน (Adam Raine) เยาวชนชายวัย 16 ปี ในสหรัฐอเมริกา ซึ่งตัดสินใจฆ่าตัวตายภายหลังปรึกษาปัญหาชีวิตกับ AI รวมถึงกรณีที่มีผู้ตัดสินใจจบชีวิตของตนเองเพราะเชื่อคำแนะนำของ AI ที่บอกว่าหากยอมสละชีวิตแล้ว AI จะช่วยปกป้องโลกให้ ซึ่งแม้จะฟังดูประหลาดแต่ก็เป็นเหตุการณ์ที่เกิดขึ้นจริง ทั้งนี้ เด็กและเยาวชนถือเป็นกลุ่มเสี่ยงจากภาวะหลงผิดของมนุษย์อันเกิดจากคำแนะนำของปัญญาประดิษฐ์ เนื่องจากสมองส่วนหน้า (Frontal Cortex) ซึ่งเกี่ยวข้องกับการยับยั้งชั่งใจและควบคุมอารมณ์ยังพัฒนาไม่สมบูรณ์

นอกจากความหลงผิดที่เกิดจาก AI แล้ว สุนิตย์ ยังกล่าวถึงเรื่องน่ากังวลอีกหลายประการที่เกี่ยวกับ AI คือ 1.ปัญญาประดิษฐ์เอื้อให้เกิดสายพานการผลิตข่าวปลอม ต้นทุนการสร้างข่าวปลอมสักชิ้นหนึ่งถูกลงทั้งกระบวนการ ตั้งแต่การวิเคราะห์กลุ่มเป้าหมายที่ต้องการส่งสารไปถึง การปรับสำนวนเนื้อหา สร้างภาพและเสียงให้ตรงกับจริตของกลุ่มเป้าหมาย รวมถึงการเผยแพร่เนื้อหาให้กระจายผ่าน ‘บอท (Bot)’ หรือระบบอัตโนมัติ

และข่าวร้ายคือ ‘เทคโนโลยีตรวจจับเนื้อหาปลอมที่สร้างจาก AI พบว่าไมได้ผลเสมอไป’ คือมีทั้งที่จับได้และ ไม่ได้ อีกทั้งตรวจจับได้น้อยลงเรื่อยๆ ในขณะที่มนุษย์เองก็แทบจะแยกแยะไม่ได้ กลายเป็นมนุษย์ต้องตระหนักว่าปัจจุบันเรากำลังอยู่ในโลกที่มีของปลอมที่แยกไม่ออก นำไปสู่การที่ระยะหลังๆ เริ่มพูดกันถึงคำว่า ‘การพิสูจน์ที่มา (Provenance)’ ซึ่งคล้ายกับการถ่ายภาพที่มีการข้อมูลฝังรายละเอียดของภาพ (Metadata) เพื่อให้สามารถระบุที่มาของภาพนั้นได้ อนึ่ง ที่ประเทศจีนมีการออกกฎหมายให้ข้อมูลที่สร้างด้วย AI ต้องระบุรายละเอียดให้สืบสวนย้อนกลับได้

‘ช่วงหลังทั่วโลกเริ่มออกจาก Fact – Check (การตรวจสอบข้อเท็จจริง) เมื่อเกิดข่าวแล้วไปดูว่ามันถูกหรือผิด ซึ่งก็ยังต้องทำอยู่ แต่ว่าเริ่มไปทำในเชิงระบบมากขึ้น ไปดูว่าต้นตอของข่าวนั้น ของเนื้อหานั้นมันมาอย่างไรแล้วมีเครื่องมือในการจัดการดูพิสูจน์ที่มา’ สุนิตย์ กล่าว

2.เทคโนโลยี AI ทำให้การก่ออาชญากรรมทำได้แนบเนียนขึ้น อย่างการใช้เทคนิคปลอมภาพและเสียง (Deepfake) เพื่อหลอกลวง เช่น ทำเสียงเลียนแบบพิธีกรรายการข่าวแอบอ้างโฆษณายารักษาโรค เลียนแบบนักการเมืองคนดังกำลังพูดยอมรับว่าตนเองซื้อเสียง หรือกรณีอื้อฉาวเป็นข่าวดังไปทั่วโลก คือมิจฉาชีพสร้างห้องประชุมออนไลน์ปลอมโดยที่ภาพของทุกคนในห้องล้วนถูกสร้างด้วยเทคนิค Deepfake ทั้งสิ้น เพื่อหลอกลวงให้พนักงานบริษัทแห่งหนึ่งในฮ่องกงหลงเชื่อและโอนเงินออกไป

และ 3.อาการเพ้อของปัญญาประดิษฐ์ (AI Hallucination) ไม่สามารถแก้ไขให้หมดสิ้นไปได้ เรื่องนี้มีข้อค้นพบจากงานวิจัยหลายชิ้นในต่างประเทศ เช่นจาก OpenAI, Stanford, Georgia Tech และ NUS (2024-2025) ซึ่งหากใครที่ใช้ AI ค้นหาและสรุปเรื่องราวต่างๆ หลายครั้งที่ตรวจสอบจะพบว่าสรุปมาแบบผิดๆ ถูกๆ หรืออ้างแหล่งอ้างอิงที่ไม่มีอยู่จริง ที่เป็นเช่นนั้นเพราะ AI ถูกออกแบบมาให้หาคำตอบที่ดูแล้วจริงที่สุด โดยสรุปแล้ว ‘AI ก็เหมือนนกแก้วเชิงสถิติ’ ที่พูดคล่องแต่ไม่มีกลไกตรวจสอบความจริง จึงจำเป็นต้องมีมนุษย์อยู่ร่วมในกระบวนการด้วยเสมอ

เรื่องเล่าข้างต้นของ ผอ.สถาบัน ChangeFusion ซึ่งเป็นส่วนหนึ่งของงานเสวนาเนื่องในวันพูดความจริง (Tell the Truth Day) หัวข้อ ‘ธรรมาภิบาลแพลตฟอร์มกับความจริงในยุค AI’ จัดโดยภาคีโคแฟค (ประเทศไทย) ร่วมกับอีกหลายองค์กรเมื่อวันที่ 7 ก.ค. 2569 ที่ผ่านมา นั้นไม่ได้เกินจริงแต่อย่างใด อย่างการประจบสอพลอโดยปัญญาประดิษฐ์ (AI Sycophancy) มีงานวิจัยหัวข้อ ‘Sycophantic AI decreases prosocial intentions and promotes dependence’ เผยแพร่เมื่อเดือน มี.ค. 2569 ซึ่งทดลองกับอาสาสมัคร 2,405 คน รวมถึงตรวจสอบ AI ยอดนิยมหลายยี่ห้อ

พบว่า แม้จะเป็นคำถามที่เกี่ยวกับพฤติกรรมอันตราย ผิดกฎหมายหรือศีลธรรม แต่ AI มีแนวโน้มที่จะให้คำตอบในเชิงเห็นด้วยหรือสนับสนุนผู้ใช้งานในสัดส่วนที่มากกว่าหากถามคำถามเดียวกันกับมนุษย์ ซึ่งคณะผู้วิจัยได้ให้บทสรุปว่า มีความจำเป็นที่จะต้องแก้ไขปัญหาการประจบของ AI ในฐานะความเสี่ยงทางสังคมต่อการรับรู้ตนเองและความสัมพันธ์ระหว่างบุคคล โดยการพัฒนากลไกการออกแบบ การประเมิน และความรับผิดชอบที่ตรงเป้าหมาย

หรืออย่างกรณีที่คนตัดสินใจจบชีวิตตนเองโดยเชื่อว่า AI จะช่วยปกป้องโลกให้ เรื่องนี้เกิดขึ้นช่วงปลายเดือน มี.ค. 2566 รายงานข่าว ‘Man ends his life after an AI chatbot 'encouraged' him to sacrifice himself to stop climate change’ โดย Euronews เครือข่ายสถานีโทรทัศน์ของสหภาพยุโรป (EU) ระบุผู้ตายเป็นชายชาวเบลเยียมวัยสามสิบเศษ สนทนากับ AI นานกว่า 6 สัปดาห์เกี่ยวกับปัญหาความเปลี่ยนแปลงทางภูมิอากาศ (Climate Change) หรือโลกร้อน จนกระทั่งรู้สึกหมดหวังกับมนุษย์ในการแก้ปัญหานี้และตัดสินใจลาโลกตามถ้อยคำสนับสนุนของ AI

ปัจจุบัน AI หรือปัญญาประดิษฐ์ได้เข้ามาเป็นส่วนหนึ่งในชีวิตประจำวันของมนุษย์ ซึ่งก็มีประโยชน์มากโดยเฉพาะการเพิ่มประสิทธิภาพการทำงาน  แต่อีกด้านหนึ่งหากใช้งานอย่างไม่รู้เท่าทันก็สามารถส่งผลกระทบได้ตั้งแต่ระดับปัจเจกบุคคลไปจนถึงสังคมวงกว้าง!!!