เปิดคดีคลิปลวงดีพเฟค (Deepfake) สาวอินเดียถูกขโมยตัวตนไปสร้างคลิปอนาจารด้วยเอไอ

ที่มาของภาพ : Babydoll Archi

Article Data

• • Creator, กีตา ปันเดย์
  • Role, บีบีซีนิวส์, เดลี
• เมื่อ 1 ชั่วโมงที่แล้ว

บัญชีอินสตาแกรมชื่อ Babydoll Archi (บาบีดอลล์ อาร์ชี) มียอดผู้ติดตามเพิ่มกว่าเท่าตัวจนทะลุ 1.4 ล้านคนภายในเวลาไม่กี่วัน แฟนคลับหน้าใหม่เข้าติดตามเพิ่มขึ้นรายวันเพื่อติดตามชมภาพนิ่งและวีดีโอเร้าอารมณ์

วีดีโอหนึ่งที่กลายเป็นไวรัลโด่งดังในอินเดียเป็นภาพเธอในชุดส่าหรีสีแดง เต้นด้วยท่าทางยั่วยวนใจตามจังหวะเพลงโรมาเนียนที่ชื่อ “Dame Un Grr” ส่วนอีกภาพหนึ่งแสดงภาพเธอโพสต์ท่าทางกับเคนดรา ลัสท์ (Kendra Lust) ดาวภาพยนตร์ผู้ใหญ่ชาวอเมริกัน

ภาพและวีดีโอดังกล่าวส่งเธอให้มีชื่อเสียงโด่งดังชั่วข้ามคืน ชื่อของเธอติดอันดับต้น ๆ ในการค้นหาผ่านเว็บไซต์กูเกิล ในโซเชียลมีเดียปรากฏมีมและแฟนเพจของเธอขึ้นมาทั่ว มีรายงานต่าง ๆ ถูกส่งต่อทั่วว่าเธอเป็นคน ๆ แรกที่มาจากรัฐอัสสัม ซึ่งตั้งอยู่ทางตะวันออกเฉียงเหนือของอินเดียที่จะเข้าร่วมอุตสาหกรรมภาพยนตร์ผู้ใหญ่ในสหรัฐอเมริกา

สื่อกระแสหลักหลายแห่งรายงานกระแสความคลั่งไคล้นี้เช่นกัน โดยระบุว่าเธอเป็น “อินฟลูเอนเซอร์” หลายสำนักข่าวพยายามเขียนประวัติของเธอ ขณะที่คำค้น “Babydoll Archi คือใคร?” กลายเป็นพาดหัวข่าวที่ถูกนำเสนออย่างแพร่หลาย

ทว่า เบื้องหลังไวรัลอันเร้าใจนี้ไม่ได้มีผู้หญิงตัวจริงอยู่เลย

Skip ได้รับความนิยมสูงสุด and proceed finding outได้รับความนิยมสูงสุด

Quit of ได้รับความนิยมสูงสุด

บัญชีอินสตาแกรมดังกล่าวเป็นบัญชีปลอม แต่ใบหน้าที่ใช้กลับมีความคล้ายคลึงกับหญิงแม่บ้านธรรมดาคนหนึ่งในเมืองดิบรูคารห์ รัฐอัสสัม ซึ่งในรายงานนี้จะเรียกเธอว่า “ซานชี”

หลังจากพี่ชายของซานชีเข้าแจ้งความกับตำรวจความจริงก็เริ่มคลี่คลาย และนำไปสู่การจับกุมปราทิม โบรา อดีตแฟนหนุ่มของเธอ

พ.ต.หญิง สิซัล อาการ์วาล เจ้าหน้าที่ระดับสูงผู้ดูแลการสอบสวน เปิดเผยกับบีบีซีว่า ซานชีและปราทิม โบรา เคยมีความสัมพันธ์กันมาก่อนแต่เกิดความขัดแย้งขึ้น และการสร้างตัวตนด้วยปัญหาประดิษฐ์ หรือเอไอ (artificial intelligence – AI) ดังกล่าวเป็นการกระทำที่ฝ่ายชายทำขึ้นเพื่อ “แก้แค้นโดยแท้”

โบราเป็นวิศวกรเครื่องกลเคยกระตือรือร้นเรียนรู้การใช้ปัญญาประดิษฐ์ด้วยตนเอง เขาใช้ภาพถ่ายส่วนตัวของซานชีในการสร้างโปรไฟล์ปลอมขึ้นมา พ.ต.หญิง อาการ์วาลกล่าว

ขณะนี้โบราอยู่ในความควบคุมของเจ้าหน้าที่ และยังไม่ได้ให้ถ้อยแถลงใด ๆ บีบีซีได้ติดต่อไปยังครอบครัวของเขาและจะรายงานเพิ่มเติมเมื่อได้รับการตอบกลับ

พ.ต.หญิง อาการ์วาลระบุว่า บัญชี “Babydoll Archi” ถูกสร้างขึ้นในปี 2020 และมีการอัปโหลดเนื้อหาแรกในเดือน พ.ค. 2021 โดยในช่วงแรกเป็นภาพจริงของซานชีที่ถูกดัดแปลง

“เมื่อเวลาผ่านไปโบราได้ใช้เครื่องมืออย่าง ChatGPT และ Dzine เพื่อสร้างตัวตนเสมือนด้วย AI และนำภาพและวิดีโอดีพเฟค มาเผยแพร่ผ่านบัญชีดังกล่าว”

เธอกล่าวเพิ่มเติมว่า บัญชีข้างต้นเริ่มกลับมาได้รับความนิยมตั้งแต่ปีที่แล้ว แต่เริ่มได้รับความสนใจอย่างมากตั้งแต่เดือน เม.ย. ที่ผ่านมา

ครอบครัวของซานชียื่นคำร้องทุกข์ต่อเจ้าหน้าที่ในคืนวันที่ 11 ก.ค. เนื้อหาดังกล่าวมีความยาวเพียงสองย่อหน้า และแนบภาพถ่ายและวิดีโอบางส่วนเป็นหลักฐาน

พ.ต.หญิง อาการ์วาลระบุว่า คำร้องดังกล่าวไม่ได้ระบุชื่อผู้ต้องหาเนื่องจากครอบครัวไม่ทราบว่าใครอยู่เบื้องหลังบัญชีนี้

ที่มาของภาพ : Reuters

ชื่อ “Babydoll Archi” ไม่ใช่ชื่อแปลกใหม่สำหรับตำรวจ พ.ต.หญิง อาการ์วาล ระบุว่า เจ้าหน้าที่เคยพบรายงานข่าวและความคิดเห็นในสื่อที่ตั้งข้อสังเกตว่าบุคคลในภาพที่ปรากฏในบัญชีนี้อาจเป็นบุคคลที่สร้างขึ้นด้วยปัญญาประดิษฐ์แต่ในขณะนั้นยังไม่มีข้อมูลใดที่บ่งชี้ว่าอ้างอิงจากบุคคลจริง

หลังจากได้รับการแจ้งความ ตำรวจได้ทำหนังสือถึงผู้ให้บริการอินสตาแกรมเพื่อขอข้อมูลเกี่ยวกับผู้สร้างบัญชีดังกล่าว

“เมื่อเราได้รับข้อมูลจากอินสตาแกรมแล้ว เราจึงสอบถามซานชีว่า เธอรู้จักชายชื่อปราทิม โบราคนนี้หรือไม่ เมื่อเธอยืนยันเราก็สามารถติดตามที่อยู่ได้ว่าเขาอาศัยในเขตตินซูเกียซึ่งอยู่ติดกัน และได้เข้าจับกุมในช่วงเย็นของวันที่ 12 ก.ค.”

พ.ต.หญิง อาการ์วาล ยังเปิดเผยว่าเจ้าหน้าที่ได้ “ยึดคอมพิวเตอร์แล็ปท็อป โทรศัพท์มือถือ ฮาร์ดไดรฟ์ และเอกสารทางการเงินของผู้ต้องหาไว้ เนื่องจากพบว่าเขาได้สร้างรายได้จากบัญชีดังกล่าว”

เธอกล่าวว่า “บัญชีนี้มีผู้ติดตามผ่านแพลตฟอร์มลิงก์ทรี (Linktree) ถึง 3,000 ราย และเราประเมินว่าเขาอาจทำรายได้ถึง 1 ล้านรูปี (ราว 370,000 บาท) โดยในช่วงห้าวันก่อนถูกจับกุม เขาน่าจะทำเงินได้ถึง 300,000 รูปี (ราว 110,000 บาท)”

พ.ต.หญิง อาการ์วาล ยังระบุว่า ซานชี “อยู่ในภาวะเครียดอย่างมาก แต่ขณะนี้เธอและครอบครัวได้รับการดูแลด้านจิตใจ และอาการก็ดีขึ้นแล้ว”

เจ้าหน้าที่ตำรวจรายนี้ยังกล่าวว่า ไม่มีทางป้องกันเหตุการณ์เช่นนี้ได้อย่างสมบูรณ์ “แต่หากเราเข้าดำเนินการเร็วกว่านี้ ก็อาจป้องกันไม่ให้มันแพร่กระจายไปไกลขนาดนี้ได้”

เธอกล่าวเพิ่มเติมว่า “ซานชีไม่รู้เรื่องเลย เพราะเธอไม่มีตัวตนบนโซเชียลมีเดีย ครอบครัวของเธอก็ถูกบล็อกจากบัญชีดังกล่าว พวกเขาเพิ่งมาทราบเรื่องเมื่อมันกลายเป็นไวรัลแล้ว”

เมตา (Meta) ยังไม่ได้ตอบคำถามของบีบีซีต่อเหตุการณ์ที่เกิดขึ้น ทั้งนี้ โดยทั่วไปแล้วตัวแพลตฟอร์มไม่อนุญาตให้โพสต์ภาพเปลือยหรือเนื้อหาทางเพศ เดือนที่ผ่านมาสำนักข่าวซีบีเอสรายงานว่า เมตาได้ลบโฆษณาจำนวนหนึ่งซึ่งประชาสัมพันธ์เครื่องมือปัญญาประดิษฐ์ที่ใช้สร้างภาพลวง (deepfake) จากภาพคนจริงเพื่อสร้างเนื้อหาทางเพศอย่างโจ่งแจ้ง

ที่มาของภาพ : Getty Photos

บัญชีอินสตาแกรมของ Babydoll Archi เคยมีเนื้อหาจำนวน 282 โพสต์ ขณะนี้ถูกปิดกั้นไม่ให้สาธารณชนเข้าถึงได้แล้ว แม้ดูเหมือนว่าภาพและวีดีโอทั้งหมดของเธอจะถูกทำซ้ำและแพร่กระจายไปตามโซเชียลมีเดียตั้งแต่ก่อนหน้านี้แล้วก็ตาม

เมฆนา บาล ผู้เชี่ยวชาญด้านปัญญาประดิษฐ์และทนายความกล่าวว่า สิ่งที่เกิดขึ้นกับซานชี “เป็นเรื่องเลวร้าย แต่แทบไม่มีทางป้องกันไม่ให้เกิดขึ้นได้เลย”

เธออาจไปศาลและร้องขอให้ศาลมีคำสั่งคุ้มครองสิทธิที่จะถูกลืม (sincere to be forgotten) ซึ่งศาลอาจออกคำสั่งต่อสื่อมวลชนให้ลบชื่อของเธอออก แต่การกำจัดร่องรอยทั้งหมดในอินเทอร์เน็ตให้หายไปเป็นเรื่องยาก

เธอกล่าวว่า สิ่งที่เกิดขึ้นต่อซานชีคือ สิ่งที่เกิดขึ้นต่อผู้หญิงเสมอมา โดยภาพถ่ายและวีดีโอของพวกเธอจะถูกปล่อยออกมาเพื่อจุดประสงค์ในการแก้แค้น

บาลกล่าวว่า “ขณะนี้การปล่อยภาพในลักษณะดังกล่าวยิ่งทำได้ง่ายขึ้นจากปัญญาประดิษญ์ แต่เหตุการณ์นี้ก็ยังไม่เกิดขึ้นแพร่หลายเท่าที่เราคาดการณ์ไว้ หรืออาจจะเกิดขึ้นแต่ไม่เคยถูกรายงานเนื่องจากการถูกสังคมตีตรา หรือผู้ที่ตกเป็นเหยื่ออาจไม่ทราบด้วยซ้ำดังที่เกิดขึ้นในกรณีล่าสุด”

เธอยังกล่าวเพิ่มเติมว่า ผู้ที่ดูภาพดังกล่าวก็ย่อมไม่มีแรงจูงใจในการแจ้งเรื่องนี้ต่อแพลตฟอร์มโซเชียลมีเดียหรือช่องทางแจ้งความอาชญากรรมทางไซเบอร์

ในคำกล่าวโทษต่อโบรา เจ้าหน้าที่ตำรวจได้ใช้ข้อหาที่เกี่ยวข้องกับการคุกคามทางเพศ การแพร่กระจายสื่อลามก หมิ่นประมาท ทำให้บุคคลเสื่อมเสียชื่อเสียง ปลอมตัวเป็นผู้อื่นเพื่อลวงลวง และก่ออาชญากรรมออนไลน์ หากพบว่าผิดจริง โบราอาจต้องโทษจำคุกถึง 10 ปี

กรณีนี้ยังได้ก่อกระแสความไม่พึงพอใจทางสื่อโซเชียลในช่วงที่ผ่านมา โดยผู้ใช้อินเทอร์เน็ตเรียกร้องให้มีกฎหมายที่เข้มข้นขึ้นในการจัดการกับปัญหารูปแบบดังกล่าว

บาลเชื่อว่า กฎหมายที่มีอยู่ในปัจจุบันเพียงพอที่จะจัดการกรณีการละเมิดที่เกี่ยวข้องกับเทคโนโลยี AI แล้ว อย่างไรก็ตาม เธอเห็นว่าควรมีการพิจารณาว่า จำเป็นต้องมีกฎหมายใหม่เพื่อกำกับดูแลบริษัทที่พัฒนาเทคโนโลยี AI หรือไม่

“แต่เราต้องไม่ลืมว่าเทคโนโลยีดีพเฟค (deepfake) ไม่ได้เลวร้ายเสมอไป และการออกกฎหมายต้องทำอย่างรอบคอบ เพราะอาจถูกนำไปใช้เป็นเครื่องมือในการปิดกั้นเสรีภาพในการแสดงออกได้” เธอกล่าว