จีนพบความท้าทายใหม่ หลังวิดีโอปลอมจาก AI แพร่กระจายท่ามกลางภัยพิบัติทางธรรมชาติ

ที่มาของภาพ : Chinese language remark media

• • Creator, สตีเฟน แมคโดเนลล์
  • Role, ผู้สื่อข่าวประจำประเทศจีน บีบีซีนิวส์
• Printed เมื่อ 43 นาทีที่ผ่านมา
• เวลาอ่าน: 6 นาที

ในขณะที่จีนกำลังรับมือกับผลกระทบจากพายุไต้ฝุ่นโนอึลที่พัดขึ้นฝั่งเมื่อสุดสัปดาห์ที่ผ่านมา เจ้าหน้าที่ต่างตระหนักอย่างเจ็บปวดว่า พวกเขาอาจต้องเผชิญกับความท้าทายเพิ่มเติมอีกประการหนึ่งจากคลิปวิดีโอที่สร้างด้วยปัญญาประดิษฐ์ หรือเอไอ (AI) ซึ่งให้ข้อมูลผิดพลาดอย่างอันตราย

พายุรุนแรงและเหตุการณ์น้ำท่วมในช่วงไม่กี่เดือนที่ผ่านมา ทำให้เกิดคลิปวิดีโอปลอมจำนวนมากแพร่กระจายอยู่บนแพลตฟอร์มโซเชียลมีเดีย รวมถึงภาพศwลอยอยู่ในน้ำท่วม ภาพที่ฉายให้เห็นถึงสภาพน้ำท่วมรุนแรงในพื้นที่ที่ไม่ได้ได้รับผลกระทบจริง และรายละเอียดความพยายามรับมือในเหตุฉุกเฉินปลอม ๆ

ในบางพื้นที่ มีวิดีโอให้ข้อมูลเท็จว่ามีไฟฟ้าดับ ทำให้ประชาชนแห่กันไปซื้อเสบียงมากักตุนด้วยความตื่นตระหนก

วิดีโออื่น ๆ ก็อาศัยเหตุการณ์ที่เกิดขึ้นจริงมาสร้างเรื่องราว

เหตุการณ์น้ำท่วมในเมืองเหิงโจว มณฑลกวางซี เมื่อต้นเดือน ก.ค. ที่ผ่านมาทำให้งูหลายร้อยตัวหลุดออกจากฟาร์มเพาะเลี้ยง แต่ในโลกออนไลน์กลับมีการเผยแพร่ภาพปลอมที่อ้างว่าจระเข้ถูกปล่อยลงสู่แม่น้ำด้วย

ในสถานการณ์ที่ตึงเครียดและอันตรายอยู่แล้ว ทั้งยังเกี่ยวข้องกับการต้องอพยพผู้คนครั้งใหญ่และต้องมีปฏิบัติการกู้ภัยที่สลับซับซ้อน ทางการต้องการหลีกเลี่ยงความตื่นตระหนก ทว่า ตอนนี้พวกเขากังวลว่าเทคโนโลยีเอไอซึ่งจีนทุ่มเงินหลายพันล้านดอลลาร์ไปนั้น จะกลายเป็นเครื่องมือที่สามารถนำมาใช้ลวงลวงประชาชนได้โดยทั้งใช้งานง่ายและเข้าถึงได้อย่างกว้างขวาง

“คอนเทนต์ครีเอเตอร์หลายคนพยายามใช้ข่าวภัยพิบัติมาเรียกยอดผู้ติดตาม โดยรู้ว่าคอนเทนต์ที่สร้างความตื่นเต้นหรือเกินจริงจะได้รับยอดไลก์ (ถูกใจ) และยอดวิว (รับชม) มากขึ้น พวกเขาจงใจสร้างข้อมูลเท็จเพื่อดึงดูดความสนใจของผู้คน” หวง จื้อฮวา รองหัวหน้าฝ่ายความปลอดภัยสาธารณะออนไลน์ของกรมตำรวจเจ้อเจียง กล่าวกับสื่อของรัฐบาลจีน

ในช่วงไม่กี่สัปดาห์ที่ผ่านมา มีการจับกุมคอนเทนต์ครีเอเตอร์หลายรายจากเหตุสร้างเนื้อหาวิดีโอปลอมและลงโทษด้วยวิธีการต่าง ๆ ตั้งแต่การควบคุมตัวเพื่อรอการดำเนินคดีอาญาไปจนถึงการปรับเงิน

Conclude of ได้รับความนิยมสูงสุด

แต่ผู้เชี่ยวชาญเตือนว่า วิกฤตข้อมูลเท็จที่ไม่เคยเกิดขึ้นมาก่อนอาจกำลังก่อตัวขึ้น

ที่มาของภาพ : Social media

ในบทความที่ตีพิมพ์ในหนังสือพิมพ์ของโรงเรียนของคณะกรรมการกลางพรรคคอมมิวนิสต์จีน ศาสตราจารย์เฉิน ปิน กล่าวว่า “ปัญญาประดิษฐ์ได้ลดอุปสรรคทางเทคนิคในการสร้างข้อมูลเท็จลงอย่างมาก ปัจเจกชนไม่จำเป็นต้องมีทักษะทางเทคนิคที่ซับซ้อนอีกต่อไป เพียงแค่สั่งการเอไอ พวกเขาก็สามารถสร้างข้อความ รูปภาพ เสียง และวิดีโอที่ดูสมจริงได้อย่างรวดเร็ว… แม้จะดูสมจริงอย่างยิ่ง แต่เนื้อหาเหล่านี้ล้วนถูกสร้างขึ้นมา และสามารถผลิตได้ครั้งละจำนวนมาก”

ศาสตราจารย์เกา ฟู่ผิง จากมหาวิทยาลัยรัฐศาสตร์และกฎหมายแห่งจีนตะวันออก (East China College of Political Science and Law) กล่าวกับบีบีซีว่า แรงจูงใจในการเผยแพร่เนื้อหาเท็จดังกล่าวมีหลากหลาย ตั้งแต่ผู้ที่ทำไป “เพื่อสร้างความสนุกขบขันโดยไม่ได้คิดถึงผลที่ตามมา” ไปจนถึงผู้ที่ต้องการ “สร้างยอดผู้เข้าชมเพื่อผลประโยชน์ส่วนตัว” หรือผู้ที่ต้องการ “ก่อให้เกิดความแตกตื่นหรือความไม่สงบในสังคม” โดยเจตนา

“ผู้ใช้งานบางคนคิดว่าโลกออนไลน์เป็นโลกนิรนาม ไม่มีการควบคุม หรือคิดว่าไม่สามารถติดตามตัวได้” เขากล่าว

มีการเรียกร้องให้เนื้อหาที่สร้างโดยเอไอทั้งหมดมีการประทับตราให้ชัดเจนว่าสร้างจากปัญญาประดิษฐ์ แต่ผู้ใช้รายอื่นสามารถแก้ไขเนื้อหานั้นได้โดยการลบเครื่องหมายเหล่านั้นออก

ศาสตราจารย์ซู เสี่ยวเค่อ จากมหาวิทยาลัยครูแห่งปักกิ่ง (Beijing Usual College) กล่าวกับบีบีซีว่า เราจำเป็นต้องใช้ความพยายามมากขึ้นในการตรวจสอบตำแหน่งทางภูมิศาสตร์ด้วยการประทับเวลา และการตรวจสอบแหล่งที่มาของภาพด้วย

“ถึงกระนั้น ผมอยากเน้นย้ำว่าเทคโนโลยีการตรวจจับยังคงตามหลังเทคโนโลยีการสร้างเนื้อหาอยู่ เรากำลังอยู่ในเกมแมวไล่จับหนูตลอดเวลา ดังนั้นเราไม่ควรคิดว่าเทคโนโลยีเพียงอย่างเดียวจะสามารถระบุเนื้อหาที่สร้างโดยเอไอได้ด้วยการคลิกเพียงครั้งเดียว” เขากล่าวเตือน

ที่มาของภาพ : Social media

รัฐบาลจีนกำลังนำปัญญาประดิษฐ์มาใช้ในความพยายามเพื่อก้าวขึ้นสู่เป็นมหาอำนาจทางเทคโนโลยีชั้นนำของโลก

ในปี 2017 รัฐบาลประกาศว่าเอไอจะเป็น “แรงขับเคลื่อนหลัก” ของความก้าวหน้าของประเทศ

เม็ดเงินมหาศาลกำลังหลั่งไหลเข้าสู่ธุรกิจเอไอ ขณะที่บริษัทต่าง ๆ เร่งแสวงหาเงินทุนเพิ่มเติม ส่งผลให้การแข่งขันภายในประเทศทวีความเข้มข้นขึ้น สำนักข่าวซินหัวซึ่งอยู่ภายใต้การควบคุมของรัฐรายงานว่า ปัจจุบันประเทศจีนมี “บริษัทเอไอ” มากกว่า 6,000 แห่ง

ในสถานการณ์เช่นนี้ ศาสตราจารย์ซูเชื่อว่าจีนจำเป็นต้องสร้าง “โครงสร้างพื้นฐานด้านข้อมูลที่น่าเชื่อถือ” ซึ่งอาจรวมถึงระบบเตือนภัยล่วงหน้าอย่างเป็นทางการของรัฐบาล และอินเทอร์เฟซรับมือภัยพิบัติที่องค์กรข่าวสามารถเข้าถึงได้

ทว่ามีบางกรณีที่แหล่งข้อมูลทางการ รวมถึงสื่อที่อยู่ภายใต้การควบคุมของรัฐบาล จงใจลดระดับภัยพิบัติ ส่งผลให้ประชาชนบางส่วนไม่ไว้วางใจเช่นกัน

เมื่อต้นเดือน ก.ค. ที่ผ่านมา นักข่าวท้องถิ่นถูกขอให้ “ลดความรุนแรง” ของถ้อยคำที่ใช้บรรยายรอยแตกขนาดใหญ่ในกำแพงเขื่อนหลิวหลาน ใกล้เมืองหนานหนิง โดยใช้คำว่า “ช่องเปิด” หรือ “ช่องว่าง” แทน

ดูเหมือนเจ้าหน้าที่พยายามทำให้เหตุการณ์เขื่อนแตกดูไม่น่าตกใจมากนัก แต่ผลที่ตามมานั้นร้ายแรง น้ำพุ่งทะลักออกมาจากเขื่อนที่พังทลาย ทำให้มีผู้เสียชีวิตอย่างน้อย 26 รายในบริเวณปลายน้ำ

และนี่ไม่ใช่เหตุการณ์ที่เกิดขึ้นเพียงครั้งเดียว

ในปี 2021 เจ้าหน้าที่ท้องถิ่นถูกจับกุมในข้อหาปกปิดหรือรายงานจำนวนผู้เสียชีวิตต่ำกว่าความเป็นจริงจำนวน 139 รายในมณฑลเหอหนาน

เหตุการณ์เช่นนี้ส่งผลให้เกิดสุญญากาศแห่งความไว้วางใจ ซึ่งทำให้ผู้ไม่หวังดีสามารถเผยแพร่เนื้อหาปลอมได้ง่ายขึ้น

อย่างไรก็ดี ตำรวจได้ขอร้องให้ประชาชนเชื่อถือแหล่งข้อมูลที่ได้รับการรับรองในช่วงเวลาฉุกเฉิน

เกา ไค จากสำนักงานความปลอดภัยสาธารณะหนิงโป กล่าวว่า “เมื่อได้รับข้อมูลเกี่ยวกับภัยพิบัติจากแหล่งที่ไม่รู้จัก ควรพิจารณาด้วยความระมัดระวังและยึดถือประกาศอย่างเป็นทางการเป็นหลัก”

เขายังพยายามสร้างความมั่นใจให้แก่ประชาชนว่า ผู้สร้างข้อมูลเท็จจะถูกจับกุม โดยกล่าวว่า “อินเทอร์เน็ตไม่ใช่พื้นที่ไร้กฎหมาย หน่วยงานด้านความมั่นคงสาธารณะจะยังคงเพิ่มความพยายามในการปราบปรามกิจกรรมออนไลน์ที่ผิดกฎหมายต่อไป”

“เราได้จัดตั้งหน่วยเฉพาะกิจขึ้นเพื่อติดตามสื่อสังคมออนไลน์อย่างใกล้ชิด โดยเฉพาะแพลตฟอร์มวิดีโอสั้น พวกเขาจะสืบสวนและจัดการกับกรณีเหล่านี้อย่างรวดเร็ว และดำเนินการอย่างเข้มงวด”

บทลงโทษอาจมีตั้งแต่ปรับไปจนถึงจำคุกสูงสุด 7 ปี หากผลกระทบจากข้อมูลเท็จนั้นร้ายแรงมากพอ

เมื่อวันที่ 23 ก.ค. สำนักงานบริหารไซเบอร์ของจีนได้ประกาศดำเนินการปราบปรามเนื้อหาปลอมบนอินเทอร์เน็ตที่เกี่ยวข้องกับน้ำท่วมและภัยพิบัติอื่น ๆ ทั่วประเทศ โดยสั่งการให้สาขาท้องถิ่นมุ่งเน้นไปที่การตรวจจับข้อมูลที่ถูกสร้างขึ้น การตัดต่อมุ่งร้าย การจัดฉาก เหตุการณ์ทางประวัติศาสตร์ที่บิดเบือน และผู้แอบอ้างเป็นเจ้าหน้าที่ นอกจากนี้ยังเรียกร้องให้แพลตฟอร์มโซเชียลมีเดียเสริมสร้างการตรวจสอบเนื้อหาที่เผยแพร่ด้วย

ศาสตราจารย์เกาเชื่อว่า “คำตอบคือการให้ความรู้แก่ประชาชนควบคู่ไปกับการบังคับใช้กฎหมาย” โดยกล่าวว่า “มีความจำเป็นต้องเผยแพร่กรณีจริงที่ผู้คนได้รับการลงโทษ”

เขากล่าวเสริมว่า “อันตรายที่เกิดจากเนื้อหาปลอมที่สร้างโดยเอไอนั้น ในที่สุดแล้วเป็นผลมาจากวิธีที่ผู้คนเลือกใช้เทคโนโลยี ไม่ใช่ตัวเทคโนโลยีเอง… กฎหมายที่มีอยู่เพียงพอในการจัดการกับเรื่องนี้ได้แล้ว”

อย่างไรก็ตาม คนอื่น ๆ กลับไม่มั่นใจนัก ศาสตราจารย์เฉินชี้ว่า “เทคโนโลยีเอไอยังคงพัฒนาไปอย่างรวดเร็วกว่ากรอบกฎหมายมาก เมื่อมีคำถามทางกฎหมายใหม่ ๆ เกิดขึ้น ข้อมูลเท็จที่เกิดจากเอไอจึงยังคงเป็นความท้าทายอย่างมาก”

ปีเตอร์ แพง ทนายความที่ประจำอยู่ในเซี่ยงไฮ้และวอชิงตัน กล่าวว่า ทนายความทั่วโลกกำลังพบว่าจำนวนคดีที่เกี่ยวข้องกับประเด็นเหล่านี้เพิ่มขึ้นอย่างมาก

เขาเชื่อว่า บริษัทที่สร้างแอปพลิเคชันเอไอ และแพลตฟอร์มที่ใช้เผยแพร่คลิปวิดีโอปลอมและเนื้อหาอื่น ๆ ต้องรับผิดชอบทางกฎหมายร่วมกับคนที่สร้างข้อมูลเท็จ

“อันดับแรกคงต้องเป็นแพลตฟอร์มต่าง ๆ เพราะเป็นตัวการสำคัญที่ทำให้สิ่งนี้เกิดขึ้นได้ พวกมันคือสิ่งที่ทำให้สิ่งนี้แพร่กระจายออกไปได้” เขากล่าวกับบีบีซี

เขาสมมติตัวอย่างเหตุบุคคลที่ขับรถชนคนเดินเท้าเนื่องจากตกใจกลัวจากโพสต์ปลอมในโซเชียลมีเดีย

“ผู้สร้างวิดีโออาจพูดว่า ‘คุณขับรถชนคน นั่นเป็นปัญหาของคุณ ฉันไม่ได้ทำ' แต่ลองคิดดูให้ดี คุณเป็นคนสร้างพื้นฐานที่ทำให้ผู้คนแสดงปฏิกิริยา หากคุณเป็นคนสร้างความตื่นตระหนก คุณก็ต้องรับผิดชอบต่อผลที่ตามมา”

ศาสตราจารย์ซูเตือนว่า “ข้อมูลเท็จที่สร้างขึ้นโดยเอไอมีแนวโน้มที่จะเพิ่มขึ้นไม่เพียงแต่ในด้านปริมาณ แต่ยังรวมถึงความเร็วในการแพร่กระจายด้วย”

“เมื่อมองไปข้างหน้า การเลือกตั้งทางการเมือง ภาวะฉุกเฉินด้านสาธารณสุข ความขัดแย้งทางอาวุธ ภัยพิบัติทางธรรมชาติ และประเด็นที่ส่งผลกระทบต่อความเป็นอยู่ของผู้คน ล้วนมีแนวโน้มจะกลายเป็นพื้นที่เสี่ยงสูงต่อข้อมูลเท็จที่สร้างขึ้นโดยเอไอ”

“แทนที่จะรอให้ข้อมูลเท็จแพร่กระจายไปทั่วก่อนแล้วค่อยพยายามควบคุม รัฐบาลและแพลตฟอร์มต่าง ๆ ควรเตรียมตัวล่วงหน้าตั้งแต่ตอนนี้”