Data science

โมเดล AI ใหม่จาก Facebook รัฐมิชิแกนตรวจจับและแอตทริบิวต์ Deepfakes

เทคโนโลยี Deepfake ช่วยให้สามารถแปลงร่างดิจิทัลหรือปรับเปลี่ยนใบหน้าจริงได้ง่าย ทำให้ผู้ใช้สามารถบรรยายภาพ เช่น นักการเมืองพูดในสิ่งที่พวกเขาไม่เคยพูด สำหรับนักวิจัย AI หลายคน และผู้เชี่ยวชาญด้านความมั่นคงแห่งชาติหลายคน ความสามารถในการเข้าถึงและความสมจริงที่เพิ่มขึ้นอย่างรวดเร็วของเทคโนโลยีนี้จะสร้างปัญหาให้กับอนาคตอันใกล้นี้ ขณะนี้ นักวิจัยจาก Facebook AI และ Michigan State University ได้ร่วมมือกันพัฒนาวิธีการใหม่ในการตรวจจับและระบุแหล่งที่มาของ Deepfake โดยใช้วิศวกรรมย้อนกลับ Xi Yin และ Tal Hassner นักวิทยาศาสตร์ด้านการวิจัยของ Facebook AI เขียนไว้ในบล็อกโพสต์ว่า “ในบางกรณี มนุษย์ไม่สามารถแยกภาพบางส่วนออกจากภาพจริงได้ง่ายๆ อีกต่อไป “แม้ว่าการตรวจจับ Deepfakes ยังคงเป็นความท้าทายที่น่าสนใจ แต่ความซับซ้อนที่เพิ่มขึ้นของพวกเขาเปิดช่องทางการสอบสวนที่เป็นไปได้มากขึ้น เช่น: จะเกิดอะไรขึ้นเมื่อมีการผลิต Deepfakes ไม่เพียงเพื่อความสนุกสนานและความหวาดกลัว แต่สำหรับเจตนาร้ายในระดับใหญ่” ในปัจจุบัน โมเดลการตรวจจับ Deepfake จะระบุเป็นหลักว่ารูปภาพนั้นเป็น Deepfake หรือไม่ หรือระบุว่ารูปภาพนั้นถูกสร้างขึ้นโดยหนึ่งในโมเดล Deepfake ที่ใช้ในการฝึกรูปแบบการระบุแหล่งที่มาหรือไม่ แต่ผู้เขียนทราบว่า โมเดล deepfake ที่ใช้สำหรับการฝึกอบรมไม่ใช่โมเดลเดียวที่สามารถพบได้ในป่า ทำให้เกิดช่องว่างที่สำคัญในกระบวนการระบุแหล่งที่มานี้ รุ่นใหม่นี้แตกต่าง “วิธีการวิศวกรรมย้อนกลับของเราอาศัยการเปิดเผยรูปแบบเฉพาะที่อยู่เบื้องหลังโมเดล AI ที่ใช้ในการสร้างภาพ Deepfake เดียว” นักวิจัยเขียน “เราเริ่มต้นด้วยการระบุแหล่งที่มาของรูปภาพ จากนั้นจึงค้นหาคุณสมบัติของแบบจำลองที่ใช้ในการสร้างภาพ เราสามารถสรุปข้อมูลเพิ่มเติมเกี่ยวกับรูปแบบทั่วไปที่ใช้ในการสร้าง Deepfake ที่นอกเหนือไปจากการตระหนักว่าไม่เคยเห็นมาก่อน และด้วยการติดตามความคล้ายคลึงกันระหว่างรูปแบบของคอลเลกชั่นของ Deepfakes เรายังสามารถบอกได้ว่าชุดของรูปภาพมาจากแหล่งเดียวหรือไม่” นักวิจัยใช้ใบหน้าปลอม (สร้างที่ MSU) เพื่อฝึกโมเดล และ MSU วางแผนที่จะโอเพนซอร์สชุดข้อมูล โค้ด และโมเดลที่ผ่านการฝึกอบรมเพื่ออำนวยความสะดวกในการวิจัยเพิ่มเติม เนื่องจากโมเดลประเภทนี้เป็นโมเดลใหม่ในโลกของการตรวจจับ Deepfake นักวิจัยจึงยังไม่สามารถเปรียบเทียบผลลัพธ์กับค่าพื้นฐานได้ อย่างไรก็ตาม นักวิจัยมองว่าการประยุกต์ใช้งานของพวกเขาในวงกว้างในโลกแห่งความเป็นจริง “ความสามารถในการตรวจจับว่า Deepfakes ใดที่สร้างขึ้นจากโมเดล AI เดียวกันนั้นมีประโยชน์สำหรับการค้นพบอินสแตนซ์ของการบิดเบือนข้อมูลที่ประสานกันหรือการโจมตีที่เป็นอันตรายอื่น ๆ ที่เปิดตัวโดยใช้ Deepfakes” พวกเขาเขียน “งานนี้จะช่วยให้นักวิจัยและผู้ปฏิบัติงานมีเครื่องมือในการตรวจสอบเหตุการณ์การบิดเบือนข้อมูลที่ประสานกันโดยใช้ Deepfakes ได้ดียิ่งขึ้น ตลอดจนเปิดทิศทางใหม่สำหรับการวิจัยในอนาคต” อ่านบล็อกฉบับเต็มจาก Facebook AI คลิกที่นี่

  • บ้าน
  • Business
  • Data science
  • Marketing
  • Leave a Reply

    Your email address will not be published. Required fields are marked *

    Back to top button