Data science

Barcelona Supercomputing Center ขับเคลื่อนเครือข่ายประสาทเทียมที่เข้ารหัสด้วย Intel Tech

การเข้ารหัสแบบ Homomorphic ให้ประโยชน์พิเศษสองประการ: ประการแรกมีศักยภาพที่จะปลอดภัยจากการบุกรุกโดยคอมพิวเตอร์ควอนตัม ประการที่สอง อนุญาตให้ผู้ใช้ใช้ข้อมูลในการคำนวณโดยไม่ต้องถอดรหัส ทำให้ถ่ายโอนข้อมูลที่ปลอดภัยไปยังคลาวด์เชิงพาณิชย์และตำแหน่งภายนอกอื่นๆ อย่างไรก็ตาม ตามที่นักวิจัยจาก Intel และ Barcelona Supercomputing Center (BSC) ได้อธิบายไว้ว่า การเข้ารหัสแบบ homomorphic “ไม่ได้รับการยกเว้นจากข้อเสียที่ทำให้มันใช้งานไม่ได้ในหลาย ๆ สถานการณ์” รวมถึง “ขนาดของข้อมูลจะเพิ่มขึ้นอย่างมากเมื่อเข้ารหัส” ซึ่งจำกัด แอพพลิเคชั่นสำหรับโครงข่ายประสาทเทียมขนาดใหญ่ ซึ่งอาจมีการเปลี่ยนแปลง: BSC และ Intel ได้ดำเนินการเครือข่ายประสาทเทียมขนาดใหญ่ที่เข้ารหัสแบบ homomorphically เป็นครั้งแรก “การเข้ารหัสแบบ Homomorphic … เปิดใช้งานการอนุมานโดยใช้ข้อมูลที่เข้ารหัส แต่มันเกิดขึ้น 100x–,000x หน่วยความจำและโอเวอร์เฮดรันไทม์” ผู้เขียนเขียนไว้ในบทความ “โครงข่ายประสาทลึกที่ปลอดภัย … การอนุมานโดยใช้ ปัจจุบันถูกจำกัดด้วยทรัพยากรการประมวลผลและหน่วยความจำ ด้วยเฟรมเวิร์กที่ต้องใช้ DRAM หลายร้อยกิกะไบต์เพื่อประเมินโมเดลขนาดเล็ก” ในการทำเช่นนั้น นักวิจัยได้ปรับใช้เทคโนโลยีของ Intel โดยเฉพาะอย่างยิ่ง หน่วยความจำถาวร Intel Optane และโปรเซสเซอร์ Intel Xeon Scalable หน่วยความจำ Optane ถูกรวมเข้ากับ DRAM เพื่อเสริมความจุที่สูงขึ้นของหน่วยความจำถาวรด้วยความเร็วของ DRAM ที่เร็วขึ้น พวกเขาทดสอบการรวมกันโดยใช้การกำหนดค่าที่หลากหลายเพื่อเรียกใช้เครือข่ายประสาทเทียมขนาดใหญ่ รวมถึง ResNet-50 (ปัจจุบันเป็นเครือข่ายประสาทที่ใหญ่ที่สุดเท่าที่เคยมีมาโดยใช้การเข้ารหัสแบบโฮโมมอร์ฟิค) และตัวแปรที่ใหญ่ที่สุด ของ MobileNetV2 หลังจากการทดลอง พวกเขาเข้าสู่การกำหนดค่าด้วย DRAM เพียงหนึ่งในสาม แต่ประสิทธิภาพลดลง เปอร์เซ็นต์เมื่อเทียบกับระบบ Full-DRAM “เทคโนโลยีใหม่นี้จะช่วยให้สามารถใช้งานโครงข่ายประสาทเทียมได้ทั่วไปในสภาพแวดล้อมคลาวด์ ซึ่งรวมถึงเป็นครั้งแรกที่ข้อมูลหรือโมเดลโครงข่ายประสาทเทียมจำเป็นต้องมีการรักษาความลับอย่างไม่อาจโต้แย้งได้” อันโตนิโอ เจ. เปญา นักวิจัยของ BSC ซึ่งเป็นผู้นำ ศึกษาและหัวหน้าทีม Accelerators and Communications for High Performance Computing ของ BSC “การคำนวณมีทั้งแบบเน้นการประมวลผลและหน่วยความจำมาก” Fabian Boemer หัวหน้าฝ่ายเทคนิคของ Intel ที่สนับสนุนการวิจัยนี้กล่าวเสริม “เพื่อเร่งความเร็วคอขวดของการเข้าถึงหน่วยความจำ เรากำลังตรวจสอบสถาปัตยกรรมหน่วยความจำแบบต่างๆ ที่ช่วยให้การประมวลผลแบบ Near-memory ดีขึ้น งานนี้ถือเป็นก้าวแรกที่สำคัญในการแก้ปัญหาที่มักถูกมองข้าม ในบรรดาเทคโนโลยีอื่นๆ เรากำลังตรวจสอบการใช้งาน [of] หน่วยความจำถาวร Intel Optane เพื่อให้ข้อมูลที่เข้าถึงได้อย่างต่อเนื่องใกล้กับโปรเซสเซอร์ในระหว่างการประเมิน” หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับงานวิจัยนี้ โปรดอ่านรายงานการวิจัยซึ่งมีให้อ่านฉบับเต็มได้ที่นี่

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button