Data science

ซอฟต์แวร์ Enterprise AI ของ Nvidia ตอนนี้ GA

หลังจากหลายเดือนในการเปิดตัวครั้งแรก Nvidia ได้ประกาศความพร้อมใช้งานทั่วไปของ Nvidia AI Enterprise ซึ่งเป็นซอฟต์แวร์ใหม่ที่ออกแบบมาเพื่อนำความสามารถด้าน AI มาสู่มวลชนผ่าน vSphere ของ VMware การประกาศดังกล่าวยังรวมถึงการรับรองล่วงหน้าของ AI Enterprise ที่ทำงานบนเซิร์ฟเวอร์ X64 มาตรฐานอุตสาหกรรมจำนวนหนึ่ง (แน่นอนว่าติดตั้ง GPU) รวมถึงการเป็นพันธมิตรกับ Domino Data Labs สำหรับ MLO “AI มีจริงและมีคุณค่าจริง” Manuvir Das หัวหน้าฝ่ายการประมวลผลระดับองค์กรของ Nvidia กล่าว Das รู้ว่ามันเป็นเรื่องจริงเพราะ Nvidia ได้ช่วยลูกค้าหลายพันรายในการปรับใช้ AI ในการดำเนินงานของพวกเขา อย่างไรก็ตาม AI ได้รับการพิสูจน์แล้วว่าใช้งานได้ยาก เขากล่าว “และเหตุผลก็เพราะในแง่หนึ่ง มันคือปัญหาแบบ end-to-end ตั้งแต่การได้มาซึ่งข้อมูล การฝึกอบรมเพื่อผลิตแบบจำลอง จากนั้นจึงนำแบบจำลองไปใช้กับการผลิต” Das กล่าว “แต่ก็ยังเป็นปัญหาจากบนลงล่างและแบบฟูลสแตก เพราะคุณต้องคิดถึงฮาร์ดแวร์ ซอฟต์แวร์ เฟรมเวิร์กเพื่อให้ง่ายต่อการปรับใช้ AI รวมถึงระบบนิเวศของ ISV ที่สามารถนำ AI และ วางไว้ในมือของลูกค้า” เขากล่าวต่อ Nvidia หวังที่จะปรับปรุงการนำ AI มาใช้ด้วยข้อเสนอ Enterprise AI ใหม่ (แหล่งรูปภาพ Nvidia) โดยสรุปคือเหตุผลที่ Nvidia พัฒนา AI Enterprise ปัจจุบัน AI Enterprise เปิดให้ใช้งานในรุ่น 1.0 แล้ว โดยเป็นชุดเครื่องมือ เครื่องมือ เทคโนโลยี และเฟรมเวิร์กที่ออกแบบมาเพื่อช่วยให้บริษัทต่างๆ นำความสามารถของ AI มาสู่มือลูกค้าได้ง่ายขึ้น AI Enterprise เองมีสามองค์ประกอบหลักตาม Das ประการแรก ประกอบด้วยชุดพัฒนาซอฟต์แวร์ RAPIDS (SDK) ซึ่งให้ข้อมูลวิทยาศาสตร์การเร่งความเร็วบน GPU ประการที่สอง Nvidia ได้เปิดใช้งานเฟรมเวิร์กการเรียนรู้ของเครื่องยอดนิยมเช่น TensorFlow และ PyTorch เพื่อทำงานบน GPU ประการที่สาม AI Enterprise รวมเอ็นจิ้นการอนุมานที่เรียกว่า Triton ที่ออกแบบมาเพื่อปรับใช้โมเดลในการผลิต Das กล่าวว่า “ทั้งหมดนี้ถูกรวมเข้าด้วยกันเป็นครั้งแรกในระดับองค์กร ได้รับการสนับสนุนอย่างเต็มที่ ได้รับการรับรอง ซึ่งโดยทั่วไปมีให้สำหรับลูกค้าทุกคนทั่วโลก” Nvidia เริ่มทำงานกับ VMware เมื่อประมาณหนึ่งปีที่แล้ว Das กล่าว ด้วยการเรียกใช้ AI Enterprise บน Vmware vSphere ซึ่ง Das ขนานนามว่า “ระบบปฏิบัติการ defacto” ของศูนย์องค์กร จะทำให้ลูกค้าองค์กรเริ่มใช้ AI น้อยลง “ผู้ดูแลระบบไอทีเกือบทุกคนในโลกคุ้นเคยกับ VMware vSphere และวิธีปรับใช้” Das กล่าว “โดยพื้นฐานแล้วสิ่งนี้ทำให้ลูกค้าองค์กรมีแพลตฟอร์มที่พวกเขาสามารถใช้ได้ แทนที่จะต้องสร้าง” ผู้มีโอกาสเป็นลูกค้ามีเซิร์ฟเวอร์ที่ผ่านการรับรองจำนวนหนึ่ง ซึ่งสามารถเลือกใช้งาน AI Enterprise และ vSphere ได้ มีระบบเร่งด้วย GPU, 1U และ 2U จาก Dell, HPE, Lenovo และ OEM อื่น ๆ อีกมากมายที่ได้รับการรับรองให้ใช้งานซอฟต์แวร์ Das กล่าวว่าแนวคิดคือการนำการประมวลผลแบบเร่งด้วย AI ไปยังเซิร์ฟเวอร์เดียวกันกับที่ลูกค้าใช้เพื่อเรียกใช้แอปพลิเคชันสายธุรกิจ (LOB) เช่น ทรัพยากรบุคคลหรือแอปพลิเคชัน ERP สิ่งนี้ช่วยลดระดับของ AI ขององค์กรลงได้อีก เขากล่าว Nvidia AI Enterprise ได้รับการรับรองล่วงหน้าให้ทำงานบน vSphere ที่ทำงานบนเซิร์ฟเวอร์มาตรฐานอุตสาหกรรมจาก Dell, HPE และอื่นๆ “เซิร์ฟเวอร์เดียวกันที่จัดวางและวางซ้อนกันไว้ในคลาวด์ส่วนตัวและศูนย์ข้อมูลในปัจจุบันสามารถใช้สำหรับ AI ด้วย เพิ่ม GPU จำนวนเล็กน้อยในเซิร์ฟเวอร์ – ราคาไม่แพง เข้าถึงได้ ต้นทุนที่เพิ่มขึ้น” Das กล่าว เซิร์ฟเวอร์ได้รับการรับรองให้ใช้งาน GPU ที่หลากหลายจาก Nvidia รวมถึง A100, A, A40 และรุ่น A Nvidia ยังเปิดเผยความร่วมมือกับ Domino Data Lab ซึ่งพัฒนาซอฟต์แวร์ที่ออกแบบมาเพื่อสตรีมเวิร์กโฟลว์วิทยาศาสตร์ข้อมูล จากข้อมูลของ Das Domino Data Lab ได้เติมเต็มความต้องการสำหรับการดำเนินการต่างๆ ของแมชชีนเลิร์นนิงโดยอัตโนมัติ หรือ MLops Das กล่าวว่าวิธีการทำงานของ AI โดยทั่วไปคือนักวิจัยใน R&D กำลังปรับแต่งโมเดลของพวกเขาอย่างต่อเนื่อง พวกเขากำลังฝึกอบรมพวกเขาใหม่ทุกวัน และปรับใช้พวกเขาบ่อยครั้งโดยหวังว่าจะปรับปรุงความสามารถในการคาดการณ์ “ยังไม่เพียงพอสำหรับไอทีขององค์กร” Das กล่าว “Domino Data Lab มีระบบ end-to-end ที่แก้ปัญหานั้นได้ มัน สำหรับการทำซ้ำของการฝึกอบรมเดียวกันกับชุดข้อมูลเดียวกัน มันมีความสามารถที่หลากหลายสำหรับการกำกับดูแล เพื่อให้ฝ่ายไอทีสามารถเข้าใจว่าโมเดลมาจากไหน ควรใช้โมเดลใดที่ใด” ลูกค้าสามารถปรับใช้ AI Enterprise บน VMware vSphere และรับประโยชน์ตามที่อธิบายไว้ข้างต้น ตอนนี้พวกเขายังมีตัวเลือกในการเพิ่ม Domino Data Lab ลงในส่วนผสม เพื่อให้มองเห็นเวิร์กโฟลว์แบบ end-to-end ได้ดีขึ้น เขากล่าว รายการที่เกี่ยวข้อง: AI Hypervisor ได้รับ GPU Boost Nvidia เปิดประตูสู่เวิร์กช็อปการเรียนรู้เชิงลึกรูปแบบหนึ่งที่จะควบคุมพวกเขาทั้งหมด: Transformer Networks นำใน AI 2.0, Forrester กล่าว

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button