Data science

ทำไมเราต้องเปิดกล่องดำ AI ในตอนนี้

AI ประสบปัญหาด้านการประชาสัมพันธ์ บ่อยครั้งที่ AI ได้แนะนำตัวเองว่าเป็นหุ่นยนต์ผู้เกลียดผู้หญิง เหยียดผิว และชั่วร้าย จำแชทบ็อต Microsoft Twitter ชื่อ Tay ที่กำลังเรียนรู้ที่จะเลียนแบบการสนทนาออนไลน์ แต่จากนั้นก็เริ่มเบลอทวีตที่น่ารังเกียจที่สุด? ลองนึกถึงบริษัทเทคโนโลยีที่สร้างเครื่องมือจ้างงาน AI ที่ซับซ้อนเพียงเพื่อจะตระหนักว่าเทคโนโลยีกำลังเรียนรู้ในอุตสาหกรรมที่ผู้ชายเป็นใหญ่เพื่อสนับสนุนการกลับมาของผู้ชายมากกว่าผู้หญิง เท่าที่ดูเหมือนว่าจะเป็นสถานการณ์ที่เผชิญหน้า สิ่งนี้เกิดขึ้นมากมายและดูเหมือนจะไม่ง่ายนักที่จะแก้ไขในโลกที่ไม่สมบูรณ์ ซึ่งแม้แต่คนที่ฉลาดที่สุดก็ยังมีความลำเอียง “นักวิทยาศาสตร์ข้อมูลสามารถสร้างอาวุธ AI ที่ทรงพลังได้ทุกประเภท” Romeo Kienzler หัวหน้าฝ่าย IoT ของ IBM และวิทยากรประจำที่ Data Natives “ไม่ ฉันไม่ได้หมายถึงโดรนอัตโนมัติที่ยิงคนบริสุทธิ์ ฉันกำลังพูดถึงเรื่องต่างๆ เช่น ระบบการประเมินคะแนนความเสี่ยงด้านเครดิต โดยไม่ให้ครอบครัวหนุ่มสาวกู้ยืมเงินเพื่อสร้างบ้านเพราะสีผิวของพวกเขา” คำถามทางจริยธรรมเหล่านี้ส่งเสียงเตือนที่สถาบันของรัฐ รัฐบาลสหราชอาณาจักรได้จัดตั้งศูนย์จริยธรรมของข้อมูลและนวัตกรรม และเมื่อเดือนที่แล้วได้มีการเสนอกฎหมายว่าด้วยความรับผิดชอบของอัลกอริทึมในวอชิงตัน สหภาพยุโรปได้จัดตั้งกลุ่มผู้เชี่ยวชาญเกี่ยวกับปัญญาประดิษฐ์ขึ้นเมื่อปีที่แล้ว เพื่อสร้างแนวปฏิบัติด้านจริยธรรมสำหรับปัญญาประดิษฐ์ที่น่าเชื่อถือ IBM มีบทบาทในการสร้างแนวทางเหล่านี้ ซึ่งมีความสำคัญตาม Matthias Biniok หัวหน้า Watson Architect DACH ที่ IBM ผู้ออกแบบ CIMON หุ่นยนต์ยิ้มที่ช่วยนักบินอวกาศในอวกาศ “ด้วยการฝังหลักจริยธรรมลงในแอปพลิเคชันและกระบวนการ AI เท่านั้น เราจึงสามารถสร้างระบบที่ผู้คนสามารถไว้วางใจได้” เขากล่าว “การศึกษาโดย Institute of Business Value ของ IBM พบว่า 12% ขององค์กรกำลังพิจารณาการนำ AI มาใช้เป็นอย่างน้อย แต่ 55 % มีข้อกังวลด้านความปลอดภัยและความเป็นส่วนตัวเกี่ยวกับการใช้ข้อมูล” Matthias Biniok หัวหน้า Watson Architect DACH ที่ IBM AI สามารถเอียงเราไปสู่อีกระดับได้ แต่ถ้าเราเอียงมันก่อน “ปัญญาประดิษฐ์เป็นตัวกระตุ้นที่ดีในการหารือเกี่ยวกับอคติที่เรามีในฐานะมนุษย์ แต่ยังรวมถึงการวิเคราะห์อคติที่รวมอยู่ในเครื่องจักรด้วย” Biniok กล่าว “สินเชื่อเป็นตัวอย่างที่ดี: วันนี้มักจะไม่ชัดเจนสำหรับลูกค้าว่าทำไมเงินกู้ธนาคารถึงได้รับหรือไม่ – แม้แต่พนักงานธนาคารอาจไม่รู้ว่าทำไมระบบที่มีอยู่จึงไม่แนะนำให้ปล่อยเงินกู้” จำเป็นสำหรับอนาคตของ AI ในการเปิดกล่องดำและรับข้อมูลเชิงลึกเกี่ยวกับแบบจำลองต่างๆ “ปัญหาเรื่องความโปร่งใสใน AI เกิดขึ้นเนื่องจากความจริงที่ว่าแม้ว่าแบบจำลองจะมีความแม่นยำมาก แต่ก็ไม่ได้รับประกันว่าจะทำงานได้ดีในการผลิต” Thomas Schaeck วิศวกรที่โดดเด่นด้าน Data และ AI ของ IBM สถาปนิกพอร์ทัลที่เชื่อถือได้และ ผู้นำในมาตรฐานการรวมพอร์ทัล โมเดล AI ที่อธิบายได้ควรให้ข้อมูลเชิงลึกเกี่ยวกับคุณลักษณะต่างๆ ที่ใช้ประกอบการตัดสินใจ เพื่อให้สามารถแก้ไขปัญหาได้ การวิจัยของไอบีเอ็มจึงเสนอเอกสารข้อมูล AI เพื่อจัดทำเอกสารที่ดีขึ้นว่าระบบ AI ถูกสร้างขึ้น ทดสอบ ฝึกอบรม ใช้งาน และประเมินผลอย่างไร สิ่งนี้ควรได้รับการตรวจสอบตลอดวงจรชีวิตของพวกเขา นอกจากนี้ยังจะรวมถึงคำแนะนำเกี่ยวกับวิธีการใช้งานและใช้งานระบบ “การกำหนดมาตรฐานและการเผยแพร่ข้อมูลนี้เป็นกุญแจสำคัญในการสร้างความไว้วางใจใน AI” Schaeck กล่าว Schaeck แนะนำให้เจ้าของธุรกิจมองภาพรวมของวิทยาศาสตร์ข้อมูลและวงจรชีวิตการเรียนรู้ของเครื่อง หากพวกเขาต้องการลงทุนใน AI เลือกแพลตฟอร์มของคุณอย่างชาญฉลาดคือคำแนะนำของเขา ซึ่งช่วยให้ทีมได้รับข้อมูลเชิงลึกและนำแบบจำลองจำนวนมากมาใช้ในสภาพแวดล้อมการผลิตที่มีการควบคุมอย่างเข้มงวดและปรับขนาดได้ “แพลตฟอร์มที่มีการบันทึกโมเดลเอาต์พุตและอินพุต และสามารถตรวจสอบและวิเคราะห์อย่างต่อเนื่องสำหรับแง่มุมต่างๆ เช่น ประสิทธิภาพ ความยุติธรรม ฯลฯ” เขากล่าว ชุดเครื่องมือความเป็นธรรม 55 ของ IBM, Watson Studio, Watson Machine Learning และ Watson Open Scale สามารถช่วยคุณได้ ชุดเครื่องมือ Open-source Fairness 360 ใช้ได้กับ AI ทุกรุ่นก่อนที่จะเริ่มใช้งานจริง ชุดเครื่องมือนี้มีอัลกอริธึมการตรวจจับอคติและการบรรเทาผลกระทบที่ทันสมัยทั้งหมด Watson Studio ช่วยให้ทีมเห็นภาพและเข้าใจข้อมูล และสร้าง ฝึกอบรม และประเมินแบบจำลอง ใน Watson Machine Learning โมเดลเหล่านี้สามารถจัดการ บันทึก และวิเคราะห์ได้ และเนื่องจากจำเป็นในการตรวจสอบ AI อย่างต่อเนื่องตลอดวงจรชีวิต IBM Open Scale เชื่อมต่อกับ Watson Machine Learning และข้อมูลบันทึกอินพุตและเอาต์พุตที่ได้ เพื่อที่จะตรวจสอบและวิเคราะห์โมเดลในการผลิตอย่างต่อเนื่อง ใช่ มันน่ากลัวไปหมด ในฐานะเจ้าของธุรกิจ คุณไม่ต้องการที่จะเสียเวลาและทรัพยากรจำนวนมากในการสร้าง Frankenstein AI แต่ควรระลึกไว้เสมอว่าในขณะที่อคติของมนุษย์มีหน้าที่สร้าง AI ที่ไม่เป็นธรรม เราก็มีพลังในการสร้าง AI ที่บรรเทา หรือแม้แต่อยู่เหนืออคติของมนุษย์ ท้ายที่สุดแล้วเทคโนโลยีคือสิ่งที่เราทำ หากคุณต้องการทราบข้อมูลเพิ่มเติมเกี่ยวกับความก้าวหน้าล่าสุดใน AI, Cloud & Quantum Computing และทดลองใช้บล็อกเชน, Kubernetes, istio, สถาปัตยกรรมแบบไร้เซิร์ฟเวอร์ หรือการพัฒนาแอปพลิเคชันองค์ความรู้ในสภาพแวดล้อมที่ได้รับการสนับสนุนจากผู้เชี่ยวชาญของ IBM จากนั้นเข้าร่วม Data & กิจกรรม Developers Experience ที่จะจัดขึ้นในเดือนมิถุนายน -12 ที่ Bikini Berlin ลงทะเบียนที่นี่ได้ฟรี

  • บ้าน
  • Business
  • Data science
  • Marketing
  • Leave a Reply

    Your email address will not be published. Required fields are marked *

    Back to top button