Data science

อย่าลืมปัจจัยมนุษย์ในระบบอัตโนมัติและการพัฒนา AI

มันไปโดยไม่บอกว่ามนุษย์เป็นผู้รับผลประโยชน์ที่ตั้งใจไว้ของแอปพลิเคชัน AI และระบบอิสระที่นักวิทยาศาสตร์ข้อมูลและนักพัฒนากำลังสร้างขึ้น แต่วิธีที่ดีที่สุดในการออกแบบแอพ AI และระบบอิสระเหล่านี้เพื่อเพิ่มปฏิสัมพันธ์ของมนุษย์และผลประโยชน์ของมนุษย์คืออะไร? นั่นเป็นคำถามที่ตอบยากกว่า นอกจากนี้ยังเป็นจุดสนใจของผู้เชี่ยวชาญด้านปัจจัยมนุษย์ซึ่งมีความต้องการเพิ่มมากขึ้น เมื่อเร็วๆ นี้ Datanami ได้พบกับหนึ่งในผู้เชี่ยวชาญด้านปัจจัยมนุษย์ที่เป็นที่ต้องการเหล่านี้ Catherine Neubauer เป็นนักจิตวิทยาการวิจัยที่ Army Research Lab และเป็นวิทยากรที่หลักสูตรวิทยาศาสตรมหาบัณฑิตสาขาจิตวิทยาประยุกต์ออนไลน์ของ University of Southern California Neubauer ผู้สำเร็จการศึกษาระดับปริญญาเอก ในสาขาจิตวิทยาโดยเน้นที่ปัจจัยมนุษย์จากมหาวิทยาลัยซินซินนาติ ได้ทำการวิจัยด้านต่างๆ ของสมการปัจจัยมนุษย์ รวมถึงการประเมินประสิทธิภาพและการตัดสินใจของมนุษย์ จากข้อมูลของ Neubauer มีข้อกังวลมากมายที่มนุษย์และเทคโนโลยีล่าสุดมารวมกัน “AI และระบบอัตโนมัติกำลังเป็นที่แพร่หลายอย่างมากในการปฏิสัมพันธ์ในชีวิตประจำวันของเรา” เธอกล่าว “เราจำเป็นต้องให้ความสำคัญกับพวกเขาจริงๆ เพราะถ้าเราไม่ออกแบบโดยคำนึงถึงผู้ใช้ที่เป็นมนุษย์ การโต้ตอบนั้นจะไม่ง่ายหรือเป็นที่ต้องการ” ในฐานะนักจิตวิทยาประยุกต์ที่ทำงานในสาขานี้ Neubauer เข้าใจปัญหาจากหลายมุม ในอีกด้านหนึ่ง เธอต้องการทำความเข้าใจว่ามนุษย์โต้ตอบกับระบบอัตโนมัติและ AI อย่างไร เพื่อให้มนุษย์ได้รับการฝึกฝนให้ดีขึ้นเพื่อทำงานกับระบบยุคหน้า ในทางกลับกัน งานของเธอยังแจ้งให้นักวิทยาศาสตร์ข้อมูลและนักพัฒนาทราบว่าพวกเขาสามารถสร้างระบบที่ดีขึ้นและให้ความสำคัญกับมนุษย์มากขึ้นได้อย่างไร มีช่องว่างมากสำหรับการปรับปรุงทั้งสองด้านของสมการ “ฉันคิดว่าเรามาถึงจุดนั้นแล้ว” เธอกล่าว “แต่ฉันคิดว่าจำเป็นต้องทำงานอีกมาก” รถยนต์เทสลามีโหมดขับเคลื่อนอัตโนมัติ แต่ผู้ผลิตรถยนต์เตือนผู้ใช้ว่าอย่าพึ่งมัน (Flystock/Shutterstock) ตัวอย่างเช่น ในเวทีขับขี่อัตโนมัติที่ Neubauer ใช้เวลาไปพอสมควร ผู้คนอาจรู้สึกว่ามีความก้าวหน้าอย่างมาก กำลังดำเนินการ ท้ายที่สุดแล้ว รถใหม่บางคันสามารถขับเองได้ อย่างน้อยก็ในบางกรณี แต่ประสบการณ์ “aha” เหล่านั้นไม่ใช่สิ่งที่พวกเขาดูเหมือนจะเป็น เธอกล่าว “มีความคิดที่ว่า 'โอ้ เยี่ยมมาก ฉันมีรถที่ขับเองได้คันนี้ มันคือเทสลา ทำได้แค่นั่งเฉยๆไม่สนใจ หลับ.' นั่นไม่ใช่กรณี เรายังไม่ได้อยู่ที่นั่น” เธอบอกกับ Datanami ในการสัมภาษณ์เมื่อเร็ว ๆ นี้ “เทคโนโลยีนี้มีข้อจำกัด ในสภาพที่เหมาะสม ใช่ มันสามารถขับไปเองได้ แต่มนุษย์ควรพร้อมที่จะเข้าควบคุมเสมอหากต้องการ” ในทำนองเดียวกัน ความก้าวหน้าในการประมวลผลภาษาธรรมชาติ (NLP) ได้เพิ่มขีดความสามารถของผู้ช่วยส่วนตัว ซึ่งสามารถเข้าใจและตอบสนองต่อคำถามและคำขอที่ซับซ้อนยิ่งขึ้นได้ แต่อีกครั้งที่ผลกำไรไม่ควรบดบังความจริงที่ว่าจำเป็นต้องทำงานมากขึ้น “ฉันคิดว่าเรากำลังทำงานได้ดีในแง่ที่ว่าเราได้กำไรมหาศาลและสิ่งที่เราสามารถทำได้” เธอกล่าว “แต่ฉันยังคิดว่าคุณต้องทำงานให้เสร็จมากกว่านี้เพื่อไปยังที่ที่คุณรู้ว่าคุณสามารถโต้ตอบกับผู้ช่วยส่วนตัวได้ง่ายๆ เหมือนหุ่นยนต์หรืออะไรทำนองนั้น ไม่มีข้อผิดพลาด ไม่มีข้อผิดพลาด เรายังคงเห็นข้อผิดพลาดบางอย่างที่ต้องแก้ไข” งานวิจัยล่าสุดของ Neubauer บางส่วนเกี่ยวข้องกับการตรวจจับอารมณ์ของมนุษย์โดยใช้อัลกอริธึม เทคโนโลยีการมองเห็นด้วยคอมพิวเตอร์มีความก้าวหน้าอย่างมากไม่เพียงแต่ในการจดจำใบหน้าที่เฉพาะเจาะจงเท่านั้น แต่ยังตรวจจับอารมณ์ของใครบางคนโดยพิจารณาจากลักษณะที่ใบหน้าของพวกเขาปรากฏด้วย การรู้ว่ามนุษย์มีความสุข เศร้า หรือโกรธอาจเป็นสิ่งที่มีค่ามาก และรัฐบาลทั่วโลกกำลังลงทุนในเทคโนโลยีนี้ซึ่งเป็นส่วนหนึ่งของโครงการริเริ่มด้านการป้องกันประเทศ แต่อีกครั้งที่เทคโนโลยียังไม่พร้อม Neubauer กล่าว ผลิตภัณฑ์ AI ที่ดีที่สุดได้รับการออกแบบโดยคำนึงถึงมนุษย์ (Aurielaki/Shutterstock) “ในขณะที่ฉันคิดว่ามันยอดเยี่ยมมากที่เรามีระบบการจำแนกประเภทนี้เพื่ออ่านอารมณ์ แต่คุณก็ต้องใช้มันด้วยเม็ดเกลือเพราะ ทุกคนแสดงอารมณ์ต่างกัน” เธอกล่าว “และบางคนอาจรู้สึกมีความสุขจริงๆ แต่พวกเขาไม่ได้แสดงออกถึงภายนอก บางคนอาจรู้สึกเศร้าหรือหดหู่จริงๆ แต่คุณอาจไม่เห็นสิ่งนั้นแสดงออกด้วยเหตุผลใดก็ตาม” แทนที่จะใช้อัลกอริธึมการมองเห็นด้วยคอมพิวเตอร์ Neubauer กำลังตรวจสอบการตรวจจับอารมณ์หลายรูปแบบ นี่เป็นงานวิจัยที่น่าสนใจ เธอกล่าว “ฉันจะไม่เน้นเฉพาะการแสดงออกทางสีหน้า ฉันจะรับข้อมูลอื่นๆ เพื่อให้ข้อมูลเพิ่มเติมเกี่ยวกับมนุษย์” เธอกล่าว ดังนั้นนักวิทยาศาสตร์ข้อมูลและนักพัฒนาระบบอิสระควรทำอย่างไรหากต้องการได้รับประโยชน์จากการวิจัยปัจจัยมนุษย์ อันดับหนึ่งคือรู้จักผู้ใช้ของคุณ “ฉันคิดว่าผลิตภัณฑ์หรือระบบหรือเทคโนโลยีที่ดีที่สุดที่เราโต้ตอบด้วยได้รับการออกแบบโดยคำนึงถึงผู้ใช้ที่เป็นมนุษย์” Neubauer กล่าว “ก่อนอื่น คุณต้องแน่ใจว่าการออกแบบระบบสำหรับผู้ใช้ของคุณ เพื่อให้ใช้งานง่าย” หลักการง่ายๆ ในการคิดการออกแบบประเภทนี้คือการทำให้ผลิตภัณฑ์ใช้งานได้ง่ายโดยไม่ต้องใช้คู่มือ ซึ่งมักจะต้องจำกัดวิธีที่ผู้ใช้สามารถโต้ตอบกับแอปพลิเคชันหรือระบบ และเพื่อสนับสนุนการสำรวจ (แน่นอนว่ากฎนี้มีข้อจำกัด – อย่างไรก็ตาม Tesla บอกผู้ใช้ในคู่มือว่าพร้อมที่จะเข้าควบคุมอยู่เสมอ แต่หลายคนก็เพิกเฉยต่อสิ่งนี้อย่างเห็นได้ชัด) คำแนะนำชิ้นที่สองของ Neubauer สำหรับนักวิทยาศาสตร์ข้อมูลและนักพัฒนาระบบอิสระ ที่ต้องการรวมปัจจัยมนุษย์เข้าไว้ในงาน น่าสนใจ เกี่ยวข้องกับจริยธรรม “ฉันชอบคิดว่าตัวเองเป็นคนมีจริยธรรม และฉันก็คิดอยู่เสมอว่างานวิจัยและงานของฉันกำลังจะไปที่ใด และใครจะเป็นคนใช้มัน” เธอกล่าว “เพียงเพราะเราสามารถทำอะไรบางอย่างด้วยเทคโนโลยีไม่ได้หมายความว่าเราควรจะทำ ดังนั้นทุกครั้งที่เราใช้เทคโนโลยีนี้ สร้างระบบใหม่ เราต้องถามตัวเองว่า มันช่วยสังคมได้จริงหรือ? แล้วใครเป็นคนช่วยล่ะ” Catherine Neubauer, PhD, เป็นนักจิตวิทยาการวิจัยที่ Army Research Lab และเป็นวิทยากรด้านปัจจัยมนุษย์ที่ USC มนุษย์ทุกคนไม่สามารถประเมินความเสี่ยงได้ดี ไม่จำเป็นต้องเป็นคุณสมบัติที่นักวิทยาศาสตร์ด้านข้อมูลจะต้องสร้างหรือนำกลับมาใช้ใหม่ แต่ในการอ่านของ Neubauer การประเมินความเสี่ยงควรเป็นส่วนหนึ่งของกระบวนการสร้างสรรค์สำหรับผู้ที่สร้างแอป AI และระบบอัตโนมัติ โดยเฉพาะอย่างยิ่งเมื่อกล่าวถึงความเสี่ยงที่พวกเขาขอให้ผู้ใช้ทำ ความเสี่ยงของผลลัพธ์ที่ไม่ดีจะสูงขึ้นอย่างมากเมื่อ AI และคุณสมบัติอิสระถูกสร้างขึ้นในรถยนต์ที่ขับด้วยตนเอง ระบบขับเคลื่อนอัตโนมัติในเครื่องบิน และระบบควบคุมการจราจรสำหรับรถไฟ ตัวอย่างเช่น มากกว่าในการพัฒนาผู้ช่วยส่วนตัวหรือเพิ่มคุณสมบัติที่น่าจะเป็น โปรแกรมประมวลผลคำ (Clippy กำลังมองมาที่คุณ) “ถ้ามันเป็นสถานการณ์ที่ตึงเครียด เดิมพันสูง และฉันมีตัวแทนอิสระที่ทำงานร่วมกับฉัน และมัน [tells] ฉันต้องไปทางซ้ายเมื่อฉันควรไปทางขวา เพราะนั่นเป็นข้อมูลที่ฝึกการตัดสินใจ นั่นคือ จะมีปัญหา” Neubauer กล่าว “ในทางกลับกัน บางทีคุณอาจเป็นศัลยแพทย์ที่กำลังเข้ารับการผ่าตัด คุณต้องการให้แน่ใจว่าผู้ช่วยส่วนตัวของคุณแจ้งให้คุณทราบว่าการนัดหมายของคุณคืออะไร ดังนั้นฉันคิดว่ามันขึ้นอยู่กับสถานการณ์ที่คุณอยู่และความสำคัญเพื่อให้แน่ใจว่าเรามีเปอร์เซ็นต์หรือโอกาสที่ข้อผิดพลาดจะเกิดขึ้นเพียงเล็กน้อยหากไม่มีอยู่จริง” ดูเหมือนว่าเรากำลังอยู่ในช่วงเริ่มต้นของความก้าวหน้าอย่างมากในด้าน AI และระบบอิสระ มีหลายแง่มุมของชีวิตและสังคมที่สามารถได้รับประโยชน์จากการตัดสินใจที่ขับเคลื่อนด้วยข้อมูลในระดับหนึ่ง แต่ในระยะยาว ยังมีแง่มุมอื่นๆ ที่จับต้องไม่ได้ของสมการปัจจัยมนุษย์ที่ควรตรวจสอบอย่างละเอียด Neubauer เข้าใจดีว่า AI และระบบอัตโนมัติสามารถลดภาระงานด้านความรู้ความเข้าใจของเรา และช่วยให้เราทำอะไรได้มากขึ้น แต่เธอยังสงสัยว่าการใช้เทคโนโลยีนี้เพิ่มมากขึ้นเรื่อยๆ จะส่งผลต่อการพัฒนามนุษย์อย่างไร “บางครั้งฉันก็กังวลว่าโดยพื้นฐานแล้วเรามีผู้ช่วยส่วนตัวเหล่านี้ในโทรศัพท์เพื่อเตือนให้เราทำทุกอย่าง” เธอกล่าว “เราไม่ต้องจำหมายเลขโทรศัพท์อีกต่อไป จะเกิดอะไรขึ้นกับระบบการรับรู้ของเราจริง ๆ หากเรามี GPS พาเราไปทุกที่? เราไม่จำเป็นต้องพัฒนาแผนที่จิตของเมืองที่เราอาศัยอยู่จริงๆ ทักษะพื้นฐานเหล่านั้นทำให้ฉันกังวลว่าจะไม่ถูกใช้ และถ้าไม่ได้ใช้ที่นั่น เราจะไม่แข็งแกร่งในพื้นที่เหล่านั้น” รายการที่เกี่ยวข้อง: เหตุใดการบูรณาการของมนุษย์จึงมีความสำคัญต่ออนาคตของ AI AI รุ่นต่อไป: อิสระของผู้ใช้ AI ที่อธิบายได้และสงครามข้อมูลที่รอดำเนินการ

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button