ปัญหาการจัดตำแหน่ง: การเรียนรู้
ของเครื่องและค่านิยมของมนุษย์ Brian Christian W. W. Norton (2020)
Atlas of AI: อำนาจ การเมือง และต้นทุนดาวเคราะห์ของปัญญาประดิษฐ์ มหาวิทยาลัย Kate Crawford Yale กด (2021)
ปัญญาประดิษฐ์ (AI) แทรกซึมชีวิตของเรา เป็นตัวกำหนดสิ่งที่เราอ่านและซื้อ ไม่ว่าเราจะได้งาน เงินกู้ จำนอง เงินอุดหนุน หรือทัณฑ์บน มันวินิจฉัยโรคและฐานราก – และบ่อนทำลาย – กระบวนการประชาธิปไตย หนังสือใหม่สองเล่มนำเสนอวิสัยทัศน์เสริมว่าสังคมกำลังถูกเปลี่ยนโฉมหน้าโดยผู้ที่สร้าง ใช้ และจัดการ AI
ใน The Alignment Problem นักเขียน Brian Christian ให้มุมมองที่ใกล้ชิดกับผู้คนที่สร้างเทคโนโลยี AI ไม่ว่าจะเป็นเป้าหมาย ความคาดหวัง ความหวัง ความท้าทาย และความรกร้าง เริ่มต้นด้วยงานของวอลเตอร์ พิตต์เกี่ยวกับการแสดงกิจกรรมของเซลล์ประสาทในช่วงต้นศตวรรษที่ 20 เขาเล่าถึงแนวคิด จุดมุ่งหมาย ความสำเร็จและความล้มเหลวของนักวิจัยและผู้ปฏิบัติงานในสาขาต่างๆ ตั้งแต่วิทยาศาสตร์ความรู้ความเข้าใจไปจนถึงวิศวกรรม Atlas of AI จาก Kate Crawford นักวิชาการผู้มีอิทธิพล กล่าวถึงวิธีที่ AI เข้ามาในชีวิตของเราในทางปฏิบัติ แสดงให้เห็นว่า AI เป็นอุตสาหกรรมที่แยกส่วน โดยใช้ประโยชน์จากทรัพยากรจากวัสดุสู่แรงงานและข้อมูล
หนังสือทั้งสองเล่มแยกวิเคราะห์ว่าอำนาจของโลกดิจิทัลกำลังเปลี่ยนแปลงการเมืองและความสัมพันธ์ทางสังคมอย่างไร พวกเขาพยักหน้ารับแนวทางทางเลือกสำหรับความไม่สมดุลเหล่านี้ — การควบคุมของรัฐในประเทศจีน หรือความพยายามด้านกฎระเบียบของสหภาพยุโรป — แต่มุ่งเน้นไปที่เรื่องราวของอเมริกาเหนือ พวกเขาร่วมกันขอภาคต่อ: เดินหน้าต่อไป
จากคำทำนายสู่การแพร่หลาย
Christian ติดตามวิวัฒนาการของเทคโนโลยี AI ตั้งแต่คำทำนายไปจนถึงการแพร่หลาย เขาแสดงให้เห็นว่านักวิจัยพยายามให้ AI ตีความคุณค่าของมนุษย์อย่างไร เช่น ความเป็นธรรม ความโปร่งใส ความอยากรู้และความไม่แน่นอน และความท้าทายที่ขวางทางพวกเขา โดยส่วนใหญ่มาจากการพบปะกับนักวิจัยและผู้ปฏิบัติงาน หนังสือแสดงความก้าวหน้าที่ช้า มั่นคง และซับซ้อน โดยมีทั้งระดับต่ำสุดและระดับสูงสุดอย่างเหลือเชื่อ
AI แบบร่วมมือ: เครื่องจักรต้องเรียนรู้เพื่อค้นหาจุดร่วม
เราพบปะผู้คนเช่น Rich Caruana ซึ่งปัจจุบันเป็นนักวิจัยหลักอาวุโสของ Microsoft ในเมืองเรดมอนด์ รัฐวอชิงตัน ซึ่งถูกขอให้เป็นนักศึกษาระดับบัณฑิตศึกษาให้เหลือบมองบางสิ่งที่นำไปสู่การทำงานในชีวิตของเขา — การปรับการจัดกลุ่มข้อมูลและการบีบอัดข้อมูลให้เหมาะสมเพื่อสร้างแบบจำลองที่ทั้งเข้าใจได้และ แม่นยำ. และเราเดินไปตามชายหาดพร้อมกับ Marc Bellemare ผู้บุกเบิกการเรียนรู้แบบเสริมกำลังขณะทำงานกับเกมสำหรับคอนโซล Atari และตอนนี้อยู่ที่ Google Research ในเมืองมอนทรีออล ประเทศแคนาดา
คริสเตียนแสดงให้เห็นว่านักวิจัยตระหนักดีว่าการพัฒนา AI ได้รับผลกระทบจากค่านิยมทางสังคม และที่สำคัญกว่านั้นคือส่งผลต่อพวกเขา สิ่งเหล่านี้มาพร้อมกับต้นทุนและสามารถมีผลกระทบอย่างลึกซึ้งต่อชุมชน แก่นแท้ของปัญหา The Alignment Problem ถามว่าเราจะมั่นใจได้อย่างไรว่าระบบ AI จะจับบรรทัดฐานและค่านิยมของเรา เข้าใจสิ่งที่เราหมายถึงและทำในสิ่งที่เราต้องการ เราทุกคนมีแนวคิดและข้อกำหนดที่แตกต่างกันสำหรับสิ่งที่ระบบดังกล่าวควรทำ ดังที่นักคณิตศาสตร์ Norbert Wiener กล่าวไว้ในปี 1960: “เราควรแน่ใจว่าจุดประสงค์ที่ใส่ไว้ในเครื่องนั้นเป็นจุดประสงค์ที่เราปรารถนาจริงๆ”
ลังพลาสติกเคลื่อนไปตามสายพานลำเลียงที่ศูนย์ปฏิบัติตาม Amazon.com ในเมืองร็อบบินส์วิลล์ รัฐนิวเจอร์ซีย์
เบื้องหลังเศรษฐกิจบิ๊กดาต้า: ศูนย์ปฏิบัติตาม Amazon ในรัฐนิวเจอร์ซีย์ เครดิต: Bess Adler/Bloomberg/Getty
คอลเล็กชั่นของ Crawford เผยให้เห็นด้านมืดของความสำเร็จของ AI สำรวจทั่วโลกเพื่อสำรวจความสัมพันธ์ระหว่างสถานที่ต่างๆ และผลกระทบต่อโครงสร้างพื้นฐานของ AI จากเนวาดาและอินโดนีเซีย ที่ซึ่งลิเธียมและดีบุกเป็นศูนย์กลางไปจนถึงเซมิคอนดักเตอร์ถูกขุดด้วยต้นทุนมนุษย์และสิ่งแวดล้อมที่สูง เราเดินทางไปยังคลังสินค้าของ Amazon ในรัฐนิวเจอร์ซีย์ ที่นี่ คนงานก้มตัวตามความประสงค์ของหุ่นยนต์และสายการผลิต แทนที่จะใช้ระบบอัตโนมัติที่ปรับให้เข้ากับจังหวะของมนุษย์ ในการเตือนความจำที่ไม่สบายใจของภาพยนตร์เรื่อง Modern Times ของชาร์ลี แชปลินในปี 1936 เราได้เห็นความยากลำบากของ “การปลอมแปลง” ซึ่งเป็นระบบอัตโนมัติที่คาดคะเนซึ่งต้องอาศัยแรงงานมนุษย์เป็นอย่างมาก เช่น ระบบที่คนงานได้รับค่าจ้างต่ำกว่าค่าแรงขั้นต่ำในฟาร์มการติดฉลากข้อมูล
ครอว์ฟอร์ดสรุปด้วยการเตือนว่า AI ไม่ได้มีวัตถุประสงค์ เป็นกลาง หรือเป็นสากล แต่กลับฝังลึกอยู่ในวัฒนธรรมและความเป็นจริงทางเศรษฐกิจของผู้ที่สร้างสิ่งนี้ ส่วนใหญ่เป็นคนผิวขาวที่ร่ำรวยในซิลิคอนแวลลีย์ของแคลิฟอร์เนีย
หนังสือทั้งสองเล่มมีความแข็งแกร่งในการอธิบายความท้าทายและอันตรายของการใช้และการพัฒนา AI ในปัจจุบัน และสิ่งที่ทำให้แตกต่างจากคอมพิวเตอร์แบบ ‘คลาสสิก’ การอ่านควบคู่กันไปนั้นเน้นที่ประเด็นหลักสามประเด็น ได้แก่ การพึ่งพาข้อมูลมากเกินไป การคาดคะเนสุ่ม การตัดสินใจอัตโนมัติ และความเข้มข้นของอำนาจ
