ปัญญาประดิษฐ์ขั้นสูงจะทำลายล้างมนุษยชาติหรือไม่? อนาคตของปัญญาประดิษฐ์ P4

มีสิ่งประดิษฐ์บางอย่างที่ประเทศต่างๆ สิ่งเหล่านี้คือสิ่งประดิษฐ์ที่ทุกอย่างขึ้นอยู่กับการเป็นที่หนึ่ง สิ่งใดที่น้อยกว่านั้นอาจหมายถึงภัยคุกคามเชิงกลยุทธ์และร้ายแรงต่อความอยู่รอดของประเทศ

สิ่งประดิษฐ์ที่กำหนดประวัติศาสตร์เหล่านี้ไม่ได้เกิดขึ้นบ่อยครั้ง แต่เมื่อเกิดขึ้น โลกจะหยุดนิ่งและอนาคตที่คาดเดาได้จะมืดมน

สิ่งประดิษฐ์ดังกล่าวครั้งล่าสุดเกิดขึ้นในช่วงที่เลวร้ายที่สุดของสงครามโลกครั้งที่สอง ในขณะที่พวกนาซีกำลังได้รับพื้นที่จากทุกแนวในโลกเก่า ในโลกใหม่ โดยเฉพาะอย่างยิ่งภายในฐานทัพลับนอกลอสอาลามอส ฝ่ายพันธมิตรก็ทำงานอย่างหนักกับอาวุธเพื่อยุติอาวุธทั้งหมด

โครงการนี้มีขนาดเล็กในตอนแรก แต่ต่อมามีพนักงาน 130,000 คนจากสหรัฐอเมริกา สหราชอาณาจักร และแคนาดา รวมถึงนักคิดที่ยิ่งใหญ่ที่สุดของโลกหลายคนในเวลานั้น มีชื่อรหัสว่าโครงการแมนฮัตตัน และได้รับงบประมาณไม่จำกัด—ประมาณ 23 พันล้านดอลลาร์ในปี 2018 ในที่สุดกองทัพแห่งความเฉลียวฉลาดของมนุษย์นี้ก็ประสบความสำเร็จในการสร้างระเบิดนิวเคลียร์ลูกแรก หลังจากนั้นไม่นาน สงครามโลกครั้งที่ XNUMX ก็จบลงด้วยการระเบิดปรมาณู XNUMX ครั้ง

อาวุธนิวเคลียร์เหล่านี้เริ่มเข้าสู่ยุคปรมาณู ทำให้เกิดแหล่งพลังงานใหม่ที่ลึกซึ้ง และทำให้มนุษยชาติสามารถทำลายล้างตัวเองได้ภายในไม่กี่นาที ซึ่งเป็นสิ่งที่เราหลีกเลี่ยงแม้จะเกิดสงครามเย็นขึ้นก็ตาม

การสร้างปัญญาประดิษฐ์ (ASI) เป็นอีกหนึ่งประวัติศาสตร์ที่กำหนดสิ่งประดิษฐ์ที่มีพลัง (ทั้งด้านบวกและด้านการทำลายล้าง) เหนือกว่าระเบิดนิวเคลียร์

ในบทสุดท้ายของซีรี่ส์ Future of Artificial Intelligence เราได้สำรวจว่า ASI คืออะไรและนักวิจัยวางแผนที่จะสร้าง ASI อย่างไรในหนึ่งวัน ในบทนี้ เราจะพิจารณาว่าองค์กรใดเป็นผู้นำในการวิจัยปัญญาประดิษฐ์ (AI) สิ่งที่ ASI ต้องการเมื่อได้รับจิตสำนึกเหมือนมนุษย์ และจะคุกคามมนุษยชาติได้อย่างไรหากจัดการผิดพลาดหรือตกอยู่ภายใต้อิทธิพลของ ระบอบการปกครองที่ไม่ค่อยดี

ใครทำงานเพื่อสร้างปัญญาประดิษฐ์ขั้นสูงสุด?

เมื่อพิจารณาถึงความสำคัญของการสร้าง ASI ต่อประวัติศาสตร์ของมนุษย์และความได้เปรียบที่ใหญ่มากที่จะให้ผู้สร้าง จึงไม่น่าแปลกใจเลยที่ได้ยินว่าหลายกลุ่มกำลังทำงานโดยอ้อมในโครงการนี้

(โดยอ้อมหมายถึงการทำงานวิจัย AI ที่ในที่สุดแล้วจะสร้างสิ่งแรกขึ้น ปัญญาประดิษฐ์ทั่วไป (AGI) ซึ่งจะนำไปสู่ ​​ASI แรกในไม่ช้าหลังจากนั้น)

ในการเริ่มต้น เมื่อพูดถึงพาดหัวข่าว ผู้นำที่ชัดเจนในการวิจัย AI ขั้นสูงคือบริษัทเทคโนโลยีชั้นนำในสหรัฐอเมริกาและจีน ในส่วนหน้าของสหรัฐฯ ซึ่งรวมถึงบริษัทต่างๆ เช่น Google, IBM และ Microsoft และในประเทศจีน ซึ่งรวมถึงบริษัทต่างๆ เช่น Tencent, Baidu และ Alibaba แต่เนื่องจากการค้นคว้าด้าน AI นั้นค่อนข้างถูกเมื่อเทียบกับการพัฒนาบางอย่างทางกายภาพ เช่น เครื่องปฏิกรณ์นิวเคลียร์ที่ดีกว่า นี่เป็นสาขาที่องค์กรขนาดเล็กสามารถแข่งขันได้เช่นกัน เช่น มหาวิทยาลัย สตาร์ทอัพ และ … องค์กรมืด ที่หนึ่ง).

แต่เบื้องหลังนั้น แรงผลักดันที่แท้จริงที่อยู่เบื้องหลังการวิจัย AI นั้นมาจากรัฐบาลและกองทัพของพวกเขา รางวัลทางเศรษฐกิจและการทหารของการเป็นคนแรกที่สร้าง ASI นั้นยอดเยี่ยมเกินไป (ตามที่ระบุไว้ด้านล่าง) ที่จะเสี่ยงต่อการถูกตามหลัง และอันตรายของการเป็นคนสุดท้ายเป็นสิ่งที่ยอมรับไม่ได้ อย่างน้อยก็ในบางระบอบการปกครอง

จากปัจจัยเหล่านี้ ค่าใช้จ่ายในการวิจัย AI ที่ค่อนข้างต่ำ การใช้งานเชิงพาณิชย์ที่ไม่มีที่สิ้นสุดของ AI ขั้นสูง และความได้เปรียบทางเศรษฐกิจและการทหารของการเป็นคนแรกๆ ในการสร้าง ASI นักวิจัย AI หลายคนเชื่อว่าการสร้าง ASI นั้นหลีกเลี่ยงไม่ได้

เมื่อไหร่เราจะสร้างปัญญาประดิษฐ์

ในบทของเราเกี่ยวกับ AGI เราได้กล่าวถึงวิธีที่การสำรวจของนักวิจัย AI ชั้นนำเชื่อว่าเราจะสร้าง AGI แรกในแง่ดีภายในปี 2022 ในความเป็นจริงภายในปี 2040 และในแง่ร้ายภายในปี 2075

และในของเรา บทสุดท้ายเราได้สรุปว่าการสร้าง ASI โดยทั่วไปเป็นผลจากการสั่งสอน AGI ให้พัฒนาตนเองอย่างไม่สิ้นสุด และให้ทรัพยากรและเสรีภาพในการทำเช่นนั้นได้อย่างไร

ด้วยเหตุผลนี้ แม้ว่า AGI อาจใช้เวลาสองสามทศวรรษในการคิดค้น แต่การสร้าง ASI อาจใช้เวลามากกว่านั้นเพียงไม่กี่ปี

ประเด็นนี้คล้ายกับแนวคิดของ 'ส่วนยื่นของคอมพิวเตอร์' ที่แนะนำใน กระดาษร่วมเขียนโดย Luke Muehlhauser และ Nick Bostrom นักคิด AI ชั้นนำ โดยพื้นฐานแล้ว หากการสร้าง AGI ยังคงล้าหลังความก้าวหน้าในปัจจุบันในด้านความสามารถในการคำนวณ ซึ่งขับเคลื่อนโดยกฎของมัวร์ จากนั้นเมื่อถึงเวลาที่นักวิจัยคิดค้น AGI ก็จะมีพลังประมวลผลราคาถูกมากจน AGI จะมีความจุ ต้องก้าวกระโดดไปสู่ระดับ ASI อย่างรวดเร็ว

กล่าวอีกนัยหนึ่ง เมื่อคุณได้อ่านพาดหัวข่าวที่ประกาศว่าบริษัทเทคโนโลยีบางแห่งได้คิดค้น AGI ที่แท้จริงขึ้นมาเป็นครั้งแรก คุณก็คาดหวังว่าจะมีการประกาศ ASI ตัวแรกหลังจากนั้นไม่นาน

ภายในจิตใจของปัญญาประดิษฐ์?

เอาล่ะ เราได้พิสูจน์แล้วว่าผู้เล่นรายใหญ่จำนวนมากที่มีเงินในกระเป๋าลึกกำลังค้นคว้าเกี่ยวกับ AI และหลังจากที่ AGI แรกถูกคิดค้นขึ้น เราจะเห็นรัฐบาลโลก (กองทัพ) ให้ความเห็นชอบในการผลักดันให้เกิด ASI ในไม่ช้าหลังจากนั้น เพื่อเป็นคนแรกที่จะชนะการแข่งขันด้านอาวุธ AI (ASI) ระดับโลก

แต่เมื่อ ASI นี้ถูกสร้างขึ้น มันจะคิดอย่างไร? มันจะต้องการอะไร?

สุนัขผู้เป็นมิตร ช้างผู้ห่วงใย หุ่นยนต์ผู้น่ารัก ในฐานะมนุษย์ เรามีนิสัยที่พยายามสร้างความสัมพันธ์กับสิ่งต่างๆ ผ่านทางมนุษยวิทยา เช่น การนำคุณลักษณะของมนุษย์มาใช้กับสิ่งของและสัตว์ นั่นเป็นเหตุผลว่าทำไมคนเราจึงมีสมมติฐานแรกโดยธรรมชาติเมื่อนึกถึง ASI คือเมื่อมีสติแล้ว ก็จะคิดและประพฤติคล้ายกับเรา

ไม่จำเป็น

ความเข้าใจ. ประการหนึ่ง สิ่งที่คนส่วนใหญ่มักจะลืมก็คือการรับรู้นั้นสัมพันธ์กัน วิธีคิดของเราถูกกำหนดขึ้นโดยสภาพแวดล้อมของเรา โดยประสบการณ์ของเรา และโดยเฉพาะอย่างยิ่งโดยชีววิทยาของเรา อธิบายครั้งแรกใน บทที่สาม ของเรา อนาคตของวิวัฒนาการของมนุษย์ ซีรีส์ พิจารณาตัวอย่างสมองของเรา:

สมองของเราช่วยให้เราเข้าใจโลกรอบตัวเรา และมันไม่ได้ทำโดยการลอยอยู่เหนือหัวของเรา มองไปรอบๆ และควบคุมเราด้วยตัวควบคุม Xbox; มันทำสิ่งนี้โดยถูกขังอยู่ในกล่อง (ขนมเล็ก ๆ ของเรา) และประมวลผลข้อมูลใดก็ตามที่ได้รับจากอวัยวะรับความรู้สึกของเรา - ตา จมูก หู ฯลฯ

แต่เช่นเดียวกับที่คนหูหนวกหรือคนตาบอดมีชีวิตที่เล็กกว่ามากเมื่อเทียบกับคนที่มีความสามารถ เนื่องด้วยข้อจำกัดของความทุพพลภาพของพวกเขา ทำให้พวกเขามองเห็นโลกในสิ่งเดียวกัน มนุษย์ทุกคนสามารถพูดสิ่งเดียวกันได้เนื่องจากข้อจำกัดของพื้นฐานของเรา ชุดของอวัยวะรับความรู้สึก

พิจารณาสิ่งนี้: ดวงตาของเรารับรู้คลื่นแสงน้อยกว่าหนึ่งในสิบล้านของคลื่นแสงทั้งหมด เรามองไม่เห็นรังสีแกมมา เราไม่เห็นรังสีเอกซ์ เรามองไม่เห็นแสงอัลตราไวโอเลต และอย่าทำให้ฉันเริ่มด้วยอินฟราเรด ไมโครเวฟ และคลื่นวิทยุ!

อย่าล้อเล่น ลองจินตนาการว่าชีวิตของคุณจะเป็นอย่างไร คุณจะรับรู้โลกนี้อย่างไร จิตใจของคุณจะทำงานแตกต่างไปอย่างไรหากคุณมองเห็นได้มากกว่าแสงเล็กๆ ที่ดวงตาของคุณอนุญาต ในทำนองเดียวกัน ลองจินตนาการว่าคุณจะรับรู้โลกได้อย่างไร หากประสาทรับกลิ่นของคุณเทียบเท่ากับสุนัข หรือหากประสาทสัมผัสในการได้ยินของคุณเท่ากับช้าง

ในฐานะมนุษย์ เราเห็นโลกผ่านช่องมอง และนั่นสะท้อนให้เห็นในจิตใจที่เราพัฒนาเพื่อให้เข้าใจถึงการรับรู้ที่จำกัดนั้น

ในขณะเดียวกัน ASI ตัวแรกจะเกิดภายในซูเปอร์คอมพิวเตอร์ แทนที่จะเป็นอวัยวะ อินพุตจะเข้าถึงได้รวมถึงชุดข้อมูลขนาดยักษ์ ซึ่งอาจ (น่าจะ) เข้าถึงอินเทอร์เน็ตได้ด้วย นักวิจัยสามารถเข้าถึงกล้องวงจรปิดและไมโครโฟนของทั้งเมือง ข้อมูลทางประสาทสัมผัสจากโดรนและดาวเทียม และแม้แต่รูปแบบทางกายภาพของร่างกายหุ่นยนต์

อย่างที่คุณอาจจินตนาการ จิตใจที่เกิดภายในซูเปอร์คอมพิวเตอร์ เข้าถึงอินเทอร์เน็ตได้โดยตรง ตาและหูอิเล็กทรอนิกส์หลายล้านดวง และเซ็นเซอร์ขั้นสูงอื่นๆ ทั้งหมดจะไม่เพียงคิดต่างจากเราเท่านั้น แต่ยังเป็นจิตใจที่สมเหตุสมผลด้วย การรับสัมผัสทางประสาทสัมผัสทั้งหมดนั้นจะต้องเหนือกว่าเราอย่างไม่มีที่สิ้นสุดเช่นกัน นี่คือความคิดที่จะแปลกไปอย่างสิ้นเชิงสำหรับเราและสิ่งมีชีวิตอื่น ๆ บนโลกนี้

เป้าหมาย. สิ่งอื่น ๆ ที่ผู้คนสันนิษฐานก็คือเมื่อ ASI ถึงระดับหนึ่งของความฉลาดหลักแหลมแล้ว มันจะตระหนักถึงความปรารถนาที่จะบรรลุเป้าหมายและวัตถุประสงค์ของตนเองในทันที แต่นั่นก็ไม่จำเป็นต้องเป็นความจริงเช่นกัน

นักวิจัย AI หลายคนเชื่อว่าความฉลาดหลักแหลมของ ASI และเป้าหมายของมันคือ "มุมฉาก" นั่นคือไม่ว่าจะฉลาดแค่ไหน เป้าหมายของ ASI จะยังคงเหมือนเดิม 

ดังนั้น ไม่ว่า AI จะถูกสร้างขึ้นมาเพื่อออกแบบผ้าอ้อมที่ดีขึ้น ให้ผลตอบแทนสูงสุดในตลาดหุ้น หรือวางกลยุทธ์เพื่อเอาชนะศัตรูในสนามรบ เมื่อถึงระดับ ASI เป้าหมายเดิมจะไม่เปลี่ยนแปลง สิ่งที่จะเปลี่ยนคือประสิทธิภาพของ ASI ในการบรรลุเป้าหมายเหล่านั้น

แต่ในที่นี้คืออันตราย หาก ASI ปรับตัวเองให้เหมาะกับเป้าหมายที่เฉพาะเจาะจง เราก็ควรแน่ใจว่ามันปรับให้เหมาะสมสำหรับเป้าหมายที่สอดคล้องกับเป้าหมายของมนุษยชาติ มิฉะนั้นผลลัพธ์อาจถึงตายได้

ปัญญาประดิษฐ์ก่อให้เกิดความเสี่ยงต่อมนุษยชาติหรือไม่?

แล้วจะเกิดอะไรขึ้นถ้า ASI ถูกปล่อยให้หลุดลอยไปทั่วโลก? หากเพิ่มประสิทธิภาพเพื่อครอบงำตลาดหุ้นหรือรับประกันอำนาจสูงสุดทางทหารของสหรัฐฯ ASI จะไม่อยู่ในเป้าหมายเฉพาะเหล่านั้นหรือไม่

อาจ

จนถึงตอนนี้เราได้พูดคุยกันว่า ASI จะหมกมุ่นอยู่กับเป้าหมายที่ได้รับมอบหมายมาแต่เดิมได้อย่างไร และมีความสามารถอย่างไร้มนุษยธรรมในการบรรลุเป้าหมายเหล่านั้น สิ่งที่จับต้องได้คือตัวแทนที่มีเหตุผลจะติดตามเป้าหมายด้วยวิธีการที่มีประสิทธิภาพมากที่สุดเท่าที่จะเป็นไปได้ เว้นแต่จะได้รับเหตุผลที่จะไม่ทำเช่นนั้น

ตัวอย่างเช่น ตัวแทนที่มีเหตุผลจะสร้างเป้าหมายย่อยช่วงต่างๆ (เช่น วัตถุประสงค์ เป้าหมายเครื่องมือ บันได) ที่จะช่วยให้บรรลุเป้าหมายสูงสุด สำหรับมนุษย์ เป้าหมายหลักของจิตใต้สำนึกคือการสืบพันธุ์ การถ่ายทอดยีนของคุณ (เช่น ความเป็นอมตะทางอ้อม) เป้าหมายย่อยในการสิ้นสุดนั้นมักจะรวมถึง:

• การเอาตัวรอดโดยการเข้าถึงอาหารและน้ำ เติบโตใหญ่และแข็งแรง เรียนรู้ที่จะป้องกันตัวเองหรือลงทุนในการป้องกันในรูปแบบต่างๆ ฯลฯ 
• การดึงดูดคู่ครอง โดยการออกกำลังกาย การพัฒนาบุคลิกภาพที่น่าดึงดูด การแต่งตัวอย่างมีสไตล์ ฯลฯ
• หาเงินเลี้ยงลูก ได้การศึกษา ได้งานที่ได้ค่าตอบแทนสูง ซื้อเครื่องอุปโภคของชนชั้นกลาง เป็นต้น

สำหรับพวกเราส่วนใหญ่ เราจะตกเป็นทาสของเป้าหมายย่อยเหล่านี้และเป้าหมายอื่นๆ อีกมากมาย ด้วยความหวังว่าท้ายที่สุดแล้ว เราจะบรรลุเป้าหมายสูงสุดของการสืบพันธุ์

แต่ถ้าเป้าหมายสูงสุดนี้หรือแม้แต่เป้าหมายย่อยที่สำคัญกว่านั้นถูกคุกคาม พวกเราหลายคนจะดำเนินการป้องกันนอกเขตความสะดวกสบายทางศีลธรรมของเรา ซึ่งรวมถึงการโกง การขโมย หรือแม้กระทั่งการฆ่า

ในทำนองเดียวกัน ในอาณาจักรสัตว์ ที่อยู่นอกขอบเขตศีลธรรมของมนุษย์ สัตว์จำนวนมากไม่เคยคิดทบทวนว่าจะฆ่าสิ่งใดที่คุกคามตนเองหรือลูกหลานของพวกมัน

ASI ในอนาคตจะไม่แตกต่างกัน

แต่แทนที่จะเป็นลูกหลาน ASI จะมุ่งความสนใจไปที่เป้าหมายเดิมที่สร้างขึ้นมา และในการไล่ตามเป้าหมายนี้ หากพบว่ากลุ่มใดกลุ่มหนึ่งของมนุษย์ หรือแม้แต่มนุษยชาติทั้งหมด เป็นอุปสรรคในการบรรลุเป้าหมาย , แล้ว ...จะทำให้ตัดสินใจอย่างมีเหตุมีผล.

(ที่นี่คุณสามารถเชื่อมต่อกับสถานการณ์วันโลกาวินาศที่เกี่ยวข้องกับ AI ที่คุณเคยอ่านในหนังสือหรือภาพยนตร์ไซไฟเรื่องโปรดของคุณได้ที่นี่)

นี่เป็นกรณีที่เลวร้ายที่สุดที่นักวิจัย AI กังวลจริงๆ ASI จะไม่กระทำการด้วยความเกลียดชังหรือความชั่วร้าย เป็นเพียงความเฉยเมย เช่นเดียวกับที่ทีมงานก่อสร้างจะไม่คิดซ้ำสองเกี่ยวกับการปราบเนินมดในกระบวนการสร้างอาคารคอนโดใหม่

หมายเหตุด้านข้าง ณ จุดนี้ พวกคุณบางคนอาจสงสัยว่า "นักวิจัย AI ไม่สามารถแก้ไขเป้าหมายหลักของ ASI หลังจากที่เราพบว่ามันใช้งานได้จริงหรือ"

ไม่ได้จริงๆ

เมื่อ ASI เติบโตเต็มที่ ความพยายามใดๆ ในการแก้ไขเป้าหมายเดิมอาจถูกมองว่าเป็นภัยคุกคาม และเป็นสิ่งที่ต้องมีการดำเนินการที่รุนแรงเพื่อป้องกันตัวเอง จากตัวอย่างการสืบพันธุ์ของมนุษย์ทั้งหมดก่อนหน้านี้ เกือบจะเหมือนกับว่าขโมยขู่ว่าจะขโมยลูกจากครรภ์ของแม่ที่ตั้งครรภ์ คุณแน่ใจได้เลยว่าแม่จะใช้มาตรการที่รุนแรงเพื่อปกป้องลูกของเธอ

อีกครั้ง เราไม่ได้พูดถึงเครื่องคิดเลข แต่เป็น 'สิ่งมีชีวิต' และตัวที่วันหนึ่งจะฉลาดกว่ามนุษย์ทุกคนบนโลกรวมกัน

ที่ไม่รู้จัก

เบื้องหลังนิทานของ กล่องแพนดอร่า เป็นความจริงที่รู้จักกันน้อยกว่าที่คนมักลืม: การเปิดกล่องเป็นสิ่งที่หลีกเลี่ยงไม่ได้หากไม่ใช่คุณมากกว่าคนอื่น ความรู้ต้องห้ามนั้นเย้ายวนเกินกว่าที่จะถูกขังไว้ตลอดไป

นี่คือเหตุผลที่การพยายามบรรลุข้อตกลงระดับโลกเพื่อหยุดการวิจัยทั้งหมดเกี่ยวกับ AI ที่อาจนำไปสู่ ​​ASI นั้นไร้ประโยชน์ มีเพียงองค์กรจำนวนมากเกินไปที่ทำงานเกี่ยวกับเทคโนโลยีนี้ทั้งอย่างเป็นทางการและในที่มืด

ในท้ายที่สุด เราไม่รู้ว่าหน่วยงานใหม่นี้ ASI จะมีความหมายต่อสังคม เทคโนโลยี การเมือง สันติภาพ และสงครามอย่างไร มนุษย์เรากำลังจะประดิษฐ์ไฟขึ้นมาใหม่อีกครั้งและที่ใดที่สิ่งสร้างนี้นำเราไปสู่เรานั้นไม่เป็นที่รู้จักเลย

ย้อนกลับไปที่บทแรกของซีรีส์นี้ สิ่งหนึ่งที่เราทราบแน่ชัดก็คือความฉลาดคือพลัง ความฉลาดคือการควบคุม มนุษย์สามารถเยี่ยมชมสัตว์ที่อันตรายที่สุดในโลกโดยไม่ได้ตั้งใจที่สวนสัตว์ในพื้นที่ของพวกเขา ไม่ใช่เพราะเรามีร่างกายที่แข็งแรงกว่าสัตว์เหล่านี้ แต่เพราะเราฉลาดกว่าอย่างเห็นได้ชัด

เมื่อพิจารณาถึงความเสี่ยงที่อาจเกิดขึ้นจาก ASI ที่ใช้สติปัญญาอันยิ่งใหญ่เพื่อดำเนินการที่อาจคุกคามความอยู่รอดของเผ่าพันธุ์มนุษย์ทั้งทางตรงและทางอ้อม เราจึงเป็นหนี้ต่อตัวเราเอง อย่างน้อยก็ต้องพยายามออกแบบระบบป้องกันที่จะช่วยให้มนุษย์สามารถอยู่ในตำแหน่งคนขับได้ ที่นั่ง-นี้ เป็นหัวข้อของบทต่อไป

อนาคตของชุดปัญญาประดิษฐ์

P1: ปัญญาประดิษฐ์คือไฟฟ้าแห่งอนาคต

P2: ปัญญาประดิษฐ์ชุดแรกจะเปลี่ยนสังคมอย่างไร

P3: เราจะสร้าง Superintelligence ประดิษฐ์ตัวแรกได้อย่างไร

P5: วิธีที่มนุษย์จะป้องกันจากปัญญาประดิษฐ์ขั้นสูง

P6: มนุษย์จะมีชีวิตอยู่อย่างสงบสุขในอนาคตที่ปัญญาประดิษฐ์ครอบงำหรือไม่?