อดีตหัวหน้า Google เปรียบเทียบปัญญาประดิษฐ์กับอาวุธนิวเคลียร์

Eric Schmidt อดีต CEO ของ Google เปรียบเทียบปัญญาประดิษฐ์ (AI) กับอาวุธนิวเคลียร์ และเรียกร้องให้มีระบอบการป้องปราม คล้ายกับการทำลายที่มั่นใจร่วมกัน ซึ่งทำให้ประเทศที่มีอำนาจมากที่สุดในโลกไม่ทำลายล้างซึ่งกันและกัน

ชมิดท์พูดถึงอันตรายของปัญญาประดิษฐ์ที่ Aspen Security Forum เมื่อวันที่ 22 กรกฎาคมระหว่างการอภิปรายเรื่องความมั่นคงของชาติและ AI เมื่อถูกถามเกี่ยวกับคุณค่าของศีลธรรมในเทคโนโลยี ชมิดท์อธิบายว่าตัวเขาเองนั้นไร้เดียงสาเกี่ยวกับพลังของข้อมูลในสมัยแรกๆ ของ Google จากนั้นเขาก็เรียกร้องให้มีเทคโนโลยีเพื่อให้สอดคล้องกับจริยธรรมและศีลธรรมของคนที่พวกเขารับใช้มากขึ้น และทำการเปรียบเทียบที่แปลกประหลาดระหว่างปัญญาประดิษฐ์กับอาวุธนิวเคลียร์

“เราไม่พร้อมสำหรับการเจรจาที่เราต้องการ” – @eicschmidt #แอสเพนซีเคียวริตี้ pictwitter.com/As749t6ZyU

- ฟอรัมความปลอดภัย Aspen (@AspenSecurity) กรกฎาคม 22, 2022

ชมิดท์พูดถึงอนาคตอันใกล้นี้ ซึ่งจีนและสหรัฐฯ จำเป็นต้องทำข้อตกลงเกี่ยวกับปัญญาประดิษฐ์ “ในยุค 50 และ 60 เราลงเอยด้วยการสร้างโลกที่มีกฎ 'ไม่น่าแปลกใจ' สำหรับการทดสอบนิวเคลียร์ และด้วยเหตุนี้ พวกเขาจึงถูกแบน” ชมิดท์กล่าว “นี่คือตัวอย่างของความสมดุลของความไว้วางใจหรือการขาดความไว้วางใจ นี่คือกฎของ 'ไม่แปลกใจ' ฉันกังวลมากที่สหรัฐฯ มองว่าจีนทุจริตหรือคอมมิวนิสต์หรืออะไรก็ตาม และมุมมองของจีนต่ออเมริกาในฐานะผู้แพ้...จะทำให้คนพูดว่า "โอ้ พระเจ้า พวกเขากำลังจะทำอะไรบางอย่าง" แล้ว บางสิ่งที่เข้าใจยากจะเริ่มต้นขึ้น... .

AI และการเรียนรู้ของเครื่องเป็นเทคโนโลยีที่น่าสนใจและมักเข้าใจผิด เขาไม่ได้ฉลาดอย่างที่คนอื่นคิด มันสามารถสร้างงานศิลปะระดับมาสเตอร์พีซ เอาชนะผู้คนที่ Starcraft II และโทรศัพท์พื้นฐานสำหรับผู้ใช้ อย่างไรก็ตาม ความพยายามที่จะทำให้มันทำงานที่ยากขึ้น เช่น การขับรถในเมืองใหญ่ ก็ไม่ประสบผลสำเร็จ

ชมิดท์พูดถึงจินตภาพอนาคตอันใกล้ที่ทั้งจีนและสหรัฐฯ จะกังวลเกี่ยวกับปัญหาด้านความปลอดภัย ซึ่งจะบังคับให้พวกเขาเข้าสู่สนธิสัญญาประเภทหนึ่งเพื่อควบคุม AI เขาหวนนึกถึงช่วงทศวรรษ 1950 และ 60 เมื่อการทูตพัฒนาชุดการควบคุมอาวุธที่อันตรายที่สุดในโลก แต่การระเบิดของนิวเคลียร์ต้องใช้เวลากว่าทศวรรษ และที่สำคัญที่สุดคือการทำลายฮิโรชิมาและนางาซากิเพื่อสันติภาพที่จะเกิดขึ้นก่อนการสรุปสนธิสัญญาห้ามทดสอบนิวเคลียร์ SALT II และกฎหมายสำคัญอื่นๆ

เมืองญี่ปุ่นสองแห่งที่อเมริกาทำลายล้างเมื่อสิ้นสุดสงครามโลกครั้งที่ XNUMX คร่าชีวิตผู้คนนับหมื่น และพิสูจน์ให้โลกเห็นถึงความน่ากลัวชั่วนิรันดร์ของอาวุธนิวเคลียร์ จากนั้นรัฐบาลรัสเซียและจีนก็รีบซื้ออาวุธ วิธีที่เราดำเนินชีวิตร่วมกับความเป็นไปได้ที่จะใช้อาวุธเหล่านี้คือสิ่งที่เรียกว่า Mutually Assured Destruction (MAD) ซึ่งเป็นทฤษฎีการป้องปรามที่ทำให้แน่ใจว่าหากประเทศใดประเทศหนึ่งเปิดตัวอาวุธนิวเคลียร์ก็เป็นไปได้ที่ประเทศอื่นจะทำตาม เราไม่ใช้อาวุธที่ทำลายล้างมากที่สุดในโลก เพราะมีความเป็นไปได้ที่มันจะทำลายอารยธรรมทั่วโลก

แม้จะมีความคิดเห็นที่มีสีสันของ Schmidt แต่เราไม่ต้องการหรือต้องการ MAD สำหรับ AI ประการแรก AI ยังไม่ได้พิสูจน์พลังการทำลายล้างเมื่อเปรียบเทียบกับอาวุธนิวเคลียร์ แต่ผู้มีอำนาจกลับกลัวเทคโนโลยีใหม่นี้ และมักจะเป็นเพราะเหตุผลที่ผิด ผู้คนยังเสนอให้มอบการควบคุมอาวุธนิวเคลียร์ให้กับปัญญาประดิษฐ์โดยเชื่อว่าจะเป็นผู้ชี้ขาดการใช้งานได้ดีกว่ามนุษย์

ปัญหาเกี่ยวกับปัญญาประดิษฐ์ไม่ใช่เพราะมีพลังทำลายล้างของอาวุธนิวเคลียร์ ประเด็นคือปัญญาประดิษฐ์นั้นดีพอ ๆ กับคนที่พัฒนามันและมันมีค่านิยมของผู้สร้าง AI ประสบปัญหา "ขยะเข้า ขยะออก" แบบคลาสสิก อัลกอริธึมการเหยียดเชื้อชาติสร้างหุ่นยนต์เหยียดผิว และ AI ทั้งหมดล้วนมีความลำเอียงของผู้สร้าง

Demis Hassabis ซีอีโอของ DeepMind บริษัทที่ฝึก AI ที่เอาชนะผู้เล่น Starcraft II ดูเหมือนจะเข้าใจสิ่งนี้ดีกว่า Schmidt ในการให้สัมภาษณ์เมื่อเดือนกรกฎาคมเกี่ยวกับพอดคาสต์ของ Lex Friedman ฟรีดแมนได้ถาม Hassabis ว่าสามารถควบคุมเทคโนโลยีที่ทรงพลังเท่ากับ AI ได้อย่างไร และตัว Hassabis เองจะหลีกเลี่ยงความเสียหายจากพลังนั้นได้อย่างไร

คำตอบของ Khasabis เกี่ยวกับตัวเขาเอง "ปัญญาประดิษฐ์เป็นแนวคิดที่ใหญ่เกินไป" เขากล่าว "สิ่งสำคัญคือผู้สร้าง AI มาจากวัฒนธรรมใด และคุณค่าของพวกเขาคืออะไร ระบบ AI จะเรียนรู้ด้วยตัวเอง...แต่ระบบจะยังคงตราตรึงกับวัฒนธรรมและค่านิยมของผู้เขียนระบบ"

ปัญญาประดิษฐ์เป็นภาพสะท้อนของผู้เขียน ทำลายเมืองด้วยระเบิด 1,2 เมกะตันไม่ได้ เว้นเสียแต่ว่ามีคนสอนเขาเรื่องนี้

คุณสามารถช่วยยูเครนต่อสู้กับผู้รุกรานรัสเซีย วิธีที่ดีที่สุดคือบริจาคเงินให้กับกองทัพยูเครนผ่าน เซฟไลฟ์ หรือทางเพจอย่างเป็นทางการ NBU.

อ่าน:

• แอปพลิเคชั่นใหม่ Samsung ใช้ AI เพื่อปรับปรุงภาพถ่ายของคุณ
• ปัญญาประดิษฐ์ช่วยในการระบุวัตถุทางดาราศาสตร์