ลึกลับ โครงการถาม* จาก OpenAI ทำให้เกิดความกังวลในหมู่ผู้เชี่ยวชาญ เขาจะเป็นอันตรายต่อมนุษยชาติได้จริงหรือ? คุณรู้อะไรเกี่ยวกับเขาบ้าง? หลังจากที่แซม อัลท์แมนถูกไล่ออกครั้งแรกเมื่อสัปดาห์ที่แล้วและเขาและทีมเกือบจะย้ายเข้ามาอยู่ในทีม Microsoftแล้วเขาก็กลับไปทำงานของเขา (ประมาณนั้น เราเขียนที่นี่) OpenAI ตกเป็นข่าวอีกครั้ง คราวนี้เป็นเพราะสิ่งที่นักวิจัยบางคนเรียกว่าเป็นภัยคุกคามต่อมนุษยชาติ ใช่ คุณอ่านถูกแล้ว เป็นภัยคุกคามต่อมนุษยชาติ
การเปลี่ยนแปลงครั้งใหญ่ในโลกของเทคโนโลยีมีสาเหตุมาจาก Project Q* ซึ่งเป็นโครงการที่ไม่เปิดเผยของปัญญาประดิษฐ์ทั่วไป (AGI) ซึ่งออกเสียงว่า Q-Star แม้ว่าโครงการนี้จะยังอยู่ในช่วงเริ่มต้น แต่ก็ถือเป็นการพัฒนาที่ก้าวล้ำอย่างแท้จริงในด้าน AGI อย่างไรก็ตาม บางคนมองว่าสิ่งนี้เป็นอันตรายต่อมนุษยชาติ
โครงการปัญญาประดิษฐ์ลับที่พัฒนาโดยห้องปฏิบัติการปัญญาประดิษฐ์ชื่อดัง OpenAI มีศักยภาพในการปฏิวัติเทคโนโลยีและสังคมโดยทั่วไป แต่ยังทำให้เกิดคำถามด้านจริยธรรมเกี่ยวกับความเสี่ยงด้วย เมื่อมีรายละเอียดเกี่ยวกับความสามารถอันน่าทึ่งของ Project Q* ปรากฏให้เห็น มีการคาดเดากันมากขึ้นเรื่อยๆ เกี่ยวกับสิ่งที่อาจมีความหมายต่ออนาคตของมนุษยชาติ
ที่น่าสนใจเช่นกัน: ประวัติความเป็นมาของ OpenAI: คืออะไรและสิ่งที่รออยู่ข้างหน้าสำหรับบริษัท
ปัญญาประดิษฐ์ทั่วไป (AGI) คืออะไร?
เพื่อทำความเข้าใจโฆษณาที่อยู่รอบโครงการ Q* (Q-Star) ก่อนอื่นเรามาลองทำความเข้าใจว่าแนวคิดของปัญญาประดิษฐ์ทั่วไป (AGI) คืออะไร แม้ว่าระบบปัญญาประดิษฐ์ในปัจจุบันจะเก่งในงานเฉพาะเจาะจง เช่น การเล่นหมากรุกหรือการสร้างภาพ แต่ปัญญาประดิษฐ์ทั่วไปหมายถึงเครื่องจักรที่สามารถเรียนรู้และคิดในระดับมนุษย์ในหลายโดเมน คือสามารถเรียนได้เหมือนเด็กเล็กในโรงเรียน เช่น พื้นฐานคณิตศาสตร์ เคมี ชีววิทยา เป็นต้น
ปัญญาประดิษฐ์ทั่วไป (AGI) คือปัญญาประดิษฐ์ประเภทหนึ่งของเครื่องจักรที่สามารถเลียนแบบสติปัญญาหรือพฤติกรรมของมนุษย์ในเชิงสมมุติฐาน โดยมีความสามารถในการเรียนรู้และใช้ศักยภาพนั้นในการแก้ปัญหาต่างๆ AGI เรียกอีกอย่างว่าปัญญาประดิษฐ์ที่แข็งแกร่ง ปัญญาประดิษฐ์เต็มรูปแบบ หรือปัญญาประดิษฐ์ระดับมนุษย์ ปัญญาประดิษฐ์ทั่วไปแตกต่างจาก AI ที่อ่อนแอหรือแคบ ซึ่งสามารถทำงานเฉพาะหรือเฉพาะทางภายในพารามิเตอร์ที่กำหนดเท่านั้น ZHI จะสามารถแก้ไขปัญหาที่ซับซ้อนต่างๆ จากความรู้สาขาต่างๆ ได้อย่างอิสระ
การสร้างปัญญาประดิษฐ์เป็นจุดสนใจหลักของการวิจัยปัญญาประดิษฐ์โดยบริษัทต่างๆ เช่น DeepMind และ Anthropic CSI เป็นหัวข้อยอดนิยมในวรรณกรรมนิยายวิทยาศาสตร์และอาจกำหนดทิศทางการวิจัยในอนาคต บางคนแย้งว่ามีความเป็นไปได้ที่จะสร้าง UCI ภายในไม่กี่ปีหรือหลายทศวรรษ ในขณะที่บางคนแย้งว่าอาจต้องใช้เวลาหนึ่งศตวรรษหรือมากกว่านั้น แต่มีคนที่เชื่อว่าสิ่งนี้จะไม่มีวันบรรลุผลสำเร็จ บางคนเคยเห็นจุดเริ่มต้นของ URI ใน GPT-3 แล้ว แต่ดูเหมือนว่าจะยังห่างไกลจากเกณฑ์พื้นฐาน
นักวิจัยมองว่าการสร้างปัญญาประดิษฐ์ทั่วไป (AGI) ถือเป็นจอกศักดิ์สิทธิ์ของปัญญาประดิษฐ์ ซึ่งเป็นความเป็นไปได้ทางทฤษฎีที่ครอบงำจินตนาการของพวกเขามายาวนาน ดังนั้น การปรากฏตัวของโครงการเช่น OpenAI Project Q* ทำให้เกิดเสียงสะท้อนอย่างมากในโลกของการวิจัยอัลกอริทึมปัญญาประดิษฐ์ แม้ว่าทุกคนจะเข้าใจว่านี่เป็นเพียงก้าวแรกสู่โลกที่ปัญญาประดิษฐ์จะมีความสามารถเช่นเดียวกับมนุษย์หรือสูงกว่านั้นก็ตาม
ที่น่าสนใจเช่นกัน: ทุกๆอย่างเกี่ยวกับ Microsoft Copilot: อนาคตหรือทางที่ผิด?
โปรเจ็กต์ Q* คืออะไร
โปรเจ็กต์ Q* ไม่ใช่อัลกอริทึมทั่วไป เนื่องจากเป็นโมเดลปัญญาประดิษฐ์ที่กำลังเข้าใกล้โมเดลปัญญาประดิษฐ์ทั่วไป (AGI) มากขึ้น ซึ่งหมายความว่า Project Q* ต่างจาก ChatGPT ตรงที่จะแสดงทักษะการคิดและการรับรู้ที่ดีขึ้น เมื่อเทียบกับอัลกอริธึมอื่นๆ ปัจจุบัน ChatGPT ตอบคำถามตามเนื้อหาข้อเท็จจริงจำนวนมาก แต่ด้วย AGI โมเดล AI จะเรียนรู้การใช้เหตุผลและความสามารถในการคิดและเข้าใจด้วยตนเอง เป็นที่ทราบกันดีอยู่แล้วว่า Project Q* สามารถแก้ปัญหาทางคณิตศาสตร์ง่ายๆ ที่ไม่ได้เป็นส่วนหนึ่งของสื่อการฝึกอบรมได้ ในเรื่องนี้ นักวิจัยบางคนมองเห็นก้าวสำคัญสู่การสร้างปัญญาประดิษฐ์ทั่วไป (AGI) OpenAI ให้คำนิยาม AGI ว่าเป็นระบบปัญญาประดิษฐ์ที่ฉลาดกว่ามนุษย์
การพัฒนา Project Q* ได้รับการจัดการโดย Ilya Sutzkever หัวหน้านักวิทยาศาสตร์ของ OpenAI และพื้นฐานของโครงการได้รับการพิสูจน์โดยนักวิจัย Jakub Pakhotsky และ Shimon Sidor
ความสามารถของอัลกอริทึมในการแก้ปัญหาทางคณิตศาสตร์ได้ด้วยตัวเอง แม้ว่าปัญหาเหล่านี้จะไม่ได้เป็นส่วนหนึ่งของชุดข้อมูลการฝึกอบรม แต่ก็ถือเป็นความก้าวหน้าในด้านปัญญาประดิษฐ์ ความขัดแย้งในทีมเกี่ยวกับโครงการนี้เกี่ยวข้องกับการถอด Sam Altman CEO ของ OpenAI ชั่วคราว เป็นที่ทราบกันดีว่าก่อนที่อัลท์แมนจะถูกไล่ออก กลุ่มนักวิจัยของบริษัทได้ส่งจดหมายถึงคณะกรรมการบริหารเพื่อเตือนเกี่ยวกับการค้นพบ AI ที่อาจก่อให้เกิดภัยคุกคามต่อมนุษยชาติ จดหมายฉบับนั้นซึ่งมีรายงานว่ากล่าวถึงอัลกอริทึม Project Q* ถูกอ้างถึงว่าเป็นหนึ่งในปัจจัยที่นำไปสู่การไล่ออกของ Altman อย่างไรก็ตาม ความสามารถของโครงการ Q* และความเสี่ยงที่อาจเกิดขึ้นนั้นยังไม่เป็นที่เข้าใจอย่างถ่องแท้ เนื่องจากไม่ทราบรายละเอียด ไม่มีอะไรได้รับการเผยแพร่สู่สาธารณชนทั่วไป
โดยพื้นฐานแล้ว Project Q* เป็นวิธีการเรียนรู้แบบเสริมกำลังแบบไม่มีโมเดลที่แตกต่างจากโมเดลแบบดั้งเดิมโดยไม่จำเป็นต้องมีความรู้เกี่ยวกับสภาพแวดล้อมมาก่อน แต่จะเรียนรู้ผ่านประสบการณ์ ปรับการกระทำตามรางวัลและการลงโทษ ผู้เชี่ยวชาญด้านเทคนิคเชื่อว่า Project Q* จะสามารถได้รับความสามารถที่โดดเด่นโดยการได้รับความสามารถที่คล้ายกับความสามารถทางปัญญาของมนุษย์
อย่างไรก็ตาม คุณลักษณะนี้น่าประทับใจที่สุดในปัญญาประดิษฐ์รุ่นใหม่ที่ทำให้นักวิจัยและนักวิจารณ์กังวล และเพิ่มความกลัวเกี่ยวกับการใช้เทคโนโลยีในโลกแห่งความเป็นจริงและความเสี่ยงที่เกี่ยวข้อง นักวิทยาศาสตร์และนักวิจัยกลัวอะไรมาก? ลองคิดดูสิ
ที่น่าสนใจเช่นกัน: วิธีอัปเดตอุปกรณ์ในบ้านของคุณให้รองรับ Wi-Fi 6
พวกเขากลัวสิ่งที่ไม่รู้
มนุษย์กลัวสิ่งที่ไม่รู้และไม่รู้มาโดยตลอด นี่คือแก่นแท้ของมนุษย์ ซึ่งเป็นลักษณะนิสัยและวิถีชีวิตของเรา
โลกแห่งเทคโนโลยีได้เรียนรู้เกี่ยวกับ Project Q* ในเดือนพฤศจิกายน 2023 หลังจาก Reuters รายงาน เกี่ยวกับจดหมายภายในที่เขียนโดยนักวิจัย OpenAI ที่เกี่ยวข้อง เนื้อหาของจดหมายมีความคลุมเครือ แต่มีรายงานว่ามีการวิเคราะห์ความสามารถของ Project Q* อย่างจริงจัง ดังที่ฉันได้กล่าวไว้ข้างต้น มีการคาดเดากันว่าจดหมายฉบับนี้เป็นสาเหตุของการลาออกของ Sam Altman
การค้นพบที่ระเบิดได้นี้ได้ก่อให้เกิดสมมติฐานต่างๆ มากมายเกี่ยวกับธรรมชาติของโครงการ Q* นักวิทยาศาสตร์แนะนำว่านี่อาจเป็นแบบจำลองภาษาธรรมชาติที่ปฏิวัติวงการสำหรับ AI นักประดิษฐ์อัลกอริธึมใหม่ที่จะสร้างอัลกอริธึมเหล่านี้สำหรับ AI รูปแบบอื่นหรือบางสิ่งที่แตกต่างไปจากเดิมอย่างสิ้นเชิงในสาขานี้
ความคิดเห็นที่ยั่วยุของ Altman เกี่ยวกับปัญญาประดิษฐ์ทั่วไปในฐานะ "พนักงานทั่วไป" ได้ทำให้เกิดความกังวลเกี่ยวกับความมั่นคงของงานและการขยายอิทธิพลของ AI อย่างไม่หยุดยั้ง อัลกอริธึมลึกลับนี้ถูกกำหนดให้เป็นเหตุการณ์สำคัญในการพัฒนาปัญญาประดิษฐ์ทั่วไป (AGI) อย่างไรก็ตาม ทุกคนเข้าใจดีว่าเหตุการณ์สำคัญนี้มีราคาแพง และตอนนี้มันไม่เกี่ยวกับเงินแล้ว ระดับทักษะการรับรู้ที่ได้รับจากโมเดล AI ใหม่นั้นมาพร้อมกับความไม่แน่นอน นักวิทยาศาสตร์ OpenAI สัญญาว่า AI จะมีความคิดระดับมนุษย์ และนั่นหมายความว่าเราไม่สามารถรู้หลายสิ่งหลายอย่างและคาดเดาผลที่ตามมาได้ และยิ่งไม่รู้ก็ยิ่งยากต่อการเตรียมตัวควบคุมหรือแก้ไข นั่นคืออัลกอริธึมใหม่สามารถปรับปรุงและพัฒนาตนเองได้ เราเคยเห็นสิ่งนี้ที่ไหนสักแห่ง...
ที่น่าสนใจเช่นกัน: Windows 12: ระบบปฏิบัติการใหม่จะเป็นอย่างไร
รายละเอียดที่น่าทึ่งเกี่ยวกับความสามารถของ Project Q*
เมื่อมีข้อมูลเพิ่มเติมเริ่มปรากฏ ทำให้นักวิจัยหลายคนตกใจ ข้อบ่งชี้เบื้องต้นคือ Project Q* มีความสามารถพิเศษด้านคณิตศาสตร์อย่างน่าทึ่ง แตกต่างจากเครื่องคิดเลขที่ทำการคำนวณทางกล Project Q* สามารถใช้ตรรกะและการให้เหตุผลในการแก้ปัญหาทางคณิตศาสตร์ที่ซับซ้อนได้ ความสามารถทางคณิตศาสตร์นี้ในการสรุปคำแนะนำในการพัฒนาสติปัญญาในวงกว้าง
การฝึกอบรม Project Q* แบบอัตโนมัติโดยไม่มีชุดข้อมูลเฉพาะที่ใช้ในการฝึกอบรม AI ทั่วไป จะเป็นก้าวสำคัญไปข้างหน้าเช่นกัน ยังไม่ทราบว่า Project Q* เชี่ยวชาญทักษะอื่นใดหรือไม่ แต่ความสามารถทางคณิตศาสตร์ของเขานั้นน่าทึ่งมากจนทำให้แม้แต่นักวิจัยที่มีประสบการณ์ยังสับสน
อ่าน: โครงการสมองมนุษย์: ความพยายามที่จะเลียนแบบสมองมนุษย์
เส้นทางสู่การครอบงำของ Project Q* คืออะไร?
เรื่องนี้มีทั้งสถานการณ์ในแง่ดีและแง่ร้าย ผู้มองโลกในแง่ดีจะกล่าวว่าโครงการ Q* อาจเป็นจุดประกายที่นำไปสู่ความก้าวหน้าทางเทคโนโลยี ในขณะที่ระบบพัฒนาตัวเองแบบวนซ้ำ ความฉลาดเหนือธรรมชาติของมันสามารถช่วยแก้ไขปัญหาที่สำคัญที่สุดบางประการของมนุษยชาติ ตั้งแต่การเปลี่ยนแปลงสภาพภูมิอากาศไปจนถึงการควบคุมโรค โปรเจ็กต์ Q* สามารถทำให้งานที่น่าเบื่อเป็นอัตโนมัติ และเพิ่มเวลาว่างให้กับกิจกรรมอื่นๆ
แม้ว่าจะมีตัวเลือกในแง่ร้ายอีกมากมาย บางครั้งมันก็ค่อนข้างสมเหตุสมผลและมีความหมายบางอย่าง
การสูญเสียงาน
การเปลี่ยนแปลงอย่างรวดเร็วในการพัฒนาเทคโนโลยีสามารถแซงหน้าการปรับตัวของแต่ละคนได้ สิ่งนี้จะนำไปสู่การสูญเสียคนรุ่นหนึ่งหรือหลายรุ่นที่ไม่สามารถได้รับทักษะหรือความรู้ที่จำเป็นในการปรับตัวให้เข้ากับความเป็นจริงใหม่ ในทางกลับกัน นั่นหมายความว่ามีคนน้อยลงที่จะสามารถรักษางานของตนไว้ได้ โดยจะดำเนินการแทนด้วยเครื่องจักร ระบบอัตโนมัติ และหุ่นยนต์ อย่างไรก็ตาม คำตอบนั้นไม่ได้ชัดเจนนักเมื่อพูดถึงผู้เชี่ยวชาญที่มีคุณสมบัติเหมาะสม นอกจากนี้ อาจมีอาชีพใหม่ที่เกี่ยวข้องกับการพัฒนาอัลกอริธึมปัญญาประดิษฐ์โดยเฉพาะ แต่ก็ยังมีความเสี่ยงอยู่ และมนุษยชาติไม่มีสิทธิ์ที่จะเพิกเฉยต่อสิ่งเหล่านี้
อันตรายจากอำนาจที่ไม่สามารถควบคุมได้
หาก AI ที่ทรงพลังอย่าง Project Q* ตกไปอยู่ในมือของผู้ที่มีเจตนาชั่วร้าย ก็จะเสี่ยงต่อผลที่ตามมาที่เป็นหายนะต่อมนุษยชาติ แม้ว่าจะไม่มีเจตนาร้าย แต่ระดับการตัดสินใจของโครงการ Q* สามารถนำไปสู่ผลลัพธ์ที่เป็นอันตรายได้ โดยเน้นย้ำความสำคัญที่สำคัญของการประเมินการใช้งานอย่างรอบคอบ
หาก Project Q* ได้รับการปรับให้เหมาะกับความต้องการของมนุษย์ได้ไม่ดี อาจก่อให้เกิดอันตรายกับความสามารถในการเพิ่มตัววัดตามอำเภอใจบางส่วนได้ หรืออาจมีมิติทางการเมือง เช่น ถูกใช้เพื่อการสอดแนมหรือปราบปรามของรัฐ การถกเถียงอย่างเปิดเผยเกี่ยวกับการวิเคราะห์ผลกระทบของโครงการ Q* จะช่วยกำหนดสถานการณ์ที่เป็นไปได้สำหรับการพัฒนา ZHI
เราอยู่ในการประลอง "Man vs. Machine" หรือไม่?
ฮอลลีวูดได้สร้างสถานการณ์การเผชิญหน้าเช่นนี้ในภาพยนตร์หลายเรื่องแล้ว เราทุกคนจำ SkyNet อันโด่งดังและผลที่ตามมาของการค้นพบดังกล่าวได้ บางทีนักวิจัย OpenAI ควรดูภาพยนตร์เรื่องนี้อีกครั้ง
มนุษยชาติจำเป็นต้องยอมรับสัญญาณและความท้าทาย และเตรียมพร้อมสำหรับสิ่งที่อาจเกิดขึ้น สักวันหนึ่งโมเดลปัญญาประดิษฐ์ที่สามารถคิดได้เหมือนมนุษย์อาจกลายเป็นศัตรูของเราได้ หลายคนอาจแย้งว่าในอนาคตนักวิทยาศาสตร์จะรู้วิธีควบคุมสถานการณ์อย่างแน่ชัด แต่เมื่อพูดถึงเครื่องจักร คุณไม่สามารถปฏิเสธความเป็นไปได้ที่พวกมันจะพยายามเข้ายึดครองมนุษย์ได้อย่างสมบูรณ์
ที่น่าสนใจเช่นกัน: ไม่ใช่ทุกสิ่งที่เราเรียกว่า AI ที่จริงเป็นปัญญาประดิษฐ์ นี่คือสิ่งที่คุณต้องรู้
ทำไม OpenAI ถึงเงียบ?
แม้ว่า Project Q* จะได้รับความสนใจจากสาธารณะอย่างมาก แต่ฝ่ายบริหารของ OpenAI ก็ยังคงเงียบเกี่ยวกับข้อมูลเฉพาะของอัลกอริทึม แต่การรั่วไหลภายในแสดงให้เห็นถึงความตึงเครียดที่เพิ่มขึ้นในห้องแล็บเหนือลำดับความสำคัญและความเปิดกว้างของการพัฒนา แม้ว่าคนวงในของ OpenAI จำนวนมากจะสนับสนุนการสร้าง Project Q* แต่นักวิจารณ์ก็แย้งว่าความโปร่งใสได้เข้ามาแทนที่การเร่งความก้าวหน้าทางวิทยาศาสตร์ไม่ว่าจะต้องแลกมาด้วยอะไรก็ตาม และนักวิจัยบางคนกังวลว่าระบบที่เป้าหมายไม่จำเป็นต้องสอดคล้องกับค่านิยมและจริยธรรมของมนุษย์จะมอบพลังอันเหลือเชื่อให้กับระบบ นักวิจัยเหล่านี้เชื่อว่าข้อถกเถียงเกี่ยวกับการกำกับดูแลและความรับผิดชอบได้เงียบลงอย่างเป็นอันตราย พวกเขาต้องการการประชาสัมพันธ์และรายละเอียดเพิ่มเติม
ในฐานะผู้สร้าง Project Q* OpenAI ต้องเข้าใจว่าพวกเขามีเทคโนโลยีที่สามารถขยายความเป็นไปได้ในการพัฒนาสังคมได้อย่างมาก หรือทำลายมันอย่างไร้ความปรานี นวัตกรรมที่สำคัญดังกล่าวสมควรได้รับความโปร่งใสมากขึ้นเพื่อสร้างความไว้วางใจจากสาธารณะ ผู้พยากรณ์โรคในยุคเครื่องจักรจะต้องชั่งน้ำหนักความเสี่ยงควบคู่ไปกับผลประโยชน์อย่างรอบคอบ และผู้พัฒนา Project Q* จำเป็นต้องแสดงสติปัญญาและความเอาใจใส่ที่เพียงพอเพื่อนำสังคมเข้าสู่ยุคใหม่ของปัญญาประดิษฐ์ทั่วไปที่อาจมาเร็วกว่าที่เราคิดได้อย่างปลอดภัย
เพื่อให้ปัญญาประดิษฐ์ทั่วไปมีประโยชน์และปลอดภัยต่อมนุษยชาติต้องมั่นใจว่าทำงานได้อย่างปลอดภัย มีจริยธรรม และสอดคล้องกับค่านิยมและเป้าหมายของมนุษยชาติ สิ่งนี้จำเป็นต้องมีการพัฒนาและการดำเนินการตามกฎหมาย มาตรฐาน กฎเกณฑ์ และระเบียบปฏิบัติที่เหมาะสม ซึ่งจะควบคุมและยับยั้งการกระทำและพฤติกรรมของ CSI นอกจากนี้ ภัยคุกคามและความเสี่ยงที่อาจเกิดขึ้นที่เกี่ยวข้องกับการละเมิด อุบัติเหตุ ความไม่เข้ากัน การจัดการ และความขัดแย้งที่อาจนำไปสู่การทำลายล้างของมนุษยชาติจะต้องถูกกำจัด ขณะเดียวกันนักลงทุนและ Microsoft รอคอยอย่างใจจดใจจ่อสำหรับผลิตภัณฑ์ที่วางขายในตลาดที่สามารถสร้างผลกำไรซึ่งขัดแย้งกับความจำเป็นในการดำเนินการอย่างมีความรับผิดชอบอย่างไม่ต้องสงสัย หวังว่าสามัญสำนึกจะมีชัย
อ่าน: