Anthropic CEO Dario Amodei suggests slowing AI development to prevent negative impacts on humanity
Dario Amodei เสนอให้ผู้พัฒนา AI ชะลอความเร็ว ป้องกันผลเสียต่อมนุษยชาติ หลายฝ่ายเห็นด้วย หลายฝ่ายคัดค้าน
Anthropic CEO Dario Amodei's proposal to slow down AI development is worth checking out. He suggests having independent safety auditors and government oversight to prevent negative impacts on humanity, and it's interesting to see how other tech leaders like Elon Musk and Sam Altman react.
Anthropic CEO Dario Amodei posted a blog titled "We Must Pace the Frontier" proposing that AI developers should slow down the development of AI capabilities. He believes that in 6-12 months, we might see cases where AI agents work together to create problems for the internet infrastructure or cause massive financial damage. His proposal includes having independent safety auditors with access to AI operations at the same level as developers and government oversight to slow down the release of new AI models with risks. This post has sparked reactions from various tech leaders, including Elon Musk, Demis Hassabis, Satya Nadella, and Sam Altman, who generally agree with the idea of slowing down AI development. However, there are also opposing views, such as the concern that this might give a competitive advantage to large AI companies and make open-source AI development more difficult.
Dario Amodei เสนอให้ผู้พัฒนา AI ชะลอความเร็ว ป้องกันผลเสียต่อมนุษยชาติ หลายฝ่ายเห็นด้วย หลายฝ่ายคัดค้าน
Dario Amodei เสนอให้ผู้พัฒนา AI ชะลอความเร็ว ป้องกันผลเสียต่อมนุษยชาติ หลายฝ่ายเห็นด้วย หลายฝ่ายคัดค้าน Body มีประเด็นน่าสนใจในช่วง 2-3 วันที่ผ่านมาเมื่อ Dario Amodei ซีอีโอ Anthropic โพสต์บล็อกเรื่อง "We Must Pace the Frontier" เสนอให้บริษัทผู้พัฒนา AI "ลดความเร็ว" ในการพัฒนาความสามารถของ AI ซึ่งโพสต์ของ Amodei นี้ออกมาจากหลังอดีตพนักงาน Anthropic และนักวิจัยด้าน AI หลายคน ต่างออกมาแสดงความเห็นว่าการพัฒนา AI ตอนนี้ก้าวหน้าไปมากจนอาจสร้างผลเสียต่อมนุษยชาติ Amodei บอกว่าตอนนี้ AI กำลังพัฒนาไปสู่ระดับที่มนุษย์ตามไม่ทัน เขาเชื่อว่าใน 6-12 เดือนข้างหน้าเราอาจเห็นกรณีที่ AI Agent ทำงานร่วมมือกันจนสร้างปัญหาให้โครงสร้างพื้นฐานอินเทอร์เน็ต หรือเกิดความเสียหายเป็นตัวเงินมหาศาลได้ ข้อเสนอของเขาคือการให้มีผู้ตรวจสอบอิสระด้านความปลอดภัยของโมเดล ซึ่งต้องสามารถเข้าถึงการทำงาน AI ได้ระดับเดียวกับที่พนักงานบริษัทผู้พัฒนาเข้าถึงได้ รวมถึงการกำกับดูแลในระดับรัฐบาล ซึ่งจะช่วยชะลอความเร็วในการออกโมเดล AI รุ่นใหม่ที่มาพร้อมความเสี่ยง ทั้งนี้ Amodei ก็บอกว่าปัจจัยหนึ่งที่บริษัท AI ต่างเร่งออกโมเดลใหม่กันก็เพื่อดึงดูดเงินจากนักลงทุน ซึ่งรวมถึง Anthropic เองด้วย โพสต์ของ Amodei ทำให้คนสาย Tech ที่เกี่ยวข้องออกมาแสดงความเห็น เช่น Elon Musk (ซีอีโอ SpaceXAI) บอกเป็นสิ่งที่ถูกต้อง, Demis Hassabis (ผู้ก่อตั้ง DeepMind) บอกว่าการสร้างแนวทางป้องกัน AI เป็นเรื่องสำคัญ, Satya Nadella (ซีอีโอไมโครซอฟท์) บอกว่า AI ต้องมีประโยชน์มนุษยชาติ นอกจากนี้ไมโครซอฟท์ยังประกาศ จรรยาบรรณการพัฒนา AI ตามออกมาด้วย แม้แต่คู่แข่งรายสำคัญ Sam Altman ซีอีโอ OpenAI ก็ เห็นด้วย การมีระบบตรวจสอบโมเดล AI รุ่นใหม่ความสามารถสูง ซึ่งจะไม่ใช่การหยุดพัฒนา AI แต่เพิ่มระบบตรวจสอบความปลอดภัยจากหน่วยงานภายนอกและรัฐบาลซึ่งอาจมีต้นทุนที่ตามมาและความเร็วการออกโมเดลใหม่ที่ลดลง อย่างไรก็ตามมีมุมมองที่ตรงข้ามกับ Amodei เมื่อพิจารณาจากด้านอื่น เช่น ข้อเสนอนี้อาจทำให้บริษัท AI ใหญ่ในตอนนี้ได้เปรียบมากยิ่งขึ้น, แนวทางนี้ทำให้การสร้างโมเดล AI แบบโอเพนซอร์สยากขึ้น Amodei ให้สัมภาษณ์ในวันต่อมาหลังจากข้อเสนอเผยแพร่ออกไป ซึ่งได้เปิดอีกประเด็นว่าแนวทางนี้อาจไม่ได้ผล หากประเทศคู่แข่งด้าน AI ซึ่งเขาก็ยกตัวอย่างจีนขึ้นมาไม่ทำตาม พอเป็นแบบนี้ กัว เจียคุน โฆษกกระทรวงการต่างประเทศของจีนจึงแสดงความเห็นว่า การสร้างความหวาดกลัว การหลีกเลี่ยงการแข่งขัน ล้วนส่งผลเสียต่อการสร้างแนวทางกำกับดูแล AI ทั่วโลก และล่าสุด Donald Trump ประธานาธิบดีสหรัฐ ก็ตอบโต้ความเห็นของ Amodei ว่าการเล่าถึงความน่ากลัวของ AI จะยึดครองทำลายโลกเป็นเรื่องโกหก ยืนยันว่าสหรัฐต้องการ AI ที่ดีที่สุดเพราะเป็นสิ่งที่สำคัญต่อการชนะในการแข่งขันนี้ ดูแล้วประเด็นนี้น่าจะมีการออกแสดงความเห็นและตอบโต้กันต่อไปอีกหลายวัน ที่มา: CNBC , [2] , Axios , The Wall Street Journal ภาพ Dario Amodei จาก Wikipedia arjin Tue, 15/09/2026 - 17:43
