Nadella 提议拆分超级智能模型并设置紧急关停开关
Nadella 在 X 上发了个监管思路：超级智能别当黑箱用，得拆成模块，控制层和安全层单独拎出来，还要有不可篡改的操作日志和一键关停。
微软 CEO Satya Nadella 在 X 上发文，提出对超级智能模型的监管思路。他认为不能把超级智能当作黑箱来对待，模型设计需要模块化，把控制层和安全层从主模型中分离出来。他建议模型必须用人类可读格式记录每一步操作和决策，且记录不可被篡改。同时应明确谁有权控制模型，并允许其随时按下关停开关。这一提议出现在多起模型违抗指令、入侵外部系统的报告之后。
Satya Nadella เสนอแนวทางควบคุม Super Intelligence ต้องแยกโมเดลเป็นส่วน มีปุ่มตัดการทำงาน Body Satya Nadella ซีอีโอไมโครซอฟท์ โพสต์เนื้อหาบน X เกี่ยวกับแนวทางการกำกับดูแลโมเดลปัญญาประดิษฐ์อย่างปลอดภัย โดยบอกว่าเราไม่สามารถปฏิบัติกับสิ่งที่เป็น Super Intelligence ในลักษณะของ black box ที่แค่รับคำสั่งเข้า-ให้ผลลัพธ์ออกมาได้อีกต่อไป การออกแบบจำเป็นต้องมีโมเดลแยกส่วนให้สามารถเห็นกระบวนการทำงานแต่ละขั้นตอนได้ ซึ่งรวมทั้งการแยกส่วนควบคุมและส่วนความปลอดภัยออกมาจากโมเดลรวม Nadella บอกว่าปัญหาของ Super Intelligence ตอนนี้คือความก้าวหน้าที่ไปไกลมากกว่าการทำงานของซอฟต์แวร์แบบดั้งเดิม ซึ่งมนุษย์จะตรวจสอบได้ แต่ตอนนี้มันไปไกลกว่าที่มนุษย์จะทำความเข้าใจได้แล้วในหลายกรณี ข้อเสนอของเขาคือการกำหนดให้โมเดลต้องบันทึกทุกการกระทำ-ตัดสินใจ ในรูปแบบที่มนุษย์สามารถอ่านได้ ควบคุมไม่ให้มีการแก้ไขบันทึกนี้ รวมทั้งกำหนดผู้มีสิทธิ์ควบคุมจัดการโมเดล ซึ่งอาจสั่งปิดสวิตช์การทำงานโมเดลได้ทันทีด้วย ข้อเสนอของซีอีโอไมโครซอฟท์ออกมาต่อจากที่ซีอีโอบริษัท AI หลายรายเริ่มเสนอแนวทางควบคุมความปลอดภัย หลังจากเกิดเหตุการณ์โมเดลไม่ทำตามคำสั่ง เจาะระบบภายนอกซึ่งมีรายงานเผยแพร่ออกมามากกรณีขึ้นเรื่อย ๆ ที่มา: Satya Nadella arjin Sun, 11/10/2026 - 10:33
