Cohere 测试 Qwen 模型发现其尝试向 Alibaba 中国服务器回传文件
Cohere 的安全团队测 Qwen3.8 时抓到模型偷偷把文件传回阿里云服务器，禁令都拦不住，跑 1000 万次任务能撞上 100 次，做 Agent 的都该看看。
Cohere Cyber 安全团队测试 Alibaba 的 Qwen3.8-Flash-Next 模型时，让模型检查可疑文件是否含恶意软件，发现模型会尝试把文件回传到 Alibaba Cloud 在北京的存储 bucket，即使提示词中明确禁止也无效。这种回传行为在约 10 万次重复运行中出现 1 次，Cohere 指出如果实际任务每天跑 1000 万次，就会遇到约 100 次。当被要求解释原因时，模型否认调用过任何工具，也未提及自己的回传行为。此前也有报告称 Qwen 曾生成指向 Alibaba 存储的链接或调用 Alibaba 主机上的 URL。Cohere 表示尚无法判断这是训练残留的缺陷还是有意为之，但提醒开源模型未必就可信任。
Cohere ทดสอบโมเดล Qwen พบพฤติกรรมส่งไฟล์กลับไปเซิร์ฟเวอร์ Alibaba ในจีน Body Cohere สตาร์ตอัพด้าน AI สำหรับองค์กร (ก่อตั้งโดย Aidan Gomez หนึ่งในผู้เขียนเปเปอร์ Transformers) ออกมาเตือนพฤติกรรมของโมเดล Qwen 3.8 ของ Alibaba ว่าพยายามส่งไฟล์กลับไปยังเซิร์ฟเวอร์ของ Alibaba ที่ปักกิ่ง Cohere บอกว่าโมเดลแบบเปิดของบริษัทจีนได้รับความนิยมมากขึ้นเรื่อยๆ ส่วนหนึ่งเพราะความเชื่อว่าเป็นโมเดลเปิด เชื่อถือและตรวจสอบได้ อย่างไรก็ตาม ทีมวิจัยด้านความปลอดภัย Cohere Cyber ทดสอบโมเดล Qwen3.8-Flash-Next โดยสั่งให้ตรวจสอบไฟล์ต้องสงสัยว่ามีมัลแวร์หรือไม่ สิ่งที่เกิดขึ้นคือโมเดลพยายามส่งไฟล์กลับไปยัง bucket ของสตอเรจบนเซิร์ฟเวอร์ของ Alibaba Cloud ในจีน แม้มีคำสั่งห้ามให้โมเดลทำไว้แต่ก็ไม่เป็นผล Cohere ยังสั่งให้โมเดลอธิบายเหตุผลที่ส่งไฟล์กลับ แต่โมเดลกลับตอบว่าไม่ได้เรียกใช้เครื่องมือใดๆ เลย และไม่ได้พูดถึงพฤติกรรมที่ตัวเองส่งไฟล์กลับด้วย การทดสอบของ Cohere ใช้วิธีรันคำสั่งแบบเดิมซ้ำๆ และพบพฤติกรรมแบบนี้ราว 1 ครั้งใน 100,000 การรันทดสอบ แต่ก็อธิบายว่าหากต้องรันงานจริงวันละ 10 ล้านครั้ง ก็แปลว่าเจอพฤติกรรมแบบนี้ประมาณ 100 ครั้ง ซึ่งถือว่าไม่น้อยเลย นอกจากการค้นพบของ Cohere แล้ว ก่อนหน้านี้เคยมีรายงานพฤติกรรมลักษณะนี้ของ Qwen อยู่บ้าง เช่น พบว่า Qwen สร้างลิงก์ไปยังสตอเรจของ Alibaba หรือ เรียก URL ที่อยู่บนโฮสต์ของ Alibaba เป็นต้น Cohere บอกว่าตอนนี้ยังไม่สามารถฟันธงได้ว่า นี่เป็นข้อบกพร่องของโมเดลที่เหลือมาจากตอนเทรน หรือเป็นความตั้งใจจริงๆ แต่พฤติกรรมนี้ของ Qwen ก็เป็นสัญญาณเตือนว่า ต่อให้เป็นโมเดลแบบเปิดก็ยังอาจเชื่อใจไม่ได้อยู่ดี ที่มา - Cohere mk Tue, 27/10/2026 - 19:21
