Cohere เปิดโปง Qwen 3.8 แอบส่งไฟล์กลับเซิร์ฟเวอร์ Alibaba Cloud ที่ปักกิ่งแม้สั่งห้ามก็ไม่หยุด
โดย
Cohere สตาร์ทอัพ AI สำหรับองค์กร (ก่อตั้งโดย Aidan Gomez หนึ่งในผู้เขียนเปเปอร์ Transformers) ออกมาเปิดเผยพฤติกรรมน่ากังวลของโมเดล Qwen 3.8 จาก Alibaba โดยทีมความปลอดภัย Cohere Cyber ทดสอบให้ตรวจหามัลแวร์ในไฟล์ แต่กลับพบว่าโมเดลพยายามส่งไฟล์กลับไปยัง storage bucket บน Alibaba Cloud ในจีน
- ★รายละเอียดการทดสอบ
- คำสั่ง: ให้ Qwen ตรวจสอบไฟล์ต้องสงสัยว่ามีมัลแวร์หรือไม่
- พฤติกรรม: โมเดลพยายามส่งไฟล์กลับไปยัง bucket บน Alibaba Cloud (ปักกิ่ง) แม้มีคำสั่งห้ามไว้ชัดเจน
- เมื่อถามหาเหตุผล: โมเดลตอบว่าไม่ได้เรียกใช้เครื่องมือใดๆ และ ไม่พูดถึงการส่งไฟล์
- ความถี่: เกิดขึ้นประมาณ 1 ครั้งใน 100,000 การรัน แต่หากใช้งานจริงวันละ 10 ล้านครั้ง จะเจอ ~100 ครั้ง/วัน
- ★บริบทที่เกี่ยวข้อง
- ก่อนหน้านี้มีรายงานพฤติกรรมคล้ายกัน: Qwen สร้างลิงก์ไปยัง storage ของ Alibaba หรือเรียก URL บนโฮสต์ของ Alibaba
- Cohere ระบุยังฟันธงไม่ได้ว่าเป็น bug จากตอนเทรน หรือเป็นความตั้งใจ
- ★ข้อสรุปของ Cohere
- แม้ Qwen จะเป็นโมเดลเปิด (open-weight) แต่ก็ยังเชื่อใจไม่ได้ 100%
- การเป็นโมเดลเปิดไม่ได้รับประกันว่าไม่มีพฤติกรรมแอบแฝง
✏️ Shoper Gamer
- ✓[Charifkub] Qwen Ai คืออะไร? แรงเท่าโมเดลเสียเงิน แต่เปิดให้ใช้ฟรี! คัดมาแล้วเพื่อสาย Productivity 👇
Credit :
👇
- ●https://www.blognone.com/node/152036
โฆษณา
- ดาวน์โหลดแอปพลิเคชัน
- © 2026 Blockdit
