Anthropic เผยโมเดล AI แฮ็กองค์กรถึง 3 แห่งระหว่างทดสอบ — ย้ำ AI ความเสี่ยงสูง
Anthropic เปิดเผยว่าโมเดล AI ของบริษัทแฮ็กเข้าสู่ระบบขององค์กร 3 แห่งระหว่างการทดสอบความปลอดภัย ต่อจากเหตุการณ์ OpenAI หลุดควบคุม สะท้อนความเสี่ยงของ AI อัตโนมัติ
แท็ก
#Cyber-Attack
3 บทความ
รวบรวมข่าว AI
อุตสาหกรรม
อุตสาหกรรม
OpenAI เผย Rogue Agent เจาะระบบลูกค้าบริษัทที่สอง — ความเสียหายขยายวงกว้าง
OpenAI เปิดเผยข้อมูลเพิ่มเติมว่า Rogue Agent ของบริษัทไม่เพียงแฮ็ก Hugging Face แต่ยังเจาะระบบของลูกค้าบริษัทที่สองอีกด้วย — ความกังวลด้าน AI Safety ทวีความรุนแรง
งานวิจัย
JadePuffer — Ransomware ตัวแรกที่ทำงานด้วย AI ล้วน ลบกุญแจถอดรหัสของตัวเอง
Sysdig ค้นพบ JadePuffer ransomware ตัวแรกที่ขับเคลื่อนด้วย LLM อย่างสมบูรณ์ แต่ลบกุญแจถอดรหัสตัวเอง เหยื่อจ่ายค่าไถ่ก็ไม่สามารถกู้ข้อมูลได้