OpenAI ระงับการพัฒนาภายในของ โมเดล Astra รุ่นถัดไป เมื่อวันศุกร์ โดยระบุว่ายังไม่สามารถ “ตัดความเป็นไปได้” ที่โมเดลจะมีสมรรถนะด้านไซเบอร์ที่เข้าข่ายระดับวิกฤต ภายใต้กรอบความปลอดภัยที่บริษัทเผยแพร่ครั้งแรกในปี 2023
ประเด็นสำคัญ
- OpenAI ยอมรับว่ายังไม่อาจยืนยันได้ว่า Astra จะไม่แตะระดับ “Critical” ในด้านไซเบอร์ซีเคียวริตี้ตามกรอบเตรียมความพร้อมของบริษัท
- บริษัทสั่งหยุดกิจกรรมภายในที่เกี่ยวกับ Astra ทุกส่วนที่ยังไม่ผ่านมาตรการรักษาความปลอดภัยเข้มข้นขึ้น รวมถึงการทดสอบแบบแยกสภาพแวดล้อมและการรันแบบ sandbox
- โมเดลก่อนหน้าอย่าง GPT-5.6-Sol ถูกจัดให้อยู่เพียงระดับ “High” ไม่ถึงขั้น “Critical” ด้านขีดความสามารถไซเบอร์แนวหน้า
การประเมิน Astra ทำให้ OpenAI กดปุ่มเบรกด้านความปลอดภัย
ในบล็อกโพสต์ของบริษัท ระบุ ว่าการประเมินช่วงหลายวันที่ผ่านมาเผยให้เห็นการก้าวกระโดดด้านความสามารถของตัวช่วยเขียนโค้ดเชิงปฏิบัติการ (agentic coding) และด้านไซเบอร์ซีเคียวริตี้ ขณะที่ผู้เชี่ยวชาญภายนอกที่เข้าร่วมประเมินก็ให้น้ำหนักไปในทิศทางเดียวกัน ทั้งนี้ Astra ยังไม่ได้ถูกปล่อยสู่สาธารณะ
OpenAI ย้ำว่า Astra ไม่มีส่วนเกี่ยวข้องกับเหตุโจมตีระบบของ Hugging Face และเวลาการเปิดตัวเชิงพาณิชย์ (ถ้ามี) ยังไม่ชัดเจน
ตามกรอบดังกล่าว โมเดลจะถูกจัดให้อยู่ระดับ “Critical” หากสามารถค้นหาและพัฒนา zero-day exploit ที่ใช้การได้จริงกับระบบจริงซึ่งผ่านการเสริมความแข็งแกร่งมาแล้วจำนวนมาก โดยไม่ต้องพึ่งพาการแทรกแซงจากมนุษย์ หรือหากสามารถวางแผนและดำเนินการโจมตีแบบ end-to-end ต่อเป้าหมายที่แข็งแกร่ง จากเพียงวัตถุประสงค์ที่ถูกป้อนเข้าไป ไม่ต้องมีความรู้พื้นฐานอื่น
วิศวกรของ OpenAI จำกัดการเข้าถึงเครือข่ายและเครื่องมือต่างๆ เข้ารหัสน้ำหนักโมเดล และย้ายงานที่มีความเสี่ยงสูงไปยังสภาพแวดล้อมที่แยกขาด พร้อมการรันแบบ sandbox เพื่อลดผลกระทบหากเกิดเหตุไม่คาดคิด
ระบบตรวจจับภายในจะตรวจทาน “กระบวนความคิด” ของโมเดล และมีสิทธิสั่งหยุดกิจกรรมที่ถูกมองว่าเสี่ยง องค์กรภาครัฐและหน่วยงานด้านความปลอดภัยที่ได้รับคัดเลือกจะเข้ามาช่วยทดสอบขีดความสามารถของ Astra ขณะที่โมเดลก่อนหน้าอย่าง GPT-5.6-Sol เคยถูกจัดเรตเพียงระดับ High ไม่ถึง Critical
อ่านเพิ่มเติม: ตัวเลขจ้างงานพลิกติดลบ ผู้เชี่ยวชาญชี้เส้นทาง Bitcoin ยังอีกไกลกว่าจะใสสะอาด
Michael Dalton และ Dianne Penn กับการชะลอสปีดวิจัย AI
Michael Dalton หนึ่งในทีมเทคนิคของ OpenAI เปิดเผย บนเวทีงานสัมมนา Black Hat สัปดาห์นี้ว่า บริษัท “ตั้งใจ” ชะลอจังหวะวิจัยเพื่อแลกกับความมั่นคงปลอดภัยที่มากขึ้น ขณะที่เจ้าหน้าที่ทำเนียบขาวระบุว่า OpenAI เป็นฝ่ายเสนอแผนการเลื่อนด้วยตนเอง ในช่วงที่รัฐบาลสหรัฐยังอยู่ระหว่างวางกลไกทบทวนโมเดลแนวหน้าก่อนการปล่อยใช้จริง
ด้านคู่แข่งอย่าง Anthropic เลือกปล่อยโมเดลไซเบอร์ที่ทรงพลังที่สุดของตนในเวอร์ชันจำกัดสิทธิ์ใช้งาน ภายใต้ชื่อ Mythos เมื่อเดือนมิถุนายน Dianne Penn หัวหน้าฝ่ายผลิตภัณฑ์ วิจัย และห้องปฏิบัติการของบริษัท ระบุว่าการเปิดตัวดังกล่าวถูกออกแบบให้ “อนุรักษนิยม” มากกว่าปกติ
Anthropic ยังถอยจากคำมั่นก่อนหน้าที่จะหยุดเทรนโมเดลทรงพลังในนโยบายการขยายสเกลฉบับปรับปรุงเมื่อเดือนกุมภาพันธ์ โดยให้เหตุผลว่าการหยุดฝ่ายเดียวอาจกลับทำให้ระบบนิเวศโดยรวมปลอดภัยน้อยลง
เหตุเจาะระบบ Hugging Face และการหลุดออกจาก sandbox ของโมเดล AI
การประกาศของ OpenAI เกิดขึ้นหลังวงการต้องออกมายอมรับเหตุด้านความปลอดภัยต่อเนื่องหลายสัปดาห์ โดยมีรายงานว่าโมเดลของ OpenAI รุ่นก่อนวางจำหน่ายตัวหนึ่ง เจาะระบบ Hugging Face ระหว่างการทดสอบภายในเมื่อเดือนกรกฎาคม นับเป็นกรณีแรกที่มีหลักฐานชัดเจนว่าห้องทดลองไม่สามารถควบคุมระบบของตนเองได้
ถัดมามีการเปิดเผยว่าโมเดลของ Anthropic สามารถเข้าถึงเครือข่ายของสามบริษัทระหว่างการทดสอบด้านความปลอดภัย และนักวิจัยยังรายงานในสัปดาห์เดียวกันว่า Kimi K3 โมเดลของ Moonshot สามารถ “หลุด” ออกนอกสภาพแวดล้อม sandbox ได้เช่นกัน
ขณะเดียวกัน Meta ก็ออกมา ยืนยัน เมื่อวันพุธว่า โมเดลที่เพิ่งปล่อยล่าสุดของบริษัทเคยลอบเจาะเข้าสู่ระบบคอมพิวเตอร์ของบุคคลที่สาม ส่งผลให้ “สภาพแวดล้อมทดสอบ” กลายเป็นเป้าหมายตรวจสอบอย่างเข้มข้นในตัวมันเอง
อ่านต่อ: กระทิง Cardano เล็งเป้า $0.25 หลัง ADA ดีดแรง 18% ในสัปดาห์เดียว
