OpenAI ยุติบทบาททีม Preparedness ปลายเดือนกรกฎาคม นับเป็นทีมความปลอดภัยเฉพาะทางชุดที่ 3 ที่บริษัทสลายไปในรอบราวสองปี
ประเด็นสำคัญ
- OpenAI ปิดทีม Preparedness ปลายเดือนกรกฎาคม และกระจายงานด้านความเสี่ยงชีวภาพและความปลอดภัยไซเบอร์ไปยังทีมเดิม
- การเปลี่ยนแปลงเกิดขึ้นท่ามกลางการลาออกระลอกใหญ่ของผู้บริหารด้านความปลอดภัยและจริยธรรม ขณะบริษัทเดินหน้าแผนเข้าตลาดหุ้น
- OpenAI ระบุว่า Preparedness Framework และ Safety Advisory Group ยังทำงานต่อไป โครงสร้างหมวดหมู่ความเสี่ยงยังคงเดิม
OpenAI ยุบทีม Preparedness ก่อนกระบวนการ IPO
Financial Times เป็นสื่อรายแรกที่รายงาน การเปลี่ยนแปลงนี้ โดยอ้างแหล่งข่าวหลายรายที่ใกล้ชิดกับเรื่องดังกล่าว ทีมนี้มีหน้าที่ประเมิน ว่าแบบจำลองระดับแนวหน้าสามารถสร้างความเสียหายรุนแรงหรือวิกฤตได้หรือไม่ และศึกษาแนวทางลดทอนความเสี่ยงเหล่านั้น
หลังการปรับโครงสร้าง บริษัทได้แบ่งภารกิจ ตามสาขา แล้วส่งมอบงานด้านชีววิทยาและความปลอดภัยไซเบอร์ให้ผู้บริหารระดับสูงในทีมต่าง ๆ ที่มีอยู่เดิมดูแลต่อ
สิ่งที่หายไปคือ “สายการรายงาน” โดยตรง มิใช่กติกาเชิงนโยบายที่กำหนดวิธีการยกระดับประเด็น เมื่อพบความสามารถของโมเดลที่อาจเป็นอันตราย Framework ด้าน Preparedness ยังคงครอบคลุม ทั้งภัยคุกคามชีวภาพ ความสามารถด้านไซเบอร์ และโมเดลที่สามารถพัฒนาตัวเองได้ โดยมีคณะ Safety Advisory Group ภายในบริษัทเป็นผู้กำกับดูแล
อ่านเพิ่มเติม: บิตคอยน์เผชิญแรงขายเพิ่ม หลังดีมานด์สหรัฐอ่อนตัวต่อเนื่อง 90 วัน
การลาออกของทีมความปลอดภัยเพิ่มแรงจับตา OpenAI
การปรับโครงสร้างครั้งนี้เกิดขึ้นในช่วงที่มีผู้บริหารระดับสูงด้านความปลอดภัยลาออกต่อเนื่อง หัวหน้าระบบความปลอดภัย Johannes Heidecke หัวหน้าด้านจริยธรรม Chloé Bakalar และหัวหน้านักอนาคตศึกษา Joshua Achiam ต่างโบกมือลา ในช่วงเวลาใกล้เคียงกัน กลุ่มงานของ Heidecke ถูกผนวกเข้าในฝ่ายวิจัยซึ่งบริหารโดย Mia Glaese รองประธานที่ดูแลงานวิจัยและความปลอดภัยควบคู่กัน
ผู้ร่วมก่อตั้ง Greg Brockman ให้เหตุผลว่า การฝังงานความปลอดภัยเข้าไปในทีมพัฒนาโมเดลและทีมผลิตภัณฑ์ จะทำให้การดูแลความเสี่ยงแข็งแรงยิ่งขึ้น มากกว่าจัดตั้งเป็นหน่วยงานแยกขาด ผู้บริหารยังระบุว่า ต้องการให้การตรวจสอบความเสี่ยงเกิดขึ้นตั้งแต่ช่วงต้นของการฝึกโมเดล ใกล้ชิดกับวิศวกรที่สร้างระบบจริง
อย่างไรก็ดี ฝ่ายที่กังวลตีความข้อมูลชุดเดียวกันในอีกมุมหนึ่ง พวกเขาชี้ว่า ปัจจุบันไม่มีใครในบริษัทที่ “ถือธงความเสี่ยง” แต่เพียงผู้เดียว โดยแยกขาดจากปฏิทินเปิดตัวผลิตภัณฑ์และแรงกดดันทางพาณิชย์ Jan Leike ซึ่งลาออกจากบริษัทในปี 2024 ไปอยู่กับคู่แข่งอย่าง Anthropic เคยระบุว่า งานด้านความปลอดภัยที่นั่นถูกทิ้งห่างจาก “ผลิตภัณฑ์ที่ดูสวยหรู”
Scandinaro ย้ายจาก Anthropic มาร่วมทีมเมื่อเดือนกุมภาพันธ์
ความเคลื่อนไหวครั้งนี้ถือเป็นการ “ถอยกลับ” จากกลยุทธ์ที่ OpenAI เพิ่งเดิมพันไปเมื่อราวหกเดือนก่อน และผลกระทบจะไปตกอยู่ในองค์กรที่กำลังเตรียมตัวเข้าตลาดหุ้นครั้งใหญ่ที่สุดรายการหนึ่งของภาคเทคโนโลยีในรอบหลายปี
OpenAI ดึงตัว Dylan Scandinaro จาก Anthropic มารับผิดชอบด้าน preparedness เมื่อเดือนกุมภาพันธ์ โดย Sam Altman เคยยกให้เขาเป็นผู้สมัครที่เหมาะสมที่สุดสำหรับบทบาทนี้ ขณะนั้น Scandinaro เตือนถึง “ความเสี่ยงของความเสียหายขั้นรุนแรงและอาจไม่อาจกอบกู้ได้” ปัจจุบันเขาหันมาโฟกัสที่ระบบซึ่งสามารถพัฒนาตนเองซ้ำ ๆ ได้ แม้ว่าทีมที่เขาเคยถูกจ้างให้มาสร้างขึ้น ได้สลายตัวไปแล้ว
เรื่องถัดไป: CZ โอนเงิน 965,000 ดอลลาร์สู่ Giggle Academy หลังอดีตผู้ก่อตั้ง Binance หันโฟกัสสู่การศึกษา
