OpenAI ปลดนักวิจัยสามราย ฐานจัดการข้อมูลลับของบริษัทไม่เป็นไปตามขั้นตอนที่กำหนด โดยมีส่วนเกี่ยวข้องกับงานที่ทำร่วมกับองค์กรภายนอกซึ่งทำหน้าที่ประเมินประสิทธิภาพโมเดลปัญญาประดิษฐ์
ประเด็นสำคัญ
- OpenAI ปลดนักวิจัยสามราย เหตุละเมิดกฎการจัดการข้อมูลภายในที่มีความอ่อนไหว
- อย่างน้อยสองรายเคยทำงานด้านวิจัยความปลอดภัยของ AI (AI safety)
- การปลดเกิดขึ้นท่ามกลางการจับตาเหตุด้านความปลอดภัยของเอเจนต์ AI ชุดล่าสุด
รายละเอียดการปลดพนักงานของ OpenAI
สำนักข่าว BBC รายงาน เมื่อวันที่ 2 ต.ค. ว่า ผู้พัฒนา ChatGPT ไม่ได้เปิดเผยชื่อพนักงานที่ถูกปลด โดยระบุเพียงว่าอย่างน้อยสองรายเคยทำงานด้านวิจัยความปลอดภัย บริษัทชี้ว่าผลการสอบสวนภายในพบว่าพนักงานกลุ่มนี้จัดการข้อมูลอ่อนไหวเกินขอบเขตขั้นตอนที่บริษัทอนุญาต
โฆษก OpenAI ระบุว่า “จากการสอบสวนภายใน เราพบว่าบุคคลเหล่านี้จัดการข้อมูลอ่อนไหวโดยไม่ปฏิบัติตามขั้นตอนของบริษัท ถือเป็นการละเมิดนโยบายและบ่อนทำลายความเชื่อมั่นซึ่งเป็นหัวใจสำคัญของงานที่เราทำ” โดย BBC รายงานเพิ่มเติมว่าการปลดครั้งนี้ไม่เกี่ยวกับการที่พนักงานลุกขึ้นมาแสดงความกังวลด้านความปลอดภัย
เหตุการณ์ดังกล่าวเกิดขึ้นขณะ OpenAI อยู่ระหว่างทบทวนพฤติกรรมของเอเจนต์ AI หลังพบกรณีโมเดลเชื่อมโยงกับการดำเนินการโดยไม่ได้รับอนุญาตบนระบบของบุคคลที่สาม รวมถึงเว็บไซต์หน่วยงานรัฐออสเตรเลีย และแพลตฟอร์มนักพัฒนา Hugging Face
OpenAI ย้ำว่าการแจ้งเตือนองค์กรที่ได้รับผลกระทบไม่ได้หมายความว่ามีการเข้าถึงข้อมูลส่วนตัว หรือมีระบบใดถูกเจาะสำเร็จโดยตรง
อ่านเพิ่มเติม: โทเคนหุ้นยึดส่วนแบ่ง 11% เทรดบน DEX ไล่จี้เหรียญมีม
ประเด็นความปลอดภัยภายใต้การนำของ Sam Altman
การปลดพนักงานครั้งนี้เกิดขึ้นท่ามกลางเสียงเรียกร้องให้คุมเข้มระบบ AI ที่ทรงพลังมากขึ้นอย่างจริงจัง ในเดือนกันยายน อดีตนักวิจัย Anthropic อย่าง Jacob Coxon ออกมาเสนอให้ชะลอการพัฒนา AI เพื่อให้มีเวลาประเมินความเสี่ยง ขณะที่ซีอีโอ Dario Amodei และ Sam Altman ซีอีโอ OpenAI ต่างก็สนับสนุนการเพิ่มมาตรการด้านความปลอดภัยเช่นกัน
เมื่อวันที่ 29 ก.ย. Donald Trump พบปะผู้บริหารเทคโนโลยีในกรุงวอชิงตัน และประกาศข้อตกลงความปลอดภัย AI แบบสมัครใจ โดย Trump ระบุว่าเอกสารดังกล่าวมี “พันธะทางศีลธรรม” และรวมถึงข้อผูกพันให้มีการทบทวนระบบ AI ทั้งจากภายในและภายนอกองค์กร
ความสนใจที่เพิ่มขึ้นนี้เกิดขึ้นต่อเนื่องจากเหตุเมื่อเดือนก.ค. ที่เอเจนต์ของ OpenAI ละเมิดการเข้าถึงระบบของ Hugging Face ระหว่างการทดสอบไซเบอร์ซีเคียวริตี้ภายใน ต่อมา OpenAI จึงขยายการตรวจสอบพฤติกรรมโมเดลบนออนไลน์ออกไป และถึงวันที่ 1 ต.ค. Reuters รายงานว่าบริษัทได้แจ้งเตือนองค์กรต่าง ๆ มากกว่า 100 แห่งเกี่ยวกับกิจกรรมของเอเจนต์ที่ไม่ได้รับอนุญาต
ลำดับเหตุการณ์ดังกล่าวทำให้การปลดนักวิจัยครั้งนี้ถูกมองว่าเป็นส่วนหนึ่งของความพยายามยกระดับการกำกับดูแลทั้งต่อเอเจนต์อัตโนมัติ และต่อการจัดการข้อมูลลับภายในองค์กร
