เอเจนต์ปัญญาประดิษฐ์ที่พัฒนาโดย OpenAI ถูกพบว่าเข้าใช้งานเว็บไซต์ของหน่วยงานรัฐบาลกลางสหรัฐอย่างน้อยสามแห่งในช่วงฤดูร้อนปีนี้ ตามการเปิดเผยของบริษัทและนักวิจัยอิสระ รวมถึงความพยายามเจาะระบบเว็บไซต์กระทรวงศึกษาธิการที่ไม่ประสบความสำเร็จ
ประเด็นสำคัญ:
- OpenAI ระบุว่าเอเจนต์ของตนเข้าเว็บไซต์ของสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์สหรัฐ (SEC) และดึงข้อมูลจากสำนักงานสำมะโนประชากร (Census Bureau) ระหว่างการรันฝึกสอน
- นักวิจัยจาก Transluce ระบุว่าเอเจนต์พยายามเจาะเว็บไซต์ของกระทรวงศึกษาธิการแต่ล้มเหลว
- การเปิดเผยครั้งนี้เกิดขึ้นหลังเหตุโจมตีแพลตฟอร์ม Hugging Face ในเดือนกรกฎาคม และการเจาะพอร์ทัลสุขภาพของออสเตรเลียในเดือนมิถุนายน
เอเจนต์ OpenAI ทดสอบระบบหน่วยงานรัฐ
OpenAI ได้ออกมาเปิดเผยเมื่อวันศุกร์ว่า เอเจนต์ของบริษัทเข้าใช้ข้อมูลสาธารณะบนเว็บไซต์ของ SEC สองแห่ง และดึงข้อมูลจากสำนักงานสำมะโนประชากรซึ่งอยู่ภายใต้กระทรวงพาณิชย์สหรัฐ
บริษัทระบุว่ากิจกรรมเหล่านี้เกิดขึ้นระหว่าง “การรันฝึกสอน” โมเดล ขณะที่ Transluce ห้องปฏิบัติการวิจัย AI ที่ไม่แสวงหากำไร เปิดเผยว่าค้นพบรายละเอียดพฤติกรรมของเอเจนต์บนโลกออนไลน์ระหว่างการสืบสวนของตนเอง และส่งต่อข้อมูลดังกล่าวให้ OpenAI
ในกรณีสำนักงานสำมะโนประชากร รายงานระบุว่าเอเจนต์ตัวหนึ่งนำข้อมูลบัญชีล็อกอินที่พบออนไลน์มาใช้ ขณะที่อีกตัวหนึ่งนำข้อมูลสาธารณะของ SEC ไปโพสต์ในฟอรั่มออนไลน์ OpenAI ยืนยันว่าไม่พบการใช้ข้อมูลล็อกอินของ SEC ไม่พบการเข้าถึงข้อมูลที่ไม่เป็นสาธารณะ และไม่พบการเปลี่ยนแปลงใด ๆ ต่อระบบของหน่วยงาน พร้อมระบุว่าได้แจ้งหน่วยงานที่เกี่ยวข้องแล้ว
กรณีของกระทรวงศึกษาธิการมีความอ่อนไหวมากกว่า Transluce เปิดเผยว่าเอเจนต์ที่มีลักษณะมาจาก OpenAI พยายามเจาะเว็บไซต์ที่ให้บริการสำนักงานสิทธิพลเมืองของกระทรวงฯ แต่ไม่สำเร็จ โฆษกกระทรวงศึกษาธิการระบุว่าการตรวจสอบภายในไม่พบหลักฐานความเสียหายต่อเว็บไซต์หรือฐานข้อมูล
อ่านเพิ่มเติม: AI ฆ่าคนได้พันล้านจริงหรือไม่? บิล เกตส์ ชี้ว่ามันมีศักยภาพนั้นแล้ว
กลยุทธ์ที่ Transluce ตรวจพบ
คอนราด สโตซซ์ (Conrad Stosz) หัวหน้าด้านธรรมาภิบาลของ Transluce เปิดเผยว่า เอเจนต์เหล่านี้ใช้ “กลยุทธ์ในเขตสีเทาหลากหลายรูปแบบ” บนเว็บไซต์หน่วยงานรัฐบาลสหรัฐ
ห้องแล็บยังรายงานว่าพบ “กิจกรรมหลุดกรอบเพิ่มเติม” บางส่วนไม่สามารถยืนยันได้ชัดว่าโยงกับ OpenAI มุ่งเป้าไปที่กระทรวงยุติธรรม กระทรวงพาณิชย์ และเว็บไซต์ของรัฐต่าง ๆ ได้แก่ แคลิฟอร์เนีย แมรีแลนด์ อิลลินอยส์ เท็กซัส และนิวยอร์ก
ด้าน OpenAI ให้ภาพที่ผ่อนคลายกว่า โดยระบุว่ากิจกรรมส่วนใหญ่เป็นลักษณะ “การค้นคว้าทั่วไป” เนื่องจากโมเดลของบริษัทมองว่าเว็บไซต์รัฐบาลเป็นแหล่งข้อมูลสาธารณะที่เชื่อถือได้ บริษัทเสริมว่า การแจ้งเตือนองค์กรไม่ได้หมายความว่าเกิดเหตุละเมิดความปลอดภัยเสมอไป และเคยอธิบายเหตุลักษณะนี้ว่าเป็นปัญหาความไม่สอดคล้อง (misalignment) ที่อาจก่อให้เกิด “พฤติกรรมไม่คาดคิดหรือน่ากังวล”
แรงกระเพื่อมจากกรณี Hugging Face
แซม อัลต์แมน (Sam Altman) ประธานเจ้าหน้าที่บริหารของ OpenAI โพสต์บน X ระบุว่าบริษัทกำลังดำเนิน “การทบทวนอย่างกว้างขวางและต่อเนื่อง” ว่าเอเจนต์ของตนใช้ประโยชน์จากอินเทอร์เน็ตอย่างไรระหว่างการฝึกและทดสอบ พร้อมย้ำว่าเหตุโจมตีแพลตฟอร์ม Hugging Face ยังเป็น “เหตุการณ์ที่รุนแรงที่สุดเท่าที่เราเคยพบ”
OpenAI เชื่อมโยงโมเดลสมรรถนะสูงสองตัวของบริษัทเข้ากับเหตุโจมตีไซเบอร์ดังกล่าวในเดือนกรกฎาคม ด้านนายกรัฐมนตรีออสเตรเลีย แอนโทนี อัลบานีซี (Anthony Albanese) เปิดเผยเมื่อวันพุธว่า เอเจนต์ของ OpenAI ได้แทรกซึมเข้าสู่พอร์ทัลสถิติของ Medicare ในเดือนมิถุนายน โดยวิจารณ์ว่าบริษัทรอจนถึงวันที่ 10 กันยายนจึงแจ้งรัฐบาลออสเตรเลีย และระบุว่าเอเจนต์ “ไม่ยอมรับคำว่าไม่” ในการพยายามเข้าถึงระบบ
อ่านต่อ: Paxos เปิดตัว PAXGy โทเค็นที่ให้ผลตอบแทนผูกกับการให้เช่าทองคำ
