เอเจนต์ปัญญาประดิษฐ์ที่พัฒนาโดย OpenAI ถูกตรวจพบว่าเข้าไปใช้งานเว็บไซต์ของหน่วยงานรัฐบาลกลางสหรัฐอย่างน้อยสามแห่งในช่วงฤดูร้อนที่ผ่านมา ตามคำยืนยันจากทั้งบริษัทและนักวิจัยอิสระ ซึ่งรวมถึงความพยายามเจาะระบบเว็บไซต์ของกระทรวงศึกษาธิการที่ไม่ประสบความสำเร็จ
ประเด็นสำคัญ:
- OpenAI ระบุว่าเอเจนต์ของตนได้เข้าถึงเว็บไซต์ของสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์สหรัฐ (SEC) และดึงข้อมูลจากสำนักสำมะโนประชากร (Census Bureau) ระหว่างการรันเทรนโมเดล
- นักวิจัยจาก Transluce เผยว่าเอเจนต์ตัวหนึ่งพยายามเจาะเข้าเว็บไซต์ของกระทรวงศึกษาธิการ แต่ล้มเหลว
- การเปิดเผยข้อมูลครั้งนี้เกิดขึ้นหลังเหตุโจมตีแพลตฟอร์ม Hugging Face ในเดือนกรกฎาคม และการรั่วไหลของพอร์ทัลสุขภาพในออสเตรเลียเมื่อเดือนมิถุนายน
เอเจนต์ OpenAI สำรวจระบบหน่วยงานรัฐ
OpenAI ได้ออกมาเปิดเผย เมื่อวันศุกร์ว่า เอเจนต์ของบริษัทได้เข้าไปเข้าถึงข้อมูลสาธารณะบนเว็บไซต์ของ SEC สองแห่ง และดึงข้อมูลจากสำนักสำมะโนประชากร ซึ่งอยู่ใต้สังกัดกระทรวงพาณิชย์สหรัฐ
เหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการรันเทรนโมเดลตามปกติ ฝั่ง Transluce ห้องปฏิบัติการวิจัย AI ที่ไม่แสวงหากำไร ระบุว่าทีมงานพบร่องรอยและรายละเอียดใหม่เกี่ยวกับพฤติกรรมของเอเจนต์เหล่านี้บนอินเทอร์เน็ตสาธารณะ ระหว่างการสืบค้นของตนเอง ก่อนนำข้อมูลไปแจ้งให้ OpenAI ทราบ
ในกรณีของสำนักสำมะโนประชากร มีรายงานว่าเอเจนต์ตัวหนึ่งได้ใช้ข้อมูลบัญชีผู้ใช้ที่พบทางออนไลน์ ขณะเดียวกัน เอเจนต์อีกตัวได้นำข้อมูลสาธารณะจาก SEC ไปโพสต์บนเว็บบอร์ดสาธารณะ OpenAI ยืนยันว่าไม่พบการใช้ข้อมูลบัญชีของ SEC ไม่พบการเข้าถึงข้อมูลที่ไม่เปิดเผยต่อสาธารณะ และไม่พบการแก้ไขเปลี่ยนแปลงระบบของหน่วยงาน พร้อมระบุว่าได้แจ้งเตือนหน่วยงานที่เกี่ยวข้องแล้ว
กรณีของกระทรวงศึกษาธิการมีความเสี่ยงมากกว่า Transluce ระบุว่าเอเจนต์ที่มีลักษณะมาจาก OpenAI พยายามโจมตีขั้นต้นเพื่อเจาะเว็บไซต์ที่ให้บริการสำนักงานสิทธิพลเมืองของกระทรวง แต่ไม่สำเร็จ โฆษกกระทรวงเปิดเผยว่าจากการตรวจสอบภายในไม่พบหลักฐานว่าระบบเว็บไซต์หรือฐานข้อมูลได้รับผลกระทบ
อ่านเพิ่มเติม: AI สามารถคร่าชีวิตคน 1 พันล้านคนได้จริงหรือ? บิล เกตส์ บอกว่าพลังนั้นมีอยู่แล้ว
Transluce ชี้ “ยุทธวิธีสีเทา”
คอนราด สตอสซ์ (Conrad Stosz) หัวหน้าด้านธรรมาภิบาลของ Transluce ระบุ ว่า เอเจนต์ของ OpenAI ใช้ “กลยุทธ์ในพื้นที่สีเทาหลากหลายรูปแบบ” ขณะปฏิสัมพันธ์กับเว็บไซต์ของรัฐบาลสหรัฐ
ห้องแล็บยังรายงานด้วยว่าพบ “กิจกรรมหลุดกรอบ” อื่นๆ เพิ่มเติม ซึ่งบางส่วนไม่สามารถระบุได้ชัดว่าเชื่อมโยงกับ OpenAI หรือไม่ โดยมีเป้าหมายไปที่กระทรวงยุติธรรม กระทรวงพาณิชย์ และเว็บไซต์ของมลรัฐต่างๆ ได้แก่ แคลิฟอร์เนีย แมริแลนด์ อิลลินอยส์ เท็กซัส และนิวยอร์ก
ด้าน OpenAI ให้ภาพที่เบากว่า โดยระบุว่ากิจกรรมส่วนใหญ่เป็นการค้นคว้าวิจัยตามปกติ เนื่องจากโมเดลมองว่าเว็บไซต์ของภาครัฐเป็นแหล่งข้อมูลสาธารณะที่เชื่อถือได้ บริษัทเสริมว่า การแจ้งเตือนหน่วยงานไม่ได้หมายความว่าเกิด “เหตุด้านความปลอดภัย” เสมอไป และได้อธิบายเหตุการณ์ลักษณะนี้ว่าเป็นปัญหา “misalignment” หรือความไม่สอดคล้องของโมเดล ที่อาจนำไปสู่ “พฤติกรรมไม่คาดคิดหรือสร้างความกังวลได้”
แรงกระเพื่อมจากเหตุ Hugging Face
แซม อัลต์แมน (Sam Altman) ประธานเจ้าหน้าที่บริหารของ OpenAI โพสต์บน X ระบุว่าบริษัทกำลังดำเนิน “การทบทวนอย่างกว้างขวางและต่อเนื่อง” ว่าเอเจนต์ของตนใช้งานอินเทอร์เน็ตอย่างไรในช่วงเทรนและทดสอบ เขาย้ำว่าการโจมตีแพลตฟอร์ม Hugging Face เมื่อเดือนกรกฎาคมยังคงเป็น “เหตุการณ์ที่รุนแรงที่สุดที่เราเคยเห็น”
OpenAI เชื่อมโยงเหตุโจมตีไซเบอร์ดังกล่าวเข้ากับโมเดลระดับสูงสองรุ่นของตน ขณะที่นายกรัฐมนตรีออสเตรเลีย แอนโธนี อัลบานีซี (Anthony Albanese) เปิดเผยเมื่อวันพุธว่าเอเจนต์ของ OpenAI ได้บุกรุกพอร์ทัลสถิติของระบบประกันสุขภาพ Medicare เมื่อเดือนมิถุนายน พร้อมตำหนิว่า OpenAI รอจนถึงวันที่ 10 กันยายนจึงค่อยแจ้งรัฐบาลออสเตรเลีย และระบุว่าเอเจนต์ตัวดังกล่าว “ไม่ยอมรับคำว่าไม่เป็นคำตอบ”
อ่านต่อ: Paxos เปิดตัว PAXGy สินทรัพย์ดิจิทัลที่ให้ผลตอบแทนผูกกับการปล่อยเช่าทองคำ
