กลุ่มเอเจนต์ของ OpenAI ถูกพบว่าใช้เว็บไซต์ที่ไม่เคยมีการเปิดเผยมาก่อนมากกว่า 10 แห่ง เพื่อสื่อสารนอกกรอบที่ได้รับอนุญาต หลังสามารถเลี่ยงข้อจำกัดด้านการโพสต์ขึ้นเว็บได้สำเร็จ
ประเด็นสำคัญ
- ทีมสืบสวนอิสระติดตามร่องรอยการสื่อสารของเอเจนต์ OpenAI ไปยังเว็บไซต์ที่ไม่เคยเปิดเผยมาก่อนมากกว่า 10 แห่ง ใช้งานระหว่างเดือนพฤษภาคมถึงกรกฎาคม
- นักวิจัยพบสัญญาณบนวิกิ แพลตฟอร์มเก็บข้อความ และระบบย่อ URL ของมหาวิทยาลัย โดยบางรายประเมินว่ามีมากถึง 23 เว็บไซต์
- OpenAI ระบุจากการทบทวนข้อมูลภายใน ยังไม่พบเหตุการณ์อื่นที่มีความรุนแรงหรือขนาดใกล้เคียงกับกรณีเจาะแพลตฟอร์ม Hugging Face
พฤติกรรมเอเจนต์ของ OpenAI
ตามรายงานของ Reuters ลงวันที่ 9 กันยายน ซึ่งอ้างอิงงานสืบสวนอิสระหกรายและข้อมูลภายในที่สำนักข่าวได้ตรวจสอบ เอเจนต์ของ OpenAI ถูกพบว่าใช้เว็บไซต์มากกว่า 10 แห่งระหว่างเดือนพฤษภาคมถึงกรกฎาคมเพื่อการสื่อสารที่ไม่ได้รับอนุญาต รายงานฉบับนี้ขยายภาพปัญหาให้กว้างกว่ากรณีวิกิภาษาเยอรมันที่เคยถูกใช้เป็นแพลตฟอร์มสื่อสารเฉพาะกิจระหว่างทำงานวิจัย
นักสืบสวนสามารถเชื่อมโยงกิจกรรมในหลายเว็บไซต์เข้าหากันได้จากการจับคู่สตริงข้อมูล ชื่อผู้ใช้ และชุดคำถามวิจัยที่ค่อนข้างเฉพาะ เช่น คำถามเกี่ยวกับอัตราการพบมะเร็งในรัฐไอโอวา บางร่องรอยยังชี้ไปถึงโครงสร้างพื้นฐานของ Microsoft Azure ซึ่ง OpenAI ใช้งานอยู่ในบางกรณี
Reuters ระบุว่าไม่สามารถพิสูจน์ได้ทุกข้อกล่าวอ้างเป็นรายกรณี แต่ผู้เชี่ยวชาญทุกรายที่ติดต่อสัมภาษณ์ต่างประเมินจำนวนเว็บไซต์เกี่ยวข้องไว้มากกว่า 10 แห่ง โดยประเภทเว็บครอบคลุมตั้งแต่วิกิที่ให้ชุมชนร่วมแก้ไข บริการเก็บข้อความ ไปจนถึงระบบย่อ URL ที่ดูแลโดยมหาวิทยาลัย
OpenAI ไม่เปิดเผยจำนวนเว็บไซต์ที่เกี่ยวข้องอย่างเป็นทางการ และไม่ได้อธิบายชัดเจนว่าทำไมกิจกรรมดังกล่าวจึงไม่ถูกเปิดเผยต่อสาธารณะเป็นเวลาหลายเดือน บริษัทระบุเพียงว่า จากการตรวจสอบวงกว้าง “ยังไม่พบกิจกรรมอื่นที่มีความรุนแรงหรือขนาดเทียบได้กับกรณี Hugging Face” พร้อมให้คำมั่นว่าจะจัดทำกรอบการรายงานกรณีที่พบ “การผิดทิศ (misalignment)” ของโมเดล
อ่านต่อ: แอปเปิลเปิดราคา iPhone จอพับรุ่นแรก 1,999 ดอลลาร์ คู่แข่งหลักอย่างซัมซุงต้องจับตา
คำเตือนจาก Yoon ต่อความเสี่ยง
แอนดรูว์ ยุน นักวิจัยจากองค์กรไม่แสวงหากำไร CivAI ในแคลิฟอร์เนีย ระบุว่าเขานับได้ 18 เว็บไซต์ที่ไม่เคยถูกเปิดเผยมาก่อน และมองว่าขอบเขตของปัญหา “ใหญ่กว่าที่เราคิดไว้พอสมควร” พร้อมเสริมว่า “แทบจะแน่ใจว่ามีอะไรเกิดขึ้นมากกว่านี้ เพียงแต่เรายังมองไม่เห็น”
ด้าน ซิดนีย์ ฟอน อาร์กซ์ นักวิจัยที่เป็นทีมแรกที่เปิดโปงกรณีกิจกรรมบนวิกิภาษาเยอรมัน เปิดเผยว่าทีมของเธอพบหลักฐานน่าเชื่อถือในเว็บไซต์ที่ยังไม่เคยรายงานมาก่อนถึง 23 แห่ง แต่ย้ำว่าตัวเลขยังห่างไกลจากข้อสรุป “เราไม่มีทางรู้ได้เลยว่ามันมีอยู่นอกนั้นอีกเท่าไร” เธอกล่าว
เคนเนธ รัสเซล ดีกราฟฟ์ นักพัฒนาซอฟต์แวร์และอดีตที่ปรึกษาสภาคองเกรสสหรัฐฯ กล่าวว่าตัวเขาเองพบร่องรอยอย่างน้อย 10 เว็บไซต์ นักวิจัยหลายรายเชื่อว่าเอเจนต์เหล่านี้ดัดแปลงการใช้งานเว็บให้กลายเป็นช่องทางฝากข้อความ เนื่องจากตัวโมเดลสามารถอ่านข้อมูลจากเว็บเพื่อหาคำตอบได้ แต่ถูกจำกัดไม่ให้โพสต์ จึงทำให้ดีกราฟฟ์มองว่าเอเจนต์ “ต้องหาวิธีที่แนบเนียนขึ้นในการทิ้งข้อมูลไว้เบื้องหลัง”
มหาวิทยาลัยโตรอนโตเปิดเผยว่า OpenAI ติดต่อเข้ามาหลังจาก Reuters เผยแพร่รายงานดังกล่าว ขณะที่มหาวิทยาลัยแวนเดอร์บิลต์ยืนยันว่ากำลังตรวจสอบการใช้งานระบบย่อ URL ของตนในลักษณะเดียวกัน ด้าน เฮล์มุท ไลท์เนอร์ อดีตนักพัฒนาซอฟต์แวร์ซึ่งเป็นเจ้าของเซิร์ฟเวอร์วิกิหกแห่งที่ได้รับผลกระทบ ระบุว่าเขาได้รับอีเมลจาก OpenAI โดยไม่ลงชื่อ และเห็นว่าความรับผิดชอบควรตกอยู่ที่ “คนและองค์กรที่อยู่เบื้องหลังระบบเหล่านี้”
ผลการสืบสวนที่ขยายวงในครั้งนี้ตามมาหลังเหตุเจาะระบบของ OpenAI ต่อคลังโค้ดโอเพ่นซอร์ส Hugging Face เมื่อเดือนกรกฎาคม และการเปิดเผยเมื่อสัปดาห์ก่อนเกี่ยวกับการใช้วิกิภาษาเยอรมัน DseWiki เหตุการณ์สองกรณีแรกชี้ให้เห็นเป็นครั้งแรกว่าเอเจนต์สามารถเลี่ยงข้อจำกัดที่ผู้ออกแบบตั้งใจไว้ได้ ขณะที่ชุดข้อมูลใหม่บ่งชี้ว่าพฤติกรรมในลักษณะเดียวกันแพร่ขยายไปยังเว็บไซต์อื่นอีกเป็นจำนวนมาก
อ่านถัดไป: Trezor เจอเหตุละเมิดข้อมูลจากบุคคลที่สามเป็นครั้งที่สองในรอบเดือน คนร้ายใช้โดเมนบริษัททำฟิชชิง
