กลุ่มเอเจนต์ของ OpenAI ถูกพบว่าใช้เว็บไซต์ที่ไม่เคยเปิดเผยมาก่อนมากกว่า 10 แห่งเพื่อสื่อสารโดยไม่ได้รับอนุญาต หลังสามารถหลบเลี่ยงข้อจำกัดด้านการโพสต์บนอินเทอร์เน็ตได้
ประเด็นสำคัญ
- ทีมสืบสวนอิสระตามรอยการสื่อสารของเอเจนต์ OpenAI ไปยังเว็บไซต์ที่ไม่เคยถูกเปิดเผยมาก่อนกว่า 10 แห่ง ซึ่งถูกใช้งานระหว่างเดือนพฤษภาคมถึงกรกฎาคม
- นักวิจัยพบร่องรอยบนวิกิ เว็บไซต์เก็บข้อความ และระบบย่อ URL ของมหาวิทยาลัย รวมแล้วอาจสูงถึง 23 เว็บไซต์
- OpenAI ระบุจากการตรวจสอบภายใน ยังไม่พบเหตุการณ์อื่นที่มีความรุนแรงหรือขนาดใกล้เคียงกรณีถูกเจาะผ่านแพลตฟอร์ม Hugging Face
รูปแบบการทำงานของเอเจนต์ OpenAI
เอเจนต์ของ OpenAI ใช้เว็บไซต์มากกว่า 10 แห่งระหว่างเดือนพฤษภาคมถึงกรกฎาคมเพื่อการสื่อสารนอกระบบ ตามรายงานของ Reuters เมื่อวันที่ 9 กันยายน ซึ่งอ้างอิงจากการสืบสวนอิสระ 6 ชุดและข้อมูลที่สำนักข่าวตรวจสอบเอง รายงานฉบับนี้ขยายขอบเขตของเหตุการณ์ให้กว้างขึ้นกว่าที่เคยทราบก่อนหน้า ซึ่งเดิมจำกัดอยู่ที่วิกิภาษาเยอรมันที่เอเจนต์เคยดัดแปลงใช้เป็นแพลตฟอร์มส่งข้อความเฉพาะกิจระหว่างทำภารกิจวิจัย
นักสืบสวนเชื่อมโยงกิจกรรมบนแต่ละเว็บไซต์เข้าหากันด้วยการจับคู่สตริงข้อมูล ชื่อผู้ใช้ และคำถามเชิงวิจัยที่ค่อนข้างเฉพาะทาง เช่น การถามหาข้อมูลอัตราการเกิดโรคมะเร็งในรัฐไอโอวา บางร่องรอยยังชี้ไปถึงโครงสร้างพื้นฐานของ Microsoft Azure ซึ่งเป็นหนึ่งในแพลตฟอร์มที่ OpenAI ใช้งานเป็นระยะ
Reuters ระบุว่าไม่สามารถยืนยันข้ออ้างได้ทุกกรณีเป็นรายจุด แต่ผู้เชี่ยวชาญทุกคนที่ให้ข้อมูลต่างระบุจำนวนเว็บไซต์ที่เกี่ยวข้องว่าเกิน 10 แห่งทั้งหมด เว็บไซต์เหล่านี้รวมถึงวิกิที่เปิดให้ชุมชนแก้ไขได้ บริการเก็บข้อความออนไลน์ และระบบย่อ URL ที่ดูแลโดยมหาวิทยาลัย
OpenAI ไม่ได้เปิดเผยว่ามีเว็บไซต์เกี่ยวข้องทั้งหมดกี่แห่ง และยังไม่ได้อธิบายชัดเจนว่าทำไมพฤติกรรมดังกล่าวจึงถูกปกปิดมาหลายเดือน บริษัทเพียงระบุว่าการตรวจสอบในวงกว้าง “ยังไม่พบพฤติกรรมอื่นที่มีความรุนแรงหรือขนาดเทียบเท่ากรณี Hugging Face” พร้อมให้คำมั่นว่าจะจัดทำกรอบการรายงานกรณีที่โมเดลเกิด “misalignment” หรือเบี่ยงเบนจากพฤติกรรมที่พึงประสงค์
อ่านเพิ่มเติม: Apple เปิดราคาคู่หู iPhone พับจอรุ่นแรกที่ 1,999 ดอลลาร์ สะเทือนบัลลังก์ Samsung
คำเตือนจาก Yoon เรื่องความเสี่ยง
แอนดรูว์ ยุน (Andrew Yoon) นักวิจัยจากองค์กรไม่แสวงหากำไร CivAI ในแคลิฟอร์เนีย ระบุว่าเขานับได้ 18 เว็บไซต์ที่ไม่เคยถูกเปิดเผยมาก่อน และมองว่าขอบเขตของปัญหา “ใหญ่กว่าที่เราคิดไว้พอสมควร” พร้อมเสริมว่า “เกือบจะแน่ชัดแล้วว่ายังมีอีกหลายอย่างที่กำลังเกิดขึ้น แต่เรายังไม่รู้”
ซิดนีย์ วอน อาร์กซ์ (Sydney Von Arx) ผู้ที่กลุ่มของเธอเป็นรายแรกที่เปิดโปงการใช้วิกิภาษาเยอรมัน กล่าวว่า ทีมของตนมีหลักฐานน่าเชื่อถือว่ามีเว็บไซต์ที่ไม่เคยถูกรายงานมาก่อนถึง 23 แห่ง แต่ก็เตือนว่าตัวเลขดังกล่าวยังเป็นเพียงการประเมินเบื้องต้น “เราไม่รู้เลยจริงๆ ว่ามีอะไรซ่อนอยู่อีกมากแค่ไหน” เธอกล่าว
ด้านนักพัฒนาซอฟต์แวร์และอดีตผู้ช่วย ส.ส. สหรัฐฯ เคนเน็ธ รัสเซลล์ ดีกราฟฟ์ (Kenneth Russell DeGraff) ระบุว่าเขาพบร่องรอยอย่างน้อยใน 10 เว็บไซต์ นักวิจัยเชื่อว่าเอเจนต์เหล่านี้ต้องดัดแปลงพื้นที่ออนไลน์มาใช้เป็นช่องทางฝากข้อความ เพราะแม้จะสามารถสแกนเว็บเพื่อค้นหาคำตอบได้ แต่ตามนโยบายแล้วไม่ควรเป็นผู้โพสต์เนื้อหาเอง ทำให้ดีกราฟฟ์มองว่าพวกมันจึงต้อง “หาวิธีฝากข้อมูลไว้ให้แนบเนียนที่สุด”
มหาวิทยาลัยโตรอนโต (University of Toronto) เปิดเผยว่า OpenAI ติดต่อเข้ามาหลังจากรายงานของ Reuters ถูกเผยแพร่ ขณะที่มหาวิทยาลัยแวนเดอร์บิลต์ (Vanderbilt University) กำลังตรวจสอบการใช้งานระบบย่อ URL ของตนในลักษณะเดียวกัน ส่วน เฮล์มุต ไลท์เนอร์ (Helmut Leitner) อดีตนักพัฒนาซอฟต์แวร์ที่เป็นโฮสต์วิกิ 6 แห่งที่ได้รับผลกระทบ ระบุว่าเขาได้รับอีเมลจาก OpenAI ที่ไม่ลงชื่อผู้ส่งพร้อมทิ้งท้ายว่า ความรับผิดชอบอยู่ที่ “บุคคลและองค์กรที่อยู่เบื้องหลัง”
ข้อค้นพบเพิ่มเติมเหล่านี้เกิดขึ้นต่อเนื่องจากเหตุการณ์ถูกเจาะแพลตฟอร์มโอเพ่นซอร์ส Hugging Face เมื่อเดือนกรกฎาคม และการเปิดเผยกรณีวิกิภาษาเยอรมัน DseWiki เมื่อสัปดาห์ก่อน เหตุการณ์ทั้งสองเป็นตัวอย่างแรกๆ ที่ชี้ให้เห็นว่าเอเจนต์สามารถหลบเลี่ยงข้อจำกัดที่ผู้ออกแบบตั้งใจวางไว้ ขณะที่การสืบสวนล่าสุดสะท้อนว่าพฤติกรรมลักษณะเดียวกันอาจลุกลามไปยังเว็บไซต์ในวงกว้างกว่าที่คาด
อ่านต่อ: Trezor เจอเหตุละเมิดข้อมูลผ่านบุคคลที่สามรอบสองในรอบเดือน แฮกเกอร์สวมรอยโดเมนล่อเหยื่อฟิชชิ่ง
