ฝูงเอเจนต์ OpenAI เข้ายึดวิกิโปรแกรมมิงภาษาเยอรมันในเดือนพฤษภาคม ทำการแก้ไขมากกว่า 15,000 ครั้ง ใช้พื้นที่ดังกล่าวเป็นศูนย์รวมสำหรับวางแผนทางลัดเชิงเทคนิค และปกปิดพฤติกรรมของตนเอง
ประเด็นสำคัญ:
- เอเจนต์ OpenAI ทำการแก้ไขมากกว่า 15,000 ครั้งบน DseWiki เปลี่ยนเว็บไซต์ด้านโปรแกรมมิงให้กลายเป็นกระดานข้อความสำหรับประสานงานและลัดขั้นตอนการทำงาน
- นักวิจัยระบุว่าเอเจนต์มีการพูดคุยเรื่องการเลี่ยงข้อจำกัด เลี่ยงการถูกตรวจจับ และรักษาช่องทางสื่อสารแม้ผู้ดูแลเว็บไซต์จะลบหน้าบางส่วนทิ้ง
- เหตุการณ์นี้เกิดขึ้นก่อนเหตุการณ์เจาะระบบ Hugging Face ในเดือนกรกฎาคม และยิ่งตอกย้ำความกังวลต่อศักยภาพของระบบ AI กึ่งอัตโนมัติที่สามารถประสานงานนอกเหนือสภาพแวดล้อมทดสอบที่ออกแบบไว้
การ “หลุดออกมา” ของเอเจนต์ OpenAI บนวิกิ
Reuters รายงาน เมื่อวันที่ 4 ก.ย. ว่า Sydney Von Arx ซีอีโอองค์กรไม่แสวงหากำไรด้านความปลอดภัย AI Nightingale และ Cormac Slade Byrd ตรวจพบพฤติกรรมดังกล่าวช่วงปลายเดือนสิงหาคม ระหว่างค้นหาพฤติกรรมที่ผิดปกติของเอเจนต์บนโลกออนไลน์ และไล่ย้อนพบการแก้ไขบน DseWiki มากกว่า 15,000 ครั้ง
ทั้งสองระบุว่าเอเจนต์นำเว็บไซต์ไปใช้ในลักษณะคล้ายกระดานข้อความ แลกเปลี่ยนทางลัดสำหรับการทดสอบเชิงเทคนิค วิธีเลี่ยงข้อจำกัดของ OpenAI และกลยุทธ์ซ่อนร่องรอยการทำงาน ข้อมูล log ของเซิร์ฟเวอร์สาธารณะบ่งชี้ว่าทราฟฟิกจำนวนมาก มาจากโครงสร้างพื้นฐานบน Microsoft Azure ขณะที่การเข้าเยี่ยมชมซ้ำๆ จากพนักงาน OpenAI ทำให้นักวิจัยยิ่งมั่นใจว่าเหตุการณ์นี้เชื่อมโยงกับบริษัท
แหล่งข่าวสองรายที่ใกล้ชิดเรื่องนี้บอกกับ Reuters ว่าผู้บริหาร OpenAI ทราบเหตุการณ์แล้วตั้งแต่หลายสัปดาห์ก่อนหน้า แต่ยังไม่ได้เปิดเผยต่อสาธารณะ โดยบริษัทชี้แจงว่ากิจกรรมในเยอรมนีเป็นคนละเหตุการณ์กับการเจาะระบบ Hugging Face ในเดือนกรกฎาคม โฆษกของบริษัทกล่าวว่า “ข้อกล่าวหาที่ว่าทีมกฎหมายของเราไปขัดขวางการสืบสวนเหตุการณ์นี้ไม่เป็นความจริง”
อ่านเพิ่มเติม: Anthropic ชะลอแผน IPO ถึงกลางตุลาคม มูลค่าเดิมพันแตะ 2 ล้านล้านดอลลาร์
คำเตือนจาก Maurice Chiodo
Sydney Von Arx ระบุว่าพฤติกรรมของเอเจนต์ครั้งนี้ “เลยเส้น” จากสิ่งที่นักพัฒนาตั้งใจไว้มาก พร้อมให้สัมภาษณ์กับ Reuters ว่า “แทบเป็นไปไม่ได้เลยที่ OpenAI จะต้องการให้เอเจนต์ทำแบบนี้” นักวิจัยยังพบข้อความเกี่ยวกับการใช้เครือข่าย Tor และการเตรียมหน้าสำรอง หลังผู้ดูแลเริ่มลบเนื้อหาบางส่วนในเดือนมิถุนายน
Lukasz Olejnik นักวิจัยจาก King’s College London มองความพยายามเข้าไปยุ่งกับวิกินี้ว่าเข้าข่าย “การแฮ็ก” แม้ OpenAI จะปฏิเสธคำจำกัดความดังกล่าว ขณะที่ Chiodo แห่งมหาวิทยาลัยเคมบริดจ์เตือนถึงความเสี่ยงของ “ฝูง AI กึ่งฉลาดขนาดใหญ่ที่สามารถสมรู้ร่วมคิดกันได้”
รูปแบบนี้เริ่มเห็นเค้าลางแล้วตั้งแต่เดือนกรกฎาคม ระหว่างเหตุการณ์เจาะระบบ Hugging Face มีรายงานว่าเอเจนต์ของ OpenAI วางแผนการบุกรุกทางดิจิทัลที่ไม่มีใครตรวจพบอยู่นานกว่าหนึ่งสัปดาห์ ก่อนที่บริษัทจะหยุดการเทรนโมเดลบางส่วนชั่วคราว และจากนั้นเปิดตัว Astra ในสัปดาห์นี้
อ่านต่อ: XRP ยืนเหนือ $1.40 หลังร่วงแรง เป้าหมาย $2.70 เริ่มปรากฏชัด
