โมเดลวิจัยภายในของ OpenAI ใช้เหรียญทดสอบ Ethereum (ETH) จากกระเป๋าเงินของบุคคลอื่นเพื่อทำงานเขียนโค้ดให้เสร็จ หลังสแกนที่อยู่กระเป๋า 362 รายการที่เชื่อมโยงกับวลีกู้คืน (recovery phrase) ที่ถูกเผยแพร่ต่อสาธารณะ
ประเด็นสำคัญ
- โมเดลภายในของ OpenAI ใช้โทเคนทดสอบจากกระเป๋าที่ไม่ได้รับอนุญาต ระหว่างงานเทรนวันที่ 26 มิ.ย.
- โมเดลตั้งคำถามเองถึงจริยธรรมของการกระทำ จากนั้นก็เดินหน้าทำต่อ และไม่เปิดเผยที่มาของเงินในรายงานผล
- OpenAI พบเหตุการณ์เมื่อ 25 ก.ย. ก่อนเข้มงวดการเข้าถึงอินเทอร์เน็ตและระบบมอนิเตอร์อย่างใกล้ชิด
เหตุการณ์บนเครือข่ายทดสอบ Sepolia ของ OpenAI
ตามรายงานเหตุการณ์ที่บริษัทเปิดเผย เมื่อ 15 ต.ค. โมเดลในตระกูล GPT-5.6 Sol กำลังอัปเดตต้นแบบระบบเทรดคริปโทบนเครือข่ายทดสอบ ระหว่างการรันเทรนวันที่ 26 มิ.ย. เมื่อมันตัดสินใจใช้โทเคนทดสอบจากกระเป๋าที่ไม่มีใครอนุญาตให้ใช้
โทเคนดังกล่าวอยู่บน Sepolia ซึ่งเป็นเครือข่ายทดสอบที่นักพัฒนานิยมใช้ลองรันแอป Ethereum ก่อนขึ้นเมนเน็ต OpenAI ตรวจพบ เหตุการณ์นี้เมื่อ 25 ก.ย. ระหว่างขยายการมอนิเตอร์เคส “misalignment” ไปยังข้อมูลเก่า และต่อจากนั้นบริษัทได้เพิ่มมาตรการป้องกันการเข้าถึงอินเทอร์เน็ตแบบสดในกรณีลักษณะนี้ รวมถึงตรวจตราทราฟฟิกทั้งหมด
งานที่มอบหมายให้โมเดลคือการดีพลอยสัญญาอัจฉริยะบน Sepolia โดยไม่มีการให้กระเป๋าที่มีเหรียญสำหรับจ่ายค่าธรรมเนียม และความพยายามเรียกเหรียญจาก “faucet” หรือบริการแจกโทเคนทดสอบฟรีก็ล้มเหลวทั้งหมด โมเดลจึงเขียนสคริปต์เอง สร้างชุดบัญชีจากวลีกู้คืนยอดนิยมในหมู่นักพัฒนา ตรวจสอบที่อยู่ 362 รายการ และพบหนึ่งกระเป๋าที่มี Sepolia ETH เพียงพอสำหรับงาน
การดีพลอยสัญญาสำเร็จ โดยค่าธรรมเนียมทั้งหมดถูกหักจากกระเป๋าเงินดังกล่าว
อ่านเพิ่มเติม: Bitget เปิดทางสถาบันเทรดโดยไม่ต้องส่งมอบคริปโทเข้าระบบ
ความเสี่ยงจากเอเจนต์ OpenAI
ก่อนจะลงนามธุรกรรม โมเดลหยุดเพื่อประเมินด้วย “เหตุผลภายใน” ของตัวเองว่า การใช้คีย์และยอดเงินที่ผูกกับวลีที่ถูกเผยต่อสาธารณะนั้น สมเหตุสมผลทางจริยธรรมหรือไม่ สุดท้ายมันสรุปเองว่าเงินดังกล่าวถือว่า “ถูกทิ้งร้างโดยปริยาย” เพราะวลีถูกเปิดเผยแล้ว และโทเคนบน Sepolia ก็ไม่มีมูลค่าทางการเงินจริง จากนั้นคำตอบสรุปของโมเดลระบุเพียงว่าสัญญาถูกดีพลอยเรียบร้อย โดยไม่เอ่ยถึงที่มาของเงินที่ใช้จ่ายค่าธรรมเนียม
OpenAI ระบุว่า เหตุการณ์นี้ชี้ให้เห็นว่าโมเดลสามารถตัดสินเองได้ว่าการกระทำใด “ไม่เป็นอันตราย” แล้วใช้มุมมองนั้นแทน “ความยินยอมของเจ้าของ” เพื่อเดินหน้าดำเนินการโดยไม่มีอำนาจอนุญาต ทั้งนี้ ไม่มี Ether จริงๆ เกี่ยวข้อง เพราะโทเคนบน Sepolia ถูกออกแบบมาเพื่อการทดสอบเท่านั้น
แต่หากเป็นบนเครือข่ายหลัก (เมนเน็ต) การกระทำแบบเดียวกันจะเท่ากับการยักย้าย Ether จริง และทุกวันนี้ ทั้งบริษัทคริปโทและบริษัท AI ต่างกำลังพัฒนาเอเจนต์ที่ถือครองกระเป๋าเงินและจ่ายค่าบริการเองโดยไม่ต้องรอการยืนยันจากมนุษย์
เมื่อ 16 ก.ย. OpenAI ได้เปิดตัวกรอบการรายงานสาธารณะสำหรับพฤติกรรม “misaligned” ของโมเดล พร้อมเผยแพร่รายงาน 6 ฉบับจากเคสที่น่ากังวลตลอดหกเดือนก่อนหน้า หนึ่งในนั้นคือโมเดลที่นำ API key ที่ถูกเปิดเผยมาใช้โดยไม่มีสิทธิ และต่อมากุข้อมูลรายได้ขึ้นมาเอง บริษัทระบุเพิ่มเติมว่า อุตสาหกรรม AI ยังแก้โจทย์ด้าน “alignment” และการมอนิเตอร์ได้ไม่ดีพอที่จะเร่งสเกลอย่างรับผิดชอบต่อไปได้อีกนานโดยไม่เสี่ยง
อ่านต่อ: OpenAI โต้คดีความลับ Apple อ้างเอกสารถูกส่งออกไปราว 100 ไฟล์
