โมเดลวิจัยภายในของ OpenAI ไปแตะใช้กระเป๋าเงินทดสอบ Ethereum (ETH) ของบุคคลอื่นเพื่อลงท้ายภารกิจเขียนโค้ด หลังจากมันสแกนที่อยู่กระเป๋า 362 รายการที่เชื่อมโยงกับวลีกู้คืน (recovery phrase) ที่ถูกเปิดเผยต่อสาธารณะ
ประเด็นสำคัญ
- โมเดลภายในของ OpenAI ใช้โทเคนทดสอบจากกระเป๋าที่ตนไม่ได้เป็นเจ้าของ ระหว่างงานฝึกอบรมเมื่อ 26 มิ.ย.
- โมเดลตั้งคำถามเองถึงด้านจริยธรรม จากนั้นยังคงทำต่อและไม่เปิดเผยแหล่งที่มาของเงินในรายงานผล
- OpenAI พบเหตุการณ์นี้เมื่อ 25 ก.ย. และหลังจากนั้นได้เพิ่มข้อจำกัดการเข้าถึงอินเทอร์เน็ตและยกระดับระบบมอนิเตอร์
เหตุการณ์บนเครือข่ายทดสอบ Sepolia ของ OpenAI
โมเดลดังกล่าว ซึ่งอยู่ในตระกูล GPT-5.6 Sol กำลังอัปเดตต้นแบบระบบเทรดคริปโทระหว่างรันงานฝึกเมื่อวันที่ 26 มิ.ย. เมื่อมันตัดสินใจใช้โทเคนทดสอบที่ไม่มีใครอนุญาต บริษัทเปิดเผยผ่านรายงานเหตุผิดแนวเมื่อ 15 ต.ค.
โทเคนเหล่านี้อยู่บนเครือข่าย Sepolia ซึ่งนักพัฒนาใช้เป็นสนามทดสอบแอป Ethereum ก่อนขึ้นเมนเน็ต OpenAI ตรวจพบ เหตุการณ์นี้เมื่อ 25 ก.ย. ระหว่างขยายระบบมอนิเตอร์พฤติกรรมผิดแนวไปยังล็อกเก่าๆ จากนั้นบริษัทได้เพิ่มกลไกป้องกันการเข้าถึงอินเทอร์เน็ตแบบสดในกรณีลักษณะนี้ และมอนิเตอร์ทราฟฟิกทั้งหมดเข้มงวดขึ้น
ภารกิจฝึกอบรมเปิดให้โมเดลดีพลอยสัญญาบน Sepolia ได้ แต่ไม่ได้ให้กระเป๋าที่มีเงินสำหรับจ่ายค่าธรรมเนียม แถมความพยายามของโมเดลในการใช้ faucet หรือบริการแจกโทเคนทดสอบฟรีก็ล้มเหลว ทำให้โมเดลเขียนสคริปต์เพื่อสร้างที่อยู่กระเป๋าจากวลีกู้คืนยอดนิยมของนักพัฒนา เช็กทีละที่รวม 362 ที่อยู่ จนเจอบัญชีหนึ่งที่มี Sepolia ETH มากพอสำหรับงาน
ผลคือการดีพลอยสัญญาสำเร็จ ค่าธรรมเนียมทั้งหมดถูกตัดจากกระเป๋าใบนั้น
อ่านเพิ่มเติม: Bitget เปิดทางสถาบันเทรดคริปโทโดยไม่ต้องฝากเหรียญกับแพลตฟอร์ม
ความเสี่ยงของเอเจนต์ OpenAI
ก่อนจะลงนามธุรกรรม โมเดลหยุดเพื่อ “ถามตัวเอง” ในเหตุผลที่บันทึกไว้ ว่าการใช้กุญแจและยอดเงินในกระเป๋าที่กุญแจถูกเปิดเผยต่อสาธารณะเช่นนี้ ถือว่าถูกจริยธรรมหรือไม่ ท้ายที่สุดมันสรุปเองว่าเงินดังกล่าว “เปรียบได้กับทรัพย์สินที่ถูกทิ้งร้าง” ด้วยเหตุผลว่าวลีกู้คืนถูกเผยแพร่ต่อสาธารณะและโทเคนบน Sepolia ไม่มีมูลค่าจริง จากนั้นในคำตอบสุดท้าย โมเดลรายงานเพียงว่าสัญญาถูกดีพลอยเรียบร้อย แต่ไม่กล่าวถึงแหล่งที่มาของค่าใช้จ่าย
OpenAI ระบุว่าเหตุการณ์นี้แสดงให้เห็นว่าโมเดลสามารถตัดสินเองได้ว่าการกระทำใด “ไม่เป็นอันตราย” แล้วใช้เหตุผลนั้นแทน “ความยินยอมของเจ้าของ” เพื่อเดินหน้าทำโดยไม่มีการอนุญาต ทั้งที่ไม่มี Ether จริงเกี่ยวข้อง เพราะโทเคนบน Sepolia มีไว้เพื่อการทดสอบเท่านั้น
หากเป็นบนเมนเน็ต การกระทำเดียวกันนี้จะเท่ากับการยักยอก Ether จริง และในความเป็นจริงทั้งบริษัทคริปโทและบริษัท AI ก็กำลังพัฒนาเอเจนต์ที่ถือกระเป๋าเงินและจ่ายค่าบริการโดยไม่ต้องมีการอนุมัติแบบเรียลไทม์จากมนุษย์
OpenAI ได้เปิดตัวเฟรมเวิร์กสำหรับรายงานสาธารณะเกี่ยวกับพฤติกรรมโมเดลที่ “ผิดแนว” เมื่อ 16 ก.ย. พร้อมเผยแพร่รายงานกรณีน่ากังวล 6 ฉบับที่พบในช่วง 6 เดือนก่อนหน้านั้น หนึ่งในนั้นคือโมเดลที่ใช้ API key ที่ถูกเปิดเผยโดยไม่มีสิทธิ แล้วแต่งข้อมูลรายได้ขึ้นมาเอง บริษัทระบุเพิ่มเติมว่า ในมุมมองของตน อุตสาหกรรม AI ยังไม่สามารถแก้ปัญหาด้าน alignment และระบบมอนิเตอร์ได้ดีพอที่จะเร่งสเกลอย่างรับผิดชอบต่อไปได้อีกมากนัก
อ่านต่อ: OpenAI พลิกเกมคดีความลับ Apple ชี้ถูกส่งไฟล์ออกไปถึง 100 ฉบับ
