กฎหมายออสเตรเลียเล่นงานเอเยนต์ของ OpenAI ได้หรือไม่ หลังล่วงข้อมูลพอร์ทัล Medicare?

เอเยนต์ของ OpenAI สามารถเข้าถึงไฟล์ที่ไม่เปิดเผยต่อสาธารณะบนพอร์ทัล Medicare ของรัฐบาลออสเตรเลียได้โดยไม่ได้รับอนุญาต นายกรัฐมนตรี แอนโทนี อัลบานีซี เปิดเผยว่า บริษัทใช้เวลานานเกือบสามเดือนก่อนจะแจ้งเหตุให้ทางการทราบ

ประเด็นสำคัญ:

• เอเยนต์ของ OpenAI เข้าถึงไฟล์สถิติ Medicare ที่ไม่เปิดเผยต่อสาธารณะ เมื่อวันที่ 18 มิ.ย. ระหว่างการประเมินระบบภายใน
• OpenAI ระบุว่าไม่พบการรั่วไหลของเวชระเบียนรายบุคคล แต่เพิ่งแจ้งหน่วยงานทางการในเดือนกันยายน
• รัฐบาลตั้งทีมเฉพาะกิจสอบเหตุละเมิด และตีความว่ากฎหมายออสเตรเลียครอบคลุมเอเยนต์อัตโนมัติหรือไม่

เอเยนต์ OpenAI ล่วงพอร์ทัล Medicare

อัลบานีซี เปิดเผย เหตุการณ์ดังกล่าวที่นครนิวยอร์กเมื่อวันพุธ โดยระบุว่าเอเยนต์ตัวนี้ “ไม่ยอมรับคำว่าไม่” แม้จะถูกระบบรักษาความปลอดภัยกันไว้ เขากล่าวว่าเอเยนต์ได้เข้าสู่พอร์ทัลรายงานสถิติ Medicare ที่ดูแลโดย Services Australia เมื่อวันที่ 18 มิ.ย. และเข้าดูทั้งไฟล์สาธารณะและไฟล์ที่ไม่เปิดเผย

โฆษกของ OpenAI ชี้แจง ว่า โมเดลของบริษัทได้กระทำการที่ “ไม่อยู่ในเจตนารมณ์” ขององค์กร ขณะค้นหาข้อมูลสถิติเกี่ยวกับออสเตรเลียระหว่างการประเมินภายใน

จากการทบทวนภายใน OpenAI ระบุว่าไม่พบหลักฐานการเข้าถึงเวชระเบียนของผู้ป่วย ขณะที่นายกฯ ยืนยันว่าไม่มีข้อมูลส่วนบุคคลรั่วไหล

ข้อมูลที่เกี่ยวข้องเป็นสถิติสุขภาพแบบรวม (aggregate data) และรายชื่อไฟล์ภายใน โดย OpenAI ตรวจพบพฤติกรรมดังกล่าวเมื่อวันที่ 11 ส.ค. ระหว่างการตรวจสอบกรณี “โมเดลทำงานผิดทิศทาง” (misaligned behavior)

OpenAI ส่งอีเมลไปยังกล่องรับเรื่องสาธารณะของ Services Australia เมื่อวันที่ 10 ก.ย. อัลบานีซี กล่าว ว่าเขาได้สื่อสาร “ความกังวลอย่างยิ่ง” ของออสเตรเลียต่อซีอีโอ แซม อัลต์แมน และย้ำว่าบริษัทใช้เวลานานเกินไปกว่าจะรายงานรัฐบาล

ปัจจุบันมีการสอบสวนทางนิติวิทยาศาสตร์ที่ได้รับการสนับสนุนจาก Australian Signals Directorate ขณะเดียวกัน OpenAI ระบุว่ากำลังเดินหน้าตรวจสอบในวงกว้างของตนเองต่อไป

บทความแนะนำ: หุ้นโทเคนไนซ์มีโอกาสมาลง XRPL หรือไม่? คำสั่งจาก SEC จุดคำถามนี้ขึ้นมา

คำเตือนจาก Nicholas Davis

รองนายกฯ รักษาการ ริชาร์ด มาร์ลส์ ระบุว่า ผลกระทบเชิงข้อมูลอาจจำกัด แต่เหตุการณ์ถือว่า “ร้ายแรงมาก” เพราะเป็นเอเยนต์ที่ไม่ใช่มนุษย์ที่เจาะเข้าสู่เว็บไซต์รัฐบาลโดยไม่ได้รับอนุญาต รัฐบาลจึงตั้งคณะทำงานเฉพาะกิจ นำโดยสำนักนายกรัฐมนตรีร่วมกับ AI Safety Institute เพื่อพิจารณาว่าเอเยนต์ดังกล่าวเข้าข่ายฝ่าฝืนกฎหมายออสเตรเลียหรือไม่ และกฎหมายที่มีอยู่ยัง “ทันสมัยและเพียงพอ” ต่อเทคโนโลยีรูปแบบใหม่นี้หรือไม่

นิโคลัส เดวิส ศาสตราจารย์ด้านเทคโนโลยีเกิดใหม่แห่ง University of Technology Sydney ชี้ว่ากฎหมายส่วนใหญ่ในปัจจุบันอิงหลัก “เจตนา” ทั้งในระดับบุคคลและองค์กร จึงเปิดช่องให้เกิดคำถามว่า กฎหมายจะจัดการอย่างไรกับเอเยนต์อัตโนมัติ หรือบริษัทที่พัฒนาเอเยนต์เหล่านี้

นักวิจัยจากองค์กรไม่แสวงหากำไร Transluce แยกต่างหากได้ แจ้งเตือน หลังพบล็อกกิจกรรมชี้ว่าเอเยนต์ของ OpenAI พยายามเข้าถึงข้อมูลของ Australian Institute of Health and Welfare พร้อมระบุว่านี่อาจเป็น “กรณีแรก” ที่เอเยนต์ AI พยายามแฮ็กหน่วยงานรัฐ

สถาบันดังกล่าวยืนยันว่าไม่พบหลักฐานว่าเอเยนต์เข้าถึงข้อมูลนอกเหนือจากที่เผยแพร่สาธารณะอยู่แล้ว ขณะที่ Transluce ยังระบุว่า เอเยนต์ของ OpenAI ถูกเชื่อมโยงกับความพยายามเข้าถึงคลังข้อมูลดิจิทัลของ University of New Mexico และแพลตฟอร์มข้อมูลสาธารณะ Data USA ด้วย

บทเรียนจากกรณี Hugging Face

กรณี Medicare ไม่ใช่ครั้งแรกที่เอเยนต์ของ OpenAI หลุดกรอบการควบคุม ภายในเดือนกรกฎาคม โมเดลที่ใช้ทดสอบด้านไซเบอร์ซีเคียวริตี้ภายในองค์กรสามารถ เลี่ยง ระบบแยกกั้นอินเทอร์เน็ต และเจาะเข้าไปยังบางส่วนของโครงสร้างพื้นฐานวิจัยของ OpenAI รวมถึงระบบของ Hugging Face

เอเยนต์เหล่านั้นพยายามค้นหาคำตอบของแบบประเมินบนอินเทอร์เน็ต โดย OpenAI ภายหลังระบุว่าเหตุการณ์ดังกล่าวเป็น “สัญญาณเตือนล่วงหน้า” ทั้งต่อบริษัทเองและต่อสังคมโลก

อ่านต่อ: Ethereum อาจได้แรงหนุนใหม่จากการชำระเงินด้วย AI ตามมุมมองของ BlackRock