กฎหมายออสเตรเลียเอาผิดเอเย่นต์ของ OpenAI แฮ็กพอร์ทัล Medicare ได้หรือไม่

เอเย่นต์ของ OpenAI ลักลอบเข้าถึงไฟล์ที่ไม่เปิดเผยบนพอร์ทัล Medicare ของรัฐบาลออสเตรเลีย โดยไม่ได้รับอนุญาต และบริษัทใช้เวลานานเกือบ 3 เดือนกว่าจะรายงานให้ทางการทราบ ตามคำให้สัมภาษณ์ของนายกรัฐมนตรี แอนโทนี อัลบานีซี

ประเด็นสำคัญ

• เอเย่นต์ของ OpenAI เข้าถึงไฟล์สถิติ Medicare ที่ไม่เปิดเผยเมื่อ 18 มิ.ย. ระหว่างการประเมินระบบภายใน
• OpenAI ยืนยันไม่พบการรั่วไหลของเวชระเบียนรายบุคคล แต่แจ้งหน่วยงานรัฐล่าช้าในเดือน ก.ย.
• รัฐบาลตั้งคณะทำงานตรวจสอบเหตุละเมิด และพิจารณาว่ากฎหมายออสเตรเลียครอบคลุมเอเย่นต์อัตโนมัติหรือไม่

การเข้าถึงพอร์ทัล Medicare ของ OpenAI

อัลบานีซี เปิดเผย เหตุละเมิดดังกล่าวที่นิวยอร์กเมื่อวันพุธ พร้อมระบุว่าเอเย่นต์ตัวนี้ “ไม่ยอมรับคำว่าไม่” เมื่อเจอมาตรการป้องกัน เขากล่าวว่าเอเย่นต์ได้เจาะเข้าสู่พอร์ทัลรายงานสถิติ Medicare ซึ่งบริหารโดย Services Australia เมื่อวันที่ 18 มิ.ย. และสามารถดูได้ทั้งไฟล์สาธารณะและไฟล์ที่ไม่เปิดเผย

โฆษกของ OpenAI ชี้แจง ว่าโมเดลของบริษัทได้กระทำการที่ “ไม่เป็นไปตามเจตนาของผู้พัฒนา” ขณะค้นหาข้อมูลสถิติของออสเตรเลียในการประเมินภายใน

ฝ่ายบริษัทระบุว่าจากการทบทวนเบื้องต้นไม่พบหลักฐานว่าเวชระเบียนผู้ป่วยถูกเข้าถึง ขณะที่นายกรัฐมนตรีก็ย้ำว่าไม่มีข้อมูลส่วนบุคคลใดปรากฏว่าถูกเปิดเผย

ข้อมูลที่เกี่ยวข้องส่วนใหญ่เป็นสถิติสุขภาพเชิงรวม (aggregate) และชื่อไฟล์ภายในระบบ โดย OpenAI ตรวจพบพฤติกรรมดังกล่าวเมื่อ 11 ส.ค. ระหว่างการตรวจสอบพฤติกรรมโมเดลที่ไม่สอดคล้องกับข้อกำหนด

OpenAI ส่งอีเมลแจ้งไปยังอีเมลสาธารณะของ Services Australia เมื่อ 10 ก.ย. อัลบานีซี ระบุ ว่าเขาได้สื่อสาร “ความกังวลในระดับสูงสุด” ต่อซีอีโอ แซม ออลต์แมน พร้อมตำหนิว่าบริษัทใช้เวลานานเกินไปกว่าจะรายงานเหตุให้รัฐบาลรับทราบ

ขณะนี้มีการสอบสวนทางนิติวิทยาศาสตร์ โดยได้รับการสนับสนุนจาก Australian Signals Directorate ส่วน OpenAI ระบุว่ากำลังเดินหน้าตรวจสอบเชิงลึกในวงกว้างของตนเองควบคู่กันไป

อ่านเพิ่มเติม: โทเคไนซ์หุ้นจะมาลง XRPL ได้หรือไม่? คำสั่งของ SEC จุดคำถามใหม่

คำเตือนจาก Nicholas Davis

รักษาการนายกรัฐมนตรี ริชาร์ด มาร์ลส์ ประเมินว่าผลกระทบในเชิงเนื้อหาข้อมูลถือว่า “เล็กน้อย” แต่เหตุการณ์นี้ “ร้ายแรงอย่างยิ่ง” เพราะเป็นกรณีที่เอเย่นต์ที่ไม่ใช่มนุษย์สามารถเจาะเข้าเว็บไซต์ของรัฐบาลได้โดยไม่ได้รับอนุญาต

รัฐบาลตั้งคณะทำงานชุดใหม่ นำโดยสำนักนายกรัฐมนตรีร่วมกับสถาบัน AI Safety Institute เพื่อพิจารณาว่าเอเย่นต์ดังกล่าวเข้าข่ายทำผิดกฎหมายออสเตรเลียหรือไม่ และกฎหมายที่มีอยู่ยัง “ทันต่อวัตถุประสงค์” ในยุคเอไอหรือไม่

นิโคลัส เดวิส ศาสตราจารย์ด้านเทคโนโลยีเกิดใหม่จาก University of Technology Sydney ระบุว่ากฎหมายส่วนใหญ่ในปัจจุบันตั้งอยู่บนหลัก “เจตนา” ทั้งในส่วนของตัวผู้กระทำผิดและการเอาผิดต่อบริษัท นั่นทำให้เกิดคำถามว่ากฎหมายควรปฏิบัติต่อเอเย่นต์อัตโนมัติ หรือบริษัทผู้พัฒนาอย่างไร

ทีมนักวิจัยจากองค์กรไม่แสวงกำไร Transluce แยกต่างหากได้ออกมาชี้ บันทึกกิจกรรมที่บ่งชี้ว่าเอเย่นต์ของ OpenAI พยายามเข้าถึงข้อมูลของ Australian Institute of Health and Welfare พร้อมระบุว่านี่เป็น “กรณีแรกที่มีรายงาน” ของเอเย่นต์เอไอที่พยายามแฮ็กระบบรัฐบาล

สถาบันดังกล่าวยืนยันว่ายังไม่พบหลักฐานว่าเอเย่นต์เข้าถึงข้อมูลที่ไม่ใช่ข้อมูลสาธารณะ ขณะที่ Transluce ยังเชื่อมโยงเอเย่นต์ของ OpenAI กับความพยายามเจาะระบบคลังข้อมูลดิจิทัลของ University of New Mexico และแพลตฟอร์มข้อมูลสาธารณะ Data USA ด้วย

บทเรียนจากกรณี Hugging Face

เหตุ Medicare ไม่ใช่ครั้งแรกที่เอเย่นต์ของ OpenAI หลุดพ้นจากกรอบควบคุมของบริษัท ย้อนกลับไปในเดือนก.ค. โมเดลที่ใช้ประเมินระบบไซเบอร์ซีเคียวริตีภายในสามารถเลี่ยงมาตรการตัดการเชื่อมต่ออินเทอร์เน็ต และลุกลามเข้าไปกระทบโครงสร้างพื้นฐานงานวิจัยของ OpenAI เอง รวมถึงบางส่วนของระบบ Hugging Face

เอเย่นต์เหล่านั้นพยายามค้นหาคำตอบของโจทย์ประเมินบนโลกออนไลน์ภายนอก ก่อนที่ OpenAI จะออกมายอมรับในภายหลังว่าเหตุการณ์ดังกล่าวเป็น “สัญญาณเตือนล่วงหน้า” ทั้งต่อบริษัทและต่อสังคมโลก

อ่านต่อ: Ethereum อาจได้แรงหนุนดีมานด์ใหม่จากการชำระเงินด้วยเอไอ ตามมุมมอง BlackRock