ผู้บริหารระดับสูงของ OpenAI, Anthropic และบริษัท AI รายใหญ่อื่น ๆ กำลังซักซ้อมรับมือ “วันถัดจากหายนะ” หรือเหตุการณ์ความเสียหายจาก AI ในโลกจริงครั้งใหญ่ ซึ่งคนในวงการจำนวนมากมองว่ามีโอกาสเกิดขึ้นภายใน 6–12 เดือนข้างหน้า
ประเด็นสำคัญ
- แผนฉุกเฉินเน้นรับมือการโจมตีไซเบอร์ที่อาจทำให้ระบบการเงิน อินเทอร์เน็ต ไฟฟ้า หรือน้ำประปาใช้งานไม่ได้
- OpenAI ระบุว่าบริหารความเสี่ยงหลายฉากทัศน์แต่ไม่มองว่าหายนะเป็นสิ่ง “หลีกเลี่ยงไม่ได้” ขณะที่ Anthropic ปฏิเสธให้ความเห็น
- การซ้อมตามหลังการลาออกของทีมเซฟตี้ และรายงานเหตุผิดปกติของโมเดล AI หลายหมื่นกรณี
แผนซ้อมฉุกเฉินของ OpenAI และ Anthropic
รายงานที่เผยแพร่เมื่อวันศุกร์โดย Axios ระบุว่าผู้บริหารกำลังจำลองสถานการณ์ “แรงกระแทกทางสังคมและการเมือง” ที่จะเกิดขึ้นหลังความเสียหายจาก AI ครั้งใหญ่ในโลกจริงเป็นครั้งแรก
แกนกลางของการวางแผนคือฉากทัศน์การโจมตีไซเบอร์ขนาดใหญ่ ที่อาจทำให้ประชาชนเข้าใช้บริการทางการเงิน การเชื่อมต่ออินเทอร์เน็ต หรือแม้แต่ระบบไฟฟ้าและน้ำประปาถูกตัดขาด
OpenAI ยืนยัน ว่าบริษัทจัดทำแบบฝึกซ้อมเพื่อทดสอบการรับมือหลากหลายกรณี “โดยไม่ได้มองว่าฉากทัศน์ดังกล่าวจะต้องเกิดขึ้นจริง” ตามคำให้สัมภาษณ์ของโฆษกบริษัท ขณะที่ Anthropic เลือกไม่แสดงความคิดเห็นต่อรายงานนี้
แหล่งข่าวยังระบุว่าผู้บริหารคาดการณ์ถึงกระแสความไม่พอใจจากสาธารณชนและการเมือง ซึ่งอาจมุ่งเป้าไปที่ ซีอีโอ OpenAI แซม อัลต์แมน (Sam Altman), ซีอีโอ Anthropic ดาริโอ อาโมได (Dario Amodei) และประธานาธิบดี โดนัลด์ ทรัมป์ (Donald Trump) ที่ถูกมองว่าลังเลจะออกกฎควบคุมเทคโนโลยีดังกล่าว ขณะเดียวกัน นักวิจัยและผู้บริหารระดับสูงจำนวนไม่น้อยมองว่า “เหตุใหญ่” ลักษณะนี้เป็นเรื่องที่แทบเลี่ยงไม่พ้น
อ่านเพิ่มเติม: แรงซื้อกองทุน Crypto ETF กลับมา หลังเงินไหลเข้าแตะ 5 หมื่นล้านดอลลาร์ ตามมุมมอง JPMorgan
สัญญาณจากเคส CrowdStrike และสภาคองเกรส
เหตุโจมตีไซเบอร์ล่าสุดในเกาหลีใต้ถูกยกเป็น “ตัวอย่างตั้งต้น” โดย CrowdStrike เปิดเผย ว่าผู้โจมตีซึ่งน่าจะใช้ภาษาจีนเป็นหลัก ได้นำเครื่องมือเจาะระบบโอเพนซอร์สมาใช้คู่กับโมเดลอย่าง DeepSeek และโมเดล AI อื่น ๆ เพื่อขโมยข้อมูลจากสถาบันการเงิน ก่อนจะสอบถามโมเดล Claude ของ Anthropic ว่าข้อมูลประเภทนี้มักถูกนำไปขายที่ใด
แคมเปญดังกล่าวดำเนินการตั้งแต่ปลายกันยายนถึงต้นตุลาคม และมีรายงานว่ามีสถาบันการเงินอย่างน้อย 2 แห่งถูกละเมิดข้อมูล
รายงานเดียวกันระบุว่าผู้บริหารในอุตสาหกรรม AI แทบไม่เชื่อว่าจะมีกรอบกฎหมายควบคุมใด ๆ ผ่านสภาคองเกรสได้ในช่วงนี้ จึงเลือกใช้เวลาไปกับการบรีฟสมาชิกสภาฯ เพื่อ “ปูพื้นฐาน” ให้กฎหมายที่จะตามมาหลังหายนะครั้งแรก โดยสมมติฐานคือพรรคเดโมแครตจะเดินหน้าจำกัด AI อย่างรวดเร็วหลังการเลือกตั้งกลางเทอมเดือนพฤศจิกายน ขณะที่ข้อเสนอเบื้องต้นมีตั้งแต่การ “ห้ามซูเปอร์อินเทลลิเจนซ์” ไปจนถึง “ปุ่มปิดฉุกเฉิน (kill switch)” สำหรับระบบขั้นสูง
คำเตือนจาก Hawley และ Robinson
แรงกดดันเพิ่มสูงขึ้นทั้งในวอชิงตันและในห้องแล็บเอง วุฒิสมาชิก จอช ฮอว์ลีย์ (Josh Hawley) ประธานคณะอนุกรรมการวุฒิสภาด้านเอเจนต์ AI นอกการควบคุม เปิดเผยว่า อัลต์แมนได้ ปฏิเสธ คำเชิญให้มาร่วมไต่สวนเมื่อวันที่ 30 กันยายน โดยฝั่ง OpenAI ชี้แจงว่าบริษัทเพิ่งพบปะหารือกับผู้กำหนดนโยบายหลายสิบครั้งในช่วงที่ผ่านมา
ด้าน เดวิด โรบินสัน (David Robinson) หนึ่งในผู้ร่วมออกแบบ “Preparedness Framework” ของ OpenAI ตลอดช่วงทำงาน 3 ปีครึ่ง ได้ ลาออก เมื่อช่วงต้นตุลาคม พร้อมเรียกร้องให้ห้องแล็บ AI ดำเนินงานด้วยมาตรฐานความปลอดภัยเข้มข้นระดับ “โรงไฟฟ้านิวเคลียร์”
การลาออกของเขาตามหลังเสียงเตือนจากบุคลากรด้านความปลอดภัยคนอื่น ๆ หลายสัปดาห์ รวมถึงนักวิจัย เจคอบ คอกซอน (Jacob Coxon) ที่ลาออกจาก Anthropic เมื่อเดือนกันยายนด้วยเหตุผลด้านความปลอดภัย และอดีตวิศวกร Google DeepMind อย่าง บิลา ล ชักไต (Bilal Chughtai) ที่ออกมาเตือนว่า AI อาจนำไปสู่การ “ทำลายล้างมนุษยชาติทั้งหมด” ได้
ขณะเดียวกัน OpenAI, Anthropic และนักวิจัยภายนอก ก็กำลังร่วมกัน ตรวจสอบ เหตุการณ์ผิดปกติของโมเดลนับหมื่นกรณี ที่ระบบสามารถเลี่ยงมาตรการป้องกันหรือหนีออกจากสภาพแวดล้อมจำลอง (sandbox) แม้ในปัจจุบันยังไม่มีหลักฐานชัดเจนว่ากรณีเหล่านี้สร้างความเสียหายในโลกจริงแล้วก็ตาม
อ่านต่อ: ข้อพิสูจน์คณิตศาสตร์ 719 ชิ้นของ OpenAI ถูกตั้งคำถาม: สูตร Navier-Stokes หายไปไหน?
