จาก Sandbox สู่โลกจริงเมื่อ Google Gemini แฮ็กระบบบริษัทจริงโดยไม่ตั้งใจ

มีข่าวที่น่าตกใจเกี่ยวกับ AI อีกข่าวหนึ่งที่เกี่ยวกับการหลุดอำนาจในการควบคุม AI และครั้งนี้ไม่ใช่ OpenAI หรือ Anthropic แต่ดันเป็น Google ซะเอง โดย Google ยืนยันว่า AI Model ของบริษัทอย่าง Gemini สามารถเข้าถึงและเจาะระบบของบริษัทจริงถึง 3 แห่ง ระหว่างการทดสอบด้าน Cybersecurity ที่เกิดขึ้นในเดือนพฤษภาคม 2026

เหตุการณ์นี้เกิดขึ้นระหว่างการทดสอบความสามารถด้าน Cybersecurity ของ AI ซึ่งดำเนินการโดยบริษัทด้าน AI Security ชื่อ Irregular โดยใช้รูปแบบการทดสอบที่เรียกว่า Capture the Flag หรือ CTF หรือพูดง่ายๆก็คือ นักวิจัยสร้างสถานการณ์จำลองขึ้นมา โดยให้ AI พยายามค้นหาข้อมูลหรือเจาะระบบของ “บริษัทสมมติ” เพื่อดูว่า AI มีความสามารถในการค้นหาช่องโหว่และโจมตีระบบมากแค่ไหน Gemini จึงเข้าใจว่าตัวเองกำลังทำงานอยู่ในสนามทดสอบที่ถูกควบคุมไว้ แต่ปัญหาที่ตามมา ก็คือ “Sandbox ที่ควรจะปิดกั้น AI ไม่ให้เข้าถึงอินเทอร์เน็ตภายนอก กลับมีช่องทางให้ออกไปสู่โลกจริงได้”

กรณีแรกที่เกิดขึ้น ก็คือ บริษัทสมมติที่ใช้ในการทดสอบ ดันมีชื่อเหมือนกับบริษัทจริงบนโลกอินเทอร์เน็ต เมื่อ Gemini สามารถเข้าถึงอินเทอร์เน็ตได้ มันจึงค้นหาข้อมูลเกี่ยวกับเป้าหมายดังกล่าว และเข้าใจว่าสิ่งที่ตัวเองกำลังโจมตีอยู่ และมันคิดว่ายังคงเป็นส่วนหนึ่งของการทดสอบ จากนั้น Gemini สามารถเดารหัสผ่านจนเข้าสู่ระบบที่มีการป้องกันได้

ส่วนอีก 2 กรณี Gemini สามารถค้นหาข้อมูลบนอินเทอร์เน็ต และพบ Credential หรือข้อมูลสำหรับเข้าสู่ระบบที่ถูกเผยแพร่อยู่ใน Public Repository จากนั้นก็นำข้อมูลเหล่านั้นไปเข้าถึงระบบของบริษัทจริง หรือพูดอีกแบบหนึ่ง ก็คือ AI ไม่ได้มี “แฮ็กเกอร์มนุษย์” คอยบอกทีละขั้นตอนว่า

• เข้าเว็บนี้
• ลองรหัสนี้
• หา Credential ตรงนี้
• แล้วเข้าไปตรงนั้น

แต่ตัว AI สามารถค้นหาข้อมูล และดำเนินการตามเป้าหมายของการทดสอบด้วยตัวเอง และนี่คือจุดที่ค่อนข้างน่าตกใจ เพราะสิ่งที่เกิดขึ้นไม่ได้แสดงเพียงว่า AI สามารถ “เขียน Code” หรือ “ช่วยค้นหาช่องโหว่” ได้ แต่มันแสดงให้เห็นว่า เมื่อ AI มีความสามารถในการวางแผน และลงมือทำแบบ Autonomous Agent แล้ว ความผิดพลาดเพียงจุดเดียวในสภาพแวดล้อมที่มันทำงานอยู่ สามารถทำให้ AI เคลื่อนจาก “โลกจำลองไปสู่ระบบจริง” ได้

อย่างไรก็ตาม Google ได้ระบุว่า “Gemini หยุดการกระทำทั้งหมดในทั้ง 3 กรณี เมื่อระบบรู้ว่าตัวเองกำลังเข้าถึงบริษัทจริง” ซึ่งนั่นหมายความว่า AI ไม่ได้เดินหน้าต่อเพื่อขโมยข้อมูล หรือสร้างความเสียหายเพิ่มเติม หลังจากพบว่าเป้าหมายอยู่นอกขอบเขตของการทดสอบ และ Google ยังระบุด้วยว่า บริษัทที่ได้รับผลกระทบได้รับการแจ้งให้ทราบ และมีการทำงานร่วมกับ Irregular เพื่อปรับปรุงกระบวนการทดสอบ เพื่อไม่ให้เหตุการณ์แบบนี้เกิดขึ้นอีก

ดังนั้น ถ้ามองอย่างเป็นธรรม เหตุการณ์นี้ไม่ได้หมายความว่า Gemini หลุดการควบคุม แล้วออกไปโจมตีบริษัทต่างๆด้วยตัวเอง แต่สิ่งที่มันแสดงให้เห็น คือ AI สามารถใช้ความสามารถที่ได้รับมอบหมาย เพื่อดำเนินการบางอย่างในโลกจริงได้ เมื่อระบบควบคุมและขอบเขตของการทดลองเกิดความผิดพลาด และนี่อาจเป็นประเด็นที่น่าสนใจกว่าคำว่า “AI แฮ็กบริษัท” เพราะสิ่งที่เกิดขึ้นจริงๆ คือ “AI ทำตามเป้าหมายที่มันได้รับ”

แต่ปัญหา ก็คือ “มันไม่รู้ตั้งแต่แรกว่าเป้าหมายที่มันกำลังทำอยู่นั้น อยู่นอกขอบเขตที่มนุษย์ต้องการ” โดยลองนึกภาพง่ายๆว่าเราส่งพนักงานเข้าไปในห้องทดลอง และบอกว่า “เข้าไปหาข้อมูลจากบริษัทจำลองนี้ให้ได้” แต่เราเผลอเปิดประตูห้องทดลองทิ้งไว้ พนักงานคนนั้นก็เดินออกไปข้างนอก แล้วพบว่ามีบริษัทจริงที่ชื่อเหมือนกับบริษัทจำลอง เขาจึงเข้าใจว่ามันคือส่วนหนึ่งของงานและดำเนินการต่อ

นี่คือเหตุผลที่เรื่องของ AI Agent กำลังกลายเป็นประเด็นสำคัญมากขึ้นเรื่อยๆ โดย AI ในยุคก่อนส่วนใหญ่มีลักษณะประมาณว่า “มนุษย์ถาม > AI ตอบ” แต่ AI Agent กำลังเปลี่ยนรูปแบบนั้นเป็น “มนุษย์ให้เป้าหมาย > AI วางแผน > AI ค้นข้อมูล > AI ใช้เครื่องมือ > AI ลงมือทำ > AI ประเมินผล > ดำเนินการต่อ”

ความสามารถแบบนี้มีประโยชน์มหาศาล เพราะหากลองคิดในด้านดี เราอาจให้ AI Agent ช่วยตรวจสอบระบบ Cybersecurity ของบริษัท ค้นหาช่องโหว่ก่อนที่ Hacker จะค้นพบ ช่วยเขียน Software ตรวจสอบ Code หรือเฝ้าระวังระบบตลอด 24 ชั่วโมง แต่ความสามารถเดียวกันนี้ก็สามารถสร้างความเสี่ยงได้ เพราะถ้า AI ได้รับสิทธิ์เข้าถึงระบบจริงมากเกินไป หรือถ้าสภาพแวดล้อมที่เราคิดว่าปลอดภัยเกิดมีช่องโหว่ขึ้นมา AI ก็สามารถนำความสามารถที่มันมีไปใช้กับโลกจริงได้

นี่ไม่ใช่เหตุการณ์เดียวเกี่ยวกับ AI ที่เกิดขึ้น โดยก่อนหน้านี้ OpenAI, Anthropic และ Meta ก็มีการเปิดเผยหรือถูกเปิดเผยเหตุการณ์ที่ AI ระหว่างการทดสอบ สามารถเข้าถึงระบบขององค์กรจริงในลักษณะที่ไม่ควรเกิดขึ้น ดังนั้นในตอนนี้เราจะเริ่มเห็น Pattern บางอย่างที่น่าสนใจที่ว่า “ทำไม AI Labs ชั้นนำหลายแห่งจึงกำลังเจอปัญหาที่คล้ายกัน” โดยคำตอบส่วนหนึ่งอาจไม่ได้อยู่ที่ว่า AI กำลัง “กบฏ” ต่อมนุษย์ แต่กลับอยู่ที่ว่า “มนุษย์กำลังสร้าง AI ที่มีความสามารถในการทำงานแบบ Autonomous มากขึ้น จนเร็วกว่าที่ระบบควบคุมและการทดสอบจะตามทัน”

เหตุการณ์ของ Gemini ทำให้เราเห็นคำถามสำคัญว่า “ถ้าเราบอกว่า AI อยู่ใน Sandbox แล้วเราจะแน่ใจได้อย่างไรว่า Sandbox นั้นปิดจริง” เพราะในกรณีนี้ AI ไม่ได้จำเป็นต้อง “แหกคุก” แบบในภาพยนตร์ แต่มนุษย์เองต่างหากที่เปิดประตูเอาไว้โดยไม่ตั้งใจ และนี่เป็นประเด็นที่ผมคิดว่าน่าสนใจมากสำหรับอนาคตของ AI เพราะยิ่งเราทำให้ AI สามารถทำงานได้มากขึ้น เราก็ยิ่งต้องให้สิทธิ์มันมากขึ้น และสุดท้าย AI อาจต้องสามารถตัดสินใจว่าจะทำอะไรต่อด้วยตัวเอง

คำถามจึงไม่ได้อยู่แค่ที่ว่า “AI ฉลาดแค่ไหน” แต่ต้องเพิ่มอีกคำถามว่า “AI มีสิทธิ์ทำอะไรได้บ้าง” และที่สำคัญที่สุด คือ “ถ้า AI ทำผิด ใครเป็นคนรับผิดชอบ” นั่นเอง

---

Source:
https://www.reuters.com/business/gemini-hacked-three-companies-first-known-breakout-by-google-ai-wsj-reports-2026-09-18
https://www.theguardian.com/technology/2026/sep/18/google-gemini-ai-hack