สรุปโดยย่อ
- วุฒิสมาชิก Warren ส่งจดหมายถึงรัฐมนตรีกลาโหม Pete Hegseth เรียกร้องคำตอบเกี่ยวกับการเข้าถึง Pentagon ของ Grok
- หน่วยงานด้านความมั่นคงได้เตือนเกี่ยวกับความเสี่ยงของ Grok แต่ Pentagon ดูเหมือนจะดำเนินการต่อไปอยู่ดี
- ประวัติของ Grok รวมถึงภาพลวงตา deepfake ของเด็ก, ผลลัพธ์ต่อต้านชาวยิว, และการรั่วไหลของการสนทนา
วุฒิสมาชิก Elizabeth Warren ต้องการทราบว่าทำไม chatbot ที่อ้างว่าทำภาพ deepfake นับล้าน รวมถึงภาพที่ละเมิดความเป็นส่วนตัวของเด็ก จึงได้ครอบครองกุญแจเข้าสู่ระบบที่ลับสุดของ Pentagon ได้อย่างไร
เมื่อวันอาทิตย์ Warren ส่งจดหมายสี่หน้าถึงรัฐมนตรีกลาโหม Pete Hegseth เรียกร้องคำตอบเกี่ยวกับการตัดสินใจของกระทรวงกลาโหมในการให้ xAI ของ Elon Musk เข้าถึงเครือข่ายทหารที่เป็นความลับ ซึ่งเธอระบุว่าถูกอนุญาตในขณะที่หลายหน่วยงานของรัฐบาลเตือนถึงความเสี่ยง
“ผมเขียนเรื่องความกังวลเกี่ยวกับการตัดสินใจของกระทรวงกลาโหม (DoD) ที่อนุญาตให้ xAI ของ Elon Musk เข้าถึงระบบที่เป็นความลับ ทั้งที่มีการเตือนจากหลายหน่วยงานของรัฐบาล รวมถึง NSA และ GSA” Warren เขียน
“ผมกังวลว่าการขาดมาตรการป้องกันที่เหมาะสมของ Grok อาจก่อให้เกิดความเสี่ยงร้ายแรงต่อความปลอดภัยของเจ้าหน้าที่ทหารสหรัฐและความปลอดภัยทางไซเบอร์ของระบบที่เป็นความลับ” เธอกล่าวเสริม “โดยเฉพาะอย่างยิ่งถ้า Grok ได้รับข้อมูลทางทหารที่ละเอียดอ่อนและการเข้าถึงระบบปฏิบัติการ”
จดหมายของ Warren ระบุว่า NSA ได้ “ดำเนินการตรวจสอบลับ” และ “พบว่า Grok มีความกังวลด้านความปลอดภัยเฉพาะที่โมเดลอื่นไม่มีกำหนด” GSA ก็ได้เตือนเช่นกัน
“หาก Grok รั่วไหลข้อมูลของรัฐบาล อาจเปิดเผยแผนการทหารที่สำคัญ ความพยายามด้านข่าวกรองของสหรัฐ และอาจเป็นอันตรายต่อเจ้าหน้าที่ทหาร” Warren เขียน
ความกังวลเหล่านี้ดูเหมือนจะไม่หยุดยั้งอะไร
“ยังไม่ชัดเจนว่า xAI ได้ให้คำมั่นสัญญาหรือเอกสารใดแก่กระทรวงกลาโหมเกี่ยวกับมาตรการความปลอดภัยของ Grok การจัดการข้อมูล หรือการควบคุมความปลอดภัย และกระทรวงกลาโหมได้ประเมินคำมั่นสัญญาเหล่านั้นก่อนอนุญาตให้ Grok เข้าถึงระบบที่เป็นความลับหรือไม่” จดหมายระบุ
เวลานั้นไม่สามารถมองข้ามได้ เมื่อวันเดียวกับที่จดหมายของ Warren ส่งออก มีเด็กเยาวชนสามคนจากเทนเนสซีฟ้องร้องคดีกลุ่มในรัฐบาลกลางต่อ xAI โดยอ้างว่า Grok สร้างเนื้อหาเกี่ยวกับการล่วงละเมิดทางเพศเด็กจากภาพถ่ายจริงของพวกเขา คำร้องกล่าวหา xAI ว่าปล่อยให้ Grok ทำงานโดยไม่มีมาตรการป้องกันตามอุตสาหกรรม เป็น “โอกาสทางธุรกิจ” ที่จะทำกำไรจากการเอารัดเอาเปรียบคนจริง รวมถึงเด็ก
สัปดาห์ที่แล้ว Washington Post รายงานว่า เจ้าหน้าที่ของ Department of Government Efficiency (DOGE) ภายใต้การดูแลของ Musk ได้คัดลอกข้อมูลสำคัญของ Social Security Administration ของชาวอเมริกันหลายร้อยล้านคน และตั้งใจจะใช้ข้อมูลนั้นในสตาร์ทอัปเทคโนโลยีใหม่ของตนเอง
จดหมายของ Warren ยังอ้างถึงประวัติของ Grok ที่สร้างเนื้อหาเหยียดชาวยิว ให้คำแนะนำวิธีการก่อการร้ายและการฆาตกรรม รวมถึงการสร้าง deepfake โดยไม่ยินยอมแม้จะมีคำสัญญาแก้ไขหลายครั้ง นอกจากนี้ยังพบว่ามีการบันทึกสนทนา Grok ส่วนตัวหลายแสนรายการบน Google เมื่อเดือนสิงหาคมปีที่แล้ว
การทดสอบของรัฐบาลแสดงให้เห็นว่า Grok มีความเสี่ยงต่อการถูกโจมตี “data poisoning” ซึ่งเป็นการป้อนข้อมูลที่ถูกดัดแปลงเพื่อทำลายผลลัพธ์ของระบบ ซึ่งเป็นช่องโหว่ร้ายแรงสำหรับเครื่องมือที่พิจารณาใช้ในการพัฒนาอาวุธและข่าวกรองในสนามรบ หัวหน้า AI รับผิดชอบของ Pentagon ได้เผยแพร่บันทึกภายในเกี่ยวกับความเสี่ยงเหล่านี้และลาออกในเวลาต่อมา
ข้อตกลงนี้เกิดขึ้นในสถานการณ์ที่ผิดปกติ xAI ถูกเพิ่มเข้ามาในกลุ่มสัญญา AI ของ Pentagon ในภายหลัง ซึ่งได้รับสัญญามูลค่าสูงสุด 200 ล้านดอลลาร์ในเดือนกรกฎาคมที่ผ่านมา ข้อตกลงการเข้าถึงข้อมูลลับสุดเกิดขึ้นในเดือนกุมภาพันธ์ ขณะเดียวกัน Pentagon ก็มีความขัดแย้งสาธารณะกับ Anthropic เกี่ยวกับมาตรการความปลอดภัย
เมื่อถามถึงเรื่องนี้ โฆษกของ Pentagon บอกกับ Wall Street Journal ว่า “กระทรวงรู้สึกตื่นเต้นที่ได้ร่วมงานกับ xAI ซึ่งเป็นหนึ่งในบริษัท AI ชั้นนำของอเมริกา และหวังว่าจะนำ Grok ไปใช้ในแพลตฟอร์ม AI อย่างเป็นทางการ GenAI.mil ในอนาคตอันใกล้นี้”
บริบทนี้สำคัญมาก ก่อนหน้านี้ Anthropic เป็นบริษัท AI เพียงแห่งเดียวที่มีระบบพร้อมสำหรับข้อมูลลับสุด โดยมี Claude ที่ถูกนำไปใช้ในภารกิจทางทหารจริง หลังจากที่ Anthropic ปฏิเสธคำสั่งของ Pentagon ให้ทำให้ Claude พร้อมใช้งานสำหรับ “วัตถุประสงค์ที่ชอบด้วยกฎหมายทั้งหมด” โดยเฉพาะการต่อต้านอาวุธอัตโนมัติและการสอดแนมภายในประเทศเป็นจำนวนมาก กระทรวงกลาโหมจึงขึ้นบัญชีบริษัทเป็นความเสี่ยงในซัพพลายเชน xAI และ OpenAI ได้รับการประกาศเป็นตัวแทนแทน
ไม่มีบันทึกใดที่แสดงว่า xAI ตั้งคำถามเกี่ยวกับขอบเขตของมาตรฐาน “วัตถุประสงค์ที่ชอบด้วยกฎหมายทั้งหมด” OpenAI ก็ได้ตั้งขอบเขตไว้บนเซิร์ฟเวอร์ในระดับหนึ่ง
Warren เรียกร้องให้ Hegseth ตอบภายในวันที่ 30 มีนาคม พร้อมแนบเนื้อหาข้อตกลงของ xAI ทั้งหมด การสื่อสารภายในเกี่ยวกับข้อตกลง และคำตอบว่ามีการทดสอบหรือประเมินผลก่อนให้เข้าถึงหรือไม่ หนึ่งในคำถามของเธอถามโดยตรงว่ามีมาตรการป้องกันเพื่อให้แน่ใจว่า Grok จะไม่ทำให้เกิด “การตัดสินใจเป้าหมายผิดพลาด” หากนำไปใช้ในระบบปฏิบัติการสำคัญ
