รายงานล่าสุดที่เผยแพร่โดยทีมข่าวกรองภัยคุกคามของ Google (GTIG) ชี้ให้เห็นว่ากลุ่มแฮ็กเกอร์ในเกาหลีเหนือและหลายประเทศกําลังใช้ Gemini เพื่อจัดการงานต่างๆ เช่น การลาดตระเวนอัตโนมัติและการพัฒนามัลแวร์ ซึ่งจะเป็นภัยคุกคามร้ายแรงต่อข้อมูลทั่วโลกและความปลอดภัยด้านการป้องกัน Steve Miller หัวหน้า GTIG กล่าวว่าองค์กรต่างๆ จําเป็นต้องเผชิญกับปัญหาการโจมตีทางไซเบอร์และปรับใช้การป้องกัน AI เพื่อปกป้องความปลอดภัยของทรัพยากรและข้อมูลของบริษัท
กลุ่มแฮ็กใช้ประโยชน์จากข่าวกรองโอเพ่นซอร์สสังเคราะห์ของ Gemini เพื่อวิเคราะห์เป้าหมายเฉพาะ
Google รายงานว่ากลุ่มแฮ็กของเกาหลีเหนือที่มีชื่อรหัสว่า UNC 2970 กําลังใช้ Gemini Integrated Open Source Intelligence (OSINT) เพื่อทําการวิเคราะห์ที่ซับซ้อนของเป้าหมายที่มีมูลค่าสูงเฉพาะ องค์กรนี้เป็นที่รู้จักกันมานานแล้วในชื่อ Operation Dream Job ซึ่งปลอมตัวเป็นนายหน้าขององค์กร โดยกําหนดเป้าหมายไปที่ผู้เชี่ยวชาญในอุตสาหกรรมการบินและอวกาศ ด้วยความช่วยเหลือของ AI ผู้โจมตีสามารถค้นหาตําแหน่งงานว่างทางเทคนิคและโครงสร้างเงินเดือนในบริษัทรักษาความปลอดภัยและการป้องกันรายใหญ่ได้อย่างมีประสิทธิภาพมากขึ้นเพื่อระบุเป้าหมาย
GTIG กล่าวว่า UNC 2970 สามารถกําหนดเป้าหมายจุดอ่อนของการบุกรุกครั้งแรกได้แม่นยํายิ่งขึ้นโดยการสร้างสคริปต์วิศวกรรมสังคมที่ปรับแต่งได้สูง นอกจากเกาหลีเหนือแล้ว ยังพบว่ากลุ่มแฮ็กเกอร์ของจีน Mustang Panda (Temp.HEX) และ APT 31 ใช้ AI เพื่อแก้ไขไฟล์ส่วนตัวหรือวิเคราะห์ช่องโหว่โดยอัตโนมัติ
การพัฒนาคุณสมบัติ “เอาท์ซอร์ส” ของมัลแวร์ใหม่ผ่าน API ของ Gemini
รายงานเปิดเผยมัลแวร์ประเภทใหม่ที่เรียกว่า HONESTCUE ที่จ้างการพัฒนาคุณลักษณะผ่าน API ของ Gemini ซึ่งเป็นเฟรมเวิร์กตัวดาวน์โหลดที่ใช้ซอร์สโค้ด C# ที่สร้างขึ้นที่ได้รับจาก Gemini API และคอมไพล์และเรียกใช้เพย์โหลดโดยตรงในหน่วยความจําโดยใช้เฟรมเวิร์ก .NET CSharpCodeProvider ที่ถูกต้องตามกฎหมาย
ผู้โจมตีทางไซเบอร์ส่งข้อความแจ้งมากกว่า 100,000 รายการ คัดลอกความสามารถในการให้เหตุผลของ AI
Google สังเกตเห็นผู้โจมตีส่งข้อความแจ้งจํานวนมากไปยัง AI เพื่อจําลองความสามารถในการให้เหตุผลและการตอบสนองของโมเดล Google บล็อกโมเดลทางเลือกที่เครื่องเลียนแบบ ในการโจมตีขนาดใหญ่ครั้งหนึ่ง ราศีเมถุนประสบกับการโจมตีทางไซเบอร์ด้วยข้อความแจ้งมากกว่า 10 รายการ ซึ่งทําให้เกิดคําถามหลายชุดที่มีจุดประสงค์เพื่อจําลองความสามารถในการให้เหตุผลของ AI ในงานที่ไม่ใช่ภาษาอังกฤษ
Steve Miller หัวหน้าฝ่ายภัยคุกคามปัญญาประดิษฐ์ของ Google ชี้ให้เห็นว่าในขณะที่ผู้โจมตียังคงพยายามเลี่ยงการป้องกันความปลอดภัยโดยการปลอมตัวตัวตน Gemini ยังคงมีความคืบหน้าในการระบุวิธีการหลอกลวงและเสริมความแข็งแกร่งให้กับตัวกรองอัตโนมัติ และการป้องกันมีการพัฒนาอย่างต่อเนื่องเพื่อรับมือกับการโจมตีแบบใหม่ที่รวดเร็ว
เมื่อเผชิญกับภัยคุกคาม AI ที่รุนแรงขึ้นเรื่อยๆ Google ได้เปิดตัวโปรแกรมป้องกันทางไซเบอร์ AI ที่อัปเกรดการป้องกันการโจมตีที่เป็นอันตรายอย่างต่อเนื่อง Steve Miller กล่าวว่าองค์กรควรลงทุนในโครงสร้างพื้นฐาน AI และสร้างระบบป้องกันเพื่อให้มั่นใจในความปลอดภัยของข้อมูลในอนาคต
บทความนี้ Google เตือน! เกาหลีเหนือและกลุ่มแฮ็กข้ามชาติกําลังใช้ Gemini ในการโจมตี ปรากฏตัวครั้งแรกเมื่อ Chain News ABMedia.
