Gartner Identifies Four Critical Threats Requiring Urgent Improvements from Cybersecurity Leaders

There are four critical and unpredictable threats where attackers hold a significant advantage to successfully exploit weaknesses in targeted organizations according to Gartner, Inc., a business and technology insights company. These include deepfakes, AI application compromise, prompt injection and software supply chains.

The Gartner ThreatScape categorizes the threats into six distinct areas along two axes:

Differentiating threats based on the quality and volume of information (“threat signal”) available.
Assessing threats based on organizational capabilities to manage them, and whether the threat actors hold an advantage.

“The introduction of security initiatives by frontier AI companies creates significant noise to an already noisy threat landscape,” said John Watts, VP Analyst at Gartner. “Cybersecurity leaders must be able to find the threat signal in all the noise in order to respond to shifts in the threat landscape.”

At the Gartner Security & Risk Management Summit, Watts explained how CISOs can tackle these four critical threats.

AI Application Compromise

AI application compromise is in the critical threat section as attackers target the growing number of production-ready public-facing and internal enterprise AI tools. The attack surface has grown to include custom-built agents, third-party integrations and employee-only applications, often exposing sensitive data or credentials when controls are weak.

“Cybersecurity teams need to expand their programs beyond traditional software protections by mapping new attack surfaces introduced by GenAI models or agentic tools,” said Watts. “Using Gartner’s trust and risk in security management (TRiSM) framework allows cybersecurity teams to know where to embed AI-specific threat mitigations directly into the AI application development process.”

Securing an AI application does not always mean starting from scratch. There are many AI security startups that offer broader and deeper capabilities as organizations mature and need more security around their use of AI. To address this threat, CISOs should apply secure development life cycle and threat modeling best practices to AI applications. They should also strengthen data security by improving data classification, adopt purpose-based access control (PBAC) and implement runtime monitoring.

Identity Impersonation Using Deepfakes

The advent of GenAI has dramatically increased the volume, fidelity and accessibility of deepfake creation across voice, video, and images, both as pre-recorded artifacts or generated in real-time. This has expanded the opportunity for attackers to impersonate identities across a range of attack surfaces. Deepfakes can be used to attack biometric authentication processes, can be combined with social engineering in real-time attacks on employees and can be used to subvert recruitment processes.

“Attacker use of deepfakes continues to advance and is now commonplace to make fraud and phishing scams difficult to detect,” said Watts. “There is no one cybersecurity control that will protect you. Instead organizations should use a combination of strengthening business processes, improving awareness, and deploying available deepfake detection technologies where possible.”

As a result, cybersecurity teams must look beyond deepfake detection and strengthen controls to protect the integrity of real‑time communications, as well as biometric authentication and verification processes by considering the following:

Build a robust mitigation strategy by recognizing that deepfake detection alone is not sufficient to detect and prevent deepfake identity impersonation attacks. Instead focus on layers of controls that will vary by use case.
Protect biometric identity verification by focusing on presentation and injection attack detection in addition to contextual signals.
Secure online meetings by implementing conditional access policies to enforce strong authentication for call participants and analysis of call metadata.

Software Supply Chain Threats

“The evolution of GenAI offerings will only accelerate the trend of software supply chain attacks through vulnerabilities in open source software,” said Watts. “Organizations must work towards trusted component registries, hardening their CI/CD pipelines and building strong operational anomaly detection and response capabilities.”

Cybersecurity teams should build comprehensive inventories of software assets while integrating strong controls at every stage of development. These measures help defend against emerging threats that target both traditional applications and modern AI-powered pipelines. With this in mind, CISOs should:

Require SBOMs (and AIBOMs) from all vendors; assess every component for risk using tools with up-to-date threat intelligence before deployment.
Use curated repositories for third-party code, container images and AI models; enforce branch protection on code repositories.
Sign artifacts during builds; implement least-privilege access controls on build systems; continuously monitor runtime activity by agentic tools.

Prompt Injection

Prompt injection is a cybersecurity threat targeting AI systems, especially those using large language models (LLMs). Attackers manipulate prompts to alter the model’s behavior, causing it to leak sensitive information, perform unauthorized actions, or bypass controls. As organizations increasingly adopt GenAI, the risk of prompt injection expands, making it a critical issue for cybersecurity teams.

To effectively counter prompt injection threats, cybersecurity teams should implement a layered mitigation strategy. This involves AI security testing to proactively identify vulnerabilities, establishing strong system prompts to guide AI behavior, and deploying AI runtime guardrails that monitor for and block suspicious activity. Key actions for CISOs include:

Implement input validation and sanitization to filter out potentially malicious prompts.
Establish monitoring and alerting for abnormal AI behavior that may indicate successful prompt injection.
Integrate prompt injection testing into the AI system development lifecycle.
Leverage the outcomes of the testing to improve runtime controls.

การ์ทเนอร์ อิงก์ บริษัทวิจัยและให้คำปรึกษาชั้นนำด้านธุรกิจและเทคโนโลยี เปิดเผยว่า ปัจจุบันมีภัยคุกคามสำคัญและคาดการณ์ได้ยากอยู่ 4 ประการ ซึ่งเป็นจุดที่กลุ่มผู้โจมตีมีความได้เปรียบอย่างมากเพื่อใช้เจาะช่องโหว่ขององค์กรเป้าหมายได้สำเร็จ ภัยคุกคามเหล่านี้ประกอบไปด้วย ดีปเฟก (Deepfakes), การโจมตีแอปพลิเคชัน AI (AI Application Compromise), การโจมตีด้วยพรอมต์ (Prompt Injection) และภัยคุกคามต่อห่วงโซ่อุปทานซอฟต์แวร์ (Software Supply Chains)

ขอบเขตของภัยคุกคาม ThreatScape คาดการณ์โดยการ์ทเนอร์ ได้จัดหมวดหมู่ภัยคุกคามออกเป็น 6 หมวดที่แตกต่างกัน โดยใช้แกนวัด 2 แกนหลัก ได้แก่:

การจำแนกภัยคุกคาม โดยพิจารณาจากคุณภาพและปริมาณข้อมูล ที่เรียกว่า “สัญญาณภัยคุกคาม” หรือ Threat Signal ที่มีอยู่
การประเมินภัยคุกคาม โดยอิงจากความสามารถขององค์กรในการจัดการกับภัยคุกคามนั้น ๆ และการประเมินว่าผู้โจมตีเป็นฝ่ายกุมความได้เปรียบอยู่หรือไม่

จอห์น วัตตส์ (John Watts) รองประธานนักวิเคราะห์การ์ทเนอร์ กล่าวว่า “การที่บริษัทผู้พัฒนา AI ชั้นนำ พยายามนำเสนอแนวคิดความปลอดภัยใหม่ ๆ เข้ามา ได้สร้าง ‘สัญญาณรบกวน’ จำนวนมากให้แก่สภาพแวดล้อมภัยคุกคามที่เดิมทีก็วุ่นวายอยู่แล้ว โดยผู้นำไซเบอร์ซีเคียวริตี้จำเป็นต้องมีความสามารถแยกแยะ ‘สัญญาณภัยคุกคามที่แท้จริง’ ออกจากสัญญาณรบกวนเหล่านั้นให้จงได้ เพื่อรับมือกับการเปลี่ยนแปลงของภูมิทัศน์ภัยคุกคามได้ทันเวลา”

ภายในงานสัมมนา Gartner Security & Risk Management Summit นักวิเคราะห์วัตตส์ได้อธิบายถึงวิธีที่ผู้บริหารความมั่นคงปลอดภัยสารสนเทศ (หรือ CISO) ใช้รับมือกับภัยคุกคามสำคัญทั้ง 4 ประการนี้ไว้ดังนี้:

1.การโจมตีไปที่แอปพลิเคชัน AI (AI Application Compromise)

การโจมตีแอปพลิเคชัน AI ถูกจัดให้อยู่ในกลุ่มภัยคุกคามสำคัญ เนื่องจากผู้โจมตีพุ่งเป้าไปที่เครื่องมือ AI ขององค์กรที่มีจำนวนเพิ่มมากขึ้นเรื่อย ๆ ทั้งระบบภายในและภายนอกที่เปิดให้สาธารณะใช้งาน ปัจจุบันพื้นที่การโจมตียังขยายวงกว้าง รวมไปถึงระบบเอเจนต์ที่พัฒนาขึ้นเฉพาะ หรือ Custom-built agents, การเชื่อมต่อกับระบบภายนอก หรือ Third-party integrations และแอปพลิเคชันเฉพาะสำหรับพนักงาน หรือ Employee-only applications ซึ่งมักทำให้ข้อมูลที่ละเอียดอ่อนหรือรหัสผ่านรั่วไหล หากระบบควบคุมความปลอดภัยมีความหละหลวม

“ทีมไซเบอร์ซีเคียวริตี้จำเป็นต้องขยายขอบเขตการทำงานให้เกินกว่าการปกป้องซอฟต์แวร์แบบดั้งเดิม โดยต้องสำรวจและจัดทำผังพื้นที่การโจมตีรูปแบบใหม่ ๆ ที่เกิดจากโมเดล Generative AI หรือ Agentic Tools โดยการนำกรอบการทำงาน TRiSM (Trust, Risk and Security Management ในระบบ AI) ของการ์ทเนอร์มาปรับใช้ จะช่วยให้ทีมไซเบอร์ทราบว่าควรจะนำมาตรการลดความเสี่ยงเฉพาะของ AI ไปฝังไว้ในขั้นตอนการพัฒนาแอปพลิเคชัน AI ได้อย่างไร” วัตตส์กล่าวเสริม

การรักษาความปลอดภัยให้แอปพลิเคชัน AI ไม่จำเป็นต้องเริ่มนับหนึ่งเสมอไป ปัจจุบันมีสตาร์ทอัปด้านนี้หลายรายที่นำเสนอโซลูชันที่มีความสามารถใช้ได้ในวงกว้างและลึก ตอบโจทย์องค์กรที่เริ่มมีความพร้อมสูงและต้องการความปลอดภัยที่รัดกุมรอบด้าน สำหรับรับมือกับภัยคุกคามประเภทนี้ ผู้บริหาร CISO ควรนำแนวปฏิบัติที่ดีที่สุดของวงจรการพัฒนาซอฟต์แวร์ที่ปลอดภัยหรือ Secure Development Life Cycle และ การจำลองรูปแบบภัยคุกคามหรือ Threat Modeling มาปรับใช้กับแอปพลิเคชัน AI นอกจากนี้ ควรยกระดับความปลอดภัยข้อมูลโดยจัดหมวดหมู่ข้อมูลให้ดีขึ้น พร้อมนำระบบควบคุมการเข้าถึงตามวัตถุประสงค์ หรือที่เรียกว่า Purpose-Based Access Control – PBAC มาใช้ และติดตั้งระบบตรวจสอบการทำงาน

การปลอมแปลงตัวตนด้วยดีปเฟก (Identity Impersonation Using Deepfakes)

การมาถึงของ GenAI ทำให้ปริมาณ ความสมจริง และการเข้าถึงเครื่องมือสร้างดีปเฟกเพิ่มขึ้นมหาศาล ไม่ว่าจะเป็นเสียง วิดีโอ หรือภาพ ทั้งในรูปแบบของสื่อที่บันทึกไว้ล่วงหน้าหรือสร้างขึ้นเรียลไทม์ เหตุนี้จึงเพิ่มโอกาสให้แฮกเกอร์สามารถปลอมแปลงตัวตนเพื่อโจมตีในหลากหลายช่องทาง ดีปเฟกยังสามารถนำมาใช้โจมตีระบบตรวจสอบตัวตนด้วยชีวมิติ (Biometric Authentication เช่น การสแกนหน้า/เสียง), ใช้ร่วมกับกลอุบายวิศวกรรมทางสังคม (Social Engineering) เพื่อพุ่งเป้าหลอกลวงพนักงานแบบเรียลไทม์ และใช้แทรกซึมหรือหลอกลวงกระบวนการสรรหาบุคลากรได้

“การใช้ดีปเฟกของผู้โจมตียังพัฒนาก้าวหน้าอย่างต่อเนื่อง และกลายเป็นเรื่องปกติแล้วเพื่อทำให้การหลอกลวงแบบ Phishing ตรวจจับได้ยากขึ้น ไม่มีมาตรการควบคุมทางไซเบอร์เพียงหนึ่งเดียวที่จะปกป้องคุณได้ทั้งหมด ดังนั้นองค์กรจึงควรเสริมความแข็งแกร่งให้กับกระบวนการทางธุรกิจ การยกระดับความตระหนักรู้ของบุคลากร และการติดตั้งเทคโนโลยีตรวจจับดีปเฟกเท่าที่จะทำได้อย่างบูรณาการ” วัตตส์กล่าว

ทีมไซเบอร์ซีเคียวริตี้ต้องมองให้ไกลไปกว่า “การตรวจจับดีปเฟก” แต่ต้องเพิ่มความเข้มงวดเพื่อปกป้องความถูกต้องของการสื่อสารเรียลไทม์ รวมถึงกระบวนการตรวจสอบและยืนยันตัวตนด้วยชีวมิติ โดยพิจารณาจากสิ่งต่อไปนี้:

สร้างกลยุทธ์การลดความเสี่ยงที่ยืดหยุ่น: พึงระลึกไว้ว่า ลำพังแค่เทคโนโลยีตรวจจับดีปเฟกนั้นไม่เพียงพอที่จะป้องกันการโจมตีด้วยการปลอมแปลงตัวตน แต่ต้องมุ่งเน้นไปที่การควบคุมความปลอดภัยแบบเป็นชั้น ๆ หรือ Layers of Controls ซึ่งจะแตกต่างกันไปตามยูสเคสการใช้งาน
ปกป้องการยืนยันตัวตนด้วยชีวมิติ: มุ่งเน้นไปที่การตรวจจับการโจมตีแบบ Presentation Attack อาทิ การใช้รูปหรือหน้ากากหลอกกล้อง และ Injection Attack อาทิ การสอดแทรกข้อมูลภาพ/เสียงเข้าไปในระบบโดยตรง ควบคู่ไปกับการวิเคราะห์สัญญาณเชิงบริบท (Contextual Signals)
รักษาความปลอดภัยการประชุมออนไลน์: บังคับใช้นโยบายการเข้าถึงแบบมีเงื่อนไข (Conditional Access Policies) เพื่อให้ผู้เข้าร่วมประชุมต้องยืนยันตัวตนอย่างแน่นหนา และทำการวิเคราะห์ข้อมูล Metadata ของการโทรนั้น ๆ

ภัยคุกคามต่อห่วงโซ่อุปทานซอฟต์แวร์ (Software Supply Chain Threats)

“วิวัฒนาการของผลิตภัณฑ์ GenAI จะยิ่งเร่งให้เกิดแนวโน้มการโจมตีห่วงโซ่อุปทานซอฟต์แวร์ผ่านช่องโหว่ในซอฟต์แวร์โอเพนซอร์สรวดเร็วยิ่งขึ้น องค์กรต่าง ๆ ต้องสร้างระบบขึ้นทะเบียนส่วนประกอบซอฟต์แวร์ที่เชื่อถือได้ หรือที่เรียกว่า Trusted Component Registries, พร้อมยกระดับความปลอดภัยในกระบวนการสร้างและส่งมอบซอฟต์แวร์ (CI/CD Pipelines) รวมถึงการสร้างระบบตรวจจับและตอบสนองต่อความผิดปกติในเชิงปฏิบัติการที่แข็งแกร่ง” วัตตส์กล่าว

ทีมไซเบอร์ซีเคียวริตี้ควรจัดทำบัญชีรายชื่อสินทรัพย์ซอฟต์แวร์ทั้งหมดให้ครอบคลุม พร้อมทั้งบูรณาการระบบควบคุมที่เข้มงวดในทุก ๆ ขั้นตอนของการพัฒนา โดยมาตรการเหล่านี้จะช่วยป้องกันภัยคุกคามใหม่ ๆ ที่พุ่งเป้าไปที่ทั้งแอปพลิเคชันแบบดั้งเดิมและกระบวนการทำงาน AI สมัยใหม่ โดยผู้บริหาร CISO ควรดำเนินการ ดังนี้:

กำหนดให้ผู้จำหน่ายซอฟต์แวร์ต้องส่งมอบเอกสาร SBOM ย่อมาจาก Software Bill of Materials หมายถึง รายการส่วนประกอบซอฟต์แวร์ และ AIBOM ย่อมาจาก AI Bill of Materials หมายถึง รายการส่วนประกอบของ AI พร้อมประเมินความเสี่ยงของทุกชิ้นส่วนโดยใช้เครื่องมือที่มีฐานข้อมูลภัยคุกคาม (Threat Intelligence) ที่อัปเดตล่าสุด ก่อนนำไปติดตั้งใช้งาน
ใช้คลังจัดเก็บโค้ดที่ผ่านการตรวจสอบและคัดสรรแล้ว สำหรับโค้ดจากภายนอก, Container Images หรือไฟล์คงที่ที่ไม่สามารถเปลี่ยนแปลงได้ ซึ่งทำหน้าที่เป็นแบบแผนสำหรับการสร้างคอนเทนเนอร์ซอฟต์แวร์ และโมเดล AI รวมถึงบังคับใช้ระบบป้องกันการแก้ไขโค้ด (Branch Protection) ในคลังเก็บโค้ด
ลงนามดิจิทัลเข้ากับส่วนประกอบของซอฟต์แวร์ในขั้นตอนการพัฒนา, บังคับใช้ระบบควบคุมสิทธิ์การเข้าถึงเท่าที่จำเป็น (Least-Privilege) ในระบบ Build และคอยตรวจสอบกิจกรรมการทำงานขณะรันไทม์ของเครื่องมือเอเจนต์อัตโนมัติอย่างต่อเนื่อง

การโจมตีด้วยพรอมต์ (Prompt Injection)

การโจมตีด้วยพรอมต์ หรือ Prompt Injection เป็นภัยคุกคามไซเบอร์ที่พุ่งเป้าไปที่ระบบ AI โดยเฉพาะระบบที่ใช้โมเดลภาษาขนาดใหญ่ (LLMs) ผู้โจมตีจะทำการปรับแต่งหรือแทรกคำสั่ง (Prompts) เพื่อบิดเบือนพฤติกรรมโมเดล ส่งผลให้โมเดลทำข้อมูลที่ละเอียดอ่อนรั่วไหลออกมา ทำสิ่งที่ไม่ได้รับอนุญาต หรือข้ามผ่านระบบควบคุมความปลอดภัย ยิ่งองค์กรต่าง ๆ หันมาใช้ GenAI มากขึ้น ความเสี่ยงของ Prompt Injection ก็ยิ่งขยายตัว จนกลายเป็นวิกฤตที่ทีมไซเบอร์ซีเคียวริตี้มองข้ามไม่ได้เลย

เพื่อต่อสู้กับภัยคุกคาม Prompt Injection ได้อย่างมีประสิทธิภาพ ทีมไซเบอร์ซีเคียวริตี้ควรใช้กลยุทธ์การป้องกันแบบเป็นชั้น ๆ ซึ่งรวมถึงการทดสอบความปลอดภัยของ AI เพื่อค้นหาช่องโหว่เชิงรุก, การกำหนด “คำสั่งเชิงระบบ” (System Prompts) ที่แข็งแกร่งเพื่อควบคุมพฤติกรรม AI และติดตั้งระบบคัดกรองพฤติกรรม AI ขณะรันไทม์ (AI Runtime Guardrails) เพื่อคอยตรวจสอบและบล็อกกิจกรรมที่น่าสงสัย โดยผู้บริหาร CISO สามารถดำเนินงานสำคัญ ๆ ได้ ดังนี้:

นำระบบตรวจสอบและล้างข้อมูลอินพุตมาใช้ (Input Validation and Sanitization) เพื่อกรองคำสั่งที่อาจแฝงประสงค์ร้ายออกไปก่อนส่งให้ AI
จัดตั้งระบบตรวจสอบและแจ้งเตือน (Monitoring and Alerting) สำหรับตรวจสอบพฤติกรรมของ AI ที่ผิดปกติ ซึ่งอาจเป็นสัญญาณบ่งชี้ว่าระบบถูกโจมตีด้วย Prompt Injection สำเร็จแล้ว
ผสานการทดสอบ Prompt Injection เข้าเป็นส่วนหนึ่งของวงจรการพัฒนาระบบ AI (AI System Development Lifecycle)
นำผลลัพธ์จากการทดสอบ มาปรับปรุงและพัฒนาเครื่องมือควบคุมความปลอดภัยขณะรันไทม์ (Runtime Controls) ให้ดียิ่งขึ้น

Gartner