How to improve AI efficiency beyond cost optimisation

Gabriele Rigon, Director Analyst at Gartner

AI is transforming how organisations operate, innovate and compete. Yet, as AI adoption accelerates, so do the demands on energy, water and hardware required to power infrastructure, process data and deploy models and applications at scale.

These growing resource needs are creating new challenges for cost optimisation, as well as environmental sustainability and operational resilience, especially as global concerns about resource scarcity intensify.

In today’s environment where technology-driven expenses are putting pressure on margins, organisations can no longer afford to treat AI efficiency as an afterthought.

AI efficiency is the strategic optimisation of cost, performance and resource use across the AI technology stack to maximise business value. It drives financial results, resilience and sustainability, while reducing waste and risk. Business outcomes, not technical metrics, are the true measure of AI efficiency.

Gartner research shows that at least 50% of GenAI projects will overrun their budgeted costs by 2028 due to poor architectural choices and lack of operational know-how.

This trend signals a fundamental shift forcing organisations to move beyond adopting the latest technologies for their own sake. The days of chasing marginal performance gains at any cost are over.

The future of AI belongs to those that deploy smarter solutions, not just bigger large language models (LLMs). Organisations need to pivot from scale-at-any-price to efficiency-first strategies if they want sustainable growth, protected margins and long-term leadership as AI adoption increases.

Hidden costs of inefficient AI practices

The rush to adopt AI regardless of strategic fit can often lead to costly missteps.

Inefficient AI operations drive up expenses and reduce operational resilience, ultimately undermining investor confidence. As a result, stakeholders are increasingly focused on managing both the cost and value of AI use cases.

Over-engineering AI by building systems that are more complex than necessary or misaligned with business needs, drives excessive resource consumption. This not only increases operational costs, but also exacerbates environmental challenges at a time when sustainability is under growing scrutiny from regulators and stakeholders.

Executing AI efficiency

Educate consumers and builders of AI capabilities on the business value of optimising AI efficiency and keep them informed to motivate their active participation in optimisation practices. For example, highlight how streamlined AI operations strengthen operational resilience, enabling organisations to better withstand disruptions such as electricity supply constraints.

A foundational step toward AI efficiency is disciplined use case prioritisation. Evaluate each opportunity for merit, feasibility and ROI to ensure resources are focused on initiatives most likely to deliver meaningful value and align with organisational capabilities.

Once high impact use cases are identified, the next priority is embedding best practices throughout the AI technology stack and operational processes.

From the tooling perspective, efficiency can be enhanced by moving beyond LLMs alone and leveraging a combination of different AI techniques. This approach enables greater cost-effectiveness, responsiveness, and robustness in enterprise AI systems.

Engineering teams can also optimise apps for AI inference activities, which typically accounts for more energy consumption than training. This can be achieved by using smaller models, inference-optimised hardware, caching intermediate outputs and distributing access points closer to consumption.

On the infrastructure side, AI efficiency goals can be further advanced by partnering with cloud providers that demonstrate verifiable commitments to renewable energy use, high energy and water efficiency standards (such as PUE or WUE) and transparent environmental reporting..

Another critical area for advancing AI efficiency is monitoring and operations. Actively managing and optimising AI workloads, resource allocation and operational processes can yield significant cost and sustainability benefits.

Scheduling large-scale, energy-intensive processes during off-peak hours allows organisations to take advantage of less expensive, greener energy sources. Carefully distinguishing between workflows that require real-time processing versus those suitable for batch processing can also reduce costs.

Additionally, adopting GreenOps extends FinOps principles by applying sustainability metrics across IT operations. Continuously tracking energy consumption, greenhouse gas emissions and waste generation helps ensure ongoing optimisation of AI workloads while supporting broader environmental goals.

These are just a few ways to embed AI efficiency into an organisation. True impact requires action across the overall AI technology stack, including applications, selecting the right AI techniques and tools, and implementing robust data management practices.

Measuring success

AI efficiency metrics should be prioritised based on their impact on business outcomes. These measures reflect how ready a technology stack is to support critical business processes and deliver results.

Start by tracking the percentage of stakeholders trained on efficient AI principles. This metric shows how effectively the organisation is building a culture of efficiency, ensuring employees and leaders understand both the business value and practical steps required for optimisation.

Next, monitor the proportion of AI workloads running on sustainability-aware and reliable infrastructure. Prioritise deployments powered by verified renewable energy sources, measured against provider sustainability benchmarks.

Track data management efficiency by measuring the reduction in total data storage requirements and the volume of data transferred for AI workloads, which indicates improved data handling and lower resource consumption.

Finally, measure asset reuse rates across the portfolio. Evaluate how often models or software components are leveraged in multiple projects to minimise duplication of effort and maximise resource use.

By moving beyond cost optimisation and embedding efficiency across every layer of AI deployments, organisations can unlock sustainable growth while meeting today’s business challenges.

บทความโดย กาเบรียล ริกอน, ผู้อำนวยการฝ่ายวิเคราะห์การ์ทเนอร์

AI กำลังเข้ามาเปลี่ยนโฉมแนวทางการดำเนินงาน การสร้างสรรค์นวัตกรรมและการแข่งขันขององค์กรต่าง ๆ อย่างไรก็ตาม ยิ่งมีการนำ AI มาใช้งานมากขึ้นเท่าไร ความต้องการพลังงาน น้ำและฮาร์ดแวร์ที่จำเป็นต่อการขับเคลื่อนโครงสร้างพื้นฐาน การประมวลผลข้อมูล รวมถึงการติดตั้งใช้จริงของโมเดลและแอปพลิเคชันในสเกลใหญ่ก็ยิ่งเพิ่มขึ้นเป็นเงาตามตัว

ความต้องการใช้ทรัพยากรที่โตขึ้นอย่างรวดเร็วก่อให้เกิดความท้าทายใหม่ ๆ ในการเพิ่มประสิทธิภาพด้านต้นทุน ตลอดจนความยั่งยืนด้านสิ่งแวดล้อมและความยืดหยุ่นในการดำเนินงาน โดยเฉพาะอย่างยิ่งเมื่อทั่วโลกต่างกังวลกับปัญหาการขาดแคลนทรัพยากรที่ทวีความรุนแรงมากยิ่งขึ้น

สภาพแวดล้อมปัจจุบันที่ค่าใช้จ่ายเทคโนโลยีส่งผลกระทบต่อผลกำไรองค์กรจนไม่สามารถมองข้ามเรื่องประสิทธิภาพ AI ให้เป็นเพียงเรื่องที่เอาไว้ค่อยมาคิดภายหลังได้อีกต่อไป

ผลวิจัยการ์ทเนอร์ชี้ให้เห็นว่าภายในปี 2571 โครงการ GenAI อย่างน้อย 50% จะมีค่าใช้จ่ายบานปลายเกินกว่างบประมาณที่ตั้งไว้ อันเนื่องมาจากการเลือกสถาปัตยกรรมที่ไม่เหมาะสมและขาดความรู้ความเข้าใจในเชิงปฏิบัติการ

แนวโน้มนี้เป็นสัญญาณบ่งชี้ถึงการเปลี่ยนแปลงครั้งสำคัญบีบให้องค์กรต่าง ๆ ต้องก้าวข้ามการวิ่งตามเทคโนโลยีล่าสุดเพียงเพราะกระแส ยุคแห่งการไล่ล่าพัฒนาการทางด้านสมรรถนะเพียงเล็ก ๆ น้อย ๆ โดยยอมแลกกับต้นทุนมหาศาลได้สิ้นสุดลงแล้ว

อนาคตของ AI จะเป็นขององค์กรที่เลือกใช้โซลูชันที่ชาญฉลาดกว่า ไม่ใช่แค่การใช้โมเดลภาษาขนาดใหญ่ที่มีขีดความสามารถและขนาดที่เหนือกว่าเดิม ดังนั้นองค์กรจำเป็นต้องปรับเปลี่ยนกลยุทธ์จากการมุ่งขยายขนาดโดยไม่สนใจเรื่องราคา (Scale-At-Any-Price) มาเป็น “การให้ความสำคัญกับประสิทธิภาพเป็นอันดับแรก” (Efficiency-first) หากต้องการการเติบโตที่ยั่งยืน รักษากำไรและความเป็นผู้นำระยะยาวในยุคที่ AI ถูกนำมาใช้งานอย่างต่อเนื่อง

ต้นทุนแฝงจากการใช้ AI ที่ขาดประสิทธิภาพ

ความเร่งรีบในการนำ AI มาใช้โดยไม่ได้พิจารณาถึงความสอดคล้องกับกลยุทธ์ มักนำไปสู่ความผิดพลาดที่มีราคาแพง

การดำเนินงานด้าน AI ที่ขาดประสิทธิภาพจะทำให้ค่าใช้จ่ายสูงขึ้นและลดความยืดหยุ่นในการปฏิบัติงาน ท้ายที่สุดจะทำลายความเชื่อมั่นนักลงทุน ส่งผลให้กลุ่มผู้มีส่วนได้เสียหันมาให้ความสนใจกับการบริหารจัดการทั้งต้นทุนและมูลค่าที่ได้รับจากการนำ AI ไปใช้งานแต่ละยูสเคสมากยิ่งขึ้น

การออกแบบระบบ AI โดยการสร้างระบบที่มีความซับซ้อนเกินกว่างาน หรือไม่สอดคล้องกับความต้องการทางธุรกิจจะนำไปสู่การบริโภคทรัพยากรเกินขนาด ซึ่งไม่เพียงแต่จะเพิ่มต้นทุนการดำเนินงานเท่านั้น แต่ยังซ้ำเติมปัญหาด้านสิ่งแวดล้อมในยุคที่ประเด็นความยั่งยืนกำลังถูกตรวจสอบอย่างเข้มงวดจากทั้งหน่วยงานกำกับดูแลและผู้มีส่วนได้เสีย

ขับเคลื่อนประสิทธิภาพ AI ให้เกิดขึ้นจริง

องค์กรควรให้ความรู้แก่กลุ่มผู้ใช้งาน และกลุ่มทีมผู้สร้างระบบ AI ให้เข้าใจถึงมูลค่าทางธุรกิจของการเพิ่มประสิทธิภาพ AI พร้อมทั้งอัปเดตข้อมูลข่าวสารเพื่อกระตุ้นให้เกิดการมีส่วนร่วมอย่างจริงจังอย่างต่อเนื่องในการปฏิบัติงาน ตัวอย่างเช่น การชี้ให้เห็นว่าการปรับปรุงกระบวนการทำงานของ AI ให้กระชับจะช่วยเสริมความแข็งแกร่งและสร้างความยืดหยุ่นการดำเนินงานอย่างไร ทำให้องค์กรรับมือกับสภาวะการหยุดชะงักต่าง ๆ อาทิ ข้อจำกัดด้านการจ่ายกระแสไฟฟ้าได้ดียิ่งขึ้น

ขั้นตอนพื้นฐานไปสู่การสร้างประสิทธิภาพ AI คือการจัดลำดับความสำคัญของยูสเคสอย่างมีระเบียบ โดยประเมินโอกาสแต่ละด้านทั้งในแง่ของคุณค่า ความเป็นไปได้ และผลตอบแทนจากการลงทุน (ROI) เพื่อให้มั่นใจว่าทรัพยากรจะถูกนำไปใช้กับโครงการที่มีแนวโน้มว่าจะสร้างมูลค่าได้อย่างเป็นรูปธรรม และสอดรับกับขีดความสามารถองค์กรที่สุด

เมื่อระบุยูสเคสที่มีศักยภาพได้แล้ว ลำดับถัดมาคือการฝังแนวทางปฏิบัติที่ดีที่สุดลงไปในทุกเลเยอร์ของเทคโนโลยี AI และกระบวนการปฏิบัติงาน

ในประเด็นของการใช้เครื่องมือ สามารถเพิ่มประสิทธิภาพได้นอกเหนือจากการพึ่งพาเพียงแค่ LLM โดยหันมาผสานรวมเทคนิค AI ที่หลากหลายแทน ซึ่งแนวทางนี้จะช่วยให้ระบบ AI ขององค์กรมีความคุ้มค่าต่อต้นทุน ตอบสนองรวดเร็วขึ้น และเสถียรมากยิ่งขึ้น

ทีมวิศวกรยังสามารถปรับแต่งแอปพลิเคชันให้เหมาะกับขั้นตอนการอนุมานของ AI หรือ AI Inference ซึ่งโดยทั่วไปแล้วขั้นตอนนี้จะสิ้นเปลืองพลังงานมากกว่าขั้นตอนการฝึกฝนโมเดล แต่สามารถทำได้ผ่านการใช้โมเดลขนาดเล็กลง, ใช้ฮาร์ดแวร์ที่ปรับแต่งมาเพื่อการอนุมานโดยเฉพาะหรือทำแคชชิ่ง (Caching) ที่เป็นการเก็บข้อมูลชั่วคราวไว้ในพื้นที่ที่เข้าถึงได้เร็วกว่า

ด้านโครงสร้างพื้นฐาน เป้าหมายการเพิ่มประสิทธิภาพ AI ยังสามารถยกระดับได้โดยการจับมือเป็นพันธมิตรร่วมกับผู้ให้บริการคลาวด์ที่ใช้พลังงานหมุนเวียน มีมาตรฐานการใช้พลังงานและน้ำที่มีประสิทธิภาพสูง (โดยพิจารณาจากค่า PUE หรือ WUE) และมีการรายงานผลกระทบต่อสิ่งแวดล้อมอย่างโปร่งใส

การมอนิเตอร์และการปฏิบัติงาน ถือเป็นอีกปัจจัยสำคัญเพื่อเพิ่มประสิทธิภาพให้ AI โดยแนวทางการบริหารจัดการและการเพิ่มประสิทธิภาพแบบเชิงรุกต่อปริมาณงาน AI, การจัดสรรทรัพยากรและกระบวนการดำเนินงาน ทั้งหมดนี้ล้วนสามารถสร้างผลลัพธ์ให้กับทั้งต้นทุนและความยั่งยืนอย่างมีนัยสำคัญ

การจัดตารางเวลาสำหรับกระบวนการประมวลผลขนาดใหญ่ที่ใช้พลังงานสูงให้อยู่ในช่วงที่ไม่ใช่ช่วงพีคของการใช้พลังงาน จะช่วยให้องค์กรสามารถใช้ประโยชน์จากแหล่งพลังงานที่ราคาถูกกว่าและเป็นมิตรต่อสิ่งแวดล้อมมากกว่า นอกจากนี้ การแยกเวิร์กโฟลว์ที่ต้องประมวลผลแบบเรียลไทม์ (Real-Time Processing) กับงานที่สามารถประมวลผลแบบกลุ่ม (Batch Processing) ได้ก็สามารถช่วยลดต้นทุนลงได้เช่นกัน

การนำแนวคิด GreenOps มาใช้ เป็นการต่อยอดหลักการของ FinOps โดยการนำตัวชี้วัดด้านความยั่งยืนมาประยุกต์ใช้กับการปฏิบัติงานด้านไอทีทั้งหมด การติดตามการใช้พลังงาน การปล่อยก๊าซเรือนกระจกและการสร้างของเสียอย่างต่อเนื่องจะช่วยให้มั่นใจได้ว่าภาระงาน AI จะได้รับการเพิ่มประสิทธิภาพอยู่เสมอพร้อมทั้งสนับสนุนเป้าหมายด้านสิ่งแวดล้อมภาพรวมให้กับองค์กร

นี่เป็นเพียงตัวอย่างบางส่วนเพื่อฝังประสิทธิภาพ AI ในองค์กร ทว่าการจะสร้างผลลัพธ์ที่แท้จริงได้นั้นจำเป็นต้องดำเนินการร่วมกันในทุกเลเยอร์ของ AI Technology Stack รวมถึงตัวแอปพลิเคชัน การเลือกเทคนิคและเครื่องมือ AI ที่เหมาะสม และนำแนวทางปฏิบัติการจัดการข้อมูลที่แข็งแกร่งมาใช้

การวัดผลความสำเร็จ

ตัวชี้วัดประสิทธิภาพ AI ควรถูกจัดลำดับความสำคัญโดยอิงจากผลกระทบต่อผลลัพธ์ทางธุรกิจ มาตรวัดเหล่านี้จะสะท้อนว่าโครงสร้างเทคโนโลยีมีความพร้อมและสำคัญเพียงใดในการส่งมอบผลลัพธ์เพื่อสนับสนุนกระบวนการทางธุรกิจ

เริ่มต้นจากการติดตามเปอร์เซ็นต์ผู้มีส่วนได้เสียที่ผ่านการอบรมหลักด้านการเพิ่มประสิทธิภาพ AI โดยตัวชี้วัดนี้แสดงให้เห็นว่าองค์กรสามารถสร้างวัฒนธรรมองค์กรที่มีประสิทธิภาพ (Culture of Efficiency) ได้ดีเพียงใด เพื่อให้มั่นใจว่าพนักงานและผู้นำเข้าใจทั้งมูลค่าทางธุรกิจและขั้นตอนปฏิบัติที่จำเป็น

ลำดับถัดไปการติดตามสัดส่วนของปริมาณงาน AI ที่รันบนโครงสร้างพื้นฐานที่ใส่ใจต่อความยั่งยืนและมีความน่าเชื่อถือ โดยให้ความสำคัญกับการติดตั้งใช้งานแหล่งพลังงานหมุนเวียนที่ได้รับการตรวจสอบแล้ว เทียบกับเกณฑ์มาตรฐานด้านความยั่งยืนของผู้ให้บริการ

ติดตามประสิทธิภาพการจัดการข้อมูล (Data Management Efficiency) โดยวัดจากปริมาณพื้นที่จัดเก็บข้อมูลโดยรวมที่ลดลง และปริมาณข้อมูลที่ต้องถ่ายโอนสำหรับปริมาณงาน AI ซึ่งบ่งชี้ถึงการจัดการข้อมูลที่ดีขึ้นและการบริโภคทรัพยากรลดลง

ท้ายที่สุด วัดอัตราการนำสินทรัพย์กลับมาใช้ซ้ำทั่วทั้งพอร์ตโฟลิโอ ประเมินว่าโมเดลหรือคอมโพเนนต์ของซอฟต์แวร์ถูกนำไปใช้ประโยชน์ในหลาย ๆ โครงการบ่อยแค่ไหน เพื่อลดการทำงานที่ซ้ำซ้อนและใช้ทรัพยากรได้อย่างคุ้มค่าสูงสุด

การก้าวข้ามขีดจำกัดของการควบคุมต้นทุนแบบเดิม และการฝังประสิทธิภาพลงไปในทุกเลเยอร์ของการติดตั้งใช้งาน AI จะช่วยให้องค์กรปลดล็อกการเติบโตที่ยั่งยืน พร้อมรับมือกับความท้าทายทางธุรกิจในปัจจุบันได้อย่างมีประสิทธิภาพ

Gartner