การวิเคราะห์ต้นทุน Generative AI Cost ในองค์กรและกลยุทธ์ลดต้นทุน
สวัสดีค่ะ,, ในบทความนี้นิกจะพาทุกท่านไปทำความรู้จักกับหลักการวิเคราะห์ต้นทุน Generative AI Cost ในองค์กรและกลยุทธ์ลดต้นทุน ซึ่งเป็นสิ่งสำคัญมากสำหรับนักการตลาดยุคดิจิทัลที่เทคโนโลยีก้าวหน้าอย่างรวดเร็ว และ Generative AI กลายเป็นส่วนหนึ่งในการทำงานของพวกเราค่ะ
อย่างที่เราทราบกันดีว่า Generative AI โดยเฉพาะอย่างยิ่ง LLMs เป็นเครื่องมือที่มีประสิทธิภาพมากๆ สำหรับองค์กรที่ต้องการปรับปรุงการวิเคราะห์ข้อมูล และสร้างนวัตกรรมใหม่ ทั้งในส่วนของการปรับแต่งประสบการณ์ลูกค้าเพื่อเพิ่มภาพลักษณ์ที่ดีของแบรนด์ หรือการวิเคราะห์ข้อมูลเชิงลึกของลูกค้าเพื่อเพิ่มยอดขาย รวมถึงการเพิ่มความปลอดภัยในการดำเนินธุรกิจและการจัดเก็บข้อมูลส่วนบุคคลของลูกค้า
แต่การนำ Generative AI มาใช้งานอย่าง Cost Effective กลับไม่ได้เป็นเรื่องง่ายอย่างที่เราคิดค่ะ เนื่องจาก AI, LLMs แต่ละประเภท/ แต่ละแพลตฟอร์ม ต่างก็มีต้นทุนที่เกี่ยวข้องที่แตกต่างกัน ซึ่งเราจะต้องมีการพิจารณาวิธีการวิเคราะห์ที่เฉพาะเจาะจงลงไป,, ว่าแล้วเราก็มาพิจารณาไปพร้อมๆ กันได้เลยค่ะ^^
Generative AI Cost
ต้นทุนของการใช้งาน Generative AI สามารถวิเคราะห์ได้หลักๆ เป็น 2 ประเภทคือ
- ต้นทุนทางตรง (Direct cost) สามารถพิจารณาตัวอย่างเป็น 3 ส่วนหลักดังนี้
1. ค่าใช้จ่ายในการพัฒนาโมเดล (Model Development Costs) ซึ่งประกอบด้วยค่าใช้จ่ายในการ Train โมเดล หรือการจ้างผู้เชี่ยวชาญเพื่อพัฒนาและปรับปรุงโมเดล รวมถึงค่าลิขสิทธิ์ซอฟต์แวร์ ค่าเช่าเซิร์ฟเวอร์หรือการใช้บริการคลาวด์เพื่อการ Train โมเดล
2. ค่าใช้จ่ายในการจัดหาข้อมูล (Data Acquisition Costs) เป็นค่าใช้จ่ายในการรวบรวมข้อมูลจากแหล่งต่าง ๆ เช่น การซื้อข้อมูลจากผู้ให้บริการบุคคลที่สาม หรือการสร้างชุดข้อมูลเฉพาะสำหรับ Training โมเดล AI ซึ่งค่าใช้จ่ายในส่วนนี้จะรวมถึงการจ้างบุคคลากรเพื่อจัดเตรียมและจัดการข้อมูลในขั้นตอน Data Preparation ด้วย (และสำหรับหน่วยงานไหนที่ได้ Social Listening tools ของแพลตฟอร์มต่างๆ ก็ถือเป็นค่าใช้จ่ายในส่วนนี้ด้วยค่ะ)
3. ค่าใช้จ่ายในบำรุงรักษา (Hosting and Maintenance Costs) ส่วนนี้จะเป็นค่าใช้จ่ายในการโฮสต์โมเดล AI บนเซิร์ฟเวอร์ หรือบริการคลาวด์ เช่น Google Cloud, AWS, หรือ Microsoft Azure และการบำรุงรักษาระบบของเรามีความพร้อมใช้งานตลอดเวลา ซึ่งรวมถึงค่าใช้จ่ายรายเดือนหรือรายปีสำหรับบริการ Hosting ค่าไฟฟ้า และค่าใช้จ่ายในการบำรุงรักษาเซิร์ฟเวอร์ต่างๆ
- ต้นทุนทางอ้อม (Indirect Cost) สามารถพิจารณาตัวอย่างเป็น 3 ส่วนหลักดังนี้
1. ค่าใช้จ่ายในการฝึกอบรมและพัฒนาทักษะ: ของพนักงานและส่วนที่เกี่ยวข้อง (Training/ Skill Development Costs) ให้มีความรู้และทักษะในการใช้งาน หรือการพัฒนา Generative AI (หากจำเป็น) เพื่อให้สามารถนำเทคโนโลยีนี้ไปประยุกต์ใช้ได้อย่างมีประสิทธิภาพ โดยค่าใช้จ่ายนี้รวมถึงค่าใช้จ่ายในการจัดการอบรม และการจ้างวิทยากร รวมถึงการเข้าถึงแหล่งข้อมูลออนไลน์/คอร์สออนไลน์ต่างๆ
2. ค่าใช้จ่ายในการจัดการและปรับปรุงระบบ (Management/ System Improvement Costs) ซึ่งส่วนนี้จะรวมถึงค่าใช้จ่ายในการบริหารจัดการโครงการและภาคส่วนของงานที่มีการใช้ AI รวมถึงค่าใช้จ่ายในการปรับปรุง และอัปเดตระบบให้มีประสิทธิภาพอยู่เสมอ (และหากมีการขยายส่วนงาน/ ขนาดองค์กร ค่าใช้จ่ายในการขยายส่วนงานก็จะอยู่ในข้อนี้ด้วยค่ะ)
3. ค่าใช้จ่ายด้านความปลอดภัยและการควบคุมความเป็นส่วนตัว (Security/ Privacy Management Costs) นับเป็นอีกส่วนที่สำคัญมากๆ นั่นคือการรักษาความปลอดภัยของข้อมูล และการปฏิบัติตามกฎระเบียบด้านความเป็นส่วนตัว เช่น PDPA โดยค่าใช้จ่ายนี้รวมถึงค่าใช้จ่ายในการติดตั้งระบบความปลอดภัย การตรวจสอบและปรับปรุงระบบความป - ลอดภัย และการจัดการความเป็นส่วนตัวของข้อมูล (โดยเฉพาะอย่างยิ่งข้อมูลส่วนบุคคลของลูกค้าค่ะ)
การคำนวณผลตอบแทนการลงทุน: ROI
หลังจากที่เราทำความเข้าใจถึงประเภทของต้นทุนการใช้งาน Generative AI แล้ว สิ่งที่เราจะมาพิจารณากันต่อคือ การคำนวณผลตอบแทนการลงทุน หรือ ROI สำหรับการนำเทคโนโลยีมาใช้ค่ะ^^
การประเมินต้นทุนและผลตอบแทนจากการลงทุน (ROI) ของการใช้เทคโนโลยีนี้ถือเป็นสิ่งสำคัญที่จะทำให้การตัดสินใจในการลงทุนด้านการประยุกต์ใช้ AI หรือ LLMs ในองค์กรหรืองานด้านการตลาดต่างๆ เป็นไปอย่างมีประสิทธิภาพ โดยตัวอย่างที่เราจะมาทำความเข้าใจไปพร้อมกันคือ,,
“การคำนวณ ROI ในการใช้ LLMs (Large Language Models) ในด้านการตลาด: MarTech”
ซึ่งการคำนวณ ROI ประกอบด้วยการเปรียบเทียบกำไรสุทธิที่ได้รับจากการใช้ LLMs กับต้นทุนเริ่มต้นและค่าใช้จ่ายในการดำเนินงานอย่างต่อเนื่อง ดังสมการต่อไปนี้ค่ะ:
เมื่อ;
- กำไรสุทธิจาก LLMs คือกำไรสุทธิที่เกิดจากการใช้ LLMs เช่น ยอดขายที่เพิ่มขึ้น การมีส่วนร่วมของลูกค้าที่ดีขึ้น และผลลัพธ์อื่นๆ ที่สร้างรายได้
- ต้นทุนรวมในการดำเนินการ LLMs คือต้นทุนเริ่มต้นในการใช้งาน LLMs เช่น การซื้อ API รวมถึงค่าใช้จ่ายในการดำเนินงาน เช่น การบำรุงรักษาและการฝึกอบรมบุคลากร
ดังนั้นเพื่อความเข้าใจที่ชัดเจนมากยิ่งขึ้น,, เรามาดูตัวอย่างการคำนวณ ROI เพื่อประเมินความเหมาะสมในการลงทุนใช้ Generative AI ดังนี้ค่ะ ヾ(^▽^*)))
#กรณีศึกษา: การใช้ Generative AI: LLMs API ในการทำ Sentiment Analysis
การทำ Sentiment Analysis คือการวิเคราะห์ความรู้สึกเพื่อเข้าใจความคิดเห็น และความรู้สึกของลูกค้าที่มีต่อสินค้าและบริการ โดยการใช้ AI ในการวิเคราะห์ความรู้สึกนั้น จะช่วยให้เราสามารถตอบสนองต่อข้อคิดเห็นและความต้องการของลูกค้าได้อย่างรวดเร็วและมีประสิทธิภาพ นอกจากนี้ยังสามารถปรับปรุงประสบการณ์ของลูกค้า และเพิ่มความพึงพอใจต่อแบรนด์ได้
ซึ่งในตัวอย่างนี้จะพิจารณาที่การเรียกใช้ฟังก์ชันผ่าน API ซึ่ง Step แรกที่เราต้องทำคือ “การคำนวณ Token” ที่ใช้ทั้งในส่วนของการป้อนข้อมูล และการส่งออกผลลัพธ์ไปสู่ลูกค้าดังนี้,,
พิจารณาว่าระบบมีคำถามจากลูกค้าประมาณ 1,000 คำถามต่อวัน หรือ 30,000 คำถามต่อเดือน โดยเฉลี่ยแต่ละคำถามมี 150 Tokens สำหรับการป้อนข้อมูล และ 500 Tokens สำหรับการส่งออกผลลัพธ์ ดังนั้นจำนวน Tokens ทั้งหมดที่เราจะนำมาคิดเป็นต้นทุนจะเท่ากับ 5,000,000 Tokens สำหรับการป้อนข้อมูล (และอาจมีการเรียกฟังก์ชันเสริมสำหรับแต่ละคำสั่งประมาณ 150 Tokens ทำให้จำนวน Tokens รวมเป็น 10,000,000 Tokens สำหรับการป้อนข้อมูล) และ 16,000,000 Tokens สำหรับการส่งออกผลลัพธ์
Step ต่อมา ก็คือส่วนของการคำนวณ “ค่าใช้จ่ายรายเดือน” ซึ่งเป็นค่าใช้จ่ายที่เกิดขึ้นทุกเดือนตามการใช้งาน ซึ่งแตกต่างกันออกไปตามแต่โมเดลที่เราใช้งาน เช่น GPT-4o, GPT-3.5 Turbo, Cohere, และ Claude เป็นต้น (เพื่อนๆ สามารถพิจารณา Cost ของแต่ละโมเดลโดยคร่าวได้ตามภาพด้านล่างนะคะ)
จากการคำนวณ ROI (กรณีที่เรามีค่าคาดการณ์กำไรสุทธิที่ได้รับจากการใช้ AI: LLMs) พบว่าการใช้ AI ในการทำ Sentiment Analysis สามารถเพิ่มยอดขาย และความพึงพอใจของลูกค้าได้ ซึ่งเป็นการสร้างกำไรสุทธิที่คุ้มค่ากับการลงทุน ทั้งในส่วนของค่าใช้จ่ายในการ Train โมเดล (กรณีที่ใช้ข้อมูลภายใน) และการใช้งาน AI ซึ่งเมื่อเปรียบเทียบกับผลประโยชน์ที่ได้รับในระยะยาวการใช้งานโดยการ Prompting สามารถช่วยลดค่าใช้จ่ายและเพิ่มประสิทธิภาพในการใช้งานได้^^
กลยุทธ์ลดต้นทุนการใช้งาน Generative AI
หลังจากที่เราทำการวิเคราะห์ต้นทุน Generative AI Cost และความคุ้มค่าในการลงทุนในองค์กรแล้ว การลดต้นทุนในการใช้ AI ก็มีความสำคัญเป็นอันดับต่อมาค่ะ
ดังนั้นในส่วนท้ายสุดของบทความนี้,, เราจะมาพิจารณากลยุทธ์ลดต้นทุนการใช้งาน Generative AI เพื่อให้เราสามารถใช้ AI ได้อย่างยั่งยืนและคุ้มค่าในระยะยาว ซึ่งมีเทคนิคที่หลักๆ ดังนี้
#การใช้ API ภายนอก:
- เพิ่มประสิทธิภาพของคำสั่ง (Optimize Query Length): ลดความยาวของคำสั่งที่ส่งไปยัง API เพื่อประหยัดจำนวน Tokens และลดค่าใช้จ่าย
- ประมวลผลแบบแบทช์ (Batch Processing): คือการรวมคำสั่งหลายคำสั่งเข้าด้วยกันเพื่อส่งในครั้งเดียว ซึ่งมีประสิทธิภาพ และช่วยให้ประหยัดต้นทุนได้มากขึ้น
- การแคชผลลัพธ์ (Caching Responses): เป็นการเก็บผลลัพธ์ที่ใช้บ่อยไว้ในหน่วยความจำ Local เพื่อลดการเรียก API ซ้ำ
- การจำกัดอัตราและการควบคุมปริมาณการใช้งาน (Rate Limiting/ Throttling): คือการควบคุมความถี่ของการเรียกใช้ API เพื่อป้องกันการใช้งานที่มากเกินไป และช่วยจัดการต้นทุน
#การโฮสต์โมเดล LLM เอง (Self-hosting LLMs):
- ปรับแต่งทรัพยากรฮาร์ดแวร์ (Optimize Hardware Resources): ในส่วนนี้จะเป็นการเลือกใช้ทรัพยากรที่ตรงกับความต้องการของโมเดลโดยจำกัดการใช้งานไม่ให้ใช้มากเกินไป
- ใช้ Architectures ของโมเดลที่มีประสิทธิภาพ (Use Efficient Model Architectures): โดยในส่วนนี้ต้องอาศัยความเข้าใจในการใช้งานโมเดล AI โดยจะเลือกใช้โมเดลขนาดเล็กลงซึ่งสามารถให้ผลลัพธ์ได้ตาม Requirement
- Model Quantization: คือการลดขนาดโมเดล และการใช้ทรัพยากรโดยการใช้ความแม่นยำที่ต่ำลง (แต่ผลลัพธ์ต้องอยู่ในเกณฑ์ที่รับได้นะคะ) สำหรับการคำนวณ
ทั้งนี้เพื่อนๆ สามารถใช้งานแผนภาพด้านล่างนี้ประกอบสำหรับวางแนวทางการนำโมเดล Generative AI: LLMs ไปใช้อย่างยั่งยืนได้ค่ะ^^
Last but not Least…
การนำ Generative AI, LLMs ไปใช้ในองค์กรทั้งในส่วนของด้านการตลาด Digital และด้านอื่นๆ เราต้องคำนึงถึงการจัดการต้นทุน การปรับแต่งโมเดล และการบำรุงรักษาอย่างต่อเนื่อง ประกอบกับการวางแผน และการประเมินต้นทุนอย่างละเอียด ซึ่งจะช่วยให้เราสามารถใช้เทคโนโลยี AI ได้อย่างยั่งยืน และมีประสิทธิภาพในระยะยาว โดยเพื่อนๆ ที่สนใจศึกษาเพิ่มเติมสามารถอ่าน Paper ฉบับเต็มได้ที่ => LLM Economics – A Guide to Generative AI Implementation Cost และมาร่วมแชร์กันนะคะ^^
