วิธีการสร้างโครงสร้างพื้นฐานด้านไอทีที่ขับเคลื่อนด้วย AI บน Windows และ Azure

  • กำหนดสถาปัตยกรรมข้อมูลและการประมวลผลใน Azure ที่รองรับการเรียนรู้ของเครื่อง ปัญญาประดิษฐ์เชิงสร้างสรรค์ และเอเจนต์ โดยสอดคล้องกับกรอบงาน Azure Well-Architected Framework
  • ใช้บริการจัดการต่างๆ เช่น Azure Machine Learning, Foundry, Fabric และ Data Factory เพื่อฝึกฝนโมเดล จัดการข้อมูล และปรับใช้แอปพลิเคชัน AI ที่ปลอดภัยและปรับขนาดได้
  • รวมศูนย์ข้อมูลไว้ใน OneLake และ Data Lake Storage แล้วใช้ประโยชน์จากข้อมูลเหล่านั้นร่วมกับ Spark, Databricks และบริการด้านปัญญาประดิษฐ์แบบกำหนดเอง เพื่อเพิ่มมูลค่าทางธุรกิจให้สูงสุด
  • เสริมสร้างการกำกับดูแล ความปลอดภัย และการฝึกอบรมทีมงานผ่านเครื่องมือต่างๆ เช่น Azure Advisor, Well-Architected Review และใบรับรอง AI ใน Azure

โครงสร้างพื้นฐานด้านไอทีที่ใช้ AI บน Windows และ Azure

การออกแบบโครงสร้างพื้นฐานด้านไอทีที่ขับเคลื่อนด้วย AI ในสภาพแวดล้อม Windows และ Azureไม่ใช่เรื่องสำหรับห้องปฏิบัติการทดลองอีกต่อไปแล้ว ปัจจุบันเป็นความจริงที่จับต้องได้ ด้วยเครื่องมือที่ครบครัน สถาปัตยกรรมอ้างอิงที่ได้รับการปรับปรุงอย่างละเอียด และบริการจัดการที่ช่วยให้คุณสามารถเปลี่ยนจากแนวคิดไปสู่การใช้งานจริงได้ในเวลาอันสั้น ในขณะที่ยังคงควบคุมด้านความปลอดภัย การกำกับดูแล และต้นทุนได้

เป้าหมายไม่ได้อยู่ที่การ "นำ AI มาประยุกต์ใช้" บนระบบที่มีอยู่แล้วอีกต่อไป แต่เป็นการสร้างโครงสร้างพื้นฐานด้านข้อมูล การประมวลผล และความปลอดภัยที่จำเป็นเพื่อให้ปัญญาประดิษฐ์กลายเป็นส่วนหนึ่งของกระบวนการทำงานอย่างเป็นธรรมชาติ ตั้งแต่แอปพลิเคชันทางธุรกิจบน Windows ไปจนถึงโซลูชันแบบเนทีฟบน Azure ที่ผสานรวมการเรียนรู้ของเครื่องแบบดั้งเดิม AI แบบสร้างสรรค์ ตัวแทนอัจฉริยะ และการวิเคราะห์ขั้นสูง

ในบริบทของโครงสร้างพื้นฐานด้านไอทีสมัยใหม่ เราหมายถึงอะไรเมื่อพูดถึง AI?

เมื่อเราพูดถึงปัญญาประดิษฐ์ใน Azure เราหมายถึงชุดเทคโนโลยีที่ช่วยให้เครื่องจักรสามารถเลียนแบบความสามารถทางปัญญาของมนุษย์ได้เช่น การวิเคราะห์ข้อมูลที่ซับซ้อน การเข้าใจภาษาธรรมชาติ การตีความภาพและเสียง การสนทนาได้อย่างคล่องแคล่ว หรือการสร้างเนื้อหาใหม่ทั้งหมด

ในทางปฏิบัติ โครงสร้างพื้นฐานด้านไอทีที่ขับเคลื่อนด้วย AI ต้องสามารถรองรับแอปพลิเคชันต่างๆ ได้ เช่นการวิเคราะห์ข้อมูลจำนวนมหาศาลเพื่อสร้างภาพหรือวิดีโอการเข้าใจและสังเคราะห์ภาษาแบบเรียลไทม์ การโต้ตอบกับผู้ใช้ด้วยเสียง การสร้างโค้ด การคาดการณ์ หรือการเพิ่มประสิทธิภาพกระบวนการทางธุรกิจด้วยคำแนะนำอัจฉริยะ

สำหรับสถาปนิกโซลูชัน ความท้าทายมีสองด้าน ด้านหนึ่งคือการทำความเข้าใจภาพรวมทั้งหมดของ AI และแมชชีนเลิร์นนิงและอีกด้านหนึ่งคือการรู้วิธีผสานบริการ Azure ที่เหมาะสม (แมชชีนเลิร์นนิง, Azure AI, Fabric, Foundry เป็นต้น) เข้ากับการออกแบบเวิร์กโหลดโดยไม่ทำลายหลักการด้านความปลอดภัย ความน่าเชื่อถือ ประสิทธิภาพ และการเพิ่มประสิทธิภาพต้นทุน

หลักการทางสถาปัตยกรรม: กรอบงาน Azure Well-Architected Framework สำหรับ AI

ไมโครซอฟต์ได้รวบรวมประสบการณ์หลายปีไว้ในAzure Well-Architected Frameworkซึ่งสามารถนำไปปรับใช้กับงานด้าน AI และแมชชีนเลิร์นนิงได้เช่นกัน โดยมีรายละเอียดปลีกย่อยบางประการ ศูนย์สถาปัตยกรรม Azure ของไมโครซอฟต์นำเสนอสถาปัตยกรรมตัวอย่าง คู่มือโดยละเอียด และมาตรฐานพื้นฐานที่คุณสามารถ "คัดลอกและวาง" ลงในสถานการณ์ของคุณได้เกือบจะทันที ตราบใดที่คุณยึดมั่นในหลักการพื้นฐานห้าประการ ได้แก่ ความน่าเชื่อถือ ความปลอดภัย การเพิ่มประสิทธิภาพด้านต้นทุน ความเป็นเลิศในการดำเนินงาน และประสิทธิภาพด้านการทำงาน

โซลูชัน AI มีลักษณะเฉพาะที่แตกต่างกันออกไป เช่นโมเดลที่ได้รับการฝึกฝนและฝึกฝนซ้ำอย่างต่อเนื่องกระบวนการประมวลผลข้อมูลที่ไม่หยุดนิ่ง GPU ที่ใช้ร่วมกัน บริการจากภายนอก (เช่น โมเดลภาษา) ที่ใช้งานผ่าน API และ ข้อกำหนดด้าน การกำกับดูแลข้อมูล ที่เข้มงวดมากขึ้น นั่นคือเหตุผลที่คุณมีคู่มือเฉพาะสำหรับเวิร์กโหลด AI ภายใน Well-Architected Framework พร้อมคำแนะนำที่เป็นรูปธรรมสำหรับการออกแบบ ความปลอดภัย ข้อมูล และการตรวจสอบ

แนวคิดก็คือ คุณไม่จำเป็นต้องเริ่มต้นจากศูนย์: คุณสามารถใช้สถาปัตยกรรมอ้างอิงสำหรับ AI และแมชชีนเลิร์นนิงใน Azureที่มีการบันทึกไว้แล้ว (เช่น สถาปัตยกรรมที่อิงตาม Foundry และ Azure OpenAI) และปรับให้เข้ากับองค์กรของคุณ โดยเพิ่มนโยบายด้านเครือข่าย ข้อมูลประจำตัว การปฏิบัติตามกฎระเบียบ และการดำเนินงานของคุณเข้าไป

แนวคิดหลักด้าน AI สำหรับการออกแบบโครงสร้างพื้นฐาน

ก่อนที่จะกำหนดซับเน็ต บัญชีเก็บข้อมูล หรือคลัสเตอร์ สิ่งสำคัญคือต้องเข้าใจวิธีการทำงานภายในของ AI ก่อน คุณไม่จำเป็นต้องเป็นนักวิทยาศาสตร์ข้อมูล แต่คุณต้องเข้าใจองค์ประกอบพื้นฐานที่กำหนดสถาปัตยกรรมทางเทคนิค และการพึ่งพาต่างๆ ที่คุณจะต้องนำไปใช้งานและบำรุงรักษา

อัลกอริทึมและแบบจำลองการเรียนรู้ของเครื่อง

หัวใจสำคัญของโซลูชัน AI ใดๆ ก็คืออัลกอริธึมการเรียนรู้ของเครื่องซึ่งเป็นส่วนของโค้ดที่ประมวลผลข้อมูล ค้นหารูปแบบ และสร้างแบบจำลองการทำนายหรือการจำแนกประเภท อัลกอริธึมแต่ละตัวเป็นชุดคำสั่งที่จำกัด ซึ่งเครื่องจะดำเนินการทีละขั้นตอนเพื่อให้บรรลุเป้าหมายเฉพาะ เช่น การตัดสินใจว่าภาพนั้นมีสุนัขหรือแมว การตรวจจับภาษา การแปลข้อความ หรือการระบุความผิดปกติในกระบวนการทางอุตสาหกรรม

ผลลัพธ์ของการนำอัลกอริธึมเหล่านี้ไปใช้ในการฝึกฝนคือแบบจำลองการเรียนรู้ของเครื่องที่สามารถสรุปสิ่งที่ได้เรียนรู้และตัดสินใจกับข้อมูลใหม่ได้ การเลือก "ตระกูล" ของอัลกอริธึม (เช่น ต้นไม้, โครงข่ายประสาทเทียม, การถดถอย, การจัดกลุ่ม ฯลฯ) จะส่งผลต่อความต้องการด้านการประมวลผล หน่วยความจำ และพื้นที่จัดเก็บข้อมูล รวมถึงเวลาในการฝึกฝน และด้วยเหตุนี้จึงส่งผลต่อวิธีการกำหนดขนาดโครงสร้างพื้นฐาน Azure ของคุณ

การเรียนรู้ของเครื่องจักรแบบคลาสสิก

การเรียนรู้ของเครื่องแบบดั้งเดิมอาศัยอัลกอริธึมที่วิเคราะห์ข้อมูลและเรียนรู้รูปแบบ จากนั้นจึงแปลงรูปแบบเหล่านั้นเป็นการคาดการณ์โดยปกติแล้ววงจรจะเป็นดังนี้: ฝึกฝนโมเดลด้วยข้อมูลในอดีต ตรวจสอบความถูกต้องด้วยข้อมูลที่ทราบแล้ว วัดประสิทธิภาพตามตัวชี้วัดทางธุรกิจ (ความแม่นยำ การเรียกคืน AUC เป็นต้น) ปรับพารามิเตอร์ และทำซ้ำจนกว่าจะได้โมเดลที่เสถียร

ในแง่ของสถาปัตยกรรม ระบบนี้ประกอบด้วยไปป์ไลน์ข้อมูลสำหรับการฝึกฝนและการฝึกฝนซ้ำ การจัดเก็บชุดข้อมูล (สำหรับข้อมูลในอดีต การฝึกฝน การตรวจสอบ และการทดสอบ) การประมวลผลที่ปรับขนาดได้ (CPU และในบางกรณี GPU) และบริการสำหรับการใช้งานจริง ซึ่งโมเดลจะได้รับข้อมูลใหม่และส่งคืนคะแนนหรือการตัดสินใจ

การเรียนรู้เชิงลึกและโครงข่ายประสาทเทียม

เมื่อเราก้าวเข้าสู่การเรียนรู้เชิงลึก เรากำลังพูดถึงโครงข่ายประสาทเทียมที่มีหลายชั้นซึ่งประมวลผลข้อมูลแบบลำดับชั้น แต่ละชั้นจะแปลงข้อมูลนำเข้าและส่งต่อไปยังชั้นถัดไป ทำให้สามารถแสดงรูปแบบที่ซับซ้อนกว่าที่จับได้ด้วยอัลกอริธึมที่เรียบง่ายกว่าได้

สิ่งนี้ส่งผลกระทบโดยตรงต่อโครงสร้างพื้นฐาน: โมเดลการเรียนรู้เชิงลึกโดยทั่วไปต้องการข้อมูลปริมาณมากและการประมวลผลอย่างเข้มข้นซึ่งมักใช้ GPU หรือแม้แต่ฮาร์ดแวร์เฉพาะทาง ใน Azure สิ่งนี้หมายถึงการใช้ขนาดเครื่องที่เหมาะสมกับ AI บริการจัดการ เช่น Azure Machine Learning ที่มีคลัสเตอร์สำหรับการฝึกอบรม หรือแพลตฟอร์มอย่าง Azure Databricks ที่รองรับการฝึกอบรมแบบกระจาย

AI เชิงสร้างสรรค์และโมเดลภาษา

การปฏิวัติครั้งสำคัญล่าสุดคือปัญญาประดิษฐ์เชิงสร้างสรรค์ (Generative Artificial Intelligence ) ซึ่งได้รับการฝึกฝนให้สร้างเนื้อหาต้นฉบับจากข้อความ รูปภาพ เสียง หรือการผสมผสานหลายรูปแบบ ด้วยโมเดลเหล่านี้ คุณสามารถสั่งให้พวกมันเขียนรายงาน สร้างโค้ด สร้างวิดีโอสั้น หรืออธิบายรูปภาพได้ด้วยภาษาธรรมชาติ

ในหมวดหมู่นี้โมเดลภาษา มีความโดดเด่นเป็นพิเศษ โมเดลเหล่านี้ได้รับการฝึกฝนด้วยข้อความจำนวนมหาศาลและแสดงผลภายในด้วยพารามิเตอร์ (น้ำหนัก) ที่เข้ารหัสความสัมพันธ์ระหว่างคำและแนวคิด ขนาดของโมเดล (วัดเป็นพันล้านพารามิเตอร์) กำหนดทั้งความสามารถในการแสดงผลและต้นทุนในการดำเนินการอนุมาน ซึ่งมีความสำคัญอย่างยิ่งในการออกแบบแผนการขยายขนาด ข้อตกลงระดับบริการ (SLA) และงบประมาณใน Azure

ไมโครซอฟต์นำเสนอโมเดลตระกูลของตนเอง เช่นPhi-4ที่มีรุ่นเล็กกว่าอย่าง Phi-4-Mini หรือ Phi-4-Multimodal-instruct ซึ่งเน้นความสมดุลระหว่างประสิทธิภาพและต้นทุน โมเดลขนาดเล็กจะมีน้ำหนักเบากว่า ประมวลผลได้ง่ายกว่า และในบางกรณีสามารถติดตั้งไว้ใกล้ผู้ใช้หรือแม้กระทั่งบนอุปกรณ์เดียวกัน ช่วยลดความหน่วงและเพิ่มความเป็นส่วนตัว

นักบินผู้ช่วย เจ้าหน้าที่ และกัปตันของ RAG

โมเดลภาษาได้เปิดวิธีการโต้ตอบกับระบบแบบใหม่: ผู้ช่วยดิจิทัล (Digital Copilots ) ผู้ช่วยเหล่านี้ถูกผสานรวมเข้ากับแอปพลิเคชัน (เช่น Microsoft 365 Copilot) ซึ่งเข้าใจบริบทและช่วยในงานที่ซับซ้อน โดยทั่วไปผ่านทางอินเทอร์เฟซการแชท สถาปัตยกรรมพื้นฐานประกอบด้วยโมเดลภาษา ตัวเชื่อมต่อกับข้อมูลทางธุรกิจ กฎความปลอดภัย และเครื่องมือที่โมเดลสามารถเรียกใช้ได้

รูปแบบสำคัญในการเสริมประสิทธิภาพให้กับระบบนำทางร่วมเหล่านี้คือ การสร้างข้อมูลเสริม ด้วยการค้นหา (Retrieval Augmented Generation หรือ RAG)แทนที่จะพึ่งพาความรู้ "สาธารณะ" เพียงอย่างเดียวที่ใช้ในการฝึกโมเดล เราเพิ่มเลเยอร์การค้นหาที่ค้นหาจากแหล่งข้อมูลภายใน (ดัชนีเวกเตอร์ ฐานข้อมูล คลังข้อมูล) และส่งข้อมูลนั้นไปยังโมเดลเป็นบริบท ซึ่งช่วยให้เราควบคุมได้ว่าจะใช้ข้อมูลใดบ้างและจำกัดขอบเขตของคำตอบให้แคบลงได้

ในสถาปัตยกรรมขั้นสูงกว่านั้นเอเจนต์ AI จะปรากฏขึ้น ซึ่งเป็นส่วนประกอบที่ไม่เพียงแต่ตอบสนองต่อผู้ใช้เท่านั้น แต่ยังสามารถตัดสินใจอย่างอิสระ ประสานงาน และสื่อสารระหว่างกันได้อีกด้วย สถาปัตยกรรมแบบหลายเอเจนต์จะแบ่งปัญหาที่ซับซ้อนออกเป็นเอเจนต์เฉพาะทางที่ทำงานร่วมกัน บางตัวค้นหาข้อมูล บางตัววางแผน และบางตัวโต้ตอบกับ API ภายนอก เครื่องมือต่างๆ เช่น Microsoft Agent Framework หรือเวิร์กโฟลว์ Foundry ช่วยอำนวยความสะดวกในการจัดการการทำงานร่วมกันนี้

บริการ AI และฐานข้อมูลใน Azure

เมื่อเข้าใจแนวคิดหลักแล้ว ก็ถึงเวลาที่จะเชื่อมโยงแนวคิดเหล่านั้นกับบริการเฉพาะต่างๆ Azure มีชุดเครื่องมือที่ครอบคลุมมากสำหรับข้อมูล AI แบบดั้งเดิม AI เชิงสร้างสรรค์ และการกำกับดูแล เคล็ดลับคือการประกอบชุดเครื่องมือเหล่านั้นให้เหมาะสมกับกรณีการใช้งานของคุณโดยไม่สร้างส่วนประกอบที่ซ้ำซ้อนหรือสร้างระบบจัดเก็บข้อมูลแบบแยกส่วน

Azure Machine Learning และ AutoML

Azure Machine Learning คือบริการหลักสำหรับการจัดการวงจรชีวิตของแมชชีนเลิร์นนิงทั้งหมดตั้งแต่การสำรวจข้อมูลและการฝึกฝน ไปจนถึงการปรับใช้และการตรวจสอบ ประกอบด้วยเว็บอินเทอร์เฟซ SDK และการสนับสนุนเฟรมเวิร์กยอดนิยม เช่น PyTorch, TensorFlow และ scikit-learn

คุณสมบัติหลัก ได้แก่ AutoML ซึ่งช่วยเลือกอัลกอริธึม ปรับแต่งไฮเปอร์พารามิเตอร์ และสร้างฟีเจอร์บางอย่างโดยอัตโนมัติ รวมถึงการสนับสนุนMLflow ในฐานะเซิร์ฟเวอร์ติดตามผลคุณสามารถใช้พื้นที่ทำงาน Azure Machine Learning เป็นแบ็กเอนด์ของ MLflow บันทึกการทดลอง โมเดล และเมตริก และนำไปป์ไลน์การฝึกอบรมกลับมาใช้ใหม่โดยไม่ต้องเขียนโค้ดใหม่

ในระหว่างการฝึกอบรม กระบวนการทำงานแบบดั้งเดิมประกอบด้วยการติดป้ายกำกับข้อมูล การกำหนดค่าอัลกอริทึม การฝึกโมเดล การตรวจสอบความถูกต้องด้วยข้อมูลใหม่ และหากจำเป็น ก็ปรับแต่งหรือฝึกโมเดลใหม่ ในการใช้งานจริง โมเดลจะประเมินข้อมูลแบบเรียลไทม์หรือเป็นชุดผ่าน REST API จุดเชื่อมต่อแบบเรียลไทม์ หรืองานแบบแบตช์

Microsoft Foundry, Agent Service และเครื่องมือ AI เชิงสร้างสรรค์

Foundry คือแพลตฟอร์มของ Azure สำหรับการสร้างและใช้งานแอปพลิเคชัน AI แบบสร้างสรรค์ที่กำหนดเองโดยมีบัญชีและโครงการเป็นหน่วยงานสำหรับการทำงานร่วมกัน มีแคตตาล็อกของโมเดล (รวมถึง GPT, Claude, Phi, Grok เป็นต้น) เครื่องมือสำหรับการปรับแต่ง RAG และการประเมินคุณภาพ และสภาพแวดล้อมที่มีการจัดการสำหรับการใช้งานเอเจนต์และ API

Foundry Agent Service ช่วยให้สามารถสร้างเอเจนต์ AI ด้วยวิธีการเขียนโค้ดน้อยหรือไม่เขียนโค้ดเลย โดยแสดงผลในรูปแบบไมโครเซอร์วิสและเชื่อมต่อกับโมเดลพื้นฐาน คลังความรู้ส่วนตัว (สำหรับ RAG) และเครื่องมือภายนอก นอกจากนี้ Foundry Tools ยังช่วยให้สามารถผสานรวมกับบริการ Azure อื่นๆ รวมถึง SDK สำหรับการพัฒนาทั่วไป เช่น Visual Studio Code, GitHub และ Semantic Kernel ได้อีกด้วย

ข้อได้เปรียบที่สำคัญคือ คุณสามารถปรับแต่งโมเดลให้เข้ากับข้อมูลของคุณได้อย่างละเอียดทำให้ได้คำตอบที่สอดคล้องกับบริบทมากขึ้น ลดความยาวของข้อความแจ้ง และในหลายกรณี ลดต้นทุนโทเค็นและเวลาแฝงลงได้

Copilot Studio และ Copilot ใน Microsoft 365 และ Fabric

สำหรับสถานการณ์ที่ใกล้ชิดกับผู้ใช้ปลายทางมากขึ้น Copilot Studio ช่วยให้คุณสร้าง Copilot แบบกำหนดเองที่ผสานรวมกับ Microsoft 365 และช่องทางภายในหรือภายนอกอื่นๆ ได้ โดยเฉพาะอย่างยิ่งมีประโยชน์หากคุณต้องการขยาย Copilot ที่มีอยู่ด้วยเวิร์กโฟลว์ กฎทางธุรกิจ หรือการเข้าถึงระบบภายในของคุณเองโดยไม่ต้องเริ่มต้นใหม่ทั้งหมด

ในด้านข้อมูล Microsoft Fabric ได้รวมเอาตัวช่วยเฉพาะที่ช่วยในการแปลงและวิเคราะห์ข้อมูล สร้างรายงานและภาพแสดงข้อมูลและสร้างแบบสอบถามใน Power BI โดยใช้ภาษาธรรมชาติ ทั้งหมดนี้ได้รับการสนับสนุนโดย OneLake ซึ่งเป็นแหล่งเก็บข้อมูลแบบรวมศูนย์และเป็นชุดบริการด้านวิศวกรรมข้อมูล วิทยาศาสตร์ข้อมูล ระบบอัจฉริยะแบบเรียลไทม์ และคลังข้อมูลที่ใช้ร่วมกัน

แพลตฟอร์มข้อมูลและการประมวลผลสำหรับ AI บน Azure

ปัญญาประดิษฐ์ (AI) ไม่สามารถทำงานได้โดยปราศจากสภาพแวดล้อม: มันต้องการข้อมูลที่สะอาด เข้าถึงได้ และมีการกำกับดูแลที่ดี รวมถึงแพลตฟอร์มการประมวลผลที่สามารถประมวลผลข้อมูลในปริมาณมากได้ ในสภาพแวดล้อมของ Windows และ Azure สิ่งเหล่านี้สามารถทำได้โดยการผสมผสานระหว่างData Lake, Data Warehouse, Spark, Databricks และบริการการผสานรวม (Integration Services )

ไมโครซอฟต์ แฟบริค และ วันเลค

Microsoft Fabric ทำหน้าที่เป็นแพลตฟอร์มข้อมูลและการวิเคราะห์แบบครบวงจร ตั้งแต่ต้นจนจบแทนที่จะมีแหล่งข้อมูล ETL ที่เก็บข้อมูล และโมเดลที่กระจัดกระจาย Fabric จะรวมศูนย์การจัดเก็บข้อมูลไว้ใน OneLake และมอบประสบการณ์แบบบูรณาการสำหรับการวิศวกรรมข้อมูล โรงงานข้อมูล วิทยาศาสตร์ข้อมูล ระบบอัจฉริยะแบบเรียลไทม์ คลังข้อมูล และฐานข้อมูลเชิงวิเคราะห์

OneLake คือดาต้าเลคแบบรวมศูนย์เชิงตรรกะขององค์กร ซึ่งสร้างขึ้นบน Azure Data Lake Storage รองรับทั้งข้อมูลที่มีโครงสร้างและไม่มีโครงสร้างใช้ Delta-Parquet สำหรับข้อมูลแบบตาราง และอนุญาตให้แยกพื้นที่ทำงานที่มีนโยบายการเข้าถึงที่แตกต่างกัน การผสานรวมแบบสำเร็จรูปกับ Fabric ช่วยลดความยุ่งยากในการผสานรวมบริการจัดเก็บข้อมูล การประมวลผล และ AI ได้อย่างมาก

Spark บน Fabric, Azure Databricks และ HDInsight

สำหรับงานประมวลผลปริมาณมาก Spark เป็นส่วนประกอบสำคัญ ใน Fabric นั้นFabric Runtimeมีสภาพแวดล้อม Spark แบบบูรณาการ พร้อมรองรับ Delta Lake แพ็กเกจที่ติดตั้งไว้ล่วงหน้าสำหรับ Java, Scala, Python และ R และระบบปฏิบัติการพื้นฐานที่ปรับให้เหมาะสมกับฮาร์ดแวร์หลายแบบ ทำให้คุณสามารถเรียกใช้ทั้งไปป์ไลน์ด้านวิศวกรรมข้อมูลและการทดลองด้านวิทยาศาสตร์ข้อมูลในสภาพแวดล้อมเดียวกันได้

Azure Databricks เพิ่มแพลตฟอร์มการทำงานร่วมกันบน Spark พร้อมเวิร์กโฟลว์การเรียนรู้ของเครื่องแบบบูรณาการ รันไทม์ ML ของมันประกอบด้วยไลบรารีต่างๆ เช่น TensorFlow, PyTorch, Keras และ XGBoost รวมถึงการสนับสนุนการฝึกอบรมแบบกระจายด้วย Horovod นอกจากนี้ยังรวม Mosaic AI Vector Search ซึ่งช่วยให้ผู้ใช้สามารถจัดเก็บและเรียกใช้เวクターฝังตัวสำหรับสถานการณ์ RAG คำแนะนำ หรือการค้นหาความคล้ายคลึงกันได้

หากคุณต้องการวิธีการแบบดั้งเดิมมากกว่า Spark บน Azure HDInsight จะมีคลัสเตอร์แบบจัดการที่เชื่อมต่อกับ Azure Storage และ Data Lake Storage พร้อมด้วยไลบรารี SynapseML สำหรับการเรียนรู้ของเครื่องแบบกระจาย โครงข่ายประสาทเทียม และบริการ AI ขนาดใหญ่

พื้นที่จัดเก็บข้อมูลแบบดาต้าเลคและแหล่งเก็บข้อมูลอื่นๆ

สำหรับการจัดเก็บข้อมูลทางกายภาพ Azure Data Lake Storage ทำหน้าที่เป็นแหล่งเก็บข้อมูลส่วนกลางสำหรับข้อมูลดิบทั้งข้อมูลที่มีโครงสร้างและไม่มีโครงสร้าง โดยมีคุณสมบัติทางด้านความหมายของระบบไฟล์ การรักษาความปลอดภัยระดับไฟล์ ความสามารถในการขยายขนาดอย่างมหาศาล และใช้ประโยชน์จากความแข็งแกร่งของ Azure Blob Storage (รวมถึงการจัดเก็บข้อมูลแบบแบ่งระดับ ความพร้อมใช้งานสูง การกู้คืนจากภัยพิบัติ และการสำรองข้อมูล )

ในสถาปัตยกรรม AI สมัยใหม่ พื้นที่จัดเก็บข้อมูลแบบ Data Lake ทำหน้าที่เป็นรากฐานสำหรับData Lake ระดับองค์กรซึ่งสามารถจัดการข้อมูลได้หลายเพตาไบต์ ด้วยปริมาณการรับส่งข้อมูลหลายร้อยกิกะบิตสำหรับการถ่ายโอนข้อมูลขนาดใหญ่ผ่านเครือข่าย LAN ซึ่งช่วย ขับเคลื่อนทั้งโมเดลการเรียนรู้ของเครื่องและเครื่องมือค้นหาแบบเวกเตอร์ รวมถึงโซลูชันการวิเคราะห์ขั้นสูง

การประมวลผลและการบูรณาการข้อมูลสำหรับ AI

คุณภาพของโมเดลของคุณจะขึ้นอยู่กับคุณภาพของข้อมูลโดยตรง ดังนั้น ในการสร้างโครงสร้างพื้นฐานด้านไอทีที่ขับเคลื่อนด้วย AI จึงจำเป็นอย่างยิ่งที่จะต้องสร้างระบบการนำเข้า การทำความสะอาด และการแปลงข้อมูลที่แข็งแกร่งซึ่งป้อนข้อมูลทั้งสำหรับสภาพแวดล้อมการฝึกอบรมและการอนุมาน

โรงงานข้อมูลผ้า

Fabric Data Factory ช่วยให้คุณจัดการกระแสข้อมูลขนาดใหญ่ได้ทั้งในรูปแบบ high-code และ low-codeคุณสามารถย้ายข้อมูลจากฐานข้อมูล คลังข้อมูล หรือกระแสข้อมูลแบบเรียลไทม์ ใช้การแปลงข้อมูลมากกว่า 300 รูปแบบภายในกระแสข้อมูล และทำการโหลดข้อมูลแบบอัตโนมัติเป็นระยะหรือแบบสตรีมมิ่งได้

บริการนี้เหมาะสมเป็นอย่างยิ่งเมื่อกลยุทธ์ของคุณเกี่ยวข้องกับการรวมทุกอย่างไว้ใน Fabric และ OneLake เนื่องจากช่วยลดขั้นตอนการเชื่อมโยงด้วยตนเองระหว่างต้นทาง ปลายทาง และโมเดล AI พร้อมทั้งผสานรวมเข้ากับระบบนิเวศด้านความปลอดภัยและการกำกับดูแลขององค์กร

Azure Databricks สำหรับการสร้างฟีเจอร์

สำหรับสถานการณ์ที่ต้องการการสร้างฟีเจอร์ขั้นสูงยิ่งขึ้น Azure Databricks มีไปป์ไลน์ข้อมูลที่เน้นแมชชีนเลิร์นนิงคุณสามารถนำเข้าข้อมูลดิบ สร้างตารางฟีเจอร์ ฝึกโมเดล และจัดการการอนุมานแบบกลุ่มได้ทั้งหมด พร้อมทั้งจัดการเมตาเดต้าของฟีเจอร์ในแคตตาล็อก Unity เพื่อให้คะแนนในอนาคตสามารถดึงค่าอินพุตที่จำเป็นได้โดยอัตโนมัติ

แนวทางนี้ช่วยหลีกเลี่ยงข้อผิดพลาดทั่วไป เช่นความไม่สอดคล้องกันระหว่างข้อมูลฝึกฝนและข้อมูลใช้งานจริงขณะเดียวกันก็ช่วยลดความซับซ้อนของตรรกะสำหรับทีมที่ใช้งานโมเดลอย่างมาก เนื่องจากพวกเขาไม่ต้องกังวลเกี่ยวกับการสร้างคุณลักษณะขึ้นใหม่ด้วยตนเอง

ตัวเชื่อมต่อ Azure Data Factory และ Synapse

เมื่อข้อมูลของคุณกระจายอยู่หลายระบบ (ภายในองค์กร, SaaS, คลาวด์อื่นๆ) Azure Data Factory และ Azure Synapse Analytics pipelines จะมีตัวเชื่อมต่อสำหรับแหล่งเก็บข้อมูลและรูปแบบข้อมูลที่หลากหลายช่วยให้คุณสามารถคัดลอก แปลง ค้นหา อ่านเมตาเดต้า หรือลบข้อมูลจากแหล่งข้อมูลที่แตกต่างกันได้โดยไม่ต้องสร้างตัวเชื่อมต่อแบบกำหนดเอง

ในการออกแบบโครงสร้างพื้นฐาน ควรพิจารณาการรวมศูนย์การบูรณาการเหล่านี้ไว้ในศูนย์กลางข้อมูลที่มีการกำกับดูแลที่ดี อย่างน้อยหนึ่งแห่ง ซึ่งเป็นแหล่งข้อมูลหลักสำหรับทั้งคลังข้อมูลขนาดใหญ่และคลังข้อมูลที่ปรับให้เหมาะสมกับ AI ช่วยลดการทำงานซ้ำซ้อนของกระบวนการทำงานและปรับปรุงความสามารถในการตรวจสอบ

AI ที่ปรับแต่งได้บน Azure: ก้าวข้ามโมเดลทั่วไป

โมเดลที่ผ่านการฝึกฝนล่วงหน้าครอบคลุมกรณีการใช้งานทั่วไปมากมาย แต่ธุรกิจจะได้รับประโยชน์มากขึ้นเมื่อปรับแต่ง AI ให้เข้ากับโดเมนของตนเองเช่น คำศัพท์เฉพาะ เอกสารที่กำหนดเอง กฎทางธุรกิจเฉพาะ ภาษาที่ผสมผสานกัน และอื่นๆ Azure มีบริการมากมายสำหรับสิ่งนี้

Azure Machine Learning: การฝึกอบรม, AutoML และ MLOps

ด้วย Azure Machine Learning คุณสามารถฝึกฝนโมเดลได้ทุกอย่าง ตั้งแต่โมเดลแบบง่ายไปจนถึงโครงข่ายประสาทเทียมเชิงลึกที่ซับซ้อน โดยใช้คลัสเตอร์ประมวลผลที่ปรับขนาดได้และ GPUมีเครื่องมือสำหรับเลือกอัลกอริธึม ปรับพารามิเตอร์อัตโนมัติ จัดการชุดข้อมูลที่มีการกำหนดเวอร์ชัน และปรับใช้โมเดลไปยังปลายทางการอนุมาน

ยิ่งไปกว่านั้น ระบบยังผสานรวม ฟังก์ชันAI ที่มีความรับผิดชอบเพื่อตรวจจับอคติ วิเคราะห์ข้อผิดพลาด และตรวจสอบความสามารถในการอธิบาย ซึ่งเป็นสิ่งสำคัญอย่างยิ่งเมื่อแบบจำลองของคุณส่งผลกระทบต่อการตัดสินใจที่ละเอียดอ่อน นอกจากนี้ยังช่วยให้คุณจัดระเบียบทีมเป็นศูนย์กลางและพื้นที่ทำงานที่ใช้ทรัพยากร ความปลอดภัย และการเชื่อมต่อร่วมกัน ซึ่งอำนวยความสะดวกในการกำกับดูแลด้านไอทีแบบรวมศูนย์

บริการ AI แบบกำหนดเอง: เสียง การแปล และเอกสาร

ในด้านปัญญาประดิษฐ์เชิงรู้คิด (Cognitive AI) Azure มีบริการที่ปรับแต่งได้ เช่นCustom Voiceซึ่งช่วยปรับปรุงการจดจำภาษาในโดเมนเฉพาะเจาะจงโดยการให้ตัวอย่างเสียงและข้อความ หรือ Custom Translator ซึ่งช่วยให้คุณฝึกระบบการแปลด้วยเครื่องจักรแบบโครงข่ายประสาทเทียมให้เข้ากับคำศัพท์เฉพาะขององค์กรของคุณได้

สำหรับเอกสาร Azure Document Intelligence มีโมเดลที่ฝึกฝนไว้ล่วงหน้าและโมเดลที่กำหนดเองซึ่งสามารถระบุประเภทเอกสาร ดึงข้อมูลฟิลด์ และจัดประเภทเอกสาร โดยส่งคืนข้อมูลในรูปแบบ JSON ที่พร้อมใช้งานในแอปพลิเคชันทางธุรกิจ คุณยังสามารถรวมหลายโมเดลเพื่อรองรับรูปแบบต่างๆ ในกระบวนการเดียวกันได้อีกด้วย

อีกหนึ่งเครื่องมือที่มีประโยชน์คือ Content Understanding พร้อมด้วยตัววิเคราะห์แบบกำหนดเองซึ่งช่วยให้คุณกำหนดกฎการแยกข้อมูลและรูปแบบเอนทิตีบนเอกสาร รูปภาพ เสียง หรือวิดีโอ เพื่อให้ได้ผลลัพธ์ที่มีโครงสร้างซึ่งปรับให้เหมาะสมกับความต้องการของคุณ

ภาษาโปรแกรมสำหรับ AI บน Azure

ในระดับการพัฒนา ภาษาโปรแกรมชั้นนำในด้าน AI ยังคงเป็นPython และ R โดย Python ครองตลาดเนื่องจากมีระบบนิเวศของไลบรารีสำหรับการเรียนรู้ของเครื่อง การเรียนรู้เชิงลึก และวิทยาศาสตร์ข้อมูล (pandas, NumPy, scikit-learn, PyTorch, TensorFlow เป็นต้น) และสามารถผสานรวมเข้ากับบริการ Azure ได้อย่างราบรื่น

ในทางกลับกัน ภาษา R ได้รับความนิยมอย่างมากในด้านสถิติขั้นสูงและการวิเคราะห์เชิงวิชาการ และได้รับการสนับสนุนใน Azure Machine Learning สำหรับการเรียกใช้สคริปต์ โน้ตบุ๊ก และเวิร์กโฟลว์แบบโต้ตอบ ในทั้งสองกรณี คุณสามารถใช้ประโยชน์จากสภาพแวดล้อมรันไทม์แบบจัดการได้ซึ่งช่วยลดความซับซ้อนในการติดตั้งส่วนประกอบที่จำเป็นและการผสานรวมกับบริการต่างๆ เช่น พื้นที่จัดเก็บข้อมูล ฐานข้อมูล และคิวข้อความ

สถาปัตยกรรมอ้างอิง AI ใน Azure: ตัวอย่าง Foundry + Azure OpenAI

เพื่อให้แนวคิดเหล่านี้เป็นรูปธรรม ไมโครซอฟต์ได้เผยแพร่สถาปัตยกรรมอ้างอิงที่มีรายละเอียดมากตัวอย่างที่เห็นได้ชัดคือ สถาปัตยกรรมแชทที่ใช้ Foundry ซึ่งใช้งานบน Azure landing zone ออกแบบมาสำหรับแอปพลิเคชันสนทนาที่ใช้โมเดล OpenAI GPT ที่เสริมด้วยข้อมูลระดับองค์กร

ในสถาปัตยกรรมนี้ กระบวนการทำงานของผู้ใช้จะเข้ามาทางApplication Gateway ที่มี WAF ซึ่งได้รับการปกป้องโดย Azure DDoS Protection ภายในเครือข่ายเสมือนที่มี DNS ส่วนตัว บริการต่างๆ เช่น Azure App Service, Key Vault และ Storage ซึ่งเป็นที่โฮสต์แอปพลิเคชันไคลเอ็นต์และจัดการข้อมูลลับ จะเข้าถึงได้ผ่านทางเอนด์พอยต์ส่วนตัว

เครือข่ายถูกจัดระเบียบเป็นซับเน็ตเฉพาะทางหลายซับเน็ต (ตามแผนผังโครงสร้าง LAN ): การรวมระบบ App Service, ปลายทางส่วนตัว, การรวมระบบ Foundry, ซับเน็ตสำหรับเอเจนต์ Azure AI, Azure Bastion, จัมพ์บ็อกซ์, เอเจนต์การสร้าง และ Azure Firewall ซึ่งทำหน้าที่กรองการรับส่งข้อมูลอินเทอร์เน็ตขาออก บริการต่างๆ เช่นAzure Cosmos DB, Azure AI Search, คลังความรู้ และพื้นที่จัดเก็บข้อมูล จะถูกปรับใช้ภายในซับเน็ตเหล่านี้ โดยทั้งหมดเชื่อมต่อผ่านปลายทางส่วนตัวเพื่อลดการเปิดเผยต่อสาธารณะให้น้อยที่สุด

ทางด้านขวาสุดของแผนภาพ Foundry ถูกแทนด้วยบัญชีและโปรเจกต์ โดยข้อมูลประจำตัวที่จัดการโดย Azureจะเชื่อมต่อบริการเอเจนต์ของ Foundry กับโปรเจกต์ ซึ่งจะเข้าถึง Azure OpenAI และแหล่งข้อมูลอื่นๆ ต่อไป แผนภาพแสดงขั้นตอนเชิงตรรกะที่คำขอต้องปฏิบัติตาม ตั้งแต่การมาถึงที่เกตเวย์ ไปจนถึงการสอบถามโมเดลและการดึงข้อมูลบริบท โดยรักษาปริมาณการรับส่งข้อมูลให้อยู่ภายในเครือข่ายเสมือนและอยู่ภายใต้นโยบายความปลอดภัยที่กำหนดไว้

Windows, Azure และโมเดลการพัฒนาใหม่ที่ขับเคลื่อนด้วย AI

ในระบบนิเวศของ Microsoft ปัญญาประดิษฐ์ไม่ได้มีอยู่แค่ในระบบคลาวด์เท่านั้น แต่Windows และแอปพลิเคชันของผู้ใช้ก็ได้รับประโยชน์จากความสามารถเหล่านี้ผ่านทางตัวช่วยควบคุมและปลั๊กอินต่างๆ ด้วย

ไมโครซอฟต์ได้ทยอยผสานรวมเทคโนโลยี OpenAI และ ChatGPT เข้ากับ Bing, Edge, Dynamics 365, Microsoft 365 และ Azure อย่างต่อเนื่อง วิสัยทัศน์คือ นักพัฒนาจะไม่ต้องสร้างโมเดลของตนเองตั้งแต่เริ่มต้นแต่สามารถใช้โมเดลข้อมูลและ AI เป็นโครงสร้างพื้นฐานใหม่เพื่อพัฒนาแอปพลิเคชันได้รวดเร็วยิ่งขึ้น

แนวคิดของปลั๊กอินสไตล์ Copilot ช่วยให้คุณสร้างส่วนขยายที่เชื่อมต่อแอปพลิเคชันทางธุรกิจ บริการคลาวด์ และระบบภายในองค์กรเข้ากับโมเดลการสนทนาเหล่านี้ เพื่อให้Windows และ Azure ใช้โครงสร้างพื้นฐาน AI เดียวกันและได้รับประโยชน์จากประสบการณ์ที่สอดคล้องกันทั่วทั้งระบบ

การกำกับดูแล ความปลอดภัย และการปรับปรุงอย่างต่อเนื่อง

การวางโครงสร้างพื้นฐานเป็นเพียงส่วนหนึ่งของงาน อีกครึ่งหนึ่งคือการรักษาความปลอดภัย ประสิทธิภาพ และความสอดคล้องกับเป้าหมายทางธุรกิจระยะยาวของโครงสร้างพื้นฐานนั้น นี่คือจุดที่เครื่องมือต่างๆ เช่น Azure Advisor, Well-Architected Review และบริการสนับสนุนเชิงรุกของ Microsoft เข้ามามีบทบาท

Azure Advisor วิเคราะห์เวิร์กโหลดที่มีอยู่ของคุณ ระบุโอกาสในการปรับปรุงในห้าเสาหลักของ Well-Architected Framework และจัดลำดับความสำคัญของคำแนะนำที่สามารถนำ ไปปฏิบัติได้จริง Well-Architected Review เพิ่มการประเมินที่มีโครงสร้างมากขึ้น พร้อมคำแนะนำที่คัดสรรมาเพื่อเป็นแนวทางในการแก้ไขปัญหาที่จำเป็น

หากคุณต้องการการสนับสนุนที่ใกล้ชิดยิ่งขึ้น Microsoft Unified มีบริการเชิงรุกและการเข้าถึงผู้เชี่ยวชาญที่จะช่วยดูแล บำรุงรักษา และเพิ่มประสิทธิภาพโซลูชันของคุณใน Azure ด้วยคำแนะนำเฉพาะบุคคล ซึ่งมีประโยชน์อย่างยิ่งในสภาพแวดล้อมแบบไฮบริดที่ซับซ้อน หรือเมื่อคุณกำลังปรับใช้สถาปัตยกรรม AI เชิงสร้างสรรค์ขนาดใหญ่

การฝึกอบรมและการนำไปใช้: เตรียมความพร้อมทีมงานสำหรับการใช้งาน AI ใน Azure

เทคโนโลยีพร้อมแล้ว แต่ถ้าทีมไม่พร้อม โครงสร้างพื้นฐานก็จะไม่ประสบความสำเร็จ การจัดตั้งห้องปฏิบัติการทดสอบจะช่วยให้การนำไปใช้เป็นไปได้ง่ายขึ้น นั่นเป็นเหตุผลว่าทำไมการลงทุนในการฝึกอบรม AI เฉพาะทางบน Azure จึงมีความสำคัญอย่างยิ่ง โดยเฉพาะอย่างยิ่งสำหรับผู้เชี่ยวชาญด้านสถาปัตยกรรม การพัฒนา การดำเนินงาน และข้อมูล

ไมโครซอฟต์มีหลักสูตรให้เลือกมากมาย ตั้งแต่ระดับพื้นฐาน เช่นบทนำเกี่ยวกับ AI ใน Azureไปจนถึงใบรับรองขั้นสูง เช่น Azure AI Engineer Associate ซึ่งเน้นการออกแบบและใช้งานโซลูชัน AI โดยใช้บริการของแพลตฟอร์ม นอกจากนี้ยังมีหลักสูตรที่มุ่งเน้นไปที่ Foundry, Azure Machine Learning, Fabric และการสร้างโครงสร้างพื้นฐาน AI ที่พร้อมใช้งานจริง พร้อมด้วยการควบคุมความปลอดภัย การแยกเครือข่าย ข้อมูลประจำตัวที่ได้รับการจัดการ และการกำกับดูแลคอนเทนเนอร์

การนำไปใช้งานจริงจะเกิดขึ้นได้เร็วขึ้นเมื่อคุณผสมผสานการฝึกอบรมนี้เข้ากับโครงการนำร่องที่กำหนดไว้อย่างชัดเจนซึ่งทีมสามารถเรียนรู้จากการลงมือทำได้ เช่น การติดตั้งระบบ RAG ขององค์กรเป็นครั้งแรก โครงการนำร่องร่วมภายใน หรือระบบจำแนกเอกสารอัตโนมัติที่มีระบบอัจฉริยะด้านเอกสารและการทำความเข้าใจเนื้อหา

โดยสรุปแล้ว การสร้างโครงสร้างพื้นฐานด้านไอทีที่ขับเคลื่อนด้วย AI ในสภาพแวดล้อม Windows และ Azure นั้นเกี่ยวกับการประกอบชิ้นส่วนทั้งหมดเหล่านี้เข้าด้วยกันอย่างรอบคอบ ได้แก่ โมเดลภาษา บริการแมชชีนเลิร์นนิง แพลตฟอร์มข้อมูล เช่น Fabric และ OneLake เครื่องมือการจัดการ เช่น Foundry และ Copilot Studio และกรอบการกำกับดูแล เช่น Azure Well-Architected Framework เมื่อข้อมูล การประมวลผล ความปลอดภัย และทีมงานสอดคล้องกัน AI จะไม่ใช่เพียงแค่การทดลองที่แยกออกมา แต่จะกลายเป็นส่วนประกอบโครงสร้างของสถาปัตยกรรมเทคโนโลยีของคุณซึ่งสามารถพัฒนาไปได้ในอัตราที่ธุรกิจของคุณต้องการ

การวิเคราะห์เครือข่าย
บทความที่เกี่ยวข้อง:
การวิเคราะห์ปริมาณการรับส่งข้อมูลเครือข่ายโดยไม่ต้องใช้เครื่องมือเชิงพาณิชย์

เพิ่มเป็นแหล่งข้อมูลที่ต้องการใน Google