Kuyohong：建立內容為「

雲端架構與生成式AI

本次系列講座聚焦雲端架構與生成式 AI 的實務整合，涵蓋 AWS 核心計算與網路（EC2、VPC、Route 53…」的新頁面

2026-06-14T02:38:05Z

建立內容為「<h3>雲端架構與生成式AI</h3> 本次系列講座聚焦雲端架構與生成式 AI 的實務整合，涵蓋 AWS 核心計算與網路（EC2、VPC、Route 53…」的新頁面

新頁面

<h3>雲端架構與生成式AI</h3>

本次系列講座聚焦雲端架構與生成式 AI 的實務整合，涵蓋 AWS 核心計算與網路（EC2、VPC、Route 53、ELB/ASG/CloudFront）、儲存與快照加密、監控與稽核（CloudWatch/CloudTrail）、資料庫（RDS/Replica/高可用）、高併發設計（MQ+ASG）、以及以 RAG 為核心的 LLM 應用與 AI Agent 落地策略。課程強調在商業場景中先定義尖銳問題再選技術，並在職涯與證照方面給出備考與作品集的實作建議。另包含教學與簡報製作的流程優化、學習策略（每日微學習）、與專題評議重點。零星與主題無關資訊（如人物生平、健康小撇步）已略去。

1. 計算與作業系統（EC2/AMI/存取）
* AMI 與作業系統：可選 Linux/Windows/macOS 或自訂 AMI，支援標準化部署與市集販售。
* 命名規則：型號對應場景/版本/大小，實務查文件匹配工作負載即可。
* 存取機制：以 Key Pair 驗證登入；ENI 連網，關機再開公網 IP 會變，需綁定 Elastic IP（注意費用與釋放）。
* Hibernate 與 User Data：休眠將 RAM 寫入 EBS，需容量足夠；User Data 僅首次開機執行一次。
* 購買與容量方案：On-Demand、Savings Plans/Reserved、Scheduled、Spot、Capacity Reservation；權衡彈性、成本與容量保證。
2. 儲存與快照/加密
* EBS 類型與 I/O：GP 系列（通用）、io 系列（高 IOPS）、HDD（高吞吐）；依隨機/順序、延遲/吞吐選型。
* 快照與跨區域：EBS/AMI 皆可建 Snapshot，支援跨 AZ/Region 遷移與備援。
* 加密流程：新建可直接加密；既有未加密需透過快照複製後以加密重建（不可就地加密）。
3. 網路與安全（VPC/Route 53）
* VPC 基礎：VPC 為 Region 級、Subnet 為 AZ 級；Public Subnet 透過 IGW 出入網，Private Subnet 不直連 IGW。
* 路徑流程：外部封包經 IGW → NACL（無狀態、入出都要規則）→ Route Table → 目的端；Security Group 為 stateful，回程自動允許。
* 進階連線：Bastion Host（外→內跳板）、NAT Gateway（私網出網）、VPC Endpoint（私通 AWS 服務）、VPN（地端混合雲）、VPC Peering（非傳遞）、Transit Gateway（樞紐拓撲）、VPC Sharing（跨帳共享）。
* Flow Logs：擷取介面流量供監控與分析。
* Route 53 功能：網域註冊、DNS 路由、健康檢查；路由策略含 Simple、Weighted（A/B 測試）、Latency、Geolocation、Geoproximity（bias）、Failover、Multivalue Answer；A/CNAME/Alias（對 AWS 服務、在 Route 53 免費）。
4. 負載平衡、CDN 與自動擴展（ELB/CloudFront/ASG）
* CloudFront：透過 Edge Location 快取靜態內容，Distribution 管理來源（S3/EC2），TTL 控快取刷新，OAI 僅允許 CloudFront 存取 S3。
* ELB 類型：CLB（舊）、ALB（L7，端點路由/SSL 終止與 X-Forwarded-For）、NLB（L4 高效處理 TCP/UDP）、GWLB（資安鏈接）；配合 CloudWatch 監控與日誌/S3 分析。
* Auto Scaling Group（ASG）：設定 Min/Max/Desired，動態或預測擴展；策略含 Target Tracking、Step、Simple、Scheduled、固定數量；可獨立操作 EC2，常與 ELB/Health Check 協同。高併發下維持基線（如最少 3 台）並自動補足。
5. 監控與稽核（CloudWatch/CloudTrail）
* CloudWatch：5 分鐘標準監控、1 分鐘需付費；Dashboard、Alarms（觸發 SNS/SMS）、Logs/Agent（收集 EC2/應用/Lambda 日誌）、Log Insights/Metric/Subscription Filter、VPC Flow Logs 整合；EC2 記憶體需安裝 Agent。
* CloudTrail：記錄管理事件/資料事件/Insights（需啟用），可送 CloudWatch Logs、長期存放 S3，多帳號匯總；Athena 查詢、QuickSight 視覺化、Security Hub 觸發警示。
6. 資料庫（RDS 與高可用/備援/安全）
* RDS vs. 自建於 EC2：RDS 提供託管、自動備份/維運與限制底層修改；RDS Custom 兼顧部分底層控制需求。
* 引擎與部署：Aurora、MySQL/MariaDB、PostgreSQL、Oracle、MSSQL、DB2；Single-AZ / Multi-AZ（Standby 或含 Read Replica）。
* 備份與還原：自動備份（保留 0–35 天）、手動快照（無期限）、刪除前最終快照、PITR（時間點還原）；RDS 加密同 EBS：既有未加密需快照重建。
* 複製與分流：Read Replica 分擔查詢、提升可用性；跨 AZ 部署降低單 AZ 故障風險；RDS Proxy 管控連線池。
* SQL Injection 案例凸顯快照/備份為災難復原關鍵；延伸提 Prompt Injection 風險意識。
7. 高併發架構與面試重點
* 核心思路：將請求與耗時運算解耦，先快速回應、再以 MQ 非同步處理；ASG 彈性擴縮，避免 DB 被沖垮與超賣。
* 面試常見：售票庫存負數、訂單號唯一性等；能以壓測與 Demo 證明方案更具競爭力。
8. LLM 與 RAG/AI Agent 實務
* LLM 參數與互動：Retriever 相似度搜尋（Top-k）、Prompt Template（變數注入）、temperature/topp/topk/max_token/penalty 控制生成。
* 常見問題：幻覺、知識截止、私有資料；策略比較：RAG（即時更新/私有知識/降低幻覺）優於長上下文與多數微調場景（微調成本高、時效性差）。
* RAG 管線：載入→切塊（chunk size/overlap，避免破壞表格）→嵌入（sentence-transformers 等）→向量庫→檢索/重排→模板→生成；相似度搜尋 Top-k、context grounding、RAGAS 監測；Mermaid/Markdown 流程圖協作；可用 LangChain、AWS Bedrock/Agent 服務整合。
* 文本切割技術：固定長度（不推）/遞迴/Token-based（控制上限）/Markdown 結構/語義切割（效最好成本高）。
* 向量檢索：向量化後以內積或餘弦相似度計算語義接近度，Redis/其他向量庫支援高效檢索。
* AI Agent 定位：以 LLM 作為決策引擎規劃下一步，非僅 RPA 事件轉發；需定義清楚要解決的問題與衡量指標；可由 Knowledge Base（RAG）提供企業知識上下文；提及與多家模型整合的協定層（如 NCP 概念）與 AI HUB 管理。
9. AI 落地與商業場景
* 先鎖定尖銳問題再選技術：例如語音客服「報課意圖」判定流程（錄音→ASR→逐字稿→AI 分析），以效率與轉化為度量。
* 知識庫與長期記憶：將雲端新聞等轉為 Knowledge Base，構建長期、可檢索的 LON 系統，支撐深層查詢與推理。
10. 課程運作、學習策略與職涯/證照
* 教學與簡報：Google Slides 過載會變慢，已製二版並優化；後續以 PPT 提升教學品質，調整授課節奏。
* 微學習法：每日 10–20 分鐘累積，5–6 個月完成目標；以持續小步快跑代替臨時衝刺。
* 證照備考：AWS SAA 推薦 Udemy 高難度課程練題；建議實體考場，流程與防弊嚴格；費用約 US$150。亦提及 AWS/生成式 AI、Azure 路徑與資安證照（CompTIA→EC-Council→CISSP）長期規劃。
* 作品集與求職：專題是求職關鍵；CICD 已成標配，需凸顯真實痛點解法與價值陳述（可視介面或清晰 API 說明）；前端 UI/CSS 難度高但有助價值溝通。
[[檔案:2026-0605-01.png|800px]]

緯育 2026-0605 - 修訂歷史

Kuyohong：​建立內容為「

雲端架構與生成式AI

Kuyohong：建立內容為「