AI & Data Dreamers練功房
ADMIT ONE ·載入中…工作室 →職涯服務個人設定登出登入／註冊
寶箱片場規則
資料工程師 資料分析師 資料科學家 機器學習工程師 AI 應用工程師
AI Application Engineer・職位指南

AI 應用工程師

用 LLM、RAG、Agent 把 AI 做成真的能上線的產品，並控制成本。

自評進度
登入後記進度
FIT・適合誰
  • 喜歡快速做出能 demo 的東西並迭代
  • 對 prompt、schema、工具呼叫這類「AI 工程」有耐心
  • 能跟業務單位一起定義「AI 做到什麼才算有用」
DUTIES・職責

每天在做什麼

  • 設計 LLM 應用：prompt、結構化輸出、工具呼叫、Agent 流程
  • RAG：資料切塊、嵌入、向量索引、檢索品質評估
  • AI 服務後端：API、快取、速率限制、成本與延遲監控
  • 評估與防護：測試集、幻覺與注入防範、降級與警報
  • 與團隊一起導入 AI 工作流（內部工具、自動化）
SKILLS・技能

必備

  • Python；FastAPI；熟悉主流 LLM API
  • RAG 與向量資料庫（pgvector、Pinecone 等）
  • prompt engineering 與 schema 合約（JSON 輸出、工具定義）
  • 後端基礎：資料庫、Docker、雲端部署、日誌

加分

  • Agent 框架與多步驟流程編排
  • 評估體系（evals）、觀測（tracing）
  • 成本模型：token 計價、快取、模型分級
  • 資安：注入、資料外洩、權限邊界
INTERVIEW・面試準備

會被問什麼

  1. 設計題：給一個業務需求，設計 RAG 或 Agent 架構，說明評估方式與失敗處理
  2. 工程題：API 設計、非同步、快取、速率限制
  3. AI 基礎：embedding、context window、temperature、幻覺怎麼處理
  4. 成本與維運：怎麼估 token 成本、怎麼監控品質下滑
  5. 作品集：一個能實際使用的 AI 應用，附評估結果與成本數字
NEIGHBORS・相鄰職位邊界

和誰容易搞混

機器學習工程師

MLE 訓練與部署自己的模型；AI 應用更多是組合現成模型與系統工程。

軟體工程師（後端）

AI 應用工程師就是會用 LLM 的後端工程師：API、資料庫、部署一樣要會。

資料工程師

RAG 的知識庫更新、資料清理與索引管線，常需要 DE 的能力。

AI 產品經理

PM 定義價值與驗收；AI 應用工程師負責可行性、成本與品質。

HEADHUNTER・與獵頭合作

怎麼跟獵頭談

  • 市場上職稱混亂（AI Engineer／LLM Engineer／GenAI Developer）：用技能關鍵字找，不用職稱找
  • 履歷放具體數字：回答準確率、延遲、每千次成本
  • 問清楚公司是「做 AI 產品」還是「內部導入 AI」，前者重工程、後者重溝通
  • 準備一個 5 分鐘能 demo 的作品，面試時直接打開

初稿整理自 Dex 的文章：軟體工程與機器學習工程師的技能與發展方向、30 多歲轉職必看！五大關鍵問題。