關於
我做的是必須一直跑著的那一部分。
有意思的問題都在模型能跑之後才出現：服務要花多少成本、流量一陣一陣來時什麼會壞、agent 到底撈到了什麼。
我是 Matthew Hong，台灣台中的 AI engineer，後端出身、主要寫 Go。大部分工作是 AI 系統周圍的基礎建設：serving 路徑、agent 的記憶，以及能說出「到底發生了什麼」的量測。
我不是從軟體出身。大學讀財務工程與精算，做過財務分析與精算顧問，再到精密製造工廠做資料分析，在那裡把紙本的庫存與採購流程換成工廠第一套 ERP。這件事讓我被調成軟體工程師，之後就一直待在這裡：先是做跑在雲端 GPU 與 Jetson 邊緣裝置上的電腦視覺工安平台後端，再來是六角架構的 Go 服務，加上完整的 OpenTelemetry、Prometheus、Grafana。
同時在國立中興大學讀完資工碩士。論文在 CPU 受限的條件下比較三種 ML serving 架構；第二篇研究則做出了 batch2go，一個用來隔離「batching 發生在哪一層」的開源 Go proxy。目前是 AI engineer，在做 taidle——一個 agent 透過 MCP 查詢的知識庫引擎。路上學到的東西寫在這個網站上，而不是留在 notebook 裡。
經歷
2026 – 現在AI engineer
從零設計並建構一個用 Go 寫的 agent 知識庫引擎：MCP stdio 整合，讓客戶端 agent 查詢本地知識並留下可驗證的 token 稽核紀錄；執行來源透過 SSE 即時串流；PostgreSQL／pgvector 儲存；contract-first 的 OpenAPI 流程，自動產生 Go、TypeScript 與 Python 程式碼。
2025 – 2026後端工程師
把 Go 立為後端標準：以
uber/fx 做依賴注入的模組化六角架構、每個領域模組獨立的資料庫 schema、raw SQL repository。從頭建起 observability——OpenTelemetry Collector 進 Prometheus 與 Grafana、Tempo 分散式追蹤、容器與連線池指標。2024 – 2025產品工程師
從初階後端工程師三個月內升任。主導 AI 工地安全電腦視覺平台的技術需求、限制定義與跨部門交付；管理雲端 GPU 與現場 Jetson 邊緣裝置的部署與成本；建立 design-first 的 OpenAPI 流程（先定契約、再出 mock server、最後實作）。
2021 – 2023資料分析師 → 軟體工程師
獨立設計並交付精密製造工廠的第一套完整 ERP（C#／.NET MVC），取代紙本的庫存與採購流程——也是這件事讓分析師的職位變成工程師的。
2019 – 2020財務分析師 · 精算顧問
用 Python 自動化財務報表流程，把分析師的處理時間縮短 82%；為企業保險客戶做精算風險建模與統計分析。
學歷
2024 – 2026資訊科學碩士
國立中興大學。論文題目：CPU 受限環境下的 ML serving 架構特性分析——也就是 Inference Arena 背後的研究，以及 batch2go 公開實作的第二篇研究。
2013 – 2018財務工程與精算學士
逢甲大學。創立並連續三年擔任系上第一個學生委員會的主席，負責營運預算。