前言 許多開發者在完成模型訓練後,會面臨如何讓模型在各式平台上穩定運作的問題。本篇教學將以鳶尾花分類器為例,示範如何將 scikit-learn 訓練的模型轉換為 ONNX 格式,並利用 onnxruntime 撰寫一個互動式推論 App,最後透過 Nuitka 將整個應用程式打包成獨立的 EXE 檔案。
前言 對許多 Python 新手來講,一直都有個疑問──「我寫好的程式怎麼才能讓沒安裝 Python 的朋友也能直接執行呢?」 不像 C++ 可以編譯成 exe 或是 JS 直接在瀏覽器執行,Python 程式必須靠 Python 解釋器來運行,而大部分作業系統預設都沒有安裝 Python。這時候,打包工具就登場啦!
前言
前言
Git Submodule 進階教學:模組化管理外部依賴 前言 Git submodule 的主要優點在於 模組化管理外部依賴,既保有獨立版本控制,也能在主專案中統一追蹤特定版本,提升專案維護的靈活性與穩定性。
如何在 Linux 讓 Ollama 服務允許遠端設備存取 前言 Ollama 預設僅允許本機存取 (127.0.0.1),如果你希望讓遠端設備也能連線到 Ollama 服務,就需要修改 systemd 設定,讓其監聽 0.0.0.0:11434。
本篇教學將完整介紹 如何在 Linux 上安裝 NVIDIA 驅動,確保你的系統能夠順利偵測並使用 GPU,以便高效進行 AI 訓練、科學運算或圖形處理等工作。
前言 隨著人工智慧和機器學習應用的快速發展,越來越多的框架和工具支持將訓練好的模型進行優化並部署在不同的硬體環境中。ONNX-MLIR 是其中一個專門用於 ONNX 模型的優化和編譯工具,它可以將 ONNX 格式的機器學習模型轉換為高度優化的可執行文件(如 .so 或 .dll 動態庫)。這樣的轉換使得模型可以在目標硬體上以較高的效率運行,並且利用 LLVM 和 MLIR 的優化功能,進一步減少了運行時的延遲和計算資源的消耗。