PyTorchでONNXモデルを書き出す際、大きなモデルではONNX External Data形式を利用して、モデル本体と重みファイルを別々に保存したいことがあります。 この記事では、 model.onnx model_weights.bin の2ファイルに分けて出力する方法と、古いPyTorchを使用している場合の対処法を紹介します。 通常のONNX出力 一般的なONNX出力は次のようになります。 torch.onnx.export
タグ: inference
無制限に無料でAIコーディングできるオープンソースのモデルQwen3 Coder をVRAM 8GB のノートPCで動かしてみてその実力を見てみたいと思います。 まずこちらの記事に従いOllamaを入れます。このソフトはローカルでChatGPTのような感じでLLMを動かすためのソフトです。 次にモデル選択画面プルダウンで、qwen3-coderと入れて、qwen3-coderを選択状態にし何でもいいのでチャットを行います。 するとモデル
「Qwenってよく聞くけど、モデルが多すぎて何が何だかわからない」——そんな声をよく耳にします。本記事では、Qwenの概要・ライセンス・モデルファミリーの全体像をわかりやすく整理します。 Qwenとは Qwen（クウェン）は、中国テック大手 Alibaba Cloud（アリババクラウド） が開発・公開する大規模AIモデルのファミリー総称です。正式名称は 通義千問（Tōngyì Qiānwèn）。「千（Qian）＝千」と「問（Wen）＝問
ONNX Runtime（ORT）を使っていると、ORT_SEQUENTIAL や ORT_PARALLEL という設定を見かけることがあります。 これらは Execution Mode（実行モード） を指定する重要な設定で、推論速度やCPU使用率に影響します。 この記事では、 ORT_SEQUENTIAL ORT_PARALLEL の違いを、PythonとC#のコード例付きでわかりやすく解説します。 ORT_SEQUENTIALとは
ONNXモデルを読み込む際に、以下のようなエラーに遭遇したことはありませんか？ Node (MultiHeadAttention_28) Op (MultiHeadAttention) [ShapeInferenceError] Inputs 0 (query) shall be 3 or 5 dimensions この記事では、このエラーの意味と原因、さらに解決に重要な「dynamic_axes」の考え方と書き方について、実践的に解説
OpenPoseとは？Qwen Image EditでAnyPoseモデルを使ったポーズ転写の完全ガイド 画像生成AIの世界では「ポーズを自由に制御したい」というニーズは非常に高いです。本記事では、OpenPoseの基本概念から、最新のQwen Image EditとAnyPoseモデルを組み合わせたポーズ転写の実装方法まで、サンプルコードとともに詳しく解説します。 📌 目次 OpenPoseとは何か 使用するモデル一覧 OpenPos
ONNX Runtime（ORT）を使っていると、ORT_SEQUENTIAL や ORT_PARALLEL という設定を見かけることがあります。これらは Execution Mode（実行モード） に関する重要な設定です。 この記事では、それぞれの違いと使い分けについてわかりやすく解説します。 ORT_SEQUENTIALとは ORT_SEQUENTIAL は 逐次実行モード です。 特徴 モデル内の処理（ノード）を 順番に1つずつ実
WanによるAI動画生成で「プロンプトを書いたのに人物が全然動かない」という経験はありませんか？この記事では、Wanで人物の動きを強く引き出すプロンプトのコツと、シンプルな実行コードをまとめて解説します。 なぜ人物が動かないのか？ プロンプトの書き方以前に、パラメータ設定が原因でほぼ動かなくなるケースが多いです。まず以下を確認してください。 パラメータ NG値 推奨値 guidance_scale 1～２（低すぎる） 5.0〜7.0 n
