<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>タグ:inference &#8211; AIディベロッパーblog</title>
	<atom:link href="https://aidev.bluegarage.site/blog/tag/inference/feed/" rel="self" type="application/rss+xml" />
	<link>https://aidev.bluegarage.site/blog</link>
	<description>AI技術を使った様々な開発のTIPSや技術のブログです</description>
	<lastBuildDate>Wed, 08 Jul 2026 01:46:19 +0000</lastBuildDate>
	<language>ja</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	
	<item>
		<title>PyTorchでONNXを「model.onnx」と「model_weights.bin」に分けて出力する方法【古いバージョンにも対応】</title>
		<link>https://aidev.bluegarage.site/blog/2026/07/08/pytorch%e3%81%a7onnx%e3%82%92%e3%80%8cmodel-onnx%e3%80%8d%e3%81%a8%e3%80%8cmodel_weights-bin%e3%80%8d%e3%81%ab%e5%88%86%e3%81%91%e3%81%a6%e5%87%ba%e5%8a%9b%e3%81%99%e3%82%8b%e6%96%b9%e6%b3%95%e3%80%90/</link>
				<pubDate>Wed, 08 Jul 2026 01:46:19 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[その他]]></category>
		<category><![CDATA[inference]]></category>
		<category><![CDATA[onnx]]></category>
		<category><![CDATA[Python]]></category>
		<category><![CDATA[PyTorch]]></category>
		<category><![CDATA[tensor]]></category>
		<category><![CDATA[エラー]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9732</guid>
				<description><![CDATA[PyTorchでONNXモデルを書き出す際、大きなモデルではONNX External Data形式を利用して、モデル本体と重みファイルを別々に保存したいことがあります。 この記事では、 model.onnx model_weights.bin の2ファイルに分けて出力する方法と、古いPyTorchを使用している場合の対処法を紹介します。 通常のONNX出力 一般的なONNX出力は次のようになります。 torch.onnx.export( wrapper, (sample, timestep, encoder_hidden_states), os.path.join(outdir, "unet", "model.onnx"), input_names=["sample", "timestep", "encoder_hidden_states"], output_names=["out_sample"], dynamic_axes={ "sample": {0: "batch", 1: "channels", 2: "height", 3: "width"}, "timestep": {0: "batch"}, [&#8230;]]]></description>
									</item>
		<item>
		<title>無制限に無料でAIコーディング　VRAM 8GB のノートPCでQwen3 Coderを動かしてみる</title>
		<link>https://aidev.bluegarage.site/blog/2026/06/18/%e7%84%a1%e5%88%b6%e9%99%90%e3%81%ab%e7%84%a1%e6%96%99%e3%81%a7ai%e3%82%b3%e3%83%bc%e3%83%87%e3%82%a3%e3%83%b3%e3%82%b0%e3%80%80vram-8gb-%e3%81%ae%e3%83%8e%e3%83%bc%e3%83%88pc%e3%81%a7qwen3-coder/</link>
				<pubDate>Thu, 18 Jun 2026 07:46:58 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[アプリケーション開発]]></category>
		<category><![CDATA[chatgpt]]></category>
		<category><![CDATA[claude]]></category>
		<category><![CDATA[deepseek]]></category>
		<category><![CDATA[inference]]></category>
		<category><![CDATA[LLM]]></category>
		<category><![CDATA[Python]]></category>
		<category><![CDATA[Qwen]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9706</guid>
				<description><![CDATA[無制限に無料でAIコーディングできるオープンソースのモデルQwen3 Coder　をVRAM 8GB のノートPCで動かしてみてその実力を見てみたいと思います。 まずこちらの記事に従いOllamaを入れます。このソフトはローカルでChatGPTのような感じでLLMを動かすためのソフトです。 次にモデル選択画面プルダウンで、qwen3-coderと入れて、qwen3-coderを選択状態にし何でもいいのでチャットを行います。 するとモデルのダウンロードが自動で始まります。(１７GBあるので結構時間がかかりますので待ちます) 意図的にコードにバグを仕込んで修正できるか試してみる あるコードを少しカスタマイズして下記のような絶対通らないIF文を作りOllamaにこのファイルを＋ボタンから追加して原因を聞いてみました。 if(!empty($youtubeId) &#38;&#38; 1==2){ $replace = [ &#8216;https://youtu.be/&#8217; =&#62; &#8221;, &#8216;https://www.youtube.com/watch?v=&#8217; =&#038;gt [&#8230;]]]></description>
									</item>
		<item>
		<title>Qwenモデルファミリーについてまとめてみました</title>
		<link>https://aidev.bluegarage.site/blog/2026/05/22/qwen%e3%83%a2%e3%83%87%e3%83%ab%e3%83%95%e3%82%a1%e3%82%a4%e3%83%9f%e3%83%aa%e3%83%bc%e3%81%ab%e3%81%a4%e3%81%84%e3%81%a6%e3%81%be%e3%81%a8%e3%82%81%e3%81%a6%e3%81%bf%e3%81%be%e3%81%97%e3%81%9f/</link>
				<pubDate>Fri, 22 May 2026 01:22:01 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[その他]]></category>
		<category><![CDATA[claude]]></category>
		<category><![CDATA[Hugging Face]]></category>
		<category><![CDATA[inference]]></category>
		<category><![CDATA[LLM]]></category>
		<category><![CDATA[Qwen]]></category>
		<category><![CDATA[vae]]></category>
		<category><![CDATA[ライセンス]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9673</guid>
				<description><![CDATA[「Qwenってよく聞くけど、モデルが多すぎて何が何だかわからない」——そんな声をよく耳にします。本記事では、Qwenの概要・ライセンス・モデルファミリーの全体像をわかりやすく整理します。 Qwenとは Qwen（クウェン）は、中国テック大手 Alibaba Cloud（アリババクラウド） が開発・公開する大規模AIモデルのファミリー総称です。正式名称は 通義千問（Tōngyì Qiānwèn）。「千（Qian）＝千」と「問（Wen）＝問い」を組み合わせた名前で、「無数の問いに答える」という意味を持っています。 2023年4月に最初のモデルが公開され、現在はテキスト生成・画像理解・音声・コード・画像生成と、モダリティをまたいだ多数のモデルが展開されています。多くのモデルがオープンウェイト（重みを公開）で提供されており、ローカル実行やファインチューニングが可能な点が大きな特徴です。 ライセンスについて Qwenのライセンスは モデルによって異なります ので、利用前に必ず確認するようにしましょう。主な区分は以下のとおりです。 ライセンス種別 主な対象モデル 商用利用 Apache 2.0 Qwen3シリーズ全般、Q [&#8230;]]]></description>
									</item>
		<item>
		<title>ONNX Runtimeの「ORT_SEQUENTIAL」と「ORT_PARALLEL」の違いを解説</title>
		<link>https://aidev.bluegarage.site/blog/2026/05/12/onnx-runtime%e3%81%ae%e3%80%8cort_sequential%e3%80%8d%e3%81%a8%e3%80%8cort_parallel%e3%80%8d%e3%81%ae%e9%81%95%e3%81%84%e3%82%92%e8%a7%a3%e8%aa%ac-2/</link>
				<pubDate>Tue, 12 May 2026 01:40:42 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[アプリケーション開発]]></category>
		<category><![CDATA[inference]]></category>
		<category><![CDATA[onnx]]></category>
		<category><![CDATA[Python]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9657</guid>
				<description><![CDATA[ONNX Runtime（ORT）を使っていると、ORT_SEQUENTIAL や ORT_PARALLEL という設定を見かけることがあります。 これらは Execution Mode（実行モード） を指定する重要な設定で、推論速度やCPU使用率に影響します。 この記事では、 ORT_SEQUENTIAL ORT_PARALLEL の違いを、PythonとC#のコード例付きでわかりやすく解説します。 ORT_SEQUENTIALとは ORT_SEQUENTIAL は 逐次実行モード です。 モデル内の処理（ノード）を、順番に1つずつ実行します。 特徴 順番に処理を実行 シングルスレッドに近い動作 オーバーヘッドが少ない 動作が安定しやすい 向いているケース 小規模モデル デバッグ用途 CPUコア数が少ない環境 安定動作を重視したい場合 ORT_PARALLELとは ORT_PARALLEL は 並列実行モード です。 依存関係のないノードを同時に実行し、CPUのマルチスレッドを活用します。 特徴 複数ノードを同時実行 CPUマルチコアを活用 推論速度向上が期待できる 大規模モデルで効果が高い 向いているケー [&#8230;]]]></description>
									</item>
		<item>
		<title>ONNX変換時のエラー「MultiHeadAttention の次元不一致」を徹底解説｜dynamic_axesとは何か？</title>
		<link>https://aidev.bluegarage.site/blog/2026/04/23/onnx%e5%a4%89%e6%8f%9b%e6%99%82%e3%81%ae%e3%82%a8%e3%83%a9%e3%83%bc%e3%80%8cmultiheadattention-%e3%81%ae%e6%ac%a1%e5%85%83%e4%b8%8d%e4%b8%80%e8%87%b4%e3%80%8d%e3%82%92%e5%be%b9%e5%ba%95%e8%a7%a3/</link>
				<pubDate>Thu, 23 Apr 2026 00:38:12 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[その他]]></category>
		<category><![CDATA[inference]]></category>
		<category><![CDATA[onnx]]></category>
		<category><![CDATA[transformer]]></category>
		<category><![CDATA[エラー]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9638</guid>
				<description><![CDATA[ONNXモデルを読み込む際に、以下のようなエラーに遭遇したことはありませんか？ Node (MultiHeadAttention_28) Op (MultiHeadAttention) [ShapeInferenceError] Inputs 0 (query) shall be 3 or 5 dimensions この記事では、このエラーの意味と原因、さらに解決に重要な「dynamic_axes」の考え方と書き方について、実践的に解説します。 エラーの意味を分解する まずはエラーメッセージを分解して理解しましょう。 該当箇所 Inputs 0 (query) shall be 3 or 5 dimensions 意味 Inputs 0 (query) → MultiHeadAttentionの最初の入力（query） shall be 3 or 5 dimensions → 3次元または5次元でなければならない つまり、 「queryとして渡されたテンソルの次元数が想定と違う」 というエラーです。 MultiHeadAttentionが要求する入力形状 MultiHeadAttentionでは、通常以下のよ [&#8230;]]]></description>
									</item>
		<item>
		<title>OpenPoseとは？Qwen Image EditでOpen poseを使えるか？</title>
		<link>https://aidev.bluegarage.site/blog/2026/04/20/openpose%e3%81%a8%e3%81%af%ef%bc%9fqwen-image-edit%e3%81%a7open-pose%e3%82%92%e4%bd%bf%e3%81%88%e3%82%8b%e3%81%8b%ef%bc%9f/</link>
				<pubDate>Mon, 20 Apr 2026 01:06:12 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[画像処理・作成]]></category>
		<category><![CDATA[ControlNet]]></category>
		<category><![CDATA[inference]]></category>
		<category><![CDATA[LoRA]]></category>
		<category><![CDATA[pipeline]]></category>
		<category><![CDATA[Qwen]]></category>
		<category><![CDATA[safetensors]]></category>
		<category><![CDATA[tensor]]></category>
		<category><![CDATA[transformer]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9629</guid>
				<description><![CDATA[OpenPoseとは？Qwen Image EditでAnyPoseモデルを使ったポーズ転写の完全ガイド 画像生成AIの世界では「ポーズを自由に制御したい」というニーズは非常に高いです。本記事では、OpenPoseの基本概念から、最新のQwen Image EditとAnyPoseモデルを組み合わせたポーズ転写の実装方法まで、サンプルコードとともに詳しく解説します。 📌 目次 OpenPoseとは何か 使用するモデル一覧 OpenPoseを「2枚目の画像」として使う仕組み 環境セットアップ 完全なサンプルコード プロンプトの解説 パラメータ解説 まとめ 1. OpenPoseとは何か OpenPoseは、Carnegie Mellon大学が開発したオープンソースのリアルタイム人体姿勢推定ライブラリです。画像や動画から人物の骨格（キーポイント）をリアルタイムで検出し、身体の各部位（頭部・肩・肘・手首・腰・膝・足首など）の位置を特定します。 OpenPoseの主な特徴 25個のキーポイントを検出（顔・体・手・足） 複数人物の同時検出が可能 リアルタイム処理に対応 画像生成AIのControlNetと組み合わせるこ [&#8230;]]]></description>
									</item>
		<item>
		<title>ONNX Runtimeの「ORT_SEQUENTIAL」と「ORT_PARALLEL」の違いを解説</title>
		<link>https://aidev.bluegarage.site/blog/2026/04/07/onnx-runtime%e3%81%ae%e3%80%8cort_sequential%e3%80%8d%e3%81%a8%e3%80%8cort_parallel%e3%80%8d%e3%81%ae%e9%81%95%e3%81%84%e3%82%92%e8%a7%a3%e8%aa%ac/</link>
				<pubDate>Tue, 07 Apr 2026 01:20:36 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[アプリケーション開発]]></category>
		<category><![CDATA[inference]]></category>
		<category><![CDATA[onnx]]></category>
		<category><![CDATA[Python]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9610</guid>
				<description><![CDATA[ONNX Runtime（ORT）を使っていると、ORT_SEQUENTIAL や ORT_PARALLEL という設定を見かけることがあります。これらは Execution Mode（実行モード） に関する重要な設定です。 この記事では、それぞれの違いと使い分けについてわかりやすく解説します。 ORT_SEQUENTIALとは ORT_SEQUENTIAL は 逐次実行モード です。 特徴 モデル内の処理（ノード）を 順番に1つずつ実行 シングルスレッドに近い動作 オーバーヘッドが少ない 向いているケース 小規模なモデル デバッグ用途 安定した動作を優先したい場合 ORT_PARALLELとは ORT_PARALLEL は 並列実行モード です。 特徴 依存関係のないノードを 同時に並列実行 CPUのマルチスレッドを活用 推論速度の向上が期待できる 向いているケース 大規模モデル CPUコア数が多い環境 パフォーマンス重視の推論処理 違いのまとめ 項目 ORT_SEQUENTIAL ORT_PARALLEL 実行方法 逐次（順番） 並列 スレッド 基本1つ 複数 パフォーマンス 安定・軽量 高速化の可能性あ [&#8230;]]]></description>
									</item>
		<item>
		<title>WanによるAI動画生成で「プロンプトを書いたのに人物が全然動かない」場合のパラメーターの見直し</title>
		<link>https://aidev.bluegarage.site/blog/2026/04/02/wan%e3%81%ab%e3%82%88%e3%82%8bai%e5%8b%95%e7%94%bb%e7%94%9f%e6%88%90%e3%81%a7%e3%80%8c%e3%83%97%e3%83%ad%e3%83%b3%e3%83%97%e3%83%88%e3%82%92%e6%9b%b8%e3%81%84%e3%81%9f%e3%81%ae%e3%81%ab%e4%ba%ba/</link>
				<pubDate>Thu, 02 Apr 2026 01:07:57 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[動画]]></category>
		<category><![CDATA[CUDA]]></category>
		<category><![CDATA[inference]]></category>
		<category><![CDATA[LoRA]]></category>
		<category><![CDATA[pipeline]]></category>
		<category><![CDATA[Python]]></category>
		<category><![CDATA[transformer]]></category>
		<category><![CDATA[vae]]></category>
		<category><![CDATA[wan]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9602</guid>
				<description><![CDATA[WanによるAI動画生成で「プロンプトを書いたのに人物が全然動かない」という経験はありませんか？この記事では、Wanで人物の動きを強く引き出すプロンプトのコツと、シンプルな実行コードをまとめて解説します。 なぜ人物が動かないのか？ プロンプトの書き方以前に、パラメータ設定が原因でほぼ動かなくなるケースが多いです。まず以下を確認してください。 パラメータ NG値 推奨値 guidance_scale 1～２（低すぎる） 5.0〜7.0 num_inference_steps 8（少なすぎる） 20〜30 DMD蒸留LoRA 常時ON まず外して試す guidance_scale が低いとモデルがプロンプトをほぼ無視します。まずここを直すだけで改善することが多いです。 プロンプトで動きを引き出す5つのコツ 1. 動作を時系列で分解して書く 「歩く」だけでなく、身体の動きを順番に記述すると効果的です。 ❌ "The woman walks." ✅ "She lifts her right foot, strides forward, swings her arms, walking briskly." 2. 副詞・ [&#8230;]]]></description>
									</item>
	</channel>
</rss>
