<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>タグ:CUDA &#8211; AIディベロッパーblog</title>
	<atom:link href="https://aidev.bluegarage.site/blog/tag/cuda/feed/" rel="self" type="application/rss+xml" />
	<link>https://aidev.bluegarage.site/blog</link>
	<description>AI技術を使った様々な開発のTIPSや技術のブログです</description>
	<lastBuildDate>Wed, 07 Oct 2026 02:01:05 +0000</lastBuildDate>
	<language>ja</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	
	<item>
		<title>Stable Diffusionのもっとも単純な学習プログラムを作って動かしてみる</title>
		<link>https://aidev.bluegarage.site/blog/2026/10/07/stable-diffusion%e3%81%ae%e3%82%82%e3%81%a3%e3%81%a8%e3%82%82%e5%8d%98%e7%b4%94%e3%81%aa%e5%ad%a6%e7%bf%92%e3%83%97%e3%83%ad%e3%82%b0%e3%83%a9%e3%83%a0%e3%82%92%e4%bd%9c%e3%81%a3%e3%81%a6%e5%8b%95/</link>
				<pubDate>Wed, 07 Oct 2026 01:29:14 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[画像処理・作成]]></category>
		<category><![CDATA[CUDA]]></category>
		<category><![CDATA[gpu]]></category>
		<category><![CDATA[Python]]></category>
		<category><![CDATA[PyTorch]]></category>
		<category><![CDATA[Stable Diffusion]]></category>
		<category><![CDATA[tensor]]></category>
		<category><![CDATA[transformer]]></category>
		<category><![CDATA[vae]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9805</guid>
				<description><![CDATA[Stable Diffusion の仕組みを理解するには、実際に小さなモデルを自分で動かしてみるのが一番の近道です。この記事では、100×100 の画像を生成する最小構成の拡散モデルを PyTorch で作ります。テキスト条件は「flower」に固定し、学習用と生成用のファイルを分けた構成です。 この記事で作るもの 画像サイズは 100×100 固定 ピクセル空間で動く DDPM(VAE は使わない) UNet は ResBlock、Self-Attention、Cross-Attention で構成 テキスト条件は「flower」をエンコードした固定ベクトル 学習(train.py)と生成(generate.py)を別ファイルに分離 Stable Diffusion との違い 項目 Stable Diffusion この記事のモデル 拡散する空間 潜在空間(VAE で圧縮) ピクセル空間 テキスト条件 CLIP などで可変 「flower」固定 画像サイズ 512×512 など 100×100 固定 Cross-Attention 多くの層に配置 最低解像度層と中間層のみ サンプラー DDIM などの高速版 [&#8230;]]]></description>
									</item>
		<item>
		<title>量子化とは何か？MatMulというAIの計算やモデルサイズの最大のネック</title>
		<link>https://aidev.bluegarage.site/blog/2026/08/31/%e9%87%8f%e5%ad%90%e5%8c%96%e3%81%a8%e3%81%af%e4%bd%95%e3%81%8b%ef%bc%9fmatmul%e3%81%a8%e3%81%84%e3%81%86ai%e3%81%ae%e8%a8%88%e7%ae%97%e3%82%84%e3%83%a2%e3%83%87%e3%83%ab%e3%82%b5%e3%82%a4%e3%82%ba/</link>
				<pubDate>Mon, 31 Aug 2026 01:29:43 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[その他]]></category>
		<category><![CDATA[CUDA]]></category>
		<category><![CDATA[gpu]]></category>
		<category><![CDATA[LLM]]></category>
		<category><![CDATA[LoRA]]></category>
		<category><![CDATA[tensor]]></category>
		<category><![CDATA[transformer]]></category>
		<category><![CDATA[最適化]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9766</guid>
				<description><![CDATA[AIモデル、特に大規模言語モデル(LLM)の性能や規模を語るとき、必ずと言っていいほど登場するキーワードがあります。それが「MatMul(行列積)」と「量子化」です。 この記事では、AIの計算の大部分を占める「MatMul」がそもそも何なのか、なぜそれが必要なのか、GPU上でどう計算されているのかを解説したうえで、その高速化手法の中でも特に重要な「量子化」について詳しく掘り下げていきます。 AIの計算の大部分を占めるMatMul Transformer系のAIモデルでは、計算量(FLOPs)の大部分、しばしば9割以上がMatMulによって占められています。具体的には、以下のような処理がすべてMatMulです。 Attentionにおける Query / Key / Value への変換 FFN(Feed Forward)層の2つの大きな行列積(全体の計算量では最大になりやすい部分) Attentionスコアの計算(QK^T)とその後の重み付き集約(softmax × V) また、モデルの「パラメータ数」、つまりモデルサイズそのものも、その大半はMatMulで使われる重み行列によって構成されています。「AIの計 [&#8230;]]]></description>
									</item>
		<item>
		<title>PyTorchでDirectMLを使う「torch-directml」とは？</title>
		<link>https://aidev.bluegarage.site/blog/2026/07/10/pytorch%e3%81%a7directml%e3%82%92%e4%bd%bf%e3%81%86%e3%80%8ctorch-directml%e3%80%8d%e3%81%a8%e3%81%af%ef%bc%9f/</link>
				<pubDate>Fri, 10 Jul 2026 01:46:24 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[アプリケーション開発]]></category>
		<category><![CDATA[CUDA]]></category>
		<category><![CDATA[gpu]]></category>
		<category><![CDATA[LLM]]></category>
		<category><![CDATA[onnx]]></category>
		<category><![CDATA[PyTorch]]></category>
		<category><![CDATA[Qwen]]></category>
		<category><![CDATA[Stable Diffusion]]></category>
		<category><![CDATA[tensor]]></category>
		<category><![CDATA[transformer]]></category>
		<category><![CDATA[wan]]></category>
		<category><![CDATA[Windows]]></category>
		<category><![CDATA[エラー]]></category>
		<category><![CDATA[最適化]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9735</guid>
				<description><![CDATA[WindowsでAIを動かそうとすると、よく見かけるのが CUDA と DirectML です。 NVIDIA製GPUであればCUDAが一般的ですが、AMDやIntelのGPU、あるいはCUDAを使えない環境では DirectML が選択肢になります。 そのDirectMLをPyTorchから利用するためのライブラリが torch-directml です。 この記事では、torch-directmlとは何か、必要になる場面、制限事項、インストール方法、使い方についてまとめます。 torch-directmlとは？ torch-directmlは、PyTorchからMicrosoft DirectMLを利用するためのライブラリです。 DirectMLはWindowsのDirectX 12上で動作する機械学習アクセラレーションAPIで、 AMD GPU Intel GPU NVIDIA GPU など、DirectX 12対応GPUであれば利用できます。 つまり、CUDAが使えない環境でもGPUでPyTorchを実行できるようになります。 いつ必要になるの？ 必要になるのは 「PyTorchでDirectMLを利用 [&#8230;]]]></description>
									</item>
		<item>
		<title>「話しかけると自動で認識して自然な声で返答してくれるシステム」をWindows環境に構築</title>
		<link>https://aidev.bluegarage.site/blog/2026/07/07/%e3%80%8c%e8%a9%b1%e3%81%97%e3%81%8b%e3%81%91%e3%82%8b%e3%81%a8%e8%87%aa%e5%8b%95%e3%81%a7%e8%aa%8d%e8%ad%98%e3%81%97%e3%81%a6%e8%87%aa%e7%84%b6%e3%81%aa%e5%a3%b0%e3%81%a7%e8%bf%94%e7%ad%94%e3%81%97/</link>
				<pubDate>Tue, 07 Jul 2026 01:18:49 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[アプリケーション開発]]></category>
		<category><![CDATA[CUDA]]></category>
		<category><![CDATA[deepseek]]></category>
		<category><![CDATA[gpu]]></category>
		<category><![CDATA[Python]]></category>
		<category><![CDATA[PyTorch]]></category>
		<category><![CDATA[Windows]]></category>
		<category><![CDATA[エラー]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9730</guid>
				<description><![CDATA[ローカルPC上で完全に動作する音声会話AIを作る方法を解説します。DeepSeek-R1（Ollama）・Silero VAD・Whisper・VOICEVOXを組み合わせて、「話しかけると自動で認識して自然な声で返答してくれるシステム」をWindows環境に構築します。 システム構成 マイク音声 ↓ Silero VAD（発話検出） ← 声が来たら自動で反応 ↓ Whisper（音声→テキスト） ↓ DeepSeek-R1 / Ollama（AIの返答生成） ↓ VOICEVOX（テキスト→自然な音声） ↓ スピーカー 必要なもの ツール 用途 入手先 Python（embed版 or 通常版） スクリプト実行 python.org ollama.exe AIモデルのサーバー github.com/ollama/ollama/releases VOICEVOX（run.exe） 日本語音声合成 voicevox.hiroshiba.jp ffmpeg.exe Whisperの音声前処理 github.com/BtbN/FFmpeg-Builds/releases フォルダ構成 すべてを1つのフォルダにまとめ [&#8230;]]]></description>
									</item>
		<item>
		<title>CUDA Version表示の正しい意味と、動作するGPU・安全なバージョン選び</title>
		<link>https://aidev.bluegarage.site/blog/2026/04/27/cuda-version%e8%a1%a8%e7%a4%ba%e3%81%ae%e6%ad%a3%e3%81%97%e3%81%84%e6%84%8f%e5%91%b3%e3%81%a8%e3%80%81%e5%8b%95%e4%bd%9c%e3%81%99%e3%82%8bgpu%e3%83%bb%e5%ae%89%e5%85%a8%e3%81%aa%e3%83%90%e3%83%bc/</link>
				<pubDate>Mon, 27 Apr 2026 00:59:24 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[アプリケーション開発]]></category>
		<category><![CDATA[CUDA]]></category>
		<category><![CDATA[gpu]]></category>
		<category><![CDATA[PyTorch]]></category>
		<category><![CDATA[tensor]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9641</guid>
				<description><![CDATA[はじめに nvidia-smi を実行すると、次のような表示を見ることがあります。 CUDA Version: 13.0 この表示を見て、 「CUDA 13が使える」 「どのNVIDIA GPUでも動く」 と思ってしまうケースが非常に多いですが、これは正確ではありません。 この記事では、 CUDAとは何か（簡単に） CUDA Version 表示の本当の意味 CUDAが動くGPUの条件 推論用途でCUDAを自分で入れる必要があるのか 失敗しないCUDAバージョンの選び方 を整理して解説します。 CUDAとは何か（簡単に） CUDA（Compute Unified Device Architecture）は、 NVIDIAのGPUを使って高速計算を行うための仕組み です。 通常、プログラムはCPUで実行されますが、CUDAを使うことで： 並列計算（同時に大量の処理） 行列計算（AI・画像処理など） をGPUで高速に実行できます。 特に以下の分野で使われます。 機械学習・深層学習 画像処理 科学技術計算 CUDA Version 表示の正体 CUDA Version: 13.0 これは次の意味です。 インストール [&#8230;]]]></description>
									</item>
		<item>
		<title>Stable Diffusionのメモリ最適化まとめ（CPU offload / slicing / bitsandbytes / accelerate）</title>
		<link>https://aidev.bluegarage.site/blog/2026/04/16/stable-diffusion%e3%81%ae%e3%83%a1%e3%83%a2%e3%83%aa%e6%9c%80%e9%81%a9%e5%8c%96%e3%81%be%e3%81%a8%e3%82%81%ef%bc%88cpu-offload-slicing-bitsandbytes-accelerate%ef%bc%89/</link>
				<pubDate>Thu, 16 Apr 2026 00:54:18 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[画像処理・作成]]></category>
		<category><![CDATA[CUDA]]></category>
		<category><![CDATA[gpu]]></category>
		<category><![CDATA[Stable Diffusion]]></category>
		<category><![CDATA[vae]]></category>
		<category><![CDATA[エラー]]></category>
		<category><![CDATA[最適化]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9625</guid>
				<description><![CDATA[Stable Diffusionなどの画像生成モデルを動かすとき、特に問題になるのが「VRAM不足」です。この記事では、Diffusersでよく使われるメモリ最適化機能と、その仕組み・注意点をまとめます。 メモリ最適化機能の概要 enable_model_cpu_offload() モデル全体をGPUに常駐させず、必要なときだけCPUからGPUへ転送する仕組みです。 使う直前にGPUへロード 使い終わったらCPUへ戻す 特徴 VRAM使用量：大きく削減 実行速度：低下（転送コストがある） enable_sequential_cpu_offload() enable_model_cpu_offload()の強化版で、モデルをレイヤー単位で扱います。 レイヤーごとにGPUへロード 計算後すぐCPUへ戻す 特徴 VRAM使用量：最小レベル 実行速度：かなり遅い（毎回転送が発生） enable_attention_slicing() Attention計算を分割して処理することで、メモリ使用量を抑える機能です。 特徴 VRAM使用量：中程度削減 実行速度：やや低下 enable_vae_slicing() 画像を生成 [&#8230;]]]></description>
									</item>
		<item>
		<title>VRAM 8GBでQwen画像生成モデルを動かす方法</title>
		<link>https://aidev.bluegarage.site/blog/2026/04/03/vram-8gb%e3%81%a7qwen%e7%94%bb%e5%83%8f%e7%94%9f%e6%88%90%e3%83%a2%e3%83%87%e3%83%ab%e3%82%92%e5%8b%95%e3%81%8b%e3%81%99%e6%96%b9%e6%b3%95/</link>
				<pubDate>Fri, 03 Apr 2026 00:58:35 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[画像処理・作成]]></category>
		<category><![CDATA[CUDA]]></category>
		<category><![CDATA[gpu]]></category>
		<category><![CDATA[PyTorch]]></category>
		<category><![CDATA[Qwen]]></category>
		<category><![CDATA[transformer]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9604</guid>
				<description><![CDATA[Qwenベースの画像生成モデルをローカルで動かそうとして、VRAM不足に悩んでいる方も多いと思います。 今回は Diffusers の transformer_qwenimage.py（QwenTransformer2DModel）を改造してTransformerブロックをCPUにオフロードする ことで、8GBのGPUでも動かすことに成功したので、その方法の一端を共有します。 問題：Transformerブロックが多すぎてVRAMが足りない Qwenの画像生成モデルは内部に大量のTransformerブロックを持っています。すべてをGPU（CUDA）上に乗せたまま推論しようとすると、VRAM 8GBでは当然アウトです。 解決策は単純で 「使うときだけGPUに持ってきて、終わったらCPUに戻す」 という逐次オフロードです。 改造内容：forward() メソッドのブロックループ部分 transformer_qwenimage.py の forward() メソッド内、Transformerブロックをループ処理している箇所を以下のように変更します。 変更前（すべてのブロックがGPU常駐） for block in [&#8230;]]]></description>
									</item>
		<item>
		<title>WanによるAI動画生成で「プロンプトを書いたのに人物が全然動かない」場合のパラメーターの見直し</title>
		<link>https://aidev.bluegarage.site/blog/2026/04/02/wan%e3%81%ab%e3%82%88%e3%82%8bai%e5%8b%95%e7%94%bb%e7%94%9f%e6%88%90%e3%81%a7%e3%80%8c%e3%83%97%e3%83%ad%e3%83%b3%e3%83%97%e3%83%88%e3%82%92%e6%9b%b8%e3%81%84%e3%81%9f%e3%81%ae%e3%81%ab%e4%ba%ba/</link>
				<pubDate>Thu, 02 Apr 2026 01:07:57 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[動画]]></category>
		<category><![CDATA[CUDA]]></category>
		<category><![CDATA[inference]]></category>
		<category><![CDATA[LoRA]]></category>
		<category><![CDATA[pipeline]]></category>
		<category><![CDATA[Python]]></category>
		<category><![CDATA[transformer]]></category>
		<category><![CDATA[vae]]></category>
		<category><![CDATA[wan]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9602</guid>
				<description><![CDATA[WanによるAI動画生成で「プロンプトを書いたのに人物が全然動かない」という経験はありませんか？この記事では、Wanで人物の動きを強く引き出すプロンプトのコツと、シンプルな実行コードをまとめて解説します。 なぜ人物が動かないのか？ プロンプトの書き方以前に、パラメータ設定が原因でほぼ動かなくなるケースが多いです。まず以下を確認してください。 パラメータ NG値 推奨値 guidance_scale 1～２（低すぎる） 5.0〜7.0 num_inference_steps 8（少なすぎる） 20〜30 DMD蒸留LoRA 常時ON まず外して試す guidance_scale が低いとモデルがプロンプトをほぼ無視します。まずここを直すだけで改善することが多いです。 プロンプトで動きを引き出す5つのコツ 1. 動作を時系列で分解して書く 「歩く」だけでなく、身体の動きを順番に記述すると効果的です。 ❌ "The woman walks." ✅ "She lifts her right foot, strides forward, swings her arms, walking briskly." 2. 副詞・ [&#8230;]]]></description>
									</item>
		<item>
		<title>Qwen Image Edit + LoRAで2回目から高速になる理由【キャッシュの仕組みを解説】</title>
		<link>https://aidev.bluegarage.site/blog/2026/03/31/qwen-image-edit-lora%e3%81%a72%e5%9b%9e%e7%9b%ae%e3%81%8b%e3%82%89%e9%ab%98%e9%80%9f%e3%81%ab%e3%81%aa%e3%82%8b%e7%90%86%e7%94%b1%e3%80%90%e3%82%ad%e3%83%a3%e3%83%83%e3%82%b7%e3%83%a5%e3%81%ae/</link>
				<pubDate>Tue, 31 Mar 2026 01:38:17 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[アプリケーション開発]]></category>
		<category><![CDATA[CUDA]]></category>
		<category><![CDATA[gpu]]></category>
		<category><![CDATA[LoRA]]></category>
		<category><![CDATA[PyTorch]]></category>
		<category><![CDATA[Qwen]]></category>
		<category><![CDATA[Windows]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9597</guid>
				<description><![CDATA[Qwen Image EditでLoRAを使っていると、初回は1時間かかるのに、2回目からは10分で終わるという現象に気づいた方も多いのではないでしょうか。しかも、プログラムを再起動しても2回目以降は速いまま。この記事では、その理由をキャッシュの仕組みから丁寧に解説します。 結論：2種類のキャッシュが組み合わさっている 速度差の正体は、主に以下の2つのキャッシュ機構です。 OSのページキャッシュ（RAMへのファイルキャッシュ） CUDA / Tritonカーネルのコンパイルキャッシュ（ディスクへの保存） それぞれ詳しく見ていきましょう。 ① OSのページキャッシュ（最大の要因） LoRAやベースモデルの重みファイルは数GBにおよびます。初回実行時はこれをSSDやHDDから読み込む必要があるため、I/Oに時間がかかります。 初回: ストレージ(SSD/HDD) → RAM → GPU ← 遅い 2回目: RAM(キャッシュ済み) → GPU ← 速い OSは一度読み込んだファイルデータをRAMのページキャッシュとして保持し続けます。重要なのは、プログラムを再起動してもOSは動き続けているため、このキャッシュは消 [&#8230;]]]></description>
									</item>
		<item>
		<title>Python（embed版）でCUDA対応PyTorchを使ったGPU推論環境の作り方</title>
		<link>https://aidev.bluegarage.site/blog/2026/03/23/python%ef%bc%88embed%e7%89%88%ef%bc%89%e3%81%a7cuda%e5%af%be%e5%bf%9cpytorch%e3%82%92%e4%bd%bf%e3%81%a3%e3%81%9fgpu%e6%8e%a8%e8%ab%96%e7%92%b0%e5%a2%83%e3%81%ae%e4%bd%9c%e3%82%8a%e6%96%b9/</link>
				<pubDate>Mon, 23 Mar 2026 01:56:15 +0000</pubDate>
		<dc:creator><![CDATA[aidevadmin]]></dc:creator>
				<category><![CDATA[アプリケーション開発]]></category>
		<category><![CDATA[CUDA]]></category>
		<category><![CDATA[gpu]]></category>
		<category><![CDATA[LLM]]></category>
		<category><![CDATA[Python]]></category>
		<category><![CDATA[PyTorch]]></category>
		<category><![CDATA[エラー]]></category>

		<guid isPermaLink="false">https://aidev.bluegarage.site/blog/?p=9570</guid>
				<description><![CDATA[はじめに 最近のGPU環境では「CUDAは自動で入っているのか？」「PyTorchはどこまで自動でやってくれるのか？」といった疑問を持つ人が多いと思います。 この記事では、Pythonのembed版（ポータブル環境）でCUDA対応PyTorchを使ったGPU推論を行う方法を、最小構成でわかりやすく解説します。 結論（重要ポイントまとめ） RTX 20xx以降でも CUDAは自動では入らない ただし PyTorch（CUDA版）に必要なライブラリは同梱されている GPU推論だけなら 👉 torchだけでOK（torchvision / torchaudioは不要） 必須なのは 👉 NVIDIAドライバのみ CUDAは勝手に入っているのか？ 結論： 👉 入っていない（完全な形では） ただし以下の理由で「入っているように見える」ことがあります： NVIDIAドライバに一部CUDAランタイムが含まれている PyTorchなどが必要なCUDAライブラリを同梱している そのため、 👉 「何もしてないのにGPU動いた」＝内部で依存関係が入っているだけ PyTorch（CUDA版）の仕組み CUDA対応のPyTorchは以下 [&#8230;]]]></description>
									</item>
	</channel>
</rss>
