ROCm 10でRadeonのローカルLLMは速くなるのか?Radeon AI PRO R9700で確かめてみた
8月末にROCm 10.0がリリースされました。7.14からいきなり10.0という大ジャンプで、番号だけ見ると何か大きなことが起きたように見えます。前回、RTX 4070 TiからRadeon AI PRO...
View ArticleRadeon AI PRO R9700 + Qwen3.8 27BでClaude Codeのコーディング環境構築。LM Studioの設定からエラーの解決まで
自分のローカルLLM環境がだいぶ実用的になってきたので、Claude Codeのコーディングだけをローカルモデルに逃がせないか試してみました。もちろん、クラウド側のClaudeはもちろん便利なんですが、社外秘のコードやデータを触るときや、不在ときに生成を回しっぱなしにしたいときは、やっぱり手元で完結できると気が楽なんですよね😊そこで、今回はLM StudioでQwen3.8...
View ArticleRTX 4070 TiからRadeon AI PRO R9700へ。32GB VRAMでローカルLLMベンチの値はどう変わったか?
以前、RTX 4070 Ti(12GB)でローカルLLMのベンチマーク定番セットを確立し、12GB VRAMの現在地を記録しました。uepon.hatenadiary.comそして、前回はGPUをXFX Radeon AI PRO R9700...
View ArticleRTX 4070 TiをRadeon AI PRO R9700に換装する。NVIDIAからAMDへの乗り換え手順と注意点
前回のエントリでは、RTX 4070 Ti(12GB)でローカルLLMベンチマークの基準値を取りました。その最後でGPUの乗り換えの話をしていましたが、今回はいよいよそのGPUの換装作業となります。交換するGPUはXFX Radeon AI PRO R9700...
View ArticleローカルLLMのベンチマーク、毎回やり方がブレるので「定番セット」を決めた(RTX 4070 Ti 12GB計測編)
ローカルLLMで新しいモデルやツールを試すたびに、毎回ベンチマークのやり方で悩んでいます🤔あるときはLM...
View ArticleMicrosoftのMAI(Microsoft AI)この1年の動きを整理してみた
LLMモデルに関する企業の動きを定点観測記事を半年ごとに書いていますが、最近気になっているモデルファミリーがあります。Microsoftが自社開発しているAIモデル群MAI(Microsoft...
View ArticleColabで動いたNDLOCR-Lite、次は手元のWindows 11+GTX 1650で動かしたい
先日のブログでNDLOCR-LiteをGoogle Colabで動かしてみましたが、それでうまくいくとやっぱり手元のマシンでも動かしておきたくなりますよね😊今回はWindows 11+GTX...
View ArticleIBM Granite 2026年前半の進化を振り返る
半年前に「IBM Granite この半年の進化を振り返る」という記事を書きましたが、あれから半年、Graniteはまた大きく動いていました🤗uepon.hatenadiary.com前回はGranite 4.0のハイブリッドMamba/Transformerアーキテクチャを中心に整理していたのですが、今回はそれとも様子が違うようです。4月に登場したGranite...
View Article続・Qwen3-TTS!GTX 1070(Ubuntu)とGTX 1650(Windows)のローカルGPUで動くのか試してみた
前回はQwen3-TTSのボイスクローンをGoogle Colab(無料枠のT4)で試してみました。コピペ中心であっさり動いたので、次はやっぱりローカルGPUで動かしたくなるのが人情というものです😊関連Qwen3-TTSをGoogle Colabで試した回uepon.hatenadiary.comIrodori-TTSをGTX...
View Article多言語ボイスクローンTTS『Qwen3-TTS』をGoogle Colabで試してみた
「AIに自分の声を喋らせる」ボイスクローンTTSですが、名前は聞くけどまだ手を出していない…という人も多いんじゃないでしょうか。自分もつい最近までそうだったんですが、いざ触ってみたら想像よりずっと手軽で、ここのところIrodori-TTSで試す記事を続けて書いてきました。関連Irodori-TTSをGoogle...
View Article白紙の前で考えるか、散歩しながら話すか、AIとの壁打ちが変わり始めた?
ChatGPTの新しい音声モード(GPT‑Live)を使ってみました。正直、使う前は「また音声がきれいになったのかな」くらいに思っていました🤔 しかし、実際に触ってみてまず感じたのは、声が人間らしくなったということではなく、会話そのものの質が変わったという印象でした。openai.comこれまでの音声AIは、こちらが話し終わるのを待ち、その内容を処理してから返事をする仕組みが中心でした。...
View Article今更かよ!CMDとPowerShellの違いをまとめてみる
普段なにげなくCMDとPowerShellを使い分けているのですが、先日「この2つって何が違うの?」と聞かれて、意外とちゃんと説明できなかった😅いい機会なので、自分の勉強も兼ねて両者の違いと、普段使っていて「これは知っておくと楽だな」と思っているTipsをまとめてみました。特に日本語環境ならではの文字コード周りは、自分も過去に何度かハマっているので厚めに書いています。...
View Article続・Irodori-TTS:GTX 1650(Turing世代)で“自分の声”クローンを動かす(Windows 11 + WSL2編)
以前、日本語ボイスクローンTTS「Irodori-TTS」をGoogle Colabで触ってみた、という記事を書きました。その後の実験で、手元のUbuntuラップトップのGTX 1070 Mobileで動かそうとしたらGPUの世代の都合で動かせなかったのです。 原因はtorchの対応GPU世代で、Pascal世代(GTX...
View ArticleAIエンジニアリングの4つの階層と、この先出てきそうな「○○エンジニアリング」を予想してみる
プロンプトエンジニアリング、コンテキストエンジニアリングまでは追っかけられていたんですが、それ以降は正直もうついていけないなあと思っていたのですが、最近「The 4 Layers of AI...
View Article今さらChatGPTの初期設定を見直す!更にその設定に勝手にランキングを付けてみる!
普段はローカルLLMまわりばかり触っている自分ですが、ChatGPTも日常的に使っています(常用は日本語の資料作りが多いのでClaudeですが🙄)。ただ、初期設定ってほとんどいじってなかったんですよね😅...
View ArticleLLMモデルをダウンロードしたのに「動かない…🥲」を防ぐ。AIモデル選択に使える「LLM Checker」
「自分のPCの中だけでAIを動かしてみたい」と思って、モデルを探してダウンロードしてみる。ところが、いざ動かそうとしたら重すぎて動かない、あるいはメモリに収まらずエラーで止まってしまう…。ローカルLLMCPを触りはじめると、わりとよくあるのがこのパターンです。...
View ArticleDocker Desktop不要の時代が来る?WSL標準の「wslc」でLinuxコンテナを動かしてみた
Windows上でLinuxコンテナが直接動く「WSL container」がPublic...
View Article