メインカテゴリーを選択しなおす
#rinna
INポイントが発生します。あなたのブログに「#rinna」ハッシュタグのバナーを掲載しませんか ハッシュタグのバナーやリンクをINポイントランキングの対象にしたいメンバーの方は、ログインしてからリンクタグを取得してください ・バナーを変更したい場合は、必ず画像に「ハッシュタグ」または「タグ」の文字かバナーロゴを重ねてください
タグをコピーしました
ハイスペックでなくても省資源でAIを動かすことができるのか?
ネットを漁っていたら、きしだのHatenaサイトにて「「CTranslate2でRinnaモデルをコンバートしてCPUや8GB GPUで動くようにする」」という記事を見かけました。関連して「rinnaのYouri 7Bで8GB GPUでもLLM翻訳ができるかも」などの記事もありましたが、AIの進歩は凄いですね。...
2023/11/22 07:35
rinna
フォローできる上限に達しました。
新規登録/ログインすることでフォロー上限を増やすことができます。
フォローしました
リーダーで読む
GPUがなくてもRinnaいける?
「ジャンクノートパソコンにPythonと日本語LLMのRinnaを入れてメモリ16GBとSwapフルでローカル質問してみた。メモリ足りなくてもSwap積めばなんとかなる。ローカルLLM最高」との記事を見かけました。これなら手元機材を元に、メモリを追加すればなんとかなるかな?...
2023/11/09 07:39
VRAM 16GB以上のグラフィックカードが欲しくなった
INTERNET Watchにて「自宅PCで「rinna」の日本語言語モデルを試用、メモリ32GBあればCPUだけでも動くぞ!」なる記事を見て、VRAM 16GB以上のグラフィックカードが欲しくなりました。ただ高いんだよな。他社(intel AMD)GPUでも使用できるようにならないものでしょうか?...
2023/06/05 21:33