ChatGPTのファインチューニングにかかる費用をどうにかしたい話

こんにちは、ぱそきいろです。以下のブログでChatGPTにファインチューニングさせる準備ができたわけですが、、 「ここから課金すればファインチューニングが始まります」で終わっています。 www.takacpu55.xyz今回はコストの見積もりとどうするかを考えていきます。 費用の見積もり データの抽出 結果 費用の見積もり 今回はざっくりで良いので費用を見積もります。 ファインチューニングにかかる費用は公式ページを見るとgpt-3.5turboで$0.0080 / 1,000 トークンとなっています。 この辺りを見ると日本語1文字1トークンとなっているため、前回作成したデータセット内のプロンプ…

【準備】ChatGPTのFinetuning用データセットの作成

こんにちは、ぱそきいろです。 旧ツイッター（X、以下ツイッター）のデータがDLできたのでChatGPTに学習させていきたいと思います。 まずは準備としてツイッターからデータをDLしてChatGPTに学習させるためのデータセット作成までを書きます。 やりたいこと ツイッターのデータDL申請 ツイートデータ データ整形 Playgroundへアップロード まとめ やりたいこと ChatGPTに"ぱそきいろ"のツイートを学習させて、"ぱそきいろ"っぽいツイートを生成してもらいたいです。 あわよくば、"ぱそきいろ"っぽくチャットさせたいです。 手法としてはファインチューニングで実現します。 公式で説明…

おすすめ記事9選

こんにちは，ぱそきいろと申します．ぱそきいろ (@takacpu55) Twitter 情報系大学院を卒業して通信業界で働いております. 当ブログはぱそきいろが IT プログラミングなどで思ったこと，遊んだことについて書いています． おすすめ記事を載せますので，読者になる，スターを頂けましたら幸いです． よろしくお願いいたします． プログラミングで遊んでみた関係 就活関係 ハッカソン関係

今まで読んだ本の中で殿堂入りするものを挙げる

こんにちは、ぱそきいろです。 タイトルの通り今まで読んだ本の中で殿堂入りしている本を上げていこうと思います。 ITやプログラミングには関係ないですが、理系やエンジニアが本能的に好きそうな本が多いので、もし時間があれば読んでいただければと思います。 （ジェノサイドやキケンはまさに理系ホイホイな作品だと思ってます） 選考基準 ジェノサイド（高野和明） キケン（有川浩） ダークゾーン（貴志祐介） ゴールデンスランバー（伊坂幸太郎） 出口なし（藤ダリオ） 都会のトムソーヤシリーズ（はやみねかおる） まとめ 選考基準 以下の基準で選んでいます。全て私の主観です。 圧倒的に面白いか 何度も読み返したくなる…

バイナンスが日本で使えなくなるようなので全額出金した話

こんにちは、ぱそきいろです。 バイナンスより以下のお知らせが出ておりました。 www.binance.com リンク先を確認すると、 日本居住の人向けにローカルプラットフォームができる グローバルプラットフォームは日本居住の人は使えなくなる 移行のスケジュール が書いてあります。 2023年12月1日 新しいローカル プラットフォームへの移行が完了しました。 移行のためのKYCを完了した日本在住のユーザーは、新しいローカルプラットフォームの使用を開始できるようになります。 KYC を完了していないユーザーは資産の出金のみが可能です。 とあるので、出金自体はできそうですが、使い勝手が悪くなるのは…

PROMPTYの紹介

こんにちは、ぱそきいろです。 本日はプロンプトエンジニア向けサイト、「PROMPTY」の紹介記事となります。 なお、本記事はPROMPTYの依頼により書いております。 [:contents] プロンプトエンジニアとは PROMPTYとは まとめ プロンプトエンジニアとは 近頃、生成系AIと呼ばれるAIが流行っています。 画像生成系ならStable deffusion、文章生成系ならChat GPTが有名です。 以下あたりから無料で試すことができます。 huggingface.co openai.com 個人的には文章生成系よりも画像生成系の方が先に流行ったところが面白いなと思っています。 直感…

ABC301 A~D問題をpythonで解く

こんばんは、ぱそきいろです。 久々にABC（Atcoder Beginner Contest）301で4完できたので解説を残しておきます。 atcoder.jp A問題 Overall Winner B問題 Fill the Gaps C問題 AtCoder Cards D問題 Bitmask まとめ A問題 Overall Winner よく考えるともっとシンプルにできそうですが、制約がN count()を使おうとしたけど勝ち数が同じ場合を考慮しないといけないので・・・ AとTの回数を数えて、N/2を超えると勝ちが決まります。 N=int(input()) S=input() a=0 t=0…

積分を使った平均継続期間が「1/解約率」である証明

こんにちは、ぱそきいろです。 仕事でサブスクサービスを担当しています。 その中で 平均継続期間＝1/解約率 という謎の数式が出てきました。 証明の有名なブログもあるみたいですが別の証明が思いついたので残しておきます。 無限等比数列の和を使った証明 積分を使った証明 まとめ 無限等比数列の和を使った証明 migi.hatenablog.com 最初これを見て納得しました。 が、自分が想定していた証明と少し違うので解きなおしました。 （おそらく本質は同じ気がしますが。。） 積分を使った証明 上記リンクと同じ、ユーザ数10,000人、月の解約率が10%のサービスを想定します。 この時、xヶ月目のユー…

はてなブログでGA4へ移行した話

こんにちは、ぱそきいろです。 今まで本ブログは旧GA（UA）でアクセス数を見ていたのですが、2023年6月末で終了するとの案内がありました。 support.google.com かなり前から知ってはいたのですが、後回しになっておりました。 GWにやってしまったので備忘を残しておきます。 GA側手順 はてなブログ側手順 計測確認 まとめ GA側手順 Google analyticsにアクセスすると以下のような警告が出ます。 （かなり大きな警告・・・） このポップアップから「設定アシスタントに移動」で移動します。 ここの「新しいGoogleアナリティクス4プロパティを作成する」から「はじめに」を…

令和5年度ネットワークスペシャリスト午前2解説

こんにちは、ぱそきいろです。 令和5年度ネットワークスペシャリストを受けてきました。 少なくとも午前1,2は合格してそうなので、解説していきます。 と言いつつ、午後で確実に落ちているのでまじめな解説はする気はなく（できる気はなく）、どの思考回路で合格点到達するかあたりの解説です。 結論 解説 問1 問2 問3 問4 問5 問6 問7 問8 問9 問10 問11 問12 問13 問14 問15 問16 問17 問18 問19 問20 問21 問22 問23 問24 問25 まとめ 結論 過去問（直近2年分）と最低限違う選択肢を選ばなければ最低6割はいくはず。 ネットワークスペシャリスト過去問道場…

【12月収益】nicehashでのマイニング収益

こんにちは、ぱそきいろです。 一つ前の記事でマイニングが儲からない話をしました。 www.takacpu55.xyz せめてもの対処法としてnicehashを使う方法を紹介しました。 一月でいくら稼げるかを公開します。 結論 条件 詳細 まとめ 結論 12月ひと月で約409円、0.00018897BTCでした。 条件 GPU：GTX 1660 super 24時間稼働、1日6時間はPCを利用（youtubeなどでGPUはあまり使わない） 詳細 詳細をCSVで落としたので載せます。 大体一日13円くらいで409円でした。 1BTCは2,168,917円で計算してます。 nicehashの使い方は…

渋谷ジャックbot：使い方

「誰でも独立政権を樹立した後に演説する気分になれるLINE bot」です。 年末年始が暇だったのと、お勉強がてらジョークで作りました。 元ネタはこのツイートです。 ひさびさに渋谷に来たら草間彌生が独裁政権を樹立していた pic.twitter.com/dFGktM5uqA — 虚ペン (@Man_with_a_MC) 2022年12月2日 こんな感じの画像が作れます。 使い方 todoリスト 利用規約 制作ブログ 使い方 1. LINEで「渋谷ジャックbot」を友達登録します。 2. トーク画面で、顔が写った写真を「渋谷ジャックbot」に送ります。 ※なるべく正方形の画像をお送りしてください。…

渋谷ジャックbot：利用規約

利用規約 この利用規約（以下，「本規約」といいます。）は，ぱそきいろ（以下，「当方」といいます。）がこのウェブサイト上で提供するサービス（以下，「本サービス」といいます。）の利用条件を定めるものです。登録ユーザーの皆さま（以下，「ユーザー」といいます。）には，本規約に従って，本サービスをご利用いただきます。 第1条（適用） 本規約は，ユーザーと当方との間の本サービスの利用に関わる一切の関係に適用されるものとします。 当方は本サービスに関し，本規約のほか，ご利用にあたってのルール等，各種の定め（以下，「個別規定」といいます。）をすることがあります。これら個別規定はその名称のいかんに関わらず，本規…

ビットコインとイーサリアムの相関関係を調べてみる【相関係数・コサイン類似度】

こんにちは、ぱそきいろです。以前、マイニングしたETHをなるべく出金手数料を少なくする方法を調べました。 www.takacpu55.xyz この中でETH→BTCを経由して楽天キャッシュにチャージするという方法でしたが、売り時をどうするかという問題があります。 つまり、ETHが上がって日本円（楽天キャッシュ）にしようとしてもBTCが下がっていたら結果的に損をするのでは無いかという気がします。 グラフを見たらおそらく（擬似）相関があるのだろうという気がしますが、勉強をかねて相関を出す方法を考えてみました。 データのDL データ前処理 相関係数 コサイン類似度 まとめ データのDL ここからデー…

【収益公開】マイニングが全然儲からなくなった話

こんにちは、ぱそきいろです。 過去にGPUマイニングの記事を書いておりました。 ただ、今は昔ほど収益がなく。。。 現在のマイニング収益と今後どうするかを書いていきたいと思います。 よろしくお願いします。 イーサリアムのマージ マイニング収益はどうなった？ 9/15以降マイニングするには？ 今後どうするか？ イーサリアムのマージ こちらの記事でマイニングの方法と収益を書いていました。 しばらくは問題なくマイニングできていたのですが、近頃情勢が変わりました。 9/15にイーサリアムのマージなるものが行われました。 マージについては本題ではないのでここらへんを参照してください。 Mergeでイーサリ…

ABC263 D問題

こんばんは、ぱそきいろ (@takacpu55) / Twitterです。 ABC263のD問題（Left Right Operation）解説の理解が難しかったのでメモを残しておきます。ちなみに最近土曜日に予定が被ってABC出れない・・・ 問題 解説 まとめ ACしたコード 問題 atcoder.jp 解説 シンプルに解こうと思ったら問題文に沿ってコードを書けばいい気がします。 （最初の方針はこちらを思いついた） atcoder.jpもう一つの解説の式変形が詰まったのでメモを残します。 min[0≤x≤y≤N] (Lx+(cum[y]−cum[x])+R(N−y)) Lx：整数xで置き換えた…

ポケモンWordleを大人の力（Python）を使って解く

こんばんは、ぱそきいろ (@takacpu55) Twitterです。 最近Wordleが人気ですね。 また、Wordleから派生してポケモンWordleというものもあるみたいです。 wordle.mega-yadoran.jp ポケモンをやっていた身としては「なんとしてもチャレンジしなくては！」と意気込んでいたものの、全然解けませんでした。。 そこで大人の力（Python）を使ってポケモンWordleを解きました。 （数時間で、最低限解ければいいという発想で作っていますので、コードが汚い、効率が悪いはご容赦を。。。） 製作物 実際にPythonでポケモンWordleを解いている動画を上げ…

minerstat+BINANCEで出金手数料を少なくする方法

こんにちは、ぱそきいろです。 最近デスクトップPCを買いました。 www.takacpu55.xyz グラボを積んでいるので、使っていないときに仮想通貨マイニングをさせています。 それなりの額をマイニングできているのですが、下手したら出金手数料で半分以上持っていかれそうでした。 調べた結果、手数料を10%以下に抑えられそうでしたので備忘録がわりに残しておきます。 もっといい方法がある等ありましたら教えてくださいますと幸いです。 前提 グラボ：NVIDIA GeForce GTX 1660 SUPER マイニングプール：BINANCE マイニングソフト：minerstat ウォレット：niceh…

ABC231 D問題の解説（Python）とモチベーションを保つの難しいという話

こんばんは、ぱそきいろです。 Atcoderの話をします。ブログでは初めて書きます。 D問題の解説とモチベーションを保つのは難しいよねという話をします。 ABC231 D問題 モチベーションを保つのが難しい ABC231 D問題 1 から N の番号がついた N 人を横一列に並べる方法のうち、以下の形式の M 個の条件全てを満たすものが存在するか判定してください。条件：人 A iと人 B iは隣り合っている D - Neighborsシンプルな問題文だったものの、少し手惑いました。 解説にもあるのですが、以下の2点を満たすとYesと出力すればいいです。 3回以上登場する人がいない 並べたときに…

新しいPCを買った

こんにちは、ぱそきいろです。 初めてデスクトップPCを買ったので紹介します。 ついでにデスク周りも整えたので自慢します笑 買ったPC スペックを雑に説明 写真 まとめ 買ったPC TSUKUMOでBTOで注文しました。 今までBTOパソコンの存在は知っていたのですが、想定よりも便利ですね。 好きなように注文しました。 www.tsukumo.co.jp スペックを雑に説明 CPU→11th Gen Intel(R) Core(TM) i5-11400 @ 2.60GHz 2.59 GHz Core i 5あれば十分かと メモリ→16G SSD→1T 500Gから1Tへのアップグレードが+500…