ハッシュタグ記事一覧

MATLAB,Python,Scilab,Julia比較 第4章 その88【ユニット数増加③】

多層パーセプトロンの隠れ層のユニット数を2から4に変えたPythonコードで分類を実施。 大きく2パターンの分類パターンがある。 やや複雑な分類パターンが4ユニットにすることで出てきたもの。

2024/08/30 20:49

MATLAB,Python,Scilab,Julia比較 第4章 その89【ユニット数増加④】

多層パーセプトロンの隠れ層のユニット数を2から4に変えたScilabコードで分類を実施。 大きく2パターンの分類パターンがある。 やや複雑な分類パターンが4ユニットにすることで出てきたもの。

2024/08/30 20:48

MATLAB,Python,Scilab,Julia比較 第4章 その90【ユニット数増加⑤】

多層パーセプトロンの隠れ層のユニット数を2から4に変えたJuliaコードで分類を実施。 大きく2パターンの分類パターンがある。 やや複雑な分類パターンが4ユニットにすることで出てきたもの。

2024/08/30 20:48

【入門】ユニット数増加(MATLAB)【数値計算】

多層パーセプトロンの隠れ層のユニット数を2から4に変えたMATLABコードで分類を実施。 大きく2パターンの分類パターン やや複雑な分類パターンが4ユニットにすることで出てきたもの。

2024/08/30 20:48

【入門】ユニット数増加(Python)【数値計算】

多層パーセプトロンの隠れ層のユニット数を2から4に変えたPythonコードで分類を実施。 大きく2パターンの分類パタ やや複雑な分類パターンが4ユニットにすることで出てきたもの。

2024/08/30 20:48

MATLAB,Python,Scilab,Julia比較 第5章 その26【三角関数の直交性①】

直交性とは2つのベクトルが垂直に交わることを指す。 直交しているベクトルの内積は必ず0になる。 cos関数の影響。 成分表記の内積でも0になることを確認。

2024/08/30 20:48

2024年8月30日 第6546回 ナンバーズ3 最新最強AI予想

2024年8月29日 第6545回の結果 当選番号 355 100桁 4 (9) , 8 (3) , 7 (2) 10桁 8 (3) , 9 (4) , 4 (9) 1桁 7 (2) , 0 (5) , 4 (9) ※カッコ内は裏数字 ひとつ違い×3 2024/8/29 第6545回 #ナンバーズ3 の予想結果#当選番号 355 🔈結果：ひとつ違い×3 100桁 +1,✕,✕ 10桁 ✕,✕,-1 1桁 ✕,✕,-1 ○● 完全一致 △▲ 桁違い一致 × 不一致 https://t.co/OdUrexLd4f — ナンバード (@num3_AI) August 29

2024/08/29 22:19

【入門】ユニット数増加(Scilab)【数値計算】

多層パーセプトロンの隠れ層のユニット数を2から4に変えたScilabコードで分類を実施。 大きく2パターンの分類パターンがある。 やや複雑な分類パターンが4ユニットにすることで出てきたもの。

2024/08/29 20:04

【入門】ユニット数増加(Julia)【数値計算】

多層パーセプトロンの隠れ層のユニット数を2から4に変えたJuliaコードで分類を実施。 大きく2パターンの分類パターンがある。 やや複雑な分類パターンが4ユニットにすることで出てきたもの。

2024/08/29 20:04

MATLAB,Python,Scilab,Julia比較 第4章 その91【モーメンタム①】

最適化アルゴリズムを取り扱う。 今回のネットワークだとさほど恩恵はないが知っていて損はない。 まずはモーメンタムから解説＆実験をしてい 最初は復習を兼ねて勾配降下法についても確認する。

2024/08/29 20:04

MATLAB,Python,Scilab,Julia比較 第4章 その92【モーメンタム②】

今回改めてまじめに更新式を確認。 勾配降下法の更新式が一番シンプルなので今後の最適化アルゴリズムの更新式を見る際は比較対象になりやすい。

2024/08/29 20:04

MATLAB,Python,Scilab,Julia比較 第5章 その25【重要な極限値③】

はさみうちの原理について説明。 sinc関数について説明＆MATLABでプロットしてみた。(Pythonコードも)

2024/08/29 20:03

2024年8月29日 第6545回 ナンバーズ3 最新最強AI予想

2024年8月28日 第6544回の結果 当選番号 656 100桁 8 (3) , 0 (5) , 9 (4) 10桁 5 (0) , 9 (4) , 4 (9) 1桁 0 (5) , 7 (2) , 5 (0) ※カッコ内は裏数字 完全一致×1 桁違い一致×1 ひとつ違い×2 2024/8/28 第6544回 #ナンバーズ3 の予想結果#当選番号 656 🔈結果：完全一致×1 桁違い一致×1 ひとつ違い×2 100桁 ✕,✕,✕ 10桁 ○,✕,-1 1桁 ✕,+1,△ ○● 完全一致 △▲ 桁違い一致 × 不一致 https://t.co/UWDgmmdRsR

2024/08/28 22:23

MATLAB,Python,Scilab,Julia比較 第4章 その93【モーメンタム③】

勾配降下法の動作イメージを確認。 学習率が大きい場合と小さい場合で挙動が変わる。 ちょうど良い学習率を人間の手で探す。 これにより、一般的なパラメータとは異なるハイパーパラメータというカテゴリになる。

2024/08/28 20:57

MATLAB,Python,Scilab,Julia比較 第4章 その94【モーメンタム④】

モーメンタムの更新式について確認。 指数移動平均を利用して直近の値を重視する。 実際の指数移動平均とは異なっているので、その点は注意。

2024/08/28 20:57

MATLAB,Python,Scilab,Julia比較 第4章 その95【モーメンタム⑤】

モーメンタムの動作イメージについて確認。 動作イメージの表現は難しい。 最初は大きく更新して、最適解が近いと小さく更新。 勾配降下法で言うところの学習率が可変と同義な動きになる。

2024/08/28 20:57

MATLAB,Python,Scilab,Julia比較 第4章 その96【モーメンタム⑥】

モーメンタムを確認するプログラムの方針を確認。 以前の勾配降下法のプログラムをベースにする。 隠れ層のユニット数は4。 プログラムのフローを確認。 モーメンタム項とパラメータ更新が基本的な差分となる。

2024/08/28 20:57

【入門】モーメンタム①【数値計算】

最適化アルゴリズムを取り扱う。 今回のネットワークだとさほど恩恵はないが知っていて損はない。 まずはモーメンタムから解説＆実験をしていく。 最初は復習を兼ねて勾配降下法についても確認する。

2024/08/28 20:56

【入門】モーメンタム②【数値計算】

勾配降下法の更新式を確認。 勾配降下法の動作イメージを確認。 学習率が大きい場合と小さい場合で挙動が変わる。 ちょうど良い学習率を人間の手で探す。 これにより、一般的なパラメータとは異なるハイパーパラメータというカテゴリになる。

2024/08/28 20:56

MATLAB,Python,Scilab,Julia比較 第5章 その24【重要な極限値②】

円に接する三角形と扇形の面積の不等式を最適化。 いろいろ弄っていくと、はさみうちの原理により1が求められる。

2024/08/28 20:56

Tkinterでサブウィンドウを簡単作成！Toplevelの使い方をマスターしよう

1. はじめに：Tkinterとは？ PythonでGUI（グラフィカル・ユーザー・インターフェース）を作りたいとき、手軽に使えるライブラリとしてTkinterがあります。TkinterはPythonに標準で組み込まれているため、追加のイン

2024/08/28 20:52

シンプルに進化！Pythonで辞書をクラスへステップアップ

1. はじめに イントロダクション プログラミングの学びを進めていくと、コードがシンプルだった初期段階から、次第にデータや処理が複雑化してくる場面に直面することがあります。特に、辞書を使ってデータを管理していると、最初は便利に感じても、だん

2024/08/28 20:52

2024年8月28日 第6544回 ナンバーズ3 最新最強AI予想

2024年8月27日 第6543回の結果 当選番号 376 100桁 7 (2) , 5 (0) , 4 (9) 10桁 8 (3) , 6 (1) , 9 (4) 1桁 4 (9) , 1 (6) , 8 (3) ※カッコ内は裏数字 1-2-1のラインでボックスニア！！ 2024/8/27 第6543回 #ナンバーズ3 の予想結果#当選番号 376 🔈結果：1-2-1のラインで #ボックスニア ！！ 100桁 △,✕,+1 10桁 +1,△,✕ 1桁 ✕,✕,✕ ○● 完全一致 △▲ 桁違い一致 × 不一致 https://t.co/OMbvaJE0WA — ナン

2024/08/27 21:12

【入門】モーメンタム③【数値計算】

モーメンタムの更新式について確認。 指数移動平均を利用して直近の値を重視する。 モーメンタムの動作イメージについて確認。 最初は大きく更新して、最適解が近いと小さく更新。 勾配降下法で言うところの学習率が可変と同義な動きになる。

2024/08/27 20:18

【入門】モーメンタム④【数値計算】

モーメンタムを確認するプログラムの方針を確認。 以前の勾配降下法のプログラムをベースにする。 隠れ層のユニット数は4。 プログラムのフローを確認。 モーメンタム項とパラメータ更新が基本的な差分となる。

2024/08/27 20:18

MATLAB,Python,Scilab,Julia比較 第4章 その97【モーメンタム⑦】

最適化アルゴリズム モーメンタムを用いて分類の学習をMATLABで実現。 問題無く動作。 学習の収束が通常の勾配降下法よりも比較的早い。

2024/08/27 20:17

MATLAB,Python,Scilab,Julia比較 第4章 その98【モーメンタム⑧】

最適化アルゴリズム モーメンタムを用いて分類の学習をPythonで実現。 問題無く動作。 学習の収束が通常の勾配降下法よりも比較的早い。

2024/08/27 20:17

MATLAB,Python,Scilab,Julia比較 第4章 その99【モーメンタム⑨】

最適化アルゴリズム モーメンタムを用いて分類の学習をScilabで実現。 問題無く動作。 学習の収束が通常の勾配降下法よりも比較的早い。

2024/08/27 20:17

MATLAB,Python,Scilab,Julia比較 第5章 その23【重要な極限値①】

重要な極限値について説明。 sin(x)/xのxを0に近づける極限値。 まずは円に接する三角形と扇形に着目する。 これが先ほどの極限値にどうつながるかは次回。

2024/08/27 20:17

「ポプらむ☆キウイ」フォント

小学館の雑誌「サライ」 [1]   の最新号 2024年 9月号の大特集、 「漢字」に遊ぶ を大変興味深く読みました。特に、石川祐基さんが案内する記事「町の漢字看板を楽しむ」（44 ページ）に触発され、自分も町を歩いて看板の文字を楽しんでみたくなりました。 さらに、今は...

2024/08/27 16:54

MATLAB,Python,Scilab,Julia比較 第4章 その99【モーメンタム⑨】

最適化アルゴリズム モーメンタムを用いて分類の学習をScilabで実現。 問題無く動作。 学習の収束が通常の勾配降下法よりも比較的早い。

2024/08/26 23:48

MATLAB,Python,Scilab,Julia比較 第4章 その100【モーメンタム⑩】

最適化アルゴリズム モーメンタムを用いて分類の学習をJuliaで実現。 問題無く動作。 学習の収束が通常の勾配降下法よりも比較的早い。

2024/08/26 23:48

MATLAB,Python,Scilab,Julia比較 第4章 その101【モーメンタム⑪】

最適化アルゴリズムを通常の勾配降下法からモーメンタムに変えた際の差分を確認。 モーメンタムの方が学習の収束が早い。 勾配降下法で500エポックのところ100エポック。 モーメンタムの場合、初期のパラメータ移動が大き目。 これにより、大域最適化を見つける可能性が高くなる。

2024/08/26 23:48

【入門】モーメンタム(MATLAB)【数値計算】

最適化アルゴリズム モーメンタムを用いて分類の学習をMATLABで実現。 問題無く動作。 学習の収束が通常の勾配降下法よりも比較的早い。

2024/08/26 23:47

【入門】モーメンタム(Python)【数値計算】

最適化アルゴリズム モーメンタムを用いて分類の学習をPythonで実現。 問題無く動作。 学習の収束が通常の勾配降下法よりも比較的早い。

2024/08/26 23:47

【入門】モーメンタム(Scilab)【数値計算】

最適化アルゴリズム モーメンタムを用いて分類の学習をScilabで実現。 問題無く動作。 学習の収束が通常の勾配降下法よりも比較的早い。

2024/08/26 23:47

MATLAB,Python,Scilab,Julia比較 第5章 その22【三角関数積和公式②】

sin,sinの積和公式を導出。 積和公式をフーリエ係数に向けて変形。 α,βをαx,βxにするだけ。

2024/08/26 23:47

2024年8月27日 第6543回 ナンバーズ3 最新最強AI予想

2024年8月26日 第6542回の結果 当選番号 900 100桁 1 (6) , 2 (7) , 3 (8) 10桁 0 (5) , 4 (9) , 6 (1) 1桁 8 (3) , 3 (8) , 6 (1) ※カッコ内は裏数字 完全一致×1 2024/8/26 第6542回 #ナンバーズ3 の予想結果#当選番号 900 🔈結果：完全一致×1 100桁 ✕,✕,✕ 10桁 ○,✕,✕ 1桁 ✕,✕,✕ ○● 完全一致 △▲ 桁違い一致 × 不一致 https://t.co/ktnVE54rYD — ナンバード (@num3_AI) August 26, 202

2024/08/26 21:15

【入門】モーメンタム(Julia)【数値計算】

最適化アルゴリズム モーメンタムを用いて分類の学習をJuliaで実現。 問題無く動作。 学習の収束が通常の勾配降下法よりも比較的早い。

2024/08/25 20:15

【入門】モーメンタム(勾配降下法との差分)【数値計算】

最適化アルゴリズムを通常の勾配降下法からモーメンタムに変えた際の差分を確認。 モーメンタムの方が学習の収束が早い。 勾配降下法で500エポックのところ100エポック。 モーメンタムの場合、初期のパラメータ移動が大き目。 これにより、大域最適化を見つける可能性が高くなる。

2024/08/25 20:15

MATLAB,Python,Scilab,Julia比較 第4章 その102【最適化アルゴリズム①】

もう一個試す予定の最適化アルゴリズムへ至る系譜を説明予定。 プログラム化して試すのはAdamだが、それに至るアルゴリズムを数式レベルで確認。 Adam以降の最適化アルゴリズムもあるが、基本はAdamベースでクリッピングが入ってる感じ。

2024/08/25 20:15

MATLAB,Python,Scilab,Julia比較 第4章 その103【最適化アルゴリズム②】

AdaGradについて説明。 更新式をモーメンタムと比較。 更新幅は、最初は大きく、徐々に小さくなり、最終的には学習が進まなくなる欠点を抱えている。

2024/08/25 20:15

MATLAB,Python,Scilab,Julia比較 第5章 その21【三角関数積和公式①】

三角関数の加法定理の組み合わせで積和公式が導出できる。 sin,cosの積和公式とcos,cosの積和公式を導出してみた。

2024/08/25 20:14

MATLAB,Python,Scilab,Julia比較 第5章 その20【三角関数加法定理】

三角関数の加法定理を確認。 偶関数、奇関数を利用すると、βにマイナス符号が付いた加法定理の式も導出できる。

2024/08/25 03:05

MATLAB,Python,Scilab,Julia比較 第4章 その104【最適化アルゴリズム③】

RMSpropについて説明。 AdaGradの完了版であるため、AdaGradと更新式を比較。 AdaGradでは2次の勾配の累積だったものが、2次の勾配の指数移動平均に。 これにより、極小値近辺やプラトーになっても更新を続けられる。

2024/08/24 00:08

MATLAB,Python,Scilab,Julia比較 第4章 その105【最適化アルゴリズム④】

AdaDeltaについて説明。 RMSpropの拡張版に当たる。 学習率というハイパーパラメータ無しで動作する。 最終的な学習率は1近傍になるため振動しやすいらしい。

2024/08/24 00:08

MATLAB,Python,Scilab,Julia比較 第4章 その106【最適化アルゴリズム⑤】

最適化アルゴリズムAdamについて説明。 モーメンタムとRMSpropの合わせ技。 1次の勾配と、2次の勾配の指数移動平均を使用する。

2024/08/24 00:08

MATLAB,Python,Scilab,Julia比較 第4章 その107【最適化アルゴリズム⑥】

各最適化アルゴリズムの依存関係を記載。 1次の勾配で勢いをつけて、2次の勾配で抑制するというのが全体を通しての共通点。 Adamが1次の勾配と2次の勾配を合わせたアルゴリズムとなる。

2024/08/24 00:08

MATLAB,Python,Scilab,Julia比較 第4章 その108【最適化アルゴリズム⑦】

Adamの更新式を実現するためのプログラムフローを記載。 モーメンタムの部分をAdamに差し替えただけ。 学習率は0.001とかなり小さめの値に設定。 これにより収束は遅くなる。 かわりに特殊な最適解が得られるのでそれを確認する。

2024/08/24 00:07

【入門】最適化アルゴリズム①【数値計算】

もう一個試す予定の最適化アルゴリズムAdamへ至る系譜を説明予定。 AdaGradについて説明。 更新式をモーメンタムと比較。 RMSpropについて説明。 AdaGradの完了版であるため、AdaGradと更新式を比較。

2024/08/24 00:07