シミュレーションの世界に引きこもる部屋

【入門】非線形分類の問題点【数値計算】

非線形分類をしたが実は問題が発生している。 非線形分類が失敗する原因を特定するため決定境界線と誤差関数の推移をモニタ。 案の定、局所最適解にハマってる。 つまりエポック数を増やしても対策にはならない。 隠れ層のユニット数を増やす、最適化アルゴリズムを使用するのが対策案。

2024/05/31 20:06

MATLAB,Python,Scilab,Julia比較 第4章 その85【非線形分類の問題点②】

非線形分類が失敗する原因を特定するため決定境界線と誤差関数の推移をモニタ。 案の定、局所最適解にハマってる。 つまりエポック数を増やしても対策にはならない。 隠れ層のユニット数を増やす、最適化アルゴリズムを使用するのが対策案。

2024/05/30 20:54

MATLAB,Python,Scilab,Julia比較 第4章 その84【非線形分類の問題点①】

非線形分類をしたが実は問題が発生している。 20%くらいの確率で分類ができない。 原因がわかるように誤差関数の推移や決定境界線の推移のアニメーションを見てみる予定。

2024/05/29 19:30

【入門】誤差逆伝播法(Julia)【数値計算】

多層パーセプトロンによる分類をJuliaで実施。 一応ちゃんと分類できた。

2024/05/28 19:50

【入門】誤差逆伝播法(Scilab)【数値計算】

多層パーセプトロンによる分類をScilabで実施。 一応ちゃんと分類できた。 等高線による分類表記がうまく行かなかったため、境界線をplotしている。

2024/05/27 19:51

【入門】誤差逆伝播法(Python)【数値計算】

多層パーセプトロンによる分類をPythonで実施。 一応ちゃんと分類できた。

2024/05/26 19:30

【入門】誤差逆伝播法(MATLAB)【数値計算】

多層パーセプトロンによる分類をMATLABで実施。 一応ちゃんと分類できた。

2024/05/25 19:49

MATLAB,Python,Scilab,Julia比較 第4章 その83【誤差逆伝播法⑩】

多層パーセプトロンによる分類をJuliaで実施。 一応ちゃんと分類できた。

2024/05/24 19:59

MATLAB,Python,Scilab,Julia比較 第4章 その82【誤差逆伝播法⑨】

多層パーセプトロンによる分類をScilabで実施。 一応ちゃんと分類できた。 等高線による分類表記がうまく行かなかったため、境界線をplotしている。

2024/05/23 20:07

MATLAB,Python,Scilab,Julia比較 第4章 その81【誤差逆伝播法⑧】

多層パーセプトロンによる分類をPythonで実施。 一応ちゃんと分類できた。

2024/05/22 19:50

MATLAB,Python,Scilab,Julia比較 第4章 その80【誤差逆伝播法⑦】

多層パーセプトロンによる分類をMATLABで実施。 一応ちゃんと分類できた。

2024/05/21 19:59

【入門】誤差逆伝播法②【数値計算】

連鎖律の「プログラミングするための最適化」は連鎖律上の共通部分の特定が重要。 連鎖律の共通部分の算出。 共通変数で実際の処理に相当する数式を書き出し。

2024/05/20 19:54

【入門】誤差逆伝播法①【数値計算】

多層パーセプトロンの重みを決定するための誤差逆伝播法が必要。 誤差逆伝播法の全体像を確認。 出力層の連鎖律と各偏導関数を導出。 隠れ層から誤差関数までの連鎖律を導出。

2024/05/19 19:38

GUGA 生成AIパスポート試験対策道場(ひたすら過去問ふぅ問題集で鍛錬する所 一問一答 仮)

GUGA 生成AIパスポート試験の問題集を設置。 現状は121問ほど放り込んでいる。問題のカテゴリは現状以下の範囲 第4章 情報リテラシー・基本理念とAI社会原則 第5章 テキスト生成AIのプロンプト制作と実例 問題は随時追加予定。(すべて

2024/05/18 20:23

GUGA 生成AIパスポート試験問題集(ひたすら過去問ふぅ問題集で鍛錬する所 一問一答 仮)

GUGA 生成AIパスポート試験の問題集を設置。 現状は121問ほど放り込んでいる。問題のカテゴリは現状以下の範囲 第4章 情報リテラシー・基本理念とAI社会原則 第5章 テキスト生成AIのプロンプト制作と実例 問題は随時追加予定。(すべて

2024/05/18 20:23

MATLAB,Python,Scilab,Julia比較 第4章 その79【誤差逆伝播法⑥】

連鎖律の共通部分の算出。 いままでの部品の組み合わせで導出できる。 共通変数で実際の処理に相当する数式を書き出し。 ついでに学習率を加味した各重み、各バイアスの更新式も記載。

2024/05/17 19:37

MATLAB,Python,Scilab,Julia比較 第4章 その78【誤差逆伝播法⑤】

連鎖律の「プログラミングするための最適化」は連鎖律上の共通部分の特定が重要。 連鎖律の共通部分を特定。 共通部分を変数化。 変数化したもので連鎖律を表現し直し。

2024/05/16 19:38

MATLAB,Python,Scilab,Julia比較 第4章 その77【誤差逆伝播法④】

隠れ層から誤差関数までの合成関数を確認。 隠れ層から誤差関数までの連鎖律を導出。

2024/05/15 19:27

MATLAB,Python,Scilab,Julia比較 第4章 その76【誤差逆伝播法③】

出力層の合成関数を確認。 出力層の連鎖律と各偏導関数を導出。 多層であるが故に、順伝播時の中間変数を記憶しておく必要がある。

2024/05/14 19:40

MATLAB,Python,Scilab,Julia比較 第4章 その75【誤差逆伝播法②】

誤差逆伝播法の全体像を確認。 更新したい重みとバイアスの層によって連鎖律のルートが少し変わる。 出力層と隠れ層の合成関数を確認。

2024/05/13 19:36

MATLAB,Python,Scilab,Julia比較 第4章 その74【誤差逆伝播法①】

多層パーセプトロンの重みを決定するための誤差逆伝播法が必要。 多層に渡っているため、少しメンドウクサイ。 各層の連鎖律を求め、その後結合させたり、プログラミング向けに最適化したりしていく予定。

2024/05/12 19:09

JDLA Generative AI Test 対策問題集(ひたすら過去問ふぅ問題集で鍛錬する所 一問一答 仮)

JDLA Generative AI Testの問題集を設置。 現状は40問ほど放り込んでいる。問題は随時追加予定。(問題を解いてこのページに飛んできた場合、解答はこのページの下部に表示されてます。) 動画とか そのうち作ります。 学習書籍

2024/05/11 20:22

【入門】非線形分類【数値計算】

単純パーセプトロンでは分類できないものがある。 決定境界直線を求めるというより決定領域を特定するというイメージになる。 非線形分類するにはパーセプトロンを複数使う。 単純パーセプトロン、多層パーセプトロンの構造と数式を説明。

2024/05/10 19:52

MATLAB,Python,Scilab,Julia比較 第4章 その73【非線形分類②】

非線形分類するにはパーセプトロンを複数使う。 つまり多層パーセプトロンにする。 単純パーセプトロン、多層パーセプトロンの構造と数式を説明。

2024/05/09 19:53

MATLAB,Python,Scilab,Julia比較 第4章 その72【非線形分類①】

単純パーセプトロンでは分類できないものがある。 XORなどの非線形分類を求められるものなどが代表的。 決定境界直線を求めるというより決定領域を特定するというイメージになる。

2024/05/08 20:04

【入門】単純パーセプトロンで分類(Julia)【数値計算】

単純パーセプトロンの分類をJuliaで実施。 想定通り分類可能。 おおよそ200エポックあれば分類可能。

2024/05/07 19:38

【入門】単純パーセプトロンで分類(Scilab)【数値計算】

単純パーセプトロンの分類をScilabで実施。 想定通り分類可能。 おおよそ200エポックあれば分類可能。

2024/05/06 19:49

【入門】単純パーセプトロンで分類(Python)【数値計算】

単純パーセプトロンの分類をPythonで実施。 想定通り分類可能。 おおよそ200エポックあれば分類可能。

2024/05/05 19:29

【入門】単純パーセプトロンで分類(MATLAB)【数値計算】

単純パーセプトロンの分類をMATLABで実施。 想定通り分類可能。 おおよそ200エポックあれば分類可能。

2024/05/04 19:10

MATLAB,Python,Scilab,Julia比較 第4章 その71【単純パーセプトロンで分類⑦】

単純パーセプトロンの分類をJuliaで実施。 想定通り分類可能。 おおよそ200エポックあれば分類可能。

2024/05/03 19:49

MATLAB,Python,Scilab,Julia比較 第4章 その70【単純パーセプトロンで分類⑥】

単純パーセプトロンの分類をScilabで実施。 想定通り分類可能。 おおよそ200エポックあれば分類可能。

2024/05/02 20:21

MATLAB,Python,Scilab,Julia比較 第4章 その69【単純パーセプトロンで分類⑤】

単純パーセプトロンの分類をPythonで実施。 想定通り分類可能。 おおよそ200エポックあれば分類可能。

2024/05/01 20:22