ソフトウェア設計における因果関係の明確化。条件分岐や状態遷移の数理的な記述。並列処理やバッチ処理の自然な導入。AIモデルとの構造的な共通性の理解。
シミュレーションで実物を扱わなくても仕事ができる環境を目指す。つまり家に引きこもって外に出なくてもOKな世界。
MATLAB,Python,Scilab,Julia比較 第2章 その73【多変量多項式回帰分析(関数項)②】
正規方程式による多変量多項式回帰分析(関数項あり)をMATLABで実施。 誤差はあるものの目的の係数の算出はできている。 サンプル点数を増やせば、理想値に近付く。
正規方程式を使って多変量多項式回帰分析(関数項あり)を行う。 多変量多項式回帰分析(関数項あり)の二乗和誤差関数の定義。 正規方程式の各成分の定義。 サンプリングデータは特定の多項式に±1の乱数を載せたものを使用。 特定の多変量多項式と近い係数が求まればOK。
MATLAB,Python,Scilab,Julia比較 第2章 その72【多変量多項式回帰分析(関数項)①】
正規方程式を使って多変量多項式回帰分析(関数項あり)を行う。 多変量多項式回帰分析(関数項あり)の二乗和誤差関数の定義。 正規方程式の各成分の定義。 サンプリングデータは特定の多項式に±1の乱数を載せたものを使用。 特定の多変量多項式と近い係数が求まればOK。
正規方程式による多変量多項式回帰分析をJuliaで実施。 誤差はあるものの目的の係数の算出はできている。 コード自体はMATLABコードのコピペ？ 演算部分はコピペ。 グラフ表示はmatplotlib仕様依存に書き方。
正規方程式による多変量多項式回帰分析をScilabで実施。 誤差はあるものの目的の係数の算出はできている。 コード自体はMATLABコードのコピペ。 scatter3をscatter3dに書き換えた程度。
正規方程式による多項式回帰分析をPython(NumPy)で実施。 誤差はあるものの目的の係数の算出はできている。 式が複雑になってくると、Pythonコードだと元の式の表現から乖離しているのがちょっと気になる。
正規方程式による多変量多項式回帰分析をMATLABで実施。 誤差はあるものの目的の係数の算出はできている。 サンプル点数を増やせば、理想値に近付く。
MATLAB,Python,Scilab,Julia比較 第2章 その71【多変量多項式回帰分析⑤】
正規方程式による多変量多項式回帰分析をJuliaで実施。 誤差はあるものの目的の係数の算出はできている。 コード自体はMATL 演算部分はコピペ。 グラフ表示はmatplotlib仕様依存に書き方。
MATLAB,Python,Scilab,Julia比較 第2章 その70【多変量多項式回帰分析④】
正規方程式による多変量多項式回帰分析をScilabで実施。 誤差はあるものの目的の係数の算出はできている。 コード自体はMATLABコードのコピペ。 scatter3をscatter3dに書き換えた程度。
MATLAB,Python,Scilab,Julia比較 第2章 その69【多変量多項式回帰分析③】
正規方程式による多項式回帰分析をPython(NumPy)で実施。 誤差はあるものの目的の係数の算出はできている。 式が複雑になってくると、Pythonコードだと元の式の表現から乖離しているのがちょっと気になる。
MATLAB,Python,Scilab,Julia比較 第2章 その68【多変量多項式回帰分析②】
正規方程式による多変量多項式回帰分析をMATLABで実施。 誤差はあるものの目的の係数の算出はできている。 サンプル点数を増やせば、理想値に近付く。
正規方程式を使って多変量多項式回帰分析を行う。 多変量多項式回帰分析の二乗和誤差関数の定義。 正規方程式の各成分の定義。 サンプリングデータは特定の多項式に±1の乱数を載せたものを使用。 特定の多変量多項式と近い係数が求まればOK。
MATLAB,Python,Scilab,Julia比較 第2章 その67【多変量多項式回帰分析①】
正規方程式を使って多変量多項式回帰分析を行う。 多変量多項式回帰分析の二乗和誤差関数の定義。 正規方程式の各成分の定義。 サンプリングデータは特定の多項式に±1 特定の多変量多項式と近い係数が求まればOK。
正規方程式による多項式回帰分析をJuliaで実施。 誤差はあるものの目的の係数の算出はできている。 コード自体はMATLABコードのほぼコピペ。 等差数列、plotのオプション周りの合わせこみはした。
正規方程式による多項式回帰分析をScilabで実施。 誤差はあるものの目的の係数の算出はできている。 コード自体はMATLABコードのコピペで行けてしまった。 plot部分の微調整が無かったんで。
正規方程式による多項式回帰分析をPython(NumPy)で実施。 誤差はあるものの目的の係数の算出はできている。
正規方程式による多項式回帰分析をMATLABで実施。 誤差はあるものの目的の係数の算出はできている。
MATLAB,Python,Scilab,Julia比較 第2章 その66【多項式回帰分析⑤】
正規方程式による多項式回帰分析をJuliaで実施。 誤差はあるものの目的の係数の算出はできている。 コード自体はMATLABコードのほぼ 等差数列、plotのオプション周りの合わせこみはした。
MATLAB,Python,Scilab,Julia比較 第2章 その65【多項式回帰分析④】
正規方程式による多項式回帰分析をScilabで実施。 誤差はあるものの目的の係数の算出はできている。 コード自体はMATLABコード plot部分の微調整が無かったんで。
MATLAB,Python,Scilab,Julia比較 第2章 その64【多項式回帰分析③】
正規方程式による多項式回帰分析をPython(NumPy)で実施。 誤差はあるものの目的の係数の算出はできている。
MATLAB,Python,Scilab,Julia比較 第2章 その63【多項式回帰分析②】
正規方程式による多項式回帰分析をMATLABで実施。 誤差はあるものの目的の係数の算出はできている。
正規方程式を使って多項式回帰分析を行う。 多項式回帰分析の二乗和誤差関数の定義。 正規方程式の各成分の定義。 サンプリングデータは特定の多項式に±1の乱数を載せたものを使用。 特定の多項式と近い係数が求まればOK。
MATLAB,Python,Scilab,Julia比較 第2章 その62【多項式回帰分析①】
正規方程式を使って多項式回帰分析を行う。 多項式回帰分析の二乗和誤差関数の定義。 正規方程式の各成分の定義。 サンプリングデータは特定の多項式に±1の乱数を載せたものを使用。 特定の多項式と近い係数が求まればOK。
正規方程式による重回帰分析をScilabで実施。 誤差はあるものの目的の係数の算出はできている。 3Dグラフの散布図はscatter3d。 3D散布図はVersionによっては表現できなかったら関数名が違ったりするので注意が必要。
正規方程式による重回帰分析をPython(NumPy)で実施。 誤差はあるものの目的の係数の算出はできている。 3Dグラフの散布図はscatter3D、平面関数はplot_wireframeを使用して表現する。 projection='3d'のオプションを忘れずに。
正規方程式による重回帰分析をMATLABで実施。 誤差はあるものの目的の係数の算出はできている。 3Dグラフの散布図はscatter3、メッシュ状の平面関数はmeshを使用して表現する。
MATLAB,Python,Scilab,Julia比較 第2章 その61【重回帰分析⑤】
正規方程式による重回帰分析をScilabで実施。 誤差はあるものの目的の係数の算出はできている。 3DグラフはPython寄りの仕様。 PyPlotがmatplotlibのラッパーであるため。
MATLAB,Python,Scilab,Julia比較 第2章 その60【重回帰分析④】
正規方程式による重回帰分析をScilabで実施。 誤差はあるものの目的の係数の算出はできている。 3Dグラフの散布図はscatter3d。 3D散布図はVersionによっては表現できなかったら関数名が違ったりするので注意が必要。
MATLAB,Python,Scilab,Julia比較 第2章 その59【重回帰分析③】
正規方程式による重回帰分析をPython(NumPy)で実施。 誤差はあるものの目的の係数の算出はできている。 3Dグラフの散布図はscatter3D、平面関数はplot_wireframeを使用して表現する。 projection='3d'のオプションを忘れずに。
「ブログリーダー」を活用して、KEIさんをフォローしませんか？
ソフトウェア設計における因果関係の明確化。条件分岐や状態遷移の数理的な記述。並列処理やバッチ処理の自然な導入。AIモデルとの構造的な共通性の理解。
exoファイルを使えば、立ち絵の設定をテンプレ化して何度でも使い回せる。キャラごと・表情ごとのexoパターンを作っておけば、配置も口パクも一瞬。拡張編集にドラッグ＆ドロップするだけで、作業時間が爆速短縮。
G検定まとめ記事はこちらはじめに結構昔にG検定向けの動画で、「JDLAジェネラリスト検定(G検定)さっくり対策(究極カンペの作り方)カンペを見なくても問題が解ける自分の作り方。」というのを公開しているのだが、これに対しての問い合わせがちょく...
動画作成関連のバックナンバー用ページ。立ち絵を作ったり、動画作ったり、アイキャッチ画像作ったりなどを掲載していく。
画像認識の全体像を因果関係図で整理し、AlexNetを起点に各モデルの進化をたどる。一般物体認識から物体検出・セグメンテーション・姿勢推定まで、各カテゴリの代表モデルと技術を解説。モデル同士の構造的なつながりや技術的背景を踏まえ、因果関係をもとに体系的に理解を深めていく。
究極カンペの作り方についての問い合わせが増えている。G検定の評判を確認し、ネガティブな意見を問題提起として捉える。勉強のステージを定義し、語彙力と因果関係の把握が重要であることを説明。
フーリエ変換には角周波数を扱うものと周波数を扱うものがある。角周波数と周波数の間には角度と1回転という差があるのみ。よって、周波数に2πをかければ角周波数となる。
MATLAB,Python,Scilab,Julia比較するシリーズの第4章。第4章では分類問題で最終的にはニューラルネットワークや最適化アルゴリズムの話だった。第5章はフーリエ解析学から高速フーリエの話がメインとなる。
立ち絵の配置: PSDファイルをAviUtlに配置し、画面サイズやフレームレートを設定。のっぺらぼう化: 目と口を消して、アニメーション効果を追加。アニメーション効果: 目パチと口パクの設定を行い、リップシンクを調整。
フーリエ変換を定義。フーリエの積分公式の一部を抜き出す。逆フーリエ変換を定義。フーリエの積分公式にフーリエ変換を代入するだけ。
Δωで刻みにしたので、極限を利用して連続系へ。数式上は連続ではあるが、一般的な表現ではない。区分求積法とリーマン積分について。フーリエの積分公式を導出した。
VOICEVOXとAivisSpeechキャラと一緒に！AviUtlを使った動画作成 バックナンバーはじめに以前、AivisSpeechのAnneliというキャラの立ち絵を作成した。さらにそこに加えて、AivisSpeechのアイコン画像を...
PSDToolKitプラグインの導入の仕方を説明。PSDファイルを探してGIMPで内容を確認。GIMPで瞬き用、口パク用のレイヤー編集。
フーリエに積分公式は複素フーリエ級数と複素フーリエ係数から導出する。周期2Lの波の数を示すnを周期2πに於ける波の数である角周波数ωに変換。角周波数ωの刻みであるΔωについて説明。Δωを定義することで、離散的な係数算出が連続的な角周波数算出に近づけていっている。
区分求積法とリーマン積分について。離散と連続の分け目。フーリエの積分公式を導出した。演算したはずなのに変化しない。つまり変換、逆変換が成立することを示している。
Δωで刻みにしたので、極限を利用して連続系へ。数式上は連続ではあるが、一般的な表現ではない。よって、一般的な表現に書き換える必要がある。
角周波数ωの刻みであるΔωについて説明。Δωを定義することで、離散的な係数算出が連続的な角周波数算出に近づけていっている。
周期2Lの波の数を示すnを周期2πに於ける波の数である角周波数ωに変換。ω=nπ/Lを使用して変換するだけ。これにより少し数式がシンプルになった。
VOICEVOXとAivisSpeechキャラと一緒に！AviUtlを使った動画作成 バックナンバーはじめに以前、AivisSpeechのAnneliというキャラの立ち絵を作成した。ほぼ独自に作成したが、Anneliの画像自体はAivisS...
フーリエに積分公式は複素フーリエ級数と複素フーリエ係数から導出する。変換を想定した式に変換。複素指数関数との積と積分、総和を経由すると元に関数に戻るというイメージが重要。
ニューラルネットワークの最適化アルゴリズムAdamをPythonにて確認。 学習率を0.001にしている都合、収束までは時間がかかる。 勾配降下法、モーメンタムでは見れなかった分類パターンが拾えた。
ニューラルネットワークの最適化アルゴリズムAdamをMATLABにて確認。 学習率を0.001にしている都合、収束までは時間がかかる。 勾配降下法、モーメンタムでは見れなかった分類パターンが拾えた。
はじめに MATLAB,Python,Scilab,Julia比較するシリーズの第4章。 第3章では画像処理、座標変換の話がメインだった。 第4章は分類問題関連の話がメインとなる。基本的には以下の流れとなる。 形式ニューロン 決定境界線の安
分類問題を扱って第4章終了。 最も原始的なニューラルネットワークをやったことでディープラーニングの基礎部分は把握できたかもしれない。 次の章はこれから考える。
Adamだけで出てくる分類結果を確認。 四角形で分類する理想的な形状。 この分類結果になる場合は、誤差関数の値が一気に跳ね上がる時。 これにより大域最適解を引き当てやすくなる。
ニューラルネットワークの最適化アルゴリズムAdamをJuliaにて確認。 学習率を0.001にしている都合、収束までは時間がかかる。 勾配降下法、モーメンタムでは見れなかった分類パターンが拾えた。
ニューラルネットワークの最適化アルゴリズムAdamをScilabにて確認。 学習率を0.001にしている都合、収束までは時間がかかる。 勾配降下法、モーメンタムでは見れなかった分類パターンが拾えた。
ニューラルネットワークの最適化アルゴリズムAdamをPythonにて確認。 学習率を0.001にしている都合、収束までは時間がかかる。 勾配降下法、モーメンタムでは見れなかった分類パターンが拾えた。
ニューラルネットワークの最適化アルゴリズムAdamをMATLABにて確認。 学習率を0.001にしている都合、収束までは時間がかかる。 勾配降下法、モーメンタムでは見れなかった分類パターンが拾えた。
各最適化アルゴリズムの依存関係を記載。 1次の勾配で勢いをつけて、2次の勾配で抑制するというのが全体を通しての共通点。 Adamの更新式を実現するためのプログラムフローを記載。 学習率は0.001とかなり小さめの値に設定。 これにより収束は遅くなる。 かわりに特殊な最適解が得られるのでそれを確認する。
AdaDeltaについて説明。 RMSpropの拡張版に当たる。 最適化アルゴリズムAdamについて説明。 モーメンタムとRMSpropの合わせ技。 1次の勾配と、2次の勾配の指数移動平均を使用する。
もう一個試す予定の最適化アルゴリズムAdamへ至る系譜を説明予定。 AdaGradについて説明。 更新式をモーメンタムと比較。 RMSpropについて説明。 AdaGradの完了版であるため、AdaGradと更新式を比較。
Adamの更新式を実現するためのプログラムフローを記載。 モーメンタムの部分をAdamに差し替えただけ。 学習率は0.001とかなり小さめの値に設定。 これにより収束は遅くなる。 かわりに特殊な最適解が得られるのでそれを確認する。
各最適化アルゴリズムの依存関係を記載。 1次の勾配で勢いをつけて、2次の勾配で抑制するというのが全体を通しての共通点。 Adamが1次の勾配と2次の勾配を合わせたアルゴリズムとなる。
最適化アルゴリズムAdamについて説明。 モーメンタムとRMSpropの合わせ技。 1次の勾配と、2次の勾配の指数移動平均を使用する。
AdaDeltaについて説明。 RMSpropの拡張版に当たる。 学習率というハイパーパラメータ無しで動作する。 最終的な学習率は1近傍になるため振動しやすいらしい。
RMSpropについて説明。 AdaGradの完了版であるため、AdaGradと更新式を比較。 AdaGradでは2次の勾配の累積だったものが、2次の勾配の指数移動平均に。 これにより、極小値近辺やプラトーになっても更新を続けられる。
AdaGradについて説明。 更新式をモーメンタムと比較。 更新幅は、最初は大きく、徐々に小さくなり、最終的には学習が進まなくなる欠点を抱えている。
もう一個試す予定の最適化アルゴリズムへ至る系譜を説明予定。 プログラム化して試すのはAdamだが、それに至るアルゴリズムを数式レベルで確認。 Adam以降の最適化アルゴリズムもあるが、基本はAdamベースでクリッピングが入ってる感じ。
最適化アルゴリズムを通常の勾配降下法からモーメンタムに変えた際の差分を確認。 モーメンタムの方が学習の収束が早い。 勾配降下法で500エポックのところ100エポック。 モーメンタムの場合、初期のパラメータ移動が大き目。 これにより、大域最適化を見つける可能性が高くなる。
