フーリエ変換には角周波数を扱うものと周波数を扱うものがある。角周波数と周波数の間には角度と1回転という差があるのみ。よって、周波数に2πをかければ角周波数となる。
シミュレーションで実物を扱わなくても仕事ができる環境を目指す。つまり家に引きこもって外に出なくてもOKな世界。
微分関数\(y=f(x)\)の接線を\(x=a\)に於いて引き、その傾きを\(y=f(x)\)の\(x=a\)に於ける微分係数と呼び、\(f´(a)\)と表す。微分係数の定義$$\lim_{h \to 0} \frac{ f(a+h) -
はじめにAIプロダクト開発の工程を通じて関連する法律、倫理、現行の議論について記載する。AIプロダクトを作る工程以下のサイクルとなる。プロダクトを考えるデータを集めるデータの加工、分析、学習実装、運用、評価クライシスマネジメントプロダクトを
はじめに産業への応用の応用例を列挙。サービス、小売り、飲食店タクシー需要予測人口統計、気象、運行の各種データで予測。抽象的で複雑な特徴を獲得するため、AutoEncoderの技術を使用。 (Stacked denoisng AutoEnco
はじめに産業への応用の応用例を列挙。ものづくり不良品検出「不良品が発生する頻度が少ない」ことが課題。良品データのみの特徴を抽出し、その差分で不良品を検出。つまり、良品データでなければ不良品という考え方。AutoEncoderと相性が良い。予
はじめにディープラーニングの研究分野である、音声認識と強化学習について記載する。音声認識RNNの聴覚、音声分野の成果としてWaveNet(ウェーブネット)が存在する。WaveNetは音声合成(Speech synthesis)と音声認識(S
はじめにディープラーニングの研究分野の一つである、自然言語処理分野について記載する。ベクトル空間モデルword2vecは、「単語→ベクトル」の意で、ベクトル空間モデルや単語埋め込みモデルとも言われている。 単語の意味は、その周辺の単語によっ
はじめにディープラーニングの研究分野の一つである、画像認識分野について記載する。画像認識分野基本的には以下課題がある。位置課題検出課題AlexNet(アレックスネット)2012年のイメージネット画像認識コンテスト(ILSVRC)に従来手法の
はじめにディープラーニングの合わせ技のようなものが存在。それらについて記載する。深層強化学習強化学習教師あり学習、教師なし学習以外に強化学習と呼ばれる分野も存在する。強化学習とは「行動を学習する仕組み」になる。教師あり学習と混同し易いが、一
はじめにディープラーニングのもう一つの有名どころのモデルとしてRNNについて記載する。RNN(リカレントニューラルネットワーク)時系列データ時間軸に対して何かパターンを持っているデータは時間軸に沿って入力される。時間情報を反映できるような仕
はじめにディープラーニングの有名どころのモデルとしてCNNについて記載する。CNN(畳み込みニューラルネットワーク)画像データ画像データは座標情報(縦横)の2次元に、色情報を加えたもので、数値情報としては3次元になる。畳み込みニューラルネッ
はじめにディープラーニングは様々なテクニックの集合体と言える。ここでは以下の代表的なテクニックを記載する。活性化関数勾配消失の問題の最大の原因はシグモイド関数の導関数の最大値が0.25と小さいことであった。よって、このシグモイド関数を別の物
はじめに前回までは、AIの歴史やディープラーニングのブレイクスルー前の話が主だった。今回からディープラーニングの話に突入。多層パーセプトロンディープラーニングの基本構造の由来はニューラルネットワーク。ニューラルネットワーク自体は隠れ層を持つ
はじめに前回は、機械学習の各種手法について取り扱った。実際に学習するに当たって、以下の手法や考え方がある。学習データの扱い方評価指標データの扱い方機械学習にて手元のデータを学習することで、そのデータの分類、回帰ができるようになるが、重要なの
はじめに機械学習の手法は大きく分けて以下となる。機械学習の手法そのもの機械学習の評価手法今回は「機械学習の手法そのもの」について記載する。学習種類学習種類は大きく分けて以下。教師あり学習教師なし学習強化学習教師あり学習教師あり学習とは以下と
はじめに前回の続き。ただし、今回の問題点はディープラーニングにより解決されているものも含まれる。知識獲得のボトルネック特徴量設計の問題シンギュラリティ(技術的特異点)知識獲得のボトルネック機械翻訳の歴史は以下となる。1970年代後半：ルール
はじめに人工知能の分野に様々な問題がある。これらを把握することで現状の限界を知り、現実世界への実現可能性を考察する必要がある。トイ・プロブレム(おもちゃの問題)第1次AIブーム時のパズルや迷路、チェス、囲碁で一定の成果は上がられた。しかし、
はじめに機械学習、ディープラーニング(深層学習)の時代に突入。昨今のAIによる恩恵の時代。機械学習機械学習とは、プログラム自身が学習する仕組みであり、その学習はサンプルデータが多いほど良い。2000年以降はビッグデータと共に注目を浴びる。(
はじめに第2次AIブーム初期に於いてエキスパートシステムによるアプローチが実現された。しかし、暗黙知の獲得、矛盾点調整の困難さからオントロジーの研究が注目を浴びる。意味ネットワーク意味ネットワークとは以下の概念構造である。概念をラベルが付い
はじめに第2次AIブームが始まり知識をどう扱うかが重要な時代に突入。 まずはエキスパートシステムというものが初期に登場する。知識表現人工無能という言葉が登場する。 チャットボット、おしゃべりボットなどが例となる。 実際に会話の内容を理解して
第1次AIブーム(推論・探索の時代) その3 モンテカルロ法
はじめに前回のボードゲームの続きに位置付けられる話。 ボードゲームに勝利する際は探索木とそのルート上の点数が重要になってくるが、この点数付けは人間が実施している。 よって、点数を付けた人次第で結果が左右される状態とも言える。 それを解消する
はじめにAIはボードゲームでも利用される。 (オセロ、チェス、将棋、囲碁など) これらの実現手段の概要を記載する。ボードゲームの探索規模これも基本は探索木になる。 迷路の探索木に似ているが、「行動」と「結果」の連続した探索木となるが、局面が
「ブログリーダー」を活用して、KEIさんをフォローしませんか？
フーリエ変換には角周波数を扱うものと周波数を扱うものがある。角周波数と周波数の間には角度と1回転という差があるのみ。よって、周波数に2πをかければ角周波数となる。
動画作成関連のバックナンバー用ページ。立ち絵を作ったり、動画作ったり、アイキャッチ画像作ったりなどを掲載していく。
MATLAB,Python,Scilab,Julia比較するシリーズの第4章。第4章では分類問題で最終的にはニューラルネットワークや最適化アルゴリズムの話だった。第5章はフーリエ解析学から高速フーリエの話がメインとなる。
立ち絵の配置: PSDファイルをAviUtlに配置し、画面サイズやフレームレートを設定。のっぺらぼう化: 目と口を消して、アニメーション効果を追加。アニメーション効果: 目パチと口パクの設定を行い、リップシンクを調整。
フーリエ変換を定義。フーリエの積分公式の一部を抜き出す。逆フーリエ変換を定義。フーリエの積分公式にフーリエ変換を代入するだけ。
Δωで刻みにしたので、極限を利用して連続系へ。数式上は連続ではあるが、一般的な表現ではない。区分求積法とリーマン積分について。フーリエの積分公式を導出した。
VOICEVOXとAivisSpeechキャラと一緒に！AviUtlを使った動画作成 バックナンバーはじめに以前、AivisSpeechのAnneliというキャラの立ち絵を作成した。さらにそこに加えて、AivisSpeechのアイコン画像を...
PSDToolKitプラグインの導入の仕方を説明。PSDファイルを探してGIMPで内容を確認。GIMPで瞬き用、口パク用のレイヤー編集。
フーリエに積分公式は複素フーリエ級数と複素フーリエ係数から導出する。周期2Lの波の数を示すnを周期2πに於ける波の数である角周波数ωに変換。角周波数ωの刻みであるΔωについて説明。Δωを定義することで、離散的な係数算出が連続的な角周波数算出に近づけていっている。
区分求積法とリーマン積分について。離散と連続の分け目。フーリエの積分公式を導出した。演算したはずなのに変化しない。つまり変換、逆変換が成立することを示している。
Δωで刻みにしたので、極限を利用して連続系へ。数式上は連続ではあるが、一般的な表現ではない。よって、一般的な表現に書き換える必要がある。
角周波数ωの刻みであるΔωについて説明。Δωを定義することで、離散的な係数算出が連続的な角周波数算出に近づけていっている。
周期2Lの波の数を示すnを周期2πに於ける波の数である角周波数ωに変換。ω=nπ/Lを使用して変換するだけ。これにより少し数式がシンプルになった。
VOICEVOXとAivisSpeechキャラと一緒に！AviUtlを使った動画作成 バックナンバーはじめに以前、AivisSpeechのAnneliというキャラの立ち絵を作成した。ほぼ独自に作成したが、Anneliの画像自体はAivisS...
フーリエに積分公式は複素フーリエ級数と複素フーリエ係数から導出する。変換を想定した式に変換。複素指数関数との積と積分、総和を経由すると元に関数に戻るというイメージが重要。
AviUtlのセットアップと拡張編集Pluginの導入を行った。mp4ファイルの入力と出力の方法を説明。アニメーションgifの対応方法を説明。
分数は割り算の別表現として理解しやすく、逆数を掛けることで計算が簡単になる。これにより、小数の掛け算や割り算の理解が深まる。一次関数の数式をグラフにすることや、グラフから数式を導くことは、データのトレンド分析や物理現象の理解に役立つ。微分は関数の変化率を求める手法であり、数値微分を使って近似的に求めることができる。これにより、物理学や経済学など多くの分野で応用可能。
Youtube動画やブログ記事のアイキャッチ用に作成した、VOCEIVX(四国めたん、ずんだもん、春日部つむぎ)、AivisSpeech(Anneli)の画像たち。Stable Diffusionで生成＆少しペン入れ＆GIMPによる補正したものになります。
各種フーリエについてまとめてみた。いままでは級数→係数の順番でやっていたため、逆フーリエ変換→フーリエ変換の順番が自然。実際には「フーリエの積分公式を求める」ことになるが、これは逆フーリエ変換そのものである。
各種フーリエについてまとめてみた。いままでは級数→係数の順番でやっていたため、逆フーリエ変換→フーリエ変換の順番が自然。実際には「フーリエの積分公式を求める」ことになるが、これは逆フーリエ変換そのものである。
最適化アルゴリズム モーメンタムを用いて分類の学習をMATLABで実現。 問題無く動作。 学習の収束が通常の勾配降下法よりも比較的早い。
モーメンタムを確認するプログラムの方針を確認。 以前の勾配降下法のプログラムをベースにする。 隠れ層のユニット数は4。 プログラムのフローを確認。 モーメンタム項とパラメータ更新が基本的な差分となる。
モーメンタムの更新式について確認。 指数移動平均を利用して直近の値を重視する。 モーメンタムの動作イメージについて確認。 最初は大きく更新して、最適解が近いと小さく更新。 勾配降下法で言うところの学習率が可変と同義な動きになる。
勾配降下法の更新式を確認。 勾配降下法の動作イメージを確認。 学習率が大きい場合と小さい場合で挙動が変わる。 ちょうど良い学習率を人間の手で探す。 これにより、一般的なパラメータとは異なるハイパーパラメータというカテゴリになる。
最適化アルゴリズムを取り扱う。 今回のネットワークだとさほど恩恵はないが知っていて損はない。 まずはモーメンタムから解説＆実験をしていく。 最初は復習を兼ねて勾配降下法についても確認する。
モーメンタムを確認するプログラムの方針を確認。 以前の勾配降下法のプログラムをベースにする。 隠れ層のユニット数は4。 プログラムのフローを確認。 モーメンタム項とパラメータ更新が基本的な差分となる。
モーメンタムの動作イメージについて確認。 動作イメージの表現は難しい。 最初は大きく更新して、最適解が近いと小さく更新。 勾配降下法で言うところの学習率が可変と同義な動きになる。
モーメンタムの更新式について確認。 指数移動平均を利用して直近の値を重視する。 実際の指数移動平均とは異なっているので、その点は注意。
勾配降下法の動作イメージを確認。 学習率が大きい場合と小さい場合で挙動が変わる。 ちょうど良い学習率を人間の手で探す。 これにより、一般的なパラメータとは異なるハイパーパラメータというカテゴリになる。
今回改めてまじめに更新式を確認。 勾配降下法の更新式が一番シンプルなので今後の最適化アルゴリズムの更新式を見る際は比較対象になりやすい。
最適化アルゴリズムを取り扱う。 今回のネットワークだとさほど恩恵はないが知っていて損はない。 まずはモーメンタムから解説＆実験をしてい 最初は復習を兼ねて勾配降下法についても確認する。
多層パーセプトロンの隠れ層のユニット数を2から4に変えたJuliaコードで分類を実施。 大きく2パターンの分類パターンがある。 やや複雑な分類パターンが4ユニットにすることで出てきたもの。
多層パーセプトロンの隠れ層のユニット数を2から4に変えたScilabコードで分類を実施。 大きく2パターンの分類パターンがある。 やや複雑な分類パターンが4ユニットにすることで出てきたもの。
多層パーセプトロンの隠れ層のユニット数を2から4に変えたPythonコードで分類を実施。 大きく2パターンの分類パタ やや複雑な分類パターンが4ユニットにすることで出てきたもの。
多層パーセプトロンの隠れ層のユニット数を2から4に変えたMATLABコードで分類を実施。 大きく2パターンの分類パターン やや複雑な分類パターンが4ユニットにすることで出てきたもの。
多層パーセプトロンの隠れ層のユニット数を2から4に変えたJuliaコードで分類を実施。 大きく2パターンの分類パターンがある。 やや複雑な分類パターンが4ユニットにすることで出てきたもの。
多層パーセプトロンの隠れ層のユニット数を2から4に変えたScilabコードで分類を実施。 大きく2パターンの分類パターンがある。 やや複雑な分類パターンが4ユニットにすることで出てきたもの。
多層パーセプトロンの隠れ層のユニット数を2から4に変えたPythonコードで分類を実施。 大きく2パターンの分類パターンがある。 やや複雑な分類パターンが4ユニットにすることで出てきたもの。
多層パーセプトロンの隠れ層のユニット数を2から4に変えたMATLABコードで分類を実施。 大きく2パターンの分類パターンがある やや複雑な分類パターンが4ユニットにすることで出てきたもの。
多層パーセプトロンの隠れ層のユニット数を増やす。 表現力が上がるはず。 局所最適解にハマらないというより大域最適解に近い局所最適解が増えるというイメージ。 プログラム上の修正点確認。 ベクトル、行列演算ができるため修正範囲は極小。
