シミュレーションの世界に引きこもる部屋

ディープラーニング、機械学習の基礎数学

微分関数\(y=f(x)\)の接線を\(x=a\)に於いて引き、その傾きを\(y=f(x)\)の\(x=a\)に於ける微分係数と呼び、\(f´(a)\)と表す。微分係数の定義$$\lim_{h \to 0} \frac{ f(a+h) -

2020/02/29 01:50

ディープラーニングの法律、倫理、現行の議論

はじめにAIプロダクト開発の工程を通じて関連する法律、倫理、現行の議論について記載する。AIプロダクトを作る工程以下のサイクルとなる。プロダクトを考えるデータを集めるデータの加工、分析、学習実装、運用、評価クライシスマネジメントプロダクトを

2020/02/27 00:38

ディープラーニングの産業への応用 その2

はじめに産業への応用の応用例を列挙。サービス、小売り、飲食店タクシー需要予測人口統計、気象、運行の各種データで予測。抽象的で複雑な特徴を獲得するため、AutoEncoderの技術を使用。 (Stacked denoisng AutoEnco

2020/02/26 23:54

ディープラーニングの産業への応用 その1

はじめに産業への応用の応用例を列挙。ものづくり不良品検出「不良品が発生する頻度が少ない」ことが課題。良品データのみの特徴を抽出し、その差分で不良品を検出。つまり、良品データでなければ不良品という考え方。AutoEncoderと相性が良い。予

2020/02/24 22:24

ディープラーニングの研究分野 その3

はじめにディープラーニングの研究分野である、音声認識と強化学習について記載する。音声認識RNNの聴覚、音声分野の成果としてWaveNet(ウェーブネット)が存在する。WaveNetは音声合成(Speech synthesis)と音声認識(S

2020/02/24 19:27

ディープラーニングの研究分野 その2

はじめにディープラーニングの研究分野の一つである、自然言語処理分野について記載する。ベクトル空間モデルword2vecは、「単語→ベクトル」の意で、ベクトル空間モデルや単語埋め込みモデルとも言われている。 単語の意味は、その周辺の単語によっ

2020/02/24 18:50

ディープラーニングの研究分野 その1

はじめにディープラーニングの研究分野の一つである、画像認識分野について記載する。画像認識分野基本的には以下課題がある。位置課題検出課題AlexNet(アレックスネット)2012年のイメージネット画像認識コンテスト(ILSVRC)に従来手法の

2020/02/24 17:46

ディープラーニングのテクニック その4

はじめにディープラーニングの合わせ技のようなものが存在。それらについて記載する。深層強化学習強化学習教師あり学習、教師なし学習以外に強化学習と呼ばれる分野も存在する。強化学習とは「行動を学習する仕組み」になる。教師あり学習と混同し易いが、一

2020/02/20 00:00

ディープラーニングのテクニック その3

はじめにディープラーニングのもう一つの有名どころのモデルとしてRNNについて記載する。RNN(リカレントニューラルネットワーク)時系列データ時間軸に対して何かパターンを持っているデータは時間軸に沿って入力される。時間情報を反映できるような仕

2020/02/19 21:19

ディープラーニングのテクニック その2

はじめにディープラーニングの有名どころのモデルとしてCNNについて記載する。CNN(畳み込みニューラルネットワーク)画像データ画像データは座標情報(縦横)の2次元に、色情報を加えたもので、数値情報としては3次元になる。畳み込みニューラルネッ

2020/02/18 23:23

ディープラーニングのテクニック その1

はじめにディープラーニングは様々なテクニックの集合体と言える。ここでは以下の代表的なテクニックを記載する。活性化関数勾配消失の問題の最大の原因はシグモイド関数の導関数の最大値が0.25と小さいことであった。よって、このシグモイド関数を別の物

2020/02/18 00:21

ディープラーニング概要

はじめに前回までは、AIの歴史やディープラーニングのブレイクスルー前の話が主だった。今回からディープラーニングの話に突入。多層パーセプトロンディープラーニングの基本構造の由来はニューラルネットワーク。ニューラルネットワーク自体は隠れ層を持つ

2020/02/12 00:25

機械学習の評価手法

はじめに前回は、機械学習の各種手法について取り扱った。実際に学習するに当たって、以下の手法や考え方がある。学習データの扱い方評価指標データの扱い方機械学習にて手元のデータを学習することで、そのデータの分類、回帰ができるようになるが、重要なの

2020/02/11 16:22

機械学習の手法

はじめに機械学習の手法は大きく分けて以下となる。機械学習の手法そのもの機械学習の評価手法今回は「機械学習の手法そのもの」について記載する。学習種類学習種類は大きく分けて以下。教師あり学習教師なし学習強化学習教師あり学習教師あり学習とは以下と

2020/02/11 00:26

人工知能の問題点 その2

はじめに前回の続き。ただし、今回の問題点はディープラーニングにより解決されているものも含まれる。知識獲得のボトルネック特徴量設計の問題シンギュラリティ(技術的特異点)知識獲得のボトルネック機械翻訳の歴史は以下となる。1970年代後半：ルール

2020/02/09 02:29

人工知能の問題点 その1

はじめに人工知能の分野に様々な問題がある。これらを把握することで現状の限界を知り、現実世界への実現可能性を考察する必要がある。トイ・プロブレム(おもちゃの問題)第1次AIブーム時のパズルや迷路、チェス、囲碁で一定の成果は上がられた。しかし、

2020/02/06 23:36

第3次AIブーム(機械学習・深層学習の時代)

はじめに機械学習、ディープラーニング(深層学習)の時代に突入。昨今のAIによる恩恵の時代。機械学習機械学習とは、プログラム自身が学習する仕組みであり、その学習はサンプルデータが多いほど良い。2000年以降はビッグデータと共に注目を浴びる。(

2020/02/04 23:01

第2次AIブーム(知識の時代)その2 オントロジー

はじめに第2次AIブーム初期に於いてエキスパートシステムによるアプローチが実現された。しかし、暗黙知の獲得、矛盾点調整の困難さからオントロジーの研究が注目を浴びる。意味ネットワーク意味ネットワークとは以下の概念構造である。概念をラベルが付い

2020/02/03 23:20

第2次AIブーム(知識の時代)その1 エキスパートシステム

はじめに第2次AIブームが始まり知識をどう扱うかが重要な時代に突入。 まずはエキスパートシステムというものが初期に登場する。知識表現人工無能という言葉が登場する。 チャットボット、おしゃべりボットなどが例となる。 実際に会話の内容を理解して

2020/02/02 12:56

第1次AIブーム(推論・探索の時代) その3 モンテカルロ法

はじめに前回のボードゲームの続きに位置付けられる話。 ボードゲームに勝利する際は探索木とそのルート上の点数が重要になってくるが、この点数付けは人間が実施している。 よって、点数を付けた人次第で結果が左右される状態とも言える。 それを解消する

2020/02/01 20:23

第1次AIブーム(推論・探索の時代) その3 ボードゲーム

はじめにAIはボードゲームでも利用される。 (オセロ、チェス、将棋、囲碁など) これらの実現手段の概要を記載する。ボードゲームの探索規模これも基本は探索木になる。 迷路の探索木に似ているが、「行動」と「結果」の連続した探索木となるが、局面が

2020/02/01 02:32