chevron_left

メインカテゴリーを選択しなおす

cancel
研究開発 http://blog.livedoor.jp/tak_tak0/

シリコンバレーベンチャーみたいに深い科学技術を事業化したいです。

「深い技術」をやっています

TAK
フォロー
住所
文京区
出身
未設定
ブログ村参加

2007/08/27

TAKさんの人気ランキング

  • IN
  • OUT
  • PV
今日 03/28 03/27 03/26 03/25 03/24 03/23 全参加数
総合ランキング(IN) 圏外 圏外 圏外 圏外 圏外 圏外 圏外 1,033,790サイト
INポイント 0 0 0 0 0 0 0 0/週
OUTポイント 0 0 0 0 0 0 0 0/週
PVポイント 0 0 0 0 0 0 0 0/週
ベンチャーブログ 圏外 圏外 圏外 圏外 圏外 圏外 圏外 4,197サイト
科学ブログ 圏外 圏外 圏外 圏外 圏外 圏外 圏外 2,688サイト
IT技術ブログ 圏外 圏外 圏外 圏外 圏外 圏外 圏外 9,757サイト
※ランキング順位が「圏外」と表示される時は?
今日 03/28 03/27 03/26 03/25 03/24 03/23 全参加数
総合ランキング(OUT) 圏外 圏外 圏外 圏外 圏外 圏外 圏外 1,033,790サイト
INポイント 0 0 0 0 0 0 0 0/週
OUTポイント 0 0 0 0 0 0 0 0/週
PVポイント 0 0 0 0 0 0 0 0/週
ベンチャーブログ 圏外 圏外 圏外 圏外 圏外 圏外 圏外 4,197サイト
科学ブログ 圏外 圏外 圏外 圏外 圏外 圏外 圏外 2,688サイト
IT技術ブログ 圏外 圏外 圏外 圏外 圏外 圏外 圏外 9,757サイト
※ランキング順位が「圏外」と表示される時は?
今日 03/28 03/27 03/26 03/25 03/24 03/23 全参加数
総合ランキング(PV) 圏外 圏外 圏外 圏外 圏外 圏外 圏外 1,033,790サイト
INポイント 0 0 0 0 0 0 0 0/週
OUTポイント 0 0 0 0 0 0 0 0/週
PVポイント 0 0 0 0 0 0 0 0/週
ベンチャーブログ 圏外 圏外 圏外 圏外 圏外 圏外 圏外 4,197サイト
科学ブログ 圏外 圏外 圏外 圏外 圏外 圏外 圏外 2,688サイト
IT技術ブログ 圏外 圏外 圏外 圏外 圏外 圏外 圏外 9,757サイト
※ランキング順位が「圏外」と表示される時は?
  • 実稼働言語モデルへの部分窃取手法

    実稼働言語モデルへの部分窃取手法

    Googleの研究者たちはAPI経由でOpenAIのモデルにおける隠れ次元数を特定できることを示し、OpenAIがそれを受け対策を施したことを論文で報告しました。モデルのパラメータサイズや計算効率を見積もることが可能だった事実を意味しています。"Stealing Part of a Production L

  • GenAIによるAIワームの登場:アプリケーションを標的とするゼロクリックワーム

    GenAIによるAIワームの登場:アプリケーションを標的とするゼロクリックワーム

    研究者たちは「敵対的自己複製プロンプト」と呼ばれる手法で生成AIワームを作成した。https://t.co/mzheaYLUPH— WIRED.jp (@wired_jp) March 12, 2024 システムがメッセージ(プロンプト)の保存や、RAG等を実行しなければ、ワームは機能しません。そう思ったのですが、そ

  • 自己教師あり学習のためのノイズ除去拡散モデルの分解

    自己教師あり学習のためのノイズ除去拡散モデルの分解

    拡散モデルが表現学習出来る理由を学習要素を分解し調査した結果、トーカナイザで低次元潜在空間に射影し、ノイズを加えデノイジングを学習する事"のみ"重要だった(画素空間ではダメ)。射影はPCAですら良い。潜在空間でデノイジングするl-DAEも同性能を達成出来るhttps://t

  • 状態空間言語モデルmambaの独自データで学習方法

    状態空間言語モデルmambaの独自データで学習方法

    選択的状態空間を使用した線形時間系列モデリングSSM の実際の実装方法と、学習方法です。git clone https://github.com/state-spaces/mambacd mamba実行のためにはこうするだけではなく、pip install causal-conv1d>=1.1.0,こうする必要がありました。import to

  • 文字起こしReazonSpeecの実装方法

    文字起こしReazonSpeecの実装方法

    文字起こしAIの新顔「ReazonSpeech」、テレビで鍛えた音声認識の精度を試したspeech,rate = librosa.load("audio.mp3", sr=44100)result = reazonspeech(speech)result[0][0]書いてある通りの実行方法で上手く行き、最初はエラーは何も生じませんでした。実行にはrea

  • 選択的状態空間を使用した線形時間系列モデリングSSM

    選択的状態空間を使用した線形時間系列モデリングSSM

    MambaはS4に入力を選択的に記憶/忘却をできるよう重み、間隔幅を入力に応じて変える仕組み(S6)を導入。高速メモリ内で内部状態を展開し、Parallel Scanを利用。SSMは性能がTransformerに匹敵しつつあり効率的なため今後多くの問題でTransformerに置き換わる可能性が高い ht

  • ニューラルネットワークの学習可能性境界はフラクタル

    ニューラルネットワークの学習可能性境界はフラクタル

    NNの学習はハイパーパラメータを座標軸、学習結果を色とした時、美しいフラクタル構造を作る。これは従来のフラクタル生成手法と同様、学習結果は同じ関数を反復適用した結果得られるためである。カオス的であり、勾配降下法によるメタ学習が難しい事も視覚化出来ている http

  • 自力で学習データを作成するSelf-Rewarding Language Models

    自力で学習データを作成するSelf-Rewarding Language Models

    AIが自分自身に報酬を与えて進化する「自己報酬型言語モデル」 米Metaなどが開発、実験でGPT-4を上回る https://t.co/OFeAjRPF17 自分で問題作り自分で回答し自分で評価しその結果を学習データに使用。これを反復し訓練し続けると反復毎に精度が向上。3回目でGemini Pro,GPT

  • 大規模言語モデルを使用して自動運転を再考する

    大規模言語モデルを使用して自動運転を再考する

    LLMx自動運転でこちらの研究面白かった。汎用人工知能AGIの研究にも取り組むShanghai AI Labからの論文。既存のLLMと理想の完全自動運転AIの差異をreasoning、interpretation、memorizationの3つに絞って議論。オープンソースと簡易デモも出していて、LLMx自動運転の思想が見

  • 大規模言語モデルのための知識編集の包括的研究

    大規模言語モデルのための知識編集の包括的研究

    LLMの知識を狙い撃ちして変更・修正する「知識編集(Knowledge Editing)」https://t.co/cFSRUEgC1gモデル全体を再学習させずに効率よくチューニングするアプローチです。本記事では、知識編集の概要と、各手法の評価結果などを紹介しています。— AIDB (@ai_database) Janua

  • 敵対的機械学習:攻撃と緩和策の分類と用語

    敵対的機械学習:攻撃と緩和策の分類と用語

    『敵はAIシステムを意図的に操作し、それらを機能不全に陥らせることができる。そして完璧な防御策は存在しない。』アメリカ国立標準技術研究所(NIST) が、AIや機械学習(ML)の脆弱性とその軽減アプローチに関する報告書を発表。https://t.co/chRf6rglPJ https://t.co/aBX

  • 検索エンジンにおけるSEOスパムの縦断的調査

    検索エンジンにおけるSEOスパムの縦断的調査

    Google、Bing、DuckDuckGoの検索結果はいずれもSEOスパムに席巻されていると、ドイツの研究者陣による論文。検索結果上位のレビューの多くはアフィエイト商法で、その多くは完全なSEOスパム。検索エンジンの表示順位とアフィリエイト商法の間には強い相関。https://t.co/csuQ

  • AI研究エージェントとしての大規模言語モデルベンチマーク

    AI研究エージェントとしての大規模言語モデルベンチマーク

    今年も死ぬほど機械学習の論文が出ましたが、個人的には一番大事な論文と言っても過言ではなかったです。この論文が素晴らしいのは、open-ended な状況で研究をするエージェントというコンセプトを明確に提示した点だと思ってます。 https://t.co/Wl1XpVULe8— Shiro Takagi

  • 大規模言語モデルの再学習

    大規模言語モデルの再学習

    日本語 LLM の精度がいまいちなのはデータセットに問題がありそうという指摘。現状手に入るデータセットを (そのまま) 使い続けている限り、GPU時間を溶かし続けても対価は小さいかもしれない。https://t.co/7r3Hh2QQsr— piqcy (@icoxfog417) December 11, 2023 日本語モ

  • 情報の終焉 infocalypse

    情報の終焉 infocalypse

    Deepfakes: The Coming InfocalypseDeep Fakes and the Infocalypse: What You Urgently Need To Know海外の専門家の間では infocalypse インフォカリプス と言う言葉が使われ始めているんですが日本ではまだ知らない人が多いと思います。AIで「普通のおじさん」を生成

  • 排除剥奪の観点からのSuperintelligence

    排除剥奪の観点からのSuperintelligence

    われわれは何故独居老人に AI ロボットを与えようとするのだろう。何故AI による自動運転を開発しようとするのだろう。何故人間の仕事を AI に取って代わらせようとするのだろう。社会的弱者を切り捨てるためではないか、よく考えてみる必要がある。人工知能「技術」の先鋭

  • 資本・資源の観点からシンギュラリティ不可能論

    資本・資源の観点からシンギュラリティ不可能論

    人工知能が人間の知性を上回り、その延長に、人工知能が自力で知能の強化をする事、その更なる延長として、知能の向上が加速し、有限時間内に無限大の知能が実現されるような話もあると思います。しかし、それが必要とする前提を色々考えると、どうもそれ(知能増幅)は

  • クロスドメイン拡散を使用した単一画像から3Dへの変換 Wonder3D

    クロスドメイン拡散を使用した単一画像から3Dへの変換 Wonder3D

    Wonder3D: Single Image to 3D using Cross-Domain Diffusionpaper page: https://t.co/gLYmjli2Biintroduce Wonder3D, a novel method for efficiently generating high-fidelity textured meshes from single-view images.Recent methods based on Score Distillation Samp

  • 歌詞と音響と音楽の好みと道徳的価値観との関連

    歌詞と音響と音楽の好みと道徳的価値観との関連

    「音楽の趣味はその人の道徳や価値観も表す」ことを示唆する論文。クイーン・メアリー大学らによって行われた1,400人以上を対象にした研究によれば、音楽の好みが個人の道徳的価値観を反映し、単なる楽しみだけでなく、私たちの道徳的な感覚や判断を形作る影響力を持っている

  • 電車内でのスマートデバイス利用行動統計 2023/12

    電車内でのスマートデバイス利用行動統計 2023/12

    観測期間は2023年7月8日~2023年12月24日で、 記録した人数は延べ 7044人です。前回の記録 電車内でのスマートデバイス利用率 2023/7全体の推移はこうなっています。 これらは実際に視認した数なので、つまり、見えない分を含めた真の利用率はこの数字より必

ブログリーダー」を活用して、TAKさんをフォローしませんか?

ハンドル名
TAKさん
ブログタイトル
研究開発
フォロー
研究開発

にほんブログ村 カテゴリー一覧

商用