研究開発

大規模言語モデルは論理的に絶対にhallucinationを削除出来ない

生成AIのハルシネーションは原理的に排除不能。不完全性定理など数学・計算機理論で説明 モデル改良や回避システムでも不可避とする論文（生成AIクローズアップhttps://t.co/GCwCU47rER 幻覚回避不能を決定不能性等で証明。訓練データは不完全だし回避システム導入でもそれ

2024/09/25 11:04

概念の背後にある数学 抽象的思考に光を当てる機械学習

プレプリントを公開しました。「概念」についての様々な哲学理論と、機械学習における「表現」学習を比較したら、色々と似たところがあって面白いかもしれない、という話です。https://t.co/EIKKhnnlqE— Jun Otsuka (@junotk_jp) August 29, 2024 夢の研究と同様に、他分

2024/09/18 11:50

過学習した脳：夢は学習一般化のために進化した

生成AIに「夢」を見せる→“過学習”を防ぐ 「人間が夢（合成データ）を見る理由も同じか？」 米研究者が21年に提唱 https://t.co/FpThnIWU9H AIにわざとノイズ入り合成データで訓練させ過学習を軽減。人の夢も体験のままでなくツギハギぼやけ現実離れのノイズ合成データと

2024/09/11 21:38

AI中毒の脅威 言語モデルにおけるゴマすりの理解

??記事『おべっかを使うコンパニオンとの度重なる交流は、最終的には、本物の欲望や夢を独自に持っている他者と深く関わり合うための人の能力を衰えさせる。』主張：デジタル愛着障害を生む「AI中毒」に備えよhttps://t.co/LTtC4DH1YV— ペンギン (@penpengin2023) August 21

2024/09/04 19:55