メインカテゴリーを選択しなおす
生成AIは、文章作成や画像生成など多様な分野で活躍していますが、その裏で「ハルシネーション（幻覚）」と呼ばれる“もっともらしい嘘”を生み出す現象が問題視されています。ハルシネーションの仕組みや対策、利用者が注意すべきポイントを分かりやすく解説します。 ハルシネーションとは？ ハルシネーションとは、生成AIが事実に基づかない情報を、まるで本当のことのように自信満々で語る現象です。たとえるなら、AIは「物知りな...
科学論文内に秘密の命令 〜AIに「高評価せよ」と暗示をかける
AIに関してこの1，2年でさらに急速な進化が見られ、Googleなどインターネット検索でもAIの提案をごく普通に目にするようになりました。便利ですが自分が精通する研究領域だと間違った記載も結構多く見受けられ、用心しています。しかし、自分がよく知らない研究領域だと、そこに提示...
桜蔭や開成に受かった子を「親がお尻を叩いたおかげで合格しただけ」〜ヤフコメは何と言うか
さてあまり実りある議論にはなってなかったダイヤモンドの記事ですが、ヤフコメは何と言うでしょうか？ ま～る 2日前 どんな人にも妬み嫉みの感情が宿っていると思いますが、「誰かがすごく頑張ったことを素直に認め、褒めてあげられない人」って、こんなにも多いんだということを、嫁ぎ先の...
私が、経験した中でも最低の部類の幻影に遭遇した。 言うまでもなく、2025年1月21日以降はトランプ政権である。しかし、現状、殆どのLLMは2024年前後で歴史が止まっている。しかし、Geminiはどうやら、RAGで最新化するという機能が弱い。そのため、意識的にURIが与えられないと、事実を補正することが出来ない、また、投入される情報もどうやら、Googleとの提携関係などに依存する部分が大きい。 しかし、このように、自信たっぷりに、虚偽の事象を開陳してしまう。 これは、所謂、ハルシネーションの典型的な事例です。 ハルシネーションの原因としては以下のようなものがあります。 情報の不足：モデルが学習データにない情報を推測して補完しようとする。 RAGの限界：適切な情報を取得できない場合、誤った情報がそのまま出力される。 モデルのバイアス：特定のデータソースに依存するため、偏った情報が生成される可能性がある。 今回のは状況として、まず、恐らく、RAGによる情報の最新化が動いていません。恐らく、情報の不足とモデルのバイアスに引きずられた格好です。GeminiはDeep Researchは強力ですが、現時点では、Gemini 2.5 Flashなどではまだ、ハルシネーションがきついようですね。
西暦2025年、インターネットは情報過多の海原と化し、その真偽を見極めることは困難を極めていた。無知が生み出す虚像の連鎖は、静かに、しかし確実に、人類文明の根幹を崩壊させ、人類は真実と虚偽の区別がつかなくなった世界で、生きる判断を下すことができなくなり、破滅へと向かっていくのだった。
最近、AIの進化がすごいですよね。便利で賢いのはもちろんですがちょっと抜けた可愛い一面もあるんです。今回は、そんなAIの意外なエピソードをいくつかご紹介し...
AIの「ハルシネーション」って何？生成画像のミスを例にわかりやすく解説
AIの「ハルシネーション」って何？生成画像のミスを例にわかりやすく解説AIが「幻覚」を見ちゃう！？AI（人工知能）ってすごい便利だけど、ときどき「ハルシネ...
一月が経つのがほんと早いなぁと思う年頃です。Xでワイワイとほぼ毎日ツイートはしているのですが、自分の回顧も含めてAIでまとめられないか？と思い考察してみました🤔ハルシネーションとは？ハルシネーション（hallucination）は、一般的に...
Google「AI Overviews」運用開始に因んで「AIのハルシネーション」について
グーグルの生成AI検索、日本で開始「AIOverviews」（ImpressWatch）グーグルの生成AI検索「AIOverviews」が日本にもやってくる！（ASCII）8月15日、Googleは検索キーワードについて、Webの検索結果を活用しながら独自のまとめを自動で生成して表示するAI検索機能「AIOverviews」を日本で導入すると発表しました。以下の通りです。・AIによる概要:ウェブにつながる新しい方法（GoogleJapanBlog）overviewが「概要」という意味なので、この記事が紹介されているわけです。ところで、紹介記事の方では、AIOverviewsはGoogleの検索結果から要約するため、AIによるハルシネーションが起きづらいと評価されています。「AIのハルシネーション」？という...Google「AIOverviews」運用開始に因んで「AIのハルシネーション」について
