ハルシネーション / Hallucination / 幻覚
【辞書】 ◆幻覚 (人工知能) (Wikipedia) https://ja.wikipedia.org/wiki/%E5%B9%BB%E8%A6%9A_(%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD) ◆ハルシネーション（Hallucination）とは？ (ITmedia) https://atmarkit.itmedia.co.jp/ait/articles/2303/30/news027.ht…
【ニュース】 ◆生成AIの幻覚で指定される「架空のパッケージ」に悪用の危険性があるとセキュリティ研究者が警告 (Gigazine, 2024/03/29 21:00) https://gigazine.net/news/20240329-ai-hallucinations-software-package/
【ニュース】 ◆ChatGPTが同時多発的に奇妙なことを言い始めて「ChatGPTが発狂した」「発作を起こした」という報告が相次ぎOpenAIが慌てて修正 (Gigazine, 2024/02/22 12/23) https://gigazine.net/news/20240222-chatgpt-insane-unexpected-outputs/ 【関連…
【図表】 出典: https://gigazine.net/news/20231224-hallucination-leaderboard/ 【ニュース】 ◆さまざまなチャットAIがどれくらい幻覚を見るのかをランキングにした「Hallucination Leaderboard」が公表される (Gigazine, 2023/12/24 23:00) https://gigaz…
【ニュース】 ◆AmazonのAI「Amazon Q」は重度の幻覚によってAWSデータセンターの場所などの機密データを漏えいしているとの指摘 (Gigazine, 2023/12/04 10:37) https://gigazine.net/news/20231204-amazon-q-severe-hallucinations/ 【関連まとめ記事】◆全体…
【ニュース】 ◆大規模言語モデルが「幻覚」を引き起こすリスクを客観的に検証できるオープンソースの評価モデルをVectaraがリリース (Gigazine, 2023/11/07 16:00) https://gigazine.net/news/20231107-vectara-measuring-hallucination/ 【関連まとめ記事】…
【要点】 ◎特定の知識や情報源を参照することで、言語モデルの回答や生成内容を裏付けをするプロセス。 ◎幻覚(ハルシネーション)を減らす手法として注目されている 【ニュース】 ◆生成AIの「幻覚」防ぐグラウンディング、ハルシネーションの解決策をひもとく…
【ニュース】 ◆キノコ専門家がAmazonで売られている「AIが書いたキノコ採りガイド」を買わないよう呼びかけ、命に関わる危険も (Gigazine, 2023/09/04 19:00) https://gigazine.net/news/20230904-ai-mushroom-foraging-books-amazon-dangerous/ 【関連まと…
【ニュース】 ◆生成AIの「幻覚」防ぐグラウンディング、ハルシネーションの解決策をひもとく (日経XTECH, 2023/09/01) https://xtech.nikkei.com/atcl/nxt/column/18/00692/082900114/ 【関連まとめ記事】◆全体まとめ ◆AIの問題点 (まとめ) ◆ハルシネーショ…
【ニュース】 ◆なぜAIは間違った回答をするのか――知っておきたい生成AIの基本 (日経BP, 2023/08/18) https://project.nikkeibp.co.jp/pc/atcl/19/06/21/00003/081600474/ 【関連まとめ記事】◆全体まとめ ◆AIの問題点 (まとめ) ◆ハルシネーション / Hallucina…
【ニュース】 ◆ChatGPTの「幻覚」を悪用してマルウエア配布、研究者が実演してみせた驚きの手口 (日経XTECH, 2023/06/28) https://xtech.nikkei.com/atcl/nxt/column/18/00676/062300137/ 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ) https://tt-…
【ニュース】 ◆1600以上のAPIを適切に呼び出してAIに付き物の「幻覚」を大幅に減らす言語モデル「Gorilla」が公開される (Gigazine, 2023/05/26 23:00) https://gigazine.net/news/20230526-llm-connected-massive-api-gorilla/
【ニュース】 ◆グーグルのAI検索エンジン「SGE」を試して分かったこと (CNet, 2023/06/13 11:00) https://japan.cnet.com/article/35205127/
【ニュース】 ◆OpenAI、AIモデルの「幻覚」を軽減する手法を報告 (ZDNet, 2023/06/02 12:05) https://japan.zdnet.com/article/35204671/ 【関連まとめ記事】◆全体まとめ ◆AIの問題点 (まとめ) ◆ハルシネーション / Hallucination / 幻覚 (まとめ) https://t…
【訳】プロセス監督による数学的推論の向上 【公開情報】 ◆Improving mathematical reasoning with process supervision (OpenAI, 2023/05/31) [プロセス監督による数学的推論の向上] https://openai.com/research/improving-mathematical-reasoning-with-pr…
【ニュース】 ◆話題のChatGPT、何ができて何ができないの？生成AIの有効な使い方とは (マイナビニュース, 2023/04/24 09:00) https://news.mynavi.jp/techplus/article/20230424-2655695/ 【関連まとめ記事】◆全体まとめ ◆GAN / 敵対的生成ネットワーク (ま…
【ニュース】 ◆科学記事を自動で生成するAI「Galactica」がわずか3日で公開停止へ、入力内容次第で「ウソ記事」を生成可能と判明 (Gigazine, 2022/11/21 12:30) https://gigazine.net/news/20221121-meta-ai-galactica-pulled/ 【関連まとめ記事】◆全体まと…
