ハルシネーション / Hallucination / 幻覚 (まとめ)

【辞書】

◆幻覚 (人工知能) (Wikipedia)
https://ja.wikipedia.org/wiki/%E5%B9%BB%E8%A6%9A_(%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD)

◆ハルシネーション（Hallucination）とは？ (ITmedia)
https://atmarkit.itmedia.co.jp/ait/articles/2303/30/news027.html

【ニュース】

■2022年

◆科学記事を自動で生成するAI「Galactica」がわずか3日で公開停止へ、入力内容次第で「ウソ記事」を生成可能と判明 (Gigazine, 2022/11/21 12:30)
https://gigazine.net/news/20221121-meta-ai-galactica-pulled/
⇒ https://tt-ai.hatenablog.com/entry/2022/11/21/000000

■2023年

◇2023年4月

◆話題のChatGPT、何ができて何ができないの？生成AIの有効な使い方とは (マイナビニュース, 2023/04/24 09:00)
https://news.mynavi.jp/techplus/article/20230424-2655695/
⇒ https://tt-ai.hatenablog.com/entry/2023/04/24/000000

◇2023年6月

◆OpenAI、AIモデルの「幻覚」を軽減する手法を報告 (ZDNet, 2023/06/02 12:05)
https://japan.zdnet.com/article/35204671/
⇒ https://tt-ai.hatenablog.com/entry/2023/06/02/000000

◆グーグルのAI検索エンジン「SGE」を試して分かったこと (CNet, 2023/06/13 11:00)
https://japan.cnet.com/article/35205127/
⇒ https://tt-ai.hatenablog.com/entry/2023/06/13/000000_3

◆ChatGPTの「幻覚」を悪用してマルウエア配布、研究者が実演してみせた驚きの手口 (日経XTECH, 2023/06/28)
https://xtech.nikkei.com/atcl/nxt/column/18/00676/062300137/
⇒ https://tt-ai.hatenablog.com/entry/2023/06/28/000000

◇2023年8月

◆なぜAIは間違った回答をするのか――知っておきたい生成AIの基本 (日経BP, 2023/08/18)
https://project.nikkeibp.co.jp/pc/atcl/19/06/21/00003/081600474/
⇒ https://tt-ai.hatenablog.com/entry/2023/08/18/000000_1

◆生成AIの「幻覚」防ぐグラウンディング、ハルシネーションの解決策をひもとく (日経XTECH, 2023/09/01)
https://xtech.nikkei.com/atcl/nxt/column/18/00692/082900114/
⇒ https://tt-ai.hatenablog.com/entry/2023/09/01/000000_2

◇2023年9月

◆キノコ専門家がAmazonで売られている「AIが書いたキノコ採りガイド」を買わないよう呼びかけ、命に関わる危険も (Gigazine, 2023/09/04 19:00)
https://gigazine.net/news/20230904-ai-mushroom-foraging-books-amazon-dangerous/
⇒ https://tt-ai.hatenablog.com/entry/2023/09/04/000000

◇2023年11月

◆大規模言語モデルが「幻覚」を引き起こすリスクを客観的に検証できるオープンソースの評価モデルをVectaraがリリース (Gigazine, 2023/11/07 16:00)
https://gigazine.net/news/20231107-vectara-measuring-hallucination/
⇒ https://tt-ai.hatenablog.com/entry/2023/11/07/000000

◇2023年12月

◆AmazonのAI「Amazon Q」は重度の幻覚によってAWSデータセンターの場所などの機密データを漏えいしているとの指摘 (Gigazine, 2023/12/04 10:37)
https://gigazine.net/news/20231204-amazon-q-severe-hallucinations/
⇒ https://tt-ai.hatenablog.com/entry/2023/12/04/000000

◆さまざまなチャットAIがどれくらい幻覚を見るのかをランキングにした「Hallucination Leaderboard」が公表される (Gigazine, 2023/12/24 23:00)
https://gigazine.net/news/20231224-hallucination-leaderboard/
⇒ https://tt-ai.hatenablog.com/entry/2023/12/24/000000_1

■2023年

◇2024年2月

◆ChatGPTが同時多発的に奇妙なことを言い始めて「ChatGPTが発狂した」「発作を起こした」という報告が相次ぎOpenAIが慌てて修正 (Gigazine, 2024/02/22 12/23)
https://gigazine.net/news/20240222-chatgpt-insane-unexpected-outputs/
⇒ https://tt-ai.hatenablog.com/entry/2024/02/22/000000

◇2024年3月

◆生成AIの幻覚で指定される「架空のパッケージ」に悪用の危険性があるとセキュリティ研究者が警告 (Gigazine, 2024/03/29 21:00)
https://gigazine.net/news/20240329-ai-hallucinations-software-package/
⇒ https://tt-ai.hatenablog.com/entry/2024/03/29/000000

【公開情報】

◆Improving mathematical reasoning with process supervision (OpenAI, 2023/05/31)
[プロセス監督による数学的推論の向上]
https://openai.com/research/improving-mathematical-reasoning-with-process-supervision
⇒ https://tt-ai.hatenablog.com/entry/2023/05/31/000000_1

【データ】

◆hallucination-leaderboard (vectar, 2023/12/19)
https://github.com/vectara/hallucination-leaderboard
⇒ https://tt-ai.hatenablog.com/entry/2023/12/24/000000_1

【検索】

■Google

google: ハルシネーション
 google: Hallucination
google: 幻覚
 google: 幻覚 AI

google:news: ハルシネーション
 google:news: Hallucination
google:news: 幻覚
 google:news: 幻覚 AI

google: site:virustotal.com ハルシネーション
 google: site:virustotal.com Hallucination
google: site:virustotal.com 幻覚
 google: site:virustotal.com 幻覚 AI

google: site:github.com ハルシネーション
 google: site:github.com Hallucination
google: site:github.com 幻覚
 google: site:github.com 幻覚 AI

■Bing

https://www.bing.com/search?q=ハルシネーション
 https://www.bing.com/search?q=Hallucination
https://www.bing.com/search?q=幻覚
 https://www.bing.com/search?q=幻覚%20AI

https://www.bing.com/news/search?q=ハルシネーション
 https://www.bing.com/news/search?q=Hallucination
https://www.bing.com/news/search?q=幻覚
 https://www.bing.com/news/search?q=幻覚%20AI

■Twitter

https://twitter.com/search?q=%23ハルシネーション
 https://twitter.com/search?q=%23Hallucination
https://twitter.com/search?q=%23幻覚
 https://twitter.com/search?q=%23幻覚%20AI

https://twitter.com/hashtag/ハルシネーション
 https://twitter.com/hashtag/Hallucination
https://twitter.com/hashtag/幻覚
 https://twitter.com/hashtag/幻覚%20AI