【ニュース】
◆摂食障害ホットラインで電話したら…AIから暴言を吐かれてしまった (Gizmodo, 2023/06/08 16:00)
https://www.gizmodo.jp/2023/06/inappropriate-remarks-by-ai.html
⇒ https://tt-ai.hatenablog.com/entry/2023/06/08/000000
◆生成AI知らぬ間に チャットボットが暴走 (WSJ, 2023/06/12 05:04)
米非営利団体のメンタルソフトウエアが台本にない回答
https://jp.wsj.com/articles/how-a-chatbot-went-rogue-5ff4d81e
⇒ https://tt-ai.hatenablog.com/entry/2023/06/12/000000_1
◆摂食障害ヘルプラインのチャットボットが不適切なアドバイスで利用停止に。AIはどれだけ人間の代わりができるのか (WIRED, 2023/06/14)
ボディイメージや摂食障害の問題を抱える人々を支援する米国の非営利団体が、レイオフにより人間が運営するヘルプラインを閉鎖した。後を任されたのはチャットボットだったが、体重を減らすことなど有害な助言をしてしまい、結局サービス停止となってしまった
【関連まとめ記事】
◆AIの問題点 (まとめ)
https://tt-ai.hatenablog.com/entry/Problems_with_AI
