摂食障害ヘルプラインのチャットボットが不適切なアドバイスで利用停止に。AIはどれだけ人間の代わりができるのか

【ニュース】

◆摂食障害ヘルプラインのチャットボットが不適切なアドバイスで利用停止に。AIはどれだけ人間の代わりができるのか (WIRED, 2023/06/14)

ボディイメージや摂食障害の問題を抱える人々を支援する米国の非営利団体が、レイオフにより人間が運営するヘルプラインを閉鎖した。後を任されたのはチャットボットだったが、体重を減らすことなど有害な助言をしてしまい、結局サービス停止となってしまった

https://wired.jp/article/tessa-chatbot-suspended/

【関連まとめ記事】

◆全体まとめ
　◆AIの問題点 (まとめ)

◆AIの誤動作 (まとめ)
https://tt-ai.hatenablog.com/entry/AI_Malfunction