TT AI Log

人工知能 / AI / 脳機能解析 に関する「個人」の調査・研究・参照ログ

AIの倫理観

大量の質問をぶつけて最後の最後に問題のある質問をするとAIの倫理観が壊れるという脆弱性を突いた攻撃手法「メニーショット・ジェイルブレイキング」が発見される

【図表】 出典: https://gigazine.net/news/20240403-many-shot-jailbreaking/ 【ニュース】 ◆大量の質問をぶつけて最後の最後に問題のある質問をするとAIの倫理観が壊れるという脆弱性を突いた攻撃手法「メニーショット・ジェイルブレイキング」が発見され…


Copyright (C) 谷川哲司 (Tetsuji Tanigawa) 1997 - 2023