【AI技術の悪用】
◆マルウェア生成 (まとめ)
https://tt-ai.hatenablog.com/entry/Malware_Generation
◆WormGPT (まとめ)
https://tt-ai.hatenablog.com/entry/WormGPT
◆FraudGPT (まとめ)
https://tt-ai.hatenablog.com/entry/FraudGPT
◆検知回避 (まとめ)
https://tt-ai.hatenablog.com/entry/Detection_Avoidance
【最新情報】
◆サイバー犯罪者向けの生成型AIツール「WormGPT」とは？ (ZDNet, 2023/07/20 12:47)
https://www.security-next.com/133265
⇒ https://tt-ai.hatenablog.com/entry/2023/07/20/000000
◆サイバー犯罪者向け邪悪な生成AI「FraudGPT」登場 (マイナビニュース, 2023/07/27 10:33)
https://news.mynavi.jp/techplus/article/20230727-2735373/
⇒ https://tt-ai.hatenablog.com/entry/2023/07/27/000000
【ニュース】
■2017年
◆機械学習の悪用が本格化？McAfeeが2018年のサイバーセキュリティトレンド予想 (マイナビニュース, 2017/12/04 18:08)
https://news.mynavi.jp/article/20171204-evilmachinelearning/
⇒ https://tt-ai.hatenablog.com/entry/2017/12/04/000000
■2018年
◆AIの悪用を未然に防ぐために取り組むべきこととは？ (Gigazine, 2018/02/26 09:00)
https://gigazine.net/news/20180226-malicious-uses-of-ai/
⇒ https://tt-ai.hatenablog.com/entry/2018/02/26/000000
◆「AIサイバー攻撃」とは何か？ Twitterの悪用を例に解説 (TechTarget, 2018/07/04 05:00)
https://techtarget.itmedia.co.jp/tt/news/1807/04/news04.html
⇒ https://tt-ai.hatenablog.com/entry/2018/07/04/000000
■2019年
◆「ＡＩハッカー」の脅威、中国すでに実用化か (産経新聞, 2019/01/17)
https://special.sankei.com/a/international/article/20190117/0001.html
⇒ https://tt-ai.hatenablog.com/entry/2019/01/17/000000
◆手術の邪魔をして失敗に追い込む、「悪魔的」AIウイルスの所業 (日経XTECH, 2019/10/16 05:00)
https://tech.nikkeibp.co.jp/atcl/nxt/column/18/00676/100800028/
⇒ https://tt-ai.hatenablog.com/entry/2019/10/16/000000
◆「AI使う攻撃者はいない」-エフセキュアのミッコ・ヒッポネン氏 (マイナビニュース, 2019/10/29 16:03)
https://news.mynavi.jp/article/20191029-916212/
⇒ https://tt-ai.hatenablog.com/entry/2019/10/29/000000
■2023年
◇2023年2月
◆アングラ犯罪者らが、ChatGPTの悪用防止機能を回避してフィッシングメールを作成 (ITmedia, 2023/02/17 09:00)
チェック・ポイント・ソフトウェア・テクノロジーズはサイバー犯罪者がChatGPTの規制を回避してフィッシングなどに悪用していることを指摘した
https://www.itmedia.co.jp/enterprise/articles/2302/17/news055.html
⇒ https://tt-ai.hatenablog.com/entry/2023/02/17/000000
◇2023年4月
◆「AIに毒を盛る」──学習用データを改ざんし、AIモデルをサイバー攻撃 Googleなどが脆弱性を発表 (ITmedia, 2023/04/05 08:00)
https://www.itmedia.co.jp/news/articles/2304/05/news050.html
⇒ https://tt-ai.hatenablog.com/entry/2023/04/05/000000
◇2023年6月
◆「電話の相手、本当に本人？」“AI音声詐欺”増加の恐れ、元公安捜査官が解説 (Diamond Online, 2023/06/13 03:55)
https://diamond.jp/articles/-/324341
⇒ https://tt-ai.hatenablog.com/entry/2023/06/13/000000_5
◆ChatGPTの「幻覚」を悪用してマルウエア配布、研究者が実演してみせた驚きの手口 (日経XTECH, 2023/06/28)
https://xtech.nikkei.com/atcl/nxt/column/18/00676/062300137/
⇒ https://tt-ai.hatenablog.com/entry/2023/06/28/000000
◆GPT-4の内部的な動機付けを自己と衝突させることで、違法情報を入手可能 (マイナビニュース, 2023/06/29 13:06)
https://news.mynavi.jp/techplus/article/20230629-2714945/
⇒ https://tt-ai.hatenablog.com/entry/2023/06/29/000000
◇2023年7月
◆生成AI「脱獄」、規制に盲点 (日経新聞, 2023/07/14 02:00)
有害情報答えさせる手法、アマゾンで売買 法的な対応追いつかず
https://www.nikkei.com/article/DGKKZO72750940T10C23A7EA1000/
⇒ https://tt-ai.hatenablog.com/entry/2023/07/14/000000_4
◆サイバー犯罪者向けの生成型AIツール「WormGPT」とは？ (ZDNet, 2023/07/20 12:47)
https://www.security-next.com/133265
⇒ https://tt-ai.hatenablog.com/entry/2023/07/20/000000
◆サイバー犯罪者向け邪悪な生成AI「FraudGPT」登場 (マイナビニュース, 2023/07/27 10:33)
https://news.mynavi.jp/techplus/article/20230727-2735373/
⇒ https://tt-ai.hatenablog.com/entry/2023/07/27/000000
◇2023年12月
◆“制限なしChatGPT"を開発する犯罪者、生成AIを悪用するサイバー攻撃が流行 (マイナビニュース, 2023/12/25 09:00)
https://news.mynavi.jp/techplus/article/20231225-2847225/
⇒ https://tt-ai.hatenablog.com/entry/2023/12/25/000000_3
◆「見ず知らずの他人がChatGPTに搭載されている大規模言語モデルから自分のメールアドレスを入手していた」という報告 (Gigazine, 2023/12/25 23:00)
https://gigazine.net/news/20231225-chatgpt-model-delivered-email-personal-information/
⇒ https://tt-ai.hatenablog.com/entry/2023/12/25/000000
■2024年
◆AIが作成した偽セレブの詐欺的広告動画がYouTubeで1億9500万回以上再生されている (Gigazine, 2024/01/11 12:25)
https://gigazine.net/news/20240111-deepfaked-promoting-scams-youtube/
⇒ https://tt-ai.hatenablog.com/entry/2024/01/11/000000
◆犯罪に利用できる生成ＡＩ、ネットに複数公開…ランサムウェア・爆発物の作り方など回答 (読売新聞, 2024/01/30 05:00)
https://www.yomiuri.co.jp/national/20240129-OYT1T50245/
⇒ https://tt-ai.hatenablog.com/entry/2024/01/30/000000_4
◆米、クラウド大手に外国顧客の報告義務 中国AI悪用阻止 (日経新聞, 2024/01/30 05:44)
https://www.nikkei.com/article/DGXZQOGN3001N0Q4A130C2000000/
⇒ https://tt-ai.hatenablog.com/entry/2024/01/30/000000_5
【関連まとめ記事】
