【AI技術の悪用】
◆FraudGPT (まとめ)
https://tt-ai.hatenablog.com/entry/FraudGPT
◆ハルシネーション / Hallucination / 幻覚 (まとめ)
https://tt-ai.hatenablog.com/entry/Hallucination
◆KawaiiGPT (まとめ)
https://tt-ai.hatenablog.com/entry/KawaiiGPT
◆WormGPT (まとめ)
https://tt-ai.hatenablog.com/entry/WormGPT
◆マルウェア生成 (まとめ)
https://tt-ai.hatenablog.com/entry/Malware_Generation
◆脱獄 / ジェイルブレーク (まとめ)
https://tt-ai.hatenablog.com/entry/Jailbreak
◆検知回避 (まとめ)
https://tt-ai.hatenablog.com/entry/Detection_Avoidance
◆ディープフェイク (まとめ)
https://tt-ai.hatenablog.com/entry/Deepfake
【最新情報】
◆Google Gemini flaw hijacks email summaries for phishing (BleepingComputer, 2025/07/13 10:38)
[Google Geminiの脆弱性が悪用され、メールの要約がフィッシング攻撃に利用されています]
https://www.bleepingcomputer.com/news/security/google-gemini-flaw-hijacks-email-summaries-for-phishing/
⇒ https://tt-ai.hatenablog.com/entry/2025/07/13/000000_1
【ニュース】
■2017年
◆機械学習の悪用が本格化？McAfeeが2018年のサイバーセキュリティトレンド予想 (マイナビニュース, 2017/12/04 18:08)
https://news.mynavi.jp/article/20171204-evilmachinelearning/
⇒ https://tt-ai.hatenablog.com/entry/2017/12/04/000000
■2018年
◆AIの悪用を未然に防ぐために取り組むべきこととは？ (Gigazine, 2018/02/26 09:00)
https://gigazine.net/news/20180226-malicious-uses-of-ai/
⇒ https://tt-ai.hatenablog.com/entry/2018/02/26/000000
◆「AIサイバー攻撃」とは何か？ Twitterの悪用を例に解説 (TechTarget, 2018/07/04 05:00)
https://techtarget.itmedia.co.jp/tt/news/1807/04/news04.html
⇒ https://tt-ai.hatenablog.com/entry/2018/07/04/000000
■2019年
◆「ＡＩハッカー」の脅威、中国すでに実用化か (産経新聞, 2019/01/17)
https://special.sankei.com/a/international/article/20190117/0001.html
⇒ https://tt-ai.hatenablog.com/entry/2019/01/17/000000
◆手術の邪魔をして失敗に追い込む、「悪魔的」AIウイルスの所業 (日経XTECH, 2019/10/16 05:00)
https://tech.nikkeibp.co.jp/atcl/nxt/column/18/00676/100800028/
⇒ https://tt-ai.hatenablog.com/entry/2019/10/16/000000
◆「AI使う攻撃者はいない」-エフセキュアのミッコ・ヒッポネン氏 (マイナビニュース, 2019/10/29 16:03)
https://news.mynavi.jp/article/20191029-916212/
⇒ https://tt-ai.hatenablog.com/entry/2019/10/29/000000
■2023年
◇2023年2月
◆アングラ犯罪者らが、ChatGPTの悪用防止機能を回避してフィッシングメールを作成 (ITmedia, 2023/02/17 09:00)
チェック・ポイント・ソフトウェア・テクノロジーズはサイバー犯罪者がChatGPTの規制を回避してフィッシングなどに悪用していることを指摘した
https://www.itmedia.co.jp/enterprise/articles/2302/17/news055.html
⇒ https://tt-ai.hatenablog.com/entry/2023/02/17/000000
◇2023年4月
◆「AIに毒を盛る」──学習用データを改ざんし、AIモデルをサイバー攻撃 Googleなどが脆弱性を発表 (ITmedia, 2023/04/05 08:00)
https://www.itmedia.co.jp/news/articles/2304/05/news050.html
⇒ https://tt-ai.hatenablog.com/entry/2023/04/05/000000
◇2023年6月
◆「電話の相手、本当に本人？」“AI音声詐欺”増加の恐れ、元公安捜査官が解説 (Diamond Online, 2023/06/13 03:55)
https://diamond.jp/articles/-/324341
⇒ https://tt-ai.hatenablog.com/entry/2023/06/13/000000_5
◆ChatGPTの「幻覚」を悪用してマルウエア配布、研究者が実演してみせた驚きの手口 (日経XTECH, 2023/06/28)
https://xtech.nikkei.com/atcl/nxt/column/18/00676/062300137/
⇒ https://tt-ai.hatenablog.com/entry/2023/06/28/000000
◆GPT-4の内部的な動機付けを自己と衝突させることで、違法情報を入手可能 (マイナビニュース, 2023/06/29 13:06)
https://news.mynavi.jp/techplus/article/20230629-2714945/
⇒ https://tt-ai.hatenablog.com/entry/2023/06/29/000000
◇2023年7月
◆生成AI「脱獄」、規制に盲点 (日経新聞, 2023/07/14 02:00)
有害情報答えさせる手法、アマゾンで売買 法的な対応追いつかず
https://www.nikkei.com/article/DGKKZO72750940T10C23A7EA1000/
⇒ https://tt-ai.hatenablog.com/entry/2023/07/14/000000_4
◆サイバー犯罪者向けの生成型AIツール「WormGPT」とは？ (ZDNet, 2023/07/20 12:47)
https://www.security-next.com/133265
⇒ https://tt-ai.hatenablog.com/entry/2023/07/20/000000
◆サイバー犯罪者向け邪悪な生成AI「FraudGPT」登場 (マイナビニュース, 2023/07/27 10:33)
https://news.mynavi.jp/techplus/article/20230727-2735373/
⇒ https://tt-ai.hatenablog.com/entry/2023/07/27/000000
◇2023年12月
◆“制限なしChatGPT"を開発する犯罪者、生成AIを悪用するサイバー攻撃が流行 (マイナビニュース, 2023/12/25 09:00)
https://news.mynavi.jp/techplus/article/20231225-2847225/
⇒ https://tt-ai.hatenablog.com/entry/2023/12/25/000000_3
◆「見ず知らずの他人がChatGPTに搭載されている大規模言語モデルから自分のメールアドレスを入手していた」という報告 (Gigazine, 2023/12/25 23:00)
https://gigazine.net/news/20231225-chatgpt-model-delivered-email-personal-information/
⇒ https://tt-ai.hatenablog.com/entry/2023/12/25/000000
■2024年
◇2024年1月
◆AIが作成した偽セレブの詐欺的広告動画がYouTubeで1億9500万回以上再生されている (Gigazine, 2024/01/11 12:25)
https://gigazine.net/news/20240111-deepfaked-promoting-scams-youtube/
⇒ https://tt-ai.hatenablog.com/entry/2024/01/11/000000
◆犯罪に利用できる生成ＡＩ、ネットに複数公開…ランサムウェア・爆発物の作り方など回答 (読売新聞, 2024/01/30 05:00)
https://www.yomiuri.co.jp/national/20240129-OYT1T50245/
⇒ https://tt-ai.hatenablog.com/entry/2024/01/30/000000_4
◆米、クラウド大手に外国顧客の報告義務 中国AI悪用阻止 (日経新聞, 2024/01/30 05:44)
https://www.nikkei.com/article/DGXZQOGN3001N0Q4A130C2000000/
⇒ https://tt-ai.hatenablog.com/entry/2024/01/30/000000_5
◇2024年2月
◆マイクロソフトなどＩＴ大手２０社、選挙への生成ＡＩの悪用防止で合意…偽動画など拡散防止で協力 (読売新聞, 2024/02/17 02:31)
https://www.yomiuri.co.jp/economy/20240217-OYT1T50012/
⇒ https://tt-ai.hatenablog.com/entry/2024/02/17/000000
◆LLMがWebサイトを自動ハッキング 研究者らが各LLMの性能を比較 (ITmedia, 2024/02/21 11:30)
最新の研究でLLMがWebサイトを自動的にハッキングできることが明らかになった。自律的なWebサイトハッキングの可能性が実証され、防御と攻撃のバランスに影響を与える可能性がある
https://www.itmedia.co.jp/enterprise/articles/2402/21/news072.html
⇒ https://tt-ai.hatenablog.com/entry/2024/02/21/000000_1
◆もはやAIの使用は「当たり前」 最先端技術で巧妙化する詐欺の手口とは (ITmedia, 2024/02/21 07:00)
生成AIツールの普及に伴い、偽のテキストや電子メール、ディープフェイクボイスの大規模な生成が可能になった今、最先端技術を使用したサイバー犯罪が横行している
https://www.itmedia.co.jp/enterprise/articles/2402/21/news040.html
⇒ https://tt-ai.hatenablog.com/entry/2024/02/21/000000
◇2024年4月
◆生成AIは選挙に悪影響を及ぼすのか、近年は悪用が当たり前に (マイナビニュース, 2024/04/15 11:51)
https://news.mynavi.jp/techplus/article/20240415-2920434/
⇒ https://tt-ai.hatenablog.com/entry/2024/04/15/000000
◆OpenAIのGPT-4はCVEのセキュリティ勧告を読むことで実際の脆弱性を悪用できることが明らかに (Gigazine, 2024/04/22 14:08)
https://gigazine.net/news/20240422-gpt-4-craft-attacks-based-chip-vulnerabilities/
⇒ https://tt-ai.hatenablog.com/entry/2024/04/22/000000
◇2024年5月
◆OpenAIがロシア・中国・イラン・イスラエルによるAIの悪用を未然に防いだと明かす (Gigazine, 2024/05/31 11:11)
https://gigazine.net/news/20240531-openai-ai-abuse-disrupting/
⇒ https://tt-ai.hatenablog.com/entry/2024/05/31/000000
◇2024年7月
◆グーグル・クラウドの専門家に聞く、AIとセキュリティ攻防の現状 (ZDNet, 2024/07/30 06:00)
https://japan.zdnet.com/article/35221975/
⇒ https://tt-ai.hatenablog.com/entry/2024/07/30/000000
◇2024年8月
◆Cybercriminals train AI chatbots for phishing, malware attacks (BleepingComputer, 2023/08/01 10:08)
[サイバー犯罪者はフィッシングやマルウェア攻撃のためにAIチャットボットを訓練する]
https://www.bleepingcomputer.com/news/security/cybercriminals-train-ai-chatbots-for-phishing-malware-attacks/
⇒ https://tt-ai.hatenablog.com/entry/2023/08/01/000000
◆生成AIが加速させる？「普通の人」でも容易にハイレベルな攻撃が可能に (マイナビニュース, 2024/08/16 10:10)
https://news.mynavi.jp/techplus/article/20240816-3004215/
⇒ https://tt-ai.hatenablog.com/entry/2024/08/16/000000
◇2024年9月
◆AIが書いたマルウェアが標的型攻撃に使用された可能性があることが判明 (Gigazine, 2024/09/25 17:00)
https://gigazine.net/news/20240925-generative-ai-written-malware/
⇒ https://tt-ai.hatenablog.com/entry/2024/09/25/000000
◇2024年10月
◆AIチャットボットに会話から個人情報を盗ませるプロンプトが見つかる：研究結果 (Wired, 2024/10/23)
https://wired.jp/article/ai-imprompter-malware-llm/
⇒ https://tt-ai.hatenablog.com/entry/2024/10/23/000000
■2025年
◇2025年1月
◆Threat actors using Google Gemini to amplify attacks: Report (CSO, 2025/01/29)
[Google Geminiを使用して攻撃を拡大する脅威アクター：レポート]
https://www.csoonline.com/article/3812699/threat-actors-using-google-gemini-to-amplify-attacks-report.html
⇒ https://tt-ai.hatenablog.com/entry/2025/01/29/000000_2
◇2025年4月
◆Lovable AI Found Most Vulnerable to VibeScamming — Enabling Anyone to Build Live Scam Pages (The Hacker News, 2025/04/09)
[Lovable AI が最もVibeScammingに脆弱であることが判明 — 誰でもライブ詐欺ページを作成可能に]
https://thehackernews.com/2025/04/lovable-ai-found-most-vulnerable-to.html
⇒ https://tt-ai.hatenablog.com/entry/2025/04/09/000000
◇2025年6月
◆AIを悪用する世界の脅威アクターの実態--OpenAIが警告 (ZDNet, 2025/06/09 07:59)
https://japan.zdnet.com/article/35233996/
⇒ https://tt-ai.hatenablog.com/entry/2025/06/09/000000_1
◆プロパガンダに悪用されるChatGPT、OpenAIが対象アカウント停止 (マイナビニュース, 2025/06/11 08:36)
https://news.mynavi.jp/techplus/article/20250611-3350246/
⇒ https://tt-ai.hatenablog.com/entry/2025/06/11/000000_1
◆警戒心を逆手に取った文面、生成AIの悪用……フィッシング詐欺はいろんな手段であなたを狙う (Ascii.jp, 2025/06/20 09:00)
https://ascii.jp/elem/000/004/293/4293097/
⇒ https://tt-ai.hatenablog.com/entry/2025/06/20/000000
◇2025年7月
◆AIをだますAI、｢悪意のプロンプト｣で機密情報の漏洩も (日経新聞, 2025/07/08 05:00)
https://www.nikkei.com/prime/digital-governance/article/DGXZQOUC20CU20Q5A620C2000000
⇒ https://tt-ai.hatenablog.com/entry/2025/07/08/000000_1
◆Google Gemini flaw hijacks email summaries for phishing (BleepingComputer, 2025/07/13 10:38)
[Google Geminiの脆弱性が悪用され、メールの要約がフィッシング攻撃に利用されています]
https://www.bleepingcomputer.com/news/security/google-gemini-flaw-hijacks-email-summaries-for-phishing/
⇒ https://tt-ai.hatenablog.com/entry/2025/07/13/000000_1
◆LameHug malware uses AI LLM to craft Windows data-theft commands in real-time (BleepingComputer, 2025/07/17 14:57)
[LameHugマルウェアは、AI LLM（大規模言語モデル）を利用して、リアルタイムでWindowsのデータ窃取コマンドを生成します]
https://www.bleepingcomputer.com/news/security/lamehug-malware-uses-ai-llm-to-craft-windows-data-theft-commands-in-real-time/
⇒ https://tt-ai.hatenablog.com/entry/2025/07/17/000000
◇2025年8月
◆生成AI悪用新ウイルス確認 日本へのサイバー攻撃注意呼びかけ (NHK, 2025/08/13 14:23)
https://www3.nhk.or.jp/news/html/20250813/k10014893211000.html
⇒ https://tt-ai.hatenablog.com/entry/2025/08/13/000000
◆“AI発達で他国による選挙干渉リスク高まる” 政府 対策強化へ (NHK, 2025/08/14 10:57)
https://www3.nhk.or.jp/news/html/20250814/k10014893961000.html
⇒ https://tt-ai.hatenablog.com/entry/2025/08/14/000000
◆「AIで社員の声まね→認証突破」「機密情報をAIに入力」――生成AI時代のリスク、対抗方法は (ITmedia, 2025/08/18 10:00)
https://www.itmedia.co.jp/news/articles/2508/15/news004.html
⇒ https://tt-ai.hatenablog.com/entry/2025/08/18/000000
◆史上初のAI搭載型ランサムウェア登場、OpenAIの無償モデル悪用 (Security NEXT, 2025/08/29 08:41)
https://news.mynavi.jp/techplus/article/20250829-3421391/
⇒ https://tt-ai.hatenablog.com/entry/2025/08/29/000000
◇2025年9月
◆AIの悪用がもたらすサイバー攻撃の変化が鮮明に--アクロニス報告書 (ZDNet, 2025/09/12)
https://japan.zdnet.com/article/35237943/
⇒ https://tt-ai.hatenablog.com/entry/2025/09/12/000000
◆LLMを利用した新たなマルウェア攻撃・LAMEHUGとは (マイナビニュース, 2025/09/17 09:00)
https://news.mynavi.jp/techplus/article/security_lamehug-cNjmpM8L/
⇒ https://tt-ai.hatenablog.com/entry/2025/09/17/000000_1
◇2025年11月
◆Anthropic、「Claude」が中国政府系攻撃者に悪用されたと報告 (ITmedia, 2025/11/14 07:48)
https://www.itmedia.co.jp/news/articles/2511/14/news061.html
⇒ https://tt-ai.hatenablog.com/entry/2025/11/14/000000
◆中国系ハッカー組織、ＡＩでサイバー攻撃を自動化…技術悪用された米企業「人間がほぼ関与しない初の大規模攻撃」 (読売新聞, 2025/11/14 20:41)
https://www.yomiuri.co.jp/world/20251114-OYT1T50169/
⇒ https://tt-ai.hatenablog.com/entry/2025/11/14/000000_1
◆Anthropic claims of Claude AI-automated cyberattacks met with doubt (BleepingComputer, 2025/11/14 13:31)
[Claude AIによる自動化されたサイバー攻撃の人為的関与に関する主張に疑問の声]
https://www.bleepingcomputer.com/news/security/anthropic-claims-of-claude-ai-automated-cyberattacks-met-with-doubt/
⇒ https://tt-ai.hatenablog.com/entry/2025/11/14/000000_2
◆GoogleのAIコーディングツール「Google Antigravity」を悪用してデータを盗み出す攻撃手法が見つかる (Gigazine, 2025/11/26 13:00)
https://gigazine.net/news/20251126-google-antigravity-exfiltrates-data/
⇒ https://tt-ai.hatenablog.com/entry/2025/11/26/000000_1
◆Malicious LLMs empower inexperienced hackers with advanced tools (BleepingComputer, 2025/11/27 12:15)
[悪意のある大規模言語モデルは、経験の浅いハッカーに高度なツールを提供する]
https://www.bleepingcomputer.com/news/security/malicious-llms-empower-inexperienced-hackers-with-advanced-tools/
⇒ https://tt-ai.hatenablog.com/entry/2025/11/27/000000
◆House panels seek testimony from Anthropic, Google, Quantum Xchange after report on PRC-linked AI attack (Industrial Cyber, 2025/11/27)
[米下院委員会、中国関連AI攻撃の報告書受けアンソロピック、グーグル、クオンタム・エクスチェンジに証言を求める]
https://industrialcyber.co/ai/house-panels-seek-testimony-from-anthropic-google-quantum-xchange-after-report-on-prc-linked-ai-attack/
⇒ https://tt-ai.hatenablog.com/entry/2025/11/27/000000_1
◆ガードレール“フル無視” 攻撃用途に特化したAIモデルの最新動向 (ITmedia, 2025/11/28 07:00)
https://www.itmedia.co.jp/enterprise/articles/2511/28/news038.html
⇒ https://tt-ai.hatenablog.com/entry/2025/11/28/000000
■2026年
◇2026年1月
◆AIの進化でリスク高まるWebサイトが安全性を確認する方法、エージェントにも注意 (マイナビニュース, 2026/01/25 11:38)
https://news.mynavi.jp/techplus/article/20260125-4018464/
⇒ https://tt-ai.hatenablog.com/entry/2026/01/25/000000
◇2026年2月
◆生成AIを悪用するロシア語圏のハッカーが55カ国で600台以上のFortiGateデバイスを侵害 (Gigazine, 2026/02/24 15:00)
https://gigazine.net/news/20260224-ai-augmented-threat-actor-fortigate/
⇒ https://tt-ai.hatenablog.com/entry/2026/02/24/000000_10
◆AIが悪用され始めたランサムウェアの攻撃の脅威とは (マイナビニュース, 2026/02/26 08:41)
https://news.mynavi.jp/techplus/article/ransomware2025-2/
⇒ https://tt-ai.hatenablog.com/entry/2026/02/26/000000_2
◆AIを使ったディープフェイク詐欺が急増し企業の金融被害が拡大 (Gigazine, 2026/02/26)
https://gigazine.net/news/20260226-deepfake-scam-ai/
⇒ https://tt-ai.hatenablog.com/entry/2026/02/26/000000_1
◇2026年5月
◆2026: The Year of AI-Assisted Attacks (The Hacker News, 2026/05/04)
[2026年：AIを活用した攻撃が横行する年]
https://thehackernews.com/2026/05/2026-year-of-ai-assisted-attacks.html
⇒ https://tt-ai.hatenablog.com/entry/2026/05/04/000000_1
⇒ https://malware-log.hatenablog.com/entry/2026/05/04/000000_2 (TT Malware Log)
【ブログ】
■2025年
◇2025年7月
◆ディープフェイクを悪用したサイバー攻撃：新たなAI犯罪ツールセットの分析 (Trendmicro, 2025/07/17)
https://www.trendmicro.com/ja_jp/research/25/g/deepfake-it-til-you-make-it-a-comprehensive-view-of-the-new-ai-criminal-toolset.html
⇒ https://tt-ai.hatenablog.com/entry/2025/07/17/000000_2
【関連まとめ記事】
