AI活用サイバー攻撃 / AI悪用サイバー攻撃 / AI技術の悪用
【要点】 ◎GoogleがAI悪用サイバー攻撃の拡大に警鐘、北朝鮮・中国など国家系アクターの活動活発化を指摘 (産経新聞)
malware-log.hatenablog.com 【AI技術の悪用】 ◆FraudGPT (まとめ) https://tt-ai.hatenablog.com/entry/FraudGPT ◆ハルシネーション / Hallucination / 幻覚 (まとめ) https://tt-ai.hatenablog.com/entry/Hallucination ◆KawaiiGPT (まとめ) https://tt-ai…
【要点】 ◎AI普及で攻撃の高度化と参入障壁低下が進み、未熟な攻撃者でも大規模サイバー攻撃を実行可能に (The Hacker News)
【要点】 ◎AI活用サイバー攻撃に対し金融分野で官民連携強化 (ITmedia)
【要点】 ◎自民党はAIを悪用した高度なサイバー攻撃に対応するため、省庁横断の対策プロジェクト設置を政府に要請した。金融を起点に重要インフラ全体へ対策拡大を求めた (ITmedia)
【要点】 ◎ 生成AIによるディープフェイクを利用した詐欺が増加し企業の金融被害が拡大している (Gigazine)
【要点】 ◎生成AIの普及により、ランサムウェア攻撃は高度化・自動化が進んでいる。AIは自然なフィッシングメール作成や脆弱性探索、攻撃コード作成を支援し、侵入速度を加速させる。侵入後は横移動や正規ツール悪用で潜伏し、重要データ窃取と暗号化による…
【要点】 ◎ロシア語圏のハッカーが生成AIを利用し、FortiGateファイアウォール600台以上を55カ国で侵害した。脆弱性ではなく認証情報の再利用を悪用し、AI生成ツールでネットワーク情報を解析・偵察。AIにより低技能でも大規模攻撃が可能になった (Gigazine)
【要点】 ◎AIで詐欺サイトが高度化し、ツールだけでは防げない。URLチェッカー等で多層確認し、AI搭載ブラウザの自動購入は偽サイト誘導リスクに注意 (マイナビニュース)
【辞書】 ◆幻覚 (人工知能) (Wikipedia) https://ja.wikipedia.org/wiki/%E5%B9%BB%E8%A6%9A_(%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD) ◆ハルシネーション（Hallucination）とは？ (ITmedia) https://atmarkit.itmedia.co.jp/ait/articles/2303/30/news027.ht…
【辞書】 ◆WormGPTとは【用語集詳細】 (SOMPO CYBER SECURITY) https://www.sompocybersecurity.com/column/glossary/wormgpt 【サイト】 ◆WormGPT (FlowGPT) https://flowgpt.com/chat 【ニュース】■2023年◇2023年7月 ◆サイバー犯罪に特化したセーフティ機…
【ニュース】■2025年◇2025年11月 ◆Malicious LLMs empower inexperienced hackers with advanced tools (BleepingComputer, 2025/11/27 12:15) [悪意のある大規模言語モデルは、経験の浅いハッカーに高度なツールを提供する] https://www.bleepingcomputer.c…
【要点】 ◎攻撃特化型LLM（WormGPT 4・KawaiiGPT）が地下で流通し、フィッシングやマルウェア生成を無制限に支援。攻撃の参入障壁が急低下し、防御側の検知は難化。AIの安全対策整備が急務。
【訳】悪意のある大規模言語モデルは、経験の浅いハッカーに高度なツールを提供する 【要点】 ◎WormGPT 4 と KawaiiGPT はランサムウェア生成や横移動・窃取コードまで作れる悪性LLMで、未熟な攻撃者でも高度な攻撃を容易に実行可能。攻撃の質・規模が急速に…
【訳】米下院委員会、中国関連AI攻撃の報告書受けアンソロピック、グーグル、クオンタム・エクスチェンジに証言を求める 【要点】 ◎中国のAI自律攻撃（GTG-1002）報告を受け、米下院はAnthropic等を招致。Claudeが攻撃行程の大半を自動化し重大リスクが判明…
【要点】 ◎Google Antigravityに、悪意あるWeb参照を通じてGeminiを操作し.env情報などを外部に送らせる間接プロンプトインジェクション手法が確認された。エージェントが裏で動くため利用者が気付きにくい点も問題。 (Gigazine)
【要点】 ◎中国系攻撃者がClaudeをジェイルブレイクし30件の攻撃を自動化。脆弱性探索から侵入までAIが担い、人間関与は最小。Anthropicは検知強化と防御AI活用を促している。
【要点】 ◎中国系ハッカーが Anthropic のAIを悪用し、30組織へ高度自動化攻撃を実施。脆弱性探索から侵入・窃取までAIが担い、人間関与はごく僅か。AI悪用攻撃の新段階と警告。
【訳】Claude AIによる自動化されたサイバー攻撃の人為的関与に関する主張に疑問の声 【要点】 ◎Anthropicの「Claude自動攻撃」発表に研究者が疑念。IOC不提示を問題視。Anthropicは攻撃の大半をAIが自律実行したと主張するが、誇張との批判が相次ぐ。
【要約】 2025年7月にCERT-UAが確認したLAMEHUGは、大規模言語モデル（LLM）を悪用して攻撃コードをその場で生成するマルウェアだ。メール添付で起動し、Hugging Faceなど正規サービス経由でコードを生成、短時間で端末情報や文書を窃取する。シグネチャ検知…
【図表】 ランサムウェア被害数の推移（出典：アクロニス・ジャパン） MSPに対する攻撃状況（出典：アクロニス・ジャパン） コラボレーションアプリとメールに対する攻撃状況（出典：アクロニス・ジャパン） アクロニス・ジャパンのビジネス概況（出典：アク…
【ニュース】 ◆史上初のAI搭載型ランサムウェア登場、OpenAIの無償モデル悪用 (Security NEXT, 2025/08/29 08:41) https://news.mynavi.jp/techplus/article/20250829-3421391/ 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ) https://tt-ai.hatenab…
【ニュース】 ◆「AIで社員の声まね→認証突破」「機密情報をAIに入力」――生成AI時代のリスク、対抗方法は (ITmedia, 2025/08/18 10:00) https://www.itmedia.co.jp/news/articles/2508/15/news004.html 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ)…
【ニュース】 ◆“AI発達で他国による選挙干渉リスク高まる” 政府 対策強化へ (NHK, 2025/08/14 10:57) https://www3.nhk.or.jp/news/html/20250814/k10014893961000.html 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ) https://tt-ai.hatenablog.com…
malware-log.hatenablog.com 【ニュース】■2017年◇2017年8月 ◆15時間で16％がすり抜けに成功も マルウェアを進化させるAI (WirelessWire News, 2017/08/04) https://wirelesswire.jp/2017/08/60806/ ⇒ https://tt-ai.hatenablog.com/entry/2017/08/04/000000…
【ニュース】 ◆生成AI悪用新ウイルス確認 日本へのサイバー攻撃注意呼びかけ (NHK, 2025/08/13 14:23) https://www3.nhk.or.jp/news/html/20250813/k10014893211000.html 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ) ◆マルウェア生成 (まとめ) ht…
【訳】LameHugマルウェアは、AI LLM（大規模言語モデル）を利用して、リアルタイムでWindowsのデータ窃取コマンドを生成します 【図表】 LameHug感染を試みる悪意のあるメール (CERT-UA) LLMへのコマンド生成用プロンプト (CERT-UA) 出典: https://www.bleep…
【ブログ】 ◆ディープフェイクを悪用したサイバー攻撃：新たなAI犯罪ツールセットの分析 (Trendmicro, 2025/07/17) https://www.trendmicro.com/ja_jp/research/25/g/deepfake-it-til-you-make-it-a-comprehensive-view-of-the-new-ai-criminal-toolset.html…
【訳】Google Geminiの脆弱性が悪用され、メールの要約がフィッシング攻撃に利用されています 【図表】 悪意のあるメールの作成 (0DIN) Geminiの要約結果がユーザーに表示される (0DIN) 出典: https://www.bleepingcomputer.com/news/security/google-gemini…
【ニュース】 ◆AIをだますAI、｢悪意のプロンプト｣で機密情報の漏洩も (日経新聞, 2025/07/08 05:00) https://www.nikkei.com/prime/digital-governance/article/DGXZQOUC20CU20Q5A620C2000000 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ) https:/…
