AI技術の悪用
【ニュース】 ◆OpenAIのGPT-4はCVEのセキュリティ勧告を読むことで実際の脆弱性を悪用できることが明らかに (Gigazine, 2024/04/22 14:08) https://gigazine.net/news/20240422-gpt-4-craft-attacks-based-chip-vulnerabilities/ 【関連情報】 ◆OpenAIのGPT-…
【辞書】 ◆幻覚 (人工知能) (Wikipedia) https://ja.wikipedia.org/wiki/%E5%B9%BB%E8%A6%9A_(%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD) ◆ハルシネーション（Hallucination）とは？ (ITmedia) https://atmarkit.itmedia.co.jp/ait/articles/2303/30/news027.ht…
【ニュース】 ◆もはやAIの使用は「当たり前」 最先端技術で巧妙化する詐欺の手口とは (ITmedia, 2024/02/21 07:00) 生成AIツールの普及に伴い、偽のテキストや電子メール、ディープフェイクボイスの大規模な生成が可能になった今、最先端技術を使用したサイ…
【ニュース】 ◆LLMがWebサイトを自動ハッキング 研究者らが各LLMの性能を比較 (ITmedia, 2024/02/21 11:30) 最新の研究でLLMがWebサイトを自動的にハッキングできることが明らかになった。自律的なWebサイトハッキングの可能性が実証され、防御と攻撃のバラ…
【ニュース】 ◆マイクロソフトなどＩＴ大手２０社、選挙への生成ＡＩの悪用防止で合意…偽動画など拡散防止で協力 (読売新聞, 2024/02/17 02:31) https://www.yomiuri.co.jp/economy/20240217-OYT1T50012/ 【関連まとめ記事】◆全体まとめ ◆AIの問題点 (まとめ…
malware-log.hatenablog.com 【AI技術の悪用】 ◆マルウェア生成 (まとめ) https://tt-ai.hatenablog.com/entry/Malware_Generation ◆WormGPT (まとめ) https://tt-ai.hatenablog.com/entry/WormGPT ◆FraudGPT (まとめ) https://tt-ai.hatenablog.com/entry/F…
【ニュース】 ◆AI技術を悪用したSNS上の偽情報。判別不能になる日も近い？ (Ascii.jp, 2024/01/30 18:00) https://ascii.jp/elem/000/004/181/4181786/ 【関連まとめ記事】◆全体まとめ ◆AIの問題点 (まとめ) ◆フェイクニュース / 偽情報 (まとめ) https://tt…
【図表】 出典: https://www.yomiuri.co.jp/national/20240129-OYT1T50245/ 【ニュース】 ◆犯罪に利用できる生成ＡＩ、ネットに複数公開…ランサムウェア・爆発物の作り方など回答 (読売新聞, 2024/01/30 05:00) https://www.yomiuri.co.jp/national/20240129…
【ニュース】 ◆米、クラウド大手に外国顧客の報告義務 中国AI悪用阻止 (日経新聞, 2024/01/30 05:44) https://www.nikkei.com/article/DGXZQOGN3001N0Q4A130C2000000/ 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ) https://tt-ai.hatenablog.com/e…
【ニュース】 ◆AIが作成した偽セレブの詐欺的広告動画がYouTubeで1億9500万回以上再生されている (Gigazine, 2024/01/11 12:25) https://gigazine.net/news/20240111-deepfaked-promoting-scams-youtube/ 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まと…
【ニュース】 ◆「見ず知らずの他人がChatGPTに搭載されている大規模言語モデルから自分のメールアドレスを入手していた」という報告 (Gigazine, 2023/12/25 23:00) https://gigazine.net/news/20231225-chatgpt-model-delivered-email-personal-information/
【ニュース】 ◆“制限なしChatGPT"を開発する犯罪者、生成AIを悪用するサイバー攻撃が流行 (マイナビニュース, 2023/12/25 09:00) https://news.mynavi.jp/techplus/article/20231225-2847225/ 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ) https:/…
【辞書】 ◆FraudGPTとは【用語集詳細】 (SOMPO CYBER SECURITY) https://www.sompocybersecurity.com/column/glossary/fraudgpt 【概要】 項目 内容 リリース日 2023/07/22 利用料 200ドル / 月 ■機能 機能 悪意のあるコードを書く 検出不可能なマルウェアの…
【ニュース】 ◆サイバー犯罪者向け邪悪な生成AI「FraudGPT」登場 (マイナビニュース, 2023/07/27 10:33) https://news.mynavi.jp/techplus/article/20230727-2735373/ 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ) ◆FraudGPT (まとめ) https://tt-…
【ニュース】 ◆'FraudGPT' Malicious Chatbot Now for Sale on Dark Web (DarkReading, 2023/07/26) https://www.darkreading.com/threat-intelligence/fraudgpt-malicious-chatbot-for-sale-dark-web 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ)…
【辞書】 ◆WormGPTとは【用語集詳細】 (SOMPO CYBER SECURITY) https://www.sompocybersecurity.com/column/glossary/wormgpt 【サイト】 ◆WormGPT (FlowGPT) https://flowgpt.com/chat 【ニュース】 ◆サイバー犯罪に特化したセーフティ機能がない生成AI「Wo…
【ニュース】 ◆サイバー犯罪者向けの生成型AIツール「WormGPT」とは？ (ZDNet, 2023/07/20 12:47) https://www.security-next.com/133265 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ) ◆WormGPT (まとめ) https://tt-ai.hatenablog.com/entry/Worm…
【ニュース】 ◆サイバー犯罪に特化した悪意ある生成AIが登場、セキュリティベンダーが注意を呼び掛け (Internet Watch, 2023/07/18 13:48) https://internet.watch.impress.co.jp/docs/yajiuma/1517000.html 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (…
【ニュース】 ◆サイバー犯罪に特化したセーフティ機能がない生成AI「WormGPT」登場、注意を (マイナビニュース, 2023/07/17 12:52) https://news.mynavi.jp/techplus/article/20230717-2728686/ 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ) ◆Worm…
【ニュース】 ◆生成AI「脱獄」、規制に盲点 (日経新聞, 2023/07/14 02:00) 有害情報答えさせる手法、アマゾンで売買 法的な対応追いつかず https://www.nikkei.com/article/DGKKZO72750940T10C23A7EA1000/ 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (ま…
【ニュース】 ◆GPT-4の内部的な動機付けを自己と衝突させることで、違法情報を入手可能 (マイナビニュース, 2023/06/29 13:06) https://news.mynavi.jp/techplus/article/20230629-2714945/ 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ) https://t…
【ニュース】 ◆ChatGPTの「幻覚」を悪用してマルウエア配布、研究者が実演してみせた驚きの手口 (日経XTECH, 2023/06/28) https://xtech.nikkei.com/atcl/nxt/column/18/00676/062300137/ 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ) https://tt-…
【ニュース】 ◆「電話の相手、本当に本人？」“AI音声詐欺”増加の恐れ、元公安捜査官が解説 (Diamond Online, 2023/06/13 03:55) https://diamond.jp/articles/-/324341 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ) https://tt-ai.hatenablog.com/…
malware-log.hatenablog.com 【ニュース】■2017年 ◆15時間で16％がすり抜けに成功も マルウェアを進化させるAI (WirelessWire News, 2017/08/04) https://wirelesswire.jp/2017/08/60806/ ⇒ https://tt-ai.hatenablog.com/entry/2017/08/04/000000 ■2023年 ◆…
【ニュース】 ◆「AIに毒を盛る」──学習用データを改ざんし、AIモデルをサイバー攻撃 Googleなどが脆弱性を発表 (ITmedia, 2023/04/05 08:00) https://www.itmedia.co.jp/news/articles/2304/05/news050.html 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (…
【ニュース】 ◆アングラ犯罪者らが、ChatGPTの悪用防止機能を回避してフィッシングメールを作成 (ITmedia, 2023/02/17 09:00) チェック・ポイント・ソフトウェア・テクノロジーズはサイバー犯罪者がChatGPTの規制を回避してフィッシングなどに悪用しているこ…
【ニュース】 ◆「AI使う攻撃者はいない」-エフセキュアのミッコ・ヒッポネン氏 (マイナビニュース, 2019/10/29 16:03) https://news.mynavi.jp/article/20191029-916212/ 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ) https://tt-ai.hatenablog.co…
【ニュース】 ◆手術の邪魔をして失敗に追い込む、「悪魔的」AIウイルスの所業 (日経XTECH, 2019/10/16 05:00) https://tech.nikkeibp.co.jp/atcl/nxt/column/18/00676/100800028/ 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ) https://tt-ai.haten…
【ニュース】 ◆「ＡＩハッカー」の脅威、中国すでに実用化か (産経新聞, 2019/01/17) https://special.sankei.com/a/international/article/20190117/0001.html 【関連まとめ記事】◆全体まとめ ◆AI技術の悪用 (まとめ) https://tt-ai.hatenablog.com/entry/M…
【ニュース】 ◆「AIサイバー攻撃」とは何か？ Twitterの悪用を例に解説 (TechTarget, 2018/07/04 05:00) https://techtarget.itmedia.co.jp/tt/news/1807/04/news04.html 【関連情報】 ◆「AIサイバー攻撃」とは何か？ Twitterの悪用を例に解説 (TechTarget, …
