Hatena Blog Tags
はてなブログ トップ
AIセキュリティ
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

AIセキュリティ

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
生成AI超入門 わかる！わかる！•19日前

🔐AI使用時のセキュリティ〜個人情報を守るための基本ルール〜

こんにちは！こんばんは！🌸 AIって便利だけど、「個人情報を入力して大丈夫？」「会社の機密情報は？」って不安になりますよね😰 実は、AIを使う時に知っておくべきセキュリティの基本があるんです🔒 ちょっとした注意で安全に使えます✨ 今日は、AIを安心して活用するためのセキュリティルールをお伝えします！ 🌈 AIに何を入力していいの？ダメなの？ 一番大切なのは「AIに何を見せるか」です。基本ルールを押さえましょう💡 ❌ 絶対に入力してはいけない情報 個人情報（氏名、住所、電話番号）📧 金融情報（カード番号、口座番号）💳 パスワード・ログイン情報 🔑 他人のデータ（顧客情報、社員名簿）📋 機密文書（…

#AIセキュリティ#個人情報保護#安全対策#ChatGPT#プライバシー

ネットで話題

もっと見る
53ブックマークミクシィ、新卒エンジニア向け研修資料を公開　Unityでのゲーム開発やAI、セキュリティ研修など全12種類www.itmedia.co.jp
41ブックマーク【主催イベント】生成AIセキュリティ対策事例共有会 ／Azure OpenAI 最新情報セミナー特別同時開催！ - TECH Street (テックストリート)www.tech-street.jp
18ブックマーク「Microsoft Security Copilot」によるAIセキュリティ対策　“人力”任せからの脱却につながるかwww.itmedia.co.jp
17ブックマークGoogleやMicrosoftなど14社、AIセキュリティ推進の「CoSAI」創設www.itmedia.co.jp
14ブックマーク最近話題の"Diffusion Model（拡散モデル）"について、簡潔にまとめてみた - AI・セキュリティのまとめのまとめnakajimeee.hatenablog.com
13ブックマークMicrosoft、GPT-4活用のAIセキュリティツール「Security Copilot」pc.watch.impress.co.jp
9ブックマークなぜBlackBerryは“AIセキュリティ”のCylanceを買収したかascii.jp
8ブックマークAIセキュリティ 情報発信ポータル本ポータルはAIの開発者や利用者の皆様に対し、AIに対する攻撃手法と防御手法を発信することを目的としており、AIの開発時・利用時に認識しておくべきセキュリティのポイントを体系的に纏めていきます。なお、本ポータルは、総務省様の「５Ｇ端末等におけるセキュリティ確保のための技術課題の整理と情報発信」の一環と...www.mbsd.jp
8ブックマークインテルCPUのAIセキュリティ機能を統合してランサムウェア対策を強化した「ESET」V16／「Intel vPro」搭載PCで利用可能forest.watch.impress.co.jp

関連ブログ

ゲーミングデバイス速報！！•1ヶ月前

【新発売】エレコムからWi-Fi 7対応ルーター2モデル登場！10G＆2.5G対応ポート×AIセキュリティ“SENSE”搭載で次世代ホームネットワークを実現

エレコム株式会社（本社：大阪市中央区、取締役社長執行役員：石見浩一）は、最新規格Wi-Fi 7（IEEE 802.11be）に対応した新型ルーター2モデルを2025年11月上旬より順次発売します。INTERNETポートに10Gbps対応モデル「WRC-BE72XSD-B」と、2.5Gbps対応モデル「WRC-BE65QSD-B」をラインアップ。AI技術を活用したセキュリティ機能“F-Secure SENSE”を搭載し、家庭内ネットワークをより高速・安全・快適にアップデートします。 次世代Wi-Fi 7でさらに高速＆低遅延通信を実現 10Gbpsと2.5Gbps、2タイプの選べるモデル ● WR…

#エレコムルーター#高速インターネット#ホームネットワーク#AIセキュリティ
城咲子｜情報システム部セキュリティ担当のつぶやき（ぼやき）•2ヶ月前

AIセキュリティガイドライン・ガバナンス解説｜国内外の動向と企業が取るべき対応を専門家が解説

はじめに：AI活用を成功させる「守りのルール」、それがAIガバナンス 1. なぜ今「AIガバナンス」が必要なのか？ 2. 国内外の主要なAIガイドライン・法規制の動向 2.1. 【国内】経済産業省・総務省「AI事業者ガイドライン（第1.0版）」(45) 2.2. 【国内】NISC「セキュアなAIシステム開発のためのガイドライン」(49) 2.3. 【海外】EU AI Act（AI規則） 2.4. 【海外】NIST AI Risk Management Framework (AI RMF) 3. AIガバナンスの核心：セキュリティと倫理 4. 【実践】企業がAIガバナンス体制を構築するためのステ…

#AIセキュリティ#AIガバナンス#AI倫理#ガイドライン#法規制#リスク管理#生成AI
城咲子｜情報システム部セキュリティ担当のつぶやき（ぼやき）•2ヶ月前

生成AIのセキュリティリスクと対策｜情報漏洩・プロンプトインジェクションを防ぐ方法を専門家が解説

はじめに：ChatGPT時代の必須知識！生成AIの光と影 1. なぜ生成AIセキュリティは「特別」なのか？ 2. 【最重要リスク】警戒すべき生成AIのセキュリティ脅威7選 2.1. プロンプトインジェクション (Prompt Injection) - OWASP LLM 1位 2.2. 機密情報の入力による情報漏洩 (Input Leakage) 2.3. 学習データの漏洩 (Training Data Leakage) 2.4. 不正確・有害なコンテンツ生成 2.5. 著作権・知的財産権の侵害 2.6. 過度の信頼によるリスク (Over-Reliance) 2.7. サービス妨害（Deni…

#AIセキュリティ#生成AI#ChatGPT#リスク#対策#プロンプトインジェクション#情報漏洩#AI倫理#ガイドライン
城咲子｜情報システム部セキュリティ担当のつぶやき（ぼやき）•2ヶ月前

AIセキュリティ対策の基本｜データ・モデル・システムを守る技術的・組織的アプローチを専門家が解説

はじめに：AIリスクを知ったら、次は「守り方」を知る 「AI特有のセキュリティリスクは分かったけど、具体的にどう対策すればいいの？」 「従来のセキュリティ対策だけじゃダメなら、何を追加すべき？」 こんにちは。セキュリティ専門家の城咲子 (CISSP保有) です。 前回の記事では、AIを狙う様々な脅威（データ汚染、敵対的攻撃など）を解説しました。 ▼ AIのリスクについて、まだ読んでいない方はこちらから AIセキュリティリスクとは？データ汚染・敵対的攻撃など主要な脅威と脆弱性を専門家が解説 リスクを理解した上で、次はその**具体的な「守り方」を知ることが重要です。 この記事では、AIシステムを安…

#AIセキュリティ#対策#技術#AIガバナンス#データセキュリティ#モデルセキュリティ#組織的対策
城咲子｜情報システム部セキュリティ担当のつぶやき（ぼやき）•2ヶ月前

AIセキュリティリスクとは？データ汚染・敵対的攻撃など主要な脅威と脆弱性を専門家が解説

はじめに：AI特有のリスクを知ることが防御の第一歩 1. なぜ「AI特有」のリスクなのか？従来の対策だけでは不十分な理由 2. 【データに関するリスク】AIの「教科書」を狙う攻撃 2.1. データ汚染（Data Poisoning / ポイズニング） 2.2. プライバシー侵害・機密情報漏洩 3. 【モデルに関するリスク】AIの「脳」を狙う攻撃 3.1. 敵対的攻撃（Adversarial Attacks） 3.2. モデル窃取（Model Stealing / Extraction） 4. 【システムに関するリスク】AIを支える基盤の脆弱性 5. 【特に注意】生成AI特有のリスク 6. まと…

#AIセキュリティ#リスク#脅威#脆弱性#敵対的攻撃#データ汚染#ポイズニング#プライバシー#生成AI
城咲子｜情報システム部セキュリティ担当のつぶやき（ぼやき）•2ヶ月前

【専門家が解説】AIセキュリティとは？リスク・対策・生成AI・ガイドラインの全貌（まとめ）

はじめに：AI時代の情シス必須知識「AIセキュリティ」の全体像を掴む 第1章：AIセキュリティの全体像：「AIを守る」「AIで守る」「AIの安全」 1.1. AIのためのセキュリティ (Security for AI) 1.2. セキュリティのためのAI (AI for Security) 1.3. AIセーフティ (AI Safety) 第2章：AIシステムを標的とする新たな脅威（リスク） 2.1. 敵対的攻撃 (Adversarial Attacks)：AIの"目"を欺く 2.2. データ汚染 (Data Poisoning)：学習データを"毒化"する 2.3. プロンプトインジェクション…

#AIセキュリティ#サイバーセキュリティ#AIガバナンス#プロンプトインジェクション#AI事業者ガイドライン#人工知能#リスク管理#ガイドライン
俺人〜OREGIN〜俺、バカだから人工知能に代わりに頑張ってもらうまでのお話•3ヶ月前

総務省「AIセキュリティ分科会（第1回）」を読み解く：AIの安全な活用に向けた技術的対策

今回は、9月18日に開催された総務省「AIセキュリティ分科会（第1回）」の公開資料から、AIのセキュリティ確保に向けた国の動向と技術的対策の方向性について得られた学びを整理しました。 AI技術が社会実装の段階に入る中で、その安全性をいかにして確保していくか、まさに現在進行形で議論が進められている重要なテーマだと感じました。 www.soumu.go.jp 「AIセキュリティ分科会」開催要綱 AIセキュリティ分科会について AIセキュリティに関する検討の進め方について AIシステムに対する脅威の事例 「サイバーセキュリティタスクフォース」開催要綱 AIシステムに対する既知の攻撃と影響 おわりに …

#サイバーセキュリティ#AIセキュリティ#技術レポート
城咲子｜情報システム部セキュリティ担当のつぶやき（ぼやき）•3ヶ月前

【専門家が解説】2025年 AIセキュリティの地政学：米・EU・中の覇権争いと日本の生きる道

はじめに：AIのルール作りが「国家の安全保障」になった時代 第1章：世界のAIルールは誰が決める？G7・OECD・国連の最前線 G7広島AIプロセス：安全なAI活用の「羅針盤」 OECD：ルールを「見える化」する仕組み 国連：安全保障と「取り残される国」への配慮 第2章：世界は三つに分断される？米・EU・中のAI戦略バトル アメリカ：「イノベーション最優先」の覇権戦略 EU：「人権とリスク管理」の鉄壁ルール 中国：「国家が全てを管理する」トップダウン戦略 第3章：じゃあ日本はどうするの？「AI推進法」の光と影 「AI推進法」と「AI事業者ガイドライン」 深刻な課題：「法的責任の空白」 第4章：…

#AIセキュリティ#サイバーセキュリティ#AIガバナンス#地政学#情報セキュリティ#日本の戦略
俺人〜OREGIN〜俺、バカだから人工知能に代わりに頑張ってもらうまでのお話•6ヶ月前

産総研「生成AI品質マネジメントガイドライン第1版」の概要：生成AI活用の品質確保に向けた新たな道しるべ

今回は、産業技術総合研究所より先日公開された、「生成AI品質マネジメントガイドライン第1版」の概要を整理しました。 www.aist.go.jp www.digiarc.aist.go.jp 産総研による「生成AI品質マネジメントガイドライン 第1版」 品質管理の具体的なアプローチ 将来の展望と進化する品質管理 おわりに 産総研による「生成AI品質マネジメントガイドライン 第1版」 大規模言語モデル（LLM）がチャットボットや文章作成支援ツールとして急速に普及する中、その出力品質に関する課題が顕在化しています。意図しない不正確な回答や偏った内容の生成は、AIを利用したシステムやサービスの信頼性…

#AIセキュリティ#品質管理#生成AI#産業技術総合研究所