目次

NIST IR 8607 日本語訳

英語タイトル : Workshop Summary Report for “Cyber AI Profile” Hybrid Workshop #2
日本語タイトル : 「Cyber AI Profile」ハイブリッドワークショップ #2 の概要報告書
公開日 : 2026-08-03
原文URL : https://csrc.nist.gov/pubs/ir/8607/final
翻訳編集 : 自動生成(有志による非公式の日本語訳), 原文取得日 : 2026-10-31, 訳文 : 320 / 321 ブロック

[要約] NIST IR 8607 は、2 回目の「Cyber AI Profile ワークショップ」での議論をまとめた報告書です。このワークショップは、NIST Cybersecurity Framework Profile for Artificial Intelligence(Cyber AI Profile)の予備ドラフトに焦点を当て、AI システムに関連するサイバーセキュリティリスクを管理するための指針と、サイバーセキュリティ能力を強化するために AI を活用するための指針について、政府、産業界、学術界から意見を集めました。NIST は、SP 800-53 Control Overlays for Securing AI Systems(COSAiS)の策定作業の最新状況も報告しました。報告書は、ガバナンス上の課題、Profile の長期的な安定性、AI の攻撃対象領域、一貫した AI 分類体系の必要性、AI を活用したサイバー防御の機会など、議論で挙がった主要なテーマを取り上げています。

NIST Internal Report

NIST 内部報告書

NIST IR 8607

NIST IR 8607

Workshop Summary Report for “Cyber AI Profile” Hybrid Workshop #2

「Cyber AI Profile」ハイブリッドワークショップ #2 の概要報告書

Katerina N. Megas Barbara Cuthill Christina Sames Julie Nethery Snyder

Katerina N. Megas Barbara Cuthill Christina Sames Julie Nethery Snyder

This publication is available free of charge from: https://doi.org/10.6028/NIST.IR.8607

本刊行物は次のサイトから無料で入手できます: https://doi.org/10.6028/NIST.IR.8607

NIST Internal Report

NIST 内部報告書

NIST IR 8607

NIST IR 8607

Workshop Summary Report for “Cyber AI Profile” Hybrid Workshop #2

「Cyber AI Profile」ハイブリッドワークショップ #2 の概要報告書

Katerina N. Megas Barbara Cuthill Applied Cybersecurity Division Information Technology Laboratory

Katerina N. Megas Barbara Cuthill 応用サイバーセキュリティ部門 情報技術研究所

Christina Sames Julie Nethery Snyder National Cybersecurity Center of Excellence MITRE

Christina Sames Julie Nethery Snyder 国立サイバーセキュリティ卓越センター MITRE

This publication is available free of charge from: https://doi.org/10.6028/NIST.IR.8607

本刊行物は次のサイトから無料で入手できます: https://doi.org/10.6028/NIST.IR.8607

August 2026

2026年8月

図表
[U.S. Department of Commerce seal — not reproduced on this unofficial site]

[米国商務省の紋章。公的な標章のため、この非公式サイトには掲載していません。原本 PDF を参照してください。]

U.S. Department of Commerce Howard Lutnick, Secretary

米国商務省 Howard Lutnick 長官

National Institute of Standards and Technology

国立標準技術研究所(National Institute of Standards and Technology)

Arvind Raman, NIST Director and Under Secretary of Commerce for Standards and Technology

Arvind Raman、NIST 所長兼商務次官(標準・技術担当)

Certain equipment, instruments, software, or materials, commercial or non-commercial, are identified in this paper in order to specify the experimental procedure adequately. Such identification does not imply recommendation or endorsement of any product or service by NIST, nor does it imply that the materials or equipment identified are necessarily the best available for the purpose.

本書では、実験手順を十分に特定するため、商用または非商用の特定の機器、装置、ソフトウェア、資材を挙げています。こうした特定は、NIST がいかなる製品やサービスも推奨または是認することを意味せず、挙げた資材や機器がその目的に最適であるとは限らないことも意味しません。

There may be references in this publication to other publications currently under development by NIST in accordance with its assigned statutory responsibilities. The information in this publication, including concepts and methodologies, may be used by federal agencies even before the completion of such companion publications. Thus, until each publication is completed, current requirements, guidelines, and procedures, where they exist, remain operative. For planning and transition purposes, federal agencies may wish to closely follow the development of these new publications by NIST.

本刊行物には、法令で定められた NIST の責務に従って現在策定中の、他の刊行物への参照が含まれる場合があります。そうした関連刊行物が完成する前であっても、本刊行物の情報(概念や方法論を含む)を連邦政府機関が利用してもよいです。したがって、各刊行物が完成するまでは、現行の要件、ガイドライン、手順が存在する場合には、それらが引き続き有効です。計画および移行のため、連邦機関は、NIST によるこれらの新しい刊行物の策定状況を注意深く追うことを検討してもよいです。

Organizations are encouraged to review all draft publications during public comment periods and provide feedback to NIST. Many NIST cybersecurity publications, other than the ones noted above, are available at https://csrc.nist.gov/publications.

組織は、パブリックコメント期間中にすべてのドラフト刊行物を確認し、NIST にフィードバックを提供することが推奨されています。上記以外の NIST のサイバーセキュリティ刊行物の多くは https://csrc.nist.gov/publications で入手できます。

NIST Technical Series Policies Copyright, Use, and Licensing Statements NIST Technical Series Publication Identifier Syntax

NIST Technical Series Policies Copyright, Use, and Licensing Statements NIST Technical Series Publication Identifier Syntax

Publication History Approved by the NIST Editorial Review Board on 2026-05-14

刊行履歴 2026-05-14 に NIST 編集審査委員会(Editorial Review Board)が承認しました。

How to Cite this NIST Technical Series Publication Cuthill B, Megas K, Sames C, Snyder J (2026) Workshop Summary Report for “Cyber AI Profile” Hybrid Workshop #2. (National Institute of Standards and Technology, Gaithersburg, MD), NIST Internal Report (NIST IR) NIST IR 8607. https://doi.org/10.6028/NIST.IR.8607

この NIST Technical Series 刊行物の引用方法 Cuthill B, Megas K, Sames C, Snyder J (2026) Workshop Summary Report for “Cyber AI Profile” Hybrid Workshop #2. (National Institute of Standards and Technology, Gaithersburg, MD), NIST Internal Report (NIST IR) NIST IR 8607. https://doi.org/10.6028/NIST.IR.8607

Author ORCID iDs Barbara Cuthill: 0000-0002-2588-6165 Katerina Megas: 0000-0002-2815-5448 Christina Sames: 0009-0003-1817-8333 Julie Snyder: 0009-0004-6352-2831

著者の ORCID iD Barbara Cuthill: 0000-0002-2588-6165 Katerina Megas: 0000-0002-2815-5448 Christina Sames: 0009-0003-1817-8333 Julie Snyder: 0009-0004-6352-2831

Contact Information cyberaiprofile@nist.gov

連絡先 cyberaiprofile@nist.gov

National Institute of Standards and Technology Attn: Applied Cybersecurity Division, Information Technology Laboratory 100 Bureau Drive (Mail Stop 2000) Gaithersburg, MD 20899-2000

National Institute of Standards and Technology Attn: Applied Cybersecurity Division, Information Technology Laboratory 100 Bureau Drive (Mail Stop 2000) Gaithersburg, MD 20899-2000

Additional Information Additional information about this publication is available at https://csrc.nist.gov/pubs/ir/8607/final, including related content, potential updates, and document history.

追加情報 本刊行物に関する追加情報(関連コンテンツ、更新の可能性、文書の履歴を含む)は https://csrc.nist.gov/pubs/ir/8607/final で入手できます。

All comments are subject to release under the Freedom of Information Act (FOIA).

すべてのコメントは、情報自由法(FOIA)に基づく公開の対象となります。

Abstract

概要

This report summarizes the discussion at the second “Cyber AI Profile Workshop,” in January 20506 during which focused on the Preliminary Draft of the NIST Cybersecurity Framework Profile for Artificial Intelligence (Cyber AI Profile). The workshop gathered input across government, industry, and academia to provide guidance for managing cybersecurity risks associated with AI systems and for leveraging AI to enhance cybersecurity capabilities to inform the next draft of the NIST Cyber AI Profile. NIST also provided an update on its work to develop the Special Publication (SP) 800-53 Control Overlays for Securing AI Systems (COSAiS). The report highlights key themes raised during the discussions, including governance challenges, stability of the Profile over time, AI attack surfaces, the need for consistent AI taxonomy, ideas for specific risk-based guidance and resources to support usability (e.g., use cases), and AI-enabled cyber defense opportunities.

本報告書は、2026年1月開催の2回目の「Cyber AI Profile ワークショップ」での議論をまとめたものです。このワークショップは、NIST Cybersecurity Framework Profile for Artificial Intelligence(Cyber AI Profile)の予備ドラフトに焦点を当てていました。ワークショップでは、政府、産業界、学術界から意見を集め、AI システムに関連するサイバーセキュリティリスクを管理するための指針と、サイバーセキュリティ能力を強化するために AI を活用するための指針を示し、NIST Cyber AI Profile の次のドラフトに反映させることを目指しました。NIST は、Special Publication(SP)800-53 Control Overlays for Securing AI Systems(COSAiS)の策定作業の最新状況も報告しました。本報告書は、議論で挙がった主要なテーマを取り上げています。これには、ガバナンス上の課題、Profile の長期的な安定性、AI の攻撃対象領域、一貫した AI 分類体系の必要性、特定のリスクベースの指針に関する案と使いやすさを支援するリソース(たとえば、ユースケース)、AI を活用したサイバー防御の機会が含まれます。

Keywords

キーワード

Artificial Intelligence; Community Profile; Cyber AI Profile; Cybersecurity Framework; Control Overlays; Control Overlays for Securing AI Systems.

Artificial Intelligence; Community Profile; Cyber AI Profile; Cybersecurity Framework; Control Overlays; Control Overlays for Securing AI Systems.

Reports on Computer Systems Technology

コンピュータシステム技術に関する報告書

The Information Technology Laboratory (ITL) at the National Institute of Standards and Technology (NIST) promotes the U.S. economy and public welfare by providing technical leadership for the Nation’s measurement and standards infrastructure. ITL develops tests, test methods, reference data, proof of concept implementations, and technical analyses to advance the development and productive use of information technology. ITL’s responsibilities include the development of management, administrative, technical, and physical standards and guidelines for the cost-effective security and privacy of other than national security-related information in federal information systems.

国立標準技術研究所(NIST)の情報技術研究所(ITL)は、国の計測・標準インフラに技術面でのリーダーシップを提供することで、米国経済と公共の福祉を促進しています。ITL は、情報技術の開発と生産的な利用を進めるために、試験、試験方法、参照データ、概念実証の実装、技術分析を開発しています。ITL の責務には、連邦情報システムにおける、国家安全保障関連以外の情報について、費用対効果の高いセキュリティとプライバシーを確保するための管理・運用・技術・物理面の標準とガイドラインの策定が含まれます。

Table of Contents

目次

List of Tables

表の一覧

Acknowledgments

謝辞

The authors extend their gratitude to all those who contributed to the Cyber AI Profile Workshop #2. Thank you to the participants and speakers at the Cyber AI Profile Hybrid Workshop #2, as well as our colleagues at NIST, the NIST NCCoE, and The MITRE Corporation, who offered the expertise necessary to conduct this workshop. Additionally, the thoughtful feedback stakeholders shared leading up to the event, including comments submitted to NIST on the Cybersecurity Framework Profile for Artificial Intelligence (Cyber AI Profile) Preliminary Draft, were instrumental in shaping discussions at the workshop and this workshop summary.

著者らは、Cyber AI Profile ワークショップ #2 に貢献してくださったすべての方々に感謝します。Cyber AI Profile ハイブリッドワークショップ #2 の参加者と講演者、およびこのワークショップを開催するために必要な専門知識を提供してくださった NIST、NIST NCCoE、The MITRE Corporation の同僚の皆様に感謝します。また、イベントに先立って関係者が寄せてくださった示唆に富むフィードバック(Cybersecurity Framework Profile for Artificial Intelligence(Cyber AI Profile)予備ドラフトに関して NIST に提出されたコメントを含む)は、ワークショップでの議論と本ワークショップ概要の形成に大きく役立ちました。

1. Introduction

1. はじめに

On January 14, 2026, the National Institute of Standards and Technology (NIST) National Cybersecurity Center of Excellence (NCCoE) hosted the public workshop Cyber AI Profile Workshop #2 to gather feedback on the Preliminary Draft of the NIST Cybersecurity Framework Profile for Artificial Intelligence (Cyber AI Profile) [1] published on December 16, 2025. This document provides a summary of the workshop’s discussions, including opening remarks, panel, morning presentations, and afternoon breakout sessions. This workshop aimed to raise awareness of artificial intelligence (AI) and cybersecurity projects at NIST and obtain feedback on priority areas for organizations integrating AI into their cybersecurity infrastructure. The workshop provided a forum for stakeholders to provide input to the Cyber AI Profile, including usability, scope, content, and alignment with existing cybersecurity and AI resources. By incorporating insights from participants across various organizations, the workshop established a collaborative foundation for addressing AI-specific cybersecurity challenges while enabling organizations to harness AI’s transformative potential.

2026年1月14日、国立標準技術研究所(NIST)の国立サイバーセキュリティ卓越センター(NCCoE)は、2025年12月16日に公開された NIST Cybersecurity Framework Profile for Artificial Intelligence(Cyber AI Profile)[1] の予備ドラフトに関するフィードバックを集めるため、公開ワークショップ Cyber AI Profile Workshop #2 を開催しました。本書は、開会の挨拶、パネル、午前の発表、午後のブレイクアウトセッションを含む、ワークショップでの議論の概要を示します。このワークショップは、NIST における人工知能(AI)とサイバーセキュリティのプロジェクトへの認識を高め、AI をサイバーセキュリティ基盤に統合する組織にとっての優先分野についてフィードバックを得ることを目的としていました。ワークショップは、関係者が Cyber AI Profile に対して、使いやすさ、範囲、内容、既存のサイバーセキュリティおよび AI のリソースとの整合性などについて意見を寄せる場となりました。さまざまな組織の参加者の知見を取り入れることで、ワークショップは、AI 固有のサイバーセキュリティ課題に取り組むための協力的な基盤を築くとともに、組織が AI の変革的な可能性を活用できるようにしました。

1.1. About the NIST Cyber AI Profile

1.1. NIST Cyber AI Profile について

Recent advances in AI technologies bring great opportunities, but also new and modified cybersecurity risks and impacts that need to be managed. NIST is extending and adapting existing frameworks, such as the NIST Cybersecurity Framework 2.0 (CSF 2.0) [2], to assist organizations as they face these new or expanded risks. The Cyber AI Profile is being developed in response to feedback from the cybersecurity and AI communities, indicating that there would be value in guidelines based on the CSF 2.0. The community was clear that there are opportunities for using AI to enhance cybersecurity capabilities, as well as new considerations for managing cybersecurity risk related to AI systems.

AI 技術の最近の進歩は大きな機会をもたらしますが、管理する必要のある、新しい、または変化したサイバーセキュリティのリスクと影響ももたらします。NIST は、組織がこれらの新しい、または拡大したリスクに直面する際に役立つよう、NIST Cybersecurity Framework 2.0(CSF 2.0)[2] などの既存のフレームワークを拡張し、適応させています。Cyber AI Profile は、CSF 2.0 に基づくガイドラインには価値があるというサイバーセキュリティおよび AI コミュニティからのフィードバックを受けて策定されています。コミュニティは、サイバーセキュリティ能力を強化するために AI を活用する機会があること、また AI システムに関連するサイバーセキュリティリスクを管理するための新たな検討事項があることを明確にしました。

Organizations vary in how they use AI. Some organizations may not yet be using AI. Some may be using cybersecurity solutions enabled with machine learning (ML) technology for pattern detection and planning but have not yet adopted newer AI capabilities, such as Generative AI (genAI) or Agentic AI. Regardless of where organizations are on their AI journey, they need risk management approaches that support the realities of advancements in AI use to position them to defend against AI-enabled cyberattacks from adversaries and to leverage AI-enabled cyber defense capabilities. To address these emerging risks and opportunities, particularly in a rapidly evolving field, NIST is developing the Cyber AI Profile [1] to identify how organizations can leverage and adapt the CSF 2.0 [2] to manage AI-related cybersecurity risks effectively. The Cyber AI Profile will seek to help organizations integrate AI-specific considerations into existing cybersecurity programs by:

AI の使い方は組織によって異なります。まだ AI を使用していない組織もあるでしょう。パターン検出と計画のために機械学習(ML)技術を用いたサイバーセキュリティソリューションを使用しているものの、生成 AI(genAI)やエージェント型 AI などの新しい AI 能力はまだ採用していない組織もあるでしょう。組織が AI 活用のどの段階にあるかにかかわらず、AI を活用した攻撃者によるサイバー攻撃に対して防御し、AI を活用したサイバー防御能力を活用できるようにするために、AI 利用の進展という現実に対応したリスク管理のアプローチが必要です。特に急速に進化している分野で、これらの新たなリスクと機会に対処するため、NIST は、組織が AI 関連のサイバーセキュリティリスクを効果的に管理するために CSF 2.0 [2] をどのように活用し、適応させられるかを示す Cyber AI Profile [1] を策定しています。Cyber AI Profile は、次のことによって、組織が AI 固有の検討事項を既存のサイバーセキュリティプログラムに統合できるよう支援することを目指しています。

•Establishing a shared understanding of AI-related cybersecurity priorities and considerations for any organization;

•あらゆる組織に共通する、AI 関連のサイバーセキュリティの優先事項と検討事項についての共通理解を確立すること。

•Fostering collaboration and communication across the AI and cybersecurity communities; and

•AI コミュニティとサイバーセキュリティコミュニティの間の協力とコミュニケーションを促進すること。

•Providing common AI cybersecurity target outcomes that organizations can use to support strategic planning efforts and cybersecurity assessments, based on the CSF Core.

•戦略的な計画の取り組みとサイバーセキュリティ評価を支援するために組織が使用できる、CSF コアに基づく、AI に関するサイバーセキュリティの共通の目標成果を提供すること。

1.2. Background for the Cyber AI Profile Workshop #2

1.2. Cyber AI Profile ワークショップ #2 の背景

The workshop’s aim was to gather community feedback on the preliminary draft of the Cyber AI Profile to shape its final direction and content. By engaging stakeholders across sectors, NIST aims to ensure the development of meaningful guidelines that support organizations in managing AI-related cybersecurity risks while capitalizing on AI’s capabilities.

ワークショップの目的は、Cyber AI Profile の予備ドラフトに関するコミュニティのフィードバックを集め、その最終的な方向性と内容を形づくることでした。NIST は、さまざまな分野の関係者に参加してもらうことで、AI の能力を活かしつつ、組織が AI 関連のサイバーセキュリティリスクを管理するのを支援する、有意義なガイドラインの策定を確実にすることを目指しています。

The preliminary draft of the Cyber AI Profile [1] is the culmination of NIST research as well as an open dialogue with the public. Building on the Cybersecurity and AI Workshop Concept Paper [3] that outlined NIST’s initial observations and proposed approaches, NIST collected additional feedback through Cyber AI Workshop #1 and the August and September 2025 Community of Interest working sessions to develop the preliminary draft. The Cyber AI Profile Workshop #2 agenda (see Table 1) and planned discussions focused on addressing open questions about the draft and on seeking additional public input.

Cyber AI Profile の予備ドラフト [1] は、NIST の研究と、一般の人々との開かれた対話の集大成です。NIST は、NIST の初期の所見と提案するアプローチを概説した Cybersecurity and AI Workshop Concept Paper [3] を土台として、Cyber AI Workshop #1 と、2025年8月および9月の Community of Interest のワーキングセッションを通じて追加のフィードバックを集め、予備ドラフトを作成しました。Cyber AI Profile Workshop #2 の議事次第(表 1 を参照)と予定された議論は、ドラフトに関する未解決の問いに取り組むことと、追加の一般からの意見を求めることに焦点を当てていました。

The workshop also provided background on NIST’s portfolio of AI and cybersecurity-related projects, including the Control Overlays for Securing AI Systems (COSAiS) [4] work.

ワークショップでは、Control Overlays for Securing AI Systems(COSAiS)[4] の取り組みを含む、NIST の AI およびサイバーセキュリティ関連プロジェクトのポートフォリオの背景も説明されました。

1.3. About the Cyber AI Profile Workshop #2

1.3. Cyber AI Profile ワークショップ #2 について

The agenda for the one-day free, public, hybrid workshop is provided in Table 1. The workshop included a panel discussion and presentations on AI and cybersecurity projects at NIST. The morning portion of the workshop was open to both in-person and livestream audiences, followed by three one-hour sessions of four in-person breakout session tracks related to the three Cyber AI Profile Focus Areas (i.e., Securing AI System Components [Secure], Conducting AI-enabled Cyber Defense [Defend], and Thwarting AI-enabled Cyber Attacks [Thwart]) and COSAiS.

この 1 日間の無料の公開ハイブリッドワークショップの議事次第を表 1 に示します。ワークショップには、NIST における AI とサイバーセキュリティのプロジェクトに関するパネルディスカッションと発表が含まれていました。ワークショップの午前の部は、会場参加者とライブ配信の視聴者の両方に公開され、続いて、Cyber AI Profile の 3 つのフォーカスエリア(すなわち、AI システムコンポーネントの保護 [Secure]、AI を活用したサイバー防御の実施 [Defend]、AI を活用したサイバー攻撃の阻止 [Thwart])と COSAiS に関連する、4 つの会場参加者向けブレイクアウトセッショントラックによる 1 時間のセッションが 3 回行われました。

Table 1. Cyber AI Profile Hybrid Workshop #2 Agenda

表 1. Cyber AI Profile ハイブリッドワークショップ #2 の議事次第

TimeActivity and Presenters
9:00 – 9:10Welcome and Opening Remarks: Cherilyn Pascoe, Director of the NIST National Cybersecurity Center of Excellence (NCCoE)
9:10 – 9:30About the Cyber AI Profile Project and Workshop #2: Katerina Megas, Program Manager for the NIST Cybersecurity, Privacy, and AI Programs and Co-Lead for Cyber AI Profile
9:30 – 10:30Panel: AI and Cybersecurity Projects at NIST (Moderator: Barbara Cuthill, Co-Lead for the Cyber AI Profile, NIST)
  • AI Risk Management Framework (AI RMF) (Martin Stanley, NIST)
  • Center for AI Standards and Innovation (CAISI) (Maia Hamin, NIST)
  • Adversarial Machine Learning (Apostol Vassilev, NIST)
  • Dioptra (Harold Booth, NIST)
  • Secure Software Development Framework (SSDF) AI Profile (Harold Booth, NIST)
  • PETs Test Bed (Gary Howarth, NIST)
  • Agent Identities (Ryan Galluzzo, NIST)
  • NCCoE Chatbot (Daniel Lee, NIST NCCoE/MITRE)
10:45 – 11:00Presentation: AI Accelerators: Dr. Craig Schlenoff, Senior Advisor for Artificial Intelligence, NIST
11:00 – 11:30Presentation: Overview of the Cyber AI Profile Preliminary Draft: Julie Snyder, NCCoE/MITRE, Principal, Cyber AI Profile Task Lead
11:30 – 11:50Presentation: Control Overlays for Securing AI Systems (COSAiS): Victoria Pillitteri, Manager, Security Engineering and Risk Management Group, NIST
1:00 – 4:30Breakout Sessions
  • Track A: Secure Focus Area
    • Presenter: Noah Schiro, NCCoE/MITRE
    • Facilitator: Christina Sames, NCCoE/MITRE
    • Track Analyst: Michael Ekstrom, NCCoE/MITRE
  • Track B: Defend Focus Area
    • Presenter: Keith Manville, NCCoE/MITRE
    • Facilitator: Jonathan Keisler, NCCoE/MITRE
    • Track Analyst: Ishika Khemani, NCCoE/MITRE
  • Track C: Thwart Focus Area
    • Presenter: Marissa Dotter, NCCoE/MITRE
    • Facilitator: John Dombrowski, NCCoE/MITRE
    • Track Analyst: Daniel Lee, NCCoE/MITRE
  • Track D: COSAiS
    • Presenter: Vicky Pillitteri, NIST
    • Facilitator: Alicia Dawson, NCCoE/MITRE
    • Track Analyst: Bryce Kearney, NCCoE/MITRE
4:40 – 5:00Workshop Close-out and Next Steps
  • Katerina Megas, NIST
  • Noah Schiro, NCCoE/MITRE
  • Ishika Khemani, NCCoE/MITRE
  • Marissa Dotter, NCCoE/MITRE
  • Alicia Dawson, NCCoE/MITRE
時間内容と発表者
9:00 – 9:10歓迎の辞と開会の挨拶: Cherilyn Pascoe、NIST 国立サイバーセキュリティ卓越センター(NCCoE)所長
9:10 – 9:30Cyber AI Profile プロジェクトとワークショップ #2 について: Katerina Megas、NIST サイバーセキュリティ・プライバシー・AI プログラムのプログラムマネージャー兼 Cyber AI Profile の共同リード
9:30 – 10:30パネル: NIST における AI とサイバーセキュリティのプロジェクト(モデレーター: Barbara Cuthill、Cyber AI Profile の共同リード、NIST)
  • AI Risk Management Framework(AI RMF)(Martin Stanley、NIST)
  • Center for AI Standards and Innovation(CAISI)(Maia Hamin、NIST)
  • 敵対的機械学習(Apostol Vassilev、NIST)
  • Dioptra(Harold Booth、NIST)
  • Secure Software Development Framework(SSDF)AI Profile(Harold Booth、NIST)
  • PETs Test Bed(Gary Howarth、NIST)
  • エージェントのアイデンティティ(Ryan Galluzzo、NIST)
  • NCCoE チャットボット(Daniel Lee、NIST NCCoE/MITRE)
10:45 – 11:00発表: AI Accelerators: Craig Schlenoff 博士、NIST 人工知能担当シニアアドバイザー
11:00 – 11:30発表: Cyber AI Profile 予備ドラフトの概要: Julie Snyder、NCCoE/MITRE、プリンシパル、Cyber AI Profile タスクリード
11:30 – 11:50発表: Control Overlays for Securing AI Systems(COSAiS): Victoria Pillitteri、NIST セキュリティエンジニアリング・リスク管理グループ マネージャー
1:00 – 4:30ブレイクアウトセッション
  • トラック A: Secure フォーカスエリア
    • 発表者: Noah Schiro、NCCoE/MITRE
    • ファシリテーター: Christina Sames、NCCoE/MITRE
    • トラックアナリスト: Michael Ekstrom、NCCoE/MITRE
  • トラック B: Defend フォーカスエリア
    • 発表者: Keith Manville、NCCoE/MITRE
    • ファシリテーター: Jonathan Keisler、NCCoE/MITRE
    • トラックアナリスト: Ishika Khemani、NCCoE/MITRE
  • トラック C: Thwart フォーカスエリア
    • 発表者: Marissa Dotter、NCCoE/MITRE
    • ファシリテーター: John Dombrowski、NCCoE/MITRE
    • トラックアナリスト: Daniel Lee、NCCoE/MITRE
  • トラック D: COSAiS
    • 発表者: Vicky Pillitteri、NIST
    • ファシリテーター: Alicia Dawson、NCCoE/MITRE
    • トラックアナリスト: Bryce Kearney、NCCoE/MITRE
4:40 – 5:00ワークショップの総括と今後のステップ
  • Katerina Megas、NIST
  • Noah Schiro、NCCoE/MITRE
  • Ishika Khemani、NCCoE/MITRE
  • Marissa Dotter、NCCoE/MITRE
  • Alicia Dawson、NCCoE/MITRE

The workshop provided a platform for exploring AI cybersecurity opportunities and challenges, and the potential role of the Cyber AI Profile in accelerating AI adoption by giving organizations confidence to address these challenges. Discussions during the workshop were intended to gather input from the community on securing AI components, leveraging AI for cyber defense, and thwarting AI-enabled attacks. Throughout the day, attendees engaged in dynamic conversations while speakers and panelists highlighted the importance of collaboration between the AI and cybersecurity communities to shape actionable implementation guidelines.

ワークショップは、AI のサイバーセキュリティに関する機会と課題、そして、これらの課題に対処する自信を組織に与えることで AI の導入を加速させる Cyber AI Profile の潜在的な役割を探る場となりました。ワークショップでの議論は、AI コンポーネントの保護、サイバー防御への AI の活用、AI を活用した攻撃の阻止について、コミュニティから意見を集めることを意図していました。1 日を通じて、参加者は活発な対話を行い、講演者とパネリストは、実行可能な実装ガイドラインを形づくるうえで、AI コミュニティとサイバーセキュリティコミュニティの協力が重要であることを強調しました。

Materials from the workshop are available on the event page.1 Post-event materials include a recording of the morning sessions and the presentation slides for the morning sessions and afternoon breakouts.2

ワークショップの資料はイベントページで入手できます。1 イベント後の資料には、午前のセッションの録画と、午前のセッションおよび午後のブレイクアウトセッションの発表スライドが含まれます。2

2. Event Summary

2. イベントの概要

Participants in the workshop explored the cybersecurity opportunities and complex challenges introduced by AI systems, emphasizing the need for actionable solutions and cross-disciplinary collaboration to help organizations strategically adopt AI while addressing and prioritizing cybersecurity risks stemming from its advancements. Discussions included addressing risk management through a multidisciplinary approach enabled by strategic Focus Areas, as well as identifying challenges to AI-readiness and associated opportunities and risks, and forward-leaning approaches to address both. The subsections that follow summarize each presentation and discussion on the agenda.

ワークショップの参加者は、AI システムがもたらすサイバーセキュリティ上の機会と複雑な課題を探り、AI の進歩に起因するサイバーセキュリティリスクに対処し優先順位を付けながら、組織が戦略的に AI を導入できるよう支援するために、実行可能な解決策と分野横断的な協力が必要であることを強調しました。議論には、戦略的なフォーカスエリアによって可能になる学際的なアプローチによるリスク管理への取り組み、AI 対応の準備における課題と、それに関連する機会とリスクの特定、そして双方に対処する前向きなアプローチが含まれました。以下の小節では、議事次第にある各発表と議論をまとめます。

2.1. Opening Remarks

2.1. 開会の挨拶

The workshop began with opening remarks from Ms. Cherilyn Pascoe, Director of the National Cybersecurity Center of Excellence (NCCoE), and Ms. Katerina Megas, Program Manager for the NIST Cybersecurity, Privacy, and AI Programs and Lead for Cyber AI Profile. Each speaker emphasized that:

ワークショップは、国立サイバーセキュリティ卓越センター(NCCoE)所長の Cherilyn Pascoe 氏と、NIST サイバーセキュリティ・プライバシー・AI プログラムのプログラムマネージャー兼 Cyber AI Profile のリードである Katerina Megas 氏による開会の挨拶で始まりました。両氏は、次の点を強調しました。

•Collaboration is important in NIST’s efforts to address the intersection of cybersecurity and AI.

•サイバーセキュリティと AI の交差領域に対処する NIST の取り組みでは、協力が重要です。

•The NCCoE’s mission is to accelerate the adoption of secure technologies like AI to meet industry and public needs amid rapid change, new capabilities, and emerging cybersecurity risks.

•NCCoE の使命は、急速な変化、新しい能力、新たなサイバーセキュリティリスクの中で、産業界と社会のニーズに応えるために、AI のような安全な技術の導入を加速することです。

•NIST guidelines only work if implementers who are building and using these technologies find the guidelines effective and applicable in the real world.

•NIST のガイドラインが機能するのは、これらの技術を構築し使用する実装者が、そのガイドラインを実世界で有効かつ適用可能だと感じる場合だけです。

•The Cyber AI Profile is intended to help bridge taxonomy gaps, enabling clearer and consistent communication and reflecting a common view of AI activities to help organizations inform both their current and desired states.

•Cyber AI Profile は、分類体系のギャップを埋め、より明確で一貫したコミュニケーションを可能にし、AI の活動に関する共通の見方を反映することで、組織が現在の状態と目標とする状態の両方を把握するのを助けることを意図しています。

•Collaboration and stakeholder feedback are critical to shape practical, impactful guidelines to help organizations prioritize their efforts when addressing cybersecurity challenges. Feedback on Cyber AI Profile and its usability will shape the development of a roadmap to further advance cybersecurity and AI guidance from NIST.

•サイバーセキュリティ上の課題に取り組む際に、組織が取り組みの優先順位を付けるのに役立つ、実用的で影響力のあるガイドラインを形づくるには、協力と関係者のフィードバックが不可欠です。Cyber AI Profile とその使いやすさに関するフィードバックは、NIST によるサイバーセキュリティと AI に関するガイダンスをさらに進めるためのロードマップの策定を方向づけます。

2.1.1. Welcome and Opening Remarks
2.1.1. 歓迎の辞と開会の挨拶

Ms. Pascoe welcomed attendees and expressed appreciation for their engagement and collaboration. She reiterated that practical implementation guidance informed by community insights is essential to ensuring the Cyber AI Profile remains effective in addressing evolving AI capabilities and threats. She provided an overview of NIST’s and the NCCoE’s missions, which includes developing voluntary guidance on pressing cybersecurity challenges such as data protection, trusted enterprise, cybersecurity, and AI, as well as resilient embedded systems, through collaborative engagements with industry, government, and academia. Ms. Pascoe discussed how Cybersecurity Framework Community Profiles, such as the Cyber AI Profile, use the CSF to help organizations within a community understand common cybersecurity concerns and where to focus their efforts to prioritize and address cybersecurity opportunities and challenges. Ms. Pascoe noted that Profiles can also serve as a listening mechanism for NCCoE to understand shared opportunities, challenges, and concerns that reflect the community's expertise.

Pascoe 氏は参加者を歓迎し、その参加と協力に感謝の意を示しました。同氏は、コミュニティの知見を踏まえた実用的な実装ガイダンスが、Cyber AI Profile が進化する AI の能力と脅威に対して有効であり続けるために不可欠であることを改めて述べました。同氏は、NIST と NCCoE の使命について概要を説明しました。この使命には、産業界、政府、学術界との協力的な取り組みを通じて、データ保護、信頼できるエンタープライズ、サイバーセキュリティ、AI、およびレジリエントな組込みシステムといった差し迫ったサイバーセキュリティ上の課題に関する任意のガイダンスを策定することが含まれます。Pascoe 氏は、Cyber AI Profile のような Cybersecurity Framework コミュニティプロファイルが、CSF を使って、コミュニティ内の組織が共通のサイバーセキュリティ上の懸念を理解し、サイバーセキュリティ上の機会と課題に優先順位を付けて対処するために、どこに取り組みを集中すべきかを把握するのを助ける仕組みについて論じました。同氏は、Profile は、コミュニティの専門知識を反映した、共通の機会、課題、懸念を NCCoE が理解するための傾聴の仕組みとしても機能しうると述べました。

1 The event page is available at https://www.nccoe.nist.gov/get-involved/attend-events/cyber-ai-workshop-2/post-event-materials.
1 イベントページは https://www.nccoe.nist.gov/get-involved/attend-events/cyber-ai-workshop-2/post-event-materials で入手できます。
2 The afternoon breakout sessions were conducted in-person only and were not recorded.
2 午後のブレイクアウトセッションは会場参加のみで実施され、録画されていません。

Ms. Pascoe concluded by acknowledging the importance of community input to develop impactful guidelines, provide insights into challenges they may be experiencing, and identify where guidance is unclear or where additional efforts could make an impactful difference in securing, using, and defending AI, resulting in a better Profile overall.

Pascoe 氏は、影響力のあるガイドラインを策定し、コミュニティが直面しているかもしれない課題についての知見を提供し、ガイダンスが不明確な点や、追加の取り組みによって AI の保護、利用、防御に大きな違いをもたらせる点を特定して、全体としてより良い Profile を実現するために、コミュニティの意見が重要であることを述べて締めくくりました。

2.1.2. Setting the Stage for the Cyber AI Profile
2.1.2. Cyber AI Profile の背景説明

Ms. Katerina Megas, Program Manager for the NIST Cybersecurity, Privacy, and AI Programs and Co-Lead for Cyber AI Profile, shared the Cyber AI Profile’s background and roadmap, the goals and structure of the workshop, and how the Profile integrates with NIST’s other AI programs and efforts, to include understanding how the broad adoption of AI may impact existing cybersecurity and privacy risks and risk management approaches.

NIST サイバーセキュリティ・プライバシー・AI プログラムのプログラムマネージャー兼 Cyber AI Profile の共同リードである Katerina Megas 氏は、Cyber AI Profile の背景とロードマップ、ワークショップの目標と構成、そして、AI の幅広い導入が既存のサイバーセキュリティとプライバシーのリスクおよびリスク管理アプローチにどのような影響を及ぼしうるかの理解を含め、Profile が NIST のその他の AI プログラムや取り組みとどのように統合されるかを紹介しました。

Ms. Megas shared the gaps heard from the cybersecurity community and how their insights shaped the Cyber AI Profile’s Focus Areas. The cybersecurity community wanted to understand opportunities to adopt AI, implications associated with those opportunities, and how AI is changing existing risk management measures. She observed that, in many organizations, leadership has made it a priority to understand how AI is being adopted and used, yet organizations are finding it challenging to think strategically about AI while balancing day-to-day responsibilities. The community also shared that the lack of a common taxonomy across AI publications and documentation is making it difficult for AI consumers and users to establish a consistent, clear understanding of how AI might impact them. Ms. Megas noted that the community expressed a desire to “not reinvent the wheel,” to build on existing frameworks and practices, identify gaps, and determine what is new or needs to be created to address those gaps.

Megas 氏は、サイバーセキュリティコミュニティから聞かれたギャップと、そこから得られた知見が Cyber AI Profile のフォーカスエリアをどのように形づくったかを紹介しました。サイバーセキュリティコミュニティは、AI を導入する機会、それらの機会に伴う影響、そして AI が既存のリスク管理策をどのように変えているかを理解したいと考えていました。同氏は、多くの組織で、経営層が AI がどのように導入され使われているかを理解することを優先事項としている一方で、組織は日常の責務とのバランスを取りながら AI について戦略的に考えることが難しいと感じていることを指摘しました。また、コミュニティからは、AI に関する刊行物や文書の間に共通の分類体系がないことが、AI の消費者や利用者が AI から受けうる影響について一貫した明確な理解を確立することを難しくしているという声も寄せられました。Megas 氏は、コミュニティが「車輪を再発明しない」こと、既存のフレームワークや実践を土台にすること、ギャップを特定すること、そしてそれらのギャップに対処するために何が新しいか、何を作る必要があるかを判断することを望んでいると述べました。

Ms. Megas concluded with a preview of the workshop’s afternoon breakout session tracks.

Megas 氏は、ワークショップの午後のブレイクアウトセッショントラックの予告で締めくくりました。

2.2. Panel: AI and Cybersecurity Projects at NIST

2.2. パネル: NIST における AI とサイバーセキュリティのプロジェクト

The panel, moderated by Ms. Barbara Cuthill, NIST Co-Lead for the Cyber AI Profile, provided an overview of a selection of NIST AI projects related to cybersecurity and highlighted how these efforts connect with the Cyber AI Profile and related NCCoE activities.

NIST の Cyber AI Profile 共同リードである Barbara Cuthill 氏がモデレーターを務めたパネルでは、サイバーセキュリティに関連する NIST の AI プロジェクトの一部について概要を説明し、これらの取り組みが Cyber AI Profile や関連する NCCoE の活動とどのように結びついているかを紹介しました。

2.2.1. Artificial Intelligence Risk Management Framework (AI RMF) (Mr. Martin Stanley)
2.2.1. Artificial Intelligence Risk Management Framework(AI RMF)(Martin Stanley 氏)

Mr. Stanley stated that after releasing the Artificial Intelligence Risk Management Framework (AI RMF 1.0) [5] in 2023, the AI RMF team has maintained a long engagement with the community on what cybersecurity for AI systems means. Mr. Stanley emphasized that a key aspect included in the AI RMF is discussion on trustworthiness, and in the AI RMF, NIST is trying to understand and document how AI operates differently in a variety of familiar tasks. Mr. Stanley stated that NIST wants to understand how the community is using AI so that NIST can better identify the measures and approaches needed to establish trust in AI use. Mr. Stanley closed by stating that the AI RMF [5] looks at ways to establish consistency with the NIST Strategy for American Technology Leadership in the 21st Century, such that there is trust integrated into those technologies, practices, and AI uses [6].

Stanley 氏は、2023年に Artificial Intelligence Risk Management Framework(AI RMF 1.0)[5] を公開した後、AI RMF チームは、AI システムのサイバーセキュリティが何を意味するかについて、コミュニティと長く関わり続けてきたと述べました。Stanley 氏は、AI RMF に含まれる重要な側面の一つが信頼性に関する議論であり、AI RMF において NIST は、AI がさまざまなおなじみのタスクでどのように異なる動作をするかを理解し、文書化しようとしていることを強調しました。Stanley 氏は、NIST は、AI の利用における信頼を確立するために必要な対策とアプローチをより適切に特定できるよう、コミュニティがどのように AI を使用しているかを理解したいと考えていると述べました。Stanley 氏は、AI RMF [5] は NIST Strategy for American Technology Leadership in the 21st Century との整合性を確立する方法を検討しており、それによってこれらの技術、実践、AI の利用に信頼が組み込まれるようにする [6] と述べて締めくくりました。

2.2.2. Center for AI Standards and Innovation (CAISI) (Ms. Maia Hamin)
2.2.2. Center for AI Standards and Innovation(CAISI)(Maia Hamin 氏)

Ms. Hamin provided an overview of the Center for AI Standards and Innovation (CAISI) [7], which was reorganized and rechartered with a broader mission in early 2025. CAISI leads evaluations and assessments of United States (U.S.) and adversary AI systems, develops best practices and standards for improving AI security, and advances U.S. AI standards internationally. Ms. Hamin shared the activities completed to date to achieve these goals, highlighting work related to securing AI agents and agent systems and the security threats, risks, and challenges they face, which could hinder adoption and pose risks to public safety and national security. CAISI also develops voluntary practices to include automated benchmark evaluations of language models and AI agent systems [8]. Sharing such AI model evaluations on the state of model security, Ms. Hamin noted, can help consumers and decision-makers understand the relative security of these models. Ms. Hamin highlighted where CAISI continues to help improve the security of U.S. AI systems through the discovery of vulnerabilities and the development of guidelines and best practices. Ms. Hamin concluded by sharing how the community can get involved in CAISI, such as providing input on CAISI’s recently published “Request for Information Regarding Security Considerations for Artificial Intelligence Agents” [9].

Hamin 氏は、2025年初頭に、より広範な使命の下で再編・再設置された Center for AI Standards and Innovation(CAISI)[7] の概要を説明しました。CAISI は、米国および敵対国の AI システムの評価とアセスメントを主導し、AI セキュリティを改善するためのベストプラクティスと標準を策定し、米国の AI 標準を国際的に推進しています。Hamin 氏は、これらの目標を達成するためにこれまでに完了した活動を紹介し、特に、AI エージェントとエージェントシステムの保護、およびそれらが直面するセキュリティ上の脅威、リスク、課題に関する取り組みを取り上げました。これらは、導入を妨げ、公共の安全と国家安全保障にリスクをもたらす可能性があります。CAISI はまた、言語モデルと AI エージェントシステムの自動ベンチマーク評価を含む、自主的なプラクティスも策定しています [8]。Hamin 氏は、モデルのセキュリティの状態に関するこうした AI モデルの評価を共有することで、消費者や意思決定者がこれらのモデルの相対的なセキュリティを理解するのに役立つと述べました。Hamin 氏は、脆弱性の発見とガイドラインおよびベストプラクティスの策定を通じて、CAISI が米国の AI システムのセキュリティ改善に引き続き貢献している点を強調しました。Hamin 氏は、最近公開された CAISI の “Request for Information Regarding Security Considerations for Artificial Intelligence Agents” [9] への意見提出など、コミュニティが CAISI に関与できる方法を紹介して締めくくりました。

2.2.3. Adversarial Machine Learning (Dr. Apostol Vassilev, NIST)
2.2.3. 敵対的機械学習(Apostol Vassilev 博士、NIST)

Mr. Vassilev opened with an overview of areas considered part of adversarial AI, noting that trends have emerged that show a transition from static chatbots to agentic AI, which both give advice and take actions that can help automate workflows. Mr. Vassilev stated that while agentic AI can improve productivity, it simultaneously increases the attack surface available to attackers to exploit. Mr. Vassilev noted that over the last three to five years, there has been a recurring pattern where a large language model (LLM) is released and, within days of its release, reports emerge of successful attacks against that LLM. To understand why this pattern exists, Mr. Vassilev shared that NIST performed rigorous mathematical analysis on the robustness of guardrail mechanisms intended to thwart attacks on AI models. Results from this analysis led NIST to conclude that there are no guardrails universally robust enough to withstand adversarial attacks and the prompts available to jailbreak systems. Mr. Vassilev stated that to protect against such attacks, proactive adoption of adaptive defense strategies is necessary. These strategies should include continuous in-house red teaming and ongoing updates to guardrails, with the goal of discouraging adversaries by raising the threshold for the effort required to exploit LLMs. To support these strategic efforts, NIST plans to update the NIST 100-2 E2025, Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations [10], to include agentic AI and the landscape of its attacks and potential mitigations to support the AI security community. Mr. Vassilev also noted the connection to the COSAiS project and this effort.

Vassilev 氏は、敵対的 AI の一部とみなされる分野の概要を説明して話を始め、静的なチャットボットから、助言を行い、ワークフローを自動化するのに役立つ行動も実行するエージェント型 AI への移行を示す傾向が現れていると指摘しました。Vassilev 氏は、エージェント型 AI は生産性を向上させうる一方で、攻撃者が悪用できる攻撃対象領域を同時に拡大させると述べました。Vassilev 氏は、過去 3 年から 5 年にわたり、大規模言語モデル(LLM)が公開され、その公開から数日以内に、その LLM に対する攻撃が成功したという報告が現れるというパターンが繰り返されてきたと指摘しました。このパターンが存在する理由を理解するため、NIST は、AI モデルへの攻撃を阻止することを目的としたガードレールの仕組みの堅牢性について、厳密な数学的分析を行ったと Vassilev 氏は説明しました。この分析の結果から NIST は、敵対的攻撃や、システムを脱獄するために利用できるプロンプトに耐えるのに十分なほど普遍的に堅牢なガードレールは存在しないと結論づけました。Vassilev 氏は、こうした攻撃から保護するには、適応型の防御戦略を積極的に採用する必要があると述べました。これらの戦略には、継続的な社内レッドチーミングとガードレールの継続的な更新が含まれるべきであり、LLM を悪用するために必要な労力の閾値を引き上げることで、攻撃者の意欲を削ぐことを目標とします。これらの戦略的な取り組みを支援するため、NIST は、NIST 100-2 E2025, Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations [10] を更新し、エージェント型 AI と、その攻撃および潜在的な緩和策の状況を含めて AI セキュリティコミュニティを支援する予定です。Vassilev 氏は、COSAiS プロジェクトとこの取り組みとのつながりにも言及しました。

2.2.4. Dioptra (Mr. Harold Booth, NIST)
2.2.4. Dioptra(Harold Booth 氏、NIST)

Mr. Booth provided a description of Dioptra [11], noting that it serves as a test platform that allows evaluations of different AI systems in a reproducible manner and tracks their inputs and outputs, understanding the different models and scenarios as they relate to those inputs and outputs. Mr. Booth also gave an overview of the different use cases for Dioptra, enabling individuals, based on their areas of expertise, to obtain specific insights that can inform their work. Use cases mentioned by Mr. Booth included using Dioptra to conduct testing that supports the characterization and evaluation of an AI system prior to deployment as well as using Dioptra by researchers to understand how attacks and defenses might perform relative to a new model or training technique. Mr. Booth noted that Dioptra is available on GitHub as an open-source project, is in the process of being updated to version 1.1 (both the test platform and its associated documentation), and includes new features such as built-in support for artifact handling.

Booth 氏は Dioptra [11] について説明し、これはさまざまな AI システムの評価を再現可能な方法で行えるようにするテストプラットフォームであり、それらの入力と出力を追跡して、入力と出力に関連するさまざまなモデルとシナリオを理解できるようにするものだと述べました。Booth 氏はまた、Dioptra のさまざまなユースケースの概要も説明し、個人が専門分野に基づいて、自らの作業に役立つ具体的な知見を得られることを示しました。Booth 氏が挙げたユースケースには、展開前の AI システムの特性評価と評価を支援するテストの実施に Dioptra を使用すること、また、新しいモデルや学習手法に対して攻撃や防御がどのように機能しうるかを理解するために研究者が Dioptra を使用することが含まれました。Booth 氏は、Dioptra はオープンソースプロジェクトとして GitHub で公開されており、(テストプラットフォームと関連文書の両方について)バージョン 1.1 への更新作業が進行中で、成果物の取り扱いの組込みサポートなどの新機能が含まれると述べました。

2.2.5. Secure Software Development Framework (SSDF) AI Profile (Mr. Harold Booth, NIST)
2.2.5. Secure Software Development Framework(SSDF)AI Profile(Harold Booth 氏、NIST)

Mr. Booth also gave an overview of the SSDF AI Profile (NIST SP 800-218A, Secure Software Development Practices for Generative AI and Dual-Use Foundation Models: An SSDF Community Profile) [12]. Mr. Booth explained that the goal is to make the Profile broadly applicable to AI systems and to examine what is unique or new in AI system development. For example, system developers must also consider the larger scale of data used by AI systems, as well as the reliability and protection mechanisms against attacks, and data management activities such as cleaning and pre-processing. When developing AI systems, data and code must be tracked to understand what happens with data from the moment it is collected and how it is fed into training systems. Mr. Booth also noted that organizations need to be aware that reusing third-party AI models can introduce security concerns, such as providing threat vectors for adversaries to exploit NIST is assessing the timeline for updating the SSDF AI Profile published in July 2024. The SSDF [13], which serves as the basis for the SSDF AI Profile, was recently updated to version 1.2 (initial public draft [IPD]) [14], consistent with Executive Order 14306 [15]. The public comment period for the SSDF was from December 2025 to January 2026.

Booth 氏はまた、SSDF AI Profile(NIST SP 800-218A, Secure Software Development Practices for Generative AI and Dual-Use Foundation Models: An SSDF Community Profile)[12] の概要も説明しました。Booth 氏は、目標は Profile を AI システムに広く適用できるものにすることと、AI システム開発で独特なもの、または新しいものを検討することだと説明しました。たとえば、システム開発者は、AI システムが使用するデータのより大きな規模、攻撃に対する信頼性と保護の仕組み、クリーニングや前処理などのデータ管理活動も考慮しなければなりません。AI システムを開発するときには、データが収集された時点から何が起こり、どのように学習システムに投入されるかを理解するために、データとコードを追跡しなければなりません。Booth 氏はまた、サードパーティの AI モデルを再利用すると、攻撃者が悪用できる脅威ベクトルをもたらすなど、セキュリティ上の懸念が生じうることを、組織は認識する必要があると指摘しました。NIST は、2024年7月に公開された SSDF AI Profile を更新する時期を評価しています。SSDF AI Profile の基礎となる SSDF [13] は、大統領令 14306 [15] に沿って、最近バージョン 1.2(初期公開ドラフト [IPD])[14] に更新されました。SSDF のパブリックコメント期間は、2025年12月から2026年1月まででした。

2.2.6. Privacy Enhancing Technologies (PETs) Testbed (Dr. Gary Howarth, NIST)
2.2.6. Privacy Enhancing Technologies(PETs)Testbed(Gary Howarth 博士、NIST)

The PETs program conducts investigations into privacy-enhancing technologies, which are technical tools or controls intended to reduce privacy risks arising from the collection, sharing, and processing of potentially sensitive data. Mr. Howarth described the PETs program [16] as producing guidelines and frameworks to evaluate and manage privacy risks. Mr. Howarth shared that NIST is developing the PETs testbed at the NCCoE, which will include benchmark data and model test deployments to demonstrate how PETs are deployed and investigate trade-offs, with the goal of creating a comprehensive set of tools to guide organizations when selecting and deploying PETs and managing privacy risks. Mr. Howarth continued by stating that PETs programs, to include the NIST Collaborative Research Cycle (CRC) [17], are complementary to AI risk management efforts. The CRC program is the largest collection of synthetic data for benchmarking exercises related to privacy. Under the CRC program, NIST is analyzing the consequences of using and training AI/ML with synthetic data and is exploring the impacts on AI/ML performance.

PETs プログラムは、プライバシー強化技術について調査を行っています。これは、機微な可能性のあるデータの収集、共有、処理から生じるプライバシーリスクを低減することを意図した技術的なツールまたは管理策です。Howarth 氏は、PETs プログラム [16] は、プライバシーリスクを評価し管理するためのガイドラインとフレームワークを作成していると説明しました。Howarth 氏は、NIST が NCCoE で PETs テストベッドを開発しており、これにはベンチマークデータとモデルのテスト展開が含まれ、PETs がどのように展開されるかを示し、トレードオフを調査して、PETs の選択と展開、およびプライバシーリスクの管理において組織を導く包括的なツール群を作ることを目標としていると述べました。Howarth 氏は続けて、NIST Collaborative Research Cycle(CRC)[17] を含む PETs プログラムは、AI リスク管理の取り組みを補完するものだと述べました。CRC プログラムは、プライバシーに関連するベンチマーク演習のための合成データの最大の集合です。CRC プログラムの下で、NIST は、合成データを使用して AI/ML を学習させ、使用した場合の影響を分析しており、AI/ML の性能への影響を調べています。

Mr. Howarth spoke about a second program that is demonstrating how to apply privacy-preserving federated learning (PPFL). Federated learning connects ML among unconnected devices, enabling increases to both compute power and the amount of data available to train ML algorithms. PPFL introduces important privacy considerations, which NIST’s privacy-preserving federated learning platform is being used to investigate. NIST is asking questions about how different privatization mechanisms affect ML performance and which security and privacy controls are needed. NIST plans to publish model code as well as a complementary privacy and cybersecurity threat modeling example that shows the types of threats that PPFL is attempting to manage and applicable privacy and cybersecurity controls. Mr. Howarth concluded by noting that reducing privacy threats requires a strong cybersecurity foundation and emphasized that using synthetic data alone does not adequately protect privacy unless the original data is also secured.

Howarth 氏は、プライバシー保護連合学習(PPFL)の適用方法を実証している 2 つ目のプログラムについても話しました。連合学習は、つながっていないデバイス間で ML を結び付け、計算能力と、ML アルゴリズムの学習に利用できるデータ量の両方を増やせるようにします。PPFL は重要なプライバシー上の考慮事項をもたらし、NIST のプライバシー保護連合学習プラットフォームがその調査に使われています。NIST は、さまざまな秘匿化メカニズムが ML の性能にどのように影響するか、どのようなセキュリティ管理策とプライバシー管理策が必要かについて問いを立てています。NIST は、モデルコードに加えて、PPFL が管理しようとしている脅威の種類と、適用可能なプライバシー管理策およびサイバーセキュリティ管理策を示す、プライバシーとサイバーセキュリティの脅威モデリングの補完的な例を公開する予定です。Howarth 氏は、プライバシーの脅威を低減するには強固なサイバーセキュリティ基盤が必要であると述べ、元のデータも保護されていない限り、合成データを使用するだけではプライバシーを十分に保護できないことを強調して締めくくりました。

2.2.7. Agent Identities (Mr. Ryan Galluzzo, NIST)
2.2.7. エージェントのアイデンティティ(Ryan Galluzzo 氏、NIST)

Mr. Galluzzo opened by acknowledging that AI agents are starting to change the context and conversation around traditional cybersecurity controls, including regarding issues on agent access and identifying agents operating in organizations, how to authenticate an agent and verify it is what it claims to be, and how to authorize and manage access on an ongoing basis for agents to engage with data or take particular action, such as accessing data or resources, and necessary restrictions on those actions to address concerns that may result from data aggregation.

Galluzzo 氏は、AI エージェントが、従来のサイバーセキュリティ管理策をめぐる状況と議論を変え始めていることを認めて話を始めました。これには、エージェントのアクセスや、組織内で動作するエージェントの識別に関する問題、エージェントを認証し、それが主張どおりのものであることを検証する方法、エージェントがデータとやり取りしたり、データやリソースへのアクセスなどの特定の行動をとったりするためのアクセスを継続的に認可し管理する方法、そしてデータ集約から生じうる懸念に対処するためのそれらの行動への必要な制限が含まれます。

NIST is examining the current state of the identity management space and the tools applied today to individual users and to certain software—or machine-to-machine-based systems—and how that context is changing with systems that can ingest external or internal data sources, analyze them, and potentially take actions [18][19]. Mr. Galluzzo explained that this analysis helps NIST understand the areas of change and impact to existing standards and any solutions, including determining if existing standards can be applied or updated, if new guidance (e.g., Profiles) may be needed to address gaps and new context, how to build in a reference architecture that will inform configuration, or recommended best practices.

NIST は、アイデンティティ管理分野の現状と、現在個々のユーザーや特定のソフトウェア(またはマシン間ベースのシステム)に適用されているツール、そして、外部または内部のデータソースを取り込み、分析し、行動をとる可能性のあるシステムによって、その状況がどのように変わりつつあるかを調べています [18][19]。Galluzzo 氏は、この分析は、変化の領域と、既存の標準およびあらゆる解決策への影響を NIST が理解するのに役立つと説明しました。これには、既存の標準を適用または更新できるか、ギャップと新たな状況に対処するために新しいガイダンス(たとえば Profile)が必要となるか、構成や推奨されるベストプラクティスの指針となるリファレンスアーキテクチャをどのように組み込むかの判断が含まれます。

The Agent Identities work focuses on understanding and creating authorization flows and delegations pertaining to created agents, specifically determining the individual(s) who will be accountable for actions the AI system may take and how to bind the identity of that individual to the actions the agent is taking so organizations can audit, log, and understand the chains of trust related to agent actions. This work also considers human-in-the-loop scenarios, such as specifying who is notified and who decides whether to grant access when an agent tries to access data it is not authorized to use. Mr. Galluzzo concluded by noting that it is important to understand the balance between the benefits of agents operating within an enterprise and the need to protect the information an agent might access to preserve privacy, security, and confidentiality, to help inform where adaptations may be needed.

エージェントのアイデンティティに関する取り組みは、作成されたエージェントに関する認可フローと委任を理解し、作成することに重点を置いています。具体的には、AI システムがとりうる行動に責任を負う個人を特定すること、および、組織がエージェントの行動に関する信頼の連鎖を監査し、記録し、理解できるよう、その個人のアイデンティティをエージェントがとっている行動に結び付ける方法を特定することです。この取り組みでは、エージェントが使用を許可されていないデータにアクセスしようとしたときに、誰に通知し、誰がアクセスを許可するかを決めるなど、ヒューマン・イン・ザ・ループのシナリオも検討します。Galluzzo 氏は、どこで適応が必要になるかを判断する材料とするために、企業内でエージェントが動作することの利点と、プライバシー、セキュリティ、機密性を維持するためにエージェントがアクセスしうる情報を保護する必要性とのバランスを理解することが重要であると述べて締めくくりました。

NIST is planning to propose an NCCoE collaboration project through an initial concept paper based on use cases, including how to deploy agents at scale, with the goal of launching an NCCoE demonstration project that includes industry involvement.

NIST は、エージェントを大規模に展開する方法を含むユースケースに基づく初期のコンセプトペーパーを通じて、NCCoE の協力プロジェクトを提案することを計画しており、産業界の参加を含む NCCoE のデモンストレーションプロジェクトを立ち上げることを目標としています。

2.2.8. NCCoE Chatbot (Mr. Daniel Lee, NIST NCCoE/MITRE)
2.2.8. NCCoE チャットボット(Daniel Lee 氏、NIST NCCoE/MITRE)

Mr. Lee opened with an overview of the NCCoE Chatbot [20], stating that the Chatbot was designed to increase the efficiency and ease of conducting searches on the wealth of information the NCCoE has available on its website. The NCCoE Chatbot uses a customized retrieval-augmented generation (RAG)-based LLM to assist with searching large amounts of data. The customized RAG-LLM includes a metadata layer designed to “filter down” the search index, focusing on specific keywords or information before the Chatbot conducts a semantic similarity vector comparison to produce its search results. Mr. Lee noted that including the metadata layer in the Chatbot is intended to address the lag in responses that occurs as the search index grows.

Lee 氏は NCCoE チャットボット [20] の概要を説明して話を始め、このチャットボットは、NCCoE がウェブサイトで提供している豊富な情報の検索の効率と容易さを高めるために設計されたと述べました。NCCoE チャットボットは、大量のデータの検索を支援するために、カスタマイズされた検索拡張生成(RAG)ベースの LLM を使用しています。カスタマイズされた RAG-LLM には、チャットボットが意味的類似性のベクトル比較を行って検索結果を生成する前に、特定のキーワードや情報に焦点を当てて検索インデックスを「絞り込む」ように設計されたメタデータ層が含まれています。Lee 氏は、チャットボットにメタデータ層を含めるのは、検索インデックスが大きくなるにつれて生じる応答の遅延に対処するためであると述べました。

Mr. Lee shared that NIST Interagency Report (IR) 8579 (IPD), “Developing the NCCoE Chatbot: Technical and Security Learnings from the Initial Implementation” [21], provides information on the NCCoE Chatbot as well as security considerations when developing prompts to support trust. NIST IR 8579 also includes details on the reasoning behind the types of metadata information used in metadata indexing and filtering.

Lee 氏は、NIST Interagency Report(IR)8579(IPD)、“Developing the NCCoE Chatbot: Technical and Security Learnings from the Initial Implementation” [21] が、NCCoE チャットボットに関する情報と、信頼を支えるプロンプトを開発する際のセキュリティ上の考慮事項を提供していると述べました。NIST IR 8579 には、メタデータのインデックス作成とフィルタリングで使用するメタデータ情報の種類の背景にある理由の詳細も含まれています。

2.2.9. Collaboration Across Programs
2.2.9. プログラム間の連携

The panelists also discussed the importance that NIST places on collaboration across programs. For example, there are collaboration touchpoints between the NCCoE agent identity work and the CAISI agent work. NIST also develops guidelines, such as the Cyber AI Profile, that provide a high-level understanding of cybersecurity outcomes and objectives and specific recommendations on how to achieve them, using, for example, COSAiS for specific AI types.

パネリストは、NIST がプログラム間の連携を重視していることについても議論しました。たとえば、NCCoE のエージェントのアイデンティティに関する取り組みと CAISI のエージェントに関する取り組みの間には、連携の接点があります。NIST はまた、Cyber AI Profile のように、サイバーセキュリティの成果と目的を高い水準で理解するためのガイドラインと、それらを達成する方法についての具体的な推奨事項を策定しており、たとえば特定の種類の AI には COSAiS を使用します。

2.3. Presentation: NIST Strategy for American Leadership in the 21st Century: Emerging Technology Accelerators (including the “AI Accelerator”) (Dr. Craig Schlenoff, NIST)

2.3. 発表: NIST Strategy for American Leadership in the 21st Century: Emerging Technology Accelerators(「AI Accelerator」を含む)(Craig Schlenoff 博士、NIST)

Dr. Schlenoff opened with an overview of the Administration’s science and technology priorities and how those priorities are shaping emerging research on technologies such as AI and quantum information technology (QIT). NIST, guided by the Administration’s priorities, developed the NIST Strategy for American Technology Leadership in the 21st Century, which includes AI considerations across its four areas. Dr. Schlenoff focused the discussion on specific areas related to American AI innovation and the acceleration of manufacturing productivity; protecting and securing U.S. critical infrastructure; measuring AI system performance, reliability, and security; and rapidly evaluating AI system capabilities to promote AI innovation, which aligns with work under CAISI.

Schlenoff 博士は、政権の科学技術の優先事項と、それらの優先事項が AI や量子情報技術(QIT)などの技術に関する新たな研究をどのように形づくっているかの概要を説明して話を始めました。NIST は、政権の優先事項に導かれて、4 つの分野すべてにわたって AI に関する考慮事項を含む NIST Strategy for American Technology Leadership in the 21st Century を策定しました。Schlenoff 博士は、米国の AI イノベーションと製造業の生産性向上の加速、米国の重要インフラの保護とセキュリティ確保、AI システムの性能・信頼性・セキュリティの測定、そして AI イノベーションを促進するための AI システム能力の迅速な評価(CAISI の取り組みと整合するもの)に関連する具体的な分野に議論の焦点を当てました。

Moving to the discussion on the Emerging Technology Accelerators, Dr. Schlenoff mentioned the December 2025 establishment of the “AI Accelerator,” [22] which will include the “AI Economic Security Center for U.S. Manufacturing Productivity” and the “AI Economic Security Center to Secure U.S. Critical Infrastructure from Cyberthreats.” Dr. Schlenoff provided overviews of each of these areas in the AI Accelerator. Dr. Schlenoff acknowledged that these areas remain broad and NIST remains consistently active in collaboration and outreach with the community to understand key challenges where impact can be made, highlighting that collaborations with industry, academia, and others are leveraged to inform conversations that identify core challenges that can be solved and work closely with those stakeholders to do so. Dr. Schlenoff noted that there are opportunities to involve academia, whether during pre-standardization development (e.g., participation in research that will inform the standards) or during standard development (e.g., through standards bodies). NIST is working with academic partners but is open to exploring increased engagement and involvement.

Emerging Technology Accelerators に関する議論に移り、Schlenoff 博士は、「AI Economic Security Center for U.S. Manufacturing Productivity」と「AI Economic Security Center to Secure U.S. Critical Infrastructure from Cyberthreats」を含む「AI Accelerator」[22] が2025年12月に設立されたことに言及しました。Schlenoff 博士は、AI Accelerator のこれらの各分野について概要を説明しました。Schlenoff 博士は、これらの分野は依然として広範囲にわたり、NIST は、影響を及ぼせる主要な課題を理解するために、コミュニティとの協力とアウトリーチに一貫して積極的に取り組んでいることを認め、産業界、学術界などとの協力を活用して、解決可能な中核的課題を特定する議論に役立て、それらの関係者と緊密に連携して課題の解決に取り組んでいることを強調しました。Schlenoff 博士は、標準化前の開発段階(たとえば、標準に反映される研究への参加)でも、標準策定の段階(たとえば、標準化団体を通じて)でも、学術界を巻き込む機会があると指摘しました。NIST は学術界のパートナーと連携していますが、関与と参加の拡大を探ることにも前向きです。

Dr. Schlenoff explained that NIST’s strategy is to create “unprecedented AI ‘gold standards’”. The AI Accelerator Hub builds on work by the NIST Research Labs, combined with “spokes” that leverage public-private partnerships and collaboration. The AI Accelerator is focused on driving impact and understanding the disruptive, transformative technologies that can be implemented to deliver fundamental, significant changes in a short period of time (e.g., 3 years). Dr. Schlenoff noted that the Cyber AI Profile work and outcomes from the associated workshops will provide foundational input to the AI Accelerator Hub.

Schlenoff 博士は、NIST の戦略は「前例のない AI の『ゴールドスタンダード』」を作ることだと説明しました。AI Accelerator Hub は、NIST 研究所の取り組みを土台とし、官民のパートナーシップと協力を活用する「スポーク」と組み合わされています。AI Accelerator は、影響をもたらすことと、短期間(たとえば 3 年)で根本的で重大な変化をもたらすために実装できる破壊的で変革的な技術を理解することに重点を置いています。Schlenoff 博士は、Cyber AI Profile の取り組みと関連するワークショップの成果が、AI Accelerator Hub に基礎的な入力を提供すると指摘しました。

Dr. Schlenoff concluded his presentation by inviting the community to participate in these collaborations.

Schlenoff 博士は、コミュニティにこれらの協力への参加を呼びかけて発表を締めくくりました。

2.4. Cyber AI Profile Preliminary Draft

2.4. Cyber AI Profile 予備ドラフト

The following sections contain information shared during the presentation of the Cyber AI Profile and summaries of each of the three Cyber AI Profile afternoon breakout sessions.

以下の各節には、Cyber AI Profile の発表中に共有された情報と、Cyber AI Profile の 3 つの午後のブレイクアウトセッションそれぞれの概要が含まれます。

2.4.1. Presentation: Overview of the Cyber AI Profile Preliminary Draft (Ms. Julie Snyder, NCCoE/MITRE)
2.4.1. 発表: Cyber AI Profile 予備ドラフトの概要(Julie Snyder 氏、NCCoE/MITRE)

Ms. Snyder opened with an overview of the NIST CSF 2.0 and CSF Profiles, noting that Community Profiles, such as the Cyber AI Profile, can help organizations understand the community’s cybersecurity direction and collective priorities. Organizations can use Community Profiles to inform their own strategic direction and roadmap and to address gaps between their own cybersecurity activities and those prioritized in a Community Profile.

Snyder 氏は、NIST CSF 2.0 と CSF プロファイルの概要を説明して話を始め、Cyber AI Profile のようなコミュニティプロファイルは、組織がコミュニティのサイバーセキュリティの方向性と共通の優先事項を理解するのに役立つと指摘しました。組織は、コミュニティプロファイルを使って、自らの戦略的な方向性とロードマップを方向づけ、自らのサイバーセキュリティ活動とコミュニティプロファイルで優先されている活動との間のギャップに対処できます。

Ms. Snyder then spoke specifically about the Cyber AI Profile and how collaborative discussions informed its development. The Profile is designed to be broadly applicable, so organizations can implement it in ways that support many different AI adoption and use scenarios and a variety of roles, including developing AI systems, using AI technologies, capitalizing on cybersecurity capabilities AI can provide, and seeking to better understand and defend against adversarial use of AI to conduct attacks. This approach focuses the Profile on cybersecurity and AI-specific opportunities and concerns when designing or deploying an AI system, rather than on providing engineering guidance.

Snyder 氏は続いて、Cyber AI Profile について具体的に述べ、協力的な議論がその策定にどのように反映されたかを説明しました。Profile は幅広く適用できるように設計されており、組織は、AI システムの開発、AI 技術の使用、AI が提供できるサイバーセキュリティ能力の活用、AI を使って攻撃を行う敵対的な利用の理解と防御の向上の追求など、さまざまな AI の導入・利用シナリオと多様な役割を支援する方法で実装できます。このアプローチにより、Profile は、エンジニアリングのガイダンスを提供するのではなく、AI システムを設計または展開する際のサイバーセキュリティと AI 固有の機会および懸念に焦点を当てています。

Ms. Snyder reviewed the three Focus Areas in the Profile—Securing AI System Components (Secure), Conducting AI-Enabled Cyber Defense (Defend), and Thwarting AI-Enabled Cyber Attacks (Thwart)—and shared a brief description of each, noting relationships and distinctions among the three Focus Areas. The Focus Areas reflect feedback that the NCCoE heard from the community. Ms. Snyder noted that all three Focus Areas include sample considerations, with the Defend Focus Area’s considerations specifically aimed at sample opportunities that highlight how AI can enhance cybersecurity programs and activities.

Snyder 氏は、Profile の 3 つのフォーカスエリア、すなわち AI システムコンポーネントの保護(Secure)、AI を活用したサイバー防御の実施(Defend)、AI を活用したサイバー攻撃の阻止(Thwart)を確認し、それぞれの簡単な説明を紹介するとともに、3 つのフォーカスエリアの関係と違いを指摘しました。フォーカスエリアは、NCCoE がコミュニティから聞いたフィードバックを反映しています。Snyder 氏は、3 つのフォーカスエリアのすべてに考慮事項のサンプルが含まれており、Defend フォーカスエリアの考慮事項は、AI がサイバーセキュリティプログラムや活動をどのように強化できるかを示す機会のサンプルを特に対象としていると指摘しました。

The Profile’s tables contain general and Focus Area-specific considerations for the CSF Subcategories, proposed priorities, and Informative References (i.e., related publicly available standards and guidelines as well as related research). Subcategory priorities are intended to reflect the relative importance of the overall cybersecurity strategy, combined with the areas most impacted within an organization. CSF Profiles, such as the Cyber AI Profile, include references to additional relevant standards and guidance that organizations and communities can incorporate into their efforts to achieve specific cybersecurity outcomes.

Profile の表には、CSF サブカテゴリに対する一般的な考慮事項とフォーカスエリア固有の考慮事項、提案される優先度、参考情報(すなわち、関連する公開されている標準とガイドライン、および関連する研究)が含まれています。サブカテゴリの優先度は、サイバーセキュリティ戦略全体の相対的な重要性と、組織内で最も影響を受ける領域を組み合わせて反映することを意図しています。Cyber AI Profile のような CSF プロファイルには、特定のサイバーセキュリティ成果を達成する取り組みに、組織やコミュニティが取り入れることのできる、関連する追加の標準とガイダンスへの参照が含まれています。

Ms. Snyder concluded by sharing that the afternoon breakout sessions would be exploring the general questions in the “Note to Reviewers” as well as Focus Area-specific questions.

Snyder 氏は、午後のブレイクアウトセッションでは、「Note to Reviewers」にある一般的な質問と、フォーカスエリア固有の質問を検討する予定であると述べて締めくくりました。

2.4.2. Afternoon Breakout Session Track A – Secure Focus Area
2.4.2. 午後のブレイクアウトセッション トラック A – Secure フォーカスエリア

This breakout session focused on the Secure Focus Area, which supplements existing cybersecurity and risk management best practices to address novel, expanded, and altered attack surfaces associated with the integration of AI systems into an organization, its ecosystems, and its infrastructure. This Focus Area covers the AI systems themselves, their supply chains, including data and machine learning infrastructure, and the other systems and data that the AI system relies on.

このブレイクアウトセッションは、組織、そのエコシステム、そのインフラストラクチャへの AI システムの統合に伴う、新しい、拡大した、変化した攻撃対象領域に対処するために、既存のサイバーセキュリティとリスク管理のベストプラクティスを補完する Secure フォーカスエリアに焦点を当てました。このフォーカスエリアは、AI システム自体、データや機械学習基盤を含むそのサプライチェーン、および AI システムが依存するその他のシステムとデータを対象としています。

Track A Themes
トラック A のテーマ

The Secure Focus Area breakouts spent significant time on governance-related topics, particularly accountability, ownership, and risk management. One of the key challenges and concerns stressed by participants across all Track A sessions was that AI governance moves more slowly than AI innovation. Additionally, practitioners are struggling to identify and explain AI and AI risk, including finding where AI lives in their environments. Accountability, in particular, garnered attention with subtopics including AI visibility within organizations, understanding responsibilities for specific roles (e.g., developer, deployer, user), the increasing complexity of human oversight as agentic AI capabilities expand, and concerns over the relationship between accountability and liability. The lack of clarity in these areas makes it difficult to identify and manage AI risks.

Secure フォーカスエリアのブレイクアウトでは、ガバナンスに関連するトピック、特に説明責任、所有権、リスク管理に多くの時間が費やされました。トラック A のすべてのセッションで参加者が強調した主な課題と懸念の一つは、AI ガバナンスが AI イノベーションよりも遅いペースで進んでいることでした。さらに、実務担当者は、環境内のどこに AI があるかを見つけることを含め、AI と AI リスクを特定し説明することに苦労しています。特に説明責任は注目を集め、組織内での AI の可視性、特定の役割(たとえば、開発者、展開者、利用者)に対する責任の理解、エージェント型 AI の能力が拡大するにつれて増す人間による監督の複雑さ、説明責任と法的責任の関係に関する懸念といったサブトピックが挙がりました。これらの領域が明確でないことが、AI リスクの特定と管理を困難にしています。

Participants also focused on tactical needs, such as AI impact assessments that integrate with other risk management processes (e.g., application and data risk assessments) and that are not overly burdensome. The CSF and Cyber AI Profile are generally considered useful starting points for shaping AI risk assessments. Participants also discussed procurement challenges, including AI Bill of Materials (AIBOM), the need for guidance when purchasing AI-related technologies and components (e.g., libraries, models, data), and how to incorporate AI considerations into vendor risk assessments.

参加者はまた、他のリスク管理プロセス(たとえば、アプリケーションとデータのリスクアセスメント)と統合され、過度に負担とならない AI 影響評価など、戦術面のニーズにも焦点を当てました。CSF と Cyber AI Profile は、AI のリスクアセスメントを形づくる出発点として一般に有用だと考えられています。参加者はまた、AI 部品表(AIBOM)、AI 関連の技術やコンポーネント(たとえば、ライブラリ、モデル、データ)を購入する際のガイダンスの必要性、AI に関する考慮事項をベンダーのリスクアセスメントに組み込む方法など、調達上の課題についても議論しました。

Track A Input Offered by Participants
参加者から寄せられたトラック A への意見

Participants engaged in a facilitated discussion and shared insights specific to the following topic areas for the Secure Focus Area:

参加者は、ファシリテーターのもとで議論を行い、Secure フォーカスエリアについて、次のトピック領域に固有の知見を共有しました。

•Accountability for AI-driven decisions is a critical component, including how to separate or designate accountability, and the request for guidance on how to define and assign accountability.

•AI による意思決定に対する説明責任は重要な要素であり、これには、説明責任を分離または指定する方法や、説明責任の定義と割り当て方法に関するガイダンスの要望が含まれます。

•Participants indicated that responsibility for AI-driven decisions typically falls on those lines of business deploying the AI but noted that responsibility may shift among different lines of business.

•参加者は、AI による意思決定に対する責任は、通常、AI を展開する事業部門にあると述べましたが、責任は異なる事業部門の間で移ることがあるとも指摘しました。

•Participants discussed whether and how to separate or designate accountability, raising topics such as:

•参加者は、説明責任を分離または指定するかどうか、またどのように行うかについて議論し、次のようなトピックを挙げました。

•Clear lines of responsibility that need to exist for “developer vs. deployer vs. user” of AI systems, to include who is responsible if the systems are deployed “out of the box” or are modified.

•AI システムの「開発者、展開者、利用者」について存在する必要がある明確な責任の所在。システムが「そのまま」展開された場合や変更された場合に誰が責任を負うかを含みます。

•Concerns about the provenance of agents developed by third parties, as well as the owner and arbiter of data that is relied upon by AI systems. One of the participants offered an example of an energy company using a chatbot to respond to inquiries with safety implications, and if, in doing so, a hallucination leads to harm, the liability will fall to the energy company even if the energy company did not develop the chatbot.

•サードパーティが開発したエージェントの出所、および AI システムが依拠するデータの所有者と判断者に関する懸念。参加者の一人は、エネルギー会社が、安全性に関わる問い合わせへの回答にチャットボットを使用する例を挙げ、その際にハルシネーションが被害につながった場合、エネルギー会社がそのチャットボットを開発していなくても、法的責任はエネルギー会社に及ぶと述べました。

•Participants also cautioned that the term “accountability” could be interpreted as “liability.”

•参加者はまた、「説明責任」という用語が「法的責任」と解釈されうることに注意を促しました。

•Approaches to governance are varied. While some organizations are establishing multidisciplinary governance bodies and boards with members representing a variety of expertise, including legal and marketing, other organizations are evolving governance structures that focus on roles such as a Chief AI Officer, similar to a Chief Information Officer (CIO) or Chief Privacy Officer (CPO).

•ガバナンスへのアプローチはさまざまです。法務やマーケティングを含むさまざまな専門知識を持つメンバーで構成される学際的なガバナンス組織や委員会を設置している組織がある一方で、最高情報責任者(CIO)や最高プライバシー責任者(CPO)と同様に、最高 AI 責任者などの役割に焦点を当てたガバナンス体制を発展させている組織もあります。

•Technical challenges exist related to securing enterprise AI systems.

•企業の AI システムの保護に関連する技術的な課題があります。

•Participants noted it can be difficult to determine where AI systems, including “shadow AI,” are in an enterprise and what components outside the enterprise the AI might need to access. Understanding these AI deployments is a precursor to securing the AI system.

•参加者は、「シャドー AI」を含む AI システムが企業内のどこにあるか、また AI が企業外のどのコンポーネントにアクセスする必要があるかを判断することが困難な場合があると指摘しました。こうした AI の展開を理解することは、AI システムを保護するための前提条件です。

•Regarding vendors and vendor-provided technologies, participants stressed difficulties in managing AI risk in vendor technologies, with some vendors being more helpful in mitigating risk than others. Participants also mentioned it is not possible to clearly understand which vendors are securing or developing AI “properly,” and this knowledge gap further complicates the procurement process.

•ベンダーとベンダーが提供する技術に関して、参加者は、ベンダーの技術における AI リスクの管理の難しさを強調し、リスクの低減に他よりも協力的なベンダーもあると述べました。参加者はまた、どのベンダーが AI を「適切に」保護または開発しているかを明確に把握することはできないと述べ、この知識のギャップが調達プロセスをさらに複雑にしています。

•Another area participants stressed was how to fail gracefully and revert to normal operations when AI systems do not operate as intended (i.e., cyber resiliency for operating AI, rollback of AI systems).

•参加者が強調したもう一つの領域は、AI システムが意図どおりに動作しない場合に、段階的に機能を縮退させ、通常の運用に戻す方法(すなわち、AI を運用するためのサイバーレジリエンス、AI システムのロールバック)でした。

•Specific CSF Category topics on encryption of data in transit (PR.DS-02), authentication needs (PR.AA), and continuous monitoring (DE.CM), including which information should be logged from AI systems, also arose as areas with considerations to address.

•通信中のデータの暗号化(PR.DS-02)、認証のニーズ(PR.AA)、継続的モニタリング(DE.CM。AI システムからどの情報を記録すべきかを含む)に関する特定の CSF カテゴリのトピックも、対処すべき考慮事項のある領域として挙がりました。

2.4.3. Afternoon Breakout Session Track B – Defend Focus Area
2.4.3. 午後のブレイクアウトセッション トラック B – Defend フォーカスエリア

This session explored the Defend Focus Area, which concentrates on identifying opportunities to use AI to support cybersecurity programs and activities and understanding the challenges that come from doing so. Participants identified opportunities to enhance cyber defense capabilities using AI, including mission assurance, predictive and proactive applications, investigation and analysis, and response and remediation. The purpose of this track was to review the Defend Focus Area content presented in the Cyber AI Profile preliminary draft and discuss feedback for creating the final version of this section.

このセッションでは、サイバーセキュリティプログラムや活動を支援するために AI を使用する機会を特定することと、そうする際に生じる課題を理解することに重点を置く Defend フォーカスエリアを検討しました。参加者は、ミッション保証、予測的かつ事前対応的な応用、調査と分析、対応と是正など、AI を使ってサイバー防御能力を強化する機会を特定しました。このトラックの目的は、Cyber AI Profile 予備ドラフトで示された Defend フォーカスエリアの内容を確認し、この節の最終版を作成するためのフィードバックについて議論することでした。

Track B Themes
トラック B のテーマ

Recurring comments from the Defend Focus Area included challenges related to the testing and evaluation of AI systems for defense, leveraging AI to combat insider threats, using AI in penetration testing and continuous monitoring, monitoring AI agents (e.g., monitoring AI agents using other AI agents), leveraging AI in the CSF’s Respond and Recover Functions, and ensuring that the Profile can be used by organizations of varying size and resource levels.

Defend フォーカスエリアで繰り返し挙がったコメントには、防御のための AI システムのテストと評価に関する課題、AI を活用した内部脅威への対抗、ペネトレーションテストと継続的モニタリングでの AI の使用、AI エージェントの監視(たとえば、他の AI エージェントを使った AI エージェントの監視)、CSF の対応(RESPOND)機能と復旧(RECOVER)機能での AI の活用、さまざまな規模とリソースレベルの組織が Profile を使用できるようにすることが含まれました。

Track B Input Offered by Participants
参加者から寄せられたトラック B への意見

Participants engaged in a facilitated discussion and shared insights specific to the following topics for the Defend Focus Area:

参加者は、ファシリテーターのもとで議論を行い、Defend フォーカスエリアについて、次のトピックに固有の知見を共有しました。

•Opportunities exist to emphasize how to use AI to create and use AI Security Operations Centers (SOCs).

•AI を使って AI セキュリティオペレーションセンター(SOC)を構築し利用する方法を重視する機会があります。

•Participants discussed accountability in the context of “Defend”, and who is responsible and accountable if an AI-enabled cyber defense tool fails in a critical moment.

•参加者は、「Defend」の文脈での説明責任と、AI を活用したサイバー防御ツールが重要な局面で機能しなかった場合に誰が責任と説明責任を負うかについて議論しました。

•Participant discussions on AI use for Defend aligned with CSF cybersecurity outcomes and activities, to include:

•Defend のための AI の利用に関する参加者の議論は、次を含む CSF のサイバーセキュリティ成果と活動に沿っていました。

•Protect (e.g., AI-driven detections, continuous identity validation).

•防御(PROTECT)(例: AI による検知、継続的なアイデンティティ検証)。

•Detect (e.g., continuous monitoring; parsing, correlating, and analyzing data; quickly querying malware feeds and identifying matches for malware signatures; performing data integrity checks; detecting anomalies; issuing alerts).

•検知(DETECT)(例: 継続的モニタリング、データの解析・相関付け・分析、マルウェアフィードの迅速な照会とマルウェアシグネチャの一致の特定、データ完全性チェックの実施、異常の検知、アラートの発行)。

•Respond (e.g., remediating vulnerabilities; decreasing mean time in responding to AI attacks; enhancing communications and the cadence of response activities following an incident).

•対応(RESPOND)(例: 脆弱性の是正、AI 攻撃への対応にかかる平均時間の短縮、インシデント後のコミュニケーションと対応活動の頻度の強化)。

•Recover (e.g., generating After Action Reports [AARs] to create a succinct narrative of an event, including timestamps; analysis of what went wrong; recommendations regarding prioritized mitigation strategies).

•復旧(RECOVER)(例: タイムスタンプを含む事象の簡潔な説明、何が問題だったかの分析、優先順位付けされた緩和戦略に関する推奨事項を作成するための事後報告書 [AAR] の生成)。

•The feasibility of a mapping of Defend to existing frameworks, knowledge bases, and guidance, such as MITRE ATLASTM3, was discussed. Participants also suggested that developing guidance and/or methods for prioritization based on maturity and risk could be valuable (e.g., with greater nuance than currently provided, perhaps based on use cases, risk factors, or methods).

•Defend を、MITRE ATLASTM3 などの既存のフレームワーク、ナレッジベース、ガイダンスに対応付けることの実現可能性が議論されました。参加者はまた、成熟度とリスクに基づく優先順位付けのためのガイダンスや方法を策定することが有益かもしれないと提案しました(たとえば、現在提供されているものよりも細やかなニュアンスで、ユースケース、リスク要因、方法に基づく)。

•There was emphasis on the need for clear language on the relationship between adopting AI for defense and the risks that may be introduced (e.g., unauthorized access to an AI cybersecurity defense tool).

•防御のために AI を採用することと、それによってもたらされうるリスク(たとえば、AI サイバーセキュリティ防御ツールへの不正アクセス)との関係について、明確な表現が必要であることが強調されました。

•Guidance for how AI can be used to identify effective cybersecurity solutions that use AI and that could be helpful. Participants expressed that having a better understanding of existing and emerging AI tools (e.g., purchasing software that performs AI-enhanced/enabled functions) and offerings can strengthen cybersecurity operations and risk management practices.

•AI を使用する効果的なサイバーセキュリティソリューションを特定するために AI をどのように使えるかに関するガイダンスは、有用かもしれません。参加者は、既存および新たな AI ツール(たとえば、AI で強化された、または AI を活用した機能を実行するソフトウェアの購入)と提供製品をよりよく理解することで、サイバーセキュリティ運用とリスク管理の実践を強化できると述べました。

•Participants inquired whether NIST would propose a recommended list of tools or whether the Profile could address existing tools for various cyber capabilities (e.g., automation, predictive AI, genAI) across CSF Functions, Categories, and Subcategories.

•参加者は、NIST が推奨ツールの一覧を提案するのか、あるいは Profile が CSF の機能、カテゴリ、サブカテゴリにまたがるさまざまなサイバー能力(たとえば、自動化、予測 AI、生成 AI)のための既存のツールを取り上げることができるのかを尋ねました。

3 ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems) is a globally accessible, living knowledge base of adversary tactics and techniques against Al-enabled systems based on real-world attack observations and realistic demonstrations from Al red teams and security groups, available at: https://atlas.mitre.org/
3 ATLAS(Adversarial Threat Landscape for Artificial-Intelligence Systems)は、実世界の攻撃の観測と、AI レッドチームやセキュリティグループによる現実的な実演に基づく、AI を活用したシステムに対する攻撃者の戦術と技術の、世界中からアクセスできる、継続的に更新されるナレッジベースです。https://atlas.mitre.org/ で入手できます。

•Organizations can better defend by having an arbiter of the data with visibility into what their deployed AI systems are doing and an understanding of each AI system’s training (insight into models), functions, capabilities, and actions.

•組織は、展開済みの AI システムが何を行っているかを把握できるデータの管理・判断主体を設け、各 AI システムの学習(モデルへの洞察)、機能、能力、行動を理解することで、より効果的に防御できます。

•Agentic AI is increasingly used for new security-related applications. Participants discussed using agentic AI to augment junior staff, using agents to monitor other agents, and leveraging AI’s predictive capabilities in SOCs to respond to alerts (e.g., an “Agentic SOC” that can take action based on the incidents it identifies through activities like stopping services, revoking credentials, or isolating devices), but find acquisitions, testing, explainability, and evaluation difficult. Participants noted that the selection process for an agent needs to consider the data the agent has access to and can operate on.

•エージェント型 AI は、セキュリティに関連する新しい用途にますます使われています。参加者は、若手スタッフを補強するためにエージェント型 AI を使うこと、他のエージェントを監視するためにエージェントを使うこと、アラートに対応するために SOC で AI の予測能力を活用すること(たとえば、サービスの停止、認証情報の失効、デバイスの隔離などの活動を通じて、特定したインシデントに基づいて行動できる「エージェント型 SOC」)について議論しましたが、調達、テスト、説明可能性、評価が難しいと感じています。参加者は、エージェントの選定プロセスでは、そのエージェントがアクセスでき、操作できるデータを考慮する必要があると指摘しました。

2.4.4. Afternoon Breakout Session Track C – Thwart Focus Area
2.4.4. 午後のブレイクアウトセッション トラック C – Thwart フォーカスエリア

This session examined the Thwart Focus Area, which addresses how attacks from AI-enhanced adversarial systems could impact the entire cybersecurity landscape, and what organizations can do to bolster their systems against these emerging threats. The purpose of this track is to review the Thwart Focus Area content presented in the Cyber AI Profile preliminary draft and discuss feedback for creating the final version of this section.

このセッションでは、AI で強化された敵対的システムによる攻撃がサイバーセキュリティの全体にどのような影響を及ぼしうるか、また、こうした新たな脅威に対してシステムを強化するために組織に何ができるかを扱う Thwart フォーカスエリアを検討しました。このトラックの目的は、Cyber AI Profile 予備ドラフトで示された Thwart フォーカスエリアの内容を確認し、この節の最終版を作成するためのフィードバックについて議論することです。

Track C Themes:
トラック C のテーマ:

The Thwart discussions focused on sharpening the description of the Focus Area and questions regarding how to obtain and share threat information (e.g., resources for known AI-enabled attacks, sharing across government agencies). It was noted that defenders have to “get it right” every time, while adversaries only have to “get it right” once, and adversaries are looking for the holes between the “checkboxes.”

Thwart に関する議論は、フォーカスエリアの記述を明確にすることと、脅威情報を入手し共有する方法(たとえば、既知の AI を活用した攻撃のためのリソース、政府機関間での共有)に関する質問に焦点を当てました。防御側は毎回「正しく対処」しなければならないのに対し、攻撃者は一度「正しく対処」すればよく、攻撃者は「チェックボックス」の間にある穴を探していると指摘されました。

Track C Input Offered by Participants:
参加者から寄せられたトラック C への意見:

Participants engaged in a facilitated discussion and shared insights specific to the following topic areas for the Thwart Focus Area:

参加者は、ファシリテーターのもとで議論を行い、Thwart フォーカスエリアについて、次のトピック領域に固有の知見を共有しました。

•Clarifying and explaining the range of adversarial uses of AI and how the outcomes in Thwart position organizations to be more resilient against them.

•AI の敵対的な利用の範囲と、Thwart の成果によって組織がそれらに対してよりレジリエントになるようにする方法を明確にし、説明すること。

•New tools are needed to raise awareness of adversarial uses of AI as envisioned in Thwart, to include:

•Thwart で想定されている AI の敵対的な利用についての認識を高めるために、新しいツールが必要であり、これには次が含まれます。

•Explicitly addressing the supply chain;

•サプライチェーンを明示的に取り上げること。

•How to create collaborative awareness of AI threats using a model similar to information sharing and analysis centers (ISACs); and

•情報共有分析センター(ISAC)に似たモデルを使って、AI の脅威に関する協調的な認識を作り出す方法。

•Explore how to determine responsibility in AI and AI agent actions in chains of custody that reflect development, training, implementation, and use by different parties.

•異なる当事者による開発、学習、実装、利用を反映した証拠保全の連鎖における、AI と AI エージェントの行動の責任をどのように判断するかを探ること。

•There will be increased attack velocity from adversaries, necessitating higher response/defense velocity from organizations and potentially requiring new defenses (both AI and non-AI) to disrupt attacks.

•攻撃者による攻撃速度が上がるため、組織にはより速い対応・防御の速度が求められ、攻撃を妨害するために(AI と非 AI の両方の)新しい防御が必要になる可能性があります。

•Risk management becomes increasingly important, including determining and communicating what risks are acceptable and at what levels. Dynamic tools or mechanisms to maintain communications about how adversaries are using AI to conduct attacks and how those attacks are being identified and mitigated may help, such as a repository of prompt injection attacks.

•リスク管理はますます重要になります。これには、どのリスクがどのレベルで許容できるかを判断し、伝えることが含まれます。攻撃者が AI を使ってどのように攻撃を行っているか、またそれらの攻撃がどのように特定され緩和されているかについてコミュニケーションを維持するための、プロンプトインジェクション攻撃のリポジトリのような動的なツールや仕組みが役立つかもしれません。

•Subcategories in the CSF Respond Function can help address this cybersecurity need, including communications on risk responses and risk management needs.

•CSF の対応(RESPOND)機能のサブカテゴリは、リスク対応とリスク管理のニーズに関するコミュニケーションを含め、このサイバーセキュリティ上のニーズへの対処に役立ちます。

2.5. COSAiS

2.5. COSAiS

The following sections contain information shared during the COSAiS presentation and a summary of the COSAiS afternoon breakout session.

以下の各節には、COSAiS の発表中に共有された情報と、COSAiS の午後のブレイクアウトセッションの概要が含まれます。

2.5.1. Presentation: Control Overlays for Securing AI Systems (COSAiS) (Ms. Victoria Pillitteri, NIST)
2.5.1. 発表: Control Overlays for Securing AI Systems(COSAiS)(Victoria Pillitteri 氏、NIST)

Ms. Pillitteri opened by sharing the drivers for the COSAiS project, describing the feedback from the community to develop technical implementation guidance for securing AI systems leveraging existing standards and guidelines to the maximum extent, complementing the Cyber AI Profile. She provided an overview of the NIST SP 800-53 controls catalog [23], emphasizing that any organization can leverage the broad collection of cybersecurity and privacy outcomes to determine which controls work for them to manage risk and should not be implemented in totality. Ms. Pillitteri stated that because the controls needed to manage cybersecurity and privacy risks to AI systems are largely similar to what would be needed for any type of software, the community can leverage the existing NIST SP 800-53 control catalog as a starting point. She acknowledged that since the controls are not specific to any given technology or AI systems, the COSAiS work seeks to identify subsets of controls especially relevant for AI systems to better help developers and implementers.

Pillitteri 氏は、COSAiS プロジェクトの推進要因を紹介して話を始めました。コミュニティから寄せられた、Cyber AI Profile を補完し、既存の標準とガイドラインを最大限に活用して AI システムを保護するための技術的な実装ガイダンスを策定してほしいという要望について説明しました。同氏は、NIST SP 800-53 管理策カタログ [23] の概要を説明し、あらゆる組織が、サイバーセキュリティとプライバシーの成果の幅広い集合を活用して、リスク管理にどの管理策が適しているかを判断でき、カタログの管理策をすべて一律に実装する必要はないと強調しました。Pillitteri 氏は、AI システムのサイバーセキュリティリスクとプライバシーリスクの管理に必要な管理策は、あらゆる種類のソフトウェアに必要なものと大部分が似ているため、コミュニティは既存の NIST SP 800-53 管理策カタログを出発点として活用できると述べました。同氏は、管理策が特定の技術や AI システムに固有のものではないことを認めたうえで、COSAiS の取り組みは、開発者と実装者をより適切に支援するために、AI システムに特に関連する管理策のサブセットを特定しようとしていると説明しました。

Ms. Pillitteri explained that control overlays can be either a fully specified set of controls that is inclusive of a baseline or a small subset of controls tailored to address a specific community or organization need, such as an environment of operation or type of system. Within these control overlays, the overlay can provide further details, such as defining specific parameter values and setting potential frequency values.

Pillitteri 氏は、コントロールオーバーレイには、ベースラインを含む完全に規定された管理策の集合の場合と、運用環境やシステムの種類など、特定のコミュニティや組織のニーズに対応するように調整された管理策の小さなサブセットの場合があると説明しました。これらのコントロールオーバーレイの中で、オーバーレイは、特定のパラメータ値の定義や、設定可能な頻度値の設定など、さらに詳細な内容を提供できます。

Ms. Pillitteri shared that COSAiS provides an opportunity to work with the community to complement the Profile and provide implementation-specific guidance for different types of AI systems (e.g., predictive AI, genAI, single- and multi-agent AI, and controls for security developers). Within the COSAiS project, these existing controls will be tailored to manage risk specific to types and uses of AI systems. By developing multiple overlays, each will focus on managing the different cybersecurity and privacy risks associated with different types of AI systems, and each overlay will have a target audience and focus. The goal is for the overlays to work alone or in combination, allowing organizations the flexibility to determine which overlay(s) to apply based on their unique needs. The COSAiS can also leverage the assessment guidance that exists for the control catalog and other risk management guidance.

Pillitteri 氏は、COSAiS は、コミュニティと協力して Profile を補完し、さまざまな種類の AI システム(たとえば、予測 AI、生成 AI、単一エージェントおよびマルチエージェント AI、セキュリティ開発者向けの管理策)に対する実装固有のガイダンスを提供する機会であると述べました。COSAiS プロジェクトでは、これらの既存の管理策が、AI システムの種類と用途に固有のリスクを管理するように調整されます。複数のオーバーレイを策定することで、それぞれが異なる種類の AI システムに関連する異なるサイバーセキュリティリスクとプライバシーリスクの管理に焦点を当て、各オーバーレイには想定読者と焦点が定められます。目標は、オーバーレイを単独でも組み合わせても使えるようにし、組織が自らの固有のニーズに基づいて、どのオーバーレイを適用するかを柔軟に決定できるようにすることです。COSAiS は、管理策カタログに存在する評価ガイダンスやその他のリスク管理ガイダンスも活用できます。

Ms. Pillitteri reviewed the proposed methodology in the “NIST SP 800-53 Control Overlays for Securing AI Systems Concept Paper” [24] issued during the summer of 2025 and built upon by the recently released “NIST SP 800-53 Control Overlay for Securing AI Systems: Using and Fine Tuning Predictive AI (Annotated Outline for Cyber AI Profile Workshop #2)” [25]. She discussed the contents of the annotated outline for the initial “Using and Fine-Tuning Predictive AI” overlay, emphasizing that the final decisions regarding the overlay are pending stakeholder feedback and insights.

Pillitteri 氏は、2025年夏に発行された “NIST SP 800-53 Control Overlays for Securing AI Systems Concept Paper” [24] で提案された方法論と、それを土台として最近公開された “NIST SP 800-53 Control Overlay for Securing AI Systems: Using and Fine Tuning Predictive AI (Annotated Outline for Cyber AI Profile Workshop #2)” [25] を確認しました。同氏は、最初の “Using and Fine-Tuning Predictive AI” オーバーレイの注釈付きアウトラインの内容について論じ、オーバーレイに関する最終決定は関係者のフィードバックと知見を待っていると強調しました。

Ms. Pillitteri emphasized that understanding the gaps between controls that organizations may currently implement, and the additional controls needed to secure AI systems, is critical to creating control overlays that are “lightweight but impactful.” To develop resources to meet stakeholder needs, NIST consistently engages in outreach and collaboration with stakeholders, such as through workshops and Slack community discussions.4 One area of feedback NIST is seeking is whether the overlays should be based on the NIST SP 800-53B [26] Moderate baseline. The COSAiS is based on several assumptions, such as an existing cybersecurity risk management program.

Pillitteri 氏は、組織が現在実装している可能性のある管理策と、AI システムを保護するために必要な追加の管理策との間のギャップを理解することが、「軽量だが影響力のある」コントロールオーバーレイを作成するうえで重要であると強調しました。関係者のニーズを満たすリソースを策定するため、NIST は、ワークショップや Slack のコミュニティでの議論などを通じて、関係者とのアウトリーチと協力に一貫して取り組んでいます。4 NIST が求めているフィードバックの一つは、オーバーレイを NIST SP 800-53B [26] の Moderate ベースラインに基づかせるべきかどうかです。COSAiS は、既存のサイバーセキュリティリスク管理プログラムの存在など、いくつかの前提に基づいています。

Ms. Pillitteri concluded with an overview of what participants can expect in the COSAiS breakout sessions and where NIST is seeking feedback, to include the foundational assumptions, potential alternatives, and the overlay structure and control selection, noting that NIST intends to offer several opportunities after the workshop to provide feedback, as that feedback is instrumental to the success of the COSAiS.

Pillitteri 氏は、COSAiS のブレイクアウトセッションで参加者が期待できる内容と、NIST がフィードバックを求めている点(基礎的な前提、考えられる代替案、オーバーレイの構造と管理策の選択を含む)の概要を説明して締めくくり、そのフィードバックは COSAiS の成功に不可欠であるため、NIST はワークショップの後にフィードバックを提供するいくつかの機会を設ける予定であると述べました。

2.5.2. Afternoon Breakout Session Track D – COSAiS
2.5.2. 午後のブレイクアウトセッション トラック D – COSAiS

This session focused on NIST’s COSAiS project.

このセッションは、NIST の COSAiS プロジェクトに焦点を当てました。

Track D Themes:
トラック D のテーマ:

Participant discussions during the COSAiS sessions emphasized the importance of NIST making the case for why the COSAiS are needed, using clear, direct language to support the overlays. Discussions also highlighted the need to focus the overlays’ guidance on small businesses, which are typically more constrained or have less access to resources to support cybersecurity initiatives and activities, and noted that the controls identified should not be too strict or inhibit innovation. Participants suggested that NIST consider using the Low-impact baseline rather than the currently proposed Moderate baseline.

COSAiS セッションでの参加者の議論では、NIST が、オーバーレイを支えるために明確で直接的な言葉を使って、COSAiS がなぜ必要かを説明することの重要性が強調されました。議論ではまた、オーバーレイのガイダンスを、通常はサイバーセキュリティの取り組みや活動を支えるリソースに制約があるか、アクセスが少ない中小企業に重点的に向ける必要性が浮き彫りになり、特定される管理策は厳しすぎたり、イノベーションを妨げたりするものであってはならないと指摘されました。参加者は、NIST が、現在提案されている Moderate ベースラインではなく、Low インパクトベースラインの使用を検討するよう提案しました。

4 Information for joining the NIST COSAiS Slack Collaboration page is available at: https://csrc.nist.gov/projects/cosais/slack.
4 NIST COSAiS Slack コラボレーションページへの参加に関する情報は https://csrc.nist.gov/projects/cosais/slack で入手できます。
Track D Input Offered by Participants:
参加者から寄せられたトラック D への意見:

Participants engaged in facilitated discussion and shared insights specific to the following topic areas for COSAiS:

参加者は、ファシリテーターのもとで議論を行い、COSAiS について、次のトピック領域に固有の知見を共有しました。

•Clarity on foundational concepts related to the structure of overlays, specifically why overlays include a baseline.

•オーバーレイの構造に関連する基礎的な概念、特にオーバーレイになぜベースラインが含まれるのかについての明確化。

•Participants expressed the value of establishing the context of a baseline in the overlays and whether the baseline serves as a starting point or is intended to represent the final control set.

•参加者は、オーバーレイにおけるベースラインの文脈を確立することの価値と、ベースラインが出発点なのか、最終的な管理策の集合を表すことを意図しているのかについて意見を述べました。

•Participants shared that it would be helpful to implementers and users of the COSAiS for NIST to consider shifting from a baseline to a modular approach for greater tailoring and adaptation by different organizations and industries with varying backgrounds, needs, environments, and AI use.

•参加者は、背景、ニーズ、環境、AI の利用が異なるさまざまな組織や業界によるより大きな調整と適応のために、NIST がベースラインからモジュール式のアプローチへの移行を検討することは、COSAiS の実装者と利用者にとって有益であろうと述べました。

•A request was made for additional information on the decision to develop COSAiS using existing controls rather than have NIST develop new controls specific to AI.

•NIST が AI に固有の新しい管理策を策定するのではなく、既存の管理策を使って COSAiS を策定するという決定について、追加情報を求める要望がありました。

•To support developers and implementers, the COSAiS needs to be applicable to the current environment and also allow for innovation and the incorporation of emerging technology.

•開発者と実装者を支援するために、COSAiS は現在の環境に適用可能であるとともに、イノベーションと新興技術の取り込みを可能にする必要があります。

•Supply chain should be addressed in the overlays [4]. This may include guidance on requesting test data and test data artifacts from suppliers, vendors, and third-party companies that develop AI models used by other organizations. Organizations, especially smaller ones, must have mechanisms in place to establish trustworthiness and be able to enforce safety and accuracy in the AI models they obtain from others.

•サプライチェーンは、オーバーレイで取り上げるべきです [4]。これには、他の組織が使用する AI モデルを開発するサプライヤー、ベンダー、サードパーティ企業にテストデータとテストデータの成果物を要求することに関するガイダンスが含まれるかもしれません。組織、特に小規模な組織は、他者から入手した AI モデルについて、信頼性を確立し、安全性と正確性を担保できるようにする仕組みを整備しなければなりません。

•There are opportunities to demonstrate the relationship between the overlays and other frameworks or guidance, including the AI RMF or European AI guidelines and standards.

•オーバーレイと、AI RMF や欧州の AI ガイドラインおよび標準を含む他のフレームワークやガイダンスとの関係を示す機会があります。

3. Key Takeaways from Workshop #2

3. ワークショップ #2 の主な収穫

The Cyber AI Profile Workshop offered participants an opportunity to share with NIST feedback and insights throughout the day on the draft Cyber AI Profile. The themes summarized below reflect perspectives raised by workshop participants and are intended to inform NIST’s continued development of the Cyber AI Profile and other NIST programs. Overall, participants expressed support for the development of the Cyber AI Profile and appreciated that it is filling gaps in guidance. They emphasized the need for both enterprise risk management [27][28][29] and implementation-level resources, especially to benefit smaller organizations or organizations overwhelmed with addressing strategic adoption, integration, and use of AI while continuing to manage an already full load of ongoing tactical and operational cybersecurity risk management activities. The following takeaways are the ideas, observations, and suggestions that NIST heard from workshop participants and received significant support from them. This workshop was not a forum for developing consensus; rather, the takeaways represent recurrent themes that emerged during discussions and not formal positions taken by participants. This document cannot capture every thought, opinion, and suggestion provided during the workshop. These takeaways do not represent NIST recommendations or guidelines; rather, they provide important feedback to the program and serve as a basis for future conversations with the community and NIST’s continued development of the Cyber AI Profile as a practical resource for organizations navigating AI-related opportunities and risks.

Cyber AI Profile ワークショップは、参加者が 1 日を通じて、Cyber AI Profile のドラフトに関するフィードバックと知見を NIST と共有する機会となりました。以下にまとめたテーマは、ワークショップの参加者が提起した見解を反映しており、NIST による Cyber AI Profile およびその他の NIST プログラムの継続的な策定に役立てることを意図しています。全体として、参加者は Cyber AI Profile の策定を支持し、それがガイダンスのギャップを埋めていることを評価しました。参加者は、特に、AI の戦略的な導入、統合、利用に取り組みながら、すでに多忙な日常の戦術的・運用的なサイバーセキュリティリスク管理活動も続けなければならない小規模な組織や、対応に追われる組織のために、エンタープライズリスク管理 [27][28][29] と実装レベルのリソースの両方が必要であることを強調しました。以下の収穫は、NIST がワークショップの参加者から聞いた、参加者から大きな支持を得た考え、所見、提案です。このワークショップは合意形成の場ではありませんでした。収穫は、議論の中で繰り返し現れたテーマを表すものであり、参加者がとった公式の立場ではありません。本書は、ワークショップで寄せられたすべての考え、意見、提案を網羅できるものではありません。これらの収穫は、NIST の推奨事項やガイドラインを表すものではなく、プログラムに対する重要なフィードバックを提供し、コミュニティとの今後の対話と、AI 関連の機会とリスクに取り組む組織にとって実用的なリソースとなるよう NIST が Cyber AI Profile の策定を続けるうえでの基礎となるものです。

•Ideas for Enhancing the Profile Content or Its Readability:

•Profile の内容または読みやすさを高めるための考え方:

•General information to include: the relationship between the Cyber AI Profile and the CSF (e.g., visual depiction of the relationship versus text); content that conveys to users the “why” to support planning and implementation of capability development; the general need for the Cyber AI Profile as AI is widespread and rapidly becoming ubiquitous within organizations; and how to use in combination the Cyber AI Profile, the CSF 2.0, and the AI RMF when building a single, operational view of risk.

•盛り込むべき一般的な情報: Cyber AI Profile と CSF の関係(たとえば、文章よりも関係を視覚的に示すこと)、能力開発の計画と実装を支援するための「なぜ」を利用者に伝える内容、AI が広く普及し、組織内で急速にユビキタスになりつつある中での Cyber AI Profile の一般的な必要性、そしてリスクに関する単一の運用上の見方を構築する際に、Cyber AI Profile、CSF 2.0、AI RMF を組み合わせて使う方法。

•The Profile was perceived by participants as deployment-focused. Participants asked NIST to expand the content to include how to improve the cybersecurity of AI systems during development in anticipation of how the AI will be deployed and used.

•Profile は、参加者から展開に重点を置いたものと受け止められました。参加者は NIST に、AI がどのように展開され使われるかを見据えて、開発中の AI システムのサイバーセキュリティを向上させる方法を含むよう、内容を拡充することを求めました。

•Clarification of the definitions for the three Focus Area terms and potentially additional visuals that help distinguish the Focus Areas’ scopes.

•3 つのフォーカスエリアの用語の定義の明確化と、フォーカスエリアの範囲を区別するのに役立つ追加の図表の可能性。

•Formats that support sortable views, such as viewing only the Priority 1 or dropdown boxes that enable analysis of different levels of detail for the Subcategories.

•優先度 1 のみの表示や、サブカテゴリのさまざまな詳細レベルの分析を可能にするドロップダウンボックスなど、並べ替え可能なビューをサポートする形式。

•The inclusion of additional guidance on topics such as addressing insider threats posed by both humans and AI; prioritization assistance (e.g., through use of a consequence tiering model); and AI nuances that are inherent in Priority 3 Subcategories that may not yet exist in organizations.

•人間と AI の両方がもたらす内部脅威への対処、優先順位付けの支援(たとえば、影響度の階層化モデルの使用による)、組織にはまだ存在しないかもしれない優先度 3 のサブカテゴリに内在する AI のニュアンスなどのトピックに関する追加ガイダンスの盛り込み。

•Include hyperlinks to AI resources and other guidance where possible, such as in the Informative References column, even as those references update over time.

•参考情報の列などに、可能な限り AI リソースやその他のガイダンスへのハイパーリンクを含めること。これらの参照が時間とともに更新される場合でも同様です。

•Too many hurdles (real or perceived) to deploying AI often lead people to take the path of least resistance and use AI through their own accounts (e.g., personal LLMs), increasing the risk of incidents such as data leaks.

•AI の展開には(実際の、あるいは認識された)ハードルが多すぎるため、人々が最も抵抗の少ない道を選び、自分のアカウント(たとえば、個人の LLM)を通じて AI を使うようになることが多く、データ漏えいなどのインシデントのリスクが高まります。

•Guidance on Testing and Evaluation:

•テストと評価に関するガイダンス:

•Organizations are seeking guidance on how to answer the question, “How can we trust an AI system before giving it our data?”

•組織は、「AI システムにデータを渡す前に、そのシステムをどのように信頼できるか」という問いに答える方法についてのガイダンスを求めています。

•Potential options to address testing and evaluation were presented, including performance metrics, certifications, and benchmarking.

•性能指標、認証、ベンチマークなど、テストと評価に対処するための選択肢の候補が示されました。

•Cybersecurity’s Role in Trustworthiness for AI Decisions:

•AI の意思決定の信頼性におけるサイバーセキュリティの役割:

•Zero-trust and reduced trust discussions as they relate to AI decisions and actions within an organization indicated there may be a need to treat AI similarly to how human insider threats are addressed.

•組織内の AI の意思決定と行動に関連するゼロトラストと信頼の低減に関する議論は、人間の内部脅威への対処と同様に AI を扱う必要があるかもしれないことを示しました。

•AI is often deployed in organizations without an understanding of the associated or impacted technology. Organizations must understand the technology they are deploying as well as how to securely deploy it and manage associated opportunities and risks. The notion of “shadow AI” was raised as a significant concern in the context of AI impact assessments.

•AI は、関連する、または影響を受ける技術を理解しないまま組織に展開されることがよくあります。組織は、展開する技術を理解するとともに、それを安全に展開し、関連する機会とリスクを管理する方法を理解しなければなりません。「シャドー AI」という概念は、AI 影響評価の文脈で重大な懸念事項として挙げられました。

•From an integrity perspective, a lack of visibility into the data used to train AI models, or into the models themselves, is a concern. This includes a lack of visibility into how AI models are trained in products and services from suppliers and third-party vendors. Participants stated that organizations need to know what data was used in a model so they can explain AI actions and functions to end users to increase the trustworthiness of AI. This includes organizational ability to communicate clearly to leadership to establish trustworthiness related to the use of AI and AI-driven decisions (whether made by AI or users informed by AI).

•完全性の観点から、AI モデルの学習に使われたデータやモデル自体が可視化されていないことは懸念事項です。これには、サプライヤーやサードパーティベンダーの製品やサービスで AI モデルがどのように学習されているかが可視化されていないことが含まれます。参加者は、AI の信頼性を高めるために、AI の行動と機能をエンドユーザーに説明できるよう、組織はモデルにどのようなデータが使われたかを知る必要があると述べました。これには、AI の利用と AI による意思決定(AI が行う場合も、AI の支援を受けた利用者が行う場合も)に関する信頼性を確立するために、経営層に明確に伝える組織の能力が含まれます。

•Transparency, Integrity, and Accountability:

•透明性、完全性、説明責任:

•Considerations in the Profile should highlight the need to enhance transparency and accountability by identifying the provenance, authenticity, and security of AI components, including open-source models and third-party dependencies.

•Profile の考慮事項では、オープンソースモデルやサードパーティへの依存関係を含む AI コンポーネントの出所、真正性、セキュリティを特定することで、透明性と説明責任を強化する必要性を強調すべきです。

•Cryptographic signing and certification systems were suggested as additional measures to ensure the integrity of AI systems across the supply chain.

•サプライチェーン全体にわたる AI システムの完全性を確保する追加の対策として、暗号による署名と認証システムが提案されました。

•AI supply chain documentation is important to secure the AI supply chain (e.g., inclusion of AIBOM, similar to a Software Bill of Materials [SBOM], to address supply chain risks associated with AI systems), and to manage risks associated with open-source models and third-party dependencies and technologies.

•AI サプライチェーンのドキュメントは、AI サプライチェーンを保護し(たとえば、AI システムに関連するサプライチェーンリスクに対処するために、ソフトウェア部品表 [SBOM] に類似した AIBOM を含める)、オープンソースモデルやサードパーティへの依存関係および技術に関連するリスクを管理するために重要です。

•Continued Need for Human-in-the-Loop: Human-in-the-Loop (HITL) processes and training remain critical in AI adoption to ensure effective implementation and oversight of AI systems used for cybersecurity, noting that HITL remains the current standard for AI accountability.

•ヒューマン・イン・ザ・ループの継続的な必要性: サイバーセキュリティに使われる AI システムの効果的な実装と監督を確保するために、ヒューマン・イン・ザ・ループ(HITL)のプロセスとトレーニングは AI の導入において引き続き重要であり、HITL は AI の説明責任に関する現在の標準であり続けています。

•Longevity of Profile and Innovation: The Profile should not include guidance that is too specific, as technology is moving fast, and overly specific content will prohibit the Profile from remaining usable and helpful as innovation occurs.

•Profile の長寿命化とイノベーション: 技術は急速に進歩しているため、Profile には具体的すぎるガイダンスを含めるべきではありません。あまりに具体的な内容は、イノベーションが進む中で Profile が使用可能で有用であり続けることを妨げるからです。

•Need for Consistent AI Taxonomy: A consistent, industry-agnostic AI taxonomy, specifically in the Profile, would enable organizations across industries to communicate clearly about AI topics.

•一貫した AI 分類体系の必要性: 特に Profile において、一貫した、業界に依存しない AI 分類体系があれば、あらゆる業界の組織が AI のトピックについて明確にコミュニケーションをとれるようになります。

•Use Cases: Use cases (e.g., operational technology [OT] cybersecurity) and illustrative examples in the Profile would be helpful.

•ユースケース: Profile にユースケース(たとえば、運用技術 [OT] のサイバーセキュリティ)と説明用の例があると役立ちます。

3.1. Adjacent Considerations

3.1. 関連する検討事項

Throughout the workshop, participants highlighted several important themes that extend beyond the immediate scope of the Cyber AI Profile. While these topics will not be directly addressed through the Profile, they represent valuable insights regarding community needs:

ワークショップを通じて、参加者は、Cyber AI Profile の直接の範囲を超えるいくつかの重要なテーマを強調しました。これらのトピックは Profile で直接取り上げられることはありませんが、コミュニティのニーズに関する貴重な知見を表しています。

•Tailored Support for Small and Medium Businesses (SMBs): Participants emphasized the need to provide SMBs with tailored support, including simple acquisition questions and practical tools to address their unique challenges.

•中小企業(SMB)への個別対応の支援: 参加者は、SMB の固有の課題に対処するための簡単な調達の質問や実用的なツールを含め、SMB に個別対応の支援を提供する必要性を強調しました。

•Scalable and Adaptable Tools: The need for scalable and adaptable tools to manage AI-related cybersecurity risks was emphasized. Participants suggested interactive and customizable design features for the Cyber AI Profile, such as NIST Online Informative References (OLIR) [30]-based mappings and LLM integration, to make the Profile more user-friendly and applicable across diverse industries. These discussions extended beyond the level of sophistication suggested by earlier comments regarding simpler sorting capabilities to include the ability to sort COSAiS content by lifecycle stage.

•スケーラブルで適応可能なツール: AI 関連のサイバーセキュリティリスクを管理するための、スケーラブルで適応可能なツールの必要性が強調されました。参加者は、Profile をよりユーザーフレンドリーにし、多様な業界に適用できるようにするために、NIST Online Informative References(OLIR)[30] ベースの対応付けや LLM との統合など、Cyber AI Profile のインタラクティブでカスタマイズ可能な設計機能を提案しました。これらの議論は、より単純な並べ替え機能に関する以前のコメントで示されたものより高度な内容にまで及び、COSAiS の内容をライフサイクルの段階で並べ替える機能も含んでいました。

•Workforce Development and Guidance: Participants emphasized the need for workforce training to address AI-related cybersecurity challenges, including adopting AI for cybersecurity. Challenges with the speed and velocity of AI adoption and AI attacks emphasize the importance of workforce training and awareness to recognize and defend against adversarial AI attacks. Workforce-related guidance may include decisions to align workforce roles and resources with AI capabilities and applications.

•人材の育成とガイダンス: 参加者は、サイバーセキュリティのための AI の導入を含め、AI 関連のサイバーセキュリティ課題に対処するための人材育成が必要であることを強調しました。AI の急速な導入と AI 攻撃は、敵対的な AI 攻撃を認識して防御するための人材育成と意識向上の重要性を浮き彫りにしています。人材に関するガイダンスには、人材の役割とリソースを AI の能力と応用に整合させる判断が含まれる場合があります。

•Procurement Process Guidance: Practitioners need consistent guidance in the procurement process for new technologies (e.g., libraries, models, data) to support risk management decision-making related to AI. Addressing gaps in guidance enables more informed risk management decision-making by clarifying how to determine and communicate risk associated with new AI systems, identify the assurances that need to be in place, and use existing application and data risk assessment sources to adequately answer the risk questions raised by these new technologies.

•調達プロセスのガイダンス: 実務担当者には、AI に関連するリスク管理の意思決定を支援するために、新しい技術(たとえば、ライブラリ、モデル、データ)の調達プロセスにおける一貫したガイダンスが必要です。ガイダンスのギャップに対処することで、新しい AI システムに関連するリスクを判断し伝える方法、整備する必要のある保証を特定する方法、そしてこれらの新しい技術によって生じるリスクの問いに十分に答えるために既存のアプリケーションとデータのリスクアセスメントの情報源を使う方法が明確になり、より情報に基づいたリスク管理の意思決定が可能になります。

•NIST AI Project Awareness: Creating linkages to understand the integration across multiple NIST frameworks and the integration of AI into those frameworks. Other linkages between the Cyber AI Profile and NIST’s other impactful AI portfolio projects, such as those highlighted at the workshop, would help broaden awareness of and connections among these efforts.

•NIST の AI プロジェクトへの認知: 複数の NIST フレームワーク間の統合と、それらのフレームワークへの AI の統合を理解するための関連付けを作成します。Cyber AI Profile と、ワークショップで取り上げられたような NIST のその他の影響力のある AI ポートフォリオプロジェクトとの関連付けも、これらの取り組みへの認知と相互のつながりを広げるのに役立ちます。

4. Next Steps

4. 今後のステップ

NIST continues to follow the Cyber AI Profile Roadmap which can be found on the NCCoE Cyber AI Profile project page. This roadmap is a living document that reflects the overall steps NIST will complete to create the Cyber AI Profile. Each step of the process toward the Final Cyber AI Profile builds on prior actions and information, including workshops and public comment periods. The Cyber AI Profile preliminary draft and Workshop #2 were informed by research conducted by the team and stakeholder comments received during previous activities in the roadmap. NIST will leverage the information collected from Workshop #2 as well as the comments submitted on the Cyber AI Profile preliminary draft, and future research and engagement activities to guide the next version of the Cyber AI Profile (the IPD) for public comment in summer 2026.

NIST は、NCCoE の Cyber AI Profile プロジェクトのページにある Cyber AI Profile Roadmap に引き続き従っています。このロードマップは、NIST が Cyber AI Profile を作成するために完了する全体的なステップを反映した、継続的に更新される文書です。最終版の Cyber AI Profile に向けたプロセスの各ステップは、ワークショップやパブリックコメント期間を含む、それ以前の行動と情報の上に積み上げられます。Cyber AI Profile の予備ドラフトとワークショップ #2 には、チームが行った調査と、ロードマップのそれ以前の活動で受け取った関係者のコメントが反映されました。NIST は、ワークショップ #2 から集めた情報、Cyber AI Profile の予備ドラフトに寄せられたコメント、今後の調査および関係者とのエンゲージメント活動を活用して、2026年夏にパブリックコメントに付す Cyber AI Profile の次のバージョン(IPD)の策定を導きます。

For more information on the Cyber AI Profile, Cyber AI Profile roadmap phases, or to join the Cyber AI Profile Community of Interest (COI), please visit the NCCoE Cyber AI Profile project page, available at https://www.nccoe.nist.gov/projects/cyber-ai-profile.

Cyber AI Profile、Cyber AI Profile ロードマップのフェーズ、または Cyber AI Profile Community of Interest(COI)への参加の詳細については、NCCoE の Cyber AI Profile プロジェクトページ(https://www.nccoe.nist.gov/projects/cyber-ai-profile)をご覧ください。

References

参考文献

[1] National Institute of Standards and Technology, Cybersecurity Framework Profile for Artificial Intelligence (Cyber AI Profile), NIST IR 8596 (IPRD), Gaithersburg, MD, 2025. https://nvlpubs.nist.gov/nistpubs/ir/2025/NIST.IR.8596.iprd.pdf

[1] National Institute of Standards and Technology, Cybersecurity Framework Profile for Artificial Intelligence (Cyber AI Profile), NIST IR 8596 (IPRD), Gaithersburg, MD, 2025. https://nvlpubs.nist.gov/nistpubs/ir/2025/NIST.IR.8596.iprd.pdf

[2] National Institute of Standards and Technology, The NIST Cybersecurity Framework (CSF) 2.0, NIST CSWP 29, Gaithersburg, MD, 2024. https://doi.org/10.6028/NIST.CSWP.29

[2] National Institute of Standards and Technology, The NIST Cybersecurity Framework (CSF) 2.0, NIST CSWP 29, Gaithersburg, MD, 2024. https://doi.org/10.6028/NIST.CSWP.29

[3] National Institute of Standards and Technology, Cybersecurity and AI Workshop Concept Paper, Gaithersburg, MD, 2025. https://www.nccoe.nist.gov/sites/default/files/2025-02/cyber-ai-concept-paper.pdf

[3] National Institute of Standards and Technology, Cybersecurity and AI Workshop Concept Paper, Gaithersburg, MD, 2025. https://www.nccoe.nist.gov/sites/default/files/2025-02/cyber-ai-concept-paper.pdf

[4] National Institute of Standards and Technology, NIST SP 800-53 Control Overlays for Securing AI Systems (COSAiS), Gaithersburg, MD, 2025. https://csrc.nist.gov/projects/cosais

[4] National Institute of Standards and Technology, NIST SP 800-53 Control Overlays for Securing AI Systems (COSAiS), Gaithersburg, MD, 2025. https://csrc.nist.gov/projects/cosais

[5] National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1, Gaithersburg, MD, 2023. https://doi.org/10.6028/NIST.AI.100-1

[5] National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1, Gaithersburg, MD, 2023. https://doi.org/10.6028/NIST.AI.100-1

[6] National Institute of Standards and Technology, Strategic Priorities, Gaithersburg, MD, 2024. https://www.nist.gov/director/strategic-priorities

[6] National Institute of Standards and Technology, Strategic Priorities, Gaithersburg, MD, 2024. https://www.nist.gov/director/strategic-priorities

[7] National Institute of Standards and Technology, Center for AI Standards and Innovation (CAISI), Gaithersburg, MD, 2024. https://www.nist.gov/caisi

[7] National Institute of Standards and Technology, Center for AI Standards and Innovation (CAISI), Gaithersburg, MD, 2024. https://www.nist.gov/caisi

[8] National Institute of Standards and Technology, Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations, NIST AI 800-2 (IPD), Gaithersburg, MD, 2025. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.800-2.ipd.pdf

[8] National Institute of Standards and Technology, Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations, NIST AI 800-2 (IPD), Gaithersburg, MD, 2025. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.800-2.ipd.pdf

[9] National Institute of Standards and Technology, Request for Information Regarding Security Considerations for Artificial Intelligence Agents, Gaithersburg, MD, 2026. https://www.federalregister.gov/documents/2026/01/08/2026-00206/request-for-information-regarding-security-considerations-for-artificial-intelligence-agents

[9] National Institute of Standards and Technology, Request for Information Regarding Security Considerations for Artificial Intelligence Agents, Gaithersburg, MD, 2026. https://www.federalregister.gov/documents/2026/01/08/2026-00206/request-for-information-regarding-security-considerations-for-artificial-intelligence-agents

[10] National Institute of Standards and Technology, Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations, NIST AI 100-2e2025, Gaithersburg, MD, 2025. https://csrc.nist.gov/pubs/ai/100/2/e2025/final

[10] National Institute of Standards and Technology, Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations, NIST AI 100-2e2025, Gaithersburg, MD, 2025. https://csrc.nist.gov/pubs/ai/100/2/e2025/final

[11] National Institute of Standards and Technology, Dioptra: A Software Test Platform for Machine Learning, Gaithersburg, MD, 2024. https://pages.nist.gov/dioptra/

[11] National Institute of Standards and Technology, Dioptra: A Software Test Platform for Machine Learning, Gaithersburg, MD, 2024. https://pages.nist.gov/dioptra/

[12] National Institute of Standards and Technology, Secure Software Development Practices for Generative AI and Dual-Use Foundation Models: An SSDF Community Profile, NIST SP 800-218A, Gaithersburg, MD, 2024. https://csrc.nist.gov/pubs/sp/800/218/a/final

[12] National Institute of Standards and Technology, Secure Software Development Practices for Generative AI and Dual-Use Foundation Models: An SSDF Community Profile, NIST SP 800-218A, Gaithersburg, MD, 2024. https://csrc.nist.gov/pubs/sp/800/218/a/final

[13] National Institute of Standards and Technology, Secure Software Development Framework (SSDF) Version 1.1: Recommendations for Mitigating the Risk of Software Vulnerabilities, NIST SP 800-218, Gaithersburg, MD, 2022. https://csrc.nist.gov/pubs/sp/800/218/final

[13] National Institute of Standards and Technology, Secure Software Development Framework (SSDF) Version 1.1: Recommendations for Mitigating the Risk of Software Vulnerabilities, NIST SP 800-218, Gaithersburg, MD, 2022. https://csrc.nist.gov/pubs/sp/800/218/final

[14] National Institute of Standards and Technology, Secure Software Development Framework (SSDF) Version 1.2: Recommendations for Mitigating the Risk of Software Vulnerabilities, NIST SP 800-218 Rev. 1 (IPD), Gaithersburg, MD, 202

[14] National Institute of Standards and Technology, Secure Software Development Framework (SSDF) Version 1.2: Recommendations for Mitigating the Risk of Software Vulnerabilities, NIST SP 800-218 Rev. 1 (IPD), Gaithersburg, MD, 202

[15] The White House, Executive Order 14306: Sustaining Select Efforts To Strengthen the Nation’s Cybersecurity and Amending Executive Order 13694 and Executive Order 14144, Washington, DC, Jun. 6, 2025. https://www.govinfo.gov/app/details/DCPD-202500669

[15] The White House, Executive Order 14306: Sustaining Select Efforts To Strengthen the Nation’s Cybersecurity and Amending Executive Order 13694 and Executive Order 14144, Washington, DC, Jun. 6, 2025. https://www.govinfo.gov/app/details/DCPD-202500669

[16] National Institute of Standards and Technology, Privacy-Enhancing Technologies (PETs) Testbed, Gaithersburg, MD, 2024. https://www.nist.gov/itl/applied-cybersecurity/privacy-engineering/pets-testbed

[16] National Institute of Standards and Technology, Privacy-Enhancing Technologies (PETs) Testbed, Gaithersburg, MD, 2024. https://www.nist.gov/itl/applied-cybersecurity/privacy-engineering/pets-testbed

[17] National Institute of Standards and Technology, Collaborative Research Cycle, Gaithersburg, MD, 2024. https://www.nist.gov/itl/applied-cybersecurity/privacy-engineering/collaboration-space/collaborative-research-cycle

[17] National Institute of Standards and Technology, Collaborative Research Cycle, Gaithersburg, MD, 2024. https://www.nist.gov/itl/applied-cybersecurity/privacy-engineering/collaboration-space/collaborative-research-cycle

[18] National Institute of Standards and Technology, Software and AI Agent Identity and Authorization, Gaithersburg, MD, 2025. https://www.nccoe.nist.gov/projects/software-and-ai-agent-identity-and-authorization

[18] National Institute of Standards and Technology, Software and AI Agent Identity and Authorization, Gaithersburg, MD, 2025. https://www.nccoe.nist.gov/projects/software-and-ai-agent-identity-and-authorization

[19] National Institute of Standards and Technology, Digital Identity Guidelines, NIST SP 800-63, Gaithersburg, MD, 2017. https://www.nist.gov/identity-access-management/projects/nist-special-publication-800-63-digital-identity-guidelines

[19] National Institute of Standards and Technology, Digital Identity Guidelines, NIST SP 800-63, Gaithersburg, MD, 2017. https://www.nist.gov/identity-access-management/projects/nist-special-publication-800-63-digital-identity-guidelines

[20] National Institute of Standards and Technology, NCCoE Chatbot Project, Gaithersburg, MD, 2025. https://www.nccoe.nist.gov/projects/nccoe-chatbot

[20] National Institute of Standards and Technology, NCCoE Chatbot Project, Gaithersburg, MD, 2025. https://www.nccoe.nist.gov/projects/nccoe-chatbot

[21] National Institute of Standards and Technology, Developing the NCCoE Chatbot: Technical and Security Learnings from the Initial Implementation, NIST IR 8579 (IPD), Gaithersburg, MD, 2025. https://csrc.nist.gov/pubs/ir/8579/ipd

[21] National Institute of Standards and Technology, Developing the NCCoE Chatbot: Technical and Security Learnings from the Initial Implementation, NIST IR 8579 (IPD), Gaithersburg, MD, 2025. https://csrc.nist.gov/pubs/ir/8579/ipd

[22] National Institute of Standards and Technology, NIST Launches Centers for AI in Manufacturing and Critical Infrastructure, Gaithersburg, MD, 2025. https://www.nist.gov/news-events/news/2025/12/nist-launches-centers-ai-manufacturing-and-critical-infrastructure

[22] National Institute of Standards and Technology, NIST Launches Centers for AI in Manufacturing and Critical Infrastructure, Gaithersburg, MD, 2025. https://www.nist.gov/news-events/news/2025/12/nist-launches-centers-ai-manufacturing-and-critical-infrastructure

[23] National Institute of Standards and Technology, Security and Privacy Controls for Information Systems and Organizations, NIST SP 800-53 Rev. 5, Gaithersburg, MD, 2020. https://csrc.nist.gov/pubs/sp/800/53/r5/upd1/final

[23] National Institute of Standards and Technology, Security and Privacy Controls for Information Systems and Organizations, NIST SP 800-53 Rev. 5, Gaithersburg, MD, 2020. https://csrc.nist.gov/pubs/sp/800/53/r5/upd1/final

[24] National Institute of Standards and Technology, NIST SP 800-53 Control Overlays for Securing AI Systems Concept Paper, Gaithersburg, MD. https://csrc.nist.gov/csrc/media/Projects/cosais/documents/NIST-Overlays-SecuringAI-concept-paper.pdf

[24] National Institute of Standards and Technology, NIST SP 800-53 Control Overlays for Securing AI Systems Concept Paper, Gaithersburg, MD. https://csrc.nist.gov/csrc/media/Projects/cosais/documents/NIST-Overlays-SecuringAI-concept-paper.pdf

[25] National Institute of Standards and Technology, NIST SP 800-53 Control Overlay for Securing AI Systems: Using and Fine-Tuning Predictive AI (Annotated Outline for Cyber AI Profile Workshop #2), Gaithersburg, MD, 2026. https://csrc.nist.gov/csrc/media/Projects/cosais/documents/COSAiS-Predictive-AI-annotated-outline-Jan2026.pdf

[25] National Institute of Standards and Technology, NIST SP 800-53 Control Overlay for Securing AI Systems: Using and Fine-Tuning Predictive AI (Annotated Outline for Cyber AI Profile Workshop #2), Gaithersburg, MD, 2026. https://csrc.nist.gov/csrc/media/Projects/cosais/documents/COSAiS-Predictive-AI-annotated-outline-Jan2026.pdf

[26] National Institute of Standards and Technology, Control Baselines for Information Systems and Organizations, NIST SP 800-53B, Gaithersburg, MD, 2025. https://csrc.nist.gov/pubs/sp/800/53/b/upd1/final

[26] National Institute of Standards and Technology, Control Baselines for Information Systems and Organizations, NIST SP 800-53B, Gaithersburg, MD, 2025. https://csrc.nist.gov/pubs/sp/800/53/b/upd1/final

[27] Quinn SD, Chua J, Ivy N, Gardner RK, Kent K, Smith MC, Witte GA (2025) Integrating Cybersecurity and Enterprise Risk Management (ERM). (National Institute of Standards and Technology, Gaithersburg, MD), NIST Interagency Report (IR) NIST IR 8286r1. https://doi.org/10.6028/NIST.IR.8286r1

[27] Quinn SD, Chua J, Ivy N, Gardner RK, Kent K, Smith MC, Witte GA (2025) Integrating Cybersecurity and Enterprise Risk Management (ERM). (National Institute of Standards and Technology, Gaithersburg, MD), NIST Interagency Report (IR) NIST IR 8286r1. https://doi.org/10.6028/NIST.IR.8286r1

[28] Quinn S, Ivy N, Chua J, Barrett M, Feldman L, Topper D, Witte G, Gardner RK, Scarfone K (2023) Enterprise Impact of Information and Communications Technology Risk: Governing and Managing ICT Risk Programs Within an Enterprise Risk Portfolio. (National Institute of Standards and Technology, Gaithersburg, MD), NIST Special Publication (SP) NIST SP 800-221. https://doi.org/10.6028/NIST.SP.800-221

[28] Quinn S, Ivy N, Chua J, Barrett M, Feldman L, Topper D, Witte G, Gardner RK, Scarfone K (2023) Enterprise Impact of Information and Communications Technology Risk: Governing and Managing ICT Risk Programs Within an Enterprise Risk Portfolio. (National Institute of Standards and Technology, Gaithersburg, MD), NIST Special Publication (SP) NIST SP 800-221. https://doi.org/10.6028/NIST.SP.800-221

[29] Quinn S, Ivy N, Chua J, Scarfone K, Barrett M, Feldman L, Topper D, Witte G, Gardner RK (2023) Information and Communications Technology (ICT) Risk Outcomes: Integrating ICT Risk Management Programs with the Enterprise Risk Portfolio. (National Institute of Standards and Technology, Gaithersburg, MD), NIST Special Publication (SP) NIST SP 800-221A. https://doi.org/10.6028/NIST.SP.800-221A

[29] Quinn S, Ivy N, Chua J, Scarfone K, Barrett M, Feldman L, Topper D, Witte G, Gardner RK (2023) Information and Communications Technology (ICT) Risk Outcomes: Integrating ICT Risk Management Programs with the Enterprise Risk Portfolio. (National Institute of Standards and Technology, Gaithersburg, MD), NIST Special Publication (SP) NIST SP 800-221A. https://doi.org/10.6028/NIST.SP.800-221A

[30] National Institute of Standards and Technology, National Online Informative References Program (OLIR), Gaithersburg, MD. https://csrc.nist.gov/projects/olir

[30] National Institute of Standards and Technology, National Online Informative References Program (OLIR), Gaithersburg, MD. https://csrc.nist.gov/projects/olir

Appendix A. List of Symbols, Abbreviations, and Acronyms

付録 A. 記号、略語、頭字語の一覧

AAR After Action Report

AAR 事後報告書

AI Artificial Intelligence

AI 人工知能

AIBOM AI Bill of Materials

AIBOM AI 部品表

AI RMF Artificial Intelligence Risk Management Framework (NIST)

AI RMF Artificial Intelligence Risk Management Framework(NIST)

ATLASTM Adversarial Threat Landscape for Artificial-Intelligence Systems

ATLASTM Adversarial Threat Landscape for Artificial-Intelligence Systems

CAISI Center for AI Standards and Innovation (NIST)

CAISI Center for AI Standards and Innovation(NIST)

CIO Chief Information Officer

CIO 最高情報責任者

COI Community of Interest

COI 関心コミュニティ

COSAiS Control Overlays for Securing AI Systems (NIST)

COSAiS Control Overlays for Securing AI Systems(NIST)

CSF Cybersecurity Framework (NIST)

CSF Cybersecurity Framework(NIST)

CSWP Cybersecurity White Paper (NIST)

CSWP Cybersecurity White Paper(NIST)

genAI Generative AI

genAI 生成 AI

IoT Internet of Things

IoT モノのインターネット

IPRD Interim Preliminary Draft

IPRD 暫定予備ドラフト

HITL Human-in-the-Loop

HITL ヒューマン・イン・ザ・ループ

IR Interagency Report

IR 機関間報告書

ISAC Information Sharing and Analysis Center

ISAC 情報共有分析センター

IT Information Technology

IT 情報技術

ITL Information Technology Laboratory

ITL 情報技術研究所

LLM Large Language Model

LLM 大規模言語モデル

ML Machine Learning

ML 機械学習

NCCoE National Cybersecurity Center of Excellence

NCCoE 国立サイバーセキュリティ卓越センター

NIST National Institute of Standards and Technology

NIST 国立標準技術研究所

OLIR Online Informative References (NIST)

OLIR Online Informative References(NIST)

OT Operational Technology

OT 制御技術

PETs Privacy Enhancing Technologies

PETs プライバシー強化技術

PPFL Privacy-Preserving Federated Learning

PPFL プライバシー保護連合学習

RAG Retrieval-Augmented Generation

RAG 検索拡張生成

SBOM Software Bill of Materials

SBOM ソフトウェア部品表

SMB Small and Medium Businesses

SMB 中小企業

SOC Security Operations Center

SOC セキュリティオペレーションセンター

SP Special Publication (NIST)

SP Special Publication(NIST)

SSDF Secure Software Development Framework (NIST)

SSDF Secure Software Development Framework(NIST)

U.S. United States

U.S. 米国