AIの急速な発展・普及により、サイバーセキュリティを巡る環境が大きく変化している。高性能AIは、サイバー攻撃への備えに活用できる一方、攻撃者に悪用されれば、ソフトウエアなどの脆弱性（弱点）を突いた攻撃が、より高速かつ大規模に行われる恐れがある。

こうした状況を受け、経団連は6月23日、東京・大手町の経団連会館でサイバーセキュリティ委員会サイバーセキュリティ強化ワーキンググループ（和田昭弘主査）を開催した。

内閣官房国家サイバー統括室（NCO）の伊藤建企画官、AIセーフティ・インスティテュート（AISI）の西村卓副所長・事務局長から、それぞれ説明を聴くとともに意見交換した。説明の概要は次のとおり。

■ AIの高度化を踏まえた対策（伊藤氏）

NCOは5月18日、AI性能の高度化を踏まえた政府全体のサイバーセキュリティ対策パッケージ「Project YATA-Shield」を取りまとめた。

このパッケージは、重要インフラ事業者や政府機関等に対し、経営層や組織トップのリーダーシップのもと、基本的対策、多層防御、インシデント発生時の備えの徹底を求めている。

特に発見された脆弱性については、リスクを評価したうえで、パッチ（修正プログラム）の適用やリスク緩和措置を速やかに実施することが重要だ。

ソフトウエアベンダーに対しては、高性能AIも活用しながら、脆弱性を開発段階から低減し、リリース後も脆弱性を把握するとともに、パッチを早期に作成し、提供するよう要請している。

関係省庁でも、このパッケージを基に、所管する重要インフラ事業者等への注意喚起や、業界団体との意見交換を進めている。

政府機関等にはNCOから注意喚起しているほか、6月12日には、政府機関等の対策基準策定のためのガイドラインを一部改定した。

今後もNCOは、デジタル庁をはじめとする各府省庁と連携しながら、高性能AIを活用した政府の重要システムの脆弱性の確認や対応等を進めていく。

6月2日、フロンティアAIに関する米大統領令が署名された。今後中身は具体化されていく予定であり、情報収集を図っている。

同月17日のG7でも、各国の代表的なテック企業が参加し、フロンティアAIがもたらす潜在的な機会と深刻なリスクへの対応の重要性等について意見交換が行われている。

■ 自律型AI時代に向けて（西村氏）

AISIは、日本を世界で最もAIを開発・活用しやすい国にすることを目的に、AIの安全性に関する評価手法や基準の検討と推進に取り組んでいる。

AIには、誤回答やハルシネーション、安全性、セキュリティといった技術的リスクに加え、プライバシー侵害、不正目的での利用、権力集中、財産権の侵害といった社会的リスクもある。

一方、人口減少に伴う労働力不足に直面する日本にとって、AIの活用は欠かせない。AIのリスクを受容可能な水準に抑えながら、AIがもたらす価値を最大化するAIガバナンスが必要だ。

AISIはAIの安全性に関する情報のハブとして、信頼できるAIを活用した製品・サービスの普及、国際標準化等を通じたイノベーションの促進、情報収集・分析・共有・対策の早期実施を担っている。

これまでに「AIセーフティに関する評価観点ガイド」や「AIセーフティに関するレッドチーミング手法ガイド」（攻撃者の視点からAIシステムの弱点やリスクを検証する手法に関する指針）等を公表してきた。

今後はAIモデルのサイバーセキュリティ性能評価や、事業実証ワーキンググループを通じた実装支援を進めていく。システムの企画・設計といった初期段階から安全性を考慮する「Safety by Design」の考え方も広げていく。

こうした取り組みを通じて官民連携と国際連携を進め、AIの安全性とイノベーションの両立を図っていく。

【産業技術本部】