Summit Europe 2024 主要なカテゴリと発表件数 0 5 10 15 20 25 ContainerCon CloudOpen Digital Trust Open AI + Data Forum SupplyChainSecurityCon OSPOCon Zephyr Open Source Leadership Summit ※Digital Trust、Zephyrは新設(OSSEU2023にはなかった)カテゴリ
the Software Commons: Standards, Automation, and AI for a Resilient Open Source Future ◆ 発表者:Abhishek Arya (Google) ◆ 概要:「標準化」「自動化」「AI」の3つの要素が、オープンソースのセキュリティに大きな変化をもたらす 標準化 SLSAフレームワーク、OSV脆弱性スキーマ(Googleが開発している「OSV-Scanner」)を成功事例として紹介。これ らの標準化によりオープンソースの脆弱性を簡単に特定、対処できるようになる 自動化 オープンソース開発者が日常の手作業を減らすためにも自動化が必要。統合プラットフォームによって、さまざまなセキュリ ティツールを簡単に統合できるようになる AI 脆弱性の分析やパッチ当てなどに活用できる。セキュリティを強化する可能性があるが、うまく使うためには現在のAIの限 界を理解しないといけない。プロンプトやトレーニング、検証によってAIの精度を高めていくことが大事 →オープンソースのセキュリティの未来は明るい! 今回の3つの要素を活用することで、開発者の負担を減らしながら、 より安全なオープンソースの構築ができるようになる
Security but How Do We Secure GenAI End-to-End? ◆ 発表者:Mihai Maruseac (Google) ◆ 概要:AI/MLのセキュリティリスクは従来のソフトウェアと同様に存在し、従来のセキュリティ対策を適用可能 AIのセキュリティリスク プロンプトインジェクション:従来のSQLインジェクションに似ている データ漏洩:従来のソフトウェアと同様に頻繁に発生 マルウェア:モデルにマルウェアを隠すことが可能 リモートコード実行:強力な操作を含むモデルが攻撃対象になる セキュリティ対策 SLSA for Models:モデルのトレーニングプロセス全体を保護するためのフレームワーク Model cards:モデルのトレーニングデータやライセンス情報を提供 AI BOM:モデルの依存関係を表示