2025-03-06から1日間の記事一覧
説明 システムプロンプト漏洩(System Prompt Leakage) とは、LLM(大規模言語モデル)においてシステムプロンプトや指示文が意図せず漏洩し、それが攻撃に利用されるリスクを指します。 システムプロンプトとは? システムプロンプトは、LLMの出力を特定の…
説明 LLM(大規模言語モデル)を利用したシステムは、開発者によって一定の「エージェンシー(行動権限)」を付与されることが多い。これは、LLMが関数を呼び出したり、拡張機能(ベンダーによって「ツール」「スキル」「プラグイン」とも呼ばれる)を通じて…