RAG(検索拡張生成)を用いるLLMアプリにおける、セキュリティ視点での実装ガイドライン

ARANK

はじめに こんにちは、GMO Flatt Security株式会社 セキュリティエンジニアの藤田（@fujitargz）です。 昨今のLLM（大規模言語モデル）の急速な進化にともない、LLMを活用したサービスが多数登場しています。しかし、業務改善・ビジネス活用を狙ってLLMを触ってみたものの、モデルの知らない最新情報や自社固有の情報への対応、回答の正確性などに頭を悩ませた方もいらっしゃるのではないでしょうか？これらの問題に対する解決策として、LLMの知識や出力精度を向上させる技術であるRAG（Retrieval-Augmented Generation）が注目されています。 ところで、RAGの…