ChatGPTの記憶システムはRAGを使っていなかった
SRANK

参照元I Reverse Engineered ChatGPT's Memory System, and Here's What I Found! - Manthan Gupta Memory Architecture: Four-Layer Context System Prioritizes Speed Over RAG and Vector Databases Newsで500ポイント以上を獲得し、AI開発者界隈で話題になっているのが、Manthan Guptasさんによる「ChatGPTの記憶システム」のリバースエンジニアリング調査です。調査で明らかになったのは、ChatGPTが ベクトルデータベースもRAG(Retrieval-Augmented Generation)も使っていない という驚きの事実。多くのAIエンジニアが「当然RAGを使っているだろう」と考えていた仮定を覆す内容になっています。OpenAIは複雑な検索システムではなく、すべての記憶を毎回コンテキストに詰め込む というシンプルな設計を選択しています。一見非効率に思えるこのアプローチですが、実際には速度と効率性で大きなアドバンテージを生んでいるようです。4層構造のメモリアーキテクチャManthan Guptasさんの調査によると、ChatGPTのメモリシステムは以下の4層構造で構成されています。1. エフェメラル(一時的)セッションメタデータデバイスタイプ、ブラウザ、タイムゾーン、ユーザー設定な…

zenn.dev
Related Topics: AI AI Text Generator