LLM の「脳内」をハッキングする技術

ARANK

LLM の内部状態やパラメータ、いわばLLM の「脳内」を局所的に書き換えることで、LLM の動作に介入する手法が発展を遂げています。 まずは最も基本的な操舵ベクトルについてみていきましょう。 操舵ベクトル LLM の内部状態を特定の方向に動かすことで動作を操作できます。このときに用いるベクトルのことを操舵ベクトル (steering vector) といいます。 たとえば llm-jp/llm-jp-4-8b-instruct というモデルに、丁寧語を入力したときと、インターネット的なフランクな関西弁で入力したときの内部状態を可視化すると以下のようになります。llm-jp/llm-jp-4-…