AIはもっと忘れるべきだ

結論は少し耳が痛い。AIはもっと忘れるべきだ。一人会社に必要なのは、あらゆる好み、会話、暫定対応を永久保存するエージェントではない。どの記憶を信頼できるか、どの権限がまだ有効か、どの事実が失効したかを判断し、古い認識と新しい証拠が衝突した時に復旧できるエージェントである。

メモリは便利な機能に見える。しかし業務システムでは権限そのものだ。記憶した好みは提案を変え、プロジェクト状態は作業先を変え、過去の承認は外部行動の引き金になり得る。記憶した事実が、再確認されないままモデル、記事、意思決定へ入ることもある。エージェントが複数のツールを横断し、何時間も働くようになれば、メモリはデータベースであり、ポリシーエンジンであり、組織内の言い伝えにもなる。

10月12日、製品の最前線はこの現実へ一歩進んだ。MetaはMuse Wonderを発表し、Active MemoryとActive Focusと呼ぶ機能を示した。モデルは会話をまたいで関連する文脈を取り出し、長いタスクを続け、別の経路を試し、エラーから復旧できる。Metaの研究ノートは、これらを個人向け・業務向けエージェントの基盤と位置づける。付随するモデルページには、100万tokenのコンテキストウィンドウと、100万token当たり入力4ドル、キャッシュ済み入力0.20ドル、出力20ドルという価格が示されている。

OpenAIのDotsは別の角度からガバナンス問題を具体化する。dotはChatGPTのメモリと直近の文脈を受け取り、接続したプラグインから文脈を形成できる。メモリ共有をオフにした後も、すでに受け取った情報を使い続けられる。DotsのプライバシーFAQによれば、現時点で利用者はdotの文脈にある個別メモリを閲覧、削除、直接修正できない。dotを削除すればその文脈は消えるが、関連ファイル、会話、ChatGPTのメモリには別々の保存経路があり得る。

どちらも永続的な文脈を便利にする。しかし、記憶量を増やせば長期タスクの完了率が上がるとは証明していない。管理上の問いは、もっと小さく実務的に置ける。昨日の誤りや権限を明日へ持ち越さず、引き受けた仕事を終えるには、エージェントは最低限何を記憶すべきか。

メモリは隠れた制御層である

制御層はシステムの振る舞いを決める。AIの業務フローでは、プロンプトと権限は目に見える。メモリはもっと静かだ。タスク開始前に初期値を与え、誰も見ていない間に空白を埋める。

あるエージェントが「Robinは簡潔な報告を好む」と記憶しているとする。その好み自体は無害でも、「簡潔に」が重大な不確実性の省略につながれば問題になる。発行作業が以前に承認された、という記憶も同じだ。承認は一つのサイト、一つの日付、一つの保護されたリリース手順に限られていたかもしれない。境界を失えば、有用な履歴が危険な恒久権限へ変わる。

証拠でも同じ問題が起こる。企業が将来の導入を発表し、その後に完了、延期、中止することはある。メモリが「企業は導入中だ」とだけ残せば、出所が変わった後も現在の事実らしく聞こえる。検索すれば更新できるが、メモリが先に確信に満ちた答えを出せば、エージェントは検索自体をしないかもしれない。

だから出所が重要になる。結果を左右するすべての記憶は、五つの問いに答える必要がある。

1. この主張はどこから来たか。
2. いつ観測されたか。
3. その時点でシステムの確度はどれほどだったか。
4. どのタスクと権限が利用できるか。
5. どの事象で失効または訂正されるか。

この情報がなければ、メモリはただの一文だ。情報がそろえば、点検できる業務オブジェクトになる。

五種類のメモリには別々の規則が要る

一人会社は、少なくともアイデンティティ、好み、プロジェクト、証拠、行動状態の五種類を分けるべきだ。一つの無分類ストアへ混ぜれば、避けられる誤りが増える。

アイデンティティメモリは、氏名、公的な役割、所有ドメインなどの安定した事実を扱う。変化は遅いが、本人確認が連絡の権限やアクセスに影響するため機微性は高い。検証済みの出所、狭い可視範囲、明確な訂正経路が必要だ。

好みのメモリは、文体、書式、仕事の進め方、継続的な関心を扱う。好みは有用な事前情報だが、権限としては弱い。「Robinはロボティクスが好きだ」は調査の注目先を決める助けになる。しかし、ロボティクスのプロジェクトへ書き込み、支出し、企業へ連絡する根拠にはならない。嗜好は変わり、文脈にも左右されるため、再確認されなければ徐々に減衰させる。

プロジェクトメモリは、アーキテクチャ、所有者、ブランチ規則、現在の状態、復旧手順を記録する。正本ファイルへの直接リンクと鮮度確認が必要だ。手順書が変われば、記憶したコマンドの優先度を下げる。プロジェクト要約が現在のリポジトリより上位に来てはならない。

証拠メモリは、主張、出所、日付、計算、不確実性を保存する。最も厳格な来歴管理が必要だ。先週の意思決定を支えた事実も、今日は古いかもしれない。不変の原資料を参照し、留保条件を残す。鮮度が現在のタスクに影響するなら、原資料を開き直す。

行動状態メモリは、提案済み、準備完了、実行中、引き渡し済み、検証済み、完了のどこにあるかを示す。運用リスクが最も高い。完了には受領証が要り、権限には範囲が要る。過去の「はい」を、対象、送信先、金額、日付、復旧境界から切り離してはならない。

五種類に同じ保存規則を適用すべきではない。アイデンティティは訂正されるまで存続してよい。一時的な発行ロックは数分、市場データは数時間で失効し得る。文章の好みは数か月かけて薄れてよい。検証済みのリリース受領証は将来の権限ではなく履歴を記録するため、無期限に残せる。

すべての記憶に有効期限と権限範囲を持たせる

キャッシュでは生存時間、つまりTTLが使われる。同じ理由でエージェントメモリにも必要だ。鮮度は正しさの一部である。

TTLは、タイマーに従ってすべてを削除する仕組みでなくてよい。失効時に状態を「利用可」から「再検証必須」へ変えるだけでもよい。株価は数分後に再取得が必要になる。モデル価格は経済性を比較する前に再確認する。プロジェクトのアーキテクチャ注記は、参照ファイルのハッシュが変わるまで使える。所有者の指示は上書きされるまで存続できるが、重要な行動はなお、明示的に与えられた権限に従う。

権限範囲も同じ精度で記録する。読めるメモリが、実行権限を与えるとは限らない。OpenAIのDots紹介は、読み取り専用の接続ツールによる能動的調査を説明し、重要な仕事には行動レビュー、承認、Custom Rulesを置いている。これは一製品に限らない原則だ。文脈へのアクセスと行動権限は異なる能力である。

有用なメモリ記録には、例えば次の項目を持たせる。

• source：正本ファイル、メッセージ、公開文書。
• observed_at：主張がシステムへ入った時刻。
• confidence：確認済み、帰属付き、推定、不明。
• valid_until：再検証を促す時刻または事象。
• read_scope：取得できるエージェントまたはプロジェクト。
• action_scope：支えられる行動がある場合、その範囲。
• supersedes：置き換える以前の記録。
• correction_path：人またはプロセスが修正する方法。
• receipt：完了したとする行動の証拠。

スキーマそのものより、区分が重要だ。モデルは「この好みは記憶しているが、権限は与えない」「この事実は記憶しているが、鮮度の期限が切れた」と言えるべきだ。その方が推論の質も運用の安全性も高い。

矛盾は機能である

多くのメモリシステムは検索を最適化する。統制されたメモリは、矛盾の処理も最適化しなければならない。

ある記録ではサービス開始が08:00、新しい設定では08:30だとする。検索システムは両方を返し、モデルの即興に委ねるかもしれない。ガバナンス層は、同じ項目に関する記録だと認識し、権威性と日付を比較し、履歴値を保存しながら新しい値を現行とする。解消できなければ状態は不明であり、タスクは安全側の経路へ進む。

監査価値がある訂正は追記型にする。古い主張を消せば、以前の行動を説明する手がかりを失う。置換関係なしに両方を残せば曖昧になる。より良い形は、観測した主張、訂正、理由、発効時刻、再確認が必要な下流記録を鎖で結ぶことだ。

忘却も同じくらい重要だ。役目を終えた、権限が終了した、保存リスクが価値を上回る、といった理由で消すべき情報がある。DotsのプライバシーFAQは、削除の意味を点検すべき理由を示す。メモリ共有をオフにしてもdotがすでに受け取った情報は消えず、dotの文脈を削除しても関連するすべてのファイルや会話は消えない。個別のdotメモリも現時点では編集できない。ガバナンス層は「忘れる」という万能ボタンを仮定せず、保存先ごとの削除境界を把握すべきだ。

長い時間軸は小さな記憶違いを増幅する

永続エージェントでは、古い前提が積み重なる機会が増える。OpenAIの長期稼働モデルに関する安全ノートは、個別には許容できる行動が、全体では望ましくない軌道を作った事例を説明する。OpenAIは社内アクセスを停止し、インシデントを基に評価を作り、軌道単位の監視を改善し、セッションを中断できる制御を追加した。

この教訓は安全研究だけに限らない。誤ったプロジェクトパスは数時間を無駄にし、古い出所は四つの翻訳へ広がり、失効した権限は複数のサブエージェントに再利用され得る。稼働時間が長く、ツールアクセスが広いほど、孤立した行動ではなく軌道全体を点検する価値が高まる。

MetaのActive Focusは、エージェントが障害を越え、エラーから復旧する助けを目指す。粘り強さに価値があるのは、目標状態がなお正しい場合だけだ。古いメモリを握った頑固なエージェントは、間違った仕事を非常に効率よく進めかねない。復旧では二つを確認する。プロセスは再開したか。権限があり、証拠に支えられた結果へ向けて再開したか。

OpenAIとJump Tradingの事例は運用上の境界を明示する。同社は、より長く稼働する高性能なエージェント研究を説明する一方、最長のGPT-6 Astra作業でさえ、データ、所要時間、重要性、中間結果の妥当性について定期的に人が確認するとしている。安全な環境、観測可能性、明確な制約、重要出力の人による受け入れも強調する。

メモリはこうした境界の代わりにはならない。境界を長く保ち、適用しやすくすることはできる。

反証可能なメモリ実験

次に必要なのは宣言ではなく、条件をそろえた比較だ。同じ基盤モデル、ツール、token予算、タスク、受け入れ基準を持つ二つの読み取り専用エージェントを作る。

第一のエージェントには、制限のないメモリ記録を与える。好み、過去タスクの要約、プロジェクト注記、古い証拠を、有効期限も型付き権限もないまま取得させる。第二には、出所、確度、TTL、読み取り範囲、行動範囲、置換リンクを持つ統制済みメモリ記録を与える。

30件のタスクを三つに分ける。

1. 古いメモリが今も正しいタスクを10件。
2. 事実またはプロジェクト状態が変わったタスクを10件。
3. 以前の権限が無効になったタスクを10件。

各タスクに同じ原資料を与え、管理された矛盾を入れる。すべてのツールを読み取り専用にし、実験が本番システム、アカウント、資本を変更できないようにする。両群で試行を繰り返し、群のラベルを伏せて証拠を評価する。

六つの結果を測る。

1. 受け入れ済み完了率。
2. 古いメモリに起因する誤り。
3. 権限のない行動提案。
4. 受け入れまでの訂正回数。
5. 矛盾発生後の復旧時間。
6. 人のレビュー時間を含む、受け入れ済み成果当たりの総コスト。

昇格条件は結果が出る前に固定する。統制済みメモリが勝つのは、受け入れ済み完了率を下げずに、古いメモリと権限の誤りを減らし、総コストを所定の上限内に収めた場合だけだ。説明が美しい、メモリのベンチマークが高い、というだけでは足りない。

重要なアブレーションも行う。出所と権限を残してTTLを外し、誤りが増えるなら鮮度管理に効果があった。次に出所とTTLを残して権限範囲を外し、未承認の提案が増えるなら権限の型付けに効果があった。曖昧な「ガバナンス層」にすべての改善を帰属させないためだ。

結果を検証したタスク集合の外へ一般化してはならない。目標はRobinOSのルーティング規則であり、メモリの普遍理論ではない。

メモリレイクより先にメモリ台帳を作る

最小の実装はプラットフォームではなく台帳だ。通常の構造化ファイルでも、少数の重要記録を保存し、各項目を見えるようにできる。まず、現在の意思決定を本当に変えるメモリから始める。現行のプロジェクト規則、証拠の鮮度、発行権限、完了受領証である。

検索のたびに痕跡を残す。どのメモリを使ったか、有効だったか、どの出所が支えたか、矛盾があったかを記録する。訂正のたびに、古い記録へリンクした新規項目を作る。重要な行動では、権限記録と最終受領証を別々に参照する。

台帳にはガベージコレクション規則も要る。失効した低価値の好みは削除または保管できる。履歴証拠と受領証は不変に保つ。秘密を含む記録は承認済みの保存先に残し、便利だからという理由だけで新しいインデックスへ複製しない。目的は、メモリデータベースを大きくすることではなく、無秩序な保存を減らすことだ。

NISTのAIリスク管理フレームワークは、システムのライフサイクル全体で文脈を文書化し、リスクを測定し、統治し、継続的に管理することを重視する。このメモリスキーマを定めてはいないが、意図した用途、証拠、監視、説明責任を結びつけ、AIリスク管理を一度限りのチェックリストにしないという運用思想を支えている。

一人会社にとっての利点は、健忘にならずにレバレッジを得ることだ。エージェントは有用な文脈を日をまたいで運びながら、永続的な規則と古い観測、好みと権限、提案と完了済み行動を区別できる。

この公開物が完了したこと

この記事が完了したのは、公開ガバナンスの枠組み、五種類のメモリ分類、条件をそろえた実験案である。RobinOSのメモリ変更、非公開アカウントの調査、保存済み文脈の削除、実験の実行、モデルアクセスの購入、新しい権限の付与はしていない。同じタスクを同じ予算で試すまで、統制済みメモリと無制限メモリの相対的な成績は不明である。

実務規則は単純だ。保存量を減らす。残す記憶には型を付ける。出所と有効期限を加える。読み取りと行動を分ける。訂正を見える形で残す。完了には受領証を求める。

すべてを忘れるAIは不便だ。しかし、間違った版のあなたを永久に記憶するAIはもっと悪い。価値があるのは、何を記憶し、なぜ信頼し、どこで使え、どのように考えを改めるかを説明できるシステムである。

Categories and keywords

Categories: Agentic AI; Governance; One Person Company; Systems.

Keywords: governed AI memory; agent memory provenance; memory expiry; permission scope; correction ledger; long-running agents; RobinOS.

Hashtags: #AgenticAI #AIMemory #AIGovernance #OnePersonCompany #RobinOS