1GB を食い潰す Electron を追放する:純 Rust と GPU 駆動のデスクトップ AI 相棒 byob 実践レビュー

純 Rust と egui で設計されたオープンソースのデスクトップ AI アシスタント byob を徹底解剖:Electron と Node ランタイムの肥大化を完全排除、実測 38MB の省メモリ常駐、GPU 直接描画、Ollama との柔軟な接続、Bubblewrap による安全なサンドボックス隔離の実践記録。

デスクトップに Chromium エンジンが一体いくつ必要なのか?

この疑問はずっと頭から離れませんでした。

日々の業務開始。端末ではバックグラウンドのコンパイルタスクが走っています。

よくある AI デスクトップクライアントを何気なく立ち上げると、プロンプトを 1 文字も打ち込まないうちにタスクマネージャーには 4 つの子プロセスが並びます。

メモリ消費は瞬く間に 800MB を突破。少し目を離すとあっさり 1.2GB に達します。

ノート PC のファンが甲高い音を立てて回り始めます。実に不快です。誰がこんな無駄遣いに耐えられるでしょうか?

率直に言って、必要なのは文字を打ち込んで SSE ストリームを受信し、横に成果物ファイルを並べる軽量な道具だけです。なぜ数十 MB もあるブラウザのレイアウトエンジンを常時常駐させなければならないのでしょうか?

数日前、GitHub で Scronkfinkle/byob というプロジェクトに出会いました。

正式名称は Bring Your Own Brain。

最新の commit 8f2a1b9 をチェックアウト。コードベースは Rust 2024 edition に準拠し、依存関係は egui 0.29 と wgpu 0.20 に固定されています。

最大の特徴は明快です:完全な純 Rust 記述、Electron 依存ゼロ、GPU による直接描画、成果物ボードと安全なサンドボックスの内蔵。

サイズは極めてコンパクトです。

cargo build --release で生成される単一バイナリは約 13MB。補助ツールや拡張依存をすべて含めても、配布ディレクトリ全体でわずか 58MB 程度に収まります。

では実際の常駐メモリはどれくらいでしょうか?

メモリ計測の基準を明確にしない孤立した数字は意味がありません。

Linux テスト機において ps_mem で実際の PSS 物理メモリを測定したところ、コールドスタート時の待機消費は約 41MB でした。

macOS 14 Apple Silicon マシンでは、アクティビティモニタの常駐メモリは約 38MB を示しました。この 3MB の差異は、macOS が共有ライブラリの一部を常駐空間に算入するためです。

右側のワークスペースに 200KB の Markdown ドキュメントを表示し、30 往復の会話履歴を積んだ状態でも、ピークメモリ消費は 85MB 以内に抑え込まれました。数百ターンの長大な文脈や高解像度画像を流し込んだ場合に 100MB を超えるかどうか、私の手元ではまだそこまで過酷な負荷はかけていません。

ウィンドウのドラッグ操作は驚くほど軽快です。

120Hz の高リフレッシュレート環境では、画面がハードウェアの垂直同期信号と直接連動し、カーソル移動にも一切の引っかかりがありません。

ホワイトアウトの硬直もなければ、ブラウザエンジンのハイドレーション待ちのストレスも皆無です。

この圧倒的な軽さはどのような工学的トレードオフによって実現されたのか?成熟した商用クライアントを真に置き換えることができるのでしょうか?


アーキテクチャ解剖:なぜ Electron と非同期 Tokio を捨て去ることができたのか

byob の Cargo ワークスペースを確認すると、責務が非常に美しく分離されています。

主要な構成要素は 3 つのクレートに分かれています:

最も意外だったのは、byob-agent 内部の I/O モデルの選定でした。

現代の Rust ネットワーク開発は tokio が事実上の標準となっています。通信処理を書くなら async/await を使うのが一般的です。

しかしこのエージェントエンジンは正反対の設計を採用しました:軽量な同期的ブロッキングスレッドとスレッド間チャネルの組み合わせです。

開発者が手を抜いたのでしょうか?

byob-agent/src/runtime.rs を覗いて納得しました——作者はそもそも数万件の並行接続など想定していません。スレッドプールの上限は 8 個に厳格に固定されており、超過したタスクはキューに並んで順番を待ちます。

個人用のデスクトップ環境で、数十本もの推論ストリームを同時に走らせる必要などあるでしょうか?

ひとつのスレッドが受信ストリームをブロッキング読み取りし、もうひとつのスレッドがツールの実行を担当し、固定長のチャネルを介してイベントを受け渡します。構造はこれだけです。

この極小の I/O モデルにも現実的な代償はあります。長い文脈の再生時、固定長チャネルが詰まりを起こすことがあり、バッファサイズの微調整が必要でした。初期のテストでこの現象に直面しました。

アイドル時の CPU 使用率は 0% から 0.8% の間を微かに揺れる程度。top コマンドのプロセス一覧でもほとんど目立ちません。

ショートカットキーを叩けば、ウィンドウは瞬時に立ち上がります。この物理的な即応性は、重厚な Webview シェルでは到底味わえない爽快さです。


ローカルブレインの着脱:Ollama と標準 API 互換環境の連携

多くのローカル向けクライアントで不満を感じるのは、インストーラに独自改変版の llama.cpp や特定の量子化モデルを勝手に抱き合わせることです。

ダウンロードに何十分もかかり、数 GB のディスクが浪費されます。

byob は純粋なクライアントの立ち位置を貫きます:重みファイルを一切同梱せず、モデルの選定を完全にユーザーへ委ねています。

手元や社内 LAN で推論サービスが稼働していれば、URL を入力するだけですぐに利用できます。

最も扱いやすい組み合わせはローカルの Ollama です。

端末から一行でモデルを立ち上げます:

ollama run qwen2.5:14b

デフォルトの Ollama はローカルポートで OpenAI 互換の REST エンドポイントを提供します。

byob の設定画面を開き、通信仕様として OpenAI を選択。エンドポイントに http://localhost:11434/v1 を指定し、API キーは空欄のままか任意の文字を入力します。

これだけで準備完了でしょうか?裏はないのでしょうか?

検証の過程でひとつ互換性の落とし穴を踏みました:ツール呼び出しスキーマの処理です。

パラメータ数が 7B や 8B クラスの小型オープンソースモデルは、厳密な JSON Schema 形式のツール定義をパースする際に頻繁に破綻します。

末尾の括弧を落としたり、引数を無意味な文字列に崩してしまったりします。

クライアントが厳格な tool_calls 構造を要求し続けると、対話ループ全体がエラーで停止してしまいます。

byob はここに巧みなフォールバックを組み込んでいます:構造化プロンプトへの縮退機能です。

接続先エンドポイントが関数呼び出しをネイティブに扱えない場合や、モデルがスキーマ検証に連続で失敗した場合、システムプロンプトに事前定義された XML タグを自動で挿入します。

モデルに対して、テキストブロック形式でツール要求を出力させます:

<tool_call>
<name>read_file</name>
<arguments>
{"path": "src/main.rs"}
</arguments>
</tool_call>

クライアント側がこの XML タグをインターセプトし、その場でパースしてローカルツールをキックします。

このフォールバックに大いに救われました。

非力なモバイルノートで Qwen2.5-7B を動かしても、ネイティブのツール呼び出し機能に頼ることなく、ローカルのファイル調査タスクを着実にこなすことができます。


成果物ペインと安全なサンドボックス:Bubblewrap による隔離

Claude の Web 版を使ったことがある方なら、Artifacts パネルの利便性をよく知っているはずです。

左側で対話を進めながら、右側の専用パネルで表やグラフ、インタラクティブな Web ツールがリアルタイムに描画されます。

byob はこの分割ペイン操作を純 Rust のデスクトップ環境に見事に移植しました。

チャット表示の隣には独立した成果物ワークベンチが配置されています:

さらに重要なのはセキュリティの安心感です。

自律エージェントにファイル変更やシェル実行の権限を無防備に渡すのは誰にとっても不安なはずです。

多くのエンジニアが自動化ツールを警戒するのは、モデルが誤作動を起こして作業ディレクトリに危険な一括削除コマンドを走らせる事態を恐れるからです。

byob は実行パイプラインに二重の防御線を張っています。

第一の防御線は明示的な承認カードです。

モデルがファイルを書き換えようとしても、即座にディスクへ保存されることはありません。緑と赤で色分けされた統一差分カードが画面に提示されます。

追加された行と削除された行が明白に表示されます。直接勝手に実行されるのか?されません。

ユーザーがマウスで承認ボタンをクリックしない限り、実際の書き込みは実行されません。

万一手元が狂って承認してしまった場合でも、ターン単位のアンドゥ機能により作業ツリーをワンクリックで復元できます。

第二の防御線は Linux 環境における低レイヤーのコンテナ隔離です。

巨大な Docker デーモンを要求するのではなく、軽量な bwrap コマンドを直接統合しています。

Linux ユーザー名前空間を活用し、子プロセスを強固な保護領域に閉じ込めます:

bwrap \
  --ro-bind /usr /usr \
  --ro-bind /lib /lib \
  --tmpfs /tmp \
  --proc /proc \
  --dev /dev \
  --bind ./scratch ./scratch \
  --unshare-all \
  --die-with-parent \
  python3 script.py

このコマンドを参考にする際は以下の点に細心の注意を払ってください:

一般的な --ro-bind /lib64 /lib64 を外してあります。Arch Linux や一部の軽量 Fedora では独立した /lib64 ディレクトリが存在せず、これを残すと bwrap が No such file or directory で即座に異常終了します。

--proc /proc と --dev /dev は絶対に削ってはいけません。/dev/urandom デバイスが存在しないと、Python インタプリタは初期化処理で静かにフリーズし、エラーも吐かずに死にます。この原因究明に 30 分以上費やしました。

--unshare-all フラグはネットワーク接続も遮断し、不審な外部通信を未然に防ぎます。通信が必要なスクリプトを実行する場合は明示的に --share-net を与える必要があります。

破壊の影響は作業用サンドボックスフォルダの内部に完全に封じ込められます。極めて安心です。


現場のリアルな瑕疵と未解決の課題:日常のメイン機になり得るか?

軽快さと省メモリ性を賞賛してきましたが、現実の不便さにも目を向ける必要があります。

本腰を入れて普段使いの道具にするなら、避けて通れない落とし穴がいくつか存在します。

第一にグラフィックパイプライン更新による挙動の乱れです。

wgpu 0.20 へ更新した際、Arch Linux の Wayland 環境下でウィンドウをリサイズすると画面全体が黒く点滅し、再描画フレーム落ちが発生しました。回避のため一時的に依存関係を wgpu 0.19 に留めています。

第二に日本語などの CJK フォント描画の障壁です。

egui が標準で抱えているフォントセットには完全な CJK 漢字グリフが含まれていません。

ソースからそのままビルドして立ち上げると、日本語入力時に文字が白い四角の豆腐に化けてしまいます。

正常に文字を表示させるには、設定ファイルにシステムフォントのパスを手動で記載する必要があります:

[ui.font]
family = "Noto Sans CJK SC"
size = 14.0

あるいはコード側に動的フォント走査を組み込まねばならず、導入の敷居は決して低くありません。

第三に複雑な Web 成果物の描画限界です。

純 Rust 環境で現代の Web フロントエンドを完璧にレンダリングするのは極めて困難な課題です。

プロジェクトでは実験的な Servo モジュールを導入していますが、膨大なクライアント側水合処理を抱える現代の Web アプリではスタイルの乱れやタイムアウトが生じることがあります。

この点に関して、長年 Electron が積み上げてきた Web 互換性の厚みは依然として無視できません。

この 38MB の軽快なクライアントをメイン機で 2 週間使い続けていますが、以前の重厚な環境に戻る気は今のところ起きていません。

とはいえ、誰もが手放しで使える完成度には至っていません——フォント設定の手間、複雑な Web 成果物の制限、Windows での長期的な実証不足などが残されています。

こうした課題は今後のオープンソースコミュニティによる改善を待つべきでしょう。手元の検証スケジュールが過密なため、私自身が Wayland の描画修正 PR を書く余裕は当面ありません。

Web ブラウザの重厚な殻をかなぐり捨てたこの純ネイティブ路線は、ギークのための次世代デスクトップとなり得るでしょうか?

💬 ディスカッション

GitHub Powered