前に Vserver のインストール記事の一番したのリンク先とほぼ同じです。
自分の場合は以下のようにゲートウェイが 3 つあるので、これを使い分けたい。
その前に備忘録として 6/17 落雷での障害についても書いておく。

摂津国ネットワーク
6/17 の落雷の際、上記ネットワークの設備とサーバにしていたパソコンすべて停止してしまいました。
一番重要なゲートウェイ maro と ReJEC.NET のマシン CO2 は幸い素直ち立ち上がり、現在も異常なく稼動中です。
ところが、ゲートウェイ・chirokichi とゲートウェイ F100 の起動および動作は確認できたものの、
SUZUME が一晩経過しても SSH や HTTP 等に反応せず、OS 起動時点かハードウェア的にトラブルが発生したと思われます。
(RAID5 のリビルドに失敗したのかもしれない)
落雷が起きた 2 週間ほど前(~5/31)に VALUE-DOMAIN 提供の DNS が非常に調子が悪く(ns[1-3].value-domain.com の 3 台同時に応答しないことが多々発生していた)、
ReJEC.NET にも相当影響があったので SUZUME 上に構成していた内向け DNS サーバを ReJEC.NET の DNS サーバとして利用を開始しました。
(セカンダリ DNS は xname.org を使用してます)
したがって、CO2 復旧直後に再度 DNS サーバを ns[1-3].value-domain.com に書き換えたものの、
反映にはしばらく時間がかかると思われたので加賀国のフレッツを用いて障害発生のメッセージを出すことにしました。
時間はマシン起動をしてもらった頃に戻ります。
固定 IP なのは chiyokichi のみであり、maro と F100 が迷子になった時は chiyokichi 経由で CO2 へ、そして maro へアクセスして対応する予定でした。
maro と F100 は落雷で停止して 6 時間以上も経過したので非常に高い確率で落雷前と異なる IP が割り当てられたと予想されました(実際にそうだったようです。
今回 SUZUME が停止してしまったので、どうにかして maro の IP を知る必要がでてきました。
そもそも maro の IP を知ることができても CO2 も SUZUME のように立ち上がってない可能性があります。
幸い CO2は「(HDD アクセスを示す)赤いランプがさっき(起動後数分)消えた」という情報が入ったので CO2 は正常に立ち上がった可能性が多少ありました。
(SUZUME は電源が入るが HDD アクセス中のランプが常時店頭状態でなおかつ HDD のアクセス音が聞こえず回転音しかしない状態)
CO2 から外部のサーバに定期的に通信しているプログラムがいくつかあったと思うのですが、
IP アドレスがわかりそうなものは SUZUME に対するヘルスチェックくらいだったので、とりあえず IP アドレス総当りでプログラムを走らせておくことにしました。
(経験的に eo 1Gbps(GE-PON) は 58.188.0.0/16 の範囲で IP が割り振られるので最悪でも 65536 で IP がわかる予定だった。
ところが、eo の GE-PON エリア拡大により、IP が足りなくなったのか 119.230.0.0/16 が今後 1Gbps 用に変化したらしいことに気づいてなかったので意味内。)
とりあえず、Gmail に cron ジョブの一部を転送するようにしていたのでこのヘッダを見てみたらよかった、ちゃんと maro の IP が記録されてた。
Co2 は復旧後せっせとメールを一生懸命いつものように Gmail へ転送してくれてたようだ。

Gmail メールのヘッダ

maro の IP
ということで、ようやく本題である複数のゲートウェイを使い分けるに入る。
SUZUME は起動しないので遠隔から復旧作業をするのは非常に面倒というか困難なので早々にこれはあきらめた。
なので DNS だけを CO2 上にもってくる。
もうわかってると思うが、Gigabit ハブが足りないので、セキュリティ上イマイチだとはおもったがすべてのゲートウェイとサーバは同じハブ上につながっている。
なので、一番上の画像と異なり CO2 から chiyokichi や F100 を使うことが可能である。
(まぁ SUZUME が停止するという自体を想定していた、というのもあるけどむしろ逆で年齢的に CO2 (推定 6 歳)が停止することはあっても SUZUME(2 歳) が停止することはないだろう、と思ってこうしていた)
CO2 を Vserver 化してしまうのが一番の方法であるが、kernel が立ち上がらない最悪の状況は避けたいので eth0 の Alias を手動でつくって対応する。
ということで、/etc/network/interfaces に eth0:1 (chiyikichi と DNS 用。192.168.3.0/24)を作成する。
なお事前に iproute2 をインストールしておくこと。
auto eth0:1
iface eth0:1 inet static
address 192.168.3.30
netmask 255.255.255.0
up ip route add 192.168.3.0/24 dev eth0 table 100
up ip route add default via 192.168.3.32 dev eth0 table 100
up ip rule add from 192.168.3.30 table 100
これで ifup eth0:1 として立ち上げる。
/sbin/ifconfig 、ip route show 、route 、ip rule show 等で確認する。
また、ついでに F100(192.168.6.0/24) の転送量無制限回線も使いたいのでこれも使用する。
この BLOG はまさに F100 を経由して通信してたりする。
auto eth0:2
iface eth0:2 inet static
address 192.168.6.30
netmask 255.255.255.0
up ip route add 192.168.6.0/24 dev eth0 table 110
up ip route add default via 192.168.6.1 dev eth0 table 110
up ip rule add from 192.168.6.30 table 110
auto eth0:3
iface eth0:3 inet static
address 192.168.6.31
netmask 255.255.255.0
up ip rule add from 192.168.6.31 table 110
auto eth0:4
iface eth0:4 inet static
address 192.168.6.29
netmask 255.255.255.0
up ip rule add from 192.168.6.29 table 110
これもまぁ見たとおりだけど、eth0:2 がリバースプロキシ、eth0:3 が画像用サーバ(未完成)のIP、eth0:4 がコンテンツサーバ(停止中)のIP である。
うーん。やっぱり自分の文章意味わからんなぁ。