悩ましい問題です。
抱っこと歩きで何とかするのか、いざという時のためにベビーカーを持って行くのか。
ベビーカーを持っていっても、置く場所はあるのか?エレベーターはあるのか?
悩ましい問題なので、経験を紹介します。
地下鉄博物館についてはこちら。

大宮の鉄道博物館とは?

埼玉県の大宮駅近くにある、鉄道の博物館です。
色々な鉄道会社が、子供向け(?)の展示施設を持っていますが、こちらはJR東日本系列の博物館です。JRだけあって、私鉄系の展示施設と比べて、かなり大規模です。もちろん、機関車や新幹線の展示があるのは、JR系の鉄道博物館だけ。
展示は多岐にわたり、
■過去の鉄道車両の実車展示
■運転シュミレーター
■ミニ鉄道運転
■フードコート
■子供向けのなりきりコーナー?的な
など、様々です。
我が家は、妻と息子との3人で行きましたが、開館の10時〜15時頃までで大体見たいところは観れたかな…という印象。
最寄駅は、「JR大宮駅」ではなく、大宮駅から出ている新都市交通のニューシャトルの「鉄道博物館(大成)駅」が最寄、直結です。
「JR大宮駅」から歩いて行くことは、距離的に少し難しいと思います。
ベビーカーは置く場所はある

後述しますが、入館して右側が本館です。過去の鉄道車両の展示や、転車台などがあるエリアです。
その入り口(建物自体は繋がっています)のところに、ベビーカーを置いておくところがあります。
特段「ベビーカー置き場」と指定されているわけでは内容ですが、みなさんベビーカーはそこに置いているし、職員の方がベビーカーを並び替えたりしてくれています。
ちびっこに限らず、みんなに人気の「鉄道模型のジオラマコーナー」は、入り口にベビーカー置き場があります。場合によっては折りたたまないといけないかもしれませんが、「ベビーカーだからそもそも展示に入れない」ということは全くありません。
※ベビーカーのままで展示に入ることはできません
特段、ベビーカー置き場っぽくはないところでも、館内は結構ゆとりのある作りになっているので、隅の方にベビーカーを置いておく、というのはOKかもしれません。
ベビーカーがあると入れない箇所もある

館内展示の多くの場所には、ベビーカーや車椅子に対応したスロープが多数あります。エレベーターの設置も充実していたり、通路の広さが十分だったりするので、ベビーカーと一緒に移動する際に、まごつく、ということは少ないかもしれません。
とはいえ、一部の展示は、ベビーカーのままで入ることはできません。
というのも、「鉄道博物館」というだけあって、「古い鉄道(機関車なども含めて)」の展示がかず多くあります。
そういった、「古い鉄道」に至っては、車内のバリアフリーはなされていないので、ベビーカーのまま展示車両に入ることはできない…そういうところもあります。
この写真は、「0系新幹線の運転席」なんですが、もちろんベビーカーでは入れません。
階段を上った先に、新幹線のカットモデルの入り口があり、運転席も狭くて、ハシゴを登って入るような形状です。
なので、ベビーカーのまま中に入ることはできません。
※階段の手前にベビーカーを置いておくことは問題ないので、抱っこならOK
展示とは別で、お弁当を食べるスペース(フードコートのテーブルと椅子があるようなエリア)があるのですが、そこはベビーカーがあると、移動がやや難しい…という印象。
同じく、ミュージアムショップも通路が狭く、人が多いので、ベビーカー移動は難しいかも。
基本的には、ベビーカーにも優しい

この写真の左下に写っている黒い物体は、我が家のベビーカー。
こんな感じで、広い場所に置いておいても問題なさそうな雰囲気。もちろん、ここはベビーカー置き場ではないので、他の人の邪魔にならないように目を離さないことが重要だと思います。
ただ、鉄道博物館本館の転車台の手前や、ミニ鉄道運転コーナーの手前には、ベビーカーを置いておくスペースがあるます。
ディズニーリゾートのアトラクション周囲のベビーカー置き場のような要領で置いておけるので、あまり心配しなくて大丈夫。
もちろん、貴重品の管理には気をつけましょう。
基本的には(?)子供連れでも楽しめるように、という鉄道博物館なので、ベビーカー問題で困ることは少ないと思います。
お出かけに慣れているパパであれば、子供と2人で遊びに行く、というのも問題なくできるのではないかと思います。
結論
ベビーカーが邪魔で困る!ということはないので、ご安心を。