Pertama, nama Beos mengacu pada nama stasiun Batavia BOS Bataviasche Oosterspoorweg Maatschapij (Maskapai Angkutan Kereta Api Batavia Timur), yang berada pada lokasi yang sama sebelum dibongkar. Perusahaan ini adalah sebuah perusahaan kereta api swasta yang menghubungkan Batavia dengan Kedunggedeh. Versi lain, Beos berasal dari kata Batavia En Omstreken, yang artinya Batavia dan Sekitarnya, yang berasal dari fungsi stasiun sebagai pusat transportasi kereta api yang menghubungkan Kota Batavia dengan kota lain seperti Bekassie (Bekasi), Buitenzorg (Bogor), Parijs van Java (Bandung), Karavam (Karawang), dan lain-lain.
Sebenarnya, masih ada nama lain untuk Stasiun Jakarta Kota ini, yakni Batavia Zuid yang berarti Stasiun Batavia Selatan. Nama ini muncul karena pada akhir abad ke-19, Batavia sudah memiliki lebih dari dua stasiun kereta api. Satunya adalah Stasiun Batavia Noord (Batavia Utara) yang terletak di sebelah selatan Museum Sejarah Jakarta sekarang. Batavia Noord pada awalnya merupakan milik perusahaan kereta api Nederlandsch-Indische Spoorweg Maatschappij, dan merupakan terminus untuk jalur Batavia-Buitenzorg. Pada tahun 1913 jalur Batavia-Buitenzorg ini dijual kepada pemerintah Hindia Belanda dan dikelola oleh Staatsspoorwegen. Pada waktu itu kawasan Jatinegara dan Tanjung Priok belum termasuk gemeente Batavia.
Batavia Zuid, awalnya dibangun sekitar tahun 1887, kemudian ditutup pada tahun 1926 untuk direnovasi menjadi bangunan yang kini ada. Selama stasiun ini dibangun, kereta-kereta api menggunakan stasiun Batavia Noord. Sekitar 200 m dari stasiun yang ditutup ini dibangunlah Stasiun Jakarta Kota yang sekarang. Pembangunannya selesai pada 19 Agustus 1929 dan secara resmi digunakan pada 8 Oktober 1929. Acara peresmiannya dilakukan secara besar-besaran dengan penanaman kepala kerbau oleh Gubernur Jendral jhr. A.C.D. de Graeff yang berkuasa pada Hindia Belanda pada 1926-1931.
Di balik kemegahan stasiun ini, tersebutlah nama seorang arsitek Belanda kelahiran Tulungagung, 8 September 1882, yaitu Frans Johan Louwrens Ghijsels. Bersama teman-temannya seperti Hein von Essen dan F. Stolts, lelaki yang menamatkan pendidikan arsitekturnya di Delft itu mendirikan biro arsitektur Algemeen Ingenieur Architectenbureau (AIA). Karya biro ini bisa dilihat dari gedung Departemen Perhubungan Laut di Medan Merdeka Timur dan Rumah Sakit PELNI di Petamburan yang keduanya di Jakarta serta Rumah Sakit Panti Rapih di Yogyakarta.
