Sesampainya di Batavia, Belanda menawarkan kemerdekaan bagi mereka dari status sebagai budak dengan syarat mereka mau berpindah agama dari Katolik (agama resmi bangsa Portugis) menjadi Kristen Protestan.
Ketika mereka bersedia, Belanda lalu membuatkan gereja yang pada awalnya bernama De Nieuwe Portugeesche Buitenkerk ini.
Kaum Portugis Hitam inilah yang nantinya akan menjadi cikal bakal leluhur penghuni Kampung Tugu di Semper, Jakarta Utara.
Baca juga: Sejarah Jakarta: Gedung KPK Awal Proses Pembangunannya Disawer Masyarakat Hingga Rp403 Juta
Baca juga: Sejarah Jakarta: Gereja Immanuel Jakarta Dibangun Tahun 1834 Punya Orgel yang Berfungsi Hingga Kini
Adapun dalam sejarah Gereja Sion, gereja ini dibangun pada tahun 1693 oleh arsitek Ewout Verhagen.
Peletakan batu pertama dilakukan anak Gubenur Jenderal Hindia Belanda saat itu Pieter van Hoorn pada 19 Oktober 1693.
De Nieuwe Portugese Buitenkerk atau yang bernama Gereja Sion saat ini selesai dibangun pada tahun 1695 di atas tanah hibah dari Karel Reiniersz.
Pada waktu yang sama dengan selesainya pembangunan gereja, khutbah pertama berbahasa Belanda dibawakan oleh Pendeta Theodarus Zas.
Peresmian gedung gereja dilakukan pada hari Minggu, 23 Oktober 1695 dengan dihadiri gubernur jenderal Willem van Outhoorn.
Cerita lengkap pemberkatan gereja ini tertulis dalam bahasa Belanda pada sebuah papan peringatan. Sampai sekarang, masih bisa dilihat di dinding gereja.
Pada sejarah Gereja Sion, gereja ini sempat ditutup pada masa pendudukan Jepang.
Kemudian kembali dibuka pada tahun 1946 oleh Charles Poire, seorang pendeta Inggris yang kemudian menamai gereja ini sebagai Gereja Sion pada tahun 1951.
Pada tahun 1965 gereja berubah nama baru menjadi Gereja Protestan Indonesia Bagian Barat Jemaat Sion.
Saat ini Gereja Sion telah dtetapkan sebagai Cagar Budaya berdasarkan Surat Keputusan Menteri Pendidikan dan Kebudayaan Republik Indonesia Nomor 193/M/2017.
Gereja ini pernah dipugar pada 1920 dan sekali lagi pada 1978.
Hingga saat ini Gereja Sion merupakan salah satu bangunan tertua di Jakarta yang fungsinya masih sama seperti awal dibangun.
Sejak awal dibangun Gereja Sion ditopang 10.000 kayu dolken bulat sebagai fondasi bangunannya.