Antara langkah awal ke arah ini yang telah diambil ialah memindahkan Markas Tentera Persekutuan dari bangunan ini ke tempat barunya di Sungai Udang Melaka dalam tahun 1958.
Usaha juga turut dibuat untuk membina sebuah dewan yang menghubungi bangunan ini bagi kegunaan mesyuarat peringkat kebangsaan dan antarabangsa serta acara-acara rasmi yang lain. Jabatan Kerja Raya telah diberikan tanggungjawab melaksanakan pembinaan projek ini dan mereka telah ditugaskan untuk merancang dan menyediakan pelan bagi dewan ini terdiri daripada dua arkitek Jabatan tersebut iaitu Encik Dinsdale dan En. Shipley serta En. Jewkes, Timbalan Pengarahnya. Kos pembinaan Dewan ini menelan belanja sebanyak RM750,000.00.
Dewan ini telah dibuka dengan rasminya oleh Y.T.M. Tunku Abdul Rahman Putra, Perdana Menteri Persekutuan Tanah Melayu pada 24 Februari 1958. Dewan ini diberi nama Dewan Tunku Abdul Rahman sempena nama beliau.
Perasmian Dewan Tunku Abdul Rahman pada 24 Februari 1958
Serentak dengan perasmian Dewan ini telah dilangsungkan Persidangan Jawatankuasa Bangsa-bangsa Bersatu bagi Suruhanjaya Ekonomi Asia dan Timur Jauh (ECAFE) yang merupakan persidangan antarabangsa pertama diadakan di dewan ini. Selepas perasmian Dewan ini, bangunan tersebut telah dikenali sebagai Dewan Tunku Abdul Rahman untuk beberapa dekad.
Semenjak merdeka, bangunan ini telah menempatkan beberapa agensi Kerajaan silih berganti. Yang paling lama mendiami bangunan ini ialah Balai Seni Lukis Negara iaitu daripada tahun 1958 hingga 1984. Balai ini telah dirasmikan oleh Y.T.M Tunku Abdul Rahman Putra pada 27 Ogos 1958. Balai Seni Lukis Negara telah berpindah ke bangunan barunya iaitu bekas Bangunan Hotel Majestic di Jalan Sultan Hishamuddin yang telah diubahsuai pada 21 Mei 1984.
Bangunan ini juga pernah menempatkan Balai Seni Lukis Negara pada tahun 1958-1984
Pejabat Rekod Awam yang kemudiannya dikenali sebagai Arkib Negara pernah menggunakan sebahagian daripada Bangunan Dewan Tunku Abdul Rahman ini sebagai ruang pejabatnya selama setahun mulai tarikh penubuhannya pada 1 Disember 1957. Pejabat Penyimpan Mohor Besar Raja-Raja melayu juga pernah ditempatkan di sini pernah dijadikan sebagai Pejabat Kadi Wilayah Persekutuan antara 1974-1979.
Semenjak menjadi tuan rumah persidangan peringkat antarabangsa pertama dalam tahun 1958, banyak peristiwa penting dan bersejarah bagi negara telah dijalankan di bangunan ini. Antaranya ialah pembukaan rasmi persidangan Pertama Persekutuan Tanah Melayu oleh D.Y.M.M Yang di-Pertuan Agong Pertama Almarhum Tuanku Abdul Rahman ibni Almarhum Tuanku Muhammad pada 12 September 1959. Seramai 104 orang ahli Parlimen yang dipilih dalam pilihanraya yang diadakan pada 19 Ogos 1959 telah hadir di persidangan ini. Semenjak tarikh itu. Parlimen Persekutuan telah wujud dengan rasminya sebagai lambang demokrasi yang menjadi amalan hidup rakyat negara ini.
Pembukaan Rasmi Persidangan Pertama Persekutuan Tanah Melayu oleh D.Y.M.M Yang di-Pertuan Agong Pertama Almarhum Tuanku Abdul Rahman ibni Almarhum Tuanku Muhammad
Selain itu, Dewan ini juga pernah dijadikan Balairong Seri untuk pertabalan Duli-duli Yang Maha Mulia di-Pertuan Agong Malaysia yang dilangsungkan dengan penuh adat istiadat. Duli-duli Yang Maha Mulia tersebut terdiri daripada Tuanku Syed Putra ibni Almarhum Syed Hassan Jamallulail yang ditabalkan sebagi Yang di-Pertuan Agong Ketiga pada 4 Januari 1961; Almarhum Tuanku Ismail Nasiruddin Shah ibni Almarhum Sultan Zainal Abidin sebagai Yang di-Pertuan Agong Keempat pada 11 April 1966; Tuanku Abdul Halim Muazzam Shah ibni Almarhum Sultan Badli Shah yang ditabalkan sebagai Yang di-Pertuan Agong Kelima pada 20 Februari 1971 dan Almarhum Tuanku Yahya Petra ibni Almarhum Sultan Ibrahim yang ditabalkan sebagai Yang di-Pertuan Agong Keenam pada 28 Februari 1976.
Sekitar pertabalan Seri Paduka Baginda Yang Di-Pertuan Agong Persekutuan Tanah Melayu Yang Pertama Tuanku Abdul Rahman Ibni Almarhum Tuanku Muhammad diadakan pada 2 September 1957