1924 yılına kadar Anadolu’da Kurtuluş Savaşı'na katılan, milli kültüre önem veren devrimciler, Türklerin maddi ve manevi kültür mirasını içeren bir Etnografya Müzesi'nin kurulmasının gerekliliğine inanıyorlardı. Bu nedenle Milli Eğitim Bakanı Hamdullah Suphi Tanrıöver, eski mesai arkadaşı Budapeşte Etnografya Müzesi şeflerinden Türkolog J. Meszaroş’un müzenin kuruluşu konusundaki görüşleri sorularak, kendisine hizmet teklif edildiği, Prof. Meszaroş’un bakanlığa sunduğu 29 Kasım 1924 tarihli raporundan anlaşılmaktadır. Böylece Halk Müzesi'nin kurulmasına hazırlık yapılmak üzere, 1924’te İstanbul’da Prof. Celal Esad (Arseven) başkanlığında, daha sonra 1925 yılında İstanbul Müzeler Müdürü Halil Erdem başkanlığında, eser toplamak ve satın almak üzere özel bir komisyon kurulmuştur. Satın alınan 1250 adet eser, 1927 yılında inşası tamamlanan müzede teşhir edilmiştir. Müze Müdürlüğü'ne de Hamit Zübeyr Koşay atanmıştır.
15 Nisan 1928 yılında müzeyi ziyaret eden Gazi Mustafa Kemal Paşa (Atatürk) müze hakkında bilgi aldıktan sonra, Afgan Kralı Amanullah Han’ın Türkiye’yi ziyaretleri nedeniyle, müzenin açılmasına emir buyurmuşlardır. Müze 18.7.1930’da halka açılmış ve 1938 Kasım ayında Müzenin iç avlusu, geçici kabir olarak ayrılıncaya kadar açık kalmıştır. Atatürk'ün naaşı 1953'de Anıtkabir'e nakline değin burada kalmıştır. Bu kısım halen Atatürk’ün anısına hürmeten sembolik bir kabir şeklinde korunmaktadır, üzerinde beyaz mermere yazılmış şu kitabe bulunmaktadır.
“Burası 10.11.1938'de sonsuzluğa ulaşan Atatürk’ün 21.11.1938 den 10.11.1953 e kadar yattığı yerdir.

Binanın mimarı Arif Hikmet Koyunoğlu Cumhuriyetin ilk dönem mimarlarının en değerlilerindendir. Müteahhiti ise Nafiz Bey'dir.
Bina dikdörtgen planlı olup, tek kubbelidir. Yapının taş duvarları küfeki taşı ile kaplanmıştır. Alınlık kısmı mermer olup üzerleri oyma süslüdür.
Binaya 28 basamaklı bir merdivenle çıkılır. 4 sütunlu, üçlü bir giriş sistemi vardır. Kapıdan girilince kubbe altı holüne ve buradan da iç avlu denilen sütunlu kısma geçilir. Buranın ortasına mermer bir havuz yapılmış, çatı kısmı açık bırakılmıştır. Daha sonra bu iç avlu Atatürk'e geçici kabir olarak ayrıldığında, havuz bahçeye nakledilerek, çatısı kapatılmıştır. İç avlunun etrafında simetrik olarak büyüklü küçüklü salonlar yer almaktadır. İdare kısmı müzeye bitişik olup iki katlıdır.
Müze önünde at üstünde duran bronz Atatürk Heykeli 1927'de Milli Eğitim Bakanlığı tarafından İtalyan Sanatkarı Pietro Canonica'ya yaptırılmıştır.

Anadolu’nun çeşitli yörelerinden derlenmiş halk giysileri, süs eşyaları, ayakkabı, takunya örnekleri, Sivas yöresi kadın ve erkek çorapları çeşitli keseler, oyalar, çevreler, uçkurlar, peşkirler, bohçalar, yatak örtüleri, gelin kıyafetleri, damat tıraş takımları eski geleneksel Türk sanatının birer temsilcileridir.
Türklere özgü teknik malzeme ve desenlerle kendi içinde halı dokuma merkezlerinden Uşak, Gördes, Bergama, Kula, Milas, Ladik, Karaman, Niğde, Kırşehir yörelerine ait halıkilim koleksiyonu vardır. ve
Anadolu Maden sanatının güzel örnekleri arasında XV.Yüzyıldan kalma Memlük kazanları, Osmanlı şerbet kazanları, güğüm leğen, sini, kahve tepsisi, sahanlar, taslar, mum makasları vb. çeşitli madeni eserler vardır.

Osmanlı Devri yayları, okları, çakmaklı tabancalar, tüfekler kılıç ve yatağanlar, Türk çini porselenleri ve Kütahya porselenleri, tasavvuf ve tarikat ile ilgili eşyalar, Türk yazı sanatının güzel örneklerinden levhalar bulunmaktadır.
Türk ağaç işçiliğinin en güzel örneklerinden, Selçuklu Sultanı III. Keyhüsrev'in tahtı (XIII. y.y.), Ahi Şerafettin Sandukası (XIV.y.y.), Nevşehir Ürgüp’ün Damsa Köyü Taşhur Paşa Camii mihrabı (XII. y.y.), Siirt Ulu Camii Mimberi (XII.y.y.) Merzifon Çelebi Sultan Medresesi Kapısı (XV.y.y.) müzemizin önemli eserlerindendir.

VII. Dönem T.B.M.M. üyesi Besim Atalay’ın müzeye armağan ettiği koleksiyonu çeşitli devirlere ait Türk sanat tarihlerini içermektedir.
Müzede özellikle Anadolu etnografya ve folkloru, sanat tarihi ile ilgili eserleri içeren bir ihtisas kütüphanesi bulunmaktadır.