Atatürk'ün annesi Zübeyde Hanım da Selânik yakınlannda Langaza adı verilen kasabada yerleşmiş eski bir Türk ailesine mensuptu. Bu aile, soy olarak Anadolu'dan Rumeli'ye geçmiş yörüklerdendi ve 'Varyemez oğulları' olarak tanınıyorlardı. Bu ailenin Langaza'da büyük çiftlikleri vardı; tarım yanında hayvancılıkla meşgul idiler. 1871 yılında Zübeyde Hanım ile evlenen Ali Rıza Efendi'nin henüz elli yaşlarında iken 1888 yılında ölmesi üzerine, yedi-sekiz yaşlarında yetim kalan küçük Mustafa'nın büyütülmesi ve yetiştirilmesi görevi, büyük Türk kadını Zübeyde Hanım'a düştü. Küçük Mustafa, ilk öğrenimine bir süre annesinin arzusuna uyarak Hafız Mehmet Efendi'nin mahalle mektebinde devam etti; fakat çok geçmeden babasının isteği ile Selânik'te çağdaş eğitim yapan Şemsi Efendi Mektebi'ne geçti ve ilkokulu burada bitirdi.

Şemsi Efendi, yeni öğrencisinin yeteneklerini ve zekâsını takdir ettiğinden, küçük Mustafa'nın kendi okulunda bulunmasından son derece memnundu. Küçük Mustafa, bu okulda okurken babası öldü. Bu sıralarda isimleri Makbule ve Naciye olmak üzere kendisinden küçük iki kız kardeşi bulunuyordu. Babaları öldüğü zaman küçük Mustafa yedi, Makbule bir yaşını henüz doldurmuştu; Naciye ise kırk günlüktü. Bu en küçük kardeşleri genç kız iken Selânik'te öldü. Ali Rıza Efendi'nin ölümü üzerine, Zübeyde Hanım üç çocuğu ile bir süre Selânik yakınlarındaki Rapla çiftliğinde subaşılık yapan kardeşi Hüseyin Efendi'nin yanına yerleşti. Çiftlik hayatı nedeniyle küçük Mustafa'nın öğrenimi ister istemez bir süre aksamıştı. Fakat çok geçmeden Selânik'e dönerek halasının yanında, bıraktığı yerden öğrenimine devam etti.

Küçük Mustafa, Şemsi Efendi İlkokulu'ndan sonra bir süre Selânik Mülkiye Rüştiyesi'ne devam etti ise de Kaymak Hafız adlı Arapça öğretmeninin kendisine haksız yere sopa ile vurması üzerine bu okuldan ayrıldı ve 1893 yılında kendi kararı ile Askerî Rüştiye'ye müracaat ederek öğrenimine burada devam etti. Yazları, dayısı Hüseyin Efendi'nin yanına gider, okul zamanına kadar çiftlikte kalırdı.

Mustafa bu okulu gerçekten sevmişti. Arkadaşları arasında zekâsı ve üstün yetenekleri ile kısa zamanda kendisini gösterdi ve öğretmenlerinin sevgisini kazandı; öğretmenleri neredeyse kendisine bir arkadaş muamelesi yapma gereğini hissetmişlerdi. Bu okulda matematik öğretmenliği yapan Yüzbaşı Mustafa Efendi, genç öğrencisinin yetenekleri ve zekâsı karşısında sınıftaki diğer Mustafa'larla aralarındaki farkı belirtmek üzere öğrencisinin adının sonuna "Kemal" ismini ilâve etti. Artık genç öğrenci Mustafa Kemal olmuştu.