Khabib Nurmagomedov est né le 20 septembre 1988 dans le village de Sildi dans le district de Tsumadinsky, dans l'ASSR du Daghestan, une république autonome au sein de la SFSR de Russie, avant de s'installer dans sa capitale, Makhachkala, dans le Daguestan. Puis, plus tard, il a déménagé à Kiev, en Ukraine, où il s'est entraîné au Combat Dobro. Il est le deuxième de trois enfants, y compris un frère aîné Magomed et une soeur plus jeune Amina. La famille de son père avait déménagé de Sildi, district de Tsumadinsky, à Kirovaul, où son père avait converti le rez-de-chaussée de leur bâtiment de deux étages en salle de sport. Nurmagomedov a grandi dans la maison avec ses frères et sœurs et ses cousins. Son intérêt pour les arts martiaux a commencé lorsqu'il a regardé des étudiants s'entraîner au gymnase.
Comme de nombreux enfants du Daghestan, il a commencé la lutte très tôt: il a commencé à l'âge de huit ans sous la tutelle de son père, Abdulmanap Nurmagomedov. Athlète décoré et vétéran de l’Armée de terre, son père luttait aussi depuis son plus jeune âge avant de suivre un entraînement de judo et de sambo dans l’armée. En 1997, Khabib avait été entraîné à la lutte contre un ours alors qu’il avait neuf ans, en 1997.
En 2001, sa famille déménage à Machachkala, où il s'entraîne à la lutte à 12 ans et au judo à partir de 15 ans. Il recommence à s'entraîner au combat sambo à 17 ans sous son père. Selon Nurmagomedov, la transition de la lutte au judo était difficile, mais son père souhaitait qu'il s'habitue à la compétition avec une veste de gi. Abdulmanap est actuellement entraîneur principal de l'équipe nationale de combat sambo en République du Daghestan, entraînant plusieurs athlètes au sambo et luttant à Makhachkala, en Russie. Nurmagomedov se livrait fréquemment à des combats de rue dans sa jeunesse, avant de se concentrer sur les arts martiaux mixtes.