Ивана Михайловича всегда отличало умение говорить о сложном просто и понятно - по своей первой профессии он, крестьянский сын, был учителем сельской школы. Однажды, случайно прочитав книгу о геологии, И.М. Губкин решил связать свою жизнь именно с этой профессией. «Всё это меня буквально поглотило…», - напишет он позже в своих воспоминаниях. Но поступить в Горный институт после учительской семинарии он не мог. В России 1903 года существовал порядок: в высшее учебное заведение можно было поступить только после окончания гимназии или училища «для лиц благородного и среднего сословия». Иван Михайлович принял твердое решение, во что бы то ни стало поступить в горный институт, исполнить свою мечту. Вместе с 17-18 летними гимназистами он в свои 32 года сдаёт все экзамены и получает аттестат зрелости. В 1910 году в возрасте 39 лет он оканчивает Горный институт.
Насколько медленным был его путь к диплому горного инженера, настолько стремительным стал карьерный взлёт. Сегодня Ивана Михайловича вспоминают как организатора и руководителя первых научно-исследовательских институтов по проблемам нефти и других горючих ископаемых; автора более 150 научных работ, в том числе учебников по геологии нефти; разработчика теории нефтеобразования и формирования нефтяных месторождений; открывателя нового типа промышленных залежей нефти, названных «рукавообразными». И.М. Губкин доказал перспективность Волго-Уральской и Западно-Сибирской нефтегазоносных провинций.
Добившись таких высоких результатов, исполнив главную мечту в своей жизни и став геологом, Иван Михайлович не оставлял и педагогическую деятельность. Нефтяной факультет Московской горной академии, созданный Губкиным, преобразован в Московский нефтяной институт и назван его именем. С 1930 года он – его ректор, заведующий кафедрой геологии и нефтяных месторождений. По воспоминаниям коллег, к двухчасовой лекции студентам Иван Михайлович готовился по 5-6 часов. «Недра не подведут, если не подведут люди», – любил повторять академик и готовил настоящих специалистов. Сегодня Российский государственный университет нефти и газа имени И.М. Губкина – по-прежнему главная «кузница» кадров для нефтегазовой отрасли.