Сын великого князя Михаила Николаевича и великой княгини Ольги Федоровны (урожденной Цецилии Августы, принцессы Баденской), племянник императора Александра II. При рождении зачислен в лейб-гвардии Конно-Гренадерский полк, лейб-гвардии 4-й стрелковый Императорской Фамилии батальон, 1-ю батарею лейб-гвардии 2-й артиллерийской бригады и назначен шефом 153-го пехотного Бакинского полка. 25.9.1876 произведен в прапорщики. 25.9.1889 произведен в подпоручики и зачислен для несения действительной службы во 2-ю батарею Гвардейской конно-артиллерийской бригады. 26.11.1889 назначен флигель-адъютантом его императорского величества.  30.8.1892 произведен в поручики. 14.5.1896 произведен в штабс-капитаны.  5.4.1898 произведен  в капитаны. 8.11.1898 назначен командующим 2-й батареи Гвардейской конно-артиллерийской бригады. 18.4.1899 произведен в полковники с утверждением командиром 2-й батареи Гвардейской конно-артиллерийской бригады. 13.11.1903 назначен командиром 2-го дивизиона Гвардейской конно-артиллерийской бригады. 10.3.1904 произведен в генерал-майоры с зачислением в  Свиту его императорского величества и назначением в распоряжение генерал-фельдцейхмейстера. 16.6.1904 назначен командиром Гвардейской конно-артиллерийской бригады. 7.9.1904 назначен инспектором всей артиллерии. 2.7.1905 назначен генерал-инспектором артиллерии. 13.04.1908 произведен в генерал-лейтенанты и назначен генерал-адъютантом его императорского величества с оставлением генерал-инспектором артиллерии. 2.8.1908 назначен опекуном своего брата великого князя Михаила Михайловича, вынужденного проживать за границей из-за морганатического брака. 7.9.1909 назначен шефом 3-го Владивостокского крепостного артиллерийского полка. 6.4.1914 произведен в генералы от артиллерии за отличие по службе.

Фактически являлся руководителем всей русской артиллерии, хотя должности генерал-фельдцейхместера не получил. Почетный член Михайловской артиллерийской и Николаевской инженерной академий. Председатель Императорского русского театрального общества и Санкт-Петербургского общества велосипедной езды. Покровитель и почетный член многих охотничьих, спортивных, музыкальных и благотворительных учреждений и обществ. Являлся близким другом императора Николая II. 5.1.1916 назначен полевым генерал-инспектором артиллерии при верховном главнокомандующем. 22.3.1917 уволен со службы по прошению с мундиром. Проживал в Петрограде. 26.3.1918 вместе с несколькими членами императорской фамилии выслан в Вятку, в апреле 1918 г. переведен в Екатеринбург, а 20.5.1918 в Алапаевск. В ночь на 18.7.1918 по решению большевистской партийной организации Алапаевска вместе с несколькими членами императорской фамилии был вывезен за город и зверски убит. Тела убитых были сброшены в шахту Нижне-Селимская. После занятия Алапаевска войсками адмирала А.В. Колчака тела убитых были извлечены из шахты и захоронены в Свято-Троицком  соборе Алапаевска. Летом 1919 г. при подходе Красной армии к городу тела были вывезены в Читу, а затем в Пекин, где захоронены на кладбище Русской духовной миссии. В 1938 г. перезахоронены в храме Всех Святых Мученников на территории Русской духовной миссии. В 1957 г. храм, оказавшийся на территории посольства СССР в Пекине был снесен. Несмотря на предпринятые в 2005 г. поиски останки до сих пор считаются утраченными.  1.11.1981 канонизирован РПЦЗ. 8.6.1999 реабилитирован постановлением Генеральной прокуратуры РФ.

Был холост. Долгое время сожительствовал с балериной Матильдой Кшесинской. Признал своим ее сына Владимира (18.6.1902–23.4.1974), который получил потомственное дворянство, фамилию Красинский и отчество Сергеевич. Однако в своих мемуарах, написанных в эмиграции, Кшесинская заявила, что отцом ее сына являлся не Сергей Михайлович, а великий князь Андрей Владимирович.