В 1861 году Владимир Александрович поступил в Александровский кадетский корпус в Вильно. Однако после польского восстания 1863 года кадетский корпус был расформирован. Сухомлинова перевели в 1-ю военную гимназию в Петербург. После обучения в гимназии он поступил во 2-е военное Константиновское училище, однако почти сразу был переведён в Николаевское кавалерийское училище, которое Сухомлинов закончил в 1867 году.
После училища Владимир Александрович поступил на строевую службу, которая для него началась в 14-м драгунском Нижегородском полку. Участвовал в боях за Самарканд, был награждён орденом Св. Анны 4-й степени с мечами. В 1869 году сталь помощником коменданта крепости Красноводск.
В 1871 году Сухомлинов поступил в Николаевскую академию Генерального штаба. После её окончания произведен в штаб-ротмистры. Участвовал в русско-турецкой войне 1877 - 1878 гг. За боевые отличия был награжден в 1878 году орденом Святого Георгия 4-й степени и Золотым оружием с надписью "За храбрость".
После завершения войны Сухомлинова назначили правителем дел Николаевской академии Генерального штаба. Он читал лекции по тактике в Академии, а также в Николаевском кавалерийском училище и Пажеском корпусе.
В 1884 году Владимира Александровича назначили помощником командира кавалерийской дивизии и произвели в генерал-майоры. В январе 1886 года был назначен начальником офицерской кавалерийской школы, которой он руководил в течение 12 лет. За это время Сухомлинову удалось многое сделать для развития и усовершенствования техники кавалерийского дела русской армии.
В апреле 1898 года Владимир Александрович был назначен начальником 10-й кавалерийской дивизии, входящей в состав войск Киевского военного округа, штаб располагался в Харькове. В мае 1899 года Сухомлинов возглавил штаб Киевского военного округа, а с октября 1902 года стал помощником командующего Киевским военным округом.
2 декабря 1908 года Владимир Александрович Сухомлинов был назначен начальником Генерального штаба, а также стал членом Совета Государственной обороны, который возглавлял великий князь Николай Николаевич.
11 марта 1909 года Сухомлинов стал военным министром. Его деятельность была направлена на реформу и перевооружение армии. Последнее велось в основном за счёт закупок за рубежом. При Владмире Александровиче были расформированы резервные и крепостные войска. В 1911 году была создана контрразведка.
После начала войны усилились интриги между Сухомлиновым и другими министрами. Когда обнаружился недостаток снарядов 1915 году, ставший одной из главных причин поражения русской армии в летней кампании, то Сухомлинов под давлением общественности был уволен с поста военного министра. 8 марта 1916 года Владимир Александрович был уволен с военной службы, а затем арестован и помещен Трубецкой бастион Петропавловской крепости. Следствие по его делу не дало результатов, поэтому осенью 1916 года Сухомлинова перевели под домашний арест.
После отречения Николая II Владимира Александровича вновь арестовали. Ему были предъявлены обвинения в измене, в бездействии власти и взяточничестве. Эти обвинения не подтвердились. Тем менее Сухомлинова признали виновным в "недостаточной подготовке армии к войне" и приговорили к бессрочной каторге, которую заменили тюремным заключением в Трубецком бастионе Петропавловской крепости.
После Октябрьской революции Сухомлинов был переведен в "Кресты", а 1 мая 1918 года амнистирован. После освобождения он выехал в Финляндию, а затем в Германию. В эмиграции он написал "Воспоминания". Скончался в Берлине 2 февраля 1926 года.
