Государственный деятель, генерал-полковник (1945), заместитель наркома обороны и начальник Главного управления контрразведки ("СМЕРШ") Наркомата обороны СССР (1943-1946), министр государственной безопасности СССР (1946-1951). Возглавляя органы МГБ был одним из главных исполнителей сталинских репрессий. Под его руководством было сфабриковано "Ленинградское дело" и положено начало фабрикации дела Еврейского антифашистского комитета. Им были сфальсифицированы уголовные дела в отношении наркома авиационной промышленности Шахурина, Главного маршала авиации Новикова, вице-адмирала Гончарова, министра морского флота СССР Афанасьева, академика Юдина, большой группы генералов Советской Армии...
В 1951 г. арестован по обвинению в государственной измене и сионистском заговоре в МГБ, в попытках воспрепятствовать разработке дела врачей.
После смерти Сталина ему вменялось в вину "Ленинградское дело" и то, что он был участником "банды Берии". В тюрьме подвергался пыткам, но вины своей не признал. Расстрелян 19 декабря 1954 года, в Левашовском лесу особого назначения, где и был похоронен.
Ориентировочно в 2013 году, "компетентные органы", не привлекая к себе внимания, создали на кладбище "Ракитки" (5 уч.) мемориал Абакумова - на могиле его сына, Игоря Викторовича Смирнова (1951-2004). Сюда же перезахоронили и жену В.С. Абакумова. По одним данным, останки Абакумова перенесли на Ракитки, по другим же, его могила на этом кладбище - кенотаф.