Roku 1938 vznesly sovětské ozbrojené síly požadavek na nový typ těžkého tanku, který měl nahradit pětivěžový typ T-35. Jedním ze závodů, které se zapojily do soutěže, byly leningradské Kirovovy závody. Pod vedením inženýra Kotina vznikal stroj nesoucí označení KV, což odkazovalo na tehdejšího sovětského lidového komisaře obrany, maršála Klimenta Jefremoviče Vorošilova (Kotin byl jeho příbuzný).
Na počátku Zimní války byly prototypy těžkých tanků pokusně nasazeny proti finským opevněním, a právě tank KV si vedl daleko nejlépe. Jediným nedostatkem byla ráže kanónu – 76,2 mm nestačilo na zničení finských pevnůstek. Stávající verze s tímto kanónem (KV-1) sice nebyla zavržena, vznikla však také verze nová, lišící se pouze věží a výzbrojí. Původně byla známa jako verze „s velkou věží“, později byla označena jako KV-2.
Hranatá věž tanku KV-2 byla skutečně obrovská a nezaměnitelná. U první verze KV-2 dávala stroji celkovou výšku 3,45 m, pozdější verze tanku KV-2 měla sníženou věž a byla vysoká „jen“ 3,25 m. Věž nesla houfnici M-10T ráže 152,4 mm. Její ničivý účinek byl vysoký, tank však vezl pouze 36 granátů, munice byla dělená a rychlost palby tak byla malá. Sekundární výzbroj tvořila trojice kulometů DT ráže 7,62 mm.
Tank byl výborně pancéřován. Síla pancéřování věže byla 75–110 mm, korby 60–75 mm. Dno tanku bylo chráněno 30 mm silným pancéřem. KV-2 tak byl mnohem lépe chráněn než kterýkoli tehdejší německý tank. Tomu odpovídala i hmotnost, která u první verze činila 54 tun a u druhé, s nižší věží, 52 tun. Motor o výkonu 600 koní dával maximální rychlost na silnici pouze 32–35 km/h. Motor byl původně dimenzován na výrazně lehčí KV-1, pohyblivost tanku KV-2 tak nebyla dostatečná, problémem byla i jízda přes mosty. Posádku tvořilo 6 mužů.
V měsících následujících po přepadení SSSR nacistickým Německem dostal tank KV-2 příležitost předvést své přednosti a nedostatky. Tehdejší německé tanky a protitanková děla nepředstavovaly pro KV-2 soupeře, na pozoru se musel mít pouze před německým letectvem a protiletadlovými děly ráže 88 mm. Naopak pro německé tanky byl zásah z děla ráže 152 mm smrtící. Na samém začátku operace Barbarossa dokázal jediný tank KV-2 u litevského města Raseiniai na den zastavit postup 6. tankové divize, když zablokoval její zásobovací linii a přečkal několik pokusů o jeho zničení.
Největší množství tanků KV-2 bylo ztraceno vinou technických závad, nedostatku pohonných hmot nebo nemožnosti poškozený tank opravit během ústupu. Výroba KV-2 však byla ukončena ještě před koncem roku 1941, s evakuací sovětského průmyslu na východ. Celkem bylo vyrobeno snad 334 kusů.