Родился в семье наборщика типографии, в Санкт-Петербурге. Окончил Академию Художеств (1920) и 2-й Политехнический институт (1921) Также учился в Свободных мастерских (окончил в 1920), у И. А. Фомина.

Преподавал в Академии Художеств (с 1929, профессор с 1939) и в Ленинградском институте инженеров коммунального строительства.
Строил (часто совместно с другими архитекторами) в Ленинграде общественные и промышленные сооружения, жилые дома в духе конструктивизма; здание 2-й ГЭС (1923), Василеостровский дворец культуры им. С. М. Кирова (1931—37), здание Кировского райсовета (1930—35) с памятником С. М. Кирову на Кировской пл. (1938, скульптор Н. В. Томский), Мясокомбинат им. С. М. Кирова (1930—35), здание НКВД на Литейном проспекте, 4 (1931—35, совм. с А. И. Гегелло и А. А. Олем; известное среди ленинградцев как «Большой дом») и др.

Для многих построек Троцкого 30-х гг. характерно использование неоклассицистических по духу, монументализированных ордерных композиций: жилые дома на Московском просп. и просп. Стачек (1932—40), школа № 199 на пл. Искусств (1937).

13 марта 1936 г. на пленуме Ленсовета было принято решение построить здание Дома Советов. Участок был выбран в глубине площади, образуемой пересечением Московского проспекта с Южной дуговой магистралью. В закрытом конкурсе участвовало 11 архитекторов. За основу для дальнейшей разработки был принят проект Н. А. Троцкого.
Одно из крупнейших в Ленинграде общественных зданий — «Дом Советов» было выстроено в 1936—1941 гг.

Ной Троцкий строил и в других городах. Так, в соавторстве с Н. Д. Каценеленбогеном им было создано здание Театра оперы и балета в Самаре (1936—1938).