Родился в селе Приколотном Великобурлукского района Харьковской области.

Семь классов и ФЗУ закончил в Белгороде.

В 1932-1934 гг. жил в Ивне, где его отец, Ф.Л Ольшанский, занимал должность главного агронома свеклосовхоза им. Тельмана. Константин Ольшанский работал в совхозе им. Ленина слесарем авторемонтной мастерской, затем водителем. Неоднократно поощрялся за добросовестный труд. В Ивне он вступил в комсомол, вёл активную общественную работу, защищал честь Ивнянского района на спортивных соревнованиях, участвовал в работе кружка художественной самодеятельности при клубе сахарного завода им. Ленина. С 1936 года служил в Черноморском военном флоте.

Во время Великой Отечественной войны участвовал в обороне Севастополя, руководил действиями морских десантов при освобождении Мариуполя и Бердянска. В марте 1944 года старший лейтенант Ольшанский возглавил десантный отряд добровольцев-моряков, в задачу которых входило помешать фашистам, взорвать порт в г. Николаеве и отвлечь на себя часть сил врага с фронта. Проявив героизм и отвагу, отряд отбил 18 атак, уничтожил несколько сот вражеских солдат, подбил несколько танков и орудий. Командир отряда Ольшанский, и большая часть десантников погибли в неравном бою.

За героизм и отвагу всем им - оставшимся в живых и погибшим – было присвоено звание Героя Советского Союза. Награжден орденами Ленина, Александра Невского, Красной Звезды.