1917年6月23日出生于长春市，浙江黄岩人。1938年，毕业于武汉大学化学系，曾在经济部工矿调整处工作。1942年，派驻印度，曾在印度塔塔钢铁厂实习。1944年，赴英国伯明翰大学。1948年，获自然哲学博士，从事合金中相变机理的研究，并担任理论金属学系讲师，享有终身任命。1954年至今，在北京科技大学任教，先后任金物教研室主任、物理化学系主任、北京钢铁学院副院长。1980年，当选中国科学院院士。曾任中国科学院技术科学部学部常委。
柯俊先生几十年从事合金中相变的研究，在钢中首次发现贝茵体切变机理，至今在英、美、德、日、俄学者中仍为贝茵体形成机理的主流学派。
