柯俊雄出生於高雄，外型高大英挺，在1963年獲得香港電懋公司來台甄選為演員之前，即以演過不少台語片。後來接演國語片，於1960年代中期，開始嶄露頭角，並以白景瑞電影「寂寞的十七歲」拿下當時的亞洲影展（亞太影展前身）影帝。

柯俊雄的銀幕形象亦正亦邪，他在李行的「啞女情深」中飾演文質彬彬的民初男子、在白景瑞電影「再見阿郎」裡則生動詮釋台灣地方上的小混混。即使到了1970年代的抗日愛國電影，柯俊雄一樣有多種面貌，可以是「梅花」裡的敗家子，但又在「英烈千秋」、「黃埔軍魂」、「八百壯士」裡搖身一變為熱血正氣的愛國英雄。

因演藝事業累積高知名度的柯俊雄曾經擔任演員工會理事長，後來又在2004年進軍政壇，獲得中國國民黨提名在新竹市角逐立委成功，不過未能連任。他與前妻張美瑤的婚姻當年曾是影壇俊男美女的絕佳組合，但最後以離婚收場，張美瑤也在2012年4月病逝。

柯俊雄近年來轉往電視發展，因為現任妻子蔡青樺的影響成為基督徒。去年導演林清介拍攝新片「奇幻同學會」本想找柯俊雄演出，但他因健康狀況不佳無法接演，不過柯俊雄對於保存電影資產等議題仍十分關心。

柯俊雄最後一次公開露面是在今年10月27日，當天是「世界影音遺產日」國家電影中心公布修復柯俊雄主演影片「天字第一號」等舊片的成果，柯俊雄在妻子陪同下特別向醫師告假抱病出席，呼籲各界有錢出錢、有力出力，支持電影保存與修復。當時柯俊雄雖有病容，但仍充滿熱情。

今年11月下旬柯俊雄病情急遽惡化，傳出他再度進入加護病房，圈內友人紛紛表示關心，不過當時他的妻子表示情況穩定，可惜最後仍難敵病魔。