自幼過繼給劉家良、劉家榮之父劉湛，由于劉湛是洪拳名家林世榮（師承黃飛鴻）的弟子，劉家輝在8歲時拜劉湛為師（但是實際上大多是受劉家良的教導），開始接受嚴格的正統武術訓練。1971年，中學畢業后，劉家輝在日本公司當辦公室助理，之后在朋友介紹下到連卡佛任月薪五百元的會計員，期間他繼續到武館做助教，幫忙教導師弟妹。他的平凡白領生活，一做便兩年，直到一天亦師亦友的劉家良，邀請他拍攝執導的電影，出于對對方的尊重，他二話不說便答應了。

1973年，劉家輝首部擔正由劉家良自資的動作電影《殺出重圍》而進入電影圈，雖然主演是李琳琳、秦沛等明星，但票房不佳，反響平平。后來，隨劉家良到臺灣并被介紹進入張徹導演在臺灣開設的邵氏的姐妹公司‘’長弓電影公司‘’，與公司簽約三年并擔任龍虎武師、武術指導（同期的有梁家仁、陸劍明）。由于張徹有姜大衛、狄龍等人，他一直沒有機會演出重要的角色。

1976年，劉家輝與長弓電影三年約滿，遂回到香港，并在由義兄劉家良執導的《陸阿采與黃飛鴻》中第二次擔任主角，不過這也沒有讓他獲得成功。

1978年，他與羅烈、汪禹及徐少強聯袂主演動作電影《少林三十六房》在香港上映后，劇中光頭的三德大師形象給觀眾留下深刻印象。這部電影不但是該年香港的十大賣座片，也在國外獲得不錯的回響，甚至在日本有人為劉家輝成立影友會。而劉家輝也因為這部戲被外媒稱為“東方尤爾?伯連納”。

1980年，主演動作電影《少林36房》的續集《少林搭棚大師》，劇中劉家輝不再扮三德和尚，而是以機靈幽默示人，出演一個不學無術、靠騙為生的混混兒周仁杰。

1985年，與太保、曹查理、徐少強聯袂主演喜劇電影《妙探I寶》。

1987年，功夫片衰落，邵氏公司也宣布停產不再拍攝電影，劉家輝發展開始不順，只在電影里演配角或反派。于是他決定轉型到臺灣電視圈發展，在華視以拍古裝片為主。

1988年，劉家輝返港發展，與徐少強自組電影公司“吸引力”，拍了四、五部作品，最終因沒有發展前景而結束合作。

1989年，劉家輝受邀加盟TVB，他也由大銀幕紅星瞬間變為小銀幕藝員，自此他便專心在電視圈發展。

1990年，劉家輝接拍古裝武俠劇《螳螂小子》，劇中與同是練武之人的羅莽上演多場打戲。

1993年，參演由周星馳、李力持聯合執導的動作喜劇片《唐伯虎點秋香》，在劇中飾演奪命書生并與周星馳飾演的唐伯虎對打。

1994年，與劉德華、鄭少秋、李嘉欣聯袂主演功夫電影《醉拳3》，飾演劇中大反派李督軍。

1999年，主演由香港電視廣播有限公司出品的古裝神話劇《人龍傳說》，在劇中飾演豪爽傲氣的涇河龍王。

2003年，劉家輝受導演昆汀?塔倫蒂諾之邀拍攝好萊塢動作電影《殺死比爾1》，在片中飾演瘋狂88的殺手強尼莫。

2004年，電影《殺死比爾2》中則飾演武林高手白眉，向烏瑪?瑟曼飾演的女主角傳授功夫。

2005年，主演電視劇《我師傅是黃飛鴻》，在劇中大演反派莫桂蘭之父莫天龍。

2007年10月12日，劉家輝參加在深圳寶安體育館舉行的中國功夫?全球盛典并獲得最佳動作男演員。

2009年，參演由李國立執導的古裝玄幻電視劇《仙劍奇俠傳三》，在劇中飾演邪劍仙。

2010年，主演古裝動作劇《少林寺傳奇3》，在劇中將飾演及時雨這一角色。