대구 출생. 기독교학교인 계성학교(啓聖學校)를 거쳐 평양 숭실전문학교에 입학하였다. 특히, 성악과 피아노에 관심을 가지고 음악수업에 열중하였다. 1923년에 졸업하여 전주 신흥학교(新興學校)에서 음악교사를 역임한 뒤, 1925년 미국으로 가 시카고 무디성경학교(Moody Bible School)에 입학하였다. 이후 건음악학교(Gunn Music School)로 옮겨 1년간 수학한 뒤 귀국, 연희전문학교에서 교편을 잡았다.
1929년의 귀국독창회를 비롯하여 1930년대에 주도적인 성악가로서 활동하며 빅타와 컬럼비아 레코드 등에서 자작 가곡과 이탈리아가곡 등을 취입하였다. 1933년에 홍난파(洪蘭坡)와 함께 한국 최초의 작곡발표회를 가졌으며, 1932년과 1945년에 작곡집을 발간하였다.
1950년에 우리 나라 최초의 가극 ＜춘향전＞을 작곡, 지휘하고, 1958년에는 가극 ＜왕자 호동＞ 등을 작곡하였다. 또한, 1933년에는 조선음악가협회 창설의 주역을 맡았고, 1942년에는 후생악단(厚生樂團)을 조직하였으며, 1945년에는 최초의 본격적인 교향악단인 고려교향악단을 조직하여 1948년까지 운영하였다.
1945년에는 경성음악학교를 설립하였고, 1953년 음악인들을 규합하여 한국음악가협회를 창립하고 초대 이사장이 되었다. 1954년과 1955년에 미국 NBC교향악단의 내한공연 등을 주선하였고, 1955년 마닐라 아시아음악회의 참석과 1958년 유네스코국제음악회의 참가 등을 계기로 한국음악의 국제적 진출의 계기를 마련하였으며, 예술원 종신회원이 되었다.
그의 업적은 음악교육과 창작활동에서 두드러졌으며, 특히 연희전문학교 재직 때에는 관현악단·취주악단·합창단·중창단 등을 조직하였다. 교양과목과 특별활동의 음악부를 육성하고 이를 통해 우리 나라 양악 부문의 초석이 될 인재를 양성하여, 김성태(金聖泰)·김생려(金生麗)·이유선(李宥善) 등이 배출되었다.
한편 그가 일제강점기에 태평양전쟁에 대한 결전결의의 앙양을 위해 국민개창운동을 벌였고, 일본국민가요 보급을 위한 순회 가창지도 활동을 하는 등 친일적인 음악활동을 했다는 사실이 최근에 밝혀져 논란의 대상이 되고 있다. 대표작품으로는 가극 외에도 작곡집 제1집에 수록된 가곡 ＜고향생각＞·＜산들바람＞·＜그집앞＞·＜희망의 나라로＞·＜나물캐는 처녀＞ 등이 있다.