1908년 미국 뉴욕출생으로 랍비의 아들로 태어난 그는 젋은 시절 한때 프로복서로 활약했으며 이후, 브로드웨이로 진출하여 희곡작가와 무대감독으로 경력을 쌓았다. 1930년대 초 두편의 희곡을 연출한 로센은 브로드웨이 무대를 통해서 실력을 인정받았으며 워너브라더스와 정식 계약을 맺고 1937년 헐리우드로 진출하여 시나리오 작가로 출발했다.
1937년 헐리우드의 전설 라나 터너의 데뷔작인 [They Won't Forget]의 시나리오를 담당한 그는 이후, 10년간 워너브라더스에서 시나리오 작업을 하였으며 1947년 콜럼비아 영화사로 이적하고 느와르 스타일의 범죄 드라마 [자니 어클락]으로 장편데뷔하였다.
또한 같은 해 발표한 느와르 스포츠 무비 [육체와 영혼]으로 이제껏 발표된 최고의 복싱 영화라는 찬사를 받았으며 1949년 오늘날 까지 헐리우드 정치 영화의 클래식으로 꼽히는 브레드릭 크로포드 주연의 [모두가 왕의 부하들 All the King's Men]을 연출하고 아카데미 최우수 작품상을 수상했다.
1937년 미국 공산당에 가입하여 10년간 당원으로 지낸 로센은 1950년대 초반, 2차 Red Scare의 광풍아래 시작된 반미 활동 조사위원회 (HUAC- House Un-American Activities Committee) 에 두차례 소환되어 조사를 받았으며 1954년 실바나 망가노 주연의 [맘보]로 다시 영화계에 복귀하였다.
1956년 스페인 마드리드에서 촬영된 리차드 버튼 주연의 대하 서사극 [알렉산더 대왕 Alexander the Great ]을 연출하였으며 1961년 자신의 대표작인 폴 뉴먼 주연의 [허슬러]로 막대한 흥행 수익을 거둬들였다. 1964년 자신의 마지막 작품이 된 워렌 비티, 진 세버그 주연의 [릴리스 Lilith]를 연출하고 2년뒤인 1966년 향년 57세를 일기로 사망했다.