1937년 러시아(당시 소련)의 모스코바에서 출생한 콘찰로프스키는 러시아 감독 니키타 미할코프의 친형이며 본명은 Andrei Sergeyevich Mikhalkov-Konchalovsky 이다.
예술적 전통을 가진 귀족 집안에서 러시아 작가 세르게이 미할코프의 아들로 태어난 그는 모스코바의 음악학교에서 10년간 피아니스트가 되기 위한 수업을 받았다. 하지만 영화에 대한 열정으로 가득찼던 그는 러시아의 영화학교 VGIK에 입학하여 영화를 전공하기 시작했고 여기서 그는 영화적 동지인 타르코프스키를 만났다.
1965년 장편 영화 [첫번째 선생 Pervyy uchitel]으로 데뷔하였다. 베니스영화제 그랑프리후보에 오른 이작품은 비록 여우주연상에 그쳤지만 러시아를 비롯한 해외에서 호평을 받았다. 하지만 그의 두번째 작품 [아스야의 행복
Istoriya Asi Klyachinoy, kotoraya lyubila, da ne vyshla zamuzh(66)]은 소련당국의 검열에 의해 개봉되지 못했고 20년이 지난 후에서야 그의 최고작으로 재평가되었다.
1969년 이반 트루게네프의 [친절한 가족의 둥지]와 1970년 안톤 체홉의 [엉클 바냐]등 러시아 대문호들의 작품을 각색한 작품을 발표했으며 1979년 서사극 [시베리아드
Sibiriada]를 연출하고 깐느 영화제 심사위원상을 수상했다.
영화 [시베리아드]의 비평적 성공에 힘입어1980년 미국으로 망명한 콘찰로프스키는 나스타샤 킨스키의 [마리아스 러버(84)] 구로자와 아끼라의 원안으로 만들어진 [폭주기관차 Runawy Train(85)] [듀엣 포원(86)] [샤이 피플(87)][호머와 에디(89)] [탱고와 캐쉬(89)] [이너 서클(91)]등의 작품을 발표했고 90년대 소련의 붕괴이후 조국 러시아로 돌아와 [리아바 마이 치킨
Kurochka Ryaba(94)]을 연출했다.
1966년 연출한 그의 두번째 작품 [아스야의 행복]의 속편인 이 작품은 그해, 동생 니키타 미할코프의 [위선의 태양]과 함께 나란히 깐느영화제의 경쟁부문에 출품되어 화제를 모았다.