Родился в Нью-Йорке. Окончив актерские курсы, работал в театре и на ТВ, дебютировал на экране в 1964. Сыграв автогонщика в фильме Г. Хоукса 'Красная линия 7000' (Red Line 7000, 1965) Каан закрепил за собой на экране и в жизни репутацию спортсмена, 'настоящего мужчины'. Диапазон актера расширился после работы у Ф. Копполы в 'Людях дождя' (The Rain People, 1969) и особенно в 'Крестном отце' (The Godfather, 1972), где его бесшабашный отпрыск гангстерского клана Сонни Корлеоне сочетает в себе почти детское простодушие, нагловатую самоуверенность и вспыльчивость, доходящую до жестокости. В результате Каан стал редким для Голливуда типом характерного актера, чья знаменитая улыбка то сияла беззаботностью, то выглядела невротическим оскалом.

В 1980 Каан поставил со своим участием фильм 'Спрячь на виду у всех' (Hide In Plain Sight), где выступил в роли разведенного отца, борющегося за своих детей. Тема трепетного отношения к отцовству, семье, дому проходит в 'Воре' (Thief, 1980, режиссер М. Манн), где профессионал взломщик оказывается вынужден провести операцию по краже драгоценностей.

Начало 80-х годов связано с душевным кризисом актера, приобщением к наркотикам, разрушением семьи. С 1982 в течение пяти лет Каан не снимался, работал тренером по бейсболу. Вернуться в кино ему помог Коппола, пригласив сняться в фильме 'Сад камней' (Gardens Of Stone, 1987). В необычной для себя роли Каан появился в психологическом триллере 'Мизери' (Misery, 1990), играя знаменитого автора любовных романов, попавшего в плен к своей почитательнице с психическими отклонениями.