1970년 NBA에 합류한 이후 오랜 시즌을 뛰었지만 통합우승을 달성하진 못했다. 2003년 NBA 드래프트에서 포워드 르브론 제임스를 뽑은 뒤로는 상승세를 타기 시작하여 2006~2007 시즌 디트로이트 피스턴스를 4승 2패로 꺾고 팀 창단 이후 최초로 동부 컨퍼런스 우승을 달성하는 데 성공했다. 하지만 팀 최초로 진출한 NBA 결승전에서 샌안토니오 스퍼스에게 4패로 패하며 우승 문턱에서 좌절하고 말았다. 팀의 주장인 르브론 제임스를 중심으로 2006년에 영입한 파워포워드(혹은 센터) 벤 월러스, 리투아니아 출신 센터 지드루나스 일가우스카스 등으로 팀을 구성하여 NBA 통합우승에 도전했지만 실패하게 된다.
2010년에 르브론 제임스는 디시전 쇼를 열며 클리블랜드를 떠나 마이애미 히트로 이적을 선언하고, 캐벌리어스에서의 제임스 시대는 저물게 된다. 하지만 2011년 NBA 드래프트에서 1순위 지명권을 쥔 캐빌리어스는 포인트 가드 카이리 어빙을 지명하며, 어빙을 중심으로 다시 팀을 꾸렸다. 이후 르브론 제임스가 팀에 다시 합류하여 카이리 어빙, 케빈 러브와 팀을 구축하여 동부 컨퍼런스를 강호로 자리매김했다. 2016년에는 골든스테이트 워리어스를 꺾고 창단 46년만에 첫 우승을 달성했다.[2]