1970 yılında kurulmuştur. 2006-2007 sezonunda NBA finallerine çıkarak tarihinde bir ilki gerçekleştirmiştir. Fakat finalde hiç galibiyet alamadan Spurs'e 4-0 ile elenmişlerdir. Aynı zamanda 2006-2007 sezonunda Daniel Gibson'ı da kadrosunda bulunduran Cleveland Cavaliers çaylak oyuncuyu kısa bir sürede neredeyse bir 3'lük kralı yapmışlardır. 2008 Play-off'larında Doğu Konferansı yarı finallerinde Boston Celtics'e 4-3 kaybedip elenmişlerdir.
2008/2009 sezonunda ise takımın yıldızı Lebron James MVP seçilmiş Play-off'larda Detroit Pistons'u ve Atlanta Hawks'ı süpürmüşler(NBA deyimi olarak seriyi 4-0 kazanmak) fakat Superman lakaplı süperyıldızı Dwight Howard'ın liderlik ettiği Orlando Magic'e elenmiştir(2-4).Aynı zamanda '2008-2009 sezonunda tarihinde ilk kez Cleveland Cavaliers normal sezonu 1. sırada tamamlamıştır.2009-2010 sezonu öncesi süperyıldız Shaquille O'Neal'ı Ben Wallace ve Sasha Pavlovic karşışığında Phoenix Suns'la takas etmiştir.Normal sezonu Shaq'ın sakatlığı nedeniyle pek maç oynayamayan geçirdiği sezonu Ilgauskas, LeBron James ve Mo Williams'ın etkili performansıyla üst sıralarda bitiren Cleveland Play-off'ta Chicago Bulls'u 4-0 ile geçmiştir ve daha sonra Boston Celtics ile eşleşmiştir. Takımın lideri LeBron James'in kötü oyunu yeni transfer Antawn Jamison'dan yeterli verim alamayan ve birçok eksiği olan Cavaliers seriyi 4-2 kaybetmiştir. Sezon sonrası king lakablı sezonun MVP'si LeBron James şok bir kararla Miami Heat'e gitme kararı almıştır. Bu kararla hayal kırıklığına uğrayan Cavs taraftarı LeBron formalarını yakmışlardır.Daha sonra Cavs'te yaprak dökümü sürmüştür.
Litvan yıldız pivot Zydurunas Ilgauskas'ı Miami'ye kaptıran Cleveland Shaq'ında Boston Celtics'e gitmesiyle birlikte yıldız oyun kurucusu Delonte West'i de Boston'a göndermiştir.Bunun üzerine yarı final serisinde elenen Cleveland'ın sahipleri Gilbert kardeşler 5 senelik koçları Mike Brown'ı görevden aldıklarını duyurmuştur. Bunun üzerine takımın başına eski Lakers oyuncusu Byron Scott takımın başına getirilmiştir. Buna karşın Ramon Sessions ile anlaşan Cleveland Cristian Eyenga Samardo Samuels ve Manny Harris transfer edilmiştir ve takımın ilk 5'ini takımın geçen seneki kadrosunun yedekleri ile oluşturmuştur ve kadroda gençlere şans vermişlerdir.
Takım'da fazla şans bulamayan J.J.Hickson ve Daniel Gibson'a daha fazla şans vermişlerdir. 2010-2011 sezonuna Boston galibiyetiyle başlayan Cavaliers taraftarına ümit verse de daha sonra sezon onlar için art arda yenilgilerle geçmiştir.
2015-16 SEZONU VE İLK ŞAMPİYONLUK
2015-16 sezonuna başlamadan önce kadroda değişikliler yapılmıştır. Mesela Shawn Marion gibi isimler takımdan çıkarılmıştır. Sezona iyi bir başlangıç yapan Cavaliers devamını da getirmiştir. Sezon sonunda 104.8 sayı ortalaması, 21.2 asist ortalaması, %46.9 gibi bir de saha içi ortalaması tutturmuşlardır ve sezonu 57-25 ile doğu konferansı 1.si olarak tamamlamıştır. Play-off'larda ise harika bir performans göstermişlerdir. İlk turda Detroit Pistons'ı 4-0 ile süpürerek konferans yarı finallerine çıkmışlardır. Konferans yarı finallerinde köklü takımlardan biri olan Atlanta Hawks ile eşleşmişlerdir. Bu seriyi de çok rahat bir şekilde 4-0 ile geçmişlerdir ve konferans finallerine adım atmışlardır. Konferans finalinde sezonu doğu konferansının 2.si olarak bitiren Toronto Raptors ile eşleşmişlerdir. Cavaliers'ın evinde oynanan ilk 2 maçı kazanırken Toronto'nun evinde oynanan 2 maçı da kaybetmişlerdir. Fakat sonrasında 5. ve 6. maçları kazanarak seriyi 4-2 kazanmışlardır ve doğu konferansı şampiyonu olup NBA Finalleri'ne 2. kez üst üste katılmışlardır. NBA Finalleri'ndeki rakipleri yine Golden State Warriors'tı. 2014-15 sezonunda bu serilere Kevin Love'dan mahrum çıkmışlardır. Sonra bir talihsizlik daha olmuştur ve Kyrie Irving de serinin 1. maçında sakatlık geçirip sezonu ve seriyi kapatmıştır.
Ama 2015-16 sezonunda herhangi bir sakatlık olmamıştır. Cavaliers seriye tam kadro çıkmıştır. Warriors'ın evinde oynanan ilk 2 maç kaybedilmiştir. LeBron James, Kyrie Irving ve Kevin Love'dan beklenen performanslar ilk 2 maçta gelmemiştir. Fakat Cavaliers'ın evinde oynanan 3. maçı Cavaliers kazanmıştır ve seriyi 2-1 yapmıştır. Fakat Cavaliers'ın evinde oynanan 4. maçı da Warriors kazanmıştır ve seriyi evine taşıyıp çok büyük bir avantaj yakalamışlardır. Ama Cavaliers'lı oyuncular daha pes etmemişlerdi. 5. maçı kazanacaklarına çok emindiler. İnanılmaz bir performans ile Warriors'ın evinde oynanan 5. maçı kazanmışlardır. Bu maçta hem LeBron James ve Kyrie Irving 41'er sayı atarak tarihi bir performans göstermişlerdir. Ev sahibi avantajını eline almıştır. Serinin 6. maçını da kazanmışlardır. Bu maç LeBron James yine 41 sayı atarak tarihi bir performans göstermiştir. Serinin 7. maçı Oracle Arena'da oynanmıştır. Eğer Cavaliers bu maçı kaznırsa NBA tarihinde 3-1'den geri gelerek şampiyon olan ilk takım olacaktır. Maç baştan sona çekişmeli gitmiştir. Maçın son 1 dakikasında durum 89-89'dur Kyrie irving maçın bitimine 53 saniye kala bir 3 sayılık basket atıp takımını 92-89 öne geçirmiştir. Ve Cavaliers maçı 93-89 kazanmıştır ve tarihindeki ilk şampiyonluğu kazanmıştır. Finallerin MVP'si LeBron James olmuştur. Bu sezonu 73-9 ile kapatan ve tarihi bir performans gösteren Warriors Cavaliers'ın bu harika geri dönüşüne karşı koyamamıştır