José Holebas est un pur gaucher qui a débuté sa carrière comme attaquant et qui a petit à petit reculé pour jouer latéral gauche. Cependant, il peut jouer défenseur central grâce à sa carrure athlétique voire milieu gauche. Bien que défenseur de métier, Holebas sait provoquer les défenses adverses dans son couloir et il n’est pas rare de le voir souvent à l’attaque, pour délivrer des centres.

La carrière de José Holebas débute dans de petits clubs de jeunes, tous allemands, dans sa région de naissance. Puis en 2005, il signe au Viktoria Kahl, un club amateur où il réalise une saison pleine de promesse avec 15 buts en 33 apparitions. Il est alors repéré par Munich 1860 II, la seconde équipe du club allemand où il signe en 2006. Là encore il fait ses preuves, ce qui lui permet de signer son premier contrat pro à l’été 2007, cette fois-ci avec l’équipe première de Munich 1860, en Bundesliga 2. Pendant trois ans, il se forge une expérience du haut niveau. Et c’est lors la saison 2009-2010, sous les ordres d’Ewald Lienen, qu’il finit par s’installer en tant que latéral gauche. Ce dernier, qui devient l’entraîneur de l’Olympiacos en 2010, a besoin d’un latéral gauche dans son nouveau club. Bingo ! Il emmène Holebas dans ses valises. Après des débuts difficiles, ce dernier fait le dos rond et sous l’impulsion du nouveau coach Valverde, il s’affirme comme un élément essentiel de l’équipe. A l’Olympiacos, il connaît la Champions League et l’Europa League.
Né en Allemagne, d’un père grec et d’une mère uruguayenne, Holebas a le choix de s’engager pour l’une des trois sélections. En novembre 2011, il devient un citoyen grec et déclare à un journaliste grec que « son rêve est de jouer pour la Mannschaft mais que son père étant grec, il choisit de jouer pour le pays dans lequel il évolue en club ». Lors de ce même mois de novembre, il dispute sa première sélection avec la Grèce en match amical face à la Russie. Un an plus tard, il inscrit son premier but, toujours en amical face à l’Irlande. Il fait ensuite partie du groupe grec à l’Euro 2012 et au Mondial 2014. Ce même été, il est transféré à la Roma pour un million d’euros plus 500 000€ de bonus.