Rufi Osmani est né le 20 août 1960 dans le village de Cajle, près de Gostivar (République de Macédoine). Après ses études primaire et secondaire à Gostivar, il poursuit ses études à l'Université de Prishtine (Kosovo), à la faculté Economique d'où il sort diplomé en 1983.

1994-1996: député du Parlement de Macédoine.

En 1996, il démissionne de ses fonctions de député et se présente aux élections communales. Il est élu maire de la ville de Gostivar le 2 décembre 1996.

La nuit du 8 au 9 jullet 1997, il est arrêté chez lui sans explication par la police macédonienne à la suite des manifestations au cours desquelles trois personnes ont été tuées par balle.

Après 90 jours de garde à vue, Rufi Osmani est deféré devant le tribunal de Gostivar et condamné à 13 ans et 8 mois de prison ferme.

La Cour d'Appel de Skopje ramène la peine à 7 ans de prison ferme sans droit de recours.

Aujourd'hui Rufi Osmani est incarcéré à la prison "Idrizovo" près de Skopje

Il est inscrit au Parti Radical depuis plusieurs années.