Rufai je za reprezentaciju Nigerije nastupao 17 godina, a branio je na dva Svetska prvenstva - 1994. godine u SAD i 1998. godine u Francuskoj.
"Ovo je ogroman gubitak za nigerijski fudbal. Video sam ga pre oko nedelju dana. Bio je veoma mršav. A kada sam ga pitao da li je sve u redu, rekao je da je dobro“, naveo je predsednik Fudbalskog saveza Nigerije Ibrahim Gusau.
Bio je i prvi golman na tri izdanja Kupa afričkih nacija, uključujući i ono odigrano u Tunisu 1994. kada je Nigerija bila šampion.
U bogatoj klupskoj istoriji, Rufai je branio, između ostalih, i za Lokeren, Beveren, Go Ahed Igls, Farense, Deportivo la Korunju…