Мечеть была построена в 1863–1864 гг. по ул. Оренбургской (ныне улица Октябрьская) на средства основателя купеческой династии Гайсы Яушева. Является объектом культурного наследия регионального значения.

Каменное одноэтажное здание, имевшее две главы, с 2-ярусным минаретом высотой 46 м, примыкавшим к нему с восточной стороны. Особенностью мечети являлось то, что во втором ярусе по всему периметру минарета располагался балкон, который у мусульман традиционно отводится для женщин. Во дворе к забору было пристроено медресе, на углу комплекса зданий – магазин. Данное здание является одним из лучших образцов мусульманской культовой архитектуры Уральского региона.

Мечеть была закрыта в 1929 г., минарет разрушен, а здание с 1930 по 1943 гг. стало татарским клубом. В 1944 г. мечеть снова открыли, долгое время это была единственная действующая мечеть на Южном Урале. К началу 1980-х гг. здание находилось в аварийном состоянии. В 1988 г. начались работы по реставрации, которые были продолжены в 2002 г., однако минарет пока не восстановлен.

По преданиям, в мечети нередко проводил пятничные проповеди имам 5-й мечети г. Троицка шейх Зайнулла Расулев, и в связи с этим в ноябре 2008 г. мечети присвоено его имя.