Яков Михайлович Ерусалимский в 1970 году окончил механико-математический факультет Ростовского государственного университета. После окончания аспирантуры с 1973 года работал в РГУ ассистентом, старшим преподавателем, доцентом с 1995 года профессором кафедры алгебры и дискретной математики, в 1989 – 2008 годах — деканом факультета.
В 1976 году защитил кандидатскую диссертацию «Операторы мультипликативной дискретной свертки», в 2001 году получил ученое звание профессора. Соросовский доцент (1995–1998). Соросовский профессор (2000).
Яков Михайлович Ерусалимский — автор более 80 научных трудов и 4 учебных пособий, среди которых: «Математика. Общий курс» (СПб.: Лань, 2-е изд., 2004 г.), «Дискретная математика: теория, задачи, приложения» (М.: Вузовская книга, 9-е изд., 2008 г.), «Практикум по элементарной математике» (М.: Вузовская книга, 3-е изд., 2008 г.). «Дискретная математика: теория, задачи, приложения» имеет гриф Министерства образования и является победителем всероссийского конкурса учебных пособий нового поколения. Основные направления научной работы Я. М. Ерусалимского — теория операторов и теория графов. Он является руководителем научных грантов по программам «Университеты России» и «Интеграция», соруководителем от России гранта НАТО «Телекоммуникации: Юг России, наука и образование», «Фундаментальные исследования в области естественных наук», «Развитие научного потенциала Высшей школы РФ».