Родился 3 мая 1912 года в городе Алексеевка Воронежской губернии в семье сельского учителя. Среднюю школу окончил в Майкопе в 1929 году, Московский машиностроительный институт им. Лепсе в 1936-м. Одновременно занимался конструкторской и исследовательской работой в Экспериментальном НИИ металлорежущих станков (ЭНИМС).
После окончания института – инженер-конструктор, главный конструктор и начальник технического отдела в СКБ при заводе «Манометр». С 1941 по 1946 гг. Работал начальником технического отдела и главным инженером завода №838.
В 1947 – 1949 гг. в качестве главного инженера НИИ лабораторного приборостроения и автоматики участвовал в советском атомном проекте. За разработку контрольно-измерительных приборов с дистанционными показателями для заводов комбината №817 в 1949 году секретными указами правительства был награждён орденом Трудового Красного Знамени и Сталинской премией II степени.
В январе 1950 года Юрий Яковлевич Базилевский был назначен главным конструктором одной из первых ЭВМ страны — «Стрела», создание которой в 1950 – 1954 годах стало главным направлением деятельности СКБ-245 (с 1958-го НИЭМ, ныне НИЦЭВТ), в котором работал Базилевский.
В 1953 году «Стрела» прошла испытания и началось её серийное производство. Семь машин, изготовленных в 1953 – 1956 годах, были установлены в институтах, вычислительных центрах, предприятиях страны, занятых аэрокосмическими исследованиями и атомной энергетикой.
В частности, благодаря настойчивости научного руководителя Вычислительного центра №1 Минобороны А.И. Китова один из семи экземпляров «Стрелы» был установлен в ВЦ-1 МО СССР и был использован для проведения баллистических и орбитальных расчетов первого и последующих советских ИСЗ и автоматических межпланетных станций.
Постановлением Совмина СССР в 1954 году «За выдающиеся изобретения и коренные усовершенствования методов производственной работы, создание быстродействующей вычислительной математической машины» Ю.Я. Базилевский и ряд сотрудников СКБ-245 были награждены Сталинской премией I степени.
В дальнейшем, будучи главным инженером СКБ-245, руководил разработкой специализированных вычислительных комплексов для оборонных систем. Комплексы были созданы на базе только появившейся электронной техники для приема и обработки радиолокационной информации, решения задач отбора и распределения целей, наведения на них средств ПВО путем выработки для них команд управления.
Для первой половины пятидесятых годов создание такого комплекса было совершенно новой задачей, решение которой практически находилось за пределами возможностей ламповой электроники того времени. Тем не менее, в течение 1955 – 1959 годов комплекс «Даль-111» был готов, а в 1960 – 1961 уже проходил испытания в составе экспериментальной системы на одном из полигонов страны.
В 1961 – 1965 гг. Базилевский работал в Государственном комитете по науке и технике СССР (ГКНТ), в 1965 – 1982 годах стал начальником технического управления Минприбора, а затем и заместителем министра приборостроения СССР.
Ю.Я. Базилевский имел учёную степень кандидата технических наук. С 1930-х годов преподавал в Московском инженерно-физическом институте (МИФИ), был заведующим кафедрой «Компьютерные системы и технологии» (1953 – 1955). Подробнее с материалами о жизни и творчестве Ю.Я. Базилевского можно познакомиться на сайте Виртуального компьютерного музея www.computer-museum.ru