В 1934 году на Ижорском заводе под руководством А. Д. Кузьмина была построена новая модель пушечного бронеавтомобиля, базой для которой послужил трехосный бронеавтомобиль БА-И. В июне опытный образец с корпусом из неброневой стали проходил испытания на НИБТ Полигоне УММ РККА в подмосковной Кубинке. Основываясь на результатах испытаний, комиссия рекомендовала улучшить систему охлаждения двигателя и усилить переднюю подвеску. В остальном серьезных недостатков замечено не было, требовалось внести лишь ряд мелких изменений в компоновку внутренних агрегатов. Как следует из заключения комиссии, «бронеавтомобиль показал хорошие качества, необходимые для боевой машины и вполне пригоден для оснащения РККА».

Бронеавтомобиль был выполнен по классической компоновочной схеме с передним расположением двигателя, передними управляющими колесами и двумя задними ведущими мостами.

Клепано-сварной бронекорпус, выполненный по классической компоновке, незначительно отличался от корпуса базовой машины: на 50 мм была удлинена корма, в моторном отделении появились окна для выхода воздуха, была укорочена подножка и на задних крыльях предусмотрены крепления для вездеходных гусеничных цепей. Бронелисты из 9-мм катаной стали были установлены с рациональными углами наклона, что повышало пулестойкость бронировки и, соответственно, степень защищенности экипажа. Для посадки экипажа в бортах средней части корпуса и в корме имелись прямоугольные двери. Крепление корпуса на шасси «Форд-Тимкен» осуществлялось с помощью 10 кронштейнов, которые через резиновые прокладки привертывались болтами к лонжеронам шасси.

Слева в отделении управления, расположенном за моторным отсеком, находилось сиденье водителя, справа — стрелка, обслуживавшего 7,62-мм пулемет ДТ установленный в скошенном лобовом листе корпуса. Обзор водителю обеспечивало лобовое окно, оборудованное откидной бронекрышкой с узкой смотровой щелью, и небольшое прямоугольное окно аналогичной конструкции в двери левого борта. Такое же окно имелось и в правой двери со стороны пулеметчика.

За отделением управления на крыше боевого отделения была установлена новая башня кругового вращения, являвшаяся главным отличием бронемашины БА-3. По конструкции и вооружению она была аналогична башне танка Т-26, но имела более скромную бронировку, согласно альбому «Бронемашины» НИБТ Полигона ГБТУ КА от 1944 года — 8 мм, согласно «Временному краткому описанию бронеавтомобиля БА-3» того же НИБТ Полигона от октября 1934 года — 9 мм. В качестве основного вооружения в башне в цилиндрической маске были установлены 45-мм пушка 20К образца 1932 года и спаренный с ней 7,62-мм пулемет ДТ. Возимый боекомплект, в состав которого входили 60 выстрелов и 3402 патрона размещался частично в башне, а частично в корпусе бронеавтомобиля. В нише башни располагались два сотовых стеллажа на 40 снарядов, вдоль бортовых стенок башни имелись гнезда на 12 снарядов и вдоль стенок бронекорпуса в боевом отделении еще на 8. В четырех стеллажах в башне и корпусе размещались 53 магазина для пулеметов ДТ. Для ведения прицельной стрельбы в распоряжении наводчика имелись телескопический прицел ТОП образца 1930 года и перископический панорамный прицел ПТ-1 образца 1932 года.

В моторном отсеке бронемашины был установлен четырехцилиндровый рядный карбюраторный двигатель жидкостного охлаждения «Форд-АА» с рабочим объемом 3230 см³, развивавший мощность 29,4 кВт при 2200 об/мин, что позволяло бронемашине с боевой массой 5,82 т двигаться по дорогам с твердым покрытием с максимальной скоростью 70 км/ч, при езде по сухой проселочной дороге максимальная скорость не превышала 35 км/ч. При полной заправке топливом бронеавтомобиль мог пройти 248 км. С двигателем взаимодействовала трансмиссия в состав которой входили однодисковое сцепление сухого трения, четырехскоростная коробка передач (4+1) демультипликатор, карданная передача, главная передача и механические тормоза.

В трехосной неполноприводной (6x4) ходовой части с подвеской на полуэллиптических листовых рессорах использовались колеса с пневматическими шинами большого сечения размером 6,50–20. На передней оси устанавливались односкатные колеса на ведущих задних — двухскатные. Запасные колеса крепились к бортам корпуса в нижней задней части моторного отсека и свободно вращались на своих осях. Они не давали бронеавтомобилю сесть на днище и облегчали преодоление окопов, рвов и насыпей. Для увеличения проходимости на задние скаты БА-3 одевались вездеходные гусеницы типа «оверолл». Гусеницы массой по 71 кг состояли из 25 звеньев, каждое из которых имело размеры 80x35 мм. При шаге, равном 180 мм длина гусеницы составляла 4500 мм. Надевание гусениц при участии всего экипажа бронеавтомобиля занимало 10–15 минут. Все колеса сверху прикрывались крыльями. Широкие задние крылья образовывали над колесами своеобразные полки, и их использовали для крепления штатного снаряжения — ящика с запасными частями и инструментами и вездеходных гусеничных цепей.

Производство бронеавтомобиля БА-3 было налажено на Ижорском заводе и Выксунском заводе дробильно-размолочного оборудования, которые в период с 1934 по 1935 год изготовили 168 бронемашин этого типа.

Средние бронеавтомобили БА-3 поступали на вооружение разведывательных подразделений танковых, кавалерийских и стрелковых соединений Красной Армии.