С 1915 выступал за «Унитас» (Санкт-Петербург), «Сахарники» (Москва) (1923-1925), РКимА, «Серп и молот» и «Металлург» (Москва) (1926-1936). Выступал за сборные Москвы и ВЦСПС. Отличался тактической грамотностью, хорошей техникой. Тренировал «Металлург» (Москва) (1936-1939), «Динамо» (Москва) (1940-1944, чемпион страны 1940), ЦДКА-ЦДСА-ЦСК МО (1944-август 1952, 1958-1959), чемпион СССР 1946, 1947, 1948, 1950, 1951, обладатель Кубка СССР 1945, 1948, 1951), «Локомотив» (Москва) (сентябрь 1952-1967, 1963-1965, обладатель Кубка СССР 1957), «Нефтяник» (Баку) (1961-1962), «Пахтакор» (Ташкент) (1967), «Нефтяник» (Фергана) (с августа 1968), «Шинник» (Ярославль) (1969).
Аркадьев возглавлял сборную СССР, выступавшую на олимпийском турнире в Хельсинки (1952). Еще в предварительных играх советская сборная проиграла команде Югославии, с которой в то время у Советского Союза были очень напряженные (если не враждебные) отношения. И. С. Сталин был вне себя от гнева. Футболисты возвращались в Москву в атмосфере ожидания репрессий. К счастью, персональных репрессий не последовало. По одной из версий, команду спас покровитель армейского спорта сын вождя Василий Сталин. Но была расформирована лучшая команда тех лет — ЦДКА, а Аркадьев был снят с работы и лишен звания заслуженного мастера спорта.
Выдающийся теоретик и практик советского футбола, тренер-новатор. Среди его разработок, внесших вклад в развитие отечественного и мирового футбола: игра сдвоенным центром (В. Бобров и Г. Федотов в ЦДКА), использование персональной опеки, игра по системе «дубль вэ» и др. Автор книг: «Тактика футбольной игры» (1948, выдержала четыре издания), «Игра полузащитников» (Москва, 1956).