Отец А. К. Шеллера был крестьянин-эстонец, получивший образование в театральном училище и служивший сперва в театральном оркестре, а затем занимавший должность придворного служителя; мать происходила из аристократического рода Адамовичей, и в воспитании будущего писателя рано столкнулись аристократические традиции матери и бабушки с тем, что внушал ему отец. После первоначального домашнего обучения Шеллер был помещен в немецкую Анненскую школу, а затем в 1857г. поступил вольнослушателем в Петербургский университет, в котором пробыл до 1861г.
Выйдя из университета, Шеллер продолжал свое образование самостоятельным изучением социальных вопросов. Увлекшись одно время педагогикой, он основал школу для бедных, в которой дети получали первоначальное образование за плату в 30-60 коп. в месяц, а для взрослых читались по субботам лекции по географии, истории и т. п. Школа имела успех, но в 1863г. пришлось, по не зависящим от Шеллера обстоятельствам, закрыть её. После этого Шеллер поехал за границу, с целью собирания материалов для своих работ о пролетариате во Франции и об ассоциациях. К этому времени относится начало его сотрудничества в «Современнике», хотя вообще его литературная деятельность началась в 1859г., когда он стал помещать, с подписью А. Релеш, фельетоны в журнале Плюшара "Весельчак ", под заглавием «Мои беседы». Дебютировал Шеллер в «Современнике» стихотворением, помещенным в № 10 за 1863г., а в следующем году в том же журнале был напечатан (в № 2 и 3) роман «Гнилые болота», встреченный критикой весьма сочувственно.
С 1877г. Шеллер принял на себя редакцию журнала «Живописное Обозрение», а с 1893г. — и газеты «Сын Отечества», при издательстве Добродеева. В этих изданиях, а также в «Русском Богатстве», «Северном Вестнике» он печатал ряд своих новых беллетристических произведений («Непрошеный гость», 1883; «Молотом и золотом», 1884; «Победители», 1889; «Ртищев», 1890; «Загубленная жизнь», 1891; «Конец Бирюковской дачи», 1893 и др.), не оставляя также занятий и общественными вопросами («Революционный анабаптизм», «Икария», «Смутное время анабаптизма», «Русская Мысль», 1886). В 1895 г. было издано полное собрание сочинений Шеллера в 15 томах (в это собрание не вошли статьи Шеллера об ассоциациях и многие его стихотворения). Беспрерывная журнальная работа, тянувшаяся почти 35 лет, окончательно надорвала силы Шеллера. С 1895 г. у него начинает развиваться склероз артерий, сведший Шеллера в могилу 21 ноября 1900г.