Предложения об открытии библиотеки были сделаны задолго до юбилея Л.Н. Толстого. На заседании 13 мая 1908 г. Московская городская Дума постановила: «Учредить к 28 августа 1908 г. в Замоскворечье библиотеку-читальню им. графа Л.Н. Толстого, с бесплатною выдачею книг на дом, применительно к размерам и бюджетам существующих подобных учреждений (читальни имени И.С. Тургенева, А.Н. Островского, А.С. Пушкина»).

Библиотека была открыта 21 ноября (по старому стилю) 1908 года. Первым адресом вновь открываемой библиотеки стала Софийская набережная. Библиотека разместилась в 2-х небольших комнатах в доме № 146.

Фонд библиотеки составил 3 тыс. экземпляров, штат – 4 человека.
Помощь в комплектовании фонда библиотеке оказывали издатели - Сытин, Панафидин, и издательства - "Задруг", "Посредник". Однако, присвоить ей имя великого писателя власти отказались, ссылаясь на решение Синода об отлучении Толстого от церкви. Однако, с первого дня существования библиотеку стали называть "Библиотекой Толстого", а библиотекари - ставить на книгах овальную печать "Городская библиотека-читальня им. Л. Н. Толстого".

Лев Николаевич Толстой воспринял открытие общедоступной бесплатной библиотеки как выражение всенародной любви и уважения к нему.

К открытию библиотеки известный скульптор Андреев подарил бронзовый бюст Льва Николаевича, а в 1910 году библиотека получила бесценные дары от жены писателя, Софьи Андреевны - шкаф из личной мебели графа и некоторые прижизненные издания его произведений. Эти раритеты по сей день хранятся в библиотеке.
За годы своего существования библиотека много раз переезжала.

В 1910 году ее перевезли в городское училище имени В. Белинского в Казанский тупик близ Калужской площади. В здании училища под библиотеку были выделены две комнаты.

В 1911году в жилом доме в Николо-Спасском переулке (который потом был переименован в Спасоналивковский переулок), недалеко от прежнего расположения для библиотеки сняли две большие комнаты. В новых помещениях удалось организовать не только абонемент, но и читальню. Состав читателей изменился, в библиотеку в большом числе стали приходить дети
С августа 1915 года библиотеке предоставили более просторное, помещение на Большой Ордынке в доме № 8. Появилась возможность открыть отдельную читальню для детей.

В 1916 году библиотека расширила рамки своей деятельности, стала иметь не только абонемент, но и две читальни – для взрослых и для детей.

Бурные события 1917 года резко меняют ситуацию в стране. В это беспокойное время библиотека переезжает в роскошный особняк на Большой Якиманке.
В 1918 году библиотека начала активную работу с детьми, так как в новом помещении оказалось возможным организовать не только отдельную детскую читальню, но и особый детский абонемент. Дети составляли почти половину всех читателей.

В деятельности библиотеки происходят существенные изменения. На одно из первых мест выходит так называемая массовая работа. В этом же году библиотека начала вести работу вне своих стен, зарождается передвижная работа. Было организовано 7 передвижек на фабриках, в хлебопекарне, прачечной, на электростанции. На заводах, в общежитиях, школах, приютах и других детских учреждениях было организовано 29 коллективных абонементов.

В 1920 году библиотека перебралась в другое помещение на улице Большая Полянка. На этом месте она находилась более 30 лет, вплоть до сентября 1954 года.

В 30-е годы библиотека им. Л.Н. Толстого была одной из лучших в столице и за высокое качество работы была удостоена звания «Образцовая библиотека». Работники библиотеки принимали активное участие в организации библиотечного дела в Москве.

В годы Великой Отечественной войны библиотека перестроила всю свою деятельность: организовывала пожарные бригады, сотрудники библиотеки постоянно дежурили на крыше здания, охраняя помещение от зажигательных бомб, активизировались передвижные библиотеки, велась массовая работа в госпиталях – выставки, лекции, громкие читки. Особое внимание уделялось инвалидам войны, раненым, молодежи.

В сентябре 1954 года библиотека переселилась на Старокаширское шоссе (ныне Каширское шоссе). По этому адресу она находится более 50 лет. В 50-е годы библиотека им. Л.Н. Толстого стала опорной для библиотек Красногвардейского района г. Москвы. В 60-е был организован открытый доступ читателей к фондам библиотеки.

В 1971 году в Красногвардейском районе г. Москвы была организована первая Централизованная библиотечная система. Библиотека им. Л.Н. Толстого стала Центральной библиотекой системы и объединила 10 библиотек, обслуживающих взрослое население.

В конце 70-х – начале 80-х годов к взрослым библиотекам присоединились библиотеки, обслуживающие детское население. В настоящее время библиотека № 146 им. Л.Н. Толстого возглавляет самую крупную в городе Москве ЦБС, является методическим и координационным центром по работе с 22 государственными публичными библиотеками системы.Здание библиотеки им. Л.Н. Толстого Каширское шоссе, д.16. Здание библиотеки им. Л.Н. Толстого Каширское шоссе, д.16.