Родился в семье ссыльного поселенца Филиппа Семёновича Данилина и его жены Марии Александровны, у которых был еще один сын, Семен. Образования Павел не получил, сын Нилина — Александр предполагал, что отец вообще не ходил в школу, а грамоте был обучен своей матерью, воспитательницей в детском доме. Заболевание в детстве полиомиелитом привело к хромоте. Служил в уголовном розыске в Тулуне под Иркутском. С 1927 года работал журналистом, сначала в Сибири, потом в Поволжье, на Украине и, наконец, в Москве.

Первые рассказы напечатаны в 1937 году в журнале «Новый мир». Роман о шахтёрах Донбасса «Человек идёт в гору» Нилин в 1939 году переработал в сценарий фильма «Большая жизнь». Тем не менее 2-я серия фильма, снятая после войны, была запрещена к показу и вышла на экраны только в 1958 году в переработанном виде. Всеобщее признание пришло к Нилину главным образом благодаря повести «Жестокость» (1956), переработанной из рассказа 1946 года; речь в ней идёт о борьбе с преступностью, становлении и судьбах молодых людей в 1920-е годы.

Выступал на расширенном заседании президиума правления Союза писателей СССР 27 октября 1958 года, осудившем Б. Пастернака, сказал, что надо помнить: у баррикады есть только две стороны.

Член правления Союза писателей СССР с 1971 года. Похоронен на Ваганьковском кладбище в Москве.