Родился в семье охотника-медвежатника Мокея Фроловича и крестьянки Евдокии Васильевны. В 1927—1931 годах был на комсомольской работе в Томске. В 1930—1932 годах учился на вечернем отделении Томского государственного университета, но не окончил его. В 1931—1941 годах Г. М. Марков на редакционной работе (редактор детского журнала «Товарищ» и газеты «Большевистская смена» в Новосибирске, газеты «Молодой большевик» в Омске). Член СП СССР с 1943 года. С 1936 года начал печататься. Участник Великой Отечественной войны — с июня 1941 был военным корреспондентом газеты «На боевом посту» Забайкальского фронта, участвовал в разгроме Квантунской армии. В 1956 году переехал в Москву, где стал секретарём правления СП СССР, c 1971 года — первый секретарь, с 1977 года — Председатель правления.

Председатель Комитета по Ленинским и Государственным премиям СССР в области литературы, искусства и архитектуры с 1979 года. Председатель комиссии по литературному наследию М. С. Шагинян. В 1973 году подписал Письмо группы советских писателей о Солженицыне и Сахарове. В 1978 году передал Ленинскую премию на создание библиотеки в родном селе. В январе 1986 года по собственному желанию ушёл с поста председателя правления СП СССР. Похоронен в Москве на Троекуровском кладбище. Здесь же похоронена супруга — Агния Александровна Кузнецова.