Арсений Александрович Тарковский родился 12 (25) июня 1907 года в Херсонской губернии. Его отец, Александр Карлович, работал служащим Елисаветградского общественного банка.
В 1923 году Арсений Александрович переехал в Москву к сестре своего отца. В 1925 году поступил учиться на Высшие литературные курсы, возникшие на месте закрытого после смерти Валерия Брюсова созданного им Литературного института.
В 1924—1929 Тарковский был сотрудником газеты  «Гудок», автором судебных очерков, стихотворных фельетонов и басен.
В 1931 году Тарковский работал на Всесоюзном радио. По заданию литературно-художественного отдела Всесоюзного радио он написал пьесу «Стекло». 3 января 1932 года пьеса «Стекло» была передана по Всесоюзному радио. Эта радиопьеса Тарковского подверглась резкой критике за «мистику» — в качестве литературного приема Тарковский ввел голос родоначальника русского стекла Михаила Ломоносова.
Примерно с 1933 года Тарковский начал заниматься художественным переводом. Работа над переводами национальных поэтов была связана с творческими командировками. Вместе с близким другом Тарковский работал над переводами поэм и стихов сербского поэта-эмигранта радуле Марковича.
27 февраля 1940 года состоялось заседание Президиума Союза советских писателей, на котором поэт и переводчик Марк Тарловский рекомендовал Тарковского в Союз писателей, обратив внимание собрания на него как на мастера перевода, перечислив его работы. Так Тарковский был принят в союз писателей СССР.
Начало войны застало Тарковского в Москве. По заключении медкомиссии, мобилизации в действующую армию он не подлежал.
Арсений принимал участие в поэтических встречах, которые организовывал Союз писателей для москвичей.
16 октября 1941 года, в день эвакуации Москвы, Арсений Александрович покинул столицу. Отправился в Казань, чтобы оттуда добраться до Чистополя. В конце октября и ноябре 1941 года в Чистополе он создал цикл «Чистопольская тетрадь», состоявший из семи стихотворений.
С января 1942 по декабрь 1943 года работал военным корреспондентом газеты 16-й армии «Боевая тревога». На передовую для сбора информации Арсений Александрович ходил, либо ездил через день. Тарковскому не раз довелось участвовать в боевых действиях. 7 апреля 1943 он был награжден орденом Красной Звезды.
В 1945 году поэт по направлению Союза писателей ездил в творческую командировку в Тбилиси, где работал над переводами грузинских поэтов, в частности Симона Чиковани. В Тбилиси он познакомился с местными поэтами, писателями, актерами.
Тарковский ездил в творческие командировки, участвовал в декадах национальных литератур, встречался с поэтами и писателями, серьезно занимался астрономией… И при этом не переставал писать для себя, в стол. Его рукописные тетради пополнялись новыми стихами. Особенно продуктивным был для поэта 1958 год, когда им было написано около сорока стихотворений.
В 1962 году, когда Арсению Александровичу было уже 55 лет, вышла его первая поэтическая книга «Перед снегом».
В 1960-е годы вышли еще две книги Тарковского: «Земле — земное» и «Вестник». Тарковского стали приглашать с выступлениями на популярные в те годы вечера поэзии. В 1966—1967 годах он вел поэтическую студию при Московском отделении Союза писателей.
В 1971 году Тарковскому была присуждена Государственная премия Туркменской ССР им. Махтумкули. В 1974 год вышла первая книга избранных стихов Тарковского «Стихотворения» с предисловием Маргариты Алигер, в которую вошли произведения, написанные им с 1929 по 1971 годы. В 1977 году, в связи с семидесятилетием Тарковского, советское правительство наградило его орденом Дружбы народов.
В 1978 году в Тбилиси в издательстве «Мерани» вышла книга Тарковского «Волшебные горы», в которую наряду с его оригинальными стихотворениями были включены его переводы грузинских поэтов.
В начале 1980-х гг. вышли три книги Тарковского: «Зимний день», «Избранное» и «Стихи разных лет».
Вышедшая в апреле 1989 года книга «Звезды над Арагацем» была последним прижизненным изданием поэта.