4 января 2000 года Громов был назначен пресс-секретарем исполняющего обязанности президента РФ, а с марта – президента Владимира Путина, сменив на этом посту Дмитрия Якушкина, оставшегося исполнять обязанности пресс-секретаря при Ельцине после его отставки. 26 марта 2004 года после переизбрания Путина на второй срок Громов был переутвержден на своей должности.
В 2001 Громов вошел в состав совета директоров ОАО «ОРТ», а в 2004 году – в состав сменившего его ОАО «Первый канал». В 2005 году Громов и советник президента РФ и экс-министр печати Михаил Лесин выступили инициаторами создания круглосуточного англоязычного канала Russia Today (RTTV), призванного способствовать формированию положительного образа России в мире. Учредителем RTTV выступило РИА «Новости», совокупный годовой бюджет новой структуры составил 30 миллионов долларов, а руководителем была утверждена Маргарита Симонян, которая до этого работала кремлевским корреспондентом на телеканале «Россия». СМИ отмечали, что Громов стал куратором созданного канала.
В ноябре 2006 года Громов упоминался в СМИ в связи с инцидентом, произошедшим на саммите СНГ в Минске. Белорусские власти отказались пропустить на это мероприятие троих российских журналистов, которые, как они считали, некорректно освещали их деятельность. Попытки Громова добиться допуска журналистов успеха не имели. В итоге, в знак солидарности с коллегами, саммит покинули почти все представители российских СМИ.
Наблюдатели отмечал непубличность Громова на посту пресс-секретаря президента. Несмотря на это в 2000 году он стал лауреатом премии журнала «Огонек» «за обеспечение информационной открытости Кремля». Громов владеет чешским, словацким и английским языками. Коллекционирует фигурки гномов. Женат, у него есть два сына – Алексей и Данила.
Люди, работавшие с Алексеем Громовым, характеризуют его как жесткого руководителя.
В обязанности Громова как главы пресс-службы входила не только непосредственная работа с прессой, но и подготовка в круглосуточном режиме справок и дайджестов о материалах в печатных и электронных СМИ. Алексей Громов отвечал также за предание гласности различных документов, подписываемых президентом России.
Работу с журналистами Алексей Громов предпочитал вести без упоминания своей фамилии
