Родился 7 января 1961 года в селе Заездайка Черниговской области (Украина). В 1988 году окончил Свердловский юридический институт. После вуза работал помощником прокурора города Навои (Узбекистан). С 1991 года занимал различные должности в органах прокуратуры Челябинска, в 1999 году признан лучшим прокурором области. Одновременно преподавал на юридическом факультете Челябинского государственного университета (ЧГУ), специализировался на вопросах прокурорского надзора и работе Европейского суда по правам человека. С 2000 года — заместитель прокурора Челябинской области. Широкую известность получил в 2001 году, возглавив расследование в отношении депутата Госдумы Владимира Головлева (убит 21 августа 2002 года), обвинив его в мошенничестве и получении взятки.
14 декабря 2007 года приказом генпрокурора Юрия Чайки уволен с должности за "совершение проступка, порочащего честь прокурорского работника" — служебная проверка выявила неправомерное получение им в ЧГУ ученого звания доцента. 2 марта 2008 года Тверской суд Москвы восстановил Анатолия Багмета в должности, не найдя состава преступления. После этого господин Багмет написал заявление об отставке, но уже 12 мая 2008 года, по решению главы СКП Александра Бастрыкина, возглавил следственное управление комитета по Москве. В этой должности стал регулярно выступать в СМИ, комментируя расследование большинства громких преступлений и отчитываясь о борьбе с коррупцией и росте раскрываемости. Лично возглавлял следственные группы по делам об убийствах адвоката Станислава Маркелова и бизнесмена Шабтая Калмановича и расстреле майором милиции Денисом Евсюковым посетителей супермаркета.
26 марта 2009 года Верховный суд РФ по жалобе Генпрокуратуры отменил решение Тверского суда о восстановлении Анатолия Багмета в должности, однако он заявил, что продолжит работать до приказа своего непосредственного начальника Александра Бастрыкина.