В феврале 2004 года Сергей Нарышкин, с 1998 года возглавлявший комитет по внешнеэкономическим и международным связям правительства Ленобласти, назначен заместителем начальника экономического управления администрации президента. Уже 19 марта он стал заместителем главы аппарата правительства. 25 июня вошел в состав совета директоров "Роснефти".
13 сентября 2004 года господин Нарышкин назначен главой аппарата правительства в ранге министра. 20 июля 2005 года возглавил комиссию по проведению административной реформы. 31 августа избран председателем совета директоров "Первого канала". Кроме того, в 2006 году он возглавил Всероссийскую федерацию плавания и вошел в президиум совета при президенте по реализации приоритетных нацпроектов.
15 февраля 2007 года указом президента повышен до должности вице-премьера. К обязанностям главы аппарата добавился контроль над внешнеэкономической деятельностью, экономической интеграцией со странами СНГ, международными отношениями, таможенно-тарифным регулированием, управлением госсобственностью, сферами культуры, туризма и гражданской обороны. Возглавил правительственные комиссии по вопросам международной гуманитарной и технической помощи, по экономической интеграции с ЕС и СНГ, по организации подготовки управленческих кадров.
В марте 2007 года Сергей Нарышкин возглавил аттестационную комиссию правительства (подбирает ректоров для государственных вузов) и попечительский совет Высшей школы госадминистрирования МГУ. В июне стал представителем президента по вопросам развития сотрудничества со странами СНГ, вошел в наблюдательный совет Банка развития--Внешэкономбанка и был назначен координатором проекта нефтепровода Восточная Сибирь--Тихий океан. 11 июля господин Нарышкин возглавил комиссию по обеспечению российского присутствия на архипелаге Шпицберген.