Карьера, да и жизнь Мазепы едва не закончились, когда он попал в плен к врагу Дорошенко кошевому атаману запорожцев Ивану Сирко. Однако пленник заинтересовал командовавшего русскими войсками на Украине воеводу Григория Ромодановского, поскольку гетман Дорошенко был врагом России. Во время допросов Мазепа произвел на Ромодановского хорошее впечатление, и тот отправил его в Москву с сопроводительным письмом, в котором просил «во всем дати веру» Мазепе. В Москве Иван не только давал показания, но и удостоился чести встретиться с царем. После этого судьба Мазепы будет тесно связана с Московским государством и с Гетманщиной. Он станет частым гостем в Москве и подружится с фаворитом царевны Софьи Василием Голицыным.

Между тем в Москве росло недовольство гетманом Иваном Самойловичем, противником прежнего покровителя Мазепы Дорошенко, на чью сторону перешел Мазепа и при котором дослужился до генерального есаула. Верный московским друзьям Мазепа принял участие в смещении Самойловича: вместе со своим будущим врагом Кочубеем и другими казацкими старшинами он подписал донос на гетмана. А после ареста Самойловича на раде, собравшейся на реке Коломак, в 1687 году именно Мазепу провозгласили новым гетманом. Избрание его происходило при поддержке Василия Голицына, на всякий случай окружившего казацкий стан русскими полками.

Впрочем, большинство украинцев не хотели признавать нового гетмана, видя в нем московского ставленника. Мазепа даже вынужден был просить у Голицына 4000-е русское войско, чтобы добраться до гетманской резиденции – города Батурин. Первое время его власть держалась исключительно на военно-полицейской (стрельцы) поддержке Москвы.

Мазепа был непопулярным и нелюбимым правителем, хотя ему удалось занимать свой пост больше двадцати лет, и поставить абсолютный рекорд среди украинских гетманов. Несмотря на неприязненное отношение к нему, Мазепе удавалось удерживать на Украине относительную стабильность и мир. Впрочем, внешние войны – с турками и татарами – продолжались. В 1695 году Мазепа и русский воевода Борис Шереметев взяли крепость Кизикирмен в верховьях Днепра, и эта победа сделала гетмана очень популярным в Европе, а в 1696-м полки Мазепы помогли армии Петра Первого взять Азов. Даже успешные, эти войны были крайне разрушительными для Гетманщины: многотысячные армии проходили эту территорию насквозь, а в Гадяче, Переяславе, Чернигове, Нежине и даже Батурине стояли русские войска, которых нужно было кормить и содержать.

В казацких кругах нарастало недовольство чрезмерно преданным Москве гетманом, которому, к тому же не забывали и его службу у «ляхов». Еще в 1692 году Петр Иваненко (Петрик), служивший в гетманской канцелярии, бежал на Сечь и, развернув антимосковскую и антимазеповскую пропаганду, объявил себя гетманом. Петрик обещал защиту «простым людям», которых он освободит «от москалей и своих панов», он убеждал других казаков в том, что за ним пойдет вся Украина. Многие относились к идеям Петрика сочувственно. Однако поведение призванных им татар, которые начали грабить местных жителей, быстро охладило симпатии к повстанцу. Мазепа приложил множество усилий, чтобы подавить это восстание.

Ивана Мазепу устраивало покровительство доверявшего ему, не слушавшего никаких доносов (а они поступали в изобилии) Петра Первого. Гетман был государевым любимцем, даже орден Андрея Первозванного он получил раньше, чем А.Д. Меншиков, да и сам Петр. Даже на донос генерального судьи Василия Кочубея об измене Мазепы, который (уже не первый по счету) судья отправил в Москву в 1708 году, Петр Первый отреагировал вовсе не в пользу доносчика – все знали о давней вражде Кочубея и Мазепы из-за соблазненной гетманом крестницы, дочери Кочубея Матрене