Masa jabatannya sebagai Perdana Menteri tidak berlangsung lama karena adanya konflik internal dengan pesaing politiknya yaitu Fatah.
Konflik tersebut membuat pemerintahan terpecah menjadi dua akibatnya pada bulan Juni 2007 Haniyeh dicopot dari jabatannya. Namun Hamas menolak keputusan tersebut dan Haniyeh terus menjalankan tugas sebagai Perdana Menteri.
Baru setelah dilakukan perundingan dan rekonsiliasi, Haniyeh menyerahkan jabatannya pada tahun 2014 kepada pemerintah persatuan nasional dengan Fatah.
Haniyeh menyelesaikan tugasnya sebagai pemimpin di Gaza sampai tahun 2017, kemudian digantikan oleh Yahya Sinwar.
Pada tahun 2018, Amerika Serikat menetapkan Haniyeh sebagai teroris global dan sejak tahun 2019 Haniyeh pindah ke Qatar untuk menghindari pembatasan perjalannanya dari jalur Gaza.
Sejak serangan 7 Oktober yang dipimpin oleh Hamas ke wilayah Israel Selatan, Haniyeh menjadi salah satu yang mendapatkan surat perintah penangkapan dengan dua pemimpin Hamas lainnya yaitu Sinwar dan Mohammad Deif atas tuduhannya menjadi dalang dari kejahatan perang dan kejahatan terhadap kemanusiaan.
Surat perintah penangkapan juga diajukan kepada Perdana Menteri Israel Benjamin Netanyahu dan Menteri Petahanan Yoav Gallant.
Akibat serangan tersebut hampir 40.000 warga Palestina meninggal dan perang ini menjadi yang paling panjang dan mematikan.
Saat menghadiri pemakaman mantan Presiden Iran Ebrahim Raisi dalam pidatonya, Haniyeh mengatakan bahwa Gelombang Al Aqsa nama serangan Hamas ke Israel tersebut adalah gempa yang menghantam jantung entitas Zionis dan membawa perubahan besar pada tingkat dunia.
“Kami akan terus melawan musuh ini sampai membebaskan tanah kami, seluruh tanah kami,” ungkap Haniyeh.
Sejak serangan 7 Oktober Israel dengan tegas mengatakan akan menargetkan semua pemimpin Hamas dan secara bertahap memenuhi janji tersebut.
Selama perang berlangung Haniyeh yang tinggal di pengasingan, walaupun sudah mendapatkan ancaman tidak menghentikannya melakukan kunjungan, diantaranya ke Turki dan Iran
Kunjungan tersebut beliau lakukan untuk melakukan negosiasi dalam mencapai gencatan senjata dan pembebasan sandera.
