В 1992 — 1995-м — член грузинского парламента, глава фракции «зеленых», зампред парламентской комиссии по международным делам. Член грузинского парламента созыва 1995 — 1999 годов, в котором стал спикером. После выборов 1999 года переизбран на пост спикера, но в 2001 году покинул этот пост. В 1993 — 2001 годах — член партии «Объединенные демократы», с 2002 года — глава этой партии. В ноябре 2003 занял пост премьер-министра Грузии.
Зураб Жвания был найден мертвым 3 февраля 2005 года в Тбилиси, в квартире своего друга.
По официальной версии, Жвания направился к другу — заместителю губернатора региона Квема-Картли Раулю Юсупову.
Охранники обратили внимание на то, что премьер не отвечал на телефоны. В пять утра они взломали дверь квартиры и обнаружили, что глава правительства и его друг мертвы. Выяснилось, что произошло отравление угарным газом.
По словам министра внутренних дел Вано Мерабишвили, Жвания был найден в комнате: он сидел за столом, его друг был найден на кухне. Следствие сочло, что произошла утечка угарного газа из бракованного обогревателя, установленного в квартире. Следствие проводилось при участии американских криминалистов.
Независимый эксперт и родственники погибших поставили официальную версию под сомнение. По словам независимого эксперта-криминалиста Майи Николеишвили, даже если дело было в печке, сначала бы у присутствовавших в помещении началась мигрень, потом рвота. Эксперт обратила внимание на то, что погибшие даже не попытались открыть окно.
По заключению дактилоскопической экспертизы, в квартире, где нашли погибших, не было ни одного принадлежащего им отпечатка пальцев. По мнению брата Жвания Георгия, это свидетельствует о том, что «их принесли уже мертвыми».
9 декабря 2005 года в парламенте Тбилиси торжественно открыли бюст Зураба Жвания. В церемонии принимал участие тогдашний президент Грузии Михаил Саакашвили.
Оппозиция и родственники погибших продолжали высказывать сомнения в официальной версии событий и призывали провести повторное расследование. В октябре 2013 года новые власти Грузии пообещали возобновить следствие.
В середине января 2014 года тогдашний глава правительства Грузии Ираклий Гарибашвили заявил, что тело Жвания будет эксгумировано. По его словам, прокуратура хочет подключить к экспертизе швейцарскую или израильскую лабораторию. Гарибашвили отметил, что по делу об убийстве Жвания планируется создать комиссию.
2012 году вся предвыборная кампания миллиардера Бидзины Иванишвили и его коалиции «Грузинская мечта» прошла под лозунгом-обещанием «раскрытия таинственной смерти Зураба Жвания».
Но, придя к власти, Иванишвили не смог это обещание выполнить. Во всяком случае, следователи до сих пор не ответили на ключевой вопрос: убийство или несчастный случай? Единственным итогом расследования стал арест бывшего начальника охраны премьер-министра Кобы Харшиладзе и его заместителя Михаила Дзадзамия.
Но их обвиняют не в убийстве, а в преступной халатности: они оставили Зураба Жвания в квартире вместе с Раулем Юсуповым. Не совсем, впрочем, понятно, как они могли поступить иначе.
Семья покойного премьера все эти годы настойчиво требовала привлечь сотрудников личной охраны Жвания к уголовной ответственности. Уже после их ареста вдова премьер-министра Нино Кадагидзе-Жвания сказала , что в целом удовлетворена ходом расследования.
В прокуратуре Грузии сообщили, что следствие по делу о смерти Зураба Жвания продолжается. Обвинение в организации заговора или убийстве политика никому не предъявлено.