哈密王统治时期，吐葫芦为山北六区之一。
1935年为伊吾设置局属下的六行政村之一。
1944年5月实行乡镇保甲制后，该处为三民镇属下的一个保。
1950年划为区，原苇子峡保划为吐葫芦区属下的一个村，1953年下马崖乡划归吐葫芦区管辖。
1954年10月撤区后为全县六乡之一，1958年成立吐葫芦人民公社，管委会驻沙梁子。
1969年文化大革命时冒改为东方红公社革命委员会。
1981年7月普选时恢复原吐葫芦名称，并恢复公社管理委员会称谓，1984年6月9日政社分设建立乡人民政府，辖村无变动。