Батьки батька Зака - емігранти з Греції. За віросповіданням Зак, як і його батько, належить до грецького православ'я. Мати Зака - шотландка ірландського походження. У актора є молодша сестра Меррітт і старший брат Грег. Зак - племінник колишнього конгресмена США Ніка Галіфіанакіса, який представляв інтереси Північної Кароліни в період між 1967 і 1973 роками.

  Галіфіанакіс навчався в Університеті штату Північна Кароліна, але провалив випускні іспити, чи не добравши всього один бал до необхідного мінімального рівня, і переїхав до Нью-Йорку.

  Свій творчий шлях Зак почав з невеликих гумористичних номерів, які давав поруч з фургончиком для продажу гамбургерів на Таймс-сквер. Поступово його популярність росла, він почав вести власне ток-шоу на телебаченні, де представляв увазі публіки зірок андеграунду, в середовищі яких він починав свою кар'єру.