Welch urodził się 19 listopada 1935 r. w miejscowości Peabody w stanie Massachusetss. Jego rodzice mieli pochodzenie irlandzkie. Ukończył Uniwersytet Illinois z dyplomem inżyniera chemii a w 1960 r. zaczął pracować w General Electric. W 1968 r. był już wicedyrektorem działu plastiku w tym koncernie. W 1973 r. zaczął kierować działem planów strategicznych a w 1981 r. został prezesem tej spółki. Jego styl pracy był bardzo charakterystyczny. Robił niezapowiedziane wizyty w fabrykach i biurach GE. Co roku zwalniał 10 proc. menedżerów mających najgorsze wyniki. 20 proc. z najlepszymi wynikami hojnie za to wynagradzał. Gdy obejmował władzę w koncernie, kapitalizacja GE wynosiła 12 mld dolarów. Gdy ją oddawał w 2001 r. sięgała już 410 mld dolarów. Odchodząc ze spółki dostał rekordową odprawę wynoszącą 417 mln dolarów.
Na emeryturze, w 2005 roku opublikował wraz ze swoją trzecią żoną Suzy Welch książę „Winning" poświęconą zarządzaniu. Szybko znalazła się ona na pierwszym miejscu listy bestsellerów „New York Timesa". W 2009 r. założył Instytut Zarządzania Jacka Welcha.