Carl Jakob Sulzer wurde am 4. Februar 1865 als ältester Sohn von Heinrich Sulzer-Steiner in Winterthur geboren. In gutbürgerlichen Verhältnissen aufgewachsen, besuchte er das Knabengymnasium in seiner Heimatstadt. Seine akademische Laufbahn führte ihn zur Académie in Lausanne, wo er sich intensiv den Naturwissenschaften widmete und gleichzeitig Vorlesungen an der Technischen Fakultät besuchte.
Nach seiner akademischen Ausbildung sammelte Sulzer praktische Erfahrungen in der Maschinenfabrik in Winterthur.
1889 schloss er an der technischen Hochschule in Dresden sein Studium als Maschineningenieur erfolgreich ab. Es folgten Jahre in einem Konstruktionsbüro und eine ausgedehnte Studienreise in die USA. 1891 trat er in die Gebrüder Sulzer AG ein, wo er rasch in leitende Positionen aufstieg und 1895 als erster Vertreter der dritten Generation zum Teilhaber wurde. Im selben Jahr schloss er den Bund fürs Leben mit Fanny Rosa Schmid.
Unter Sulzers Führung erlebte das Unternehmen eine Phase der Expansion und Innovation. Er konzentrierte sich insbesondere auf den Dampfmaschinen- und Kesselbau. Als sein Mitteilhaber Eduard Sulzer-Ziegler mit dem Bau des Simplontunnels beschäftigt war, übernahm Carl immer mehr Verantwortung. 1914 wurde er zum Verwaltungsratspräsidenten der nun in eine Aktiengesellschaft umgewandelten Firma ernannt