Hermann Bühler-Weber reiste nach der Gewerbeschule und einer kurzen Lehrzeit im Familienbetrieb bereits als 20-jähriger in den Orient. Da Amerika während des Bürgerkrieges ausfällt, musste er sich um die Beschaffung der Baumwolle kümmern. Auf seinem Rückweg machte auch er in Liverpool zu Ausbildungszwecken Station. Anschliessend kehrte er nach Winterthur zurück. Er verheirate sich 1868 mit Amalie Weber (15.05.1846-20.08.1924), der Tochter von Johann Jakob Weber zur Schleife (1814-1901), Gründer der späteren Carl Weber AG. Hermann Bühler überlebte seine Brüder und kaufte 1897 die Firmenanteile der Erben. Er lässt für seine Familie mit den Kindern Hermann Bühler-Sulzer (1870-1926), Martha Keller-Bühler, Richard Bühler-Steiner (28.05.1879-15.05.1967) und Margareta A.L. Steiner-Bühler (17.06.1884-07.09.1973) die Villa Bühlstein an der Rychenbergstrasse erbauen.