Der COO verantwortet die operative Führung eines Unternehmens und sorgt dafür, dass strategische Vorgaben der Geschäftsführung im Tagesgeschäft konsequent umgesetzt werden. Er koordiniert Produktion, Prozesse und operative Bereichsleiter und berichtet in der Regel direkt an den CEO. In deutschen Mittelstandsunternehmen wird die Funktion häufig auch als operativer Geschäftsführer bezeichnet.
Im Familienunternehmen trifft der COO operative Entscheidungen häufig direkter und schneller, da weniger Freigabeinstanzen dazwischenstehen. Gleichzeitig ist die Rückkopplung zur Inhaberfamilie enger, besonders wenn Entscheidungen Investitionen oder Personal betreffen. Im Konzern agiert der COO stärker innerhalb standardisierter Prozesse und Reportinglinien.
Typische Anlässe sind starkes Wachstum, das die bestehenden operativen Strukturen an ihre Grenzen bringt, eine geplante Nachfolge in der operativen Führung oder die Professionalisierung von Prozessen vor einer Expansion. Auch nach Übernahmen oder bei der Integration neuer Standorte wird häufig gezielt ein erfahrener COO gesucht.
Inhaltlich beschreiben beide Begriffe dieselbe Funktion: die operative Führung unterhalb oder neben der Gesamtgeschäftsführung. „COO“ hat sich international als Bezeichnung etabliert, während „Operativer Geschäftsführer“ im deutschen Mittelstand geläufiger ist, insbesondere wenn die Position formal Teil der Geschäftsführung einer GmbH ist und nicht separat ausgewiesen wird.

