Em 1871, Karl Benz juntou-se a August Ritter para fundar a sua primeira empresa, em Mannheim. Quando Karl Benz se apercebeu que Ritter não era uma pessoa segura, pagou-lhe uma quantia de dinheiro, proveniente do dote da sua mulher, Bertha Ringer, e passou a comandar sozinho a empresa.
Em 1872, Karl Benz casou-se com Bertha Ringer. A sua mulher desempenhou um papel fundamental no sucesso da sua empresa. Ela foi a primeira pessoa a conduzir um automóvel a uma longa distância. Por este motivo, foi considerada a primeira mulher na história automobilística. Karl Benz e Bertha tiveram cinco filhos.
Nos primeiros tempos, o negócio não correu bem para Karl Benz. Na sua "Oficina Mecânica e de Ferro Fundido" (mais tarde denominada por "Fábrica de Sheet Metal-Trabalhar Machines"), as coisas pioraram de tal maneira, que os instrumentos foram confiscados. Em busca de uma nova fonte de receita, Karl Benz centrou a sua atenção nos motores de dois tempos. Após um período de dois anos, o primeiro motor funcionou satisfatoriamente em 1879. Dado que a patente relativa ao motor de quatro tempos já tinha sido emitida pela Deutz Gasmotorenfabrik em 1877, o motor pensado por Benz foi baseado num ciclo de dois tempos. Ao desenvolver o motor de dois tempos, Benz obteve um número de patentes fundamentais, por exemplo, no controlo do motor. Aplicou um sistema de ignição através da bateria para iniciar os veículos.
Graças a apoios financeiros e a novos parceiros, Karl Benz e Bertha transformaram a empresa numa sociedade anónima, e decidiram renomeá-la de "Gasmotorenfabrik Mannheim". A quota de Karl Benz na empresa aumentou em 5 por cento. Quando seus sócios tentaram exercer influência sobre seus projectos, Benz deixou a empresa em 1883.