Siemens era o mais velho dentre 10 filhos de Eleonore Deichmann e Christian Ferdinand (o casal teve 14 filhos, apesar de apenas 10 terem sobrevivido). O seu pai era agricultor e administrador de propriedades, descende de uma família de classe média proeminente em Goslar (Alemanha). Em 1832, Siemens entrou no ensino básico, onde logo deu fortes indicações do seu interesse em ciência. Apesar das dificuldades económicas da sua família terem frustrado os seus planos para estudar em Berlim, Siemens conseguiu uma nomeação como candidato oficial na Escola de Artilharia e Engenharia Prussiana de Berlim. De 1835 a 1838, estudou matemática, física e química.

Siemens foi preso por um breve intervalo de tempo, em Magdeburgo, devido a uma luta entre colegas, e aproveitou esse tempo para realizar algumas experiências químicas na sua cela. Isso conduziu à sua primeira invenção, em 1842: um processo de galvanoplastia. Em 1841, a sua nomeação para as oficinas de artilharia em Berlim deu-lhe oportunidade de fazer pesquisa, que acabou por definir o seu futuro profissional.

Quando Siemens observou, em 1837, o primeiro modelo de telégrafo elétrico, criado por Sir Charles Wheatstone (1802 – 1875), imediatamente compreendeu as suas possibilidades de comunicação internacional e decidiu criar melhorias para o dispositivo. Depois de melhorar o telégrafo de Wheatstone, Siemens desenvolveu um sistema completo de telégrafo, incluindo um método de isolamento do fio condutor com guta-percha. Em 1847, juntamente com Johann Georg Halske (1814 – 1890), fabricante de instrumentação da universidade, fundou a empresa Telegraphenbauansalt von Siemens & Halske, especializada na produção de sistemas de telégrafo.

A empresa prosperou rapidamente com a execução de grandes projetos telegráficos e com a expansão da empresa para outras áreas da eletricidade. Em 1866, Siemens criou o gerador autoexcitado, um dínamo que podia ser posto em movimento pelo magnetismo residual do seu poderoso eletroíman, que substituiu o ineficiente íman de aço.

Siemens recebeu um doutoramento honoris causa pela Universidade de Berlim (1860), foi membro da Academia de Ciências de Berlim (1873). Em 1888, Siemens foi elevado à categoria de nobreza com a adição de “von” ao seu nome. Ele morreu poucos dias após a publicação da primeira edição de seu Lebenserinneriungen, um livro de memórias.