Karl Dillinger wurde am 14. Oktober 1882 im oberschlesischen Karwin geboren, wo sein Vater als Braumeister arbeitete. Als Karl sechs Jahre alt war, nahm der Vater eine Stelle bei einer Brauerei in Ludwigshafen an. Von 1899 bis 1902 besuchte Karl die Kunstgewerbeschule in Karlsruhe, im Anschluss daran die Stuttgarter Kunstakademie.
Dillingers großes Vorbild war Paul Cézanne, dessen Werke er während eines Studienaufenthaltes 1906–1907 in Paris kennenlernte. Dies zeigt sich besonders in seiner Malweise, die geprägt ist durch die Flächigkeit der Farben, die er gefühlvoll in Szene setzte.
Wieder in Stuttgart, war er von 1907 bis 1909 Meisterschüler von Adolf Hölzel, der noch vor Wassily Kandinsky zu den Wegbereitern der abstrakten Malerei gehörte. In den Jahren 1909 bis 1921 arbeitete Dillinger als freischaffender Maler, ab 1920 stellte ihn der renommierte Mannheimer Galerist Herbert Tannenbaum mehrfach aus.
1924 wurde er als Lehrer an die Badische Landeskunstschule Karlsruhe berufen und 1926 zum Professor ernannt. Regelmäßige Reisen führten ihn in dieser Zeit immer wieder nach Paris.
Angesichts der Nähe zur französischen Malerei wurde Dillinger durch die Nationalsozialisten als „Französling“ denunziert und 1933 seines Lehramtes enthoben. Im selben Jahr kehrte Dillinger mit seiner Lebensgefährtin Maria Koob in die Pfalz zurück. Bis zu seinem Tode wohnten die beiden in Hausen, wo er als freischaffender Künstler arbeitete. Zum wichtigsten Motiv seiner letzten Schaffensphase sollte die Landschaft unmittelbar vor seiner Haustür werden: Eine postume Würdigung nannte ihn gar den künstlerischen „Entdecker des Isenachtales“.
Karl Dillinger starb – gebrochen und völlig zurückgezogen – mit 59 Jahren am 22. Januar 1941 in Dirmstein. Er fand auf dem Hauptfriedhof in Bad Dürkheim seine letzte Ruhe, wo sein Grab noch heute zu sehen ist.
