J. Groag byl významným žákem Adolfa Loose s původem v asimilované židovské rodině obchodníků z Olomouce. Po maturitě nastoupil na obor stavitelství na vídeňské technice (1910), které mu přerušila válka. Během vojenské služby získal na východní frontě vyznamenání za statečnost – prožil zde traumata, která ho provázela celý život. Po válce dokončil studia na technice (1919). Rovněž navázal na předválečné návštěvy Loosovy Bauschule. Praxi získal ve vídeňské stavební kanceláři Fritze Kellera (1921–1926), po které následovala nezávislá architektonická činnost (1926–1938). Jako stavbyvedoucí se podílel na realizaci Wittgensteinova vídeňského domu (1926–1929) od Paula Engelmanna a Mollerovy vily od A. Loose (1927). Četných publikací se dočkal jeho dvojdům pro vídeňské sídliště Werkbundu (1932). Po anšlusu Rakouska působil krátce v Praze (1938–1939), rodišti jeho ženy Jacqueline (dříve Hilde Blumberger, roz. Pick), odkud emigrovali do Británie. Zde se zabýval především návrhy interiérů a s manželkou se věnovali textilnímu designu. Vyučoval na londýnské Hammersmith School for Arts and Crafts (1955–1960). Mezi Loosovými následovníky vyčníval velkým počtem realizací, jak v jeho rodišti v Olomouci a na Moravě, tak ve Vídni. Byl vyhledávaným interiérovým návrhářem; silně ovlivněný Loosovým estetickým cítěním Groag přinášel z vídeňského prostředí módní prvky do prostředí „venkovského”.