Aan het begin van de jaren 20 leverde Delhez figuratieve linosnedes aan voor de eerste reeks nummers van Het Overzicht, het in Antwerpen uitgegeven avant-gardetijdschrift rond Michel Seuphor en Jozef Peeters. Voor Het Overzicht gaf hij, samen met Maurits Lambrechts 10 Vlaamsche Koppen uit, waarvan de inleiding afkomstig was van Seuphor.
Op 17 december 1925 verruilde Delhez Europa voor Zuid-Amerika en vestigde zich in Buenos Aires. Hij zou slechts sporadisch terug naar België komen. Tijdens de overtocht creëerde hij abstracte foto’s; een artistiek procedé dat hij enkele jaren bleef exploreren. Voor de Zuid-Amerikanen gold hij als één van de pioniers van de modernistische fotografie. In 1927 werd een reeks van abstracte en constructivistische schetsen en aquarellen tentoongesteld tijdens de door Seuphor georganiseerde Soirées de l’esprit nouveau in de Parijse galerij Au Sacre du Printemps. Delhez, op dat moment een doorgedreven modernistische kunstenaar, hield in die periode contact met Argentijnse avant-gardisten. Eind jaren 20 creëerde hij de Muzikales, een technisch hoogstaande reeks uitgevoerd met een toonburijn, waarbij hij met behulp van tussentonen een ongeëvenaarde diepte- en ruimtewerking realiseerde. Niet veel later begon Delhez expressieve figuratieve composities te ontwerpen op literaire thema’s en maakte zodanig een eind aan zijn eerste abstracte fase.

In 1959 reisde Delhez af naar Europa om er, na een verblijf in Italië, in Antwerpen onder meer deel te nemen aan de ophefmakende tentoonstelling De eerste abstrakten in België – Hulde aan de pioniers, ingericht door de G58-Hessenhuisgroep. Hoewel Delhez gedurende deze periode nog steeds fel gekant was tegen de moderne kunst, nam zijn belangstelling voor de abstractie – niet geheel ontoevallig – terug toe. Delhez werd namelijk in 1963 door Seuphor opgenomen in de catalogus De abstracte schilderkunst in Vlaanderen, het overzichtswerk van abstracte kunst in België.  Hoewel Delhez’ voorrang bij de eerste golf van abstractie moeilijk te bewijzen viel, speelde hij voor de tweede golf zeker een pioniersrol. Hij begon tijdens deze periode opnieuw abstracte werken te creëren, die hij onderwierp aan experimenten met kleur. In zijn meest experimentele gravures drukte Delhez verschillende kleurplaten over elkaar. Hiermee verkreeg hij een lyrisch abstract beeld, waarbij ook een druktechnische evolutie zichtbaar werd.
In al deze bewegingen rondom de abstractie zien we een verfijnde kunstenaar aan het werk die op een heel individuele manier uiting geeft aan zijn worsteling met de ideeën van de avant-garde. Ondanks zijn complexe verhouding met de abstractie, kan Delhez beschouwd worden als één van de meest begaafde modernistische grafici van de 20^ste eeuw.