GetNetxWindow ist, so viel ich weiß, nur für TopLevel Fenster geeignet und selbst da nicht sehr zuverlässig.
EnumChildWindows wird der einzig gehbare Weg sein denke. Wenn sich die Dialoge nur in den Childfenstern unterscheiden, ist das aber auch mit entsprechendem Aufwand verbunden.
Was hast du denn vor? Eventuell gibt es einen anderen Weg. Warum musst du die Dialoge Identifizieren?
Da fällt mir noch was ein. Kuck doch mal mit einem Tool, ob du nicht ein einzigartige Fenster findest, dannkannst du gezielt kucken, ob es da ist oder nicht und dann den Dialog identifizieren. Ein mögliches Tool wäre von mir WindowInfo ->
http://downloads.luckie-online.de