Man kann beides theoretisch kombinieren. Ob sich das lohnt mit den Nachteilen (nicht plattformunabhängig, ...) ist eine Frage der Größe der Anwendung. Wenn sich die Oberflächenlogik in Grenzen hält, macht eher eine Umstellung auf FMX Sinn.
Wenn aber viele Formulare verwendet werden oder der Code schlecht von der Oberfläche getrennt ist (alles in den Formular-Units und direkt in den Eventhandlern, ...), macht es Sinn eine Kombination zu versuchen.
Eine 3D-Anzeige kannst du aber auch (selbst berechnet oder mit Drittbibliotheken) in einer
VCL-Anwendung machen...