Dahinter versteckt sich ein nettes Problemchen der Menschheit, wo schon seit Äonen unzählige Jahre an Forschung draufgegangen sind.
https://de.wikipedia.org/wiki/Verschnittplanung
Für dich wird wohl Bruteforce erstmal die einfache Lösung sein.
In deinem Fall gibt es nur eine "kleine" Menge an Pixeln, die du leicht halbwegs schnell durchprobieren kannst.
Imr TRect gibt es da bereits eine fertige Prüffunktion
TRect.Overlaps
Das ließe sich noch optimieren, denn im Prinzip brauchst erstmal nur im Raster von je einer ganzen Kantenlänge zu prüfen, ob dort nichts ist,
TRect.Contains /
PtInRect
und wenn nicht, dann nur noch im Umkreis der halben Kantenlänge schauen, ob es eine Stelle ohne Überschneidungen gibt.
TRect.Overlaps
Maximal in zwei Prüfungen/Durchläufen, falls du ebenfalls nochmals um 90% gedreht nachsehn willst.
Ansonsten gibt es zu dem kleinen Problemchen auch schon ein paar halbwegs nutzbare Lösungsansätze, von einfach bis extrem komplex und rechenintensiv.
Wenn ein festes Raster gegeben ist (z.B. 1 oder mehrere x Pixel) und die Rechtecke alle gleich groß oder ein kleineres Vielfaches des Rasters groß sind, dann kann es ganz einfach werden,
wobei Bruteforce auch dann immernoch extrem schnell sein kann.