Ich habe "nur" die älteren Versionen des Driverboard mit 2DP, 2 HDMI + 1 MST kann also zu Deinen "neuen" Driverboard nicht viel sagen.
Heute verwende ich meine beiden DIY Monitore an meiner RX580 an den beiden DP Ports mit 2 DP Kabeln und am Monitor auf Dual DP gestellt, das Funktioniert super auch mit Windows 10 und den AMD Treibern. Den 2. Monitor habe ich mit einem HDMI Kabel mit UHD Auflösung z.B. zum YouTube nebenbei schauen etc.
Jetzt aber zu Deiner Konfiguration, eigentlich sollte es bei Dir ja mit einem "geeigneten" TB Kabel gehen das hilft Dir jetzt aber nicht wenn Du nicht weißt welches "geeignet" ist
Aber ich kann Dir meine Erfahrungen in meiner Konfiguration sagen, ich habe als ich noch mein MacBook Pro 13" von 2018 hatte den Thunderbolt 3 to Dual DisplayPort Splitter von ICY BOX am MacBook und die beiden DP Kabeln am Driverboard, das hat sehr gut in 5K Funktioniert. Das Bild war eigentlich nicht von meinem "echten" iMAC 27" mit 5K zu unterscheiden.
Was nicht funktionierte an meinem "alten" Driverboard war das sau teure moshi Kabel USB-C to DisplayPort Cable. Aber das ist an meinem Driverboard gelegen weil dieses für 5K eben 2 DP Ports braucht.
Du könntest den Splitter Testen (wenn Du zu einem vernünftigen Preis einen bekommst die sind irgendwie auch Mangelware teilweise kann es aber auch ein Splitter von einem anderen Hersteller sein. Das wäre nat. keine "schöne" Lösung weil es sollte ja mit einem Kabel bei Dir gehen. Aber zum Test ...
Auf der Software Seite kannst Du das SwitchRes testen wie von Arstidir vorgeschlagen, ich hatte das Mitte 2019 mit dem ersten DriverBoard kurz in Verwendung da mein DriverBoard noch ein URALT Bios hatte und man in den Monitor Einstellungen kein DUAL DP Einstellen konnte
Mit SwitchRes und einem DP Kabel mit 5K bin ich damals auf knapp 47 Hz gekommen ohne Lüfter wurde das Driverboard jedoch zu warm das Bild viel teilweise aus. Mit Lüfter ist es dann auch Stundenlang gegangen. Ich bin aber Froh das ich ohne SwitchRes usw. auskomme da es bei mir das DriverBoard belastete da ich es ausserhalb den Spezifikationen betrieben hatte. Mit 1 DP und 5K.
Mehr kann ich Dir leider jetzt zu Deiner Konstellation nicht sagen.