Ach. Das ist gar nicht so kompliziert wie das alles klingt.
Ganz normale Standard-Monitore tun es locker. Ich habe von Asus 3 24" 60Hz 5ms mit VGA, DVI, und HDMI-Anschluss. Wobei ich aber nur den DVI nutze.
Die Asus GTX 980 Strix (https://www.asus.com/Graphics-Cards/
STRIXGTX980DC2OC4GD5/) hat genug Anschlüsse. Einen Monitor habe ich direkt am DVI, einen per Adapter HDMI -> DVI und den letzten dann per Adapter Display Port -> DVI. Läuft ganz gut und bis jetzt ohne Probleme.
Was mir allerdings Sorgen macht an deinem PC Bastian, ist die Leistung. Je nach Spiel läuft meine GTX 980 am Anschlag. Und dann so am Anschlag dass es ruckelt. Da hilft dann nur Details runter oder ne 2. Grafikkarte einbauen, was ich aber nicht will (Mikroruckeln).
Auch dein CPU ist nicht mehr gerade aktuell. Ich selber habe zwar auch nur einen i5 3570k mit 4x3.4GHz (3.8GHz Turbo). Mit dem ging bis jetzt eigentlich alles. Es wäre also ein Ausprobieren bei dir. Aber die Grafikkarte ist definitiv zu schwach. Das Ding ist ja steinalt aus heutiger Sicht. Im Ein-Monitor-Betrieb für GTL sicher mehr als ausreichend. Wenn du damit aber 3 Monitore befeuern willst erlebst du dein blaues Wunder.
Du kannst davon ausgehen dass wenn du auf 3 Monitoren spielst du nur noch die Hälfte der FPS hast. Kann aber je nach Hardware ein wenig schwanken.
RAM ist völlig ausreichend. Bei mir sind auch 16GB verbaut. 8 würden eigentlich reichen. Aber je mehr desto besser
Die Tripple-Monitor-Funktion unterstützen eigentlich alle aktuellen Grafikkarten. Bei älteren Modellen müsstest du erst prüfen ob das geht. In deinem Fall würde ich aber mindestens die Grafikkarte erneuern bevor ich auf 3 Monitore ginge. Ob du dabei bei AMD bleibst oder zu Nvidia wechselst ist dir überlassen. Das ist Geschmacksache. Von der Leistung her nehmen die sich nicht wirklich viel.
Edit: Hier noch ein Video in dem schön erklärt wird wie das geht.
https://www.youtube.com/watch?v=0RW_Epm0aGA (Es geht auch mit einem aktiven HDMI -> irgendwas. Wurde im Video nicht erwähnt.)
Gruss Reto