Das ist eine XFX 5770 mit dem Standardlüfter. Habe noch ein wenig gegooglet, wie es aussieht haben andere das Problem auch (unter Windows). Eine Software zur Lüfterregelung habe ich bisher für OSX nicht gefunden, zumindest keine für diese Karte.
Werde mir wohl einen Austauschlüfter besorgen müssen.
Die Linux Live Distro (Ubuntu 12.10 Install DVD) hatte ich übrigens schon versucht. Damit ist es noch schlimmer