Jetzt läufts endlich (Lokale KI auf Radeon Mi50)

Na endlich. Nach 2 defekten Mainboards läuft der Spass endlich. Ich bin fast verrückt geworden. Ich habe mir extra ein anderes Mainboard mit X570 Chipsatz gekauft, dies war defekt, also noch eins bestellt. Tja, auch kaputt.

Jetzt läuft alles auf meinem alten B550 Mainboard und es läuft endlich stabil. Keine Abstürze und bis zu 70t/s.

Wegen den Problemen mit dem Mainboard habe ich der Mi50 ein BIOS der Radeon V420 verpasst. Die Radeon V420 ist eine unveröffentlichte Prototyp-Karte von AMD. Mit diesem BIOS ist TDP auf 175W gesetzt, damit verliere ich etwas performance, aber das ist zu vernachlässigen.
Ich dachte das die Mi50 schuld an den Ausfällen der Mainboards ist. Aber das ist nicht so. Die Karte ist absolut in Ordnung. So habe ich jetzt aber ein Videoausgang an der Mi50 und kann mir die Radeon Pro WX4100 sparen.

Dank AMDs TheRock läuft die Mi50 mit ROCm 7.2.0 von Januar 2026. Normalerweise wäre ich auf einer viel älteren ROCm Version gefangen. Danke AMD!

Dank genug VRAM habe ich mich für Qwen3-Coder 30B entschieden. Ich kann noch auf 2 andere Modelle ausweichen (siehe Screenshot). Alle mit mehr als 25GB.

Jeh nachdem was man dem Modell so vor die Fresse wirft bewege ich mich so zwischen 35 – 71 T/s. Damit kann ich leben. Derzeit mache ich noch Experimente mit der Kontextgröße. 16k ist schon recht wenig. Da kümmere ich mich später drum.

Als Coding-Agent läuft Claude-Code. Bin da noch nicht so tief im Game das ich sagen könnte dass es geil ist oder auch nicht. Jedenfalls tut er was er soll und nutzt meinen Rechner lokal.

Dieses WE bin ich nicht zuhause. Muss Spülmaschine reparieren und son quatsch. Mit der Hilfe der KI bestimmt kein Problem xD

Nächster Schritt: Weiter optimieren. KI für Bild und Viedogenerierung hinzufügen. Egal über welchen Weg. Selbst wenn ich über Lemonade gehe, das ist mir nicht so wichtig. Kann von mir aus über Vulkan laufen.

Ach ja, zocken klappt auch. Bin überrascht über die Performance der Mi50 beim zocken xD

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert