Det nye RTX 4090, Stable Diffusion og benchmarks

Steven Snedkers billede
Af Steven Snedker den 20. oktober 2022 - 10:54 [0]

Som alle raske drenge ønsker jeg mig et af de nye RTX 4090-kort . De er utrolig kraftfulde og kan sætte arbejdshastigheden på AI-illustrationer , speech-to-text, videokonvertering, 3D-arbejde og spil betydeligt op.

Men man skal af med 16.500 kroner for det billigste lige nu.

For hjemmebryggeren ser RTX 3060 m 12 GB vram ud til at være det bedste bud under 3.000 kroner - RTX 2060 med 12 gb ram, hvis man virkelig skal spare . Men glem DBA. Der sælger de næsten kun gamle kort med 6 eller 8 GB ram. Uegnede til andet end spil.

Nuvel.

Et RTX 3090 eller 4090 (begge 24 GB) kan give fine 512x512 Stable Difussion billeder på 2-5 sekunder pr. stk.

Et RTX 3060 med 12 GB vram  giver et fint 512x512 billede på 10-20 sekunder (alt efter indstillinger).

Det er stadig væsentligt hurtigere end uden GPU!

Hvis man, som jeg, har en nyere Ryzen 5-processor med indbygget grafik, tager det 10 minutter pr. billede (der dog med tweaking kan nærme sig de 3 minutter) .

Er der så alternativer til at have et 3.000-20.0000 kroners grafikkort i sin stationære?

Ja!

Hvis man fx. bare vil generere billeder uden varemærker eller bare bryster, kan man man for 75-225 kr. pr. måned købe sig til muligheden for at lave hundredevis af billeder på fx. Dreamstudio.ai eller Midjourney . Genereringstid på sekunder.

Og de store har købt grafikkort nok!

Dreamstudio blærede sig netop med:

29. juli 2022: 4000 A100.
19. oktober: 5408 A100.

Hvad er et A100, spørger du måske? Tja, det er et (grafik)kort til over 150.000 kroner , der får vores begærede RTX 4090 til at ligne en familiebil.

Google, Amazon, Oracle køber dem pt. i titusindevis . Der investeres milliarder af kroner.

Det er egentlig ikke så dumt igen.

Private grafikkort bliver  - ligesom private biler - nok  kun vil blive udnyttet 1-10%. I modsætning hertil bliver grafikkortene i de store datacentre formentlig udnyttet 80% eller bedre -  og overskudsvarmen fra de hede processer vil måske endda kunne opvarme nogle husstande .

Så måske skal man slå koldt vand i blodet, og se om ikke det er billigere og hurtigere, at leje sig ind på nogle andre menneskers større maskiner med sine jobs.

Opdatering 2024: På den anden side er grafikkort ikke så dyre.

Tilføj kommentar

Ja, dette er et dumt spørgsmål med et nemt svar, men det er der kun fordi spam-robotter er for dumme til at besvare den slags, mens mennesker ikke er.
👍

Log ind eller registrer dig for at lægge langtidsholdbare, konstruktive kommentarer.
Registrerede brugere får bedre editor og flere likes.