Det nye RTX 4090, Stable Diffusion og benchmarks

Steven Snedkers billede
Af Steven Snedker den 20. oktober 2022 - 10:54 [0]

Som alle raske drenge ønsker jeg mig et af de nye RTX 4090-kort. De er utrolig kraftfulde og kan sætte arbejdshastigheden på AI-illustrationer, speech-to-text, videokonvertering, 3D-arbejde og spil betydeligt op.

Men man skal af med 16.500 kroner for det billigste lige nu.

For hjemmebryggeren ser RTX 3060 m 12 GB vram ud til at være det bedste bud under 3.000 kroner - RTX 2060 med 12 gb ram, hvis man virkelig skal spare. Men glem DBA. Der sælger de næsten kun gamle kort med 6 eller 8 GB ram. Uegnede til andet end spil.

Nuvel.

Et RTX 3090 eller 4090 (begge 24 GB) kan give fine 512x512 Stable Difussion billeder på 2-5 sekunder pr. stk.

Et RTX 3060 med 12 GB vram  giver et fint 512x512 billede på 10-20 sekunder (alt efter indstillinger).

Det er stadig væsentligt hurtigere end uden GPU!

Hvis man, som jeg, har en nyere Ryzen 5-processor med indbygget grafik, tager det 10 minutter pr. billede (der dog med tweaking kan nærme sig de 3 minutter).

Er der så alternativer til at have et 3.000-20.0000 kroners grafikkort i sin stationære?

Ja!

Hvis man fx. bare vil generere billeder uden varemærker eller bare bryster, kan man man for 75-225 kr. pr. måned købe sig til muligheden for at lave hundredevis af billeder på fx. Dreamstudio.ai eller Midjourney . Genereringstid på sekunder.

Og de store har købt grafikkort nok!

Dreamstudio blærede sig netop med:

29. juli 2022: 4000 A100.
19. oktober: 5408 A100.

Hvad er et A100, spørger du måske? Tja, det er et (grafik)kort til over 150.000 kroner, der får vores begærede RTX 4090 til at ligne en familiebil.

Google, Amazon, Oracle køber dem pt. i titusindevis. Der investeres milliarder af kroner.

Det er egentlig ikke så dumt igen.

Private grafikkort bliver  - ligesom private biler - nok  kun vil blive udnyttet 1-10%. I modsætning hertil bliver grafikkortene i de store datacentre formentlig udnyttet 80% eller bedre -  og overskudsvarmen fra de hede processer vil måske endda kunne opvarme nogle husstande.

Så måske skal man slå koldt vand i blodet, og se om ikke det er billigere og hurtigere, at leje sig ind på nogle andre menneskers større maskiner med sine jobs.

Tilføj kommentar

Ja, dette er et dumt spørgsmål med et nemt svar, men det er der kun fordi spam-robotter er for dumme til at besvare den slags, mens mennesker ikke er.
👍

Log ind eller registrer dig for at lægge langtidsholdbare, konstruktive kommentarer.
Registrerede brugere får bedre editor og flere likes.