Det nye RTX 4090, Stable Diffusion og benchmarks
Som alle raske drenge ønsker jeg mig et af de nye RTX 4090-kort ⟲. De er utrolig kraftfulde ⟲ og kan sætte arbejdshastigheden på AI-illustrationer ⟲, speech-to-text, videokonvertering, 3D-arbejde og spil betydeligt op.
Men man skal af med 16.500 kroner ⟲ for det billigste lige nu.
For hjemmebryggeren ser RTX 3060 m 12 GB vram ud til at være det bedste bud under 3.000 kroner ⟲ - RTX 2060 med 12 gb ram, hvis man virkelig skal spare ⟲. Men glem DBA. Der sælger de næsten kun gamle kort med 6 eller 8 GB ram. Uegnede til andet end spil.
Nuvel.
Et RTX 3090 eller 4090 (begge 24 GB) kan give fine 512x512 Stable Difussion billeder på 2-5 sekunder ⟲ pr. stk.
Et RTX 3060 med 12 GB vram giver et fint 512x512 billede på 10-20 sekunder ⟲ (alt efter indstillinger).
Det er stadig væsentligt hurtigere end uden GPU!
Hvis man, som jeg, har en nyere Ryzen 5-processor med indbygget grafik, tager det 10 minutter pr. billede (der dog med tweaking kan nærme sig de 3 minutter) ⟲.
Er der så alternativer til at have et 3.000-20.0000 kroners grafikkort i sin stationære?
Ja!
Hvis man fx. bare vil generere billeder uden varemærker eller bare bryster, kan man man for 75-225 kr. pr. måned købe sig til muligheden for at lave hundredevis af billeder på fx. Dreamstudio.ai ⟲ eller Midjourney ⟲ . Genereringstid på sekunder.
Og de store har købt grafikkort nok!
Dreamstudio blærede sig netop med:
29. juli 2022: 4000 A100.
19. oktober: 5408 A100. ⟲
Hvad er et A100, spørger du måske? Tja, det er et (grafik)kort til over 150.000 kroner ⟲, der får vores begærede RTX 4090 til at ligne en familiebil.
Google, Amazon, Oracle køber dem pt. i titusindevis ⟲. Der investeres milliarder af kroner.
Det er egentlig ikke så dumt igen.
Private grafikkort bliver - ligesom private biler - nok kun vil blive udnyttet 1-10%. I modsætning hertil bliver grafikkortene i de store datacentre formentlig udnyttet 80% eller bedre - og overskudsvarmen fra de hede processer vil måske endda kunne opvarme nogle husstande ⟲.
Så måske skal man slå koldt vand i blodet, og se om ikke det er billigere og hurtigere, at leje sig ind på nogle andre menneskers større maskiner ⟲ med sine jobs.
Opdatering 2024: På den anden side er grafikkort ikke så dyre.
Log ind eller registrer dig for at lægge langtidsholdbare, konstruktive kommentarer.
Registrerede brugere får bedre editor og flere likes.
Tilføj kommentar