Det nye RTX 4090, Stable Diffusion og benchmarks

Som alle raske drenge ønsker jeg mig et af de nye RTX 4090-kort(link is external). De er utrolig kraftfulde(link is external) og kan sætte arbejdshastigheden på AI-illustrationer(link is external), speech-to-text, videokonvertering, 3D-arbejde og spil betydeligt op.
Men man skal af med 16.500 kroner(link is external) for det billigste lige nu.
For hjemmebryggeren ser RTX 3060 m 12 GB vram ud til at være det bedste bud under 3.000 kroner(link is external) - RTX 2060 med 12 gb ram, hvis man virkelig skal spare(link is external). Men glem DBA. Der sælger de næsten kun gamle kort med 6 eller 8 GB ram. Uegnede til andet end spil.
Nuvel.
Et RTX 3090 eller 4090 (begge 24 GB) kan give fine 512x512 Stable Difussion billeder på 2-5 sekunder(link is external) pr. stk.
Et RTX 3060 med 12 GB vram giver et fint 512x512 billede på 10-20 sekunder(link is external) (alt efter indstillinger).
Det er stadig væsentligt hurtigere end uden GPU!
Hvis man, som jeg, har en nyere Ryzen 5-processor med indbygget grafik, tager det 10 minutter pr. billede (der dog med tweaking kan nærme sig de 3 minutter)(link is external).
Er der så alternativer til at have et 3.000-20.0000 kroners grafikkort i sin stationære?
Ja!
Hvis man fx. bare vil generere billeder uden varemærker eller bare bryster, kan man man for 75-225 kr. pr. måned købe sig til muligheden for at lave hundredevis af billeder på fx. Dreamstudio.ai(link is external) eller Midjourney(link is external) . Genereringstid på sekunder.
Og de store har købt grafikkort nok!
Dreamstudio blærede sig netop med:
29. juli 2022: 4000 A100.
19. oktober: 5408 A100.(link is external)
Hvad er et A100, spørger du måske? Tja, det er et (grafik)kort til over 150.000 kroner(link is external), der får vores begærede RTX 4090 til at ligne en familiebil.
Google, Amazon, Oracle køber dem pt. i titusindevis(link is external). Der investeres milliarder af kroner.
Det er egentlig ikke så dumt igen.
Private grafikkort bliver - ligesom private biler - nok kun vil blive udnyttet 1-10%. I modsætning hertil bliver grafikkortene i de store datacentre formentlig udnyttet 80% eller bedre - og overskudsvarmen fra de hede processer vil måske endda kunne opvarme nogle husstande(link is external).
Så måske skal man slå koldt vand i blodet, og se om ikke det er billigere og hurtigere, at leje sig ind på nogle andre menneskers større maskiner(link is external) med sine jobs.
Opdatering 2024: På den anden side er grafikkort ikke så dyre.
Log ind eller registrer dig for at lægge langtidsholdbare, konstruktive kommentarer.
Registrerede brugere får bedre editor og flere likes.
Tilføj kommentar