Bedste, billige grafikkort til AI lige nu
![Gud, hvor er du smuk! Steven Snedkers billede](https://internetforbrugeren.dk/sites/default/files/styles/oqipo_profile/public/pictures/picture-2-1602589734.png?itok=NtNtbPz9)
Et AI-venligt grafikkort vil samtidig være godt til spil, 3D, video-redigering og -konvertering.
Et AI-venligt grafikkort vil samtidig være godt til spil, 3D, video-redigering og -konvertering.
Hvis man har tænkt sig at
- generere billeder(link is external) (text-to-image)
- transkribere lyd(link is external) (speech-to-text)
- køre en bot(link is external) (LLM)
- redigere video/3D eller spille
har man brug for et solidt grafikkort. Især et med en masse RAM.
Alt AI går 20-200 gange hurtigere med et godt grafikkort med masser af hukommelse(link is external).
Derfor skal man kigge på Pricerunner efter
Det giver i skrivende stund nogle
- 3060'ere til 2.300 kroner (lidt lavere end en del brugtpriser(link is external))
- 4060 ti'er til 3.800 kroner
- 4090'ere til 15.000 kroner
Dysten står altså pt. mellem 3060 og 4060 ti.
I gamle dage, hvor man kun brugte grafikmuskler til spil, videoredigering og 3D-konstruktion, kunne man købe ud fra simple UserBenchmarks á la 4060 ti vs 3060(link is external).
Men med hukommelsessulten AI bør man søge efter 3060 vs 4060 ti stable diffusion(link is external) for at finde tests fra virkeligheden, der på sekundet viser hvor hurtige de forskellige kort er til at løse realistiske opgaver. GeForce RTX 4060 Ti 16G - The Best Value Graphics Card for Stable Diffusion XL(link is external) er et prima eksempel på en god test fra virkeligheden.
Skal man helt sikkert kun bruge kortet til transskription med Whisper(link is external), kan det endda være relevant at kigge på særlige undersøgelser af Whisper-hastighed(link is external).
Men groft sagt er Stable Diffusion benchmarks ganske sigende for et korts evner udi omtrent alle AI-discipliner.
Hvor hurtigt går det så?«
I gamle dage, efteråret 2022, tog det et 3060-kort 10 sekunder at generere et simpelt 512x512-billede.
I efteråret 2023 sker det øjeblikkeligt, mens man skriver(link is external).
Fordi der er blevet sat turbo på softwaren(link is external).
Køber man et gammelt, billigt 3060-kort, er man altså ikke nødvendigvis ubehjælpeligt bagud. Software optimeres løbende og meget af det kører i dag hurtigere på små og gamle kort, end for et år siden(link is external). Billige 3060'ere og 4060 ti'ere burde altså have flere gode år i sig.
Hvad er fordelene og ulemperne ved at køre lokalt?«
Hvis man bare skal have transskriberet en tekst, genereret eller beskrevet et billede eller redigeret en video/3D-figur i ny og næ, er der ingen grund til at købe et stærkt grafikkort med masser af hukommelse.
Der er det langt billigere at bruge de gratis eller billige tjenester. Med 4 kr. pr. time eller 70 kr. pr. måned tager det noget tid at nå 2.300 kroner og man slipper for at bruge timer på kompliceret installation.
Vor lokale kunstner, Niels Søndergaard, manden bag det visuelle ordspil Metaltræthed, der ses her, laver det meste af arbejdet online på tjenester som Leonardo(link is external). Så slipper han for at bøvle med grafikdrivere, støj under arbejdet og de utallige opdateringer, der næsten hver dag ankommer og lover forbedret kvalitet og arbejdsgang.
Men transskriberer man tv-optagelser og podcasts i massevis(link is external), er Googles 10 kr. pr. time(link is external) og Gladias 4 kr. pr. time(link is external) horrible sammenlignet med Whispers 20 øre strøm pr. time(link is external). Skal der laves meget arbejde, får man typisk lavere priser og bedre kontrol over arbejdsgangene med en lokal løsning(link is external).
Vil man bruge AI til forbudte/frække ting - tænk hadtaler, porno og varemærker - bliver man også nødt til selv at installere og tune. Der er mange og oftest mystisk fungerende fy-filtre på de store firmaers AI-tjenester.
Så lokal kunstig intelligens er kun til nørder, trolde og folk med behov for billig stordrift.
Log ind eller registrer dig for at lægge langtidsholdbare, konstruktive kommentarer.
Registrerede brugere får bedre editor og flere likes.
Tilføj kommentar