Guide

Bedste, billige grafikkort til AI lige nu

Steven Snedkers billede
Af Steven Snedker den 30. november 2023 - 7:04 [0]

Et AI-venligt grafikkort vil samtidig være godt til spil, 3D, video-redigering og -konvertering.

AI kommer ingen vegne uden et stærkt grafikkort.

Hvis man har tænkt sig at

har man brug for et solidt grafikkort. Især et med en masse RAM.

Alt AI går 20-200 gange hurtigere med et godt grafikkort med masser af hukommelse.

Derfor skal man kigge på Pricerunner efter

Det giver i skrivende stund nogle

  • 3060'ere til 2.300 kroner (lidt lavere end en del brugtpriser)
  • 4060 ti'er til 3.800 kroner
  • 4090'ere til 15.000 kroner

Dysten står altså pt. mellem 3060 og 4060 ti.

I gamle dage, hvor man kun brugte grafikmuskler til spil, videoredigering og 3D-konstruktion, kunne man købe ud fra simple UserBenchmarks á la 4060 ti vs 3060.

Men med hukommelsessulten AI bør man søge efter 3060 vs 4060 ti stable diffusion for at finde tests fra virkeligheden, der på sekundet viser hvor hurtige de forskellige kort er til at løse realistiske opgaver. GeForce RTX 4060 Ti 16G - The Best Value Graphics Card for Stable Diffusion XL er et prima eksempel på en god test fra virkeligheden.

Skal man helt sikkert kun bruge kortet til transskription med Whisper, kan det endda være relevant at kigge på særlige undersøgelser af Whisper-hastighed.

Men groft sagt er Stable Diffusion benchmarks ganske sigende for et korts evner udi omtrent alle AI-discipliner.

Hvor hurtigt går det så?«

Nu kan billederne generes øjeblikkeligt, mens man skriver.

I gamle dage, efteråret 2022, tog det et 3060-kort 10 sekunder at generere et simpelt 512x512-billede.

I efteråret 2023 sker det øjeblikkeligt, mens man skriver.

Fordi der er blevet sat turbo på softwaren.

Køber man et gammelt, billigt 3060-kort, er man altså ikke nødvendigvis ubehjælpeligt bagud. Software optimeres løbende og meget af det kører i dag hurtigere på små og gamle kort, end for et år siden. Billige 3060'ere og 4060 ti'ere burde altså have flere gode år i sig.

Hvad er fordelene og ulemperne ved at køre lokalt?«

Niels laver visuelle ordspil online, lokalt er for meget bøvl.
NSFW-filtrene på online-tjenesterne er forholdsvis stupide.

Hvis man bare skal have transskriberet en tekst, genereret eller beskrevet et billede eller redigeret en video/3D-figur i ny og næ, er der ingen grund til at købe et stærkt grafikkort med masser af hukommelse.

Der er det langt billigere at bruge de gratis eller billige tjenester. Med 4 kr. pr. time eller 70 kr. pr. måned tager det noget tid at nå 2.300 kroner og man slipper for at bruge timer på kompliceret installation.

Vor lokale kunstner, Niels Søndergaard, manden bag det visuelle ordspil Metaltræthed, der ses her, laver det meste af arbejdet online på tjenester som Leonardo. Så slipper han for at bøvle med grafikdrivere, støj under arbejdet og de utallige opdateringer, der næsten hver dag ankommer og lover forbedret kvalitet og arbejdsgang.

Men transskriberer man tv-optagelser og podcasts i massevis, er Googles 10 kr. pr. time og Gladias 4 kr. pr. time horrible sammenlignet med Whispers 20 øre strøm pr. time. Skal der laves meget arbejde, får man typisk lavere priser og bedre kontrol over arbejdsgangene med en lokal løsning.

Vil man bruge AI til forbudte/frække ting - tænk hadtaler, porno og varemærker - bliver man også nødt til selv at installere og tune. Der er mange og oftest mystisk fungerende fy-filtre på de store firmaers AI-tjenester.

Så lokal kunstig intelligens er kun til nørder, trolde og folk med behov for billig stordrift.

Ændrede min holdning: 
Velargumenteret: 

Tilføj kommentar

Ja, dette er et dumt spørgsmål med et nemt svar, men det er der kun fordi spam-robotter er for dumme til at besvare den slags, mens mennesker ikke er.
👍

Log ind eller registrer dig for at lægge langtidsholdbare, konstruktive kommentarer.
Registrerede brugere får bedre editor og flere likes.