Hvor farlig er AI?

Spørg ikke mig. Jeg læste en fortrinlig bog ⟲ i forrige årtusinde (Benny er certificeret sej ⟲) og har fulgt med Sam Harris siden 2017 ⟲ (han begyndte på emnet i 2016 ⟲).

Nuvel.

Lige nu vil jeg karakterisere mig selv som en stor AI-entusiast ⟲ og småbævende Tjernobyller ⟲. En af de, der rigtig gode grunde frygter at slemme mennesker og selvforstærkende teknologi pludselig løber løbsk.

Jon Stokes har skrevet en lidt for lang, men stadig læsværdig artikel om hvor folk plotter sig selv in på AI-angstskalaen. Han ser, ret korrekt, at folk gerne vil behandle problemet som var det politik og kulturkamp og forklarer også hvorfor det ikke er så let.

AI Safety: A Technical & Ethnographic Overview ⟲ er god at læse.

Farvel til viden

Fysiker Benny Lautrup har fået Alzheimers. Langsomt, men stædigt æder sygdommen den skarphed, der gjorde ham til professor. Den fattige dreng fra Istedgade, der endte som anerkendt forsker, er dog vant til at holde sig oprejst, når jorden ryster under ham.

Making Sense of Artificial Intelligence

Episode 1 of The Essential Sam Harris

Can we build AI without losing control over it? | Sam Harris

Scared of superintelligent AI? You should be, says neuroscientist and philosopher Sam Harris -- and not just in some theoretical way. We're going to build su...

AI Safety: A Technical & Ethnographic Overview

Despite the dry title, this is the spiciest thing I have published in this newsletter. Have a glass of milk handy when you read it.