EP26: Hvorfor lyver AI? Med Kåre Bjørn Jensen

Et entreprenørfirma spurgte en AI hvor meget en betonklods til vejafspærring vejer. Den svarede tredive kilo. Manden der spurgte, arbejder med de klodser hver dag og kunne selv se det var galt. Det var ikke fejlen der væltede noget for ham. Det var at han lige havde regnet med at kunne stole på alt det andet.

Kåre Bjørn Jensen er tilbage. Han var med i afsnit 23 om Copilot, som indtil videre er det mest lyttede afsnit vi har lavet, og han underviser til daglig i Copilot, ChatGPT og AI-sikkerhed.

I dette afsnit taler vi om hvorfor AI svarer forkert, hvad EU's nye regler

faktisk kræver af dig, og hvad man rent praktisk kan gøre for at fange fejlene i tide. Undervejs kommer vi omkring et Copilot-kursus på et sygehus, hvor sikkerheden var strammet så hårdt at systemet ikke ville udlevere en kageopskrift. En kommune der valgte AI-genererede billeder frem for at stille et kamera op foran en ældre borger i en sårbar situation. Og hvordan man kan tale sig udenom de regler en model er pakket ind i, bare ved at ændre måden man spørger på.

Kåre fortæller også om det unge selskab han er med i, som bygger noget der minder om en røgalarm til AI. Den er stille det meste af tiden, men giver besked hvis modellen flytter sig fra sin normale tilstand.

Om reglerne: EU's AI-forordning rulles ud i etaper. Med AI Omnibus, forordning (EU) 2026/1744, der trådte i kraft 27. juli 2026, er kravene til

højrisikosystemer efter bilag III udskudt til 2. december 2027. Det der trådte i kraft 2. august 2026 er blandt andet artikel 50 om gennemsigtighed:

oplysningspligt om at man taler med en AI, og mærkning af AI-genereret

indhold. GDPR og ophavsret gælder uændret, uanset om der er AI involveret.

Kapitler:

00:00 Velkommen og hvorfor Kåre er tilbage

01:46 Hvad er hallucinationer egentlig

04:07 Den svarede Margrethe 2. efter troneskiftet

06:37 Fra lukket træningsdata til modeller der slår op

09:33 Transformerne og hvad de ændrede

11:15 AI-slop og et ry der har taget skade

14:55 Nysgerrighed, faglighed og kritisk sans

16:12 Betonklodsen der vejede tredive kilo

17:45 Copilot på sygehuset ville ikke give en opskrift

19:44 Kontekst er det der afgør svaret

21:30 GDPR, ophavsret og de regler der er nye

23:19 Forudsigeligt eller fleksibelt, sortér i bunker

25:18 Gad vide hvem der laver flest fejl

26:59 Da kommunen valgte AI-billeder af hensyn til borgeren

30:34 Svindlere sætter ikke mærkat på

31:24 Sådan taler man sig udenom en models regler

36:01 Sikkerhedslag, brugerstyring og monitorering

38:07 En brandalarm til AI

41:28 Hvad er tokens

43:16 False positives og hvorfor de er farlige

46:54 Model routing og danske alternativer

50:31 Bed AI om at stille spørgsmål til dig

52:18 Opgaver der før slet ikke blev løst

54:06 Stol aldrig blindt på AI

55:55 Hvis det lugter af lort, er det nok lort

Kåre Bjørn Jensen på LinkedIn: linkedin.com/in/kaarebj

Følg AI Bros på Instagram @aibrosdk og TikTok @aibroes.

---------------------------------------------------------------