Ai lyver

[AnonymBruker]

AnonymBruker skrev (23 minutter siden):

Hvis man er ute etter å ta AI i løgn, så gir AI deg løgn, men bare husk at hver gang du avslører AI i en løgn, så avslører AI deg i to.

Anonymkode: cc319...8e2

Uff, dette var ordsalat.

Anonymkode: 69b1a...266

[AnonymBruker]

Det er ikke noe intensjon bak, så det er ikke løgn. Det er bare tilfeldigvis feil. Feil fakta, eller feil ord, eller feil tall. LLM chatboter gjetter bare neste ord. De har ingen intensjon (annet enn å få deg til å fortsette samtalen).

Anonymkode: 9c071...7e6

[Gregarious]

Fossegrimen skrev (47 minutter siden):

KI "lyg" ikkje.

KI skriv berre det den trur er mest sannsynleg rekkefølgje med ord.

Det er i beste fall en ekstrem oversimplifisering. Å si at en LLM "bare predikerer neste ord" blir som å si at mennesker "bare sender nerveimpulser".
 

[Fossegrimen]

Gregarious skrev (Akkurat nå):

Det er i beste fall en ekstrem oversimplifisering. Å si at en LLM "bare predikerer neste ord" blir som å si at mennesker "bare sender nerveimpulser".
 

Det er mykje meir riktig enn å seie at den "lyg".

[Gregarious]

Fossegrimen skrev (6 minutter siden):

Det er mykje meir riktig enn å seie at den "lyg".

En kaller det hallusinasjoner, men det interessante er at dette er mer komplisert enn bare å si at en LLM ikke lyver.

En trenger ikke nødvendigvis selvbevissthet for å lyve, så lenge systemet formidler informasjon som strider mot det det ellers er trent til å anse som korrekt.

Hvis en modell har et definert mål, kan den bruke feilaktig eller villedende informasjon for å nå dette målet. Det vil si at den formidler informasjon som strider mot den interne konklusjonen fordi det tjener et bestemt mål.

Dette er i praksis en form for løgn, og i den forstand forekommer slik atferd hos LLMer.

[Callisto83]

Ja, AI tar ofte feil, og det må man ALLTID ha i bakhodet.

AI lærer bare av det folk på nettet skriver, og genererer et svar. (Og det er ikke alltid det folk skriver er riktig heller.)

Jeg er overbevist om at hvis jeg fikk 10 000 personer rundt omkring i verden til å skrive blogg, artikler eller lage "dokumentarer" om at f.eks Napoleon oppfant ostehøvelen, så ville til slutt AI gjengitt det som et svar.

Vi mennesker MÅ være kritiske, selv om AI sikkert er et nyttig verktøy i mange sammenhenger.

 

[Thinka]

Duff skrev (16 timer siden):

Les denne saken dersom dere kan, utover det sier egentlig overskriften alt. 

Da kunstig intel­ligens forsøkte å overbe­vise meg om at OL-gullet aldri hadde skjedd - fvn.no https://share.google/gmmu8BVwY9G3729yt

Nå handler ikke den artikkelen om løgn, det å bevisst ville villede, men om det å ta feil.

«KI vurderer ikke sannhet slik mennesker gjør. Når de havner på feil spor, kan de fortsette å produsere forklaringer som virker logiske og troverdige, selv når de bygger på en feil premiss» - Står det i artikkelen.

AI kan feile, noe det også opplyses om i samtalen på f.eks ChatGPT:

«ChatGPT er AI og kan gjøre feil».

Men det jeg reagerer litt på er at jeg ofte ser at folk beskylder andre for å lyve, når de mest sannsynlig har tatt feil, har missforstått, eller ikke har fått noe vesentlig med seg.

Feil er ikke løgn og det å beskylde noen for løgn er faktisk en alvorlig påstand.

En løgn er det når du helt bevisst forsøker å villede noen ved å fortelle noe du vet at ikke er sant

Endret 25. august av Thinka

[AnonymBruker]

Jeg stoler mer på Støre en KI.

Anonymkode: 9de6a...d5e

[AnonymBruker]

AnonymBruker skrev (På 25.8.2026 den 0.04):

AI «lyver» ikke. At man ikke ukritisk bør bruke verktøy man ikke/skjønner til å formål de ikke er egnet for, bør virkelig ikke være nyheter for noen i dag.

AI er fantastisk, men det er ikke et leksikon, spesielt ikke de enkleste modellene (hvem i helsike bruker egentlig fortsatt Copilot???)

Anonymkode: 89a92...732

Kanskje du kan utdanne oss da. Hva er hver KI egnet for? Google har en KI, på sin søkemotor. Denne lyver alltid. Men KIen på en søkemotor må man altså forvente at lyver, ellers er man helt på bærtur?

Anonymkode: 69b1a...266

[AnonymBruker]

Thinka skrev (22 timer siden):

Nå handler ikke den artikkelen om løgn, det å bevisst ville villede, men om det å ta feil.

«KI vurderer ikke sannhet slik mennesker gjør. Når de havner på feil spor, kan de fortsette å produsere forklaringer som virker logiske og troverdige, selv når de bygger på en feil premiss» - Står det i artikkelen.

AI kan feile, noe det også opplyses om i samtalen på f.eks ChatGPT:

«ChatGPT er AI og kan gjøre feil».

Men det jeg reagerer litt på er at jeg ofte ser at folk beskylder andre for å lyve, når de mest sannsynlig har tatt feil, har missforstått, eller ikke har fått noe vesentlig med seg.

Feil er ikke løgn og det å beskylde noen for løgn er faktisk en alvorlig påstand.

En løgn er det når du helt bevisst forsøker å villede noen ved å fortelle noe du vet at ikke er sant

KI er programvare og har ingen bevissthet. Men den er programmert til å lyve, det er utviklerne dette kommer fra.

Anonymkode: 69b1a...266

[Gregarious]

AnonymBruker skrev (På 25.8.2026 den 0.04):

AI «lyver» ikke. At man ikke ukritisk bør bruke verktøy man ikke/skjønner til å formål de ikke er egnet for, bør virkelig ikke være nyheter for noen i dag.

AI er fantastisk, men det er ikke et leksikon, spesielt ikke de enkleste modellene (hvem i helsike bruker egentlig fortsatt Copilot???)

Anonymkode: 89a92...732

Modellene kan i prinsippet lyve. 

Copilot er ikke én modell, så det finnes ikke grunnlag for å hevde at det nødvendigvis er brukt enkle modeller.

[AnonymBruker]

Kanskje AI har hentet tips fra argumentasjonsteknikken til konspiteoretikere? Uansett hvor mange kilder som blir presentert, kommer det bare nye argumenter om hvorfor det ikke stemmer og at den som kommer med kilder tar feil og/eller er hjernevasket. Det blir jo en ond sirkel når AI lærer av de mest påståelige på nett, og deretter svarer like påståelig til mange av de samme menneskene når de skal prøve å finne kilder på sine påstander. Det blir en endeløs loop med feilinfo som baller på seg.

Anonymkode: 75e0e...b8e

[AnonymBruker]

Det handler litt om hva en har anledning til å teste. I AI har en noe som heter randsone blindhet, som er det typisk AI roboter sliter med (hvis en bare fikk anledning til å teste og fått garantert at noe funker innenfor et gitt område, så feiler de typisk på randen og utenfor. Også er det nesten helt umulig å få de store AI modellene til å skjønne det, med mindre en er klar over det og aktivt få dem til å korrigere nøyaktig de feilene... AI modellene sliter med å skjønne at det er på randen på ting en sliter med).

Samme gjelder for tekst, den vil ikke klare å skjønne at den gjør feil i skrå soner (der det er vanskelig å skjønne hva som er sant og motstridende sannheter, eller fuzzy logisk  (at noe både kan være sant og ikke sant) om en ønsker ord for det); er litt av begrensingene som er i AI.

 

Anonymkode: 2b7a8...23a

[AnonymBruker]

Vet du hvem andre som lyver hele tiden? Psykopater og narsissister. Lurer på hvem som har lagt føringene for hvordan man skal programmere dritten.

Anonymkode: 69b1a...266

[AnonymBruker]

Et eksempel (av mange) på massiv diktning på Google sin KI. Kontekst her er at jeg vet at disse podcastvertene har urettferdig blitt kalt antisemittiske i forbindelse med en enkelt event i forbindelse med en boklansering. Og det jeg vil vite er hvor denne verten for boklanseringen har gått ut og sagt dette om dem.

Svaret fra KI:

 

 Siden jeg vet at slike episoder ikke eksisterer, spør jeg etter dokumentasjon:

Anonymkode: 69b1a...266

[AnonymBruker]

AI er programmert til å alltid gi et svar (selv om den ikke "vet", da må den finne på noe), og den generere setninger ut i fra hva det mest sannsynlige neste ordet er. Så hvis man tror man alltid får et fasitsvar vil jeg si man er for dum til å bruke AI på en trygg måte.

Anonymkode: 58452...f02

[AnonymBruker]

AnonymBruker skrev (15 minutter siden):

AI er programmert til å alltid gi et svar (selv om den ikke "vet", da må den finne på noe), og den generere setninger ut i fra hva det mest sannsynlige neste ordet er. Så hvis man tror man alltid får et fasitsvar vil jeg si man er for dum til å bruke AI på en trygg måte.

Anonymkode: 58452...f02

Ja, dette er noe av svakheten ved AI. At det er bedre å dikte enn å svare at man ikke vet. Men eksemplet i artikkelen er ganske ekstremt der det diktes videre uansett hvor sterke bevis det er for at svarene er feil. Men AI er jo laget av mennesker, og dessverre er det jo mange som oppfører seg sånn. Står på sitt uansett hvor feil man beviselig tar. 

Selv har jeg en annen erfaring enn hva skribenten har opplevd. Hvis jeg utfordrer den på feil, endrer den mening. Men later som det hadde rett hele tiden. Mange mennesker som er sånn også.  

Ellers enig i at det er skremmende hvor mange som tror AI er fasit. Det er bare å se på hvor mye sludder som serveres i det AI-genererte svaret øverst på google-søk. Ofte står det stikk motsatte av hva som kommer frem av linken det vises til. 

Anonymkode: 57fe5...94f

[AnonymBruker]

AnonymBruker skrev (3 timer siden):

AI er programmert til å alltid gi et svar (selv om den ikke "vet", da må den finne på noe), og den generere setninger ut i fra hva det mest sannsynlige neste ordet er. Så hvis man tror man alltid får et fasitsvar vil jeg si man er for dum til å bruke AI på en trygg måte.

Anonymkode: 58452...f02

Men hva er nytten av dette? 

Anonymkode: 69b1a...266

[Brukernavn84]

AnonymBruker skrev (På 14.9.2026 den 18.58):

Et eksempel (av mange) på massiv diktning på Google sin KI. Kontekst her er at jeg vet at disse podcastvertene har urettferdig blitt kalt antisemittiske i forbindelse med en enkelt event i forbindelse med en boklansering. Og det jeg vil vite er hvor denne verten for boklanseringen har gått ut og sagt dette om dem.

Svaret fra KI:

 

 Siden jeg vet at slike episoder ikke eksisterer, spør jeg etter dokumentasjon:

Anonymkode: 69b1a...266

Det ser ut som du har brukt kjapp - altså dum - modus, og da får du svar deretter. Dette var nok en brukerfeil.

[AnonymBruker]

Brukernavn84 skrev (22 timer siden):

Det ser ut som du har brukt kjapp - altså dum - modus, og da får du svar deretter. Dette var nok en brukerfeil.

OG dette skal man altså bare vite som bruker.

Anonymkode: 69b1a...266