Ai lyver

[AnonymBruker]

AnonymBruker skrev (23 minutter siden):

Hvis man er ute etter å ta AI i løgn, så gir AI deg løgn, men bare husk at hver gang du avslører AI i en løgn, så avslører AI deg i to.

Anonymkode: cc319...8e2

Uff, dette var ordsalat.

Anonymkode: 69b1a...266

[AnonymBruker]

Det er ikke noe intensjon bak, så det er ikke løgn. Det er bare tilfeldigvis feil. Feil fakta, eller feil ord, eller feil tall. LLM chatboter gjetter bare neste ord. De har ingen intensjon (annet enn å få deg til å fortsette samtalen).

Anonymkode: 9c071...7e6

[Gregarious]

Fossegrimen skrev (47 minutter siden):

KI "lyg" ikkje.

KI skriv berre det den trur er mest sannsynleg rekkefølgje med ord.

Det er i beste fall en ekstrem oversimplifisering. Å si at en LLM "bare predikerer neste ord" blir som å si at mennesker "bare sender nerveimpulser".
 

[Fossegrimen]

Gregarious skrev (Akkurat nå):

Det er i beste fall en ekstrem oversimplifisering. Å si at en LLM "bare predikerer neste ord" blir som å si at mennesker "bare sender nerveimpulser".
 

Det er mykje meir riktig enn å seie at den "lyg".

[Gregarious]

Fossegrimen skrev (6 minutter siden):

Det er mykje meir riktig enn å seie at den "lyg".

En kaller det hallusinasjoner, men det interessante er at dette er mer komplisert enn bare å si at en LLM ikke lyver.

En trenger ikke nødvendigvis selvbevissthet for å lyve, så lenge systemet formidler informasjon som strider mot det det ellers er trent til å anse som korrekt.

Hvis en modell har et definert mål, kan den bruke feilaktig eller villedende informasjon for å nå dette målet. Det vil si at den formidler informasjon som strider mot den interne konklusjonen fordi det tjener et bestemt mål.

Dette er i praksis en form for løgn, og i den forstand forekommer slik atferd hos LLMer.

[Callisto83]

Ja, AI tar ofte feil, og det må man ALLTID ha i bakhodet.

AI lærer bare av det folk på nettet skriver, og genererer et svar. (Og det er ikke alltid det folk skriver er riktig heller.)

Jeg er overbevist om at hvis jeg fikk 10 000 personer rundt omkring i verden til å skrive blogg, artikler eller lage "dokumentarer" om at f.eks Napoleon oppfant ostehøvelen, så ville til slutt AI gjengitt det som et svar.

Vi mennesker MÅ være kritiske, selv om AI sikkert er et nyttig verktøy i mange sammenhenger.

 

[Thinka]

Duff skrev (16 timer siden):

Les denne saken dersom dere kan, utover det sier egentlig overskriften alt. 

Da kunstig intel­ligens forsøkte å overbe­vise meg om at OL-gullet aldri hadde skjedd - fvn.no https://share.google/gmmu8BVwY9G3729yt

Nå handler ikke den artikkelen om løgn, det å bevisst ville villede, men om det å ta feil.

«KI vurderer ikke sannhet slik mennesker gjør. Når de havner på feil spor, kan de fortsette å produsere forklaringer som virker logiske og troverdige, selv når de bygger på en feil premiss» - Står det i artikkelen.

AI kan feile, noe det også opplyses om i samtalen på f.eks ChatGPT:

«ChatGPT er AI og kan gjøre feil».

Men det jeg reagerer litt på er at jeg ofte ser at folk beskylder andre for å lyve, når de mest sannsynlig har tatt feil, har missforstått, eller ikke har fått noe vesentlig med seg.

Feil er ikke løgn og det å beskylde noen for løgn er faktisk en alvorlig påstand.

En løgn er det når du helt bevisst forsøker å villede noen ved å fortelle noe du vet at ikke er sant

Endret tirsdag kl. 14:10 av Thinka

[AnonymBruker]

Jeg stoler mer på Støre en KI.

Anonymkode: 9de6a...d5e

[AnonymBruker]

AnonymBruker skrev (På 25.8.2026 den 0.04):

AI «lyver» ikke. At man ikke ukritisk bør bruke verktøy man ikke/skjønner til å formål de ikke er egnet for, bør virkelig ikke være nyheter for noen i dag.

AI er fantastisk, men det er ikke et leksikon, spesielt ikke de enkleste modellene (hvem i helsike bruker egentlig fortsatt Copilot???)

Anonymkode: 89a92...732

Kanskje du kan utdanne oss da. Hva er hver KI egnet for? Google har en KI, på sin søkemotor. Denne lyver alltid. Men KIen på en søkemotor må man altså forvente at lyver, ellers er man helt på bærtur?

Anonymkode: 69b1a...266

[AnonymBruker]

Thinka skrev (22 timer siden):

Nå handler ikke den artikkelen om løgn, det å bevisst ville villede, men om det å ta feil.

«KI vurderer ikke sannhet slik mennesker gjør. Når de havner på feil spor, kan de fortsette å produsere forklaringer som virker logiske og troverdige, selv når de bygger på en feil premiss» - Står det i artikkelen.

AI kan feile, noe det også opplyses om i samtalen på f.eks ChatGPT:

«ChatGPT er AI og kan gjøre feil».

Men det jeg reagerer litt på er at jeg ofte ser at folk beskylder andre for å lyve, når de mest sannsynlig har tatt feil, har missforstått, eller ikke har fått noe vesentlig med seg.

Feil er ikke løgn og det å beskylde noen for løgn er faktisk en alvorlig påstand.

En løgn er det når du helt bevisst forsøker å villede noen ved å fortelle noe du vet at ikke er sant

KI er programvare og har ingen bevissthet. Men den er programmert til å lyve, det er utviklerne dette kommer fra.

Anonymkode: 69b1a...266

[Gregarious]

AnonymBruker skrev (På 25.8.2026 den 0.04):

AI «lyver» ikke. At man ikke ukritisk bør bruke verktøy man ikke/skjønner til å formål de ikke er egnet for, bør virkelig ikke være nyheter for noen i dag.

AI er fantastisk, men det er ikke et leksikon, spesielt ikke de enkleste modellene (hvem i helsike bruker egentlig fortsatt Copilot???)

Anonymkode: 89a92...732

Modellene kan i prinsippet lyve. 

Copilot er ikke én modell, så det finnes ikke grunnlag for å hevde at det nødvendigvis er brukt enkle modeller.

[AnonymBruker]

Kanskje AI har hentet tips fra argumentasjonsteknikken til konspiteoretikere? Uansett hvor mange kilder som blir presentert, kommer det bare nye argumenter om hvorfor det ikke stemmer og at den som kommer med kilder tar feil og/eller er hjernevasket. Det blir jo en ond sirkel når AI lærer av de mest påståelige på nett, og deretter svarer like påståelig til mange av de samme menneskene når de skal prøve å finne kilder på sine påstander. Det blir en endeløs loop med feilinfo som baller på seg.

Anonymkode: 75e0e...b8e