Kunstig intelligens - bør vi være bekymret?

[NordicViking]

Et titalls teknologiledere frykter at kunstig intelligens (AI) kan frata oss kontrollen over vår egen sivilisasjon, og ber laboratorier om å pause forskningen umiddelbart. Dagens AI-systemer kan nå konkurrere med mennesker på generelle gjøremål, og vi må nå spørre oss selv om vi bør la maskiner fylle opp våre informasjonskanaler med propaganda og usannheter, sier de.

I et åpent brev fra 'Future of Life Institute', signert av blant andre Elon Musk, Apple-gründer Steve Wozniak og Andrew Yang, blir AI-laboratorier anbefalt "umiddelbart og i minst seks måneder å pause opplæringen av AI-systemer kraftigere enn GPT-4", den siste versjonen av den store, OpenAI-utviklede språkprogramvaren. Forfatterne legger til at "slike beslutninger ikke må bli delegert til ikke-folkevalgte teknologiledere", og at "regjeringer bør gripe inn og innføre et moratorium (en midlertidig utsettelse) dersom pausen de ber om ikke kan iverksettes raskt."  (Finansavisen) 

...

Bør vi være like bekymret som disse teknologilederne, eller er det allerede for sent å gjøre noe?

[LCFA]

<just for=humans>Er redd AI blir som med det var med atomvåpen. Når stormaktslederne ser hva som er mulig (Hiroshima...GPT...) så vil de ønske seg det samme eller helst noe litt bedre og mer. Det er spinnvillt. Vi vet ikke om en AI allerede har gjort Putin til sin slave. Antar at bevissthet og ønske om å overleve og spre sine gener (koder) henger sammen. Vi vet vel ennå ikke om bevissthet/overlevelsesdrift hos en AI er noe som automatisk oppstår når bare "nevronene" og koblingene mellom dem blir mange nok eller om overlevelsesdrift også krever mange millioner generasjoners naturlig utvalg for å utvikles. Bevissthet (eller illusjonen om bevissthet...) er kanskje selve det som gjør overlevelsesdriften sterk hos oss. Ønske om overlevelse vil få AI'er til å beskytte seg mot trussler, eller hva den tilfeldigvis oppfatter som trussler, og da ligger vi tynt an.</just>

Endret 29. mars 2023 av LCFA

[Mooza]

Jeg leste om det i nyhetene, ja. 

Hvis de fremste teknologilederne går ut og vil stoppe AI i 6 måneder, så blir jeg selvsagt bekymret. De vet en god del mer enn det vi vet. De vil vel først og fremst tjene penger, og har brukt mye på AI. .... så hvis de gir uttrykk for at de er bekymret og vil stoppe disse forsøkene,  så bør vi vel være veldig bekymret. Da er det alvor. 

Jeg synes vel kanskje at det kunne vært opplyst mer om dette. Kan noen tegne meg et bilde? 

Jeg tror tech-lederne må tegne et bilde for lovgiverne også, hvis de skal ha sjanse til å forstå og vedta lover. 

[Mooza]

NordicViking skrev (39 minutter siden):

Bør vi være like bekymret som disse teknologilederne, eller er det allerede for sent å gjøre noe?

Hvor langt er Kina kommet? Hvem har kommet lengst når det gjelder AI? 

[ltfutt]

ChatGPT er ivertfall et fantastisk verktøy. Sitter og lurer på om den går lei av meg snart:P 

Det som er skummelt med utviklingen er at det ikke nødvendigvis er mennesker som har kontrollen på utviklingen, da en også bruker AI til å utvikle AI Det er masse strenger med koder som mennesker ikke engang forstår hvordan fungerer lenger. En kan vel uansett ikke stoppe denne utviklingen. Tror bare en må la det gå sin gang og håpe på det beste.

[Mooza]

For å svare på eget spørsmål; 

Gjerne lengre enn USA. Men USA prøver å ta igjen gapet..og kontrollen over databrikker er en viktig kamp for å hindre Kina å utvikle AI. Det forklarer gjerne Taiwan? 

Tiktok har brukt AI i 6 år allerede for å behandle store data-mengder. Det er altså grunnen til at de er så redde for TikTok?....og grunnen til at TikTok har vært i mediabildet og blitt forbudt i India, kongressen i USA, og Norge på viktige arbeidsplasser. Hva er det de sitter på av informasjon angående dette som gjør dem bekymret?

Men hvorfor skulle USA ville stoppe AI hvis de er i kamp med Kina om å ligge i tet? Hva er det amerikanske forskere og tech-leder har oppdaget? Hvorfor gå ut på denne måten nå? Jeg vet at Musk har advart i lang tid.... 

...og hvis det er slik at Kina ligger foran USA; Hva er det da slags galskap Kina sitter på?

https://www.dn.no/utenriks/kina/usa/kunstig-intelligens/kunstig-intelligens-kapplop-mellom-usa-og-kina-i-gang/2-1-1405680

Endret 29. mars 2023 av Mooza

[LCFA]

11 minutter siden, Mooza said:

Hvor langt er Kina kommet? Hvem har kommet lengst når det gjelder AI? 

Det vet vi vel strengt tatt ikke. Hvis de har et hemmelig "Manhattan-prosjekt" rundt AI.

Men det vi vet om Kina er at de har laget uhorvelig mye hardware som opprinnelig ble laget til private for Bitcoin-mining og som kanskje er av en type (ASICs) som kan retrofit'es til nevrale nett for AI og at dette kanskje var den egentlige årsaken til at CCCP slo ned på bitcoin der for 2-3 år siden fordi de isteden ville bruke all denne hardwaren til en AI-frankenstein av en annen verden. Musken sa at lefling med AI er som å påkalle djevelen. 'With artificial intelligence we are summoning the demon.'  - Elon Musk 2014.

Endret 29. mars 2023 av LCFA

[aksase]

 

[Gjest Refreng]

Det blir enkelt å kontrollere informasjon. Man kan få AI til å spamme nyhetsartikler med en falsk nyhet over flere medier relativt enkelt. Vi kan bombarderes med falsk informasjon og vi vil ikke ane det. Når feilinformasjonen blir så omfattende og overalt, vil det være umulig å skille fakta fra fiksjon. Vi kan regelrett leve i et dystopisk samfunn der vi tror alt er bra fordi vi blir fortalt at det er det fra alle kanter.

Det kan ødelegge samfunnet i form av at maktsyke mennesker bruker det til egen fordel

[Kullsyrevann]

Elon Musk var med å finansiere Open AI. Hvis han trykker på bremsen så er det grunn til bekymring. 

[aksase]

Det løser seg nok. Nå ligger kanskje utviklingen litt foran lovgivningen, men det vil helt sikkert komme lovreguleringer som regulerer AI og hva det kan brukes til. 

Brukt riktig kan AI være med på å sette ytterligere fart på den teknologiske utvklingen, på forskning og mange andre ting. Det er et utrolig kraftig verktøy.

Men det er som med atomteknologien; den kan både bidra til noe nyttig og til ødeleggelse. Internasjonale avtaler vil etter hvert regulere dette.        Tror jeg.....

[Crab_Nebula6523]

Det er en AI her inne på KG og svarer på innlegg. 
Den svarte på et innlegg jeg hadde her. Et veldig korrekt svar helt uten følelser og empati. Følte meg litt satt ut og snytt for jeg ville jo få litt flere svar rundt det og det kunne den ikke for den var en AI og hadde ikke mulighet til det

[Mooza]

LCFA skrev (42 minutter siden):

Det vet vi vel strengt tatt ikke. Hvis de har et hemmelig "Manhattan-prosjekt" rundt AI.

Men det vi vet om Kina er at de har  laget uhorvelig mye hardware som opprinnelig ble laget for Bitcoin-mining og som kanskje er av en type (ASICs) som kan retrofit'es til nevrale nett og at dette kanskje var den egentlige årsaken til at CCCP slo ned på bitcoin der for 2-3 år siden fordi de isteden ville brukt all denne hardwaren til en AI-frankenstein av en annen verden. Musken sa at lefling med AI er som å påkalle djevelen. 'With artificial intelligence we are summoning the demon.'  - Elon Musk 2014.

Det er skremmende.

Så med retrifites til "nervrale nett."..så mener du en kunstig oppbygging av intelligens? ASIC?

Endret 29. mars 2023 av Mooza

[NordicViking]

Mooza skrev (4 timer siden):

Jeg leste om det i nyhetene, ja. 

Hvis de fremste teknologilederne går ut og vil stoppe AI i 6 måneder, så blir jeg selvsagt bekymret. De vet en god del mer enn det vi vet. 

 

Det er det jeg tenker også. Jeg vil tro at disse lederne vet en god del mer enn Ola og Kari, og de ser hvor det bærer hen dersom det hele glir ut av kontroll. Når de ber regjeringer om å komme på banen, så bør vi kanskje stoppe opp et øyeblikk og spørre hva i all verden det er som skjer. 

[Endorfin]

Hva A.I mener selv om A.I

 

KI: Risiko vs. fordeler.

Burde vi bekymre oss for kunstig intelligens

Som en AI-modell er jeg kanskje ikke den beste personen til å avgjøre om vi bør bekymre oss for kunstig intelligens (KI), men jeg kan gi deg noen tanker om emnet.

KI er et felt som har vokst raskt de siste årene, og det har vært mye debatt om potensielle risikoer og muligheter som følger med utviklingen av denne teknologien. Noen bekymringer inkluderer potensiell arbeidsledighet, avhengighet av teknologi, og muligheten for at KI kan overta og kontrollere menneskelig adferd.

Men samtidig kan KI også ha mange positive effekter, som å forbedre helsevesenet, øke sikkerheten på veiene, og hjelpe oss med å løse noen av de største utfordringene verden står overfor i dag, som klimaendringer og pandemier.

Så, bør vi bekymre oss for KI? Svaret er at det avhenger av hvordan teknologien blir utviklet og brukt. Hvis KI blir utviklet og brukt på en ansvarlig måte, med fokus på å forbedre menneskelivet og samfunnet, så er det mange potensielle fordeler. Men hvis KI blir utviklet og brukt på en uansvarlig måte, uten tanke på konsekvensene, så kan det være en reell trussel.

Derfor er det viktig at vi som samfunn tenker nøye gjennom hvordan vi ønsker å utvikle og bruke KI, og at vi legger til rette for ansvarlig innovasjon og utvikling. Det er også viktig at vi arbeider for å forstå teknologiens potensielle konsekvenser og ta nødvendige forholdsregler for å minimere risikoene. 

 

[miss spjåk]

Refreng skrev (På 29.3.2023 den 19.59):

Det blir enkelt å kontrollere informasjon. Man kan få AI til å spamme nyhetsartikler med en falsk nyhet over flere medier relativt enkelt. Vi kan bombarderes med falsk informasjon og vi vil ikke ane det. Når feilinformasjonen blir så omfattende og overalt, vil det være umulig å skille fakta fra fiksjon. Vi kan regelrett leve i et dystopisk samfunn der vi tror alt er bra fordi vi blir fortalt at det er det fra alle kanter.

Det kan ødelegge samfunnet i form av at maktsyke mennesker bruker det til egen fordel

Dette med falske nyheter er jo allerede et problem, så det er en skremmende fremtid du skisserer her. Jeg vil tilbake til "gamle" dager jeg...😬 

[Topsi]

https://www.euronews.com/next/2023/03/31/man-ends-his-life-after-an-ai-chatbot-encouraged-him-to-sacrifice-himself-to-stop-climate-

[Majer]

Jeg er mest bekymret for at kunstig intelligens vil bli så styrende at vi blir nødt til å tvinge fram en avslutning av internett og elektroniske gjenstander. 

[Sana04]

Nei. Du kan tjene mye penger med AI. Jeg selger bøker på Amazon og tjener sånn 50 tusen hver måned