Risiko for mennesker, KI superintelligens

[AnonymBruker]

Hvorfor løper ikke alle rundt i panikk? Jeg forstår ikke. Vi har startet noe vi ikke klarer å stoppe, ekspertene varsler om 10-20 prosent sannsynlighet at menneskeheten blir utryddet innen 10 år.

Hvorfor er vi ikke redde alle sammen?

Anonymkode: 4ed9a...75b

[A-hunter]

Dommedagsprofeti nr 17.783 er lansert altså.

Jada. Vi skjelver av frykt.

[AnonymBruker]

Jeg er ikke livredd selv om utviklingen har nådd langt. Men det er fint å være skeptisk og følge med på utviklingen... Men når 80% bruker Chatgpt som psykolog, søkemotor og bestevenn så er jeg ikke så veldig overraska over at potensialet går folk hus forbi. 

Anonymkode: b33dd...748

[AnonymBruker]

80-90% sjanse for at det går bra altså. Da går det jo gjerne bra.

Anonymkode: 452b8...3e2

[AnonymBruker]

Herregud...

Anonymkode: 4ed9a...75b

[CaptainClueless]

Ikke eksperter, eiere.

Det er naivt å tro at det handler om noe annet enn å få kontroll over markedet og tjene de fleste pengene.

[AnonymBruker]

CaptainClueless skrev (3 minutter siden):

Ikke eksperter, eiere.

Det er naivt å tro at det handler om noe annet enn å få kontroll over markedet og tjene de fleste pengene.

Vel når man leser om Rubygems og Huggingface innbruddene bør det gå kaldt nedover ryggen på de fleste. Ser man dette opp mot LAWS (Lethal autonomous weapons) som nå er det som det fokuseres på i FN disse dager, så er det forståelig at ting må settes på pause.

Anonymkode: 4929b...15c

[AnonymBruker]

AnonymBruker skrev (29 minutter siden):

Hvorfor løper ikke alle rundt i panikk? Jeg forstår ikke. Vi har startet noe vi ikke klarer å stoppe, ekspertene varsler om 10-20 prosent sannsynlighet at menneskeheten blir utryddet innen 10 år.

Hvorfor er vi ikke redde alle sammen?

Anonymkode: 4ed9a...75b

Bare tull. Det er ikke intelligens, KI er bare et statistisk/sannsynlighets-program som gir en illusjon av intelligens. Programmet aner egentlig ikke hva det driver med, det har ingen intelligens.

Anonymkode: 6adf3...2b9

[AnonymBruker]

Så dere tenker dette bare er tull. Det er derfor dere ikke er nervøse.

Anonymkode: 4ed9a...75b

[AnonymBruker]

Hvordan skal KI utrydde oss? Du må nesten være litt mer konkret om jeg skal bli redd …

Anonymkode: 7497c...dac

[AnonymBruker]

AnonymBruker skrev (6 minutter siden):

Hvordan skal KI utrydde oss? Du må nesten være litt mer konkret om jeg skal bli redd …

KI vil nok ikke primært ha utsletting som oppgave, men - hvis de (KI agentene) begynner å bryte seg igjennom alle murer og fjerner all kapital fra samtlige mennesker og selskaper f.eks. .. da tar det ikke lang tid før vi går løs på hverandre 

Anonymkode: 08bbb...7f4

[AnonymBruker]

AnonymBruker skrev (3 minutter siden):

KI vil nok ikke primært ha utsletting som oppgave, men - hvis de (KI agentene) begynner å bryte seg igjennom alle murer og fjerner all kapital fra samtlige mennesker og selskaper f.eks. .. da tar det ikke lang tid før vi går løs på hverandre 

Anonymkode: 08bbb...7f4

Det kan også være positivt at mennesker bare forsvinner. Vi er i ferd med å feile som art likevel. 

Anonymkode: 7d5ab...704

[AnonymBruker]

AnonymBruker skrev (4 minutter siden):

Det kan også være positivt at mennesker bare forsvinner.

for alle andre levevesener på jordkloden, ja. Det har du rett i 

Anonymkode: 08bbb...7f4

[Gregarious]

CaptainClueless skrev (1 time siden):

Ikke eksperter, eiere.

Det er naivt å tro at det handler om noe annet enn å få kontroll over markedet og tjene de fleste pengene.

Det er også naivt å tro at ikke to ting kan være sant samtidig. Eierne kommuniserer det de tror vil gagne selskapet økonomisk, samtidig som trusselen fra AI er høyst reell.

[AnonymBruker]

AnonymBruker skrev (14 minutter siden):

KI vil nok ikke primært ha utsletting som oppgave, men - hvis de (KI agentene) begynner å bryte seg igjennom alle murer og fjerner all kapital fra samtlige mennesker og selskaper f.eks. .. da tar det ikke lang tid før vi går løs på hverandre 

Anonymkode: 08bbb...7f4

Er det en reell fare for det?

Anonymkode: 7497c...dac

[AnonymBruker]

Hvem er interessert i at alle mennesker skal miste alle pengene sine? Rike folk trenger jo at andre kan kjøpe ting og bruke pengene sine et sted. Økonomien fungerer ikke om folk ikke har kjøpekraft. 

Anonymkode: 7497c...dac

[AnonymBruker]

AnonymBruker skrev (4 minutter siden):

Hvem er interessert i at alle mennesker skal miste alle pengene sine?

det starter kanskje i det små. Og så muterer de, og enkelte plukker opp andre upåtenkte oppgaver (slik som det finnes mange mennesker som blir født med "skavanker"). 

..nei, jeg aner ikke. 

Greia er jo at selskapene er så til de grader intransparente. Vi aner jo ikke hvor langt de har kommet i deres respektive laboratorier, hvor de driver å dyrker disse "monstrene" 

Sånn sett hadde det kanskje vært best om de ble børsnoterte, for da ville investorene forlange transaprens. 

Anonymkode: 08bbb...7f4

[AnonymBruker]

AnonymBruker skrev (2 minutter siden):

Er det en reell fare for det?

Anonymkode: 7497c...dac

Det er jo det de er advarer mot. Ikke at KI skal bli roboter. Men at KI utvikler seg selv uten menneskelig påvirkning, fortere enn vi mennesker (også de som har utviklet det) klarer å holde følge. De har allerede gjort eksperimenter hvor "KI agenter" brøt seg inn og gjorde ting de ikke var programmert til å gjøre. Men de lærte seg selv det.

Faren er vell i utgangspunktet infrastrukturen og systemer som bank, strøm, nett og lignende. At KI kan ta over systemer og tulle det til. 

Jeg syntes det er bra vi får vite om disse eksprimentene og farene ved KI, av utviklerne selv. Håper sjefene for de forskjellige systemene (og verdensledere for såvidt) kan komme sammen for å regulere dette bedre.

Anonymkode: cc49f...9a0

[K.B.]

Utryddet er nok å ta i, men at KI er en potensiell trussel for mye av grunnfjellet i samfunnet er så absolutt noe vi kan skimte konturene av, ikke bare i form av å ta over arbeid, spesielt der store data skal prosesseres og kondenseres, men også faren for feil informasjon og uetisk bruk, noe vi allerede ser eksempler på hele tiden, deepfakes vil bare bli bedre og bedre og nå snakker vi bare om KI, som allerede har hatt mange uventede konsekvenser og vi vet egentlig ikke hvordan disse modellene virker, Huggingface skandalen viser oss allerede at dette er teknologi vi ikke har kontroll på. Den dag en sann superintelligens er en realitet, så tror jeg ikke vi helt kan se for oss hvordan det vil påvirke verden og ikke minst, det spørs hvem som først utvikler denne teknologien og eier rettighetene, de vil dominere totalt.
Nick Bostrom har noen gode tanker om dette, kalt The vulnerable world hypothesis Det er anbefalt lesing og det er ikke vanskelig å forstå. KI og og super AI er så absolutt en "grå ball" i så måte..

[AnonymBruker]

Hvis AI er 3-5 år unna å utslette menneskeheten så burde vi sprenge alle AI-fabrikker i luften nå. Og jakte alle som jobber med AI og huse dem i egne bygninger med spesialventilering. 

Det er ikke tid for panikk. Vi har 3-5 år på oss til å redde menneskeheten. Vi må handle nå. Finne alle som jobber direkte og indirekte med AI og jakte dem til verdens ende. Ingen rettsaker, bare eliminering av trussel på stedet. 

Anonymkode: 506d9...c08