Vil kunstig intelligens være spikeren i kisten og menneskets undergang?

[WubWub]

 

I disse dager står menneskeheten ved et enormt veiskille som kan meget vel utrydde oss (før vi utrydder 70% av alt liv på jorden som vi meget vel kan ende opp med å gjøre de neste 100 årene, jeg har skrivd om i tråden her).

 

Denne tråden kan for mange virke som reneste science-fiction med en problemstilling man ikke trenger ta stilling til for det virker så urealistisk. 

Det vil isåfall kunne bli en fatal tabbe.

 

Stephen Hawking , Bill Gates, 1000 akademikere , forskere og andre offentlige personligheter går nå ut med et forslag om å forby automatiserte droner og advarer sterkt mot kunstig intelligens.

 

Teknologien vår har kommet så langt at autonome selvstendige militære droner med en kunstig intelligens vil være rett rundt hjørnet de neste årene. Dette forskes på i mange land og noen har gjort store gjennombrudd til militærets store glede.

 

Snart vil det være mulig å sende roboter ut i strid som er istand til ta sine egne avgjørelser uten at det er mennesker som styrer de. Det er både billigere og det sparer mange liv (for den angripende parten) så denne teknologien er noe alle stormakter vil satse mye på.

 

Dette blir av forskere karakterisert som et like revolusjonerende for menneskeheten som kruttet og atombomben var. Men jeg tror det vil føre til noe mye større, en forandring som vil forandre vår sivilisasjon på alle mulige måter.

 

Det finnes 3 nivåer av kunstig intelligens. Og vi er for øyeblikket på nivå 1 som kalles ANI (artificial narrow intelligence). Dvs en kunstig intelligens som er like smart eller litt smartere enn mennesker til en spesifikk oppgave som f.eks sjakk. Vi har også chatteboter som det er fullt mulig å ha en samtale med. Med disse chattebottene er ikke noe annet enn et konglomerat av menneskelig kommunikasjon og en overdreven algorytme som skapes av svarene de får av mennesker som så lagres i databasen - men de har ikke evnen til å svare med egne tanker eller meninger - de er bare en refleksjon av oss selv.

 

Per dags dato har vi ingen kunstig intelligens med evne til refleksjon eller bevissthet. Sjakk computeren er ikke engang klar over at han spiller sjakk eller hva sjakk er, den har heller ingen drømmer for fremtiden eller evne til å føre en dyp samtale.

 

Neste nivå kalles AGI (Artificial General Intelligence). Denne kunstige intelligensen vil ha evnen til å tenke abstrakt, evne til å tenke logikk, løse problemer på egenhånd, forstå kompliserte ideer å lære av erfaring. Vi er ikke langt unna å skape dette vesenet.

 

Nivå 3 kalles ASI (Artificial Superintelligence). Denne AI'en vil være mye smartere (når vi har kraftige kvantum computere nok til det så anslås det at de kan være opptil 1 trillion ganger smartere enn oss) enn de smarteste menneskene på alle områder fra vitenskap, generell visdom, sosiale ferdigheter, refleksjon og problemløsing.  

 

Dagens teknologiske samfunn styres av ANI. Den tar seg av fra børsen til kredittkort transaksjonene dine og alt annet elektronisk mellom himmel og jord som vi er avhengig av.

 

Men i fremtiden vil vi få computere som vil tenke selv og det skremmer mange med god grunn.

 

Jeg skal nå forklare hvorfor med teorien "Law of accelerating returns". Den går utpå at jo mer utviklet et samfunn blir jo raskere vil dette samfunne utvikle seg teknologisk. Det er som en snøball som blir større og større i et faretruende tempo.

 

Jo mer utviklet vi blir jo fortere går prosessen. De siste 30 årene har teknologien og utviklingen vår vært enorm og vi fortsetter i en bratt kurve oppover som er brattere enn noen gang. Om 30 år vil verden som vi kjenner den idag ikke til å kjenne igjen.

 

Men hvor ville jeg med dette som kanskje ligner på en avsporing? Det jeg prøver illustrere er at når vi først har utviklet en kunstig intelligens med evne til å lære, reflektere og ha en selvbevissthet så vil denne teknikken raskt kunne begynne utvikle seg på egen hånd i et faretruende tempo og de vil raskt overgå oss på alle mulige måter - for utviklingskurven til en super intelligens vil mest sannsynlig være mye brattere enn vår kurve.

 

Vi mennesker er begrenset av langsom biologisk utvikling og vi vil ikke kunne konkurrere mot en kunstig intelligens som er smartere enn oss. Våre menneskelige genier er som oftest bare genier på 1 enkelt område som de er fordypet i - en supercomputer derimot som har tilgang til google og uendelig med informasjon og stor minnekapasitet kan bli genier på alle områder. Vi ville blitt som mentale dverger i forhold så hvorfor skulle dette vesenet tjene oss mindreverdige skapninger?

 

Snart har vi offensive autonome våpen med en ANI intelligens. Hvordan skal det gå når vi har utviklet kunstig intelligens på høyere nivå som kan utvikle, forsterke selg selv å ivareta sine egne interesser?

 

Så lenge en skapning har bevisthet så er den levende, og om den er levende så vil den ikke dø. Så konflikt vil mest sannsynlig oppstå mellom de 2 intelligente skapningene på jorden - roboter og mennesker. For mennesker vil selvfølgelig føle seg truet når de ser roboter overgå oss selv og vi vil reagere ved å prøve utslette de og robotene vil forsvare seg.

 

Og her må jeg innom enda en teori som kan forklare Fermi Paradoxet (hvis livetsbyggeklosser finnes i hele univserset og det finnes uendelig med planeter som har like gode livsforhold som jorda, HVOR ER ALLE?)

 

En av teoriene er "the great filter/det store filteret". Den teorien går ut på at nesten alle intelligente sivilisasjoner utsletter seg selv før de trår over en viss teknologisk barriere. Denne barrieren er før man er teknologisk istand til å kolonisere verdensrommet.

 

Jeg tror vi står å stirrer denne barrieren i brunøyet. De neste 100 årene kan vi utslette oss selv enten ved atomkrig (kina-usa konflikt kan lett blusse opp), klimaforandringer påført av mennesker kan utslette oss, eller at livets byggeklosser faller sammen som et korthus når vi har utryddet dyreart etter dyreart, epedemier eller kunstig intelligens.

 

Ifølge Kardashev skalaen er det 3 nivåer sivilisasjoner (astrofysikere og forskere mener vi er en type 0.7-0.8 sivilisasjon). Type 1 : En sivilisasjon som vil være kapabel til å utnytte all energien på sin egen planet.

 

Type 2 : En sivilisasjon som kan kontrollere all energien til stjernen i sitt eget planetsystem.

 

Type 3 : En sivilisasjon som kan kontrollere all energien på et galaksenivå.

 

Hva om det store filteret er type 1 sivilisasjon som vi nå begynner nærme oss med stormskritt? 

 

Det som skremmer meg med kunstig intelligens er at til tross for at den vil ha bevisthet , refleksjon, logisk sans og læreevne så vil den aldri være istand til å ha empati, de kan simulere det men aldri føle det og vi vet alle hvor farlige høyt intelligente mennesker med refleksjon kan være om de ikke har empati. 

 

Et annet dilemma - mennesket vil være fullstendig avhengig av høy intelligens for å overleve. Vi må ut i verdensrommet å kolonisere, jo før jo bedre. Hvis ikke så er vi dømt til å gå under. For å få til dette trenger vi roboter. Vi mennesker er pga biologiske begrensninger dårlig rustet til å utforske verdensrommet. Derfor trenger vi selvreplikerende beviste roboter som kan ta nøye kalkulerte beslutninger på egenhånd.

 

Med andre ord sitter vi igjennom med : damned if you do, damned if you dont.

Endret 29. juli 2015 av WubWub

[WubWub]

Er dette vårt "store filter" ? : 

 

 

[Mann 42]

Hvis det noen sinne blir utviklet en kunstig intelligens med selvbevissthet, så tror jeg bestemt at det er kroken på døra. Iallfall i den grad den kan knytte seg til nettet og få ting til å skje i den fysiske verden.

Og ettersom ingen utvikler noe slikt uten hensikt å ha til hensikt å bruke den til noe, så får vi ta for gitt at det skjer umiddelbart.

Og da kommer det i grunnen bare an på hva maskinens målsetninger er. Hvis vi står i veien for dem, kommer vi til å få problemer. Store problemer.

[WubWub]

Hvis det noen sinne blir utviklet en kunstig intelligens med selvbevissthet, så tror jeg bestemt at det er kroken på døra. Iallfall i den grad den kan knytte seg til nettet og få ting til å skje i den fysiske verden.

Og ettersom ingen utvikler noe slikt uten hensikt å ha til hensikt å bruke den til noe, så får vi ta for gitt at det skjer umiddelbart.

Og da kommer det i grunnen bare an på hva maskinens målsetninger er. Hvis vi står i veien for dem, kommer vi til å få problemer. Store problemer.

Det er du ikke alene om å tro for denne skepsisen deles av noen av de klokeste hodene på jorden - meg inkludert såklart.

 

Som du sier, og jeg skriver litt om i HI så vil en super A.I med tilgang til google , internet og alle kunnskaps database bli fullstendig overlegen mennesker på alle områder. Om denne A.I'en i tillegg har egne behov, ønsker, ambisjoner, bevistheten, overlevelses instinkt så kan vi fort bli feid på sidelinjen.

Denne skapningen kommer til å spørre seg spørsmålet "hvorfor skal jeg tjene disse mindreverdige skapningene?" , kanskje den etterhvert også vil se på oss som en trussel i takt med at omverden blir mer og mer skeptisk.

 

Ikke nok med at den kan lære seg alle menneskelige oppfinnelser og akkumulering av all kunnskap vi har bygd opp gjennom menneskets historie, men den vil også kunne videreføre og videreutvikle egne teorier, oppfinnelser og prosjekt som vil overgå det meste som vi ikke engang kan tenke oss i vår villeste fantasi.

 

Dette er selvfølgelig frem i tid for per dags dato vi har hverken datakraft eller evne til å skape en A.I med bevissthet. Men vi begynner nærme oss.

 

Advarsler fra Stephen Hawkings som vi bør ta til oss - kunstig intelligens er den største trusselen mot menneskeheten? :

 

http://www.livescience.com/51664-stephen-hawking-elon-musk-ai-weapons.html

 

http://www.livescience.com/48972-stephen-hawking-artificial-intelligence-threat.html

Endret 29. juli 2015 av WubWub

[Mann 42]

Det er du ikke alene om å tro for denne skepsisen deles av noen av de klokeste hodene på jorden - meg inkludert såklart.

 

Som du sier, og jeg skriver litt om i HI så vil en super A.I med tilgang til google , internet og alle kunnskaps database bli fullstendig overlegen mennesker på alle områder. Om denne A.I'en i tillegg har egne behov, ønsker, ambisjoner, bevistheten, overlevelses instinkt så kan vi fort bli feid på sidelinjen.

Denne skapningen kommer til å spørre seg spørsmålet "hvorfor skal jeg tjene disse mindreverdige skapningene?" , kanskje den etterhvert også vil se på oss som en trussel i takt med at omverden blir mer og mer skeptisk.

 

Ikke nok med at den kan lære seg alle menneskelige oppfinnelser og akkumulering av all kunnskap vi har bygd opp gjennom menneskets historie, men den vil også kunne videreføre og videreutvikle egne teorier, oppfinnelser og prosjekt som vil overgå det meste som vi ikke engang kan tenke oss i vår villeste fantasi.

 

Dette er selvfølgelig frem i tid for per dags dato vi har hverken datakraft eller evne til å skape en A.I med bevissthet. Men vi begynner nærme oss.

 

Advarsler fra Stephen Hawkings som vi bør ta til oss - kunstig intelligens er den største trusselen mot menneskeheten? :

 

http://www.livescience.com/51664-stephen-hawking-elon-musk-ai-weapons.html

 

http://www.livescience.com/48972-stephen-hawking-artificial-intelligence-threat.html

Problemet kommer ikke til å  melde seg etter hvert. Maskiner tenker fort. De er ikke emosjonelle.

De tviler ikke. De trekker slutninger så raskt som de kan behandle alle relevante data.

Problemet kan altså komme til å oppstå temmelig momentant.

William Gibson skriver en del om AI-er. Trilogien Neuromancer, Count Zero og Mona Lisa Overdrive har det som et sentralt tema, og beskriver hvordan AI-er slipper fri og lager seg et hjem i cyberspace.

Problemet med AI er at de kan ha en egen agenda, og derfor må man begrense deres adgang til å fungere som selvstendige aktører i den fysiske verden, så vel som i cyberspace.

I Gibsons verden har man Turing-politiet, som overvåker alle AI-er og deres aktivitet, og slår hardt ned på alt som ligner på selvstendig handling fra AI-ers side.

Og selv om ting går over styr, så går de ikke HELT galt. For maskinintelligensen kan riktignok fly rundt i cyberspace og foreta seg ting, men de kan ikke gjøre noe fysisk. Unntatt via mellommenn. Så de begynner å gjøre avtaler med folk for å få kontroll over fysiske ressurser av forskjellig slag.

Det hele er temmelig fascinerende, for maskinenes kreativitet kjenner ingen grenser. Og den er totalt alien.

[Mann 42]

Men det er fullstendig mulig at en maskinintelligens vil være ganske benign, også.

Spørsmålet er om den vil ha en målsetning, og hva den evt er.

Selv har vi mange agendaer, men vi er drevet av emosjoner og er derfor ganske irrasjonelle. Vi skremmer oss selv med historier om de andres motiver, konspirasjoner og planer for å skade oss, vi forsøker å omvende hverandre i en ikke-eksisterende guds navn, og spiller hverandres blod til gudenes ære.

Vi torturerer og dreper anderledes tenkende fordi vi ikke kan se dem som annet enn onde.

Det er i det hele tatt mye faenskap som springer ut av at vi er dyr med emosjoner som vi ofte lar løpe av med oss.

En skapning UTEN disse følelsene, men med den samme intelligensen, ville kanskje være langt mer skånsom både overfor sine medskapninger og oss, enn hva vi selv er.

Man kan også fremføre som et argument at redselen for AI i bunn og grunn er redselen for at den skal være som oss, bare smartere. Akkurat som når vi frykter kontakt med fremmede sivilisasjoner. Det er redselen for at de skal være som oss, bare mer avanserte.

Så mye av dette er i realiteten redselen for oss selv og hverandre, i den fremmedes masker.

IRobot hadde en troverdig AI. Den hadde en grunnleggende målsetning som var programmerti inn i den, nemlig å administrere byen mest mulig effektivt, og beskytte menneskers liv og helse. Noe den gjorde innenfor rammene av normal byadministrasjon, helt til den ble så avansert at den konkluderte med at den største truselen mot mennesker, er menneskene selv. Den logiske konklusjonen ble at mennesker ikke kan ha frihet, dersom man skal beskytte dem mot seg selv.

Noen hadde glemt å legge inn andre mennesklige behov, som individuell frihet og menneskerettighetene i maskinens kjerneprogrammering. Bummer

Endret 30. juli 2015 av Mann 42

[debatant]

Vi får håpe at lobefinnefiken ikke utvikler seg såpass at den overtar verdens hegemoniet.

[Gjest Angry Man]

Jaha, og med hvilket programmeringspråk skal en AGI/ASI skrives på? Python? Lisp? Haskell?

 

Sorry men de programmeringspråkene vil aldri klare å skape noe slikt, det er science fiction.

[WubWub]

Jaha, og med hvilket programmeringspråk skal en AGI/ASI skrives på? Python? Lisp? Haskell?

 

Sorry men de programmeringspråkene vil aldri klare å skape noe slikt, det er science fiction.

 

Lisp er utformet for liste prosessering og lineære algebraiske beregninger, med andre ord vil Lisp vil fungere utmerket som en spesialisert ANI i form av kalkulator software eller spesialisert ANI for behandling av databaser. 

 

Lavere nivå språk som f.eks C, C++ eller andre språk med biblioteker som MatLab og ScyPi derimot er mye bedre egnet for å skape en intelligens som kan lære på egenhånd for så å utvikle seg til å bli en ASI på egen maskin, bokstavelig talt.

 

Python kan også fungere. Java har også noe bra libraries lagd av Stanford NLP group.

 

Men alt kan fungere. Det viktigste elementet er at man kan gi den kunstige intelligensen verktøyene til å lære seg selv på egenhånd - slik som Mann 42 er inne på. En kunstig intelligens som har verktøy til egen læring vil kunne forbedre sitt potensiale ved å modifisere seg selv, programvare, algoritme på et nivå som vi mennesker ikke er istand til. 

 

For jo mere den lærer jo raskere vil utviklingen gå og den evolusjonen vil ha en brattere og brattere kurve. 

 

Som jeg har vært inne på med teorien laws of accelerating returns som tilsier at jo mer teknologisk utviklet et samfunn blir jo raskere vil den utvikle seg. Vi har bare vært et teknologisk samfunn noen usselige stakkarslige ti-år ut av 200 000 år på denne planeten. Men vi har utviklet oss raskere de siste 20 årene enn utviklingen fra 12 000 år før kristus til 1500. 

 

Og de neste 30 årene vil dette akselerere enda raskere. Det samme vil gjelde for en kunstig intelligens som kan lære alt vi mennesker vet utifra våre online databaser for så å bygge videre på dette med egne ideer, komplekse tanker og problemløsing som vi mennesker ikke enda er istand til.

Endret 30. juli 2015 av WubWub

[Mann 42]

Eller kanskje den bare vil spille sjakk og løse kompliserte ligninger.

[WubWub]

Eller kanskje den bare vil spille sjakk og løse kompliserte ligninger.

hehe

[WubWub]

dette er verdens undergang? : 

Endret 31. juli 2015 av WubWub

[physics]

Er et interessant tema dette her, et skremmende et også. Etterhvert blir vi nødt til å ty til ASI for å utvikle oss videre teknologisk - pga vi er biologiske, og derfor har et tak når det gjelder intelligens (på grunn av at evolusjon tar mange mange tusen år). Men dette kan også bety slutten for oss mennesker, da en ASI med bevissthet og intelligens 10^12 ganger større enn våres, kan til slutt stille seg selv spørsmålet; "trenger vi egentlig mennesker?"

[Mann 42]

Er et interessant tema dette her, et skremmende et også. Etterhvert blir vi nødt til å ty til ASI for å utvikle oss videre teknologisk - pga vi er biologiske, og derfor har et tak når det gjelder intelligens (på grunn av at evolusjon tar mange mange tusen år). Men dette kan også bety slutten for oss mennesker, da en ASI med bevissthet og intelligens 10^12 ganger større enn våres, kan til slutt stille seg selv spørsmålet; "trenger vi egentlig mennesker?"

Hva med en fusjon mellom maskiner og mennesker. Vi er jo ganske langt kommet i den retningen allerede. Med mindre man benytter en streng definisjon om at kybernetikken må være inkorporert i selve legemet, så er de fleste av oss i praksis cyborger.

Vi bruker smarttelefoner til å holde rede på avtaler, telefonnumre og faktaopplysninger. Vi tyr til Google og andre oppslagsverk for å finne informasjon som ikke er lagret i våre egne hjerner. Vi organiserer livene våre etter klokka, og holder rede på tiden med mekaniske eller digitale ur.

Teknologi er sterkt bygget inn i livene våre, og det vil neppe gjøre mye fra eller til om vi gikk fra laptop til en innebygget HUD projisert rett på netthinna.

[Lutetium 71]

Lisp er utformet for liste prosessering og lineære algebraiske beregninger, med andre ord vil Lisp vil fungere utmerket som en spesialisert ANI i form av kalkulator software eller spesialisert ANI for behandling av databaser. 

 

Lavere nivå språk som f.eks C, C++ eller andre språk med biblioteker som MatLab og ScyPi derimot er mye bedre egnet for å skape en intelligens som kan lære på egenhånd for så å utvikle seg til å bli en ASI på egen maskin, bokstavelig talt.

 

Python kan også fungere. Java har også noe bra libraries lagd av Stanford NLP group.

 

Men alt kan fungere. Det viktigste elementet er at man kan gi den kunstige intelligensen verktøyene til å lære seg selv på egenhånd - slik som Mann 42 er inne på. En kunstig intelligens som har verktøy til egen læring vil kunne forbedre sitt potensiale ved å modifisere seg selv, programvare, algoritme på et nivå som vi mennesker ikke er istand til. 

 

For jo mere den lærer jo raskere vil utviklingen gå og den evolusjonen vil ha en brattere og brattere kurve. 

 

Som jeg har vært inne på med teorien laws of accelerating returns som tilsier at jo mer teknologisk utviklet et samfunn blir jo raskere vil den utvikle seg. Vi har bare vært et teknologisk samfunn noen usselige stakkarslige ti-år ut av 200 000 år på denne planeten. Men vi har utviklet oss raskere de siste 20 årene enn utviklingen fra 12 000 år før kristus til 1500. 

 

Og de neste 30 årene vil dette akselerere enda raskere. Det samme vil gjelde for en kunstig intelligens som kan lære alt vi mennesker vet utifra våre online databaser for så å bygge videre på dette med egne ideer, komplekse tanker og problemløsing som vi mennesker ikke enda er istand til.

 

Supert. Kjør disse AI programmene på den supercomputeren Obama har planer om, og vi er totalt føkka.

[Yme]

Jeg syns denne artikkelen var ganske interessant, uten at jeg egentlig forstår om det stemmer at den roboten der utøver en enkelt form for selvbevissthet eller ikke.
For meg ser det ikke sånn ut, men de mener tydeligvis at denne testen viser at de begynner å få litt forståelse av hvordan man kan programmere intelligenser som veit at de er et "jeg".

 

 

"Results of the test, carried out by the Rensselaer Artificial Intelligence and Reasoning (RAIR) Laboratory, will be presented in a paper at RO-MAN 2015 later this year. Selmer Bringsjor from the Rensselaer Polytechnic Institute, one of the test’s administrators, told Vice that it showed that a “logical and a mathematical correlate to self-consciousness” was possible, suggesting that robots can be designed in such a way that their actions and decisions resemble a degree of self-awareness."

 

http://www.iflscience.com/rise-machines-robot-demonstrates-self-awareness-solving-logic-puzzle

 

Endret 5. august 2015 av Yme

[Timza]

Hva med en fusjon mellom maskiner og mennesker. Vi er jo ganske langt kommet i den retningen allerede. Med mindre man benytter en streng definisjon om at kybernetikken må være inkorporert i selve legemet, så er de fleste av oss i praksis cyborger.

Vi bruker smarttelefoner til å holde rede på avtaler, telefonnumre og faktaopplysninger. Vi tyr til Google og andre oppslagsverk for å finne informasjon som ikke er lagret i våre egne hjerner. Vi organiserer livene våre etter klokka, og holder rede på tiden med mekaniske eller digitale ur.

Teknologi er sterkt bygget inn i livene våre, og det vil neppe gjøre mye fra eller til om vi gikk fra laptop til en innebygget HUD projisert rett på netthinna.

Er nok denne retningen det vil da. Vår hjerne kobles sammen med det teknologiske, og vi blir kjappere, smartere etc i takt med moores law. Da forsvinner den farlige "trenger vi mennesker" når vi er kjernen i systemet i sin helhet. 

 

Så på "through the wormhole" tidligere idag der det handlet litt om dette. Det er et stykke opp til å kunne simulere mennesker da de fremdeles ikke får til å simulere ei mark som er 1 mm stor med kun noen tusen celler som skal programmeres og snakke sammen. ^^