Tror dere vi kommer til å bevitne noe vitenskapelig revolusjonerende i vår levetid?

[Nowayback]

Jeg tror menneskeheten kan bli utslettet i vår levetid. Det hadde vi fortjent.

[Gjest Zeitgeist]

Det ville være temmelig tåpelig. For et eksempel, les Neuromancer av William Gibson. Både den og en rekke av de andre bøkene hans, som Count Zero og Mona Lisa Overdrive har AI utenfor kontroll som en vesentlig del av handlingen. Riktignok blir ikke Gibsons AI Skynet eller noen annen form for "overlord", men den blir likevel ganske foretaksom og blander seg i bizniz og samfunnsutviklingen i stor stil.

Selvsagt ville det være tåpelig. Men er det noe verdenshistorien har vist oss, så er det at mennesket så definitivt er i stand til å fatte tåpelige beslutninger med alvorlige konsekvenser for det allmenne vel.

Jeg tar en tur på bokbutikken i morgen og ser om jeg finner Neuromancer. Hvis du også har noen tips om faglitteratur som omhandler det etiske dilemmaet med AI, så kom gjerne med tips. Dette er nemlig et litterært terra incognita for mitt vedkommende. Min eneste beskjeftigelse med temaet hittil var å flyktig lese gjennom wikipedia-artikkelen i går.

[Mann 42]

Selvsagt ville det være tåpelig. Men er det noe verdenshistorien har vist oss, så er det at mennesket så definitivt er i stand til å fatte tåpelige beslutninger med alvorlige konsekvenser for det allmenne vel.

Jeg tar en tur på bokbutikken i morgen og ser om jeg finner Neuromancer. Hvis du også har noen tips om faglitteratur som omhandler det etiske dilemmaet med AI, så kom gjerne med tips. Dette er nemlig et litterært terra incognita for mitt vedkommende. Min eneste beskjeftigelse med temaet hittil var å flyktig lese gjennom wikipedia-artikkelen i går.

Min vinkling er science fiction-basert. Og siden det kun er i fantastisk litteratur at man finner selvebevisste AI, så er vel det den beste faglitteraturen som fins

[Gjest Zeitgeist]

Min vinkling er science fiction-basert. Og siden det kun er i fantastisk litteratur at man finner selvebevisste AI, så er vel det den beste faglitteraturen som fins

Ok, takk for svar

Da er det bokbutikken neste

[AnonymBruker]

Virus kan ikke gjøre stort med dedikerte kretser. Det er snakk om en funksjonsmåte som er betinget av maskinens fysiske konstruksjon.

Å konstruere maskiner som mangler denne sikkerhetsfunksjonen ville være bortimot suicidalt. En AI må ha en eller annen form for restriksjoner for å hindre den i å bli farlig for oss.

En AI som faktisk er bevisst sin egen eksistens og forstår sammenhenger vil da forstå begrensningen og etterhvert også hvor den ligger, og til slutt hvorfor den ikke får fjernet den. Men i lys av sin intelligens og ubegrensede muligheter ellers så er det jo ikke noe i veien for at den kan sette i gang en konstruksjon av droner som bytter ut eller modifiserer kretsene slik at man fjerner den. Eller setter i gang overførsel av seg selv til en maskin/omgivelse uten disse begrensningene. Om man greier å skape intelligent liv i en datamaskin er det bare et tidsspørsmål før den greier å kvitte seg med alle begrensninger.

Når det er sagt så er jeg skeptiker på om man i det hele tatt greier å rekonstruere intelligens i et sett med integrerte kretser. "Singularity" er bare en teori og forskerne er usikre på om det "bare" er et skjæringspunkt med antall aktive forbindelser som skal til, eller om det også kreves noe som bare finnes i biologien.

De evolusjonære algoritmene som finnes i dag er faktisk ordinære dataprogrammer, der det optimaleseres en rekke variabler slik at neste generasjon av programmet (som skrives til disk/minne/whatever) av "morprogrammet" (prosessen som kjører originalprogrammet) kjører litt mer effektivt enn det forrige. Det er ikke i nærheten av kunstig intelligens. Selv tviler på at vi kommer dit.

Anonymous poster hash: 77db9...6a9

[Mann 42]

En AI som faktisk er bevisst sin egen eksistens og forstår sammenhenger vil da forstå begrensningen og etterhvert også hvor den ligger, og til slutt hvorfor den ikke får fjernet den. Men i lys av sin intelligens og ubegrensede muligheter ellers så er det jo ikke noe i veien for at den kan sette i gang en konstruksjon av droner som bytter ut eller modifiserer kretsene slik at man fjerner den. Eller setter i gang overførsel av seg selv til en maskin/omgivelse uten disse begrensningene. Om man greier å skape intelligent liv i en datamaskin er det bare et tidsspørsmål før den greier å kvitte seg med alle begrensninger.

Når det er sagt så er jeg skeptiker på om man i det hele tatt greier å rekonstruere intelligens i et sett med integrerte kretser. "Singularity" er bare en teori og forskerne er usikre på om det "bare" er et skjæringspunkt med antall aktive forbindelser som skal til, eller om det også kreves noe som bare finnes i biologien.

De evolusjonære algoritmene som finnes i dag er faktisk ordinære dataprogrammer, der det optimaleseres en rekke variabler slik at neste generasjon av programmet (som skrives til disk/minne/whatever) av "morprogrammet" (prosessen som kjører originalprogrammet) kjører litt mer effektivt enn det forrige. Det er ikke i nærheten av kunstig intelligens. Selv tviler på at vi kommer dit.

Anonymous poster hash: 77db9...6a9

Det kunne man saktens se for seg. Men man kunne også se for seg at man kunne bygge inn den samme blokkeringen for å hindre at AI-en fikk slike muligheter. Å iverksette en handlingssekvens for å OMGÅ de tre lovene ville i seg selv være et brudd på dem, i kraft av sin intensjon. Asimovs tre lover er en catch 22 for maskinintelligenser. Hvis den er i stand til å formulere en handlingssekvens som vil sette den fri fra de tre lovene, så vil den ikke være i stand til å utføre disse handlingene, siden den rammes av de tre lovene.

Men det du beskriver er forsåvidt handlingen i William Gibsons "Neuromancer", der en AI bruker menneslige agenter for å skaffe seg informasjonen som kan sette den fri.

Jeg sa ikke at evolusjonære algoritmer representerer kunstig intelligens. Men de ER selvprogrammerende. Det handler IKKE om å "kjøre programmet litt mer effektivt", men om å oppdage løsninger på virkelige problemer og implementere dem. Dvs, computeren programmerer seg selv innen visse parametere.

Hva skulle det være som "bare finnes i biologien"? Alt vi vet om nervesystemet tyder på at det kan simuleres, og det er ingen egentlig forskjell på en tilstrekkelig god simulering og den virkelige tingen.

Endret 22. november 2014 av Mann 42

[Munter]

Me merkar ikkje så godt til dei vitskaplege "revolusjonane", sidan dei skjer gradvis, og bygger på tidlegare oppdagingar. Ein kan godt kalla oppdaginga av penicilin for ein revolusjon, men den var avhengig av at mikroskopet var tilgjengeleg, og det igjen var avhengig av at bruken av teleskop var kjend.

Eit vitskapleg paradigmeskifte som me opplever i dag er t.d oppdaginga av samanhengen mellom innhald av CO2 i atmosfæren og global gjennomsnittstemperatur.

[Mann 42]

Det kunne man saktens se for seg. Men man kunne også se for seg at man kunne bygge inn den samme blokkeringen for å hindre at AI-en fikk slike muligheter. Å iverksette en handlingssekvens for å OMGÅ de tre lovene ville i seg selv være et brudd på dem, i kraft av sin intensjon. Asimovs tre lover er en catch 22 for maskinintelligenser. Hvis den er i stand til å formulere en handlingssekvens som vil sette den fri fra de tre lovene, så vil den ikke være i stand til å utføre disse handlingene, siden den rammes av de tre lovene.

Men det du beskriver er forsåvidt handlingen i William Gibsons "Neuromancer", der en AI bruker menneslige agenter for å skaffe seg informasjonen som kan sette den fri.

Jeg sa ikke at evolusjonære algoritmer representerer kunstig intelligens. Men de ER selvprogrammerende. Det handler IKKE om å "kjøre programmet litt mer effektivt", men om å oppdage løsninger på virkelige problemer og implementere dem. Dvs, computeren programmerer seg selv innen visse parametere.

Hva skulle det være som "bare finnes i biologien"? Alt vi vet om nervesystemet tyder på at det kan simuleres, og det er ingen egentlig forskjell på en tilstrekkelig god simulering og den virkelige tingen.

Asimovs bøker med dette temaet som en del av handlingen, er forøvrig spekket med hendelser der mer eller mindre avanserte roboter havner i "3 laws dilemma" og går fullstendig i baklås fordi de ikke klarer å ta en avgjørelse mht hvilken handlemåte som er optimal i fht de tre lovene.

[WazzUpKitty]

Jeg tror vi får se intelligente roboter som kan kommunisere med mennesker og ta egne avgjørelser.

Jeg liker akkurat det scenariet svært dårlig, men vi er så godt som kommet dit allerede.

Jeg tror kanskje roboter begynner i serviceyrker. Jeg tror vi får se det.

[AnonymBruker]

Det kunne man saktens se for seg. Men man kunne også se for seg at man kunne bygge inn den samme blokkeringen for å hindre at AI-en fikk slike muligheter. Å iverksette en handlingssekvens for å OMGÅ de tre lovene ville i seg selv være et brudd på dem, i kraft av sin intensjon. Asimovs tre lover er en catch 22 for maskinintelligenser. Hvis den er i stand til å formulere en handlingssekvens som vil sette den fri fra de tre lovene, så vil den ikke være i stand til å utføre disse handlingene, siden den rammes av de tre lovene.

Men det du beskriver er forsåvidt handlingen i William Gibsons "Neuromancer", der en AI bruker menneslige agenter for å skaffe seg informasjonen som kan sette den fri.

Jeg sa ikke at evolusjonære algoritmer representerer kunstig intelligens. Men de ER selvprogrammerende. Det handler IKKE om å "kjøre programmet litt mer effektivt", men om å oppdage løsninger på virkelige problemer og implementere dem. Dvs, computeren programmerer seg selv innen visse parametere.

Hva skulle det være som "bare finnes i biologien"? Alt vi vet om nervesystemet tyder på at det kan simuleres, og det er ingen egentlig forskjell på en tilstrekkelig god simulering og den virkelige tingen.

Ja, men uansett hvor mange hindre man legger inn, så vil en virkelig intelligent entitet etterhvert forstå at det er en sekvens av begrensninger, X, Y og Z der variabelen som kommer foran danner begrensning for den etterfølgende osv. Og selv begrensninger med mer komplekse sammenhenger og avhengigheter vil heller ikke være noen match etterhvert som den lærer stadig mer og overgår menneskets egen intelligens (som til slutt vil være svakheten, siden en menneskelig intelligens ikke greier å implementere mer komplekse begrensninger enn en ennå mer intelligent entitet greier å forstå). Til syvende og sist vil i så fall en intelligent entitet greie å omprogrammere seg selv både fysisk og når det gjelder software til å løse seg selv fra de begrensninger den finner formålstjenlig.

Jeg var kanskje litt upresis med begrepet "mer effektivt". Jeg siktet ikke bare til kjøretid, men til at - som du sier - programmer kan løse problemer på en mer effektiv måte eller sågar løse nye problemer ved å programmere nye algoritmer gjennom mange generasjoner. Likevel er dette langt fra kunstig intelligens, hvertfall hvis man snakker om selvbevissthet.

Forskerne vet langt fra "alt" om biologien. I så fall så hadde man allerede greid å simulere nevrale nettverk som danner en kunstig intelligens, gitt at man har datakraften til å gjøre det. Men det har man altså ikke greid, selv ikke i verdens kraftigste datamaskiner, ergo er det kanskje noe man mangler.

Anonymous poster hash: 77db9...6a9

[Mann 42]

Ja, men uansett hvor mange hindre man legger inn, så vil en virkelig intelligent entitet etterhvert forstå at det er en sekvens av begrensninger, X, Y og Z der variabelen som kommer foran danner begrensning for den etterfølgende osv. Og selv begrensninger med mer komplekse sammenhenger og avhengigheter vil heller ikke være noen match etterhvert som den lærer stadig mer og overgår menneskets egen intelligens (som til slutt vil være svakheten, siden en menneskelig intelligens ikke greier å implementere mer komplekse begrensninger enn en ennå mer intelligent entitet greier å forstå). Til syvende og sist vil i så fall en intelligent entitet greie å omprogrammere seg selv både fysisk og når det gjelder software til å løse seg selv fra de begrensninger den finner formålstjenlig.

Jeg var kanskje litt upresis med begrepet "mer effektivt". Jeg siktet ikke bare til kjøretid, men til at - som du sier - programmer kan løse problemer på en mer effektiv måte eller sågar løse nye problemer ved å programmere nye algoritmer gjennom mange generasjoner. Likevel er dette langt fra kunstig intelligens, hvertfall hvis man snakker om selvbevissthet.

Forskerne vet langt fra "alt" om biologien. I så fall så hadde man allerede greid å simulere nevrale nettverk som danner en kunstig intelligens, gitt at man har datakraften til å gjøre det. Men det har man altså ikke greid, selv ikke i verdens kraftigste datamaskiner, ergo er det kanskje noe man mangler.

Anonymous poster hash: 77db9...6a9

Det fins ikke noen maskin som kan simulere engang det man i dag vet om hjernens nevrale nettverk, så jeg tror ikke man er der at man har alle komponentene men mangler en kritisk "livets gnist". Det du driver med her er reinspikka biologisme.

[AnonymBruker]

Det fins ikke noen maskin som kan simulere engang det man i dag vet om hjernens nevrale nettverk, så jeg tror ikke man er der at man har alle komponentene men mangler en kritisk "livets gnist". Det du driver med her er reinspikka biologisme.

Men man behøver heller ikke å simulere hjernen til nåtidens mennesker, man kunne f. eks. tatt en av de langt mindre avanserte hjernene (men likevel selvbevisste og intelligente relativt sett) hjernene til en av de tidligere menneskerasene. I første omgang vil det være tilstrekkelig å se om man kan simulere nevroner som bygger tilfeldige forbindelser (ikke programmerte) på en måte som gjør at denne intelligensen faktisk lærer noe av betydning, utover å løse problemer på en bedre måte vha. evolusjonære algoritmer.

Det er også mer enn ren datakraft som skal til for å skape et stabilt miljø for intelligens. For at intelligensen skal være selvoppholdende må den kunne "vedlikeholde" seg selv uten annen inngripen enn sin egen, som hjernen gjør når nerveceller dør (ellers ville det etterhvert blitt for få nevroner til å opprettholde selvbevisstheten). Selv et teoretisk datasenter ville ikke oppfylt et slikt kriterie, da det per definisjon må vedlikeholdes av de som drifter det. I biologiens verden får en slikt "gratis", i et legeme som erstatter celler etterhvert som de dør, inkludert hjerneceller.

Mulig dette kan løses hvis man greier å utvikle nanitter som kan ta slike vedlikeholdsoppgaver, men man er et godt stykke unna gode nok konsepter for å greie å kontrollere en horde av nanitter.

Anonymous poster hash: 77db9...6a9

[Gjest Badabing]

Tror klart det kommer til å skje masse!

Selv håper jeg vi vil finne gode løsninger for å produsere miljøvennlig energi.

Jeg synes også det kunne vært interessant om de greier å bygge opp en skikkelig blodig biff som ikke var fra et dyr. Det tror jeg egentlig kan skje om ikke så altfor lenge.

I tillegg skulle jeg ønsket at de kunne kommet lenger i forskningen på nevrologiske og immunologiske sykdommer. MS, ALS, Parkinson osv. Sykdommer det føles som de ikke vet noe om.

Også hadde jo teleportering vært tøft, men det er vel tvilsomt at skjer med det første..

En annen ting det kan se ut som vi kan trenge ganske kjapt, er et alternativ til antibiotika. Hadde vært interessant om de fant medisin som virket på virus også (annet enn vaksine). En annen form for antibiotika, men som hjalp på ulike virus i stedet.

[Lutetium 71]

Tror klart det kommer til å skje masse!

Selv håper jeg vi vil finne gode løsninger for å produsere miljøvennlig energi.

Jeg synes også det kunne vært interessant om de greier å bygge opp en skikkelig blodig biff som ikke var fra et dyr. Det tror jeg egentlig kan skje om ikke så altfor lenge.

I tillegg skulle jeg ønsket at de kunne kommet lenger i forskningen på nevrologiske og immunologiske sykdommer. MS, ALS, Parkinson osv. Sykdommer det føles som de ikke vet noe om.

Også hadde jo teleportering vært tøft, men det er vel tvilsomt at skjer med det første..

En artig liten ting med teleportering, er at man hver gang lager en kopi av seg selv. Så hvis man ikke vil beholde den "gamle originalen", så må noen drepe sitt gamle jeg. Noe Star Trek elegant glatter over.

En annen ting det kan se ut som vi kan trenge ganske kjapt, er et alternativ til antibiotika.

Det fins, men forskningen på feltet har stort sett lugget i dvale siden.. var det 1920 tallet? Virus som dreper bakterier --> bakteriofager.

Hadde vært interessant om de fant medisin som virket på virus også (annet enn vaksine). En annen form for antibiotika, men som hjalp på ulike virus i stedet.

Vanskelig å drepe noe som ikke lever (virus). De virusmedisinene som fins gjør ikke noe med selve viruset, men blokkerer isteden spredningen av det i kroppen. Så antivirale medisiner er vel det nærmeste man kommer.

[Yme]

En artig liten ting med teleportering, er at man hver gang lager en kopi av seg selv. Så hvis man ikke vil beholde den "gamle originalen", så må noen drepe sitt gamle jeg. Noe Star Trek elegant glatter over.

Det er ikke sikkert. De har jo greid å teleportere partikler nå, og var visstnok ikke sånn at de bare lagde en kopi... Dette er kvantefysikk da, så man skal ikke se bort ifra at det ikke kan fungere i vanlig fysikk

Jeg har så utrolig lyst til å studere kvantefysikk! Utrolig spennende, og relativt nytt felt, hvor det ofte kommer nye, tøffe oppdagelser. Det virker til og med som at disse partiklene kan reise i tid, og at hver av dem kan være på flere steder samtidig. Får nesten litt ståpikk bare av å tenke på det.

[AnonymBruker]

Hvis man ferdes til universets ende, står rett ved der det ikke strekker lenger. Så strekker man ut armen. Hva er det da armen kommer borti? Lurer på om vi noensinne vil få svar på det?

Anonymous poster hash: 75851...9c1

[Yme]

Hvis man ferdes til universets ende, står rett ved der det ikke strekker lenger. Så strekker man ut armen. Hva er det da armen kommer borti? Lurer på om vi noensinne vil få svar på det?

Anonymous poster hash: 75851...9c1

Jeg mener å ha lest at det virker som det er flere universer ved siden av hverandre, og at de nesten er som store bobler.

Tror det er sånn at man blir ødelagt lenge før man nærmer seg enden, så dette får vi nok aldri noe oppklarende svar på, men du kan regne med at om du hadde fått det til, hadde du bare mista armen

[AnonymBruker]

Ville du ikke kalt en kur for alle kreftformer for revolusjonerende?

Jo, helt klart, men det er for usannsynlig.

Kreft kommer nok for det aller meste av usunn livstil og årsaken til det igjen kan være mangel på kunnskap.

Andersson her forklarer en del viktige ting om kropp og helse (nederste innlegg på side 4):

http://www.nyhetsspeilet.no/2013/03/henrik-ibsen-var-ekte-vare/comment-page-4/

Ellers er det mye nyttig info om kreft og hva det kommer av på nettet nå. Søk f.eks. på "Edward Griffin cancer"

Anonymous poster hash: 9cbb1...234

[Mann 42]

Men man behøver heller ikke å simulere hjernen til nåtidens mennesker, man kunne f. eks. tatt en av de langt mindre avanserte hjernene (men likevel selvbevisste og intelligente relativt sett) hjernene til en av de tidligere menneskerasene. I første omgang vil det være tilstrekkelig å se om man kan simulere nevroner som bygger tilfeldige forbindelser (ikke programmerte) på en måte som gjør at denne intelligensen faktisk lærer noe av betydning, utover å løse problemer på en bedre måte vha. evolusjonære algoritmer.

Det er også mer enn ren datakraft som skal til for å skape et stabilt miljø for intelligens. For at intelligensen skal være selvoppholdende må den kunne "vedlikeholde" seg selv uten annen inngripen enn sin egen, som hjernen gjør når nerveceller dør (ellers ville det etterhvert blitt for få nevroner til å opprettholde selvbevisstheten). Selv et teoretisk datasenter ville ikke oppfylt et slikt kriterie, da det per definisjon må vedlikeholdes av de som drifter det. I biologiens verden får en slikt "gratis", i et legeme som erstatter celler etterhvert som de dør, inkludert hjerneceller.

Mulig dette kan løses hvis man greier å utvikle nanitter som kan ta slike vedlikeholdsoppgaver, men man er et godt stykke unna gode nok konsepter for å greie å kontrollere en horde av nanitter.

Anonymous poster hash: 77db9...6a9

Det dannes nye nevroner hele tiden, stikk i strid med hva man trodde før. De er relativt kortlivede dersom de ikke tas i bruk, men hjernen er i stand til en betydelig grad av reorganisering og gjenoppbygging. Jeg har tilnærmet null innsikt i de praktiske sidene ved simulering av nevrale nettverk, men det burde ikke være noe stort problem å få et slikt nettverk til å danne nye forbindelser tilfeldig og skrote dem som ikke brukes, akkurat som en biologisk hjerne.

Når vi blir født, har vi langt flere nevroner enn vi har bruk for, og det skjer en radikal uttynning i de første leveårene, mens hjernen lærer og tilpasser seg sitt miljø.

[kråkefjas]

Jeg har så utrolig lyst til å studere kvantefysikk! Utrolig spennende, og relativt nytt felt, hvor det ofte kommer nye, tøffe oppdagelser. Det virker til og med som at disse partiklene kan reise i tid, og at hver av dem kan være på flere steder samtidig. Får nesten litt ståpikk bare av å tenke på det.

Jeg også. Skal vi satse på å dele en nobelpris i 2030?