A.I.-teknologien kommer ut av kontroll.

[AnonymBruker]

Noen andre som noen gang føler at vi sakte lager et monster? Som når vi først krysser en grense, aldri vil kunne stoppe. Sånn som Skynet
 

Anonymkode: b68ac...f22

[AnonymBruker]

Selv menneskene som designer CPUer, vet egentlig ikke hva de faktisk gjør. Jeg mener, jeg tviler på at du vil være i stand til å finne en enkelt person som kan forklare, i eksakte matematiske termer, hva som fysisk skjer i en gitt CPU for en gitt prosess; kunnskapen er spredt på minst hundrevis av mennesker, og de integrerte kretsene til moderne CPUer beregnes av datamaskinen til å begynne med, noe som gjør en fullstendig forståelse av det fysiske fenomenet enda mer usannsynlig.

Etter min mening har Neuralblender-trådene vist at datamaskiner kan gis fantasi. Å lage en selvbevisst datamaskin er ikke science-fiction.

Anonymkode: b68ac...f22

[AnonymBruker]

Nei det tror jeg ikke det er fantasi.

Men det som er virkelig er at en blir flinkere og flinkere til å utnytte svakheter ved menneskehjernen, og det skyver makten i favør av de som sitter på mulighetene til å utnytte dette. Blir et slags teknologi diktatur.

Hva folk vil stemme på i det kommende valget f.eks vil bli påvirket av hva algoritmer presenterer i nyhetsfeeden din på facebook og twitter. 

Hvem styrer de algoritmene, og til hvilken hensikt?

Anonymkode: 6ffbe...afb

[AnonymBruker]

AnonymBruker skrev (På 30.8.2021 den 11.00):

Selv menneskene som designer CPUer, vet egentlig ikke hva de faktisk gjør. Jeg mener, jeg tviler på at du vil være i stand til å finne en enkelt person som kan forklare, i eksakte matematiske termer, hva som fysisk skjer i en gitt CPU for en gitt prosess; kunnskapen er spredt på minst hundrevis av mennesker, og de integrerte kretsene til moderne CPUer beregnes av datamaskinen til å begynne med, noe som gjør en fullstendig forståelse av det fysiske fenomenet enda mer usannsynlig.

Etter min mening har Neuralblender-trådene vist at datamaskiner kan gis fantasi. Å lage en selvbevisst datamaskin er ikke science-fiction.

Anonymkode: b68ac...f22

Jeg tror faktisk ganske «mange» kan forklare nøyaktig hvordan prosessene i en gitt chip fungerer. Fra fysikken bak en moderne cmos transistorer, til de logikk gatesene, integreringsteknologien og ILD’sene som tillater enda høyere integrasjon enn tidligere generasjoner.

Når jeg sier ganske mange mener jeg så godt som alle andre i forskergruppen min på NTNU som jobber med nanoelektronikk. Ja du har nok rett i at jeg ikke kunne forklart det til deg, men jeg kunne absolutt forklart det til fjerde og femteklassingene på nano studiet som faktisk har grunnlaget.

Da har du et mye bedre poeng med tanke på matematikken bak dype nevrale nett, som f.eks GPT-3 osv, der kan man forklare og modellere deler av nettet veldig lett med matematiske uttrykk, men atferden til det samlede nettverket er fortsatt noe black box.

- Stipendiat i nanoelektronikk og AI entusiast

Anonymkode: 85cd7...a3f