Kan vi undvika att förgöra oss själva?

Diskutera allmänt om vetenskap, pseudovetenskap och folkbildning, t.ex. vetenskapsteori eller forskningspolitik.
Användarvisningsbild
Printzensköld
Inlägg: 338
Blev medlem: ons 04 jun 2014, 20:11

Kan vi undvika att förgöra oss själva?

Inlägg av Printzensköld » tis 06 apr 2021, 11:56

stefan_radstrom skrev:
tis 06 apr 2021, 09:07
Frågan är högst sannolikt inte ifall det går att ge upphov till en Generell Artificiell Intelligens med känslor och (själv)medvetande, utan ifall vi människor hinner göra det innan vår egen arts intelligens har degenererat (negativ Flynn-effekt) så till den grad att vi inte är smarta nog att konstruera den innan vi antagligen förstör oss själva. Såvitt jag (vi?) vet har sådana varelser bara utvecklats en enda gång under ca fyra miljarder års evolution på denna planet, så det är nog oerhört svårt att göra, men alltså inte omöjligt.
Intressant perspektiv som förtjänar en egen tråd. Jag har spekulerat i hur vi med extrapolerad teknologisk utveckling och tillgänglighet (t.ex. möjlighet att hemma i källaren bygga domedagsmaskiner eller manipulera virus) i kombination med fria individer ska kunna förhindra att en enskild person kan förgöra mänskligheten i framtiden, eller iaf skapa massiv förödelse på en helt annan skala än man kan idag. Om medlen och tillgängligheten fanns idag skulle ju antagligen någon enstaka galning redan ha gjort det. Kommer kanske medlen, tillgängligheten och tillräckligt många fritt agerande galningar oundvikligen samexistera i framtiden?

Kan det vara en "naturlag" att alla civilisationer med ohämmad teknologisk utveckling förgör sig själva genom en slumpartad outlier förr eller senare?

Tycker att detta scenario möjligen förtjänar samma nivå av uppmärksamhet och oro som superintelligenta AI'n.

Användarvisningsbild
Vitnir
Inlägg: 4438
Blev medlem: tor 31 mar 2005, 17:08
Kontakt:

Re: Kan vi undvika att förgöra oss själva?

Inlägg av Vitnir » tis 06 apr 2021, 14:45

Ja det är en frågeställning som är väldigt populär inom science fiction och allehanda datorspel. Vi får väl försöka göra vårt bästa att de värsta scenarierna inte blir verklighet.

Jag hoppas väl ändå på att demokratierna i världen kan samarbeta för att tackla de stora frågorna även om det finns länder som aktivt motarbetar det.
There is no spoon.

Användarvisningsbild
Printzensköld
Inlägg: 338
Blev medlem: ons 04 jun 2014, 20:11

Re: Kan vi undvika att förgöra oss själva?

Inlägg av Printzensköld » tis 06 apr 2021, 15:12

Det talas ofta om att vi kommer att förgöra oss själva på ett systematiskt sätt. Genom krig eller miljöförstöring. Att vi gör det på bred front mot vår egen vilja. Det jag talar om är inte samma sak, och jag har personligen inte sett den aspekten utforskas, men du får gärna tipsa om filmer mm där temat förekommer.

Det handlar om att teknologin blir så pass kraftfull, lättillgänglig och lätthanterlig att det inte längre behövs stora grupper av många samarbetande individer för att orsaka stor skada. Man kan tänka sig att man försöker hålla kunskap dold, eller göra teknik mindre lättillgänglig genom restriktioner och globalt samarbete som du säger. Men går det egentligen i längden? Om teknologin blir lättare och lättare att behärska på alla områden och nivåer ner till subatomär nivå kommer man ju tillslut alltid kunna göra en manual till ett domedagsvapen som nästan vem som helst kan följa.

3D-utskrift av skjutvapen är väl en lättare och mer närstående variant av det scenario jag menar.

Användarvisningsbild
Vitnir
Inlägg: 4438
Blev medlem: tor 31 mar 2005, 17:08
Kontakt:

Re: Kan vi undvika att förgöra oss själva?

Inlägg av Vitnir » ons 07 apr 2021, 06:14

Tekniken för att driva utvecklingen åt det hållet finns onekligen. Ryssland har använt vårt öppna system för destabilisera demokratierna med hjälp av våra sociala nätverk till exempel, de har haft god hjälp av andra krafter men de arbetar aktivt på det. Nordkorea finansierar en del av sin statsbudget genom att hacka och utpressa företag. Relativt små grupper kriminella ställer till med stora problem genom hacking generellt. Det är en teknik som inte kräver någon större investering, vem som helst kan i princip sköta det från en vanlig dator.
Och visst kan man tänka sig skrivare som i framtiden kan sätta ihop virus i terrorsyfte på samma sätt som man kan få skrivaren att skriva ut vaccin.

Det finns väl några filmer även om sådan science fiction gör sig bättre i bokform. Star Trek-franschisen är väl den optimistiska polen där där mänskligheten genom samarbete har löst alla problem på jorden.
Serenity, Mad Max, Resident Evil, De tolv apornas arme, Terminator är exempel på motsatsen.
There is no spoon.

Skriv svar