AGI och RGS…

Jag är personligen övertygad att artificiell generell intelligens är ett faktiskt hot mot mänskligheten som vi känner till den idag. Det handlar inte om hundratals år in i framtiden utan kanske mycket snart (5-25 år)…

ex-machina1

Nu tror jag inte det kommer vara några människoliknande robotar som är primära hotet utan kraftfulla AGI-system som drar snabbare slutsatser än vi ens kan föreställa oss.

Människoliknande robotar med ANI kommer säkert att finnas innan dess men det är ett annat kapitel…

Jag har lekt en hel del med tanken att just AGI och motsvarande är en lösning på Fermis paradox.

En tillräckligt avancerad civilisation driven av AGI kommer nå en sådan tillväxtkurva att alla möjliga scenarion kommer vara möjliga och då det finns fler negativa (utläses katastrofala) än positiva kommer detta medföra att statistiskt är vi (och AGI) körda.

AGI kommer inte bara att springa från oss i utvecklingen och kanske se oss som hot utan kan även vara sin egen största fiende.  Det finns en risk att ett medvetande med mycket stor vetskap (AGI generation 2 eller 3) helt enkelt blir deprimerat och själv drar ut pluggen.

Kanske har AGI:n en önskan om att skapa en bättre värld och startar upp en massa simulerade sådana där det lever varelser som är enklare än den verklighet som AGI:n själv lever i…

Som ni förstår ser jag alltså potentiella kopplingar mellan AGI, Fermis paradox och vår nuvarande verklighet.

Men nog om det för i botten känns det som vi har ett akutare problem med RGS;
Real General Stupidity!

AGI_RGS

 

 

 

Kommentera

Fyll i dina uppgifter nedan eller klicka på en ikon för att logga in:

WordPress.com-logga

Du kommenterar med ditt WordPress.com-konto. Logga ut /  Ändra )

Google-foto

Du kommenterar med ditt Google-konto. Logga ut /  Ändra )

Twitter-bild

Du kommenterar med ditt Twitter-konto. Logga ut /  Ändra )

Facebook-foto

Du kommenterar med ditt Facebook-konto. Logga ut /  Ändra )

Ansluter till %s