Skepsis vokser rundt Elon Musks AI-utopi

Teknologiledere hevder i økende grad at kunstig intelligens snart vil skape en verden av overflod som er i stand til å løse menneskehetens største utfordringer, fra klimaendringer til økonomisk knapphet. Med «teknologiledere» mener de det brede økosystemet av teknologiselskaper, forskere, oppfinnere, investorer og bransjejournalister hvis innovasjoner har omformet det moderne liv ved å gjøre det raskere, men ikke nødvendigvis bedre.

I et nylig intervju med The Economist sa Elon Musk at når menneskeheten har et «et stort antall roboter med enorm digital intelligens», vil den globale økonomien bli «nesten ubegrenset». I en slik verden, argumenterte han, «kan hvem som helst få hva de vil», og penger vil i stor grad bli irrelevante innen 2036 fordi alle vil ha en høy inntekt uten å måtte jobbe. Musk sammenlignet denne fremtiden med samfunnet etter knapphet som er skildret i Star Trek.

Drømmen om ubegrenset overflod

Musks visjon gjenspeiler en bredere ambisjon innen teknologibransjen: en fremtid der så å si hva som helst kan skapes med et knappetrykk eller en enkel stemmekommando. Det er den samme visjonen som ble popularisert av Star Trek, der fattigdom har forsvunnet, penger ikke lenger er nødvendig, og folks behov blir møtt uten anstrengelse.

Forfatteren husker at en venn en gang spurte: «Hvis du hadde en maskin som kunne lage hva som helst du ville og et fullstendig oppslukende virtual reality-rom, hvorfor skulle du noen gang reise?» Likevel brukte karakterene i Star Trek mye av tiden sin på å utforske nye sivilisasjoner og fjerne verdener.

Musk hevder at selv i et post-knapphetssamfunn ville noen fortsatt velge å jobbe, omtrent som noen fortsetter å drive hagearbeid til tross for at de kan kjøpe mat i et supermarked.

Et ubesvart spørsmål

Det mest slående elementet i Musks visjon er imidlertid hans forventning om at kunstig intelligens kan styre verden innen omtrent et tiår, med minimal menneskelig involvering.

Det reiser et åpenbart spørsmål: Hvis intelligente systemer styrer alt, hvordan skal selskaper fortsette å tjene penger? Vil selskaper i det hele tatt fortsette å eksistere?

Ifølge forfatteren tilbyr Musk ikke noe klart svar.

Et annet spørsmål følger naturlig nok. Hvis folk ikke lenger jobber, hvor skal de da få inntekten sin?

Musks svar er enkelt: myndighetene ville ganske enkelt sendt sjekker til innbyggerne.

Forfatteren ser en ironi i det forslaget. Musk ble tidligere med i USAs president Donald Trumps administrasjon for å bidra til å redusere offentlige utgifter gjennom Department of Government Efficiency. Likevel ligner fremtiden han nå beskriver en form for AI-drevet sosialisme, til tross for at han står urolig ved siden av sine nåværende politiske standpunkter.

Testen «vil skje»

Forfatteren peker på en utfordring skapt av AI-kritikeren Ed Zitron, som ber AI-entusiaster om å forklare hva dagens AI-modeller faktisk kan gjøre uten å bruke ordene «vil» eller «skal».

Ifølge forfatteren sliter de fleste AI-forkjempere med den øvelsen fordi argumentene deres i overveldende grad er avhengige av fremtidige løfter snarere enn nåværende evner.

Kan dagens AI-modeller styre verden?

Forfatteren argumenterer for at dagens store språkmodeller fortsatt er langt fra å levere Musks fremtidsvisjoner.

Etter hans syn gjør disse systemene fortsatt hyppige feil, og såkalte hallusinasjoner er ikke bare midlertidige feil, men er dypt forankret i hvordan modellene fungerer.

Han argumenterer også for at det intelligensnivået som kreves for å håndtere kritiske økonomiske systemer og infrastruktur ikke kan oppnås bare med store språkmodeller. Å betro dem til viktige sektorer i samfunnet, advarer han, kan skape katastrofer snarere enn velstand.

Hvem tjener egentlig på det?

Forfatteren er like skeptisk til ideen om at dagens teknologigiganter på en eller annen måte ville forsvinne når universell velstand kommer.

I stedet mener han at denne fortellingen er ment å berolige offentligheten samtidig som den avleder oppmerksomheten fra de reelle konsekvensene av å utvide utplasseringen av AI.

Etter hans syn er de mest lønnsomme bruksområdene for kunstig intelligens i dag overvåkingssystemer og militærteknologi, der myndighetene ser ut til å være villige til å absorbere høye kostnader i bytte mot større sikkerhets- og forsvarskapasiteter, selv når slike systemer fortsetter å gjøre feil.

Høye kostnader og usikker lønnsomhet

Forfatteren erkjenner at bedrifter og forbrukere allerede drar nytte av AI på noen områder, særlig ved å forbedre internettsøk.

Han argumenterer imidlertid for at den virkelige kostnaden ved disse fordelene er langt høyere enn det brukerne betaler i dag.

Hver ekstra bruker krever mer datakapasitet og nye datasentre, noe som betyr at AI ikke ser ut til å ha de samme stordriftsfordelene som tradisjonelle digitale virksomheter. I stedet fortsetter kostnadene å stige etter hvert som brukerbasen utvides.

Derfor mener han at nåværende AI-modeller til slutt bare kan bli lønnsomme i spesialiserte applikasjoner der kundene er villige til å betale den fulle økonomiske kostnaden.

Konklusjon

Forfatteren konkluderer med at teknologiledere har brukt årevis på å gjenta i hovedsak det samme budskapet: stol på oss, og la oss lede deg mot en mer velstående teknologisk fremtid.

Etter hans syn er dagens løfter rundt kunstig intelligens en del av en bredere innsats for å overtale publikum til å omfavne dens raske ekspansjon uten å diskutere risikoene og potensielt misbruk tilstrekkelig.

Han bemerker at mange lokalsamfunn allerede har begynt å motsette seg byggingen av flere AI-datasentre på grunn av kostnadene og innvirkningen på lokalsamfunnene. Den samme debatten, argumenterer han, bør også omfatte hvordan kunstig intelligens i seg selv brukes og hvordan misbruk av den kan forhindres.