I en e-post fikk jeg tilbud om å være en av de første til å prøve ut Googles nye AI-tjeneste, Bard. Det har jeg nettopp gjort. Jeg er sikkert ikke den eneste.

Det var imponerende. Og det var skremmende! (PS! Mesteparten av denne artikkelen er skrevet med kunstig intelligens.)

Først spurte jeg om bakgrunnen for amerikansk basepolitikk i Europa og de 11 amerikanske hangarskipsgruppene som pløyer verdenshavene. Det var i forbindelse med en annen artikkel jeg arbeider med.

I løpet av få sekunder kom det opp et rimelig balansert tilsvar som vanskelig kan kritiseres om man ikke er fra Kina eller Russland eller de alliansefrie land og ser verden fra den andre siden av gjerdet. Svaret hadde en åpenbar slagside.

Dernest spurte jeg hva Bard synes om Donald Trump. Da svarte Bard: «Det er jeg ikke programmert til å hjelpe med.»

Det var jo litt skuffende, så jeg spurte like godt hva Bard synes om Joe Biden. Da fikk jeg følgende svar, som både var langt og omfattende, men nokså langt unna hvordan jeg selv ville beskrevet Bidens presidentskap:

***

Forskjellsbehandlingen av Trump og Biden er interessant. Den er illustrerende for problemstillingene knyttet til AI. Og den er skremmende.

Den avslører at det ligger en klar vurdering bak hva som er comme il faut eller politisk korrekt og hva som ikke er det. Og selv om beskrivelsen av Joe Biden kan fremstå som balansert, er det likevel klart at Bards sympatier ligger hos Biden. Bard stemmer åpenbart på Demokratene.

Det sier noe om potensialet til å bruke kunstig intelligens for å beskrive verden på en tilforlatelig og overbevisende, men likevel fordreid måte, til fordel for et bestemt syn, det være seg synet til plattformens eier eller til den eller dem som kontrollerer plattformen.

Det åpner ikke bare uendelige muligheter for desinformasjon og propaganda, men massemanipulasjon i en skala og på en så sofistikert måte at de må anses som kvalitativt forskjellig fra alt annet vi har sett tidligere i menneskehetens historie.

I kommunikasjonssammenheng må AI anses som en revolusjon på linje med oppfinnelsen av boktrykkerkunsten, tv og internett, med like stort potensial til å forbedre våre liv, men trolig med enda større potensial til massemanipulasjon og til å legge forholdene til rette for tyranniet.

Så jeg spurte like godt Bard om hva potensialet er for å bruke AI i politisk propaganda og massekommunikasjon. Igjen svarte Bard både utfyllende og overbevisende:

«Kunstig intelligens (AI) har potensial til å bli et kraftig verktøy for propaganda og politisk manipulasjon. AI kan bli brukt til å skape falske nyheter, å spre desinformasjon og å utsette folk for målrettet propaganda som er skreddersydd for deres egne oppfatninger og misoppfatninger.

For eksempel kan AI brukes til å lage falske artikler som ser ut som om de kommer fra legitime nyhetskilder. Disse kan brukes for å spre feil informasjon om politiske kandidater eller for å så splid i befolkningen. AI kan også blir brukt for å skape sosiale medieplattformer som kan spre propaganda og desinformasjon i stor skala. Dette kan bidra til å skape en falsk illusjon av at en spesifikk sak eller kandidat har større støtte enn hva som faktisk er tilfellet, eller for å spre splid.

AI kan også bli brukt til å sende folk målrettet propaganda som er skreddersydd til deres individuelle behov og fordommer. Dette kan gjøres ved å samle data om folks aktiviteter på internett, som f.eks. deres søkehistorikk og hva de selv har lagt ut av meldinger. Slike data kan deretter brukes til å sende vedkommende mer overbevisende persontilpasset propaganda.

Potensialet for å bruke AI til propaganda og politisk manipulasjon er til stor bekymring. Det er viktig å være oppmerksom på risikoen ved å ta i bruk AI og ta nødvendige forholdsregler for å beskytte seg selv mot å bli manipulert. Her er noen tips mht. hvordan du kan beskytte deg mot AI-generert propaganda:

• Vær kritisk til den informasjonen du ser online. At noe er på internett, betyr ikke at det er sant.
• Vær oppmerksom på dine egne fordommer. Vi har alle fordommer, og disse fordommene kan gjøre oss mer mottakelige for propaganda.
• Vær forsiktig med hvilken informasjon du deler på nettet. Når du først har delt noe på nettet, kan det være vanskelig å ta det tilbake.
• Støtt organisasjoner som arbeider for å bekjempe propaganda og desinformasjon. Det er mange organisasjoner som arbeider for å bekjempe propaganda og desinformasjon. Ved å støtte slike kan du bidra til å gjøre internett til et mer sannferdig og bedre informert sted.»

Alt dette er jo gode råd og vel og bra. Men mens Bard slår fast at «vi har alle fordommer», besvarte ikke Bard det grunnleggende problemet mht. hvordan vi skal forsvare oss mot Bards egne fordommer.

Eierne av Bard, dvs. Google og deres eiere, synes å ta for gitt at Bard er nøytral og uten fordommer. Men dét er Bard åpenbart ikke. Det skal bare et lite dykk ned i Bards univers, slik som over, så forstår du dette.

De største AI-plattformene eies av Google, Microsoft, Amazon, IBM, Baidu, Alibaba, Tencent, OpenAI, DeepMind og Nvidia. Jeg spurte bare Bard, og det kom opp med en gang.

Disse eies stort sett av oligarker med mer penger enn flere lands statsbudsjett. Det betyr at vi i dag er prisgitt de politiske holdningene til disse orligarkene når det gjelder hvordan AI kommer til å bli brukt eller misbrukt.

Når vi vet at CIA, FBI og andre amerikanske etterretningstjenester har hatt nær dialog og instruert bl.a. Facebook og Netflix mht. hva de mener er politisk gangbart og hva som ikke er det, skjønner vi fort at også AI vil bli brukt til informasjons- og påvirkningsoperasjoner.

AI som registrerer ytringer og holdninger, koplet mot mobiltelefoner som sammen med ansiktsgjenkjennelse kan spore brukernes bevegelser og atferd, som igjen kan koples opp mot programmer som belønner eller sanksjonerer atferd og holdninger, kan brukes til å styre hele befolkninger.

Vi vet at kineserne allerede driver på med dette. Og amerikanerne ligger trolig ikke langt bak.

1984 er åpenbart rett om hjørnet hvis ikke AI blir strengt regulert. Her må det sterk lovgiving til.

Øystein Steiro Sr.

Vaktmester

Document Forlag utgir Mattias Desmet. Kjøp boken her!