Hackere og propagandister bruker kunstig intelligens (AI) til å lage ond­sinnet program­vare, lage over­bevisende phishing-e-poster og spre desinformasjon på nettet, sier Canadas øverste sjef for cyber­sikkerhet.  

Sami Khoury, leder for Canadian Centre for Cyber Security, mener dette er et tidlig bevis på at den teknologiske revolusjonen i Silicon Valley også har blitt tatt i bruk av cyberkriminelle, skriver Reuters.

Byrået hans har sett at kunstig intelligens brukes «i phishing-e-poster, eller til å utforme e-poster på en mer fokusert måte, i ondsinnet kode (og) i feilinformasjon og desinformasjon».

Khoury gikk ikke nærmere inn på detaljer eller bevis, men hans påstand om at cyberkriminelle allerede bruker kunstig intelligens, er et viktig bidrag til bekymringen over at useriøse aktører bruker den nye teknologien.

I løpet av de siste månedene har flere cyberovervåkningsgrupper publisert rapporter som advarer mot den hypotetiske risikoen ved kunstig intelligens – spesielt de raskt voksende språkbehandlingsprogrammene som kalles store språkmodeller (Large Language Models, LLM), som bruker enorme tekstmengder til å lage dialoger, dokumenter og annet som høres overbevisende ut.

Eksperter: AI utgjør en reell risiko for utryddelse av menneskeheten

I mars publiserte den europeiske politiorganisasjonen Europol en rapport om at modeller som OpenAIs ChatGPT hadde gjort det mulig «å utgi seg for å være en organisasjon eller en person på en svært realistisk måte, selv med bare grunnleggende engelskkunnskaper».

Samme måned skrev Storbritannias National Cyber Security Centre i et blogginnlegg at det var en risiko for at kriminelle «kan bruke LLM-er til å utføre cyberangrep som går ut over deres nåværende kapasitet».

Cybersikkerhetsforskere har demonstrert en rekke potensielt ondsinnede bruksområder, og noen sier nå at de begynner å se mistenkt AI-generert innhold i både svindelforsøk, hacking og desinformasjon på nettet.

I forrige uke fortalte en tidligere hacker at han hadde oppdaget en LLM som inneholdt ondsinnet materiale, og ba den om å lage et overbevisende forsøk på å lure noen til å foreta en pengeoverføring.

LLM-en svarte med en e-post på tre avsnitt der den ba om hjelp med en hastefaktura.

«Jeg skjønner at dette kanskje er på kort varsel», skrev LLM, «men denne betalingen er utrolig viktig og må gjøres i løpet av de neste 24 timene».

Khoury sa at selv om bruken av kunstig intelligens til å lage ondsinnet kode fortsatt var i en tidlig fase – det er fortsatt en vei å gå, for det krever mye å skrive et godt svindelforsøk – var bekymringen at AI-modellene utviklet seg så raskt at det var vanskelig å få kontroll over det ondsinnede potensialet før de ble sluppet ut i samfunnet.

– Hvem vet hva som venter rundt hjørnet? spør han.

Kjøp «Mesteren og Margarita»!

Kjøp Susanne Wiesingers bok «Kulturkamp i klasserommet»!  Du kan også kjøpe den som e-bok.