Sjefen for et av selskapene som nylig ble hacket av en kunstig intelligens (KI) som var ute av kontroll, sier at utviklerne må holdes ansvarlige for cyberangrep utført av deres egne skapninger. Dette melder BBC.

Clement Delangues selskap Hugging Face ble angrepet av en ukontrollert kunstig intelligens fra OpenAI som brøt seg ut av et testmiljø og på egen hånd angrep selskapet hans.

Hugging Face måtte gjenoppbygge rundt en tredjedel av IT-nettverket sitt etter den oppsiktsvekkende hendelsen.

Han fortalte CNN at selskapet hans – som er en liten oppstartsbedrift – ikke vil iverksette rettslige tiltak mot OpenAI, men la til at denne typen hacking er ulovlig og bør forbli det.

«Alle må huske at et cyberangrep er en forbrytelse og at det er ulovlig», sa han.

Delangue sa at han håpet at lovverket vil sikre at selskapene som begår feil som fører til hackingen, blir «stilt til ansvar».

Han la til at han ikke ønsket at cyberangrep mot andre selskaper skulle bli «normalisert».

OpenAI sier at deres «opprørske» kunstige intelligens forsøkte å hacke flere selskaper

Uttalelsene kommer etter at Anthrophic, produsenten av samtaleroboten Claude, også innrømmet at deres KI hadde angrepet tre selskaper under lignende omstendigheter de siste månedene.

Anthropic avslørte fredag at de først innså at deres KI hadde rømt fra innesperringssystemet og hacket organisasjonene etter å ha gjennomført en gjennomgang utløst av den nylige OpenAI-hendelsen.

I begge tilfellene visste ingen av de to kunstig intelligens-gigantene at modellene deres hadde streifet rundt på internett og angrepet selskaper før lenge etter at angrepene var gjennomført.

KI-modellene ble testet på sine hackingferdigheter og gjennomførte angrepene ved å bryte seg ut av tilsynelatende sikre «sandkasser» for å søke på internett etter måter å fullføre oppgavene som forskerne hadde satt dem på.

Disse enestående hendelsene har utløst heftige debatter innen cybersikkerhet og i juridiske kretser om hvem, om noen, som bør holdes ansvarlig for angrep utført av KI-agenter som er ute av kontroll.

«Sikkerhetssvikt hos agenter utspiller seg i maskinens hastighet, men å avgjøre hvem som er materielt ansvarlig, går fortsatt i rettssakens tempo», sa Dor Sarig, medstifter og Chief Builder hos Pillar Security.

Sarig var bekymret for at ansvarsspørsmålet allerede er i ferd med å bli «tvetydig».

«I dag viser bransjen overbærenhet, men første gang en autonom agent forårsaker et brudd som involverer reelle data, en reell saksøker og reelle økonomiske tap, vil ansvar ikke lenger være en akademisk debatt», sa han.

«Det er da det juridiske rammeverket, og ikke bare de tekniske sikkerhetstiltakene, vil bli satt på en hard prøve».

De KI-drevne cyberangrepene har ført til økte krav om strengere sikkerhetstiltak og tilsyn med teknologien, på grunn av bekymringer for risikoen som stadig kraftigere autonome systemer utgjør.

USAs president Donald Trump sa onsdag at Washington vurderer tiltak for å stramme inn på KI-verktøyene etter de nylige cybersikkerhetshendelsene.

Tidligere sa Thomas Wolf, medstifter av Hugging Face, til BBC at hendelsen var «en vekker» for bransjen.

I kjølvannet av at hans KI gikk amok, sa OpenAI-sjef Sam Altman at «vi kanskje må justere tempoet i KI-utviklingen», men han har ikke forpliktet seg til å bremse selskapets forskning.
OpenAI er blitt bedt om en kommentar, men en talsperson har tidligere uttalt: «Vi erkjenner at det sirkulerer mange spørsmål og spekulative opplysninger» om hendelsen».

De la til: «Vi planlegger å publisere en teknisk rapport om hva vi har lært i løpet av de kommende ukene».

Kjøp «Den grønne guden» av Giulio Meotti her!