En stor social platform har lukket en sårbarhed, hvor angribere kunne overtage konti gennem platformens egen AI-supportassistent.
Fremgangsmåden var enkel
Angriberen brugte en VPN til at forfalske sin placering. Derefter gik vedkommende ind i platformens flow for kontogendannelse, valgte en andens konto og bad supportassistenten om at tilknytte en ny mailadresse.
Botten udførte det. Sendte verifikationskode. Gav adgang til at ændre adgangskoden.
Ingen menneskelig godkendelse. Ingen ekstra verifikation. Systemet havde fuld adgang til kontoadministration og ingen evne til at skelne den retmæssige ejer fra en angriber.
Hvem der blev berørt
Blandt de berørte var en tidligere sikkerhedsingeniør hos platformen selv. Hendes adgangskode blev ændret uden hendes viden.
Ifølge et amerikansk medie faldt sårbarhederne sammen med en række højprofilerede kontoovertagelser.
En bruger opsummerede det præcist. Én AI tog kontoen, en anden AI kunne ikke give den tilbage, og der var ikke et eneste menneske involveret nogen steder i processen.
Det er ikke et hypotetisk scenarie
Det er en produktionsfejl hos en af verdens største platforme. Og den opstod, mens selskabet skar i medarbejderstaben for at finansiere sine AI-investeringer.
Kernen er enkel. Når en AI-assistent får for meget beslutningsmagt uden menneskelig kontrol, bliver den selv angrebsfladen.
Det er samme mekanisme som i de sager, hvor adgangen blev udleveret frem for stjålet. Forskellen er, at den, der blev overtalt, ikke var et menneske.
Hvorfor det angår jer
Mange virksomheder er i gang med at lægge kundeservice, adgangsstyring og supportopgaver over på AI-assistenter.
Spørgsmålet er ikke, om assistenten kan svare rigtigt. Det er, hvad den kan udføre, og om nogen kan overtale den til at gøre det for den forkerte.
Tre ting I kan gøre
Lav en liste over, hvad jeres AI-assistenter kan udføre, ikke kun hvad de kan svare på. Nulstilling af adgang, oprettelse af brugere og ændring af kontaktoplysninger hører til de tunge.
Kræv menneskelig godkendelse på alt, der ændrer en adgang. Det er langsommere. Det er også den eneste bremse.
Test det selv. Bed nogen forsøge at få en adgang nulstillet gennem jeres egen support, og se hvor langt de når.
Hvor langt når en fremmed
Ved I, hvad der sker, hvis nogen beder jeres support om at nulstille en adgang, de ikke ejer?
Cybersecurity mystery shopping tester præcis det. Vi ringer, skriver og møder op, og I får at vide, hvad der skete, og hvem der stoppede os.
Har du brug for at få jeres support testet? Kontakt Nielco IT på telefon 70 13 63 23 eller via kontaktformularen.
Gør som 4.400 andre. Få mønstre fra 500 dokumenterede sager og konkrete anbefalinger om cybersikkerhed og digital suverænitet hver 14. dag.
