Artificiell intelligens på gott och ont

Artificiell intelligens (AI) har revolutionerat många branscher, men den har också skapat nya möjligheter för cyberkriminella att utföra e-postbedrägerier. AI-drivna bedrägerier blir alltmer sofistikerade och svårare att upptäcka, vilket utgör ett hot mot både privatpersoner och företag.

Artificiellt fiske

‍Phishing är en typ av cyberattack som innebär att offren luras att avslöja känslig information som lösenord, kreditkortsinformation eller personnummer. AI kan användas för att automatisera phishingprocessen, vilket gör den effektivare och mer skalbar för brottslingar. AI-algoritmer kan till exempel användas för att generera personliga phishing-meddelanden som är utformade för att verka legitima och är riktade mot specifika individer eller organisationer. En av de vanligaste formerna av AI-drivet nätfiske kallas "spear phishing". Denna typ av nätfiske innebär att AI-algoritmer används för att analysera offentlig data och personlig information i syfte att utforma målinriktade nätfiskemejl. AI-algoritmerna kan generera verklighetstrogna e-postmeddelanden som är specifikt riktade till den avsedda måltavlan och som innehåller information som är skräddarsydd för dennes intressen eller yrkesroll.

Vem är vem?

‍Ett annat sätt AI används för nätfiske är genom skapandet av deepfake-videor. Deepfake-videor är syntetiska videor där AI-algoritmer används för att, på ett realistiskt sätt, placera en persons ansikte på en annan persons kropp. Kriminella kan använda deepfake-videor för att utge sig för att vara betrodda personer eller organisationer i phishing-bedrägerier. En brottsling kan till exempel skapa en deepfake-video av en vd som ber anställda att överföra pengar till ett nytt bankkonto, eller en video av en myndighetsperson som ber om känslig information.

Ett större fångstnät

‍AI används också för att automatisera e-postbedrägerier, vilket gör det lättare för brottslingar att nå ett stort antal målgrupper på kort tid. AI-algoritmer kan till exempel användas för att generera falska jobberbjudanden, investeringsmöjligheter eller lotterivinster i form av e-postmeddelanden. AI-algoritmerna kan analysera offentliga data och personlig information för att skapa verklighetstrogna e-postmeddelanden som är utformade för att lura offret att skicka pengar eller avslöja känslig information.

Sammanfattningsvis

AI har öppnat upp nya möjligheter för cyberkriminella att utföra phishing och e-postbedrägerier. I takt med att AI-tekniken fortsätter att utvecklas blir det allt svårare för individer och organisationer att upptäcka och försvara sig mot dessa typer av attacker. För att skydda sig mot AI-drivna bedrägerier bör individer vara vaksamma när det gäller oönskade e-postmeddelanden och aldrig avslöja känslig information eller skicka pengar till okända personer eller organisationer. Företag bör investera i avancerade säkerhetslösningar som kan upptäcka och förhindra AI-genererade phishing och e-postbedrägerier.

Hellre “djävulen” du känner

‍Tankeväckande läsning, inte sant? Men vänta, det kommer mer… Vi testade att, som ett experiment, AI-generera ett stycke text på temat “AI-genererade bedrägerier” och resultatet av experimentet är den text du har framför dig, minus detta avslutande stycke. Framtiden är således redan här, och kan te sig både opålitlig och hotfull. Det är dock viktigt att inte lamslås av vad som kan framstå som ett fundamentalt paradigmskifte, en s.k. game changer. Ur ett annat perspektiv är det vi nu ser bara en fortsättning på den kapprustning mellan cyberbrottslighet och IT-säkerhet som pågått i flera decennier. Vi i Nimblr övervakar utvecklingen på detta område, och är övertygade om att en pedagogisk och medvetandehöjande IT-säkerhetsutbildning - parallellt med tekniska lösningar - är det bästa sättet att möta både nutida och framtida säkerhetsrisker. AI är, precis som vanlig intelligens, ett verktyg som kan användas till både gott och ont, och samma teknologi som används i bedrägligt syfte kan även användas för att skydda oss mot bedrägerier.