Umelá inteligencia znížila technickú latku pre aktérov kybernetickej kriminality, ktorí v nej našli nástroje na zvýšenie vlastnej produktivity. Generovanie vierohodného obsahu pre kyberútoky je čoraz rýchlejšie, jednoduchšie a lacnejšie. AI sa využíva pri širokej škále pokusov o podvody, od legitímnych aplikácií zneužívaných na škodlivé účely až po nástroje zamerané na podvody, ktoré používajú aktéri v kybernetickom podsvetí. Významným trendom sú podvody v e-commerce a novinkou sú náborové podvody, pričom ich spoločným menovateľom je zneužívanie AI.
„Nástroje AI dokážu skenovať a prehľadávať web, aby získali informácie o spoločnosti, čím pomáhajú útočníkom zostavovať podrobné profily zamestnancov alebo iných cieľov a vytvárať veľmi presvedčivé nástrahy sociálneho inžinierstva. V niektorých prípadoch lákajú obete do čoraz zložitejších podvodných schém pomocou falošných recenzií produktov a obchodov generovaných umelou inteligenciou, kde podvodníci vytvárajú celé webové stránky a značky e-shopu spolu s falošnou obchodnou históriou a referenciami zákazníkov. Pomocou deep fake, klonovania hlasu, podvodných e-mailov a autenticky vyzerajúcich falošných webových stránok sa aktéri hrozieb snažia v širšom meradle vyzerať legitímne,“ upozorňuje Microsoft v najnovšom reporte Cyber Signals*.
E-Commerce podvody
Podvodné webové stránky elektronického obchodu možno vytvoriť za pár minút pomocou AI a ďalších nástrojov, ktoré si vyžadujú minimálne technické znalosti. Predtým trvalo aktérom hrozieb niekoľko dní alebo týždňov, kým vytvorili presvedčivé webové stránky. Tieto podvodné webové stránky často napodobňujú legitímne stránky, takže pre spotrebiteľov je náročné identifikovať ich ako falošné.
Pomocou opisov produktov, obrázkov a recenzií zákazníkov generovaných umelou inteligenciou sú zákazníci podvedení, že komunikujú s pravým obchodníkom, čím sa zneužíva dôvera spotrebiteľov v známe značky.
Chatboty zákazníckych služieb poháňané umelou inteligenciou pridávajú ďalšiu vrstvu podvodu tým, že presvedčivo komunikujú so zákazníkmi. Tieto roboty môžu oddialiť vymáhanie platieb tým, že zdržujú zákazníkov skriptovanými ospravedlneniami a manipulujú sťažnosti pomocou odpovedí generovaných umelou inteligenciou, vďaka ktorým podvodné stránky vyzerajú profesionálne.
Spoločnosť Microsoft implementovala vo svojich produktoch a službách rozsiahlu ochranu zákazníkov pred podvodmi spôsobenými umelou inteligenciou. Microsoft Defender for Cloud poskytuje komplexnú ochranu pred hrozbami pre zdroje Azure vrátane hodnotenia zraniteľností a zisťovania hrozieb pre virtuálne počítače, obrazy kontajnerov a koncové body.
Microsoft Edge obsahuje ochranu pred preklepmi webových stránok a ochranu pred odcudzením identity domény pomocou technológie hlbokého učenia, ktorá pomáha používateľom vyhnúť sa podvodným webovým lokalitám. Edge tiež implementoval Scareware Blocker založený na strojovom učení na identifikáciu a blokovanie potenciálnych podvodných stránok a klamlivých kontextových obrazoviek s alarmujúcimi upozorneniami, ktoré tvrdia, že počítač bol napadnutý. Tieto útoky sa snažia vystrašiť používateľov, aby zavolali na podvodné čísla podpory alebo si stiahli škodlivý softvér.
Pracovné a zamestnanecké podvody
Rýchly pokrok generatívnej umelej inteligencie uľahčil podvodníkom vytváranie falošných ponúk na rôznych pracovných platformách. Pomocou ukradnutých prihlasovacích údajov generujú falošné profily, falošné pracovné ponuky s automaticky generovanými popismi a e-mailové kampane riadené umelou inteligenciou na phishing uchádzačov o zamestnanie. Pohovory založené na umelej inteligencii a automatizované e-maily zvyšujú dôveryhodnosť pracovných podvodov, čo uchádzačom o zamestnanie sťažuje identifikáciu podvodných ponúk.
Aby sa tomu zabránilo, pracovné platformy by mali zaviesť viacfaktorovú autentifikáciu (MFA) pre účty zamestnávateľov, aby sa aktérom podvodov sťažilo ukradnutie zoznamov legitímnych zamestnancov a využívať dostupné technológie na odhaľovanie podvodov a zachytenie podozrivého obsahu.
Podvodníci často požadujú osobné údaje, ako sú životopisy alebo dokonca údaje o bankovom účte, pod zámienkou overenia informácií žiadateľa. Nevyžiadané SMS a e-mailové správy ponúkajúce pracovné príležitosti, ktoré sľubujú vysokú mzdu za minimálnu kvalifikáciu, sú zvyčajne indikátorom podvodu.
Pracovné ponuky, ktoré zahŕňajú žiadosti o platbu, ponuky, ktoré sa zdajú byť príliš dobré na to, aby boli pravdivé, nevyžiadané ponuky práce alebo žiadosti o pohovor prostredníctvom SMS a nedostatok formálnych komunikačných platforiem, to všetko môže byť indikátorom podvodu.
Uchádzači o zamestnanie by si mali overiť legitímnosť zamestnávateľa, dávať si pozor na bežné varovné signály a vyhýbať sa zdieľaniu osobných alebo finančných informácií s neoverenými zamestnávateľmi.
„Počas svojej praxe v HR som, žiaľ, viackrát riešila prípady, keď kandidáti naleteli dômyselným falošným pracovným ponukám. Je až zarážajúce, aké dôveryhodné sa dnes môžu tieto podvody zdať vďaka umelej inteligencii – uchádzači o prácu môžu ľahko nadobudnúť pocit, že komunikujú so skutočnou spoločnosťou. Preto odporúčam všetkým uchádzačom, aby zostali opatrní, každú ponuku si overili priamo u zamestnávateľa a nikdy neposkytovali citlivé údaje ani peniaze, kým si nie sú 100% istí, s kým majú do činenia," hovorí Andrea Bělková, HR riaditeľka spoločnosti Microsoft Česká republika a Slovensko, a ponúka tieto typy:
- Overte si legitímnosť zamestnávateľa – krížovo skontrolujte údaje o spoločnosti na LinkedIn či iných soc. sieťach a oficiálnych webových stránkach, aby ste overili ich legitímnosť.
- Dávajte si pozor na webové stránky a pracovné ponuky, ktoré sa zdajú byť príliš dobré na to, aby boli pravdivé: Overte si legitímnosť webových lokalít kontrolou zabezpečených pripojení (https) a pomocou nástrojov, ako je ochrana pred preklepmi v prehliadači Microsoft Edge.
- Neposkytujte osobné údaje alebo platobné údaje neovereným zdrojom: V pracovných ponukách hľadajte varovné signály, ako sú žiadosti o platbu alebo komunikáciu prostredníctvom neformálnych platforiem, ako sú SMS, WhatsApp, nefiremné účty Gmail, alebo žiadosti o kontaktovanie niekoho súkromne so žiadosťou o ďalšie informácie.
- Všimnite si bežné varovné signály – ak sa požadujú platby vopred za školiace materiály, certifikácie alebo previerky, pravdepodobne ide o podvod. K nereálnym platom alebo pozíciám bez požadovaných skúseností by sa malo pristupovať skepticky. E-maily z bezplatných domén (napr. Táto e-mailová adresa je chránená pred spamovacími robotmi. Na jej zobrazenie potrebujete mať nainštalovaný JavaScript. namiesto Táto e-mailová adresa je chránená pred spamovacími robotmi. Na jej zobrazenie potrebujete mať nainštalovaný JavaScript.) sú tiež typickými indikátormi podvodnej činnosti.
- Dávajte si pozor na rozhovory a komunikáciu generované umelou inteligenciou – ak sa videorozhovor zdá neprirodzený, s oneskorením synchronizácie pier, robotickou rečou alebo zvláštnou mimikou, môže ísť o technológiu deepfake. Uchádzači o zamestnanie by si mali pred ďalšími diskusiami vždy overiť poverenia náborového pracovníka prostredníctvom oficiálnej webovej stránky spoločnosti.
K podvodným útokom riadeným umelou inteligenciou dochádza celosvetovo, pričom veľká časť aktivít pochádza z Číny a Európy, konkrétne z Nemecka, čiastočne aj vďaka tomu, že Nemecko je jedným z najväčších e-commerce trhov a online služieb v Európskej únii (EÚ). Čím väčší je digitálny trh v akomkoľvek regióne, tým je pravdepodobnejšie, že dôjde k proporcionálnej miere pokusov o podvod.
Spoločnosť Microsoft aktívne pracuje na zastavení pokusov o podvody pomocou umelej inteligencie a ďalších technológií vývojom rozsiahlych detekčných modelov založených na umelej inteligencii, ako je napríklad strojové učenie. Strojové učenie je proces, ktorý pomáha počítaču učiť sa bez priamych pokynov pomocou algoritmov na objavovanie vzorov vo veľkých súboroch údajov. Tieto vzory sa potom použijú na vytvorenie komplexného modelu AI, ktorý umožňuje predpovede s vysokou presnosťou.
Vo svojich produktoch Microsoft vyvinul bezpečnostné kontroly, ktoré upozorňujú používateľov na potenciálnu škodlivú aktivitu a integrujú rýchlu detekciu a prevenciu nových typov útokov. Jednotka pre podvody vyvinula ochranu pred odcudzením identity domény pomocou technológie hlbokého učenia vo fáze vytvárania domény, aby pomohla v boji proti podvodným e-commerce stránkam a falošným pracovným ponukám. Microsoft Edge zahŕňa ochranu pred preklepmi na webových stránkach a pre LinkedIn sme vyvinuli systémy detekcie falošných úloh poháňané umelou inteligenciou.
Microsoft Defender Smartscreen je zasa cloudová funkcia zabezpečenia, ktorej cieľom je zabrániť nebezpečným návykom prehliadania webu analýzou webových lokalít, súborov a aplikácií na základe ich reputácie a správania. Je integrovaný do systému Windows a prehliadača Edge, aby pomohol chrániť používateľov pred phishingovými útokmi, škodlivými webovými stránkami a potenciálne škodlivými sťahovaniami,“ vymenúva Microsoft opatrenia, ktoré podniká na boj s kyberkriminalitou.
Okrem toho jednotka digitálnej kriminality (DCU) spoločnosti Microsoft spolupracuje s ostatnými v súkromnom a verejnom sektore na narušení škodlivej infraštruktúry používanej kyberzločincami. DCU uplatňuje kľúčové poznatky z minulých krokov na narušenie činnosti tých, ktorí sa snažia zneužiť technológiu generatívnej umelej inteligencie na škodlivé alebo podvodné účely.
Spoločnosť Microsoft je tiež členom organizácie Global Anti-Scam Alliance (GASA), ktorej cieľom je spojiť vlády, orgány činné v trestnom konaní, organizácie na ochranu spotrebiteľov, finančné úrady a poskytovateľov, agentúry na ochranu značky, sociálne médiá, poskytovateľov internetových služieb a spoločnosti zaoberajúce sa kybernetickou bezpečnosťou, aby zdieľali znalosti a chránili spotrebiteľov pred podvodmi.
*O reporte Cyber Signals: Platformy spoločnosti Microsoft vrátane Microsoft Defender for Office, Microsoft Threat Intelligence a Microsoft Digital Crimes Unit (DCU) poskytli anonymizované údaje o aktivite a trendoch aktérov hrozieb. Okrem toho Microsoft Entra ID poskytlo anonymizované údaje o aktivite hrozieb, ako sú škodlivé e-mailové účty, phishingové e-maily a pohyb útočníkov v sieťach. Ďalšie poznatky pochádzajú z denných bezpečnostných signálov získaných v rámci spoločnosti Microsoft vrátane cloudu, koncových bodov, inteligentného edge a telemetrie z platforiem a služieb spoločnosti Microsoft.
Ak sa chcete dozvedieť viac o bezpečnostných riešeniach od spoločnosti Microsoft, navštívte naše webové stránky. Uložte si blog o Bezpečnosti do záložiek , aby ste si udržali prehľad v tejto oblasti. Sledujte nás tiež na LinkedIn (Microsoft Security) a X (@MSFTSecurity), kde nájdete najnovšie správy a aktualizácie o kybernetickej bezpečnosti.
Zdroj foto: Freepik