Varför AI och säkerhetsproffs måste arbeta tillsammans för att bekämpa cyberbrottslighet

Cyberkriminella använder ibland AI till sin fördel. För att besegra dessa cyberskurkar bör säkerhetsproffs och AI fokusera på det de är bäst på.

Bild: Getty Images/iStockphoto

Kommer du ihåg när allt som krävdes för digital säkerhet var ett bra antivirusprogram? Det verkar som ett avlägset förflutet. Dagens komplexa cybersäkerhetserbjudanden har gått långt bortom dessa dagar, eftersom cyberbrottslingar attackerar på alla fronter – infrastruktur, applikationer och datorer.

Måste läsa säkerhetstäckning

Den underliggande utmaningen har dock inte förändrats under åren: Cyberskurkar behöver bara hitta en väg in, medan de som bevakar digitala tillgångar måste skydda alla möjliga ingångspunkter. Det är en enorm uppgift, och det går inte så bra för de goda. Så när hjälp i form av artificiell intelligens (AI) kommer finns det ett stort intresse.

“Det finns ingen annan teknik [AI] som kan hänga med”, skriver Hari Sivaraman, chef för AI-innehållsstrategi för VentureBeat och VD för 100Digital.ai, i sin VentureBeat-artikel What enterprise CISOs need to know about AI and cybersecurity. “Den har förmågan att snabbt analysera miljarder datapunkter och ta fram mönster för att hjälpa ett företag att agera intelligent och omedelbart för att neutralisera många potentiella hot.”

SE: Anställningssats: Cybersäkerhetsingenjör (TechRepublic Premium)

Sivaraman frammanar Moravecs paradox när han skriver om en gåta när det kommer till människor och AI. Enligt Hans Moravec, “Det är förhållandevis lätt att få datorer att uppvisa prestanda på vuxennivå på intelligenstest eller att spela pjäs, och svårt eller omöjligt att ge dem färdigheter som en ettåring när det kommer till perception och rörlighet.”

Marvin Minsky citeras som att skriva: “I allmänhet är vi minst medvetna om vad våra sinnen är bäst på. Vi är mer medvetna om enkla processer som inte fungerar bra än om komplexa som fungerar felfritt.”

Enligt Sivaraman är den optimala och självklara lösningen att vara medveten om vad var och en gör bäst och tillämpa AI-teknik och/eller mänsklig intelligens på lämpligt sätt.

AI är bäst på att upptäcka säkerhetshot

AI är markant bättre på att upptäcka säkerhetshot om tydliga riktlinjer kan omvandlas till träningsdata för AI. “Till exempel, om det finns riktlinjer för vissa typer av IP-adresser eller webbplatser som är kända för att vara källan till skadlig malware-aktivitet, kan AI:n tränas att leta efter dem, vidta åtgärder, lära av detta och bli smartare på att upptäcka sådan verksamhet i framtiden”, skriver Sivaraman. “När sådana attacker sker i stor skala kommer AI att göra ett mycket mer effektivt jobb med att upptäcka och neutralisera sådana hot jämfört med människor.”

Människor utmärker sig i bortförande resonemang

Människor är mycket bättre än AI på bedömningsbaserade beslut – de för vilka träningsdata inte har skapats.

“Till exempel, låt oss säga att ett särskilt väl förtäckt spjutfiske-e-postmeddelande talar om en bit information, som bara en insider ‘kunde’ ha känt till”, skriver Sivaraman. “En vaksam expert på mänsklig säkerhet med den kunskapen och intelligensen kommer att kunna koppla ihop punkterna och upptäcka att detta “troligen” är en insiderattack och flagga e-postmeddelandet som misstänkt.”

Ovanstående exempel är ett fall där AI sannolikt inte skulle kunna upptäcka hotet. AI, för närvarande, är oförmögen att utföra abduktiva resonemang. “Även om du täcker vissa sådana användningsfall med lämplig träningsdata, är det nästan omöjligt att täcka alla scenarier”, förklarar Sivaraman. “Som varje AI-expert kommer att berätta för dig är AI inte riktigt redo att ersätta mänsklig allmän intelligens eller vad vi kallar “visdom” inom överskådlig framtid.”

SER: Varför vi måste hitta en balans med AI för att lösa kompetensgapet inom cybersäkerhet (TechRepublic)

Hur cyberkriminella använder och hackar AI

Cyberbrottslingar är sannolikt redan på toppen av detta – de är mycket mer banbrytande än vad man fått kredit för och kan förvandla AI-lösningar till potenta cybervapen. Sivaraman ger följande exempel.

• Cyberbrottslingar som är bevandrade i programmering kan hacka sig in i själva AI:n, ändra träningsdata, vilket i sin tur förvränger algoritmerna, vilket gör AI-programmet ineffektivt.
• Cyberkriminella kan också utveckla sina egna AI-program för att hitta sårbarheter mycket snabbare än vad utvecklarna kan hitta och ta bort dem.

SER: 3 sätt kriminella använder artificiell intelligens i cybersäkerhetsattacker (TechRepublic)

Att bekämpa cyberbrottslighet kräver människor och AI

Nyckeln, enligt Sivaraman, är att få AI och mänsklig intelligens att slå sig samman för att bilda ett formidabelt försvar mot cybersäkerhetshot. “AI, samtidigt som det är ett spelförändrande kraftfullt vapen i kampen mot cyberbrottslighet, kan inte lämnas oövervakad, åtminstone inom en överskådlig framtid, och kommer alltid att behöva mänsklig hjälp av utbildade, erfarna säkerhetspersonal och en vaksam arbetsstyrka”, avslutar Sivaraman. “Denna tvåfaktors AI plus mänsklig intelligenssäkerhet, om den implementeras noggrant som en policyriktlinje i hela företaget, kommer att gå långt för att vinna kriget mot cyberbrottslighet.”