Svana Helen Björnsdóttir skrifar:

Fáir efast um að gervigreind (e. artificial intelligence, AI) og vélrænt nám (e. machine learning, ML) muni breyta tölvu- og netöryggi. Við vitum bara ekki enn hvernig eða hvenær það gerist. Margir sem um þetta rita gera það annað hvort frá sjónarhóli árásarmanns eða varnarmanns. Oft er þá fjallað um þetta sem nokkurs konar vopnakapphlaup milli þessara tveggja aðila. Hér er sjónum aftur á móti beint að veilum í hugbúnaði.

Það er nærri ómögulegt að skrifa gallalausan hugbúnað. Sá hugbúnaður sem nálgast fullkomnun verður þó óheyrilega dýr og markaðurinn varla tilbúinn að greiða fyrir hann. Örfáar undantekningar eru til, eins og þróun hugbúnaðar fyrir geimflaugar. Annars er krafan sú við þróun hugbúnaðar að framleiða skuli hann hratt og ódýrt á kostnað gæða.

Aðeins hluti hugbúnaðargalla orsakar veilur í hugbúnaði. Aðeins lítill hluti þeirra veilna uppgötvast og gefur færi á misnotkun. Tölvuþrjótar uppgötva þó sumar veilur og ná að nýta veikleika í hugbúnaðarkerfum með ýmsum ráðum og ráðast á þau. Þetta er ástæðan fyrir því að við fáum stöðugt tilkynningar í tölvum okkar og símum um að uppfæra þurfi hugbúnað. Þetta er vegna þess að hugbúnaðarframleiðendur eru að lagfæra galla sem orsaka veilur sem unnt er að nýta til árása og skemmdarverka.

Allt væri betra ef framleiðendur hugbúnaðar gætu fundið og lagað alla galla meðan á hönnun og þróun stendur. Sem fyrr segir verðlaunar markaðurinn ekki þá sem leggja slíkt á sig, það kostar jú bæði tíma og peninga. Með tilkomu gervigreindar (AI) og vélræns náms (ML) sjá menn nú tækifæri til að leysa vandamál af þessu tagi til frambúðar.

Vandinn við að finna veilur í hugbúnaði virðist vel sniðinn fyrir ML-kerfi. Að rýna forritunarkóða, línu fyrir línu, er einmitt sú tegund leiðinlegra vandamála sem tölvur geta leyst með framúrskarandi hætti ef hægt er að kenna þeim hvernig galli eða veila lítur út. Þetta er auðvitað ekki einfalt mál og nú þegar hafa verið ritaðar margar fræðigreinar og bækur um efnið – og rannsóknir halda áfram. Ástæða er til að ætla að ML-kerfi geti orðið mun betri við lausn vandamála af þessu tagi í framtíðinni. Góðar líkur eru á að okkur takist með AI og ML-kerfum að finna og lagfæra miklu betur en nú er, margs konar galla og veilur í hugbúnaðarkerfum framtíðarinnar.

Það er mikilvægt að hönnuðum hugbúnaðar takist að finna veilur og lagfæra þær áður en hugbúnaðurinn er gefinn út. ML-kerfi munu að öllum líkindum verða veigamikill hluti hugbúnaðarverkfæra framtíðarinnar og munu vonandi finna og lagfæra sjálfkrafa veilur á meðan hugbúnaðurinn er enn í þróun.

Vonandi líður ekki á löngu þar til við getum sagt hvert við annað: „Manstu þennan hryllilega tíma þegar við glímdum við endalausa galla í hugbúnaði, með tilheyrandi tölvuinnbrotum og gagnaleka? Váá, hvað ML-kerfi hafa gert alla upplýsingatækni miklu betri og öruggari.“

Ef við lítum nógu langt út fyrir sjóndeildarhringinn getum við séð framtíð þar sem veikleikar hugbúnaðar eru hluti af fortíðinni. Þá þurfum við bara að hafa áhyggjur af því hvaða nýju og háþróuðu árásartækni AI-kerfin finna upp.

Höfundur er verkfræðingur og framkvæmdastjóri Stika ehf. svana@stiki.eu

Greinin var fyrst birt í Morgunblaðinu 16.3.2019