Svana Helen Björnsdóttir skrifar:

Tæknin þróast hratt. Hún mótar líf okkar og skapar í sífellu nýjungar sem breyta lífinu, hvort sem við viljum eða ekki. Til verður nýr tæknilegur vettvangur sem skapar ný líkön, nýjar reglur og nýjan veruleika.

Okkur reynist flestum erfitt að halda í við örar tæknibreytingar. Við vitum þó að tæknibreytingum fylgja einnig mikil tækifæri til framfara og bættra lífsgæða. Nú snýst allt um hraða, skilvirkni og sjálfvirkni. Við búum okkur undir að nýta betur möguleika gervigreindar og vélmenna ásamt því að njóta æ meir upplifunar í umhverfi hins svokallaða sýndarveruleika, sem gerir okkur kleift að sjá og nema með öðrum hætti en áður.

Til að halda fyrirtækjum okkar og iðnaði samkeppnishæfum til framtíðar þurfum við á hæfu og vel menntuðu fólki að halda, sem býr ekki aðeins yfir hugviti og verkviti, heldur ber einnig skynbragð á að nýta tæknina á hátt sem rúmast innan þeirra siðferðilegu marka sem þjóðfélagið setur. Þetta má kalla siðvit. Við þurfum fólk sem er forvitið og tilbúið til að halda áfram því sem vel er gert, samhliða því að skapa nýja hluti.

Stór gagnasöfn eru ný tegund auðlindar

Hin nýja tækni byggir m.a. á hagnýtingu upplýsinga úr stórum gagnasöfnum um fólk sem unnið er með á vélrænan og sjálfvirkan hátt. Með forritun má byggja upp svokallaða gervigreind í tölvum og snjalltækjum sem aðstoðar okkur með ýmsum hætti, eftir því sem við á og óskað er eftir.

Það er mikilvægt að gera sér grein fyrir þeim ógnum og áhættum sem fylgja því að treysta æ meir á þau reiknirit (algrím) sem gervigreind byggir á. Sem dæmi má nefna að líklegur fylgifiskur umræddrar tækni verður mismunun af ýmsu tagi. Tæknina má nota til að skerða atvinnutækifæri fólks og búa til svarta lista, án þess þó að viðkomandi einstaklingar hafi möguleika á að andmæla eða viti jafnvel nokkurn tíma hvernig á því stóð að þeir voru útilokaðir.

Nú þegar eru til lygamælar sem greina með fullkomnum hætti andlitshreyfingar og tilfinningaviðbrögð fólks. Einnig eru til hugbúnaðarlíkön sem geta með mun áreiðanlegri hætti en dómari, sagt fyrir um líkur á því að einstaklingur sem framið hefur afbrot og fengið dóm, fremji fleiri afbrot og verði jafnvel síbrotamaður.

Að greina hegðunargögn á heiðarlegan hátt

Víða í stærri fyrirtækjum eru mannauðsstjórar farnir að treysta á sérhannaðan hugbúnað til að velja úr umsækjendum um störf. Stór gagnasöfn, sem á íslensku eru oft nefnd gríðargögn, gera kleift að framkvæma margs konar persónugreiningar. Það hefur þegar sýnt sig vera mikil freisting og von um ábatasöm viðskiptatækifæri fyrir suma, að greina persónuleika fólks og spá fyrir um hegðun þess, t.d. kauphegðun. Einnig eru mörg dæmi um fyrirtæki sem nýta sér tæknina til að hafa áhrif á tiltekna hópa fólks og móta skoðanir þess í kosningabaráttu eða við markaðssetningu vöru og þjónustu. Segja má að í þessu felist alvarleg ógn við lýðræðið eins og dæmin sýna.

Rafræn gögn eru að verða auðlind á borð við þá sem olían var eitt sinn. Út frá því sjónarmiði má segja að upplýsinga- og persónuvernd sé hin nýja umhverfisvernd.

Höfundur er verkfræðingur og framkvæmdastjóri Stika ehf. svana@stiki.eu

Greinin var fyrst birt í Morgunblaðinu 25.5.2019