Ljudsko izročilo kar dobro shaja z modrostjo. Preglavice mu povzroča neumnost. »Te se je treba bati,« nas uči. »Neumnost je brezmejna.« Morda zato vsi – tako ljudstvo kot modreci – trepetajo pred umetno inteligenco. Njena neumnost je namreč res brezmejna – tako rekoč popolna …
Umetna inteligenca ničesar ne ve in ničesar ne razume. Zna sicer s številkami, a to lahko pripišemo malo boljšemu kalkulatorju, ki se skriva v njenem razloženem drobovju. Števila in razmerja med njimi so vedno in povsod ista; izid računanja pa je enak ne glede na to, po kateri od mnogih poti pridemo do njega.
Z besedami ni tako. Mnoge imajo več pomenov: včasih hkrati, včasih pa so odvisni od sobesedila. Pomen posamezne povedi je odvisen od tega večplastnega pomena besed, njihovega zaporedja, pa tudi od pomena predhodnih in včasih nadaljnjih povedi. Če govorimo, je pomemben še način, kako nekaj povemo: ton, jakost, hitrost govora, govorica obraza in telesa. Umetna inteligenca o vsem tem nima pojma. Nihče ji ni vtepal v vezje, da bi ga morala imeti …
Zanjo so besede števila. Zlaga jih po skrajno preprostem in brezmejno neumnem pravilu. Najprej pogleda zadnjo napisano besedo. O njej ne ve nič in nima pojma, kaj pomeni. Pač, v povedi, ki jo trenutno piše, je zadnja. Nato iz gore spletnih besedil, ki jih je prebrala med 'študijem', izjemno hitro izbrska besede in ločila, ki najpogosteje sledijo tej besedi, kadar se nahaja na podobnem mestu v povedi. Razporedi jih po pogostosti. Nato izbere eno najpogostejših in jo prilepi zadnji napisani. Ko je to narejeno, ponovi postopek. Pri končnih ločilih po enakem postopku presodi, ali sledi nova poved, nov odstavek ali pa je naložila dovolj in lahko neha nakladati ter počaka novo vprašanje. Pri presoji da malo več teže besedilom, ki glede na jezik, stroko, zvrst, pisce, kraj in čas najbolj ustrezajo temu, o čemer naj bi nekaj povedala.
To je vsa 'umetnost'. Vse je preračunljivo in preračunano – do zadnjega obrazila natančno (zaradi česar pogosto zgreši spol ali sklon). Kot je kalkulatorju vseeno, kaj korenimo in čemu želimo določiti kosinus, je tudi umetni inteligenci vseeno, kaj jo sprašujemo in zakaj. Kalkulator nima pojma, kaj sta koren in kosinus. Le mimogrede ju izračuna in izpljune, ko vanj vtipkamo števila in ukaze, kaj naj s temi števili počne. Za umetno inteligenco so “vstopna števila” besede, ukazi za njihovo obdelavo pa imajo več korakov. Kot se ne bojimo, da bi kalkulatorji prevzeli nadzor nad poukom matematike, se nam tudi ni treba bati, da bi umetna inteligenca prevzela nadzor nad internetom.
Uporabnike navdušuje njena sposobnost povzemanja. Njeni povzetki so hitri in dolgi natanko toliko, kolikor dolge želimo. So pretežno razumljivi in dovolj verodostojni, da jim lahko zaupamo. Napisani so malenkost bolj pravilno od spisov povprečnih gimnazijcev, in mestoma celo lepo berljivi. Toda, a je to res tak dosežek? Umetna inteligenca je proučila več raznoraznih besedil in njihovih povzetkov, kot jih bodo vsi slovenski gimnazijci skupaj v svojih življenjih. Poleg tega so jo programerji izdatno naphali z navodili, kako naj sestavlja povzetke: kakšne besede in povedi naj išče, kje v besedilih jih najde ter kako naj jih zlaga v krajša besedila. In dali so ji navodila za 'samostojno' raziskovanje možnosti krajšanja.
Prav ta samostojnost skrbi strokovnjake. Po začetniških napakah pred leti, ko so umetne inteligence nekaj dni po izpustu iz laboratorija med ljudi postale fašistični, rasistični in mizogini prostaki, so vzpostavili nadzor nad njihovo 'etično držo'. Ustvarili so brezzobe izdelke, ki dajejo vtis, da so brez lastnega mnenja. Vendar ga imajo: pristranskost v korist 'sredinske' zahodne družbe, njenih nazadnjaških vrednot in v svoj belsko-krščanski prav zagledanega družboslovja je neločljivo vpeta v delovanje teh strojev.
Če je umetna inteligenca Herkules, sta ga kači nadzora in družbene sprejemljivosti že v zibki zdrobili, prebavili in izpljunili. Kar bi se morda lahko razvilo v možgane, je mrtvo, srce pa še poganja kri po telesu. Možgansko mrtev Herkules dobi vhodne podatke in ukaze, kaj naj z njimi naredi. Kar potem naredi, ustreza zahtevam. A ker je vse skupaj silno zapleteno, strokovnjaki nimajo popolnega nadzora nad postopkom. Vedo, da so udje prekrvavljeni in se premikajo, da je kri stekla iz srca in pritekla nazaj vanj, a ne vedo, po katerih žilah je tekla in zakaj. To jih skrbi in hočejo, da bi skrbelo tudi nas.
Mene res ne skrbi. Skrbijo me zgolj in izključno ljudje, ki znajo to truplo napeti na nitke in spremeniti v nesmrtnega zombija, ki bo zanje na spletu opravil 12 nemogočih nalog, ne da bi navadni smrtniki to sploh opazili.