Ali računalnik lahko povzroči kaznivo dejanje?

Kdor je prebral vsaj nekaj knjig znanstvene fantastike ali je vsaj povprečen obiskovalec filmskih dvoran, mu to vprašanje gotovo ni tuje. Sedaj, ko pa se našim delovnim orodjem vse bolj pridružuje tudi umetna inteligenca, pa se takšna vprašanje ne zdijo več samo fantazijska, ampak postajajo že kar logična…

Na začetku se seveda še ne bomo ukvarjali z možnostmi, da bi se kakšen nov Hal zarotil proti človeštvu in si ga skušal podrediti. Omejili se bomo na današnje stanje, ko računalnik lahko s pomočjo posebnih programov – gonilnikov umetne inteligence ustvarja brezhibno oblikovana in logična besedila, jih razpošilja po vsem svetu, sprejema odgovore in nanje odgovarja, se pri tem izpopolnjuje, uči na napakah (jih odpravlja) itd.

V takšnem okolju pa po mojem mnenju LAHKO računalnik povzroči kazniva dejanja, seveda pa jih pri tem ni STORIL, saj se vse kazenske zakonodaje omejujejo na to, da kot subjekte kazenskega pregona obravnavajo le fizične (in pravne) osebe.

Besede so pač lahko tudi hudo in nevarno orožje! In če se pojavijo na pravem mestu v pravem trenutku, lahko povzročijo tudi veliko škode in gorja. Dostikrat pri tem niti ni tako važno, kdo je besede (misel) sestavil, važna je njihova vsebina in pomen. Na primer kakšen stavek kot: »Napadite takoj!« v mobilcih članov mednarodne teroristične organizacije. Ali pa recept za izdelavo tekočega razstreliva…

V vsakem kazenskem zakoniku lahko najdemo veliko kaznivih dejanj, katerih elementi so praktično le besede! Pa tu ne gre le za poglavja o kaznivih dejanjih zoper čast in dobro ime (razžalitev, obrekovanje, žaliva obdolžitev, sramotitev tuje države itd.), kjer so pravzaprav besede izključna sestavina kaznivih dejanj. Veliko bolj so lahko nevarna (in kazniva) dejanja zoper splošno varnost ljudi in premoženja (kjer imajo sicer besede lahko ključno vlogo, a ponavadi še ne zadostno), zoper varnost javnega prometa (zlahka si zamislimo situacijo, ko je ogrožena varnost letalskega prometa le zaradi kakšnega pomembnega zavajajočega stavka), pa vohunjenje in izdaja državne tajnosti.

Za »ščuvanje k nasilni spremembi ustavne ureditve« ima skoraj vsaka država predpisane najhujše možne sankcije (tudi pri nas 30 let zapora, v primeru posledic s hudim razdejanjem), pa čeprav storilec uporablja le besede – dokaz, da so te res lahko hudo orožje…

Današnji programi za izdelovanje besedil (na podlagi modulov umetne inteligence) že lahko producirajo besedila, ki bi lahko imela prav vse znake (in tudi posledice) takšnih in podobnih kaznivih dejanj. Če bi imeli njihovi avtorji pri tem kakršenkoli slab namen, potem bi seveda (lahko) direktno preganjali njih, tako kot je bilo to že velikokrat zaradi raznih računalniških virusov in podobnih malverzacij.

Problem pa nastopi, če pride do takšnih »inkriminiranih« besedil pri programih in avtorjih, ki nikakor niso imeli takšnega (slabega) namena. V poslovni uporabi je vse več programov, ki s pomočjo tehnologije naravnega jezika in modulov umetne inteligence ustvarjajo besedila za učinkovitejše komuniciranje s strankami. Na pravnem področju bomo kmalu razvili gonilnike, ki bodo pripravili obsežna pravna besedila, od normativnih osnutkov, pogodb, upravnih aktov do obrazložitev sodnih odločb. Nekatere aplikacije (na primer za spletno arbitriranje) bodo delovale preko interneta ter bodo tako povezane (ali vsaj povezljive) z neštetimi javnimi podatki.
Za ilustracijo naj omenim program GOVORNIK, ki je bil sicer izdelan pred desetletji in temelji pretežno na naključnem tvorjenju stavkov. Pri sodobnih programih, kjer pa ne bo več kaj dosti naključja, zato pa toliko več logike, se bo prav lahko zgodilo, da bo prišlo do besedila, ki bi bilo lahko za koga resnično žaljivo. Če bi se gonilniku umetne inteligence vsaj malo »utrgalo«, bi lahko izdelal trditev, da je profesor Ta.Pa.Ta. prišel do svojega doktorata na dvomljiv način, ali da je bil včasih obveščevalec UDBE…. Imeli bomo torej »corpus delicti«, ne pa tudi njegovega avtorja. Programerji, ki so to aplikacijo pripravili, profesorja niti ne poznajo, niso imeli nobenih slabih namenov itd., da o nedolžnosti internetnega ponudnika niti ne govorimo… Skratka: prišlo je do vseh elementov kaznivega dejanja, ni pa nobenega storilca.

Po analogiji z določenimi kaznivimi dejanji, storjenimi po javnih medijih (pri nas je to določeno v 30. in 31. členu KZ) bi se morda lahko odločili za »kaznivost izdelovalca«? In se bomo verjetno tudi morali… Saj ne moremo človeštva kar prepustiti na milost in nemilost raznim računalniškim programom, ki bi naključno proizvajali (tudi) razne žaljivke, hujskanja ali ščuvanja…

Napovejmo torej, da bodo morali biti izdelovalci modulov umetne inteligence zelo previdni. Poskrbeti bodo morali, da sestavljeni stavki (in s tem tudi misli) ne bodo mogli kar nekontrolirano pricurljati v javnost, če pa bo možna sprotna (on-line) javna uporaba, potem bo moralo biti vgrajenih zelo veliko varnostnih algoritmov, predvsem tudi v smislu zaščite zasebnosti in varstva podatkov v skladu s splošnimi predpisi.

Vir, 16. 9. 2006

Umetna inteligenca za telebane

Dober naslov, kajne? Prvič se mi je zgodilo, da sem ga (naslov namreč) kar občudoval, še preden sem imel tudi kakršnokoli besedilo… Morda bi pa članek enkrat za spremembo oddal kar brez besedila, samo z – dobrim! – naslovom? Dober naslov je pol članka! … Ja, ampak drugo polovico bo pa vseeno treba napisati…

Pred seboj imam več kot 1.000 strani debelo knjigo »Artificial Intelligence, A Modern Approach« (second Edition) by Stuart Russell & Peter Norvig. Na koncu je še za 53 strani drobnega besedila bibliografije… Samo raznim definicijam AI je namenjeno celotno prvo poglavje… In jaz naj sedaj na preprost način pojasnim širokemu krogu bralcev, kaj je umetna inteligenca ter pravnike za povrhu še prepričam, kako neizogiben je njen prodor na pravno področje? Pa poskusimo!

Da ne bo pomote: prav dosti nimajo skupnega z umetno inteligenco razni ekspertni sistemi, pa če izgledajo še tako »inteligentni« in so dejansko lahko tudi zelo koristni in prijazni. Tako kot smo tudi na družbi IUS SOFTWARE že pred leti izdali disketo »Družinski pravnik«, so tudi že mnoge komercialne družbe v svetu pripravile odlične »inteligentne« uporabnine ali obrazce (na primer družba INform na portalu informiran.si), predvsem po posameznih področjih. Na Nizozemskem imajo ekspertni sistem za pravno pomoč na socialnem področju. Program uporabnika vodi od stopnje do stopnje, mu postavlja vprašanja in ga pripelje do neke koristne pravne informacije za nek konkretni primer. V Avstraliji so pripravili ekspertni sistem za rodbinsko in dednopravno področje, ki navzven morda deluje kot umetna inteligenca, vendar to ni…

Ekspertni sistemi (dosedanji) so namreč izrazito determinirani: temeljijo na (lahko sicer zelo strokovnem in razvejanem, predvsem pa uporabnem) diagramu pravil, vprašanj in odgovorov. Pri tem pa je bilo prav vse in do zadnje vejice določeno in postavljeno s strani ljudi, strokovnjakov, ki to področje dobro poznajo. Če so potrebne kakršnekoli korekcije (na primer zaradi odkritih napak) ali dopolnitve (na primer zaradi spremenjene zakonodaje), morajo vse to vnesti isti ljudje - avtorji, na enak način in v enaki obliki. Pri ožjih področjih in manjših količinah je to še obvladljivo, toda za bolj ambiciozne in širše (ali celo univerzalne) projekte, pa postane človeški faktor preveč pomemben in začne vnašati preveč svojih slabosti. Sistem sam pa je v bistvu povsem neinteligenten (celo »neumen«, če hočete) in zato posledično tudi neučinkovit ter komercialno ne-obetaven.

Če bi se kljub temu (po mojem mnenju prehitro) odločili za smer ekspertnih sistemov, potem bi jih morali izboljšati z najnovejšimi informacijskimi orodji za upravljanje z znanjem (knowledge management) in obvladovanjem velikih količin podatkov (data mining). Vendar so to bile doslej le splošne tehnologije, na pravnem področju pa bodo potrebne posebne rešitve, v smeri »razumevanja« pomena besedil in s tem resnične umetne inteligence.

In celo če bi (pravzaprav bomo to vsekakor morali) določili vsa obstoječa pravna pravila nekega pravnega reda (n.pr. slovenskega) ter naredili takšen program, da jih bo v besedilih prepoznal (tudi brez tega ne bo šlo), bi to po večini definicij še ne bila umetna inteligenca! To bi bil šele umetni »piflar«, kot tisti študent, ki se zna le vso snov naučiti na pamet, pri tem pa nič kaj ne razmišlja…

Pri umetni inteligenci se mora subjekt (program, agent, robot) znati tudi – učiti - in temu ustrezno prilagajati. Če študent lahko hitro odkrije očitno napako v učbeniku in ve, da se občine ne da podedovati, mora to (za)znati tudi program, ki naj bi vseboval umetno inteligenco. Če umet(el)ni algoritmi ne bodo imeli s strani svojih ustvarjalcev (programerjev) vnesenega pravila, da ni logičen izraz »kazen izvršbe« (in ga velikokrat tudi res ne bodo imeli), potem bo program ta nesmisel lahko odkril v drugi fazi, s pomočjo – strojnega učenja (machine learning) in drugih metod umetne inteligence (teorija iger, statistične metode). Zelo enostavno povedano: ker računalnik ne bo podobne besedne zveze – »kazen izvršbe« našel v drugih pravnih dokumentih, se mu to ne bo zdel »običajen« izraz in bo na to tudi opozoril. Nasprotno pa bo izraze, katere bo našel na mnogih mestih in že kar praviloma, spoznal kot običajne in sprejemljive (na primer »se kaznuje za prekršek fizična oseba«), celo v primeru, če bodo napisani s pomoto (na primer »se kaznuje za prekršek fuzična oseba«)…

Torej: umetna inteligenca bo v pravo vpeljana tako, da bo računalnik v pravnih besedilih znal najti in prepoznati pravna pravila, vendar - z dodatno pomočjo posebnih tehnologij AI. Imel jih bo uskladiščena v bogati bazi pravnega znanja, ki bo hkrati služila tudi kot podlaga za delovanje raznih prav(n)ih ekspertnih sistemov in tudi za avtomatsko kreiranje novih pravnih besedil (predvsem osnutkov).

Sicer pa… velika opremljenost pravnikov z računalniškimi pripomočki (na katero prisegam) nikoli ne bo zamenjala človeka (pravnika) pri odločanju in bo še tako računalniško podprt sodnik še vedno odločil kot človek in ne kot stroj. Dobro se zavedam tudi velikega pomena pravnega občutka (ali kot nas v svoji kolumni na IUS-INFU tako lepo podučuje Prof. Cerar: das Rechtsgefühl).

Vir, 9. 9. 2006

Z računalniki do boljših predpisov

Čez nekaj let bodo vsi (sodobni in napredni) izdajatelji predpisov (parlamenti, vlade, ministrstva…) pri svojem delu uporabljali posebne urejevalnike za zagotavljanje konsistentnosti in kvalitete besedil, katera bodo obravnavali in sprejemali. Pri tem pa ne bo šlo le za postopkovno spremljanje zakonodajnega postopka (kot ga ima že sedaj prav zgledno zagotovljenega tudi naš Državni zbor), temveč za nekaj bistveno zahtevnejšega in vrednejšega: računalniški programi bodo »razumeli« vsebino besedil in jo tudi usklajevali ter dopolnjevali…

Posledično se bo s tem začela tudi bistveno spreminjati in (upam si trditi) izpopolnjevati sama pravna veda! Večja logičnost (in računalniška podprtost) predpisov se bo počasi selila tudi na področje pravosodja, kjer bodo začeli z računalniško pomočjo nastajati tudi judikati, pa tudi na druga pravna področja (pogodbeno pravo, upravni postopki itd.)… in posledično tudi v pravne učbenike.

V pravnih besedilih bo vse manj napak, ki so posledica človeške površnosti in omejene sposobnosti – ponavadi že prvega avtorja (osnutka) predpisa. Besede bodo imele vedno enak pomen in s tem bodo odpravljene številne možnosti nesporazumov in različnih tolmačenj. Pravni inštituti, ki bi morali biti urejeni na enak način, bodo tako tudi vedno definirani in se bodo deli besedil veliko večkrat ponavljali, kot doslej. Saj se dostikrat izrazi med seboj razlikujejo čisto po nepotrebnem, zaradi subjektivnega faktorja: ker je prvi sestavljalec besedila takrat pač izbral takšen izraz… Odpadle bodo dvoumne besede, kot n.pr. »oziroma« in jih nadomestile bolj točne (v tem primeru »in« ali »ali«).

Načeloma seveda že sedaj profesorji svoje študente učijo, kako je potrebno oblikovati pravna besedila, da bodo logična in pravilna. Obstaja tudi poseben predmet in dober priročnik – »Nomotehnika« - toda kaj, ko si vsega niti ne zapomnimo, veliko pozabimo in marsikaj tudi razumemo vsak po svoje. V tej bližnji prihodnosti, katero opisujem, pa bodo nomotehnični priročnik programerji povsem in dosledno vključili v poseben program – urejevalnik za normativna besedila in uporabnike bo računalnik neusmiljeno opozarjal na razne napake in nelogičnosti. Predvsem pa tudi na morebitno neusklajenost predlaganih besedil z drugimi, že veljavnimi deli prepisov! Uporaba posebnih urejevalnikov bo namreč omogočala veliko večjo notranjo konsistenco celotne zakonodaje, saj bodo označena tudi vsa medsebojna sklicevanja, pravne podlage, posledice itd. Ob nameravani spremembi enega zakona se bodo takoj pokazale možne posledice ali neusklajenosti glede na vse druge predpise.

Zaradi kvalitetne in konsistentne osnove – dobrih predpisov – bo tudi veliko lažje izboljševati (in jih narediti bolj učinkovite) razne pravne postopke s pomočjo posebnih ekspertnih sistemov. Tukaj mislim predvsem na sodne in upravne postopke, kjer se bodo s pomočjo modulov umetne inteligence lahko simulirali posamezni primeri, izračunavale večje možnosti za pravilnejšo odločitev in celo pripravljali osnutki obrazložitev sodb in odločb.

Zakonodajni sistemi posameznih držav in njihovih asociacij (Evropske unije) bodo ob tem postali veliko bolj primerljivi in postopoma tudi vse bolj usklajeni. Tako bodo tudi najboljše rešitve na posameznih področjih lažje prevladale in prišlo bo do vsestranskega izboljšanja kvalitete – prava.
Že vidim, da marsikdo nejeverno zmiguje z glavo in našteva razloge za dvom v takšen razvoj, kot ga napovedujem. Problemov vidim veliko tudi sam, vendar bodo prednosti gotovo večje in se temu enostavno ne bomo mogli (smeli) izogniti. Namesto da mencamo na mestu, je bolje da smo med prvimi, ki se tega lotimo in tako pridobimo koristno časovno prednost…

»Dobro, če bi takšen urejevalnik že imeli« gotovo razmišlja strokovni sodelavec iz DZ »… ampak, kako bomo pa pripravili poslance, da bodo to upoštevali ter tudi sprejemali tako kvalitetne in računalniško logične zakone?«. Vem, ne bo šlo lahko, ampak tudi že doslej ste morali dostikrat razne politične ideje poslancev pretvoriti v zakonske osnutke in amandmaje in tako boste delali tudi še vnaprej. Morda boste pa lahko s pomočjo kvalitetnega zakonodajnega urejevalnika še lažje kaj prepričali poslance, da »tako pa ne gre«, »da bi bila takšna formulacija boljša«, saj boste imeli ob sebi še večjo avtoriteto, kot doslej. Ko bo sistem enkrat uveljavljen v več državah in morda tudi verificiran (s strani EU), potem si pač nobena vlada, niti ministrstva, niti parlamentarci ne bodo mogli privoščiti, da bi ga na veliko ignorirali in s tem kazali svojo »zarukanost«.

Največja negativna posledica, katero pričakujem ob uvajanju računalniške natančnosti v vsebino predpisov, je v tem, da bodo (pravna) besedila postala (še bolj) pusta in enolična (brezosebna). Ampak, to je pač nujni davek za velik splošni napredek. Se bomo morali pač sprijazniti, da v pravu ni prostora za leposlovje! Če se neka misel lahko izrazi na način ABCDeFGh, naj se pač vedno in povsod izraža kot ABCDeFGh, ne pa kdaj tudi kot ABCDeFGH…

Tako kot so Rimljani vedno svoje govore zaključevali s stavkom »Sicer pa mislim, da je treba Kartagino porušiti!«, naj tudi sam (kot ponavadi) zagotovim, da velika opremljenost pravnikov z računalniškimi pripomočki (na katero prisegam) nikoli ne bo zamenjala človeka (pravnika) pri odločanju in da bo še tako računalniško podprt sodnik še vedno odločil kot človek in ne kot stroj. Dobro se zavedam tudi velikega pomena pravnega občutka (ali kot nas v svoji kolumni tako lepo podučuje prof. Cerar: das Rechtsgefühl).

Pa še dva linka, ki vas bosta popeljala do prvih poskusov zakonodajnih urejevalnikov:
http://www.ittig.cnr.it/legws/Presentations/AgnoloniFrancesconiSpinosa.pdf
http://www.ittig.cnr.it/EditoriaServizi/EventiConvegni/BiagioliFrancesconiSpinosaTaddei2005.pdf
In zakaj je (prav)o najbolj primerno področje človeške dejavnosti za uvajanje umetne inteligence? http://www.tomazic.info/Why%20is%20legal%20content%20ideal%20for%20AI.htm

Vir, 2. 9. 2006