Teie 17.08.2020 nr JUM/20-0999/-1K
Justiitsministeerium
[email protected] Meie 30.09.2020 nr 2-15/2020/5111-2
Suur-Ameerika 1
10122, Tallinn
Vastus Justiitsministeeriumi algoritmiliste
süsteemide mõjude reguleerimise
väljatöötamise kavatsusele („krati VTK“)
Austatud
Majandus- ja Kommunikatsiooniministeerium (edaspidi MKM) kooskõlastab krati
väljatöötamiskavatsuse (edaspidi VTK) järgmiste märkustega arvestamise korral:
KOKKUVÕTE:
Seaduse kavandi reguleerimise eesmärki (§ 1 - põhiõiguste tagamine) tuleb laiendada
„iseõppivate“ algoritmide kasutuselevõtu soodustamisele, üksikisikute võimestamisele ning
kõrgendatud ohtude kaitsele, kuna see vastab paremini ühiskonna ootustele;
Eeltoodu tõttu tuleks kaaluda ka ühe kõikehõlmava kratiseaduse ideest loobumist ning selle
asemel muuta mitmeid asjakohaseid seadusi, milles on täna tuvastatud lünki, mis hoiavad tagasi
"iseõppivate” algoritmiliste süsteemide kasutuselevõttu või milles on tuvastatud puudusi
põhiõiguste, isikuandmete või kõrgendatud ohtude kaitsel (nt TalTech & Tehver õigusanalüüsi
tulemused);
Seaduse kavandi algoritmilise süsteemi mõiste (§ 2) tuleb kitsendada „iseõppivale“
algoritmilisele süsteemile, sest vastasel juhul kehtestame täiendavaid nõudeid pea kõikidele
süsteemidele, kuid MKMile teadaolevalt ei esine praktilisi probleeme kõikide algoritmiliste
süsteemidega;
Seaduse kavandi „kõrge riski“ definitsiooni (§ 2) võiks siduda kõrgendatud ohu realiseerumise
ja põhiõiguste olulise riive tekke ohuga lähtudes tänases Eesti õiguskorras sätestatud normidest
(nt toote nõuetele vastavuse seadusest, korrakaitseseadusest);
Seaduse kavandi mõjuhindamise nõuet (§ 4) tuleb laiendada kõikidele võimalikele riskidele
(oht tervisele, varale, keskkonnale, küberjulgeolek jms), mitte üksnes põhiõiguste riive
aspektidele;
Seaduse kavandi läbipaistvusnõuded (§ 5) tuleb kitsendada üksnes „kõrge riskiga“
süsteemidele, kuna oleks ebaproportsionaalne seada täiendavaid nõudeid süsteemidele, mis ei
too kaasa olulisi tagajärgi;
Seaduse kavandis toodud andmete säilitamise kohustuse (§ 8) kehtestamisel tuleb ette näha
erandid andmete säilitamise tähtaja pikendamiseks nt isikuandmete säilitamisega seonduvalt;
Suur-Ameerika 1 / 10122 Tallinn / 625 6342 /
[email protected] / www.mkm.ee
Registrikood 70003158
Toetame haldusmenetluse seadusse kui üldseadusesse automaatse haldusakti andmise
võimaluse lisamist, mis on väga vajalik. Siiski ei poolda me, et automaatne haldusakt peab igas
olukorras olema omakäelise allkirja või e-allkirja asemel kinnitatud e-templiga – e-tempel on
vaid üks tehnilistest lahendustest, mida kasutusele võtta;
Teeme ettepaneku lisada avaliku teabe seadusesse üldsätte, mis võimaldaks avaliku ülesande
täitmise käigus andmekogusse kogutud andmeid kasutada teiste asutuste andmekogude poolt
avaliku ülesande täitmiseks üle x-tee, kui nende andmete kasutamist pole seadusega piiratud,
kuivõrd see soodustab tehisintellekti kasutuselevõttu;
Seaduse kavand võiks sisaldada ka õiguslikke „liivakaste“ lubavaid sätteid, mis võimaldaks
uudsete tehnoloogiate osas läbi viia praktilisi eksperimente tegemaks teaduspõhiselt kindlaks
regulatiivse sekkumise vajadust ning seeläbi välistades ebavajaliku halduskoormuse tekitamist
ettevõtjale. Õiguslikud „liivakastid“ parandavad õigusselgust ning võimaldavad innovatiivsete
tehnoloogiate kiirema, kuid ühiskonnale turvalise turule sisenemise;
Seoses VTK lk 15 toodud märkusega andmeladude kohta, oleme tugeval seisukohal, et
andmeladu ei vaja täna erisusi ja eraldi reguleerimist;
Arvestades VTK laia kohaldamisala ja võimalikku mõju siseturul kaupade ja teenuste vaba
liikumisele, siis leiame, et hilisemate menetluslike probleemide vältimiseks tuleb kindlasti teha
analüüs tulevase eelnõu vastavusest Euroopa Liidu õigusele (eelkõige ELTL artiklitega 34 ja
36).
Pikemalt VTK plokkide lõikes:
REGULEERIMISOBJEKT (lk 1-2)
(1) VTK ja eelnõu kavandi reguleerimisobjekti ulatus on ebaselge ja MKM hinnangul liiga
lai. Toodud definitsiooni ulatus on ebaselge, kuivõrd selle alla kuuluks mistahes tarkvara,
algoritmid, funktsioonid, protseduurid, sealhulgas isegi Exceli tööleht ja palju muud (märkusena,
definitsioonis on segamini toodud tegevusi ja meetodeid, näiteks klassifitseerimine on kindel
meetod). Seega oleks hõlmatud iga tarkvara kood ja skript, näiteks skript, milles muudetakse
inimese nime esitäht suureks ja siis liidetakse perekonnanimega kokku. Ühtlasi reguleeritaks
algoritmilise süsteemi definitsiooniga palju enamat kui üksnes tehisintellekti, seega laiendatakse
VTK-ga olulisel määral tehisintellekti sisu võrreldes krati tegevuskava ja selle aluseks oleva
määratlusega. Jääb ebaselgeks, mis on sellise laia määratluse väärtus, kuivõrd kogu
probleemistiku kirjeldus on tehisintellekti põhine. MKMile teadaolevalt ei esine ühiskonnas
märkimisväärseid probleeme või ohte seoses muude IT-süsteemidega. Oleme küll nõus, et
seadusandlus peaks võimalusel olema võimalikult tehnoloogianeutraalne, kuid antud juhul on esile
kerkivad ohud ja riskid seotud kitsamalt tehisintellektiga aga mitte muude näiliselt sarnaste IT-
süsteemidega. Antud definitsioon muutub äärmiselt oluliseks, kui hiljem arvestada väljapakutud
meetmeid, mis ei ole sellisel juhul enam enamjaolt proportsionaalsed. Seega teeme ettepaneku
kitsendada reguleerimisala ja piirduda vaid selliste süsteemidega, mis on
„iseõppimisvõimelised“.
(2) MKM hinnangul võiks tugineda pigem sellisele definitsioonile:
Iseõppiv algoritmiline süsteem on süsteem, mis talle antud andmete/kogemuste põhjal
jõuab iseseisvalt uute järeldusteni, sealjuures ei ole inimesele üheselt arusaadav, kuidas
antud otsuseni jõuti. Iseõppiv algoritmiline süsteem vastandub tavapärasele
algoritmilisele süsteemile, kuna lahenduskäik pole selgelt ette programmeeritud.
PROBLEEMIPÜSTITUS (lk 2-21)
2 (12)
(3) Üldise kommentaarina märgime, et VTK keskendub algoritmiliste süsteemidega seotud
probleemidele ning näib lähtuvat soovist piirata ja reguleerida. Tekkinud ja tekkida võivat kasu
pole analüüsitud, sealhulgas, kuidas suure potentsiaaliga valdkonda toetada ja arengut
pigem hoogustada. Näiteks on VTKs mainitud vajadust võimaldada andmete ristkasutamist ja
võimalikke muudatusi haldusmenetluses, kuid väljapakutud täiendused ei lahenda olukorda. Seega
oleks soovitus keskenduda ka sellele, kuidas valdkonna arengut võimaldada. Kuigi eetika,
turvalisuse ja privaatsuse kaitse on üliolulised, ei ole eelnõu kavandis käsitletud teisi olulisi
aspekte, nt ELi tasandil välja toodud eesmärke võimestada tehisintellekti abil inimesi
informeeritud otsuste tegemisel ja kõigi oma põhiõiguste kasutamisel ning toetada üldist (sh.
järeltulevate põlvede) heaolu, tagades selleks ka süsteemide kestlikkuse.
(4) 2020. aasta alguses käis koos vastutustundliku andmetöötluse töörühm, millesse kuulusid
esindajad JUMist, SOMist, SIMist, STATist, AKIst, MKMist, Riigikantseleist, era- ja kolmandast
sektorist. VTK-st ei tule välja, kas ja kui palju on töörühma töö tulemusena koostatud
vastutustundliku andmetöötluse põhimõtteid arvesse võetud. Leiame, et on oluline, et need
põhimõtted oleksid kindlasti VTK-s käsitletud.
(5) VTK lk-l 3 on viidatud USAs Houstonis toimunud kohtuvaidlusele, kuid antud
kohtulahendi puhul ei tulnud arutlusele eelarvamuslikkus ja kallutatus vaid see, et tegu oli
kommertstarkvaraga, mille lähtekoodile ja toimimise loogikale ei olnud koolil ligipääsu. Juhime
tähelepanu, et sellist „musta kasti“ loogikat esineb kõikide sissehangitavate teenuste ja
süsteemidega ning enamike igapäevaselt kasutatavate seadmete puhul. Seega eksisteerib
„musta kasti“ probleemistik juba täna, kuid enamikel juhtudel on tegu intellektuaalomandiga, mida
erasektor ei peakski avalikustama. Näiteks ei ole realistlik, et Microsoft avalikustaks Exceli
lähtekoodi, sest keegi tahab teada, kuidas süsteem toimib.
(6) VTK lk-l 4 räägitakse algoritmiliste süsteemide reguleerimisest, samas reguleerimise
põhjendusena tuuakse esile peamiselt tehisintellekti kasutusjuhte, ja siingi peamiselt praktikas
esile kerkinud erandeid. Leiame, et probleemikäsitluses tuleks hoida selgemat joont ja
võrrelda olukordi objektiivselt. Näiteks öeldakse, et tehisintellekt tähendab seda, et inimene
(isegi kogenud informaatik, aga ka rakenduse looja) ei ole suuteline hinnanguid ja otsuseid
selgitama. Antud väide ei rakendu aga enamikele olukordadele, vaid kehtib ainult teatud
olukordades. Näiteks otsustuspuu on iseõppiv süsteem, aga seal pole musta kasti efekti. Selliseid
meetodeid on väga palju, näiteks lineaarregressioon, logistiline regressioon, GLM jmt. Lisaks on
valdkond tugevalt arenenud ning ka mudelid, mida varasemalt polnud võimalik selgitada, on nüüd
võimalik, näiteks kasutatakse selleks meetodeid nagu LIME, activation atlases, globaalne
surrokaat, SHAP, PDP. Täna areneb valdkond väga jõudsalt ning järjest tuleb juurde meetodeid,
mis aitavad ka „musta kasti“ avada, juhul kui see on üldse vajalik. Seega, kui on risk teatud
lähenemiste puhul põhiõiguste rikkumisele, siis tulekski vaid nendel kasutusjuhtudel
keskenduda. Ei ole mõistlik laiendada seda kõigele.
(7) VTK lk 6 tuleks täiendavalt selgitada, mida mõeldakse parameetrite all ehk kas nende
all mõeldakse teatud mudelit või parameetrit ehk muutujat? Näiteks võib avalikustada järgneva
valemi: Diabeedi klass(xj=A)=1nn∑i=1I(x(i)j=A), aga sellest poleks jätkuvalt enamikele kasu,
sama kehtib ka parameetrite ehk muutujate kohta, näiteks 2*x, teame vaid seda, et mingil põhjusel
korrutatakse kahega. Täiendavalt juhime tähelepanu sellele, et paljudel juhtudel ei saagi sellise
info avalikustamist nõuda, kuna tihti võib tegu olla konkurentsieelise ja intellektuaalomandiga.
Seaduseelnõu peaks sellega arvestama.
(8) VTK lk-l 6 viidatakse kaalutlusvigadele, kuid siinkohal juhime tähelepanu, et
kaalutlusvead on kõikjal, ka inimeste endi tehtud otsustes ja teaduse põhjal teame, et inimeste
3 (12)
otsused võivad ka heatahtlikkuse korral olla kallutatud. Seega vajab põhjendamist, miks antud
olukord on võrreldes sarnaste ja seniste tavaolukordadega eriline. Leiame, et küsimus peaks
pigem olema, kuidas minimeerida veamäära ja veenduda, et tulemus oleks piisavalt
usaldusväärne. Samamoodi on täna andmetes leiduv kallutatus tulnud inimestest ehk objektiivselt
võiks usaldada pigem masinat, kui inimest õiglase otsuse tegemisel (eeldusel, et vastab teatud
reeglitele, normidele). Näiteks unustati dokumendihalduses tasuta õigusabi saanud inimeste
andmete juures juurdepääsupiirang lisada (vt lisa https://www.err.ee/1129691/ministeerium-
inimesi-nende-oiguste-rikkumisest-ei-teavitanud).
(9) VTK lk 8 viidatakse vajadusele registreerida algoritmilisi süsteeme ja nende mõjusid.
Leiame, et sellise nõude järele puudub vajadus ning VTK-st ei selgu, milleks andmeid
kogutakse. Puudub ka vajadus hakata kõikide lahenduste puhul läbi viima põhjalikke
mõjuhinnanguid, kuivõrd see on ebaotstarbekas, piisava lisandväärtuseta halduskoormav ja
e-riigi arengut pärssiv. Näiteks masintõlge on olemuselt iseõppiv süsteem, selle rakendamine on
odav ja kiire, uue mudeli treenimine niisamuti. Mõjuhinnang võib seega osutuda kallimaks kui
krati enda rakendamine, mis ei ole kuidagi proportsionaalne – kui tegu pole kõrge riskiga
rakendusega (millest allpool).
(10) Proaktiivsete teenuste toimimist (VTK lk 12) on kirjeldatud meelevaldselt, jättes
mulje, nagu tähendaks see iseõppivate süsteemide abil kõigi inimeste mõtete, kavatsuste ja tahte
selgitamist (VTK punkt 1.2.3.2). Samavõrd oluliste probleemidena näeme proaktiivsete teenuste
pakkumise puhul järgnevaid punkte:
a. VTK lk 14 viimane lause/ lk 15 esimene lauses öeldakse: „Proaktiivsete teenuste
arendamisel tuleb kaaluda, kuidas arvestada inimese enda tahet ning analüüsida
nõusoleku kasutamist isikuandmete töötlemise õigusliku alusena.“ Sellest võib järeldada,
nagu peaks inimeselt küsima nõusolekut isikuandmete töötlemiseks juba enne seda, kui
proaktiivset teenust hakatakse pakkuma, vahet pole, kas seda teeb tehisintellekt või mitte.
Selline soovitus on ebaproportsionaalne ja nii kaotab proaktiivne teenus oma mõtte.
Näitena tähendaks see seda, et Sotsiaalkindlustusameti peretoetuste toetuse maksmiseks
küsiks riik kõige pealt vanemalt: „Kas me tohime töödelda teie andmeid proaktiivse
peretoetuste maksmiseks?“ ja alles seejärel tohiks amet andmetöötluse teha ja toetust
pakkuda. Seda olukorras, kus kõnealuse teenuse puhul ei ole ametnikel teenuse osutamisel
kaalutlusõigust, vaid kontrollitakse isikuandmeid vastu toetuse saamise tingimusi ning kui
tingimused on täidetud, tehakse pakkumus, millest inimesel on võimalik loobuda. Jääb
ebaselgeks, millist eesmärki täidaks siin eelnev nõusoleku küsimine andmete töötlemiseks.
b. VTK lk-l 15 öeldakse: „Proaktiivsete teenuste arendamisel tehisintellekti poolt kõigi
inimeste profileerimisel (inimeste kavatsuste tuvastamisel) tekib tõsine põhiseaduslik
probleem inimväärikuse ja eraelu puutumatuse riive kontekstis.“ Siin tuleks mõtet
täpsustada, sest me ei nõustu, et profileerimise vaste on „inimeste kavatsuste
tuvastamine“.
c. Proaktiivsete teenuste (ja laiemalt tehisintellekti osas terves VTKs) rõhutatakse nende
problemaatilisust ja ohtu, kuid kordagi ei mainita, millist sotsiaalset või majanduslikku
kasu need võivad ühiskonnale luua. Reaktiivsete otseste avalike teenustega kaasneva
bürokraatiaga on riigiaparaat loonud olukorra, kus tõenäolisemalt jäävad soodustavatest
teenustest ja toetustest ilma vähesemate teadmiste ja oskustega inimesed. Proaktiivsete
teenuste mõte ja eesmärk on siiski luua lisaväärtust kodanikele ja ettevõtjatele. Positiivse
proaktiivse teenuse näitena võib tuua NEET noorte teenuse.
(11) VTK lk-l 15 mainitakse, et andmeladudesse andmekogude kopeerimine ja isikuandmete
kasutamine võib olla vastuolus seadusega, kuivõrd andmeladusid ei ole avaliku teabe seaduses
reguleeritud. „Andmeladudesse andmekogude kopeerimine ja selles isikuandmete töötlemine võib
olla vastuolus seadusega, kuivõrd andmeladusid ei ole avaliku teabe seaduses reguleeritud.
4 (12)
Erinevate andmekogude koondamine andmelattu on vastuolus ka riigi infosüsteemi hajusa (kuid
koostöövõimelise) infrastruktuuri põhimõttega ning loob täiendavaid riske privaatsusele.“ Kuigi
põhimõtteliselt on mõte õige, on andmeladu tehniliselt samuti „andmekogu“ ja süsteem, mis ei
erine mistahes muust eksisteerivast andmekogust, mis üle x-tee tõmbab enda eesmärgi täitmiseks
teistest andmekogudest kokku andmeid. Andmeladu seega ei saa käsitleda erandina. Andmeladu
on lihtsalt spetsiifiline infosüsteem oma andmebaasi(de) ja kasutajaliides(t)ega. Andmemahu arv
ja/või integratsioonide arv ei tohi tekitada "mitu puud on mets" probleemi, millega hakatakse
käsitlema andmeladu erinevalt muust infosüsteemist puhtalt seetõttu, kui suur tema baas või
integratsioonide arv. Seega oleme tugeval seisukohal, et andmeladu ei vaja täna erisusi ja eraldi
reguleerimist.
REGULATIIVNE LAHENDUS (lk 21-22)
(12) VTK regulatiivne lahendus seisneb uue tervikseaduse loomises. Samas ei tule VTK-st
piisavalt selgelt välja, miks on vaja eraldiseisvat seadust ning miks mitteregulatiivsed meetodid ei
sobi. Seda enam, et valitud lähenemine läheb selgelt vastuollu nn krati ekspertrühma soovitusega,
milleks oli kõrvaldada valdkondlikes eriseadustes esinevad, praktilist rakendamist takistavad,
lüngad (vt lähemalt vastava aruande lk 56, „õigusanalüüsi kokkuvõte“1). Ühtlasi juhime
tähelepanu, et erasektori tegevust reguleerib mh ka infoühiskonna teenuse seadus, mistõttu väide,
et ei ole seadust, mis kohalduks erasektorile ei pea paika. Eeltoodu tõttu leiame, et
ekspertrühma soovitusi tuleks tervikuna kohaldada valdkonna reguleerimisele. See
tähendab, et ühe kratiseaduse asemel oleks asjakohasem muuta mitmeid seadusi, millele ka
TalTech & Tehver õigusanalüüsis viidatakse nagu nt haldusmenetlusseadus, riigivastutuse seadus,
karistusseadustik, liiklusseadus, tervishoiuteenuste korraldamise seadus 2 ning vajadusel on
võimalik muuta ka infoühiskonnateenuste seadust, kui on vaja leida horisontaalne seadus, mis
kehtiks ka erasektorile.
(13) Uudsete tehnoloogiate riskihinnang on väga teoreetiline, sest puudub praktiline
kogemus turutingimustel. Seetõttu on riskhinnangu tegemine ebamõistlik ning ettevõtjale
koormav. Sel põhjusel soovitame innovatiivsete tehnoloogiate ja ärimudelite jaoks sätestada
valdkondlikult või sektoripõhiselt eksperimente võimaldavad reeglid (ing.k. experimentation
clauses).3 Antud reeglid võimaldavad nn regulatiivses või õiguslikus liivakastis4 katsetada
innovaatilisi tehnoloogiaid päriselus, kuid piiratud keskkonnas ning järelevalveasutuse kontrolli
all. Õiguslikud liivakastid võimaldavad omandada praktilist teadmust tehnoloogiaga kaasnevatest
tegelikest riskidest ning seeläbi hinnata teaduspõhiselt õigusliku regulatsiooni täiendamise
vajadust. Põhiõiguste kaitse vaatest on võimalik vastavas sättes reguleerida nõue kaasata
järelevalveastutus, kelle ülesandeks on hinnata põhiõiguste riivamise või rikkumise riske ning
nende võimalikke maandamismeetmeid. Eksperimente võimaldavaid reegleid on innovatsiooni
kasutatud ka Eestis. Näiteks on piiratud kehtivusajaga ning täiendavate tingimustega
tüübikinnitusega testitud isesõitvate busside võimekust ohutult liigelda tavaliikluses ning
regulatiivset sekkumisvajadust. Õigusliku liivakasti tagajärjel on paranenud ka selgus ettevõtjate
seas teadmaks, kuidas innovatiivne tehnoloogia kehtivasse õiguskorda sobib ning millised reeglid
1
https://www.riigikantselei.ee/sites/default/files/riigikantselei/strateegiaburoo/eesti_tehisintellekti_kasutuselevo
tu_eksperdiruhma_aruanne.pdf
2
T. Kerikmäe jt, Autonoomsete intelligentsete tehnoloogiate kasutamisega seotud küsimuste reguleerimiseks
vajalike õigusloome probleemide tuvastamine ja lahendusettepanekute tegemine, III etapi aruanne (2019).
3
Vt. lähemalt kogemusest EL tasemel: Expermentation clauses: European Commission, TOOL #21.Research &
innovation, Better Regulation „Toolbox”. Kättesaadav: https://ec.europa.eu/info/sites/info/files/file_import/better-
regulation-toolbox-21_en_0.pdf
4
Liivakastidest lähemalt: OECD, The role of sandboxes in promoting flexibility and innovation in the digital age,
OECD Going Digital Toolkit Policy Note, 2019. Kättesaadav: https://goingdigital.oecd.org/toolkitnotes/the-role-of-
sandboxes-in-promoting-flexibility-and-innovation-in-the-digital-age.pdf
5 (12)
neile kohalduvad. Taoline selgus võimaldab ettevõtjal uue tehnoloogiaga kiiremini, kuid
ühiskonnale turvalisel viisil turule siseneda. Võrreldes teoreetilisel riskihinnangul põhineva
regulatsiooniga võimaldab õiguslike liivakastidel põhinev õigusloome efektiivsemalt maandada
riske, kuid seejuures vältida ebavajaliku halduskoormise teket ettevõtjale.
EELNÕU KAVAND (lk 23-27)
Paragrahv 1 – Eesmärk
(14) VTK toob välja eelnõu eesmärgi, milleks on isikute põhiõiguste kaitse. Juba täna on isikute
põhiõigused printsiibis seadustega kaitstud, seega me ei näe vajadust eraldiseisva seaduse järele
üksnes põhiõiguste kaitse aspektis lähtuvalt. Küll aga näeme vajadust tagada võimalused
tehisintellekti kasutuselevõtuks (eemaldades identifitseeritud lüngad seaduses, lubades
„liivakasti“ lahendusi), võimestada inimesi oma õiguste kaitsel (luues nt läbipaistvusnõuete kaudu
vajalikud eeltingimused) ning tagada isikute [ja ettevõtjate] kaitse võimalike tekkivate ohtude eest.
(15) Lisaks juhime tähelepanu sellele, et pakutud eesmärk ei peaks kindlasti olema läbipaistvuse
tagamine üksnes läbipaistvuse pärast, seega see osa tuleks kustutada. Ka „kõrgendatud“ nõuete
kehtestamine ei ole asjakohane. Ilmselt on sellega siiski mõeldud olemasolevatele nõuetele
täiendavate nõuete kehtestamist.
(16) Teeme ettepaneku sõnastada eelnõu eesmärk järgmiselt:
§ 1. Eesmärk
(1) Soodustada “iseõppivate” algoritmiliste süsteemide laialdasemat kasutuselevõttu
kõrvaldades tuvastatud regulatiivsed tõkked ning luues usaldusliku keskkonna süsteemi
kasutajatele.
(2) Kehtestada täiendavad nõuded “kõrge riskiga” algoritmilistele süsteemidele, millega
kaasneb kõrgendatud oht füüsilise isiku tervisele või tema varale, keskkonnale või mis
võib viia kuriteo toimepanemiseni või põhiõiguste olulise riiveni.
Paragrahv 2 – Mõisted
(17) Märgime, et VTK-s on jõutud järeldusele, et tarvis on uut eraldiseisvat seadust, et hõlmata
ühteviisi nii avalik sektor kui ka erasektor. Selline lähenemine eeldaks seega justkui ka seda, et
kõrge riskiga süsteemide definitsioon on mõlemale sama. Eeltoodu tõttu tuleks erasektori ja
avaliku sektori kõrge riski definitsioonid liita.
(18) VTK toob välja kõrge riskiga algoritmilise süsteemi definitsiooni, mille järgi loetakse
kõrge riskiga algoritmiliseks süsteemiks kõik sellised süsteemid, mida rakendatakse otsuste
tegemisel, millel võivad olla õiguslikud tagajärjed. Sellisel juhul on tegu jällegi enamike
infosüsteemidega. Õiguslikega samaväärselt olulisteks tagajärgedeks võib lugeda, kas kõike või
mitte midagi. See loob tõlgenduse, mille alla saab kõrge riskiga süsteemide mõiste alla paigutada
praktiliselt kõik IT-lahendused ja seda nii era- kui avaliku sektori poolt. See ei ole soovitav,
eesmärki vaadates ka proportsionaalne ega mõistlikult teostatav. Seega, kõrge riskiga avaliku
sektori algoritmiliste süsteemide definitsioon on liiga lai, sest sellega on justkui hõlmatud kõik
selliste süsteemide poolt loodud haldusaktid („otsused, millel on õiguslikud tagajärjed“) sõltumata
otsuse võimalikest tagajärgedest ehk siis definitsioonist ei tule välja, milles seisneb „kõrge risk“.
(19) Erasektori puhul on lisaks juurde toodud tingimus, et loetakse kõrge riskiga algoritmiliseks
süsteemi, mille puhul ei saa mõistlikkuse piires vältida. Antud tingimust tuleks põhjalikult
6 (12)
kaaluda. Näiteks võiks selle definitsiooni kohaselt lugeda kõrge riskiga süsteemiks juturobotit, kui
see on ainus viis veebi kaudu ettevõttega suhtlemiseks või üldse teenuse saamiseks. Samamoodi
saaks ka laialt rakendatud CAPTCHAt lugeda kõrge riskiga algoritmiliseks süsteemiks5. Samas
on selge, et selline määratlus ei ole mõistlik. Seega, kõrge riskiga erasektori algoritmiliste
süsteemide definitsioon on samuti liiga lai, sest sellega on justkui hõlmatud kõik selliste
süsteemide poolt loodud lepingud („õiguslikud tagajärjed“) või otsused („mille tagajärgi ei saa
mõistlikkuse piires vältida“), sõltumata nende otsuste võimalikest tagajärgedest ehk siis
definitsioonis ei tule välja, milles seisneb sellise süsteemi „kõrge risk“.
(20) Mis puutub Euroopa Komisjoni valge raamatu kriteeriumitesse, siis juhime tähelepanu
sellele, et arvestada tuleb, et olemasolevad kriteeriumid ei ole käesoleval kujul rakendatavad.
Kui me võtame kasutusele kriteeriumid, siis peame lähtuma minimaalsuse printsiibist ja
veenduma, et neid oleks võimalik ka rakendada lihtsa vaevaga. Lisaks tuleb lähtuda vaid Euroopa
Liidu soovitutest, kuna võib tekkida vasturääkivus Euroopa Nõukogu soovitustega.
(21) Teeme eeltoodust tulenevalt ettepaneku kitsendada „kõrge riski“ definitsiooni
järgnevalt. All toodud definitsiooni koostamisel on lähtutud täna kehtivast toote nõuetele
vastavuse seadusest (§ 7 lg 1), korrakaitseseadusest (§ 5 lg 2, 4) ning VTK-s pakutust.
§ 2. Mõisted
Kõrge riskiga “iseõppiva” algoritmilise süsteemi all peetakse silmas:
Süsteemi mille mõistlikel kasutustingimustel, arvestades kasutusiga ning asjakohastel
juhtudel kasutuselevõtu-, paigaldus- ja hooldusnõuete järgimist, esineb kõrgendatud
ohu realiseerumise võimalus korrakaitseseaduse mõttes [oht isiku elule, kehalisele
puutumatusele, füüsilisele vabadusele, suure väärtusega varalisele hüvele, suure
keskkonnakahju tekkimise oht või karistusseadustiku 15. peatükis sätestatud I astme
kuriteo või 22. peatükis sätestatud kuriteo toimepanemise oht] või mis võib kaasa tuua
põhiõiguste olulise rikkumise ohu, mille tagajärgi füüsilised isikud ei saa mõistlikkuse
piires vältida.
Paragrahv 3 - Üldised kohustused põhiõiguste tagamiseks
(22) VTK kohustab arvestama kehtiva õigusega. Sama kehtib ka põhiõiguste järgimise kohta.
Kui antud seaduses antud punkte kirjas poleks, kas see tähendaks, et ei pea kehtivale õigusele
vastama? Leiame, et selline säte on sisutühi ning mittevajalik.
(23) Eelnõu kavandi paragrahv 3 seletuskirjas tuleb välja tuua, milliseid meetmeid tuleks
rakendada, et ära hoida ebasoovitavat diskrimineerimist. Nimelt analüütika/andmeteadus
põhinebki olemuslikult andmete põhisel diskrimineerimisel ehk eristamisel, seega on vaja
oluliselt täpsemalt välja tuua eesmärk, mida soovitakse saavutada või millist olukorda vältida.
Näiteks, kui A teenib 1000€ ja B teenib 5000€, siis kui mudel ütleb, et B saab 500€ laenu ja A
100€ laenu, võiks lugeda diskrimineerimiseks, aga see on mõistetav ja vajalik, aga kas tegu on
siiski diskrimineerimisega? Diskrimineerimise defineerimisel tuleks lähtuda PS § 12: „Kõik on
seaduse ees võrdsed. Kedagi ei tohi diskrimineerida rahvuse, rassi, nahavärvuse, soo, keele,
päritolu, usutunnistuse, poliitiliste või muude veendumuste, samuti varalise ja sotsiaalse seisundi
või muude asjaolude tõttu.“6 Tuleks luua õigusselgus, millistel juhtudel on tegu lubamatu
diskrimineerimisega ja millistel juhtudel on diskrimineerimine (eristamise mõttes) lubatud.
5
https://en.wikipedia.org/wiki/CAPTCHA
6
https://www.pohiseadus.ee/index.php?sid=1&p=12
7 (12)
(24) Paragrahvi kolmandast punktist (üldine kohustus: „Isikuandmete töötlemine tehisintellekti
treenimise eesmärgil“) saab hetkel välja lugeda, et põhiõiguste tagamise nimel kehtestame üldise
kohustuse töödelda isikuandmeid tehisintellekti treenimise eesmärgil. Ilmselt on siin mõeldud, et
juhul kui tehisintellekti treenimisel kasutatakse isikuandmeid, siis tuleb kohaldada vastavaid
riskimeetmeid. Seega, seda sõnastust tuleb parandada.
(25) Teeme ettepaneku jätta § 3 tervikuna välja, kuivõrd see ei loo täiendavaid õigusi ega
kohustusi võrreldes tänasega.
Paragrahv 4 - Põhiõiguste mõjude hindamine
(26) Eelnõu kavandis tuuakse välja vajadus läbi viia põhiõiguste mõjuhinnang. Samas ei selgu
VTK-st, millal põhiõiguste mõjuhinnang tuleks läbi viia? Kas enne rakendamist, rakendamise
ajal periooditi? Samuti ei selgu, mida põhiõiguste mõjuhinnang endast kujutaks? Teatud
juhtudel on mõjuhinnangut enne projekti ebamõistlik teha, kuna on võimatu ette näha, milline
projekti mõju on, näiteks juhtudel, kus mudeli täpsus selgub alles arenduse käigus. Igal juhul peab
mõjuhinnang olema olemuselt lihtne ja kiire ning kõigile üheselt mõistetav. Oleme seisukohal, et
mõjuhinnang ei tohi eeldada rakendajatelt eriteadmisi inimõigustest. Seda sama toodi ka ühe
probleemina välja ELi mõjuhinnangu puhul, kus leiti, et loodud mõjuhinnang polnud praktikas
rakendatav. Lisaks ei ole paragrahvis 4 käsitletud erinevate põhiõiguste kaalumist, mis peaks
kindlasti olema sellise nõude üks osa.
(27) Mõjude hindamise nõue on VTK-s kitsendatud põhiõiguste mõjude hindamisega, mis on
liiga kitsas. Juhul kui tegemist on „kõrge riskiga“ süsteemiga, siis mõistlikum oleks nõuda, et
hinnata tuleb eelnevalt defineeritud riskide realiseerumise ohtu (võivad olla seotud
põhiõigustega aga ei pruugi) ning nende riskide maandamise võimalusi. Näiteks, samavõrd oluline
on tagada, et algoritmiliste süsteemide arendamisel ja haldamisel teostatakse küberriskide
hindamise ja maandamise protsesse jne.
(28) Mõjude hindamisega seoses teeme seepärast järgmised muudatusettepanekud:
§ 4. Põhiõiguste mõjude hindamine
(1) Kui tegemist on kõrge riskiga “iseõppiva” algoritmilise süsteemiga § 2 tähenduses,
tuleb enne süsteemi kasutuselevõttu koostada kirjalik mõjuhinnang, milles määratletakse
tuvastatud ohtude vältimiseks kavandatavad meetmed, tagatised ja mehhanismid,
analoogselt või täiendavalt IKÜM art 35 (või vastavalt IKS § 38) sätestatud
andmekaitsealase mõjuhinnangu regulatsiooniga.
(2) Süsteemi suuremate toimimisloogika muutuste korral tuleb mõjuhinnangut
ajakohastada.
Paragrahv 5 – Läbipaistvuse tagamine
(29) Läbipaistvusnõuded tuleks kehtestada üksnes “kõrge riskiga” algoritmilistele
süsteemidele. Ei pea vajalikuks kehtestada eelteavitus kõikidele lahendustele, kus inimesega
suhtleb inimesesarnane algoritmil põhinev dialoogsüsteem, kuid millel puudub “kõrge riski”
element.
(30) Lisaks tuleb täpsustada, millal teavitamine on vajalik. Kui pole inimsarnane, kas sellisel
juhul on vaja? Kui pole dialoogsüsteem, siis ka ei pea, isegi kui suhtleb inimsarnaselt?
Seletuskirjas tuleks erinevaid lähenemisi katta ja selgitada. Samuti tuleb täpsustada, mida
tähendab otsustusmehhanismi loogikast teavitamine? Kui kasutatakse kommertstarkvara, siis
8 (12)
kuidas see väljendub? Teatud juhtudel on tegu ärisaladusega, mistõttu ei ole realistlik nõuda
otsustusmehhanismi loogikat, näiteks kindlustuspakkumiste või investeeringute tegemine. Kuidas
selline nõue rakenduks rakendusliidese puhul? Kas rakendusliidese tarbija peaks samamoodi
teadma lahenduse loogikat?
(31) Läbipaistvusnõuded tuleks kehtestada selliselt, et kasutajal oleks võimalik olulise infoga
eelnevalt tutvuda, st nõue peaks olema suunatud sellele, et info on pro-forma kasutajale
kättesaadavaks tehtud, mitte et kasutajat peab igal korral sellest teavitama. Vastasel juhul
kehtestame nn cookie policy laadse nõude, mis ei ole soovitav.
(32) VTK-s pakutud sõnastuse muudatusettepanekud:
§ 5. Läbipaistvuse tagamine
(1) Kui inimesega suhtleb inimsarnane kõrge riskiga “iseõppival” algoritmil põhinev
dialoogsüsteem ning kui see asjaolu ei tule valitud suhtlemisviisist tulenevalt esile, tuleb
teda isikut sellest eelnevalt teavitada.
(2) Kõrge riskitasemega ”iseõppiva” algoritmilise süsteemi puhul tuleb isikutele eelnevalt
teavitada lihtsasti kättesaadavaks teha informatsioon algoritmi aluseks olevast
otsustusmehhanismi põhiloogikast, millised on isikuandmete töötlemise tähtsus ja ning
võimalikestud tagajärjedest.
(3) Teavitamine peab hõlmama ka IKÜM art 22 lg-s 3 sätestatud kaitsemeetmeid (õigusest
otsesele isiklikule kontaktile vastutava töötlejaga, et väljendada oma seisukohta ja
vaidlustada otsus).
(4) Võimalikud erandid.
Paragrahv 8 - Kõrge riskiga algoritmilise süsteemi toimimisega kaasnevad kohustused
(33) VTK-s on toodud kohustus säilitada andmeid. Juhime tähelepanu sellele, et antud nõue
võib minna vastuollu andmete säilitamise tähtaegadega, näiteks isikuandmete säilitamise
nõudega. Seega tuleks kaaluda erandeid, et kõrge riskiga algoritmilise süsteemi puhul oleks tegu
põhjendatud juhuga tähtaja pikendamiseks.
(34) Teeme VTK-s pakutud sõnastusele järgneva muudatusettepaneku:
§ 8. Kõrge riskiga algoritmilise süsteemi toimimisega kaasnevad kohustused
(1) Kõrge riskiga algoritmilise süsteemi puhul peab selle kasutaja tagama pideva
inimjärelevalve, tagamaks, et iseõppiv algoritm ei muutuks töö käigus õigusvastaseks.
Pideva inimjärelevalve all ei tule silmas pidada iga otsuse eelnevat läbivaatamist inimese
poolt, vaid riskijuhtimissüsteeme, perioodilist teatud ajavahemiku takka toimuvat süsteemi
valideerimist.
(2) Kõrge riskiga algoritmilise süsteemi puudutavate teatud andmete säilitamise
kohustused ja tähtaeg.
(3) Erandid andmete säilitamise tähtaegades lähtuvalt isikuandmete säilitamise
nõuetest.
Paragrahv 9 – Riiklik järelevalve
(35) VTK-s on toodud vajadus määratleda pädev järelevalvet teostav haldusorgan. Samas ei
selgu VTK-st, milliseid funktsioone hakkaks see haldusorgan täitma. Leiame, et järelevalve
küsimust on võimalik lahendada alles siis, kui on selge, millised täiendavad nõuded ja kellele
kehtestame: nt kas nõuded jäävad põhiseaduste riive keskseks või mitte jne. Igal juhul ei näe MKM
vajadust eraldiseisva asutuse loomiseks ning järelevalve korralduse lahendamisel tuleks lähtuda
tänastest ametite pädevustest.
9 (12)
Paragrahv 11 - Haldusmenetluse seadusesse tehtavad muudatused
(36) Toetame HMS-i kui üldseadusesse automaatse haldusakti andmise võimaluse
lisamist. Automaatne haldusakt võiks olla selline, kus kaalutlusõigust ei ole ning haldusakt
antakse riigi infosüsteemi kuuluvates andmekogudes olevate andmete alusel ning tingimused akti
koostamiseks on süsteemis kirjeldatud inimese poolt ning haldusaktide andmise protsess
käivitatakse inimese poolt.
(37) Me ei poolda, et automaatne haldusakt peab olema omakäelise allkirja või e-allkirja asemel
kinnitatud e-templiga. Selline tingimus ei peaks olema kohustuslik, vaid üks võimalustest. Nimelt
oleme arvamusel, et automaatne haldusakt võib olla ka allkirjastamata ja omada märget, et see on
antud automaatselt. Näiteks maksekäsu kiirmenetluses ei allkirjastata
maksekäske/kohtumääruseid ja see on sätestatud nii ka seaduses. Kui automaatselt antud haldusakt
tehakse isikule kättesaadavaks autenditud keskkonnas, kuhu isik pääseb ligi ainult teda
puudutavatele haldusaktidele, on e-tempel haldusaktil liigne. Automaatselt antud haldusakti puhul
ei tohiks rakendada kättetoimetamisel, sh. elektroonilisel kättetoimetamisel, erikorda.
Kättetoimetamine peaks käima HMS sätete järgi ning andma asutusele paindlikkuse, et valida
kättetoimetamise viise ning eelistada elektroonilist kättetoimetamist, sh. autenditud keskkonnas
kättesaadavaks tegemist. Ettepanek oleks lisada HMS-i üldsäte, mis võimaldaks automaatselt
antavat haldusakti ja sätestaks selle andmise tingimused. Oleme arvamusel, et eriseadustes
tuleks sätestada valdkonnad, kus HMS-i kohaldatakse, mille puhul automaatne haldusakt ei ole
lubatav, näiteks relvalubade puhul.
(38) Teeme VTK-s pakutud sõnastusele järgneva muudatusettepaneku:
§ 11. Haldusmenetluse seadusesse tehtavad muudatused
(1) Automaatne haldusakt on lubatav, kui tegemist pole kaalutlusõiguse alusel antava
haldusaktiga ning haldusakt antakse riigi infosüsteemi kuuluvates andmekogudes
olevate andmete alusel ning tingimused akti koostamiseks on süsteemis kirjeldatud
inimese poolt kui automaatse haldusakti andmise õigus on sätestatud eriseaduses.
(2) Automaatne haldusakt ja dokument kinnitatakse omakäelise või e-allkirja asemel e-
templiga e-identimise ja e-tehingute usaldusteenuste seaduses sätestatud tingimustel ja
korras, välja arvatud juhul kui automaatselt antud haldusakt tehakse isikule
kättesaadavaks autenditud keskkonnas. E-templile õigusliku tähenduse omistamine
reguleeritakse HMS-s.
(3) Automaatse haldusakti ja dokumendi puhul peab adressaadile olema üheselt
arusaadav, et tegemist on automaatse haldusakti või dokumendiga.
(4) Erisused kättetoimetamise, vormistamise jmt seoses. Automaatse otsuse või
profiilianalüüsi rakendamisel tehtud keelduva otsuse põhjendamise erisused (kohustus
välja tuua, millise algoritmi parameeter tingis koormava haldusakti).
(39) Teeme täiendavalt ettepaneku lisada avaliku teabe seadusesse üldsätte, mis võimaldaks
avaliku ülesande täitmise käigus andmekogusse kogutud andmeid kasutada teiste asutuste
andmekogude poolt avaliku ülesande täitmiseks üle x-tee, kui nende andmete kasutamist
pole seadusega piiratud (maksusaladus, ärisaladus jne.). Ei ole otstarbekas andmekogude
põhimääruses sätestada, milliste teiste andmekogude andmeid kasutatakse ja millistele
andmekogudele andmeid antakse. Sellega kirjutatakse paindliku teenuste arendamise võimalused
põhimäärustega lukku ning sellega on olulisel määral raskendatud ka tehisintellekti kasutuselevõtt,
samuti sisuliselt keelatud andmete „avastamisest“ (ingl k exploration) tulenev uute kasutusjuhtude
ja kasu leidmine – mis kiirelt areneva tehnoloogia puhul on suur võimalus, sest me ei tea kõigi
rakendusvõimalusi ette. Teave selle kohta, et milliseid andmeid andmekogud vahetavad, peavad
olema kirjas RIHA-s ning olema saanud RIHA-s kooskõlastuse – see aitab tagada ka põhiõiguste
10 (12)
kaitset, andes vajaliku läbipaistvuse tagamiseks tehnilise aluse. Selline säte aitaks praktikas täita
avaliku teabe seaduses toodud põhimõtet, mis on sees kahes paragrahvis: AvTS § 431 lg 3
(andmekogusse andmete kogumisel lähtutakse andmete ühekordse küsimise põhimõttest) ning §
433 lg 2 (keelatud on asutada ühtede ja samade andmete kogumiseks eraldi andmekogusid).
(40) Eelnevast tulenev konkreetne sõnastusettepanek on:
§ 12. Avaliku teabe seadusesse tehtav muudatus
Üldsäte, mis võimaldaks avaliku ülesande täitmise käigus andmekogusse kogutud
andmeid kasutada teiste asutuste andmekogude poolt avaliku ülesande täitmiseks üle x-
tee, kui nende andmete kasutamist pole seadusega piiratud (maksusaladus, ärisaladus
jne.). Teave selle kohta, et milliseid andmeid andmekogud vahetavad, peab olema kirjas
riigi infosüsteemi haldussüsteemis ning olema saanud selle raames kooskõlastuse.
KOOSKÕLA KEHTIVA EUROOPA LIIDU ÕIGUSEGA (lk 27)
(41) Hetkel pole VTK analüüsinud kooskõla Euroopa Liidu õigusega üldiselt. Kuigi HÕNTE §
1 lg 1 p 4 näeb ette valitud lahenduse sobivuse kehtivasse õiguskorda analüüsi ning ei maini
Euroopa Liidu õigust eraldiseisvalt, siis tegelikkuses tuleb hõlmata ka Euroopa Liidu õiguse
analüüs. Arvestades VTK laia kohaldamisala ja võimalikku mõju siseturul kaupade ja teenuste
vaba liikumisega, siis leiame, et hilisemate menetluslike probleemide vältimiseks on analüüs
seoses Euroopa Liidu õigusega (eelkõige ELTL artiklitega 34 ja 36) kriitilise tähtsusega.
MÕJUHINDAMINE (lk 27-29)
(42) VTK-s tuleks välja tuua mõjudena avalikule sektorile väga intensiivset kulude kasvu
ning halduskoormuse tõusu ja erasektorile vähemalt sama intensiivset ettevõtlusvabaduse
piirangut, sest kõikvõimalike lahenduste loomine ja kasutuselevõtt hakkaks kaasa tooma
põhjalike põhiõiguste mõjude hinnangu läbiviimise. Lisaks näeme, et kasvab küberturbe ja
turvalisuse risk. Seadusel võib olla innovatsiooni pidurdav mõju. Lisaks on vaja oluliselt harida
rakendajaid ning tõsta kodanike teadlikkust.
(43) Leiame, et mõju on VTK V peatükis oluliselt alahinnatud.
Lugupidamisega
(allkirjastatud digitaalselt) (allkirjastatud digitaalselt)
Taavi Aas Raul Siem
majandus- ja taristuminister väliskaubandus- ja infotehnoloogiaminister
11 (12)
Risto Jõgi
625 6482
[email protected]
12 (12)