dokumendiregister.ee
OtsingAsutusedMCP
Otsing›Majandus- ja Kommunikatsiooniministeerium
Väljaminev kiriAvalik

Vastus Justiitsministeeriumi algoritmiliste süsteemide mõjude reguleerimise väljatöötamise kavatsusele („krati VTK“)

Majandus- ja Kommunikatsiooniministeerium · 30. september 2020
Viit
2-15/2020/5111-2
Registreeritud
30. september 2020
Dokumendi liik
Väljaminev kiri
Adressaat
Justiitsministeerium
Saabumis/saatmisviis
EIS
Funktsioon
2/S Õigusalane teenindamine
Sari
2-15 Õigusloomealane kirjavahetus (Arhiiviväärtuslik)
Toimik
2-15/2020
Vastutaja
Risto Jõgi (Majandus- ja Kommunikatsiooniministeerium, Kantsleri valdkond, Siseturu valdkond, Siseturuosakond, Toote ohutuse ja tarbijakaitse talitus)

Failid

  • 📎2-1520205111-2 30.09.2020 Väljaminev kiri.asice752 KB

Sisu (failidest)

Teie 17.08.2020 nr JUM/20-0999/-1K Justiitsministeerium [email protected] Meie 30.09.2020 nr 2-15/2020/5111-2 Suur-Ameerika 1 10122, Tallinn Vastus Justiitsministeeriumi algoritmiliste süsteemide mõjude reguleerimise väljatöötamise kavatsusele („krati VTK“) Austatud Majandus- ja Kommunikatsiooniministeerium (edaspidi MKM) kooskõlastab krati väljatöötamiskavatsuse (edaspidi VTK) järgmiste märkustega arvestamise korral: KOKKUVÕTE:  Seaduse kavandi reguleerimise eesmärki (§ 1 - põhiõiguste tagamine) tuleb laiendada „iseõppivate“ algoritmide kasutuselevõtu soodustamisele, üksikisikute võimestamisele ning kõrgendatud ohtude kaitsele, kuna see vastab paremini ühiskonna ootustele;  Eeltoodu tõttu tuleks kaaluda ka ühe kõikehõlmava kratiseaduse ideest loobumist ning selle asemel muuta mitmeid asjakohaseid seadusi, milles on täna tuvastatud lünki, mis hoiavad tagasi "iseõppivate” algoritmiliste süsteemide kasutuselevõttu või milles on tuvastatud puudusi põhiõiguste, isikuandmete või kõrgendatud ohtude kaitsel (nt TalTech & Tehver õigusanalüüsi tulemused);  Seaduse kavandi algoritmilise süsteemi mõiste (§ 2) tuleb kitsendada „iseõppivale“ algoritmilisele süsteemile, sest vastasel juhul kehtestame täiendavaid nõudeid pea kõikidele süsteemidele, kuid MKMile teadaolevalt ei esine praktilisi probleeme kõikide algoritmiliste süsteemidega;  Seaduse kavandi „kõrge riski“ definitsiooni (§ 2) võiks siduda kõrgendatud ohu realiseerumise ja põhiõiguste olulise riive tekke ohuga lähtudes tänases Eesti õiguskorras sätestatud normidest (nt toote nõuetele vastavuse seadusest, korrakaitseseadusest);  Seaduse kavandi mõjuhindamise nõuet (§ 4) tuleb laiendada kõikidele võimalikele riskidele (oht tervisele, varale, keskkonnale, küberjulgeolek jms), mitte üksnes põhiõiguste riive aspektidele;  Seaduse kavandi läbipaistvusnõuded (§ 5) tuleb kitsendada üksnes „kõrge riskiga“ süsteemidele, kuna oleks ebaproportsionaalne seada täiendavaid nõudeid süsteemidele, mis ei too kaasa olulisi tagajärgi;  Seaduse kavandis toodud andmete säilitamise kohustuse (§ 8) kehtestamisel tuleb ette näha erandid andmete säilitamise tähtaja pikendamiseks nt isikuandmete säilitamisega seonduvalt; Suur-Ameerika 1 / 10122 Tallinn / 625 6342 / [email protected] / www.mkm.ee Registrikood 70003158  Toetame haldusmenetluse seadusse kui üldseadusesse automaatse haldusakti andmise võimaluse lisamist, mis on väga vajalik. Siiski ei poolda me, et automaatne haldusakt peab igas olukorras olema omakäelise allkirja või e-allkirja asemel kinnitatud e-templiga – e-tempel on vaid üks tehnilistest lahendustest, mida kasutusele võtta;  Teeme ettepaneku lisada avaliku teabe seadusesse üldsätte, mis võimaldaks avaliku ülesande täitmise käigus andmekogusse kogutud andmeid kasutada teiste asutuste andmekogude poolt avaliku ülesande täitmiseks üle x-tee, kui nende andmete kasutamist pole seadusega piiratud, kuivõrd see soodustab tehisintellekti kasutuselevõttu;  Seaduse kavand võiks sisaldada ka õiguslikke „liivakaste“ lubavaid sätteid, mis võimaldaks uudsete tehnoloogiate osas läbi viia praktilisi eksperimente tegemaks teaduspõhiselt kindlaks regulatiivse sekkumise vajadust ning seeläbi välistades ebavajaliku halduskoormuse tekitamist ettevõtjale. Õiguslikud „liivakastid“ parandavad õigusselgust ning võimaldavad innovatiivsete tehnoloogiate kiirema, kuid ühiskonnale turvalise turule sisenemise;  Seoses VTK lk 15 toodud märkusega andmeladude kohta, oleme tugeval seisukohal, et andmeladu ei vaja täna erisusi ja eraldi reguleerimist;  Arvestades VTK laia kohaldamisala ja võimalikku mõju siseturul kaupade ja teenuste vaba liikumisele, siis leiame, et hilisemate menetluslike probleemide vältimiseks tuleb kindlasti teha analüüs tulevase eelnõu vastavusest Euroopa Liidu õigusele (eelkõige ELTL artiklitega 34 ja 36). Pikemalt VTK plokkide lõikes: REGULEERIMISOBJEKT (lk 1-2) (1) VTK ja eelnõu kavandi reguleerimisobjekti ulatus on ebaselge ja MKM hinnangul liiga lai. Toodud definitsiooni ulatus on ebaselge, kuivõrd selle alla kuuluks mistahes tarkvara, algoritmid, funktsioonid, protseduurid, sealhulgas isegi Exceli tööleht ja palju muud (märkusena, definitsioonis on segamini toodud tegevusi ja meetodeid, näiteks klassifitseerimine on kindel meetod). Seega oleks hõlmatud iga tarkvara kood ja skript, näiteks skript, milles muudetakse inimese nime esitäht suureks ja siis liidetakse perekonnanimega kokku. Ühtlasi reguleeritaks algoritmilise süsteemi definitsiooniga palju enamat kui üksnes tehisintellekti, seega laiendatakse VTK-ga olulisel määral tehisintellekti sisu võrreldes krati tegevuskava ja selle aluseks oleva määratlusega. Jääb ebaselgeks, mis on sellise laia määratluse väärtus, kuivõrd kogu probleemistiku kirjeldus on tehisintellekti põhine. MKMile teadaolevalt ei esine ühiskonnas märkimisväärseid probleeme või ohte seoses muude IT-süsteemidega. Oleme küll nõus, et seadusandlus peaks võimalusel olema võimalikult tehnoloogianeutraalne, kuid antud juhul on esile kerkivad ohud ja riskid seotud kitsamalt tehisintellektiga aga mitte muude näiliselt sarnaste IT- süsteemidega. Antud definitsioon muutub äärmiselt oluliseks, kui hiljem arvestada väljapakutud meetmeid, mis ei ole sellisel juhul enam enamjaolt proportsionaalsed. Seega teeme ettepaneku kitsendada reguleerimisala ja piirduda vaid selliste süsteemidega, mis on „iseõppimisvõimelised“. (2) MKM hinnangul võiks tugineda pigem sellisele definitsioonile: Iseõppiv algoritmiline süsteem on süsteem, mis talle antud andmete/kogemuste põhjal jõuab iseseisvalt uute järeldusteni, sealjuures ei ole inimesele üheselt arusaadav, kuidas antud otsuseni jõuti. Iseõppiv algoritmiline süsteem vastandub tavapärasele algoritmilisele süsteemile, kuna lahenduskäik pole selgelt ette programmeeritud. PROBLEEMIPÜSTITUS (lk 2-21) 2 (12) (3) Üldise kommentaarina märgime, et VTK keskendub algoritmiliste süsteemidega seotud probleemidele ning näib lähtuvat soovist piirata ja reguleerida. Tekkinud ja tekkida võivat kasu pole analüüsitud, sealhulgas, kuidas suure potentsiaaliga valdkonda toetada ja arengut pigem hoogustada. Näiteks on VTKs mainitud vajadust võimaldada andmete ristkasutamist ja võimalikke muudatusi haldusmenetluses, kuid väljapakutud täiendused ei lahenda olukorda. Seega oleks soovitus keskenduda ka sellele, kuidas valdkonna arengut võimaldada. Kuigi eetika, turvalisuse ja privaatsuse kaitse on üliolulised, ei ole eelnõu kavandis käsitletud teisi olulisi aspekte, nt ELi tasandil välja toodud eesmärke võimestada tehisintellekti abil inimesi informeeritud otsuste tegemisel ja kõigi oma põhiõiguste kasutamisel ning toetada üldist (sh. järeltulevate põlvede) heaolu, tagades selleks ka süsteemide kestlikkuse. (4) 2020. aasta alguses käis koos vastutustundliku andmetöötluse töörühm, millesse kuulusid esindajad JUMist, SOMist, SIMist, STATist, AKIst, MKMist, Riigikantseleist, era- ja kolmandast sektorist. VTK-st ei tule välja, kas ja kui palju on töörühma töö tulemusena koostatud vastutustundliku andmetöötluse põhimõtteid arvesse võetud. Leiame, et on oluline, et need põhimõtted oleksid kindlasti VTK-s käsitletud. (5) VTK lk-l 3 on viidatud USAs Houstonis toimunud kohtuvaidlusele, kuid antud kohtulahendi puhul ei tulnud arutlusele eelarvamuslikkus ja kallutatus vaid see, et tegu oli kommertstarkvaraga, mille lähtekoodile ja toimimise loogikale ei olnud koolil ligipääsu. Juhime tähelepanu, et sellist „musta kasti“ loogikat esineb kõikide sissehangitavate teenuste ja süsteemidega ning enamike igapäevaselt kasutatavate seadmete puhul. Seega eksisteerib „musta kasti“ probleemistik juba täna, kuid enamikel juhtudel on tegu intellektuaalomandiga, mida erasektor ei peakski avalikustama. Näiteks ei ole realistlik, et Microsoft avalikustaks Exceli lähtekoodi, sest keegi tahab teada, kuidas süsteem toimib. (6) VTK lk-l 4 räägitakse algoritmiliste süsteemide reguleerimisest, samas reguleerimise põhjendusena tuuakse esile peamiselt tehisintellekti kasutusjuhte, ja siingi peamiselt praktikas esile kerkinud erandeid. Leiame, et probleemikäsitluses tuleks hoida selgemat joont ja võrrelda olukordi objektiivselt. Näiteks öeldakse, et tehisintellekt tähendab seda, et inimene (isegi kogenud informaatik, aga ka rakenduse looja) ei ole suuteline hinnanguid ja otsuseid selgitama. Antud väide ei rakendu aga enamikele olukordadele, vaid kehtib ainult teatud olukordades. Näiteks otsustuspuu on iseõppiv süsteem, aga seal pole musta kasti efekti. Selliseid meetodeid on väga palju, näiteks lineaarregressioon, logistiline regressioon, GLM jmt. Lisaks on valdkond tugevalt arenenud ning ka mudelid, mida varasemalt polnud võimalik selgitada, on nüüd võimalik, näiteks kasutatakse selleks meetodeid nagu LIME, activation atlases, globaalne surrokaat, SHAP, PDP. Täna areneb valdkond väga jõudsalt ning järjest tuleb juurde meetodeid, mis aitavad ka „musta kasti“ avada, juhul kui see on üldse vajalik. Seega, kui on risk teatud lähenemiste puhul põhiõiguste rikkumisele, siis tulekski vaid nendel kasutusjuhtudel keskenduda. Ei ole mõistlik laiendada seda kõigele. (7) VTK lk 6 tuleks täiendavalt selgitada, mida mõeldakse parameetrite all ehk kas nende all mõeldakse teatud mudelit või parameetrit ehk muutujat? Näiteks võib avalikustada järgneva valemi: Diabeedi klass(xj=A)=1nn∑i=1I(x(i)j=A), aga sellest poleks jätkuvalt enamikele kasu, sama kehtib ka parameetrite ehk muutujate kohta, näiteks 2*x, teame vaid seda, et mingil põhjusel korrutatakse kahega. Täiendavalt juhime tähelepanu sellele, et paljudel juhtudel ei saagi sellise info avalikustamist nõuda, kuna tihti võib tegu olla konkurentsieelise ja intellektuaalomandiga. Seaduseelnõu peaks sellega arvestama. (8) VTK lk-l 6 viidatakse kaalutlusvigadele, kuid siinkohal juhime tähelepanu, et kaalutlusvead on kõikjal, ka inimeste endi tehtud otsustes ja teaduse põhjal teame, et inimeste 3 (12) otsused võivad ka heatahtlikkuse korral olla kallutatud. Seega vajab põhjendamist, miks antud olukord on võrreldes sarnaste ja seniste tavaolukordadega eriline. Leiame, et küsimus peaks pigem olema, kuidas minimeerida veamäära ja veenduda, et tulemus oleks piisavalt usaldusväärne. Samamoodi on täna andmetes leiduv kallutatus tulnud inimestest ehk objektiivselt võiks usaldada pigem masinat, kui inimest õiglase otsuse tegemisel (eeldusel, et vastab teatud reeglitele, normidele). Näiteks unustati dokumendihalduses tasuta õigusabi saanud inimeste andmete juures juurdepääsupiirang lisada (vt lisa https://www.err.ee/1129691/ministeerium- inimesi-nende-oiguste-rikkumisest-ei-teavitanud). (9) VTK lk 8 viidatakse vajadusele registreerida algoritmilisi süsteeme ja nende mõjusid. Leiame, et sellise nõude järele puudub vajadus ning VTK-st ei selgu, milleks andmeid kogutakse. Puudub ka vajadus hakata kõikide lahenduste puhul läbi viima põhjalikke mõjuhinnanguid, kuivõrd see on ebaotstarbekas, piisava lisandväärtuseta halduskoormav ja e-riigi arengut pärssiv. Näiteks masintõlge on olemuselt iseõppiv süsteem, selle rakendamine on odav ja kiire, uue mudeli treenimine niisamuti. Mõjuhinnang võib seega osutuda kallimaks kui krati enda rakendamine, mis ei ole kuidagi proportsionaalne – kui tegu pole kõrge riskiga rakendusega (millest allpool). (10) Proaktiivsete teenuste toimimist (VTK lk 12) on kirjeldatud meelevaldselt, jättes mulje, nagu tähendaks see iseõppivate süsteemide abil kõigi inimeste mõtete, kavatsuste ja tahte selgitamist (VTK punkt 1.2.3.2). Samavõrd oluliste probleemidena näeme proaktiivsete teenuste pakkumise puhul järgnevaid punkte: a. VTK lk 14 viimane lause/ lk 15 esimene lauses öeldakse: „Proaktiivsete teenuste arendamisel tuleb kaaluda, kuidas arvestada inimese enda tahet ning analüüsida nõusoleku kasutamist isikuandmete töötlemise õigusliku alusena.“ Sellest võib järeldada, nagu peaks inimeselt küsima nõusolekut isikuandmete töötlemiseks juba enne seda, kui proaktiivset teenust hakatakse pakkuma, vahet pole, kas seda teeb tehisintellekt või mitte. Selline soovitus on ebaproportsionaalne ja nii kaotab proaktiivne teenus oma mõtte. Näitena tähendaks see seda, et Sotsiaalkindlustusameti peretoetuste toetuse maksmiseks küsiks riik kõige pealt vanemalt: „Kas me tohime töödelda teie andmeid proaktiivse peretoetuste maksmiseks?“ ja alles seejärel tohiks amet andmetöötluse teha ja toetust pakkuda. Seda olukorras, kus kõnealuse teenuse puhul ei ole ametnikel teenuse osutamisel kaalutlusõigust, vaid kontrollitakse isikuandmeid vastu toetuse saamise tingimusi ning kui tingimused on täidetud, tehakse pakkumus, millest inimesel on võimalik loobuda. Jääb ebaselgeks, millist eesmärki täidaks siin eelnev nõusoleku küsimine andmete töötlemiseks. b. VTK lk-l 15 öeldakse: „Proaktiivsete teenuste arendamisel tehisintellekti poolt kõigi inimeste profileerimisel (inimeste kavatsuste tuvastamisel) tekib tõsine põhiseaduslik probleem inimväärikuse ja eraelu puutumatuse riive kontekstis.“ Siin tuleks mõtet täpsustada, sest me ei nõustu, et profileerimise vaste on „inimeste kavatsuste tuvastamine“. c. Proaktiivsete teenuste (ja laiemalt tehisintellekti osas terves VTKs) rõhutatakse nende problemaatilisust ja ohtu, kuid kordagi ei mainita, millist sotsiaalset või majanduslikku kasu need võivad ühiskonnale luua. Reaktiivsete otseste avalike teenustega kaasneva bürokraatiaga on riigiaparaat loonud olukorra, kus tõenäolisemalt jäävad soodustavatest teenustest ja toetustest ilma vähesemate teadmiste ja oskustega inimesed. Proaktiivsete teenuste mõte ja eesmärk on siiski luua lisaväärtust kodanikele ja ettevõtjatele. Positiivse proaktiivse teenuse näitena võib tuua NEET noorte teenuse. (11) VTK lk-l 15 mainitakse, et andmeladudesse andmekogude kopeerimine ja isikuandmete kasutamine võib olla vastuolus seadusega, kuivõrd andmeladusid ei ole avaliku teabe seaduses reguleeritud. „Andmeladudesse andmekogude kopeerimine ja selles isikuandmete töötlemine võib olla vastuolus seadusega, kuivõrd andmeladusid ei ole avaliku teabe seaduses reguleeritud. 4 (12) Erinevate andmekogude koondamine andmelattu on vastuolus ka riigi infosüsteemi hajusa (kuid koostöövõimelise) infrastruktuuri põhimõttega ning loob täiendavaid riske privaatsusele.“ Kuigi põhimõtteliselt on mõte õige, on andmeladu tehniliselt samuti „andmekogu“ ja süsteem, mis ei erine mistahes muust eksisteerivast andmekogust, mis üle x-tee tõmbab enda eesmärgi täitmiseks teistest andmekogudest kokku andmeid. Andmeladu seega ei saa käsitleda erandina. Andmeladu on lihtsalt spetsiifiline infosüsteem oma andmebaasi(de) ja kasutajaliides(t)ega. Andmemahu arv ja/või integratsioonide arv ei tohi tekitada "mitu puud on mets" probleemi, millega hakatakse käsitlema andmeladu erinevalt muust infosüsteemist puhtalt seetõttu, kui suur tema baas või integratsioonide arv. Seega oleme tugeval seisukohal, et andmeladu ei vaja täna erisusi ja eraldi reguleerimist. REGULATIIVNE LAHENDUS (lk 21-22) (12) VTK regulatiivne lahendus seisneb uue tervikseaduse loomises. Samas ei tule VTK-st piisavalt selgelt välja, miks on vaja eraldiseisvat seadust ning miks mitteregulatiivsed meetodid ei sobi. Seda enam, et valitud lähenemine läheb selgelt vastuollu nn krati ekspertrühma soovitusega, milleks oli kõrvaldada valdkondlikes eriseadustes esinevad, praktilist rakendamist takistavad, lüngad (vt lähemalt vastava aruande lk 56, „õigusanalüüsi kokkuvõte“1). Ühtlasi juhime tähelepanu, et erasektori tegevust reguleerib mh ka infoühiskonna teenuse seadus, mistõttu väide, et ei ole seadust, mis kohalduks erasektorile ei pea paika. Eeltoodu tõttu leiame, et ekspertrühma soovitusi tuleks tervikuna kohaldada valdkonna reguleerimisele. See tähendab, et ühe kratiseaduse asemel oleks asjakohasem muuta mitmeid seadusi, millele ka TalTech & Tehver õigusanalüüsis viidatakse nagu nt haldusmenetlusseadus, riigivastutuse seadus, karistusseadustik, liiklusseadus, tervishoiuteenuste korraldamise seadus 2 ning vajadusel on võimalik muuta ka infoühiskonnateenuste seadust, kui on vaja leida horisontaalne seadus, mis kehtiks ka erasektorile. (13) Uudsete tehnoloogiate riskihinnang on väga teoreetiline, sest puudub praktiline kogemus turutingimustel. Seetõttu on riskhinnangu tegemine ebamõistlik ning ettevõtjale koormav. Sel põhjusel soovitame innovatiivsete tehnoloogiate ja ärimudelite jaoks sätestada valdkondlikult või sektoripõhiselt eksperimente võimaldavad reeglid (ing.k. experimentation clauses).3 Antud reeglid võimaldavad nn regulatiivses või õiguslikus liivakastis4 katsetada innovaatilisi tehnoloogiaid päriselus, kuid piiratud keskkonnas ning järelevalveasutuse kontrolli all. Õiguslikud liivakastid võimaldavad omandada praktilist teadmust tehnoloogiaga kaasnevatest tegelikest riskidest ning seeläbi hinnata teaduspõhiselt õigusliku regulatsiooni täiendamise vajadust. Põhiõiguste kaitse vaatest on võimalik vastavas sättes reguleerida nõue kaasata järelevalveastutus, kelle ülesandeks on hinnata põhiõiguste riivamise või rikkumise riske ning nende võimalikke maandamismeetmeid. Eksperimente võimaldavaid reegleid on innovatsiooni kasutatud ka Eestis. Näiteks on piiratud kehtivusajaga ning täiendavate tingimustega tüübikinnitusega testitud isesõitvate busside võimekust ohutult liigelda tavaliikluses ning regulatiivset sekkumisvajadust. Õigusliku liivakasti tagajärjel on paranenud ka selgus ettevõtjate seas teadmaks, kuidas innovatiivne tehnoloogia kehtivasse õiguskorda sobib ning millised reeglid 1 https://www.riigikantselei.ee/sites/default/files/riigikantselei/strateegiaburoo/eesti_tehisintellekti_kasutuselevo tu_eksperdiruhma_aruanne.pdf 2 T. Kerikmäe jt, Autonoomsete intelligentsete tehnoloogiate kasutamisega seotud küsimuste reguleerimiseks vajalike õigusloome probleemide tuvastamine ja lahendusettepanekute tegemine, III etapi aruanne (2019). 3 Vt. lähemalt kogemusest EL tasemel: Expermentation clauses: European Commission, TOOL #21.Research & innovation, Better Regulation „Toolbox”. Kättesaadav: https://ec.europa.eu/info/sites/info/files/file_import/better- regulation-toolbox-21_en_0.pdf 4 Liivakastidest lähemalt: OECD, The role of sandboxes in promoting flexibility and innovation in the digital age, OECD Going Digital Toolkit Policy Note, 2019. Kättesaadav: https://goingdigital.oecd.org/toolkitnotes/the-role-of- sandboxes-in-promoting-flexibility-and-innovation-in-the-digital-age.pdf 5 (12) neile kohalduvad. Taoline selgus võimaldab ettevõtjal uue tehnoloogiaga kiiremini, kuid ühiskonnale turvalisel viisil turule siseneda. Võrreldes teoreetilisel riskihinnangul põhineva regulatsiooniga võimaldab õiguslike liivakastidel põhinev õigusloome efektiivsemalt maandada riske, kuid seejuures vältida ebavajaliku halduskoormise teket ettevõtjale. EELNÕU KAVAND (lk 23-27) Paragrahv 1 – Eesmärk (14) VTK toob välja eelnõu eesmärgi, milleks on isikute põhiõiguste kaitse. Juba täna on isikute põhiõigused printsiibis seadustega kaitstud, seega me ei näe vajadust eraldiseisva seaduse järele üksnes põhiõiguste kaitse aspektis lähtuvalt. Küll aga näeme vajadust tagada võimalused tehisintellekti kasutuselevõtuks (eemaldades identifitseeritud lüngad seaduses, lubades „liivakasti“ lahendusi), võimestada inimesi oma õiguste kaitsel (luues nt läbipaistvusnõuete kaudu vajalikud eeltingimused) ning tagada isikute [ja ettevõtjate] kaitse võimalike tekkivate ohtude eest. (15) Lisaks juhime tähelepanu sellele, et pakutud eesmärk ei peaks kindlasti olema läbipaistvuse tagamine üksnes läbipaistvuse pärast, seega see osa tuleks kustutada. Ka „kõrgendatud“ nõuete kehtestamine ei ole asjakohane. Ilmselt on sellega siiski mõeldud olemasolevatele nõuetele täiendavate nõuete kehtestamist. (16) Teeme ettepaneku sõnastada eelnõu eesmärk järgmiselt: § 1. Eesmärk (1) Soodustada “iseõppivate” algoritmiliste süsteemide laialdasemat kasutuselevõttu kõrvaldades tuvastatud regulatiivsed tõkked ning luues usaldusliku keskkonna süsteemi kasutajatele. (2) Kehtestada täiendavad nõuded “kõrge riskiga” algoritmilistele süsteemidele, millega kaasneb kõrgendatud oht füüsilise isiku tervisele või tema varale, keskkonnale või mis võib viia kuriteo toimepanemiseni või põhiõiguste olulise riiveni. Paragrahv 2 – Mõisted (17) Märgime, et VTK-s on jõutud järeldusele, et tarvis on uut eraldiseisvat seadust, et hõlmata ühteviisi nii avalik sektor kui ka erasektor. Selline lähenemine eeldaks seega justkui ka seda, et kõrge riskiga süsteemide definitsioon on mõlemale sama. Eeltoodu tõttu tuleks erasektori ja avaliku sektori kõrge riski definitsioonid liita. (18) VTK toob välja kõrge riskiga algoritmilise süsteemi definitsiooni, mille järgi loetakse kõrge riskiga algoritmiliseks süsteemiks kõik sellised süsteemid, mida rakendatakse otsuste tegemisel, millel võivad olla õiguslikud tagajärjed. Sellisel juhul on tegu jällegi enamike infosüsteemidega. Õiguslikega samaväärselt olulisteks tagajärgedeks võib lugeda, kas kõike või mitte midagi. See loob tõlgenduse, mille alla saab kõrge riskiga süsteemide mõiste alla paigutada praktiliselt kõik IT-lahendused ja seda nii era- kui avaliku sektori poolt. See ei ole soovitav, eesmärki vaadates ka proportsionaalne ega mõistlikult teostatav. Seega, kõrge riskiga avaliku sektori algoritmiliste süsteemide definitsioon on liiga lai, sest sellega on justkui hõlmatud kõik selliste süsteemide poolt loodud haldusaktid („otsused, millel on õiguslikud tagajärjed“) sõltumata otsuse võimalikest tagajärgedest ehk siis definitsioonist ei tule välja, milles seisneb „kõrge risk“. (19) Erasektori puhul on lisaks juurde toodud tingimus, et loetakse kõrge riskiga algoritmiliseks süsteemi, mille puhul ei saa mõistlikkuse piires vältida. Antud tingimust tuleks põhjalikult 6 (12) kaaluda. Näiteks võiks selle definitsiooni kohaselt lugeda kõrge riskiga süsteemiks juturobotit, kui see on ainus viis veebi kaudu ettevõttega suhtlemiseks või üldse teenuse saamiseks. Samamoodi saaks ka laialt rakendatud CAPTCHAt lugeda kõrge riskiga algoritmiliseks süsteemiks5. Samas on selge, et selline määratlus ei ole mõistlik. Seega, kõrge riskiga erasektori algoritmiliste süsteemide definitsioon on samuti liiga lai, sest sellega on justkui hõlmatud kõik selliste süsteemide poolt loodud lepingud („õiguslikud tagajärjed“) või otsused („mille tagajärgi ei saa mõistlikkuse piires vältida“), sõltumata nende otsuste võimalikest tagajärgedest ehk siis definitsioonis ei tule välja, milles seisneb sellise süsteemi „kõrge risk“. (20) Mis puutub Euroopa Komisjoni valge raamatu kriteeriumitesse, siis juhime tähelepanu sellele, et arvestada tuleb, et olemasolevad kriteeriumid ei ole käesoleval kujul rakendatavad. Kui me võtame kasutusele kriteeriumid, siis peame lähtuma minimaalsuse printsiibist ja veenduma, et neid oleks võimalik ka rakendada lihtsa vaevaga. Lisaks tuleb lähtuda vaid Euroopa Liidu soovitutest, kuna võib tekkida vasturääkivus Euroopa Nõukogu soovitustega. (21) Teeme eeltoodust tulenevalt ettepaneku kitsendada „kõrge riski“ definitsiooni järgnevalt. All toodud definitsiooni koostamisel on lähtutud täna kehtivast toote nõuetele vastavuse seadusest (§ 7 lg 1), korrakaitseseadusest (§ 5 lg 2, 4) ning VTK-s pakutust. § 2. Mõisted Kõrge riskiga “iseõppiva” algoritmilise süsteemi all peetakse silmas: Süsteemi mille mõistlikel kasutustingimustel, arvestades kasutusiga ning asjakohastel juhtudel kasutuselevõtu-, paigaldus- ja hooldusnõuete järgimist, esineb kõrgendatud ohu realiseerumise võimalus korrakaitseseaduse mõttes [oht isiku elule, kehalisele puutumatusele, füüsilisele vabadusele, suure väärtusega varalisele hüvele, suure keskkonnakahju tekkimise oht või karistusseadustiku 15. peatükis sätestatud I astme kuriteo või 22. peatükis sätestatud kuriteo toimepanemise oht] või mis võib kaasa tuua põhiõiguste olulise rikkumise ohu, mille tagajärgi füüsilised isikud ei saa mõistlikkuse piires vältida. Paragrahv 3 - Üldised kohustused põhiõiguste tagamiseks (22) VTK kohustab arvestama kehtiva õigusega. Sama kehtib ka põhiõiguste järgimise kohta. Kui antud seaduses antud punkte kirjas poleks, kas see tähendaks, et ei pea kehtivale õigusele vastama? Leiame, et selline säte on sisutühi ning mittevajalik. (23) Eelnõu kavandi paragrahv 3 seletuskirjas tuleb välja tuua, milliseid meetmeid tuleks rakendada, et ära hoida ebasoovitavat diskrimineerimist. Nimelt analüütika/andmeteadus põhinebki olemuslikult andmete põhisel diskrimineerimisel ehk eristamisel, seega on vaja oluliselt täpsemalt välja tuua eesmärk, mida soovitakse saavutada või millist olukorda vältida. Näiteks, kui A teenib 1000€ ja B teenib 5000€, siis kui mudel ütleb, et B saab 500€ laenu ja A 100€ laenu, võiks lugeda diskrimineerimiseks, aga see on mõistetav ja vajalik, aga kas tegu on siiski diskrimineerimisega? Diskrimineerimise defineerimisel tuleks lähtuda PS § 12: „Kõik on seaduse ees võrdsed. Kedagi ei tohi diskrimineerida rahvuse, rassi, nahavärvuse, soo, keele, päritolu, usutunnistuse, poliitiliste või muude veendumuste, samuti varalise ja sotsiaalse seisundi või muude asjaolude tõttu.“6 Tuleks luua õigusselgus, millistel juhtudel on tegu lubamatu diskrimineerimisega ja millistel juhtudel on diskrimineerimine (eristamise mõttes) lubatud. 5 https://en.wikipedia.org/wiki/CAPTCHA 6 https://www.pohiseadus.ee/index.php?sid=1&p=12 7 (12) (24) Paragrahvi kolmandast punktist (üldine kohustus: „Isikuandmete töötlemine tehisintellekti treenimise eesmärgil“) saab hetkel välja lugeda, et põhiõiguste tagamise nimel kehtestame üldise kohustuse töödelda isikuandmeid tehisintellekti treenimise eesmärgil. Ilmselt on siin mõeldud, et juhul kui tehisintellekti treenimisel kasutatakse isikuandmeid, siis tuleb kohaldada vastavaid riskimeetmeid. Seega, seda sõnastust tuleb parandada. (25) Teeme ettepaneku jätta § 3 tervikuna välja, kuivõrd see ei loo täiendavaid õigusi ega kohustusi võrreldes tänasega. Paragrahv 4 - Põhiõiguste mõjude hindamine (26) Eelnõu kavandis tuuakse välja vajadus läbi viia põhiõiguste mõjuhinnang. Samas ei selgu VTK-st, millal põhiõiguste mõjuhinnang tuleks läbi viia? Kas enne rakendamist, rakendamise ajal periooditi? Samuti ei selgu, mida põhiõiguste mõjuhinnang endast kujutaks? Teatud juhtudel on mõjuhinnangut enne projekti ebamõistlik teha, kuna on võimatu ette näha, milline projekti mõju on, näiteks juhtudel, kus mudeli täpsus selgub alles arenduse käigus. Igal juhul peab mõjuhinnang olema olemuselt lihtne ja kiire ning kõigile üheselt mõistetav. Oleme seisukohal, et mõjuhinnang ei tohi eeldada rakendajatelt eriteadmisi inimõigustest. Seda sama toodi ka ühe probleemina välja ELi mõjuhinnangu puhul, kus leiti, et loodud mõjuhinnang polnud praktikas rakendatav. Lisaks ei ole paragrahvis 4 käsitletud erinevate põhiõiguste kaalumist, mis peaks kindlasti olema sellise nõude üks osa. (27) Mõjude hindamise nõue on VTK-s kitsendatud põhiõiguste mõjude hindamisega, mis on liiga kitsas. Juhul kui tegemist on „kõrge riskiga“ süsteemiga, siis mõistlikum oleks nõuda, et hinnata tuleb eelnevalt defineeritud riskide realiseerumise ohtu (võivad olla seotud põhiõigustega aga ei pruugi) ning nende riskide maandamise võimalusi. Näiteks, samavõrd oluline on tagada, et algoritmiliste süsteemide arendamisel ja haldamisel teostatakse küberriskide hindamise ja maandamise protsesse jne. (28) Mõjude hindamisega seoses teeme seepärast järgmised muudatusettepanekud: § 4. Põhiõiguste mõjude hindamine (1) Kui tegemist on kõrge riskiga “iseõppiva” algoritmilise süsteemiga § 2 tähenduses, tuleb enne süsteemi kasutuselevõttu koostada kirjalik mõjuhinnang, milles määratletakse tuvastatud ohtude vältimiseks kavandatavad meetmed, tagatised ja mehhanismid, analoogselt või täiendavalt IKÜM art 35 (või vastavalt IKS § 38) sätestatud andmekaitsealase mõjuhinnangu regulatsiooniga. (2) Süsteemi suuremate toimimisloogika muutuste korral tuleb mõjuhinnangut ajakohastada. Paragrahv 5 – Läbipaistvuse tagamine (29) Läbipaistvusnõuded tuleks kehtestada üksnes “kõrge riskiga” algoritmilistele süsteemidele. Ei pea vajalikuks kehtestada eelteavitus kõikidele lahendustele, kus inimesega suhtleb inimesesarnane algoritmil põhinev dialoogsüsteem, kuid millel puudub “kõrge riski” element. (30) Lisaks tuleb täpsustada, millal teavitamine on vajalik. Kui pole inimsarnane, kas sellisel juhul on vaja? Kui pole dialoogsüsteem, siis ka ei pea, isegi kui suhtleb inimsarnaselt? Seletuskirjas tuleks erinevaid lähenemisi katta ja selgitada. Samuti tuleb täpsustada, mida tähendab otsustusmehhanismi loogikast teavitamine? Kui kasutatakse kommertstarkvara, siis 8 (12) kuidas see väljendub? Teatud juhtudel on tegu ärisaladusega, mistõttu ei ole realistlik nõuda otsustusmehhanismi loogikat, näiteks kindlustuspakkumiste või investeeringute tegemine. Kuidas selline nõue rakenduks rakendusliidese puhul? Kas rakendusliidese tarbija peaks samamoodi teadma lahenduse loogikat? (31) Läbipaistvusnõuded tuleks kehtestada selliselt, et kasutajal oleks võimalik olulise infoga eelnevalt tutvuda, st nõue peaks olema suunatud sellele, et info on pro-forma kasutajale kättesaadavaks tehtud, mitte et kasutajat peab igal korral sellest teavitama. Vastasel juhul kehtestame nn cookie policy laadse nõude, mis ei ole soovitav. (32) VTK-s pakutud sõnastuse muudatusettepanekud: § 5. Läbipaistvuse tagamine (1) Kui inimesega suhtleb inimsarnane kõrge riskiga “iseõppival” algoritmil põhinev dialoogsüsteem ning kui see asjaolu ei tule valitud suhtlemisviisist tulenevalt esile, tuleb teda isikut sellest eelnevalt teavitada. (2) Kõrge riskitasemega ”iseõppiva” algoritmilise süsteemi puhul tuleb isikutele eelnevalt teavitada lihtsasti kättesaadavaks teha informatsioon algoritmi aluseks olevast otsustusmehhanismi põhiloogikast, millised on isikuandmete töötlemise tähtsus ja ning võimalikestud tagajärjedest. (3) Teavitamine peab hõlmama ka IKÜM art 22 lg-s 3 sätestatud kaitsemeetmeid (õigusest otsesele isiklikule kontaktile vastutava töötlejaga, et väljendada oma seisukohta ja vaidlustada otsus). (4) Võimalikud erandid. Paragrahv 8 - Kõrge riskiga algoritmilise süsteemi toimimisega kaasnevad kohustused (33) VTK-s on toodud kohustus säilitada andmeid. Juhime tähelepanu sellele, et antud nõue võib minna vastuollu andmete säilitamise tähtaegadega, näiteks isikuandmete säilitamise nõudega. Seega tuleks kaaluda erandeid, et kõrge riskiga algoritmilise süsteemi puhul oleks tegu põhjendatud juhuga tähtaja pikendamiseks. (34) Teeme VTK-s pakutud sõnastusele järgneva muudatusettepaneku: § 8. Kõrge riskiga algoritmilise süsteemi toimimisega kaasnevad kohustused (1) Kõrge riskiga algoritmilise süsteemi puhul peab selle kasutaja tagama pideva inimjärelevalve, tagamaks, et iseõppiv algoritm ei muutuks töö käigus õigusvastaseks. Pideva inimjärelevalve all ei tule silmas pidada iga otsuse eelnevat läbivaatamist inimese poolt, vaid riskijuhtimissüsteeme, perioodilist teatud ajavahemiku takka toimuvat süsteemi valideerimist. (2) Kõrge riskiga algoritmilise süsteemi puudutavate teatud andmete säilitamise kohustused ja tähtaeg. (3) Erandid andmete säilitamise tähtaegades lähtuvalt isikuandmete säilitamise nõuetest. Paragrahv 9 – Riiklik järelevalve (35) VTK-s on toodud vajadus määratleda pädev järelevalvet teostav haldusorgan. Samas ei selgu VTK-st, milliseid funktsioone hakkaks see haldusorgan täitma. Leiame, et järelevalve küsimust on võimalik lahendada alles siis, kui on selge, millised täiendavad nõuded ja kellele kehtestame: nt kas nõuded jäävad põhiseaduste riive keskseks või mitte jne. Igal juhul ei näe MKM vajadust eraldiseisva asutuse loomiseks ning järelevalve korralduse lahendamisel tuleks lähtuda tänastest ametite pädevustest. 9 (12) Paragrahv 11 - Haldusmenetluse seadusesse tehtavad muudatused (36) Toetame HMS-i kui üldseadusesse automaatse haldusakti andmise võimaluse lisamist. Automaatne haldusakt võiks olla selline, kus kaalutlusõigust ei ole ning haldusakt antakse riigi infosüsteemi kuuluvates andmekogudes olevate andmete alusel ning tingimused akti koostamiseks on süsteemis kirjeldatud inimese poolt ning haldusaktide andmise protsess käivitatakse inimese poolt. (37) Me ei poolda, et automaatne haldusakt peab olema omakäelise allkirja või e-allkirja asemel kinnitatud e-templiga. Selline tingimus ei peaks olema kohustuslik, vaid üks võimalustest. Nimelt oleme arvamusel, et automaatne haldusakt võib olla ka allkirjastamata ja omada märget, et see on antud automaatselt. Näiteks maksekäsu kiirmenetluses ei allkirjastata maksekäske/kohtumääruseid ja see on sätestatud nii ka seaduses. Kui automaatselt antud haldusakt tehakse isikule kättesaadavaks autenditud keskkonnas, kuhu isik pääseb ligi ainult teda puudutavatele haldusaktidele, on e-tempel haldusaktil liigne. Automaatselt antud haldusakti puhul ei tohiks rakendada kättetoimetamisel, sh. elektroonilisel kättetoimetamisel, erikorda. Kättetoimetamine peaks käima HMS sätete järgi ning andma asutusele paindlikkuse, et valida kättetoimetamise viise ning eelistada elektroonilist kättetoimetamist, sh. autenditud keskkonnas kättesaadavaks tegemist. Ettepanek oleks lisada HMS-i üldsäte, mis võimaldaks automaatselt antavat haldusakti ja sätestaks selle andmise tingimused. Oleme arvamusel, et eriseadustes tuleks sätestada valdkonnad, kus HMS-i kohaldatakse, mille puhul automaatne haldusakt ei ole lubatav, näiteks relvalubade puhul. (38) Teeme VTK-s pakutud sõnastusele järgneva muudatusettepaneku: § 11. Haldusmenetluse seadusesse tehtavad muudatused (1) Automaatne haldusakt on lubatav, kui tegemist pole kaalutlusõiguse alusel antava haldusaktiga ning haldusakt antakse riigi infosüsteemi kuuluvates andmekogudes olevate andmete alusel ning tingimused akti koostamiseks on süsteemis kirjeldatud inimese poolt kui automaatse haldusakti andmise õigus on sätestatud eriseaduses. (2) Automaatne haldusakt ja dokument kinnitatakse omakäelise või e-allkirja asemel e- templiga e-identimise ja e-tehingute usaldusteenuste seaduses sätestatud tingimustel ja korras, välja arvatud juhul kui automaatselt antud haldusakt tehakse isikule kättesaadavaks autenditud keskkonnas. E-templile õigusliku tähenduse omistamine reguleeritakse HMS-s. (3) Automaatse haldusakti ja dokumendi puhul peab adressaadile olema üheselt arusaadav, et tegemist on automaatse haldusakti või dokumendiga. (4) Erisused kättetoimetamise, vormistamise jmt seoses. Automaatse otsuse või profiilianalüüsi rakendamisel tehtud keelduva otsuse põhjendamise erisused (kohustus välja tuua, millise algoritmi parameeter tingis koormava haldusakti). (39) Teeme täiendavalt ettepaneku lisada avaliku teabe seadusesse üldsätte, mis võimaldaks avaliku ülesande täitmise käigus andmekogusse kogutud andmeid kasutada teiste asutuste andmekogude poolt avaliku ülesande täitmiseks üle x-tee, kui nende andmete kasutamist pole seadusega piiratud (maksusaladus, ärisaladus jne.). Ei ole otstarbekas andmekogude põhimääruses sätestada, milliste teiste andmekogude andmeid kasutatakse ja millistele andmekogudele andmeid antakse. Sellega kirjutatakse paindliku teenuste arendamise võimalused põhimäärustega lukku ning sellega on olulisel määral raskendatud ka tehisintellekti kasutuselevõtt, samuti sisuliselt keelatud andmete „avastamisest“ (ingl k exploration) tulenev uute kasutusjuhtude ja kasu leidmine – mis kiirelt areneva tehnoloogia puhul on suur võimalus, sest me ei tea kõigi rakendusvõimalusi ette. Teave selle kohta, et milliseid andmeid andmekogud vahetavad, peavad olema kirjas RIHA-s ning olema saanud RIHA-s kooskõlastuse – see aitab tagada ka põhiõiguste 10 (12) kaitset, andes vajaliku läbipaistvuse tagamiseks tehnilise aluse. Selline säte aitaks praktikas täita avaliku teabe seaduses toodud põhimõtet, mis on sees kahes paragrahvis: AvTS § 431 lg 3 (andmekogusse andmete kogumisel lähtutakse andmete ühekordse küsimise põhimõttest) ning § 433 lg 2 (keelatud on asutada ühtede ja samade andmete kogumiseks eraldi andmekogusid). (40) Eelnevast tulenev konkreetne sõnastusettepanek on: § 12. Avaliku teabe seadusesse tehtav muudatus Üldsäte, mis võimaldaks avaliku ülesande täitmise käigus andmekogusse kogutud andmeid kasutada teiste asutuste andmekogude poolt avaliku ülesande täitmiseks üle x- tee, kui nende andmete kasutamist pole seadusega piiratud (maksusaladus, ärisaladus jne.). Teave selle kohta, et milliseid andmeid andmekogud vahetavad, peab olema kirjas riigi infosüsteemi haldussüsteemis ning olema saanud selle raames kooskõlastuse. KOOSKÕLA KEHTIVA EUROOPA LIIDU ÕIGUSEGA (lk 27) (41) Hetkel pole VTK analüüsinud kooskõla Euroopa Liidu õigusega üldiselt. Kuigi HÕNTE § 1 lg 1 p 4 näeb ette valitud lahenduse sobivuse kehtivasse õiguskorda analüüsi ning ei maini Euroopa Liidu õigust eraldiseisvalt, siis tegelikkuses tuleb hõlmata ka Euroopa Liidu õiguse analüüs. Arvestades VTK laia kohaldamisala ja võimalikku mõju siseturul kaupade ja teenuste vaba liikumisega, siis leiame, et hilisemate menetluslike probleemide vältimiseks on analüüs seoses Euroopa Liidu õigusega (eelkõige ELTL artiklitega 34 ja 36) kriitilise tähtsusega. MÕJUHINDAMINE (lk 27-29) (42) VTK-s tuleks välja tuua mõjudena avalikule sektorile väga intensiivset kulude kasvu ning halduskoormuse tõusu ja erasektorile vähemalt sama intensiivset ettevõtlusvabaduse piirangut, sest kõikvõimalike lahenduste loomine ja kasutuselevõtt hakkaks kaasa tooma põhjalike põhiõiguste mõjude hinnangu läbiviimise. Lisaks näeme, et kasvab küberturbe ja turvalisuse risk. Seadusel võib olla innovatsiooni pidurdav mõju. Lisaks on vaja oluliselt harida rakendajaid ning tõsta kodanike teadlikkust. (43) Leiame, et mõju on VTK V peatükis oluliselt alahinnatud. Lugupidamisega (allkirjastatud digitaalselt) (allkirjastatud digitaalselt) Taavi Aas Raul Siem majandus- ja taristuminister väliskaubandus- ja infotehnoloogiaminister 11 (12) Risto Jõgi 625 6482 [email protected] 12 (12)
Allikas: Majandus- ja Kommunikatsiooniministeerium dokumendiregister →
dokumendiregister.eeAsutusedEesti avalike dokumendiregistrite otsing · nimistu.ee andmetel