Kiri

Justiitsministeerium Monika Mikiver [email protected] 15.09.2020 Kommentaar id „Algoritmiliste süsteemide mõjude reguleerimise väljatöötamise kavatsuse“ kohta Käesolevaga esitavad Tallinna Tehnikaülikool ja NJORD Advokaadibüroo oma kommentaarid „Algoritmiliste süsteemide mõjude reguleerimise väljatöötamise kavatsuse“ (edaspidi „ VTK “) kohta. VTK puhul on positiivne, et tehisintellekti kasutamise puhul nähakse „ olulist mõju põhiõigustele” ja tehnokraatlik entusiasm on muutumas tasakaalustatud arusaamaks. On arusaadav, et argumendid regulatsiooni loomisel põhinevad EL ja Euroopa Nõukogu dokumentidel. Samas ei suuna valge raamat vastu võtma juriidiliselt siduvaid norme. Ülereguleerimise ohule viitas ka TalTech ja Tehver &amp; Co antud ekspertiishinnang 2019 aastal, millele on ka tekstis kaud selt viidatud. Samuti on UNESCO soovitus tehisintellekti kohta (hetkel eelnõu vormis, aruteludel osalesid Eesti poolt Tanel Kerikmäe, Martin Ebers ja Margit Sutrop) viidanud pigem standar d iseerimise vajadusele (s oovitus, mis peaks peagi saadetama ÜRO riikide valitsustele tutvumiseks sisaldab tasakaalustatud põhimõtteid, mis võiksid olla abiks nn kratiseaduse loojatele ja on sõnastuse poolest mitmes küsimuses EL dokumentidest konkreetsemad). Seega oleks vaja kaaluda võrdlevõiguslikku analüüsi vähemalt Euroopa riikide suhtes (mitte ainult VTK lk -l 22 viidatud avaliku sektori tegevuste raames), millisel tasemel VTK-s toodud probleeme lahendatakse ja samuti lk 7-8 toodud EL usaldusväärse tehisintellekti põhimõtete olulist täiendamist. Siin võiks näiteks õigusliku lubatavuse testimisel kasutada eelduste kõrval ka nõudeid krati tegevusele ( näiteks keskkonnasõbralike lahenduste nõue). Usaldusväärse tehisintellekti puhul toob VTK välja aspekti, et erasektori poolt kasutatav vastav tehnoloogia ei ole registreeritud . See on küsimus, mida 2019 kratikava loomisel mitmel kohtumisel arutati. Igasuguses registreerimises nähti innovatsiooni takistavat ja liigselt erasektorit koormavat haldusvahendit, seega oli kõne all ka (riikliku) kindlustuse kasutamine võimalike ohtude maandamiseks – alternatiivne kontseptsioon, mis on väärt taasarutamist. Seaduses võiks olla selgelt sätestatud tehnoloogianeutraalsuse põhimõte. Eesmärk on tagada, et erinevaid tehnoloogiaid kasutavate automatiseeritud otsuste teostajatele laienevad ühesugused õigused ja kohustused. Soovitame kaaluda, milliste valdkondade ja mis teemade jaoks võiks kehtestada standardeid. See vajab läbimõtlemist ning vastava valdkonna asjatundjate kaasamist, kuna teisest küljest tule b vältida ülereguleerimist. Vastutuse küsimuse juures peaks selgemalt välja tooma krati õigussubjektsuse keelu, mida teeb expressis verbis UNESCO soovituse eelnõu. Seaduseelnõu peaks olema nn kodifitseeritud lähenemisega: nii avalikus sektoris kui ka erasektoris tegutsevatele isikutele, kes automatiseeritud otsuseid teostada võivad, peaksid kehtima ühesugused reeglid. VTK lk-l 12 on viidatud Euroopa Parlamendi ja Nõukogu määruses (EL) 2016/679 sätestatud isikuandmete töötlemise läbipaistvuse põhimõttele ja sellega seotud andmesubjekti teavitamise kohustusele . Mõlema nõude järgimine võib tehisintellekti puhul väga keeruliseks osutuda, nagu on dokumendis selgitatud. Samale probleemile on juhitud tähelepanu ka andmekaitsealases õiguskirjanduses. Võiks läbi mõelda, milliseid vahendeid saab kasutada selleks, et teavitada andmesubjekte hõlpsal viisil. Euroopa Komisjon ise on juhtinud tähelepanu nn standardsete ikoonide kasutamise võimalikkusele, samas on see idee pälvinud ka kriitikat. Haldusmenetluse automatiseerimise juures oleks vajalik ( lisaks VTK sissejuhatavas osas toodud kaasuste le ) analüüsida võrdlevõiguslikult peale vastuoluliste arvamuste näotuvastuse valdkonnas ka riskihindamise/profiilianalüüsi tehnoloogiaid, kuivõrd selles valdkonnas on ilmselgelt kõige enam kaasusi (peamiselt Ameerika ühendriikides aga EL poolsete hinnangutega). Kui kirjeldatakse andmekaeve use-case ’isid Eestis (lk 13), tuleks anda hinnang juba olemasolevale praktikale, mis põhineks kehtival õigusel ja EL dokumentidel. Käesoleva temaatikaga seondub ka nn „ once-only ” põhimõte. P rofiilianalüüsi kõrval vajaksid eraldi analüüsi ka laiemad diskrimineerimisohud. Lisaks sellele, et haldusakti andmise võimaldamine automatiseeritud otsuse näol vajab vastavat volitusnormi seaduses ning see eeldab HÕNTE-s sätestatud tingimuste vastava volitusnormi koostamisel, peab normide sõnastamisel arvestama ka Euroopa Parlamendi ja Nõukogu määruses (EL) 2016/679 sätestatud nõuet, et normi tasandil tuleb sätestada ka „ asjakohased meetmed andmesubjekti õiguste ja vabaduste ning õigustatud huvide kaitsmiseks “. Seda ei saa jätta automatiseeritud otsust teostava isikule väljamõtlemiseks. Täpsemat määratlust vajab haldusaktide automatiseerimise juures nn „ pea olematu kaalutlusruum”. Samuti vajab täpsustamist riikliku järelevalve kontekstis toodud „ algoritmilise süsteemi rakendaja kaasaaitamiskohustus”. TalTech i infotehnoloogiaeksper t on teinud järgmise ettepanek u ja kommentaar i : a utomaatse haldusaktiga kaasnevate riskide tõttu võiks nende vältimise asemel alternatiivina asetada rõhuasetus e vaidlustuse mehhanismi tõhususele. Automaatse haldusakti puhul võiks adressaadil olla lihtne võimalus seda vaidlustada, juhul, kui on alust algoritmi mitteusaldamiseks . Samuti jääb arusaamatuks, kuidas automaatsete haldusaktide teemal toodud argumentidega (lk 18) jõutakse toodud järelduse/probleemi juurde. Eraldi uue seaduse vajalik k use põhjenduse puhul on äärmiselt oluline, kuidas kavandatakse seaduse asetumist õigusruumi. VTK viitab, et „ täiendavat analüüsi vajavad” mitmed valdkonnad sh korrakaitseõiguses massandmete töötlemine, tehisintellekti kasutamine kriminaalmenetluses jne. Samas on märkimata mitmed õigusharud, mis seonduvad riigi julgeolekuga ( nn kriitiline taristu ). Hetkel jääb ebaselgeks kavandatava õigusakti mõju ulatus. Samuti on kaheldav, kas seadus on tõhusaim vahend sihtrühmale „ inimesed” (lk 28). Tasuks arutada ka tehisintellekti õiguslike kategooria te loomist (üldine viide sellele leidub VTK lk 8 ja lk 11 haldusvälise mõjuta automatiseeritud otsused). Teadlikkuse tõstmise eesmärgil on soovituslik võtta kasutusele selgelt struktureeritud tehisintellekti tegevusalad (mis on üldiselt leidnud kirjeldamist VTK lk 9) näiteks algoritmi nn „ building block " kirjelduse kaudu. Oluline on mõista, et tehisintellekti saab kategoriseerida, lähtudes tehnilisest võimekusest. Kategooriate kasutamise kaudu on võimalik ennetada riske ja paremini otsustada, millistes valdkondades erinevaid tehisintellekte kasutada . VTK lõpus on kirjas, et ministeeriumil ei ole kavas koostada seaduseelnõu kontseptsiooni. Soovitame kaaluda kontseptsiooni koostamist. Tegemist on seadusega, mis hakkab reguleerima nii avaliku kui ka erasektori jaoks olulist t ehnoloogiat, mis ajas muutub, hakkab mõjutama kogu ühiskonda ning millega kaasnevad riskid isikute põhiõigustele (nagu VTK-s on ka välja toodud). Arvame, et kontseptsiooni koostamine aitaks kaasa sellele, et lõpuks valmiv seaduseelnõu oleks läbimõeldum ja struktureeritud , kuna k ontseptsiooni koostamine eeldab seaduseelnõus käsitletavate teemade põhjalikumat läbimõtlemist. Sealjuures, HÕNTE § 1 lg 3 järgi peab ministeerium kontseptsiooni koostama siis, kui seaduseelnõu sisul on Eesti õiguskorras „põhimõtteline tähendus“. Leiame, et seadus e loomine algoritmiliste süsteemide reguleerimiseks pigem on Eesti õiguskorras põhimõttelise tähendusega. Lugupidamisega Tanel Kerikmäe, Euroopa õiguspoliitika ja tehnoloogiaõiguse professor Innar Liiv, s uurandmete ja digitaliseerimise dotsent Liisi Jürgen, vandeadvokaat Tea Kookmaa, advokaat (allkirjastatud Tallinna Tehnikaülikooli ja NJORD Advokaadibüroo esindajate poolt) Saatja: JM info Shared MB <[email protected]> Saadetud: 16.09.2020 09:18 Adressaat: JM info Shared MB <[email protected]> Teema: FW: Kommentaarid nn kratiseaduse VTK kohta From: Tea Kookmaa <> Sent: Tuesday, September 15, 2020 2:28 PMTo: Monika Mikiver <>Cc: ; Subject: Kommentaarid nn kratiseaduse VTK kohta Tere Käesolevaga esitame Tallinna Tehnikaülikooli ja NJORD Advokaadibüroo poolsed kommentaarid algoritmiliste süsteemide mõjude reguleerimise väljatöötamise kavatsuse kohta. Palun kinnitada kättesaamist. Parimate tervitustega / Best regardsTea KookmaaAdvokaat / Associate NJORD Advokaadibüroo OÜ Telliskivi 60/2 10412 Tallinn, EstoniaTelephone: +372 667 6440 Registry code: 11176771 Direct: +372 667 6443 Mobile: +372 5566 7029Mail: Professionalism is our foundation, business understanding our force and flexibility our DNA. Privileged/confidential information may be contained in this message. If you are not the addressee indicated in this message (or responsible for delivery of the message to such person), you may not copy or deliver this message to anyone. In such case, we kindly ask you to telephone or e-mail us and permanently delete the e-mail and any attachments to it from your system. Thank you in advance for your co-operation.