Teie 25.05.2021 nr 17.4/21-0673/-1T
Riigikantselei
[email protected] Meie 05.10.2021 nr 2-13/21-3339
Stenbocki maja Rahukohtu 3
15161, Tallinn
Eesti seisukohad Euroopa Parlamendi ja
nõukogu määruse, millega nähakse ette
tehisintellekti käsitlevad ühtlustatud
õigusnormid (tehisintellekti käsitlev õigusakt)
ja muudetakse teatavaid liidu õigusakte
(COM(2021) 85 final), eelnõu kohta
Esitan 7. oktoobri 2021. a Vabariigi Valitsuse istungile Eesti seisukohad Euroopa Parlamendi ja
nõukogu määruse, millega nähakse ette tehisintellekti käsitlevad ühtlustatud õigusnormid
(tehisintellekti käsitlev õigusakt) ja muudetakse teatavaid liidu õigusakte (COM(2021) 85 final),
eelnõu kohta.
Lugupidamisega
(allkirjastatud digitaalselt)
Andres Sutt
ettevõtlus- ja infotehnoloogiaminister
Lisad: 1) Vabariigi Valitsuse protokollilise otsuse eelnõu;
2) seletuskiri;
3) Lisa 1. Kaasamise tabel.
Anna-Liisa Pärnalaas
639 7697
[email protected]
Suur-Ameerika 1 / 10122 Tallinn / 625 6342 /
[email protected] / www.mkm.ee
Registrikood 70003158
SELETUSKIRI
Vabariigi Valitsuse otsuse juurde
„Eesti seisukohad Euroopa Parlamendi ja nõukogu määruse, millega nähakse ette
tehisintellekti käsitlevad ühtlustatud õigusnormid (tehisintellekti käsitlev õigusakt) ja
muudetakse teatavaid liidu õigusakte
(COM(2021) 85 final), eelnõu kohta“
1. Sissejuhatus
Tehisintellekti valgele raamatule1 tuginedes esitas Euroopa Komisjon (edaspidi komisjon) 21.
aprillil 2021 Euroopa Parlamendi ja nõukogu määruse eelnõu, millega nähakse ette
tehisintellekti käsitlevad ühtlustatud õigusnormid ja muudetakse teatavaid liidu õigusakte
(edaspidi määrus). Määrus on osa paketist, kuhu kuuluvad lisaks masinamääruse eelnõu2 ning
uuendatud tehisintellekti tegevuskava3.
Tehisintellekti kasutuselevõtt võimaldab luua majanduslikke ja ühiskondlike hüvesid, kuid
samas võivad sellega kaasneda ka riskid ja negatiivsed tagajärjed. Tehisintellekti valges
raamatus esitas komisjon kaks põhieesmärki: luua tipptasemel ökosüsteem, mis suudab toetada
tehisintellekti väljatöötamist ja kasutuselevõttu, ning tagada ökosüsteemi usaldusväärsus.
Ettepaneku abil taotletakse teise eesmärgi täitmist, et muuta Euroopa juhtivaks piirkonnaks
usaldusväärse ja turvalise tehisintellekti arendamisel ja rakendamisel. Määruse eesmärgiks on:
tagada, et turule lastavad ja kasutatavad tehisintellektisüsteemid on ohutud ja kooskõlas
kehtiva põhiõigusi käsitleva õigusega ning liidu väärtustega;
tagada õiguskindlus tehisintellekti tehtavate investeeringute ja innovatsiooni
soodustamiseks;
tugevdada juhtimist ja tõhustada põhiõigusi käsitleva kehtiva õiguse ja
tehisintellektisüsteemidele kohalduvate ohutusnõuete täitmise tagamist;
hõlbustada seaduslike, ohutute ja usaldusväärsete tehisintellektirakenduste ühtse turu
väljatöötamist ja vältida turu killustumist.
Ettepanekus sätestatakse harmoneeritud eeskirjad tehisintellektisüsteemide arendamiseks,
turule laskmiseks ja kasutamiseks liidus. Määrus järgib riskipõhist lähenemisviisi, kus
reguleeriv sekkumine on kohandatud eelkõige nendele olukordadele, kus on või võib eeldada
lähitulevikus tekkivat riski. Liidu väärtustega vastuolus olevad tehisintellekti kasutusviisid
keelustatakse ning pakutakse välja eripiirangud ja kaitsemeetmed seoses biomeetrilise
kaugtuvastamise süsteemide teatavate kasutusviisidega õiguskaitse eesmärgil. Suure riskiga
tehisintellektisüsteemid, mis võivad põhjustada märkimisväärseid riske inimeste tervisele ja
ohutusele või põhiõigustele, peavad vastama määruses sätestatud nõuetele ja enne nende
laskmist liidu turule tuleb läbi viia vastavushindamine. Samuti kehtestatakse nende süsteemide
pakkujatele ja kasutajatele kohustused, et tagada ohutus ja selliste olemasolevate õigusaktide
järgimine, mis kaitsevad põhiõigusi kogu tehisintellektisüsteemide olelusringi jooksul.
Teatavatele tehisintellektisüsteemidele kehtestatakse läbipaistvuskohustused, näiteks kui
1
„Tehisintellekt: Euroopa käsitus tipptasemel ja usaldusväärsest tehnoloogiast
https://ec.europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence-
feb2020_et.pdf
2
Euroopa Parlamendi ja Nõukogu masinavaldkonna toodete määruse COM(2021) 202 final https://eur-
lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0202
3
https://digital-strategy.ec.europa.eu/en/library/coordinated-plan-artificial-intelligence-2021-review
kasutatakse juturoboteid või nn süvavõltsinguid. Määrus näeb ette ka Euroopa tehisintellekti
nõukoja loomise. Tehisintellekti regulatsiooni testkeskkondadele kohalduvate sätete kaudu
soovitakse toetada innovatsiooni.
Õigusakti vastuvõtmiseks on nõukogus vaja kvalifitseeritud häälteenamust.
Subsidiaarsustähtaeg on 2. september 2021. Määruse eelnõu menetlemine toimub nõukogu
telekommunikatsiooni ja infoühiskonna töörühmas.
Seisukohad ja seletuskirja koostasid Majandus- ja Kommunikatsiooniministeeriumi andmete
valdkonna juht Ott Velsberg (
[email protected]), Euroopa Liidu ja rahvusvahelise koostöö
osakonna nõunik Anna-Liisa Pärnalaas (
[email protected]), toote ohutuse ja
tarbijakaitse talituse nõunik Jekaterina Iljina (
[email protected]), kaubanduse ja
teenuste talituse nõunik Maarja Mere (
[email protected]) ning Justiitsministeeriumi
õiguspoliitika osakonna avaliku õiguse talituse nõunik Siiri Aulik (
[email protected]) ja
õiguspoliitika osakonna nõunik Henrik Trasberg (
[email protected]).
Valdkonna eest vastutavad Majandus- ja Kommunikatsiooniministeeriumi digiarengu
asekantsler Siim Sikkut (
[email protected]) ja ettevõtlus- ja tarbimiskeskkonna asekantsler
Kristi Talving (
[email protected]) ning Justiitsministeeriumi õiguspoliitika valdkonna
asekantsler Heddi Lutterus (
[email protected]).
2. Määruse eelnõu sisu ja võrdlev analüüs
I jaotises (artiklid 1-4) määratakse määruse reguleerimisese, tehisintellektisüsteemide turule
laskmist, kasutuselevõttu ja kasutamist käsitlevate eeskirjade kohaldamisala ning esitatakse
eelnõus kasutatavad mõisted.
Tehisintellektisüsteem on defineeritud kui tarkvara, mille arendamiseks on kasutatud üht või
mitut I lisas loetletud tehnoloogiat või lähenemisviisi ja mis võib teatavate inimese kindlaks
määratud eesmärkide jaoks luua väljundeid, näiteks sisu, prognoose, soovitusi või otsuseid, mis
mõjutavad keskkondi, millega nad suhtlevad. Komisjoni eesmärk on määratleda
tehisintellektisüsteem võimalikult tehnoloogianeutraalselt ja tulevikukindlalt, võttes arvesse
tehnoloogia arenguid ja turusuundumusi.
Jaotist on täiendatud I lisaga, kus esitatakse tehisintellekti meetodite ja lähenemisviiside loetelu,
komisjonile antakse õigus loetelu delegeeritud akti kaudu ajakohastada.
II jaotises (artikkel 5) esitatakse tehisintellekti keelatud kasutusviiside loetelu. Nendeks on:
süsteemid, milles on kasutatud inimese teadvusest kaugemale ulatuvale alalävisele
tajule suunatud võtteid, et oluliselt moonutada isiku käitumist viisil, mis põhjustab või
tõenäoliselt põhjustab sellele või mõnele teisele isikule füüsilist või psühholoogilist
kahju;
süsteemid, mis kasutavad ära konkreetse isikute rühma mis tahes haavatavusi, mis
tulenevad nende vanusest või füüsilise või vaimse tervise häirest, et oluliselt moonutada
sellesse rühma kuuluva isiku käitumist viisil, mis põhjustab või tõenäoliselt põhjustab
sellele või mõnele teisele isikule füüsilist või psühholoogilist kahju;
süsteemid, mis võetakse kasutusele ametiasutuste poolt või nende nimel, et hinnata või
liigitada füüsiliste isikute usaldusväärsust teatava aja jooksul, lähtudes nende
sotsiaalsest käitumisest või teadaolevatest või prognoositud iseloomulikest või
isikuomadustest;
avalikult juurdepääsetavas ruumis reaalajas toimuva biomeetrilise kaugtuvastamise
süsteemide kasutamine õiguskaitse jaoks, välja arvatud kolmel erandjuhul:
o võimalike kuriteoohvrite, sh kadunud laste otsimine;
o füüsiliste isikute elu või füüsilist turvalisust ähvardava konkreetse, suure ja
vahetu ohu või terrorirünnaku ärahoidmine;
o nõukogu raamotsuses 2002/584/JSK4 osutatud kuriteo toimepanija või sellises
kuriteos kahtlustatava avastamine, tema asukohta kindlaks tegemine, tema
tuvastamine või vastutusele võtmine, kui tegemist on kuriteoga, mille eest
karistatakse asjaomases liikmesriigis vabadusekaotuse või vabadust piirava
julgeolekumeetmega, mille maksimaalne pikkus on vähemalt kolm aastat, nagu
selle liikmesriigi õigusaktides kindlaks määratud.
Kõigis kolmes eelkirjeldatud olukorras tuleb arvesse võtta olukorra olemust (sh milline oleks
kahju raskusaste ja ulatus, kui süsteemi ei kasutata) ja süsteemi kasutamise tagajärgi kõigi
asjaomaste isikute õiguste ja vabaduste seisukohast. Reaalajas toimuva biomeetrilise
kaugtuvastamise süsteemi igaks kasutamiseks avalikult juurdepääsetavas ruumis on vaja
eelnevat luba, mille annab selle liikmesriigi õigusasutus või sõltumatu haldusasutus, kus
kasutamine hakkab toimuma. Kiireloomulistel juhtudel võib hakata süsteemi kasutama ka ilma
loata ja loa võib taotleda kasutamise ajal või pärast seda.
III jaotis (artiklid 6-51) sisaldab suure riskiga tehisintellekti süsteemidele kohalduvaid
nõudeid. Suure riskiga tehisintellektisüsteemide kasutamine Euroopa turul on lubatud vaid siis,
kui on täidetud määruses toodud kohustuslikud nõuded ja tehtud vastavuse eelhindamine. Suure
riskiga tehisintellektisüsteemiks liigitamisel lähtutakse tehisintellektisüsteemi sihtotstarbest
kooskõlas olemasolevate tooteohutusalaste õigusaktidega. Seega ei olene suure riskiga
süsteemiks liigitamine ainult tehisintellektisüsteemi täidetavast funktsioonist, vaid ka selle
süsteemi konkreetsest kasutuseesmärgist ja kasutusviisidest.
1. peatükis (artiklid 6-7) esitatakse suure riskiga tehisintellektisüsteemide liigitamise reeglid.
Tegemist on suure riskiga tehisintellektisüsteemidega, kui täidetud on mõlemad järgmised
tingimused:
tehisintellektisüsteem on mõeldud kasutamiseks toote turvakomponendina või on ise
toode, mille suhtes kehtivad II lisas loetletud liidu ühtlustamisõigusaktid;
toode, mille turvakomponent tehisintellektisüsteem on, või tehisintellektisüsteem ise
kui toode peab läbima kolmanda isiku tehtava vastavushindamise, et selle saaks turule
lasta või kasutusele võtta vastavalt II lisas loetletud liidu ühtlustamisõigusaktidele;
Sinna hulka kuuluvad näiteks masinad, mänguasjad, raadioseadmed, küttegaasiseadmed,
meditsiiniseadmed ja in vitro diagnostika meditsiiniseadmed.
Lisaks on suure riskiga kõik III lisas loetletud muud eraldiseisvad tehisintellektisüsteemid. Siia
alla kuuluvad näiteks elutähtsa taristu juhtimise ja käitamise valdkonnas kasutatavad
tehisintellektisüsteemid, mis on mõeldud kasutamiseks maanteeliikluse korraldamise ja
käitamise ning vee, gaasi, kütteenergia ja elektri tarnimise turvakomponendina; tööhõive,
töötajate juhtimise valdkonnas kasutatavad tehisintellektisüsteemid, mis on mõeldud inimeste
tööle võtmiseks või välja valimiseks, eeskätt seoses töökuulutuste avaldamise, avalduste
sõelumise või filtreerimise ning vestluste või testide käigus kandidaatide hindamiseks;
hariduse- ja kutseõppe valdkonnas kasutatavad tehisintellektisüsteemid, mis on mõeldud
selleks, et määrata kindlaks füüsiliste isikute juurdepääsu haridus- ja kutseõppeasutustele või
määrata isikud neisse asutustesse; tehisintellektisüsteemid, mis on mõeldud selleks, et hinnata
4
Nõukogu 13. juuni 2002. aasta raamotsus 2002/584/JSK Euroopa vahistamismääruse ja liikmesriikidevahelise
üleandmiskorra kohta (EÜT L 190, 18.7.2002, lk 1).
haridus- ja kutseõppeasutuste õpilasi ning haridusasutusse vastuvõtmiseks tavapäraselt
nõutavate testide tegijaid.
Komisjonil on õigus III lisas esitatud loetelu delegeeritud akti kaudu ajakohastada.
2. peatükis (artiklid 8-15) sätestatakse suure riskiga tehisintellektisüsteemidele esitatavad
nõuded:
Riskijuhtimissüsteem - suure riskiga tehisintellektisüsteemide jaoks luuakse
riskijuhtimissüsteem, seda rakendatakse ja see dokumenteeritakse ning seda
hooldatakse. Tegemist on tehisintellektisüsteemi kogu eluea jooksul toimuva
protsessiga, mida tuleb korrapäraselt ja süstemaatiliselt ajakohastada.
Andme ja andmehalduse nõuded - treenimis-, valideerimis- ja testimisandmestikud
peavad olema asjakohased, representatiivsed, vigadeta ja täielikud ning neid peavad
iseloomustama asjakohased statistilised omadused, sealhulgas vajaduse korral seoses
isikute või isikute rühmadega, kelle peal kavatsetakse suure riskiga
tehisintellektisüsteemi kasutada. Treenimis-, valideerimis- ja testimisandmestike
suhtes kohaldatakse asjakohaseid andmehaldus- ja juhtimistavasid.
Tehniline dokumentatsioon - dokumentatsioon koostatakse enne süsteemi turule
laskmist või kasutusele võtmist selliselt, et see tõendaks suure riskiga
tehisintellektisüsteemi vastavust nõuetele ja annaks riikide pädevatele asutustele ja
teavitatud asutustele nõuetele vastavuse hindamiseks kogu vajaliku teabe.
Dokumentatsiooni kohustuslikud elemendid on toodud IV lisas, mida komisjonil on
õigus delegeeritud akti alusel ajakohastada.
Andmete säilitamine - suure riskiga tehisintellektisüsteeme tuleb nii projekteerida ja
arendada, et töötamise ajal oleks võimalik sündmusi automaatselt registreerida
(„logid“) vastavalt tunnustatud standarditele või ühtsetele kirjeldustele.
Läbipaistvus ja kasutajate teavitamine - tagatud peab olema töö piisav läbipaistvus,
et kasutajad saaksid tõlgendada süsteemi väljundit ja seda asjakohaselt kasutada.
Kaasas peab olema sobivas digivormingus või muus vormis kasutusjuhend, mis
sisaldab kokkuvõtlikku, täielikku, täpset ja selget teavet, mis on kasutajatele oluline,
juurdepääsetav ja mõistetav.
Inimjärelevalve - peab olema tagatud, et füüsilised isikud saaksid teha
tehisintellektisüsteemi kasutamise ajal selle üle reaalset järelevalvet, et hoida ära või
minimeerida tervist, ohutust või põhiõigusi ähvardavaid riske.
Täpsus, stabiilsus ja küberturvalisus - tehisintellektisüsteemid tuleb projekteerida ja
arendada selliselt, et nad saavutaksid oma sihtotstarbe seisukohast asjakohase täpsuse,
stabiilsuse ja küberturvalisuse taseme ning et nende sooritus oleks kolmes nimetatud
aspektis kogu elutsükli jooksul järjekindel. Täpsuse tasemed ja parameetrid tuleb
deklareerida süsteemiga kaasas olevas kasutusjuhendis. Suure riskiga
tehisintellektisüsteemid peavad pidama vastu volitamata kolmandate isikute katsetele
muuta süsteemi kasutamist või toimimist, kasutades ära süsteemi nõrkusi.
3. peatükis (artiklid 16-29) kehtestatakse suure riskiga tehisintellektisüsteemide pakkujatele
horisontaalsed kohustused. Kohustused kehtestatakse ka kasutajatele ja teistele tehisintellekti
väärtusahela osalejatele (näiteks importijad, turustajad, volitatud esindajad).
4. peatükis (artiklid 30-39) sätestatakse raamistik teavitatud asutuste kui sõltumatute
kolmandate isikute osalemise kohta vastavushindamises. Iga liikmesriik peab määrama või
looma teavitava asutuse, kes vastutab vastavushindamisasutuste hindamise, määramise ja neist
teavitamise ning nende seire jaoks vajalike menetluste väljatöötamise ja läbiviimise eest.
Vastavushindamisasutus peab esitama teavitamistaotluse selle liikmesriigi teavitavale
asutusele, mille territooriumil ta asub, koos dokumendiga, kus kirjeldatakse
vastavushindamistoiminguid, vastavushindamismoodulit ja tehisintellektitehnoloogiaid,
millega tegelemiseks väidab see vastavushindamisasutus end pädev olevat. Kui asutus vastab
määruses toodud nõuetele, informeerib teavitav asutus sellest komisjoni ja teisi liikmesriike.
Teavitatud asutused kontrollivad suure riskiga tehisintellektisüsteemi vastavust määruses
kirjeldatud vastavushindamismenetluse kohaselt, olles samal ajal sõltumatud
tehisintellektisüsteemi pakkujast, mille vastavushindamisega nad tegelevad.
5. peatükk (artiklid 40-51) sisaldab suure riskiga tehisintellektisüsteemide puhul nõutud
vastavushindamist puudutavaid sätteid.
IV jaotises (artikkel 52) sätestatakse teatavate tehisintellektisüsteemide puhul kohalduvad
läbipaistvusnõuded. Pakkujad peavad tagama, et füüsilistele isikutele antakse teada, et nad
suhtlevad tehisintellektisüsteemiga, välja arvatud juhul, kui see on asjaolude ja kasutamise
konteksti tõttu ilmne. Emotsioonide tuvastamise või biomeetrilise liigitamise süsteemi
kasutajad peavad teavitama süsteemi tööst isikuid, kes sellega kokku puutuvad. Nn
süvavõltsingute korral peab avalikustama, et sisu on kunstlikult loodud või seda on
manipuleeritud.
V jaotis (artiklid 53-55) sisaldab innovatsiooni toetavaid meetmeid, eelkõige regulatsiooni
testkeskkondi puudutavaid sätteid. Tegemist on kontrollitud keskkonnaga, mis hõlbustab
innovatiivsete tehisintellektisüsteemide arendamist, testimist ja valideerimist piiratud aja
jooksul enne nende turule laskmist või kasutusele võtmist konkreetse kava kohaselt. Pädevate
asutuste järelevalve ja juhendamise tulemusena võimaldavad testkeskkonnad tagada
innovatiivsete tehisintellektisüsteemide vastavuse määruse nõuetele ning muudele
asjakohastele õigusaktidele. See suurendab õiguskindlust ning toetab pädevaid asutusi
järelevalve teostamisel ning toetab arusaamist tehisintellekti kasutamise võimalustest,
kaasnevatest riskidest ja mõjudest ning kiirendab lahenduste turulepääsu. Pädevad asutused,
kes on loonud tehisintellekti regulatsiooni testkeskkonnad, koordineerivad oma tegevust ja
teevad koostööd Euroopa tehisintellekti nõukojas ning esitavad nõukojale ja komisjonile igal
aastal aruande nende kavade rakendamise kohta. Testkeskkondade töökord ja -tingimused (sh
kõlblikkuskriteeriumid ja taotluste esitamise, valiku-, osalemis- ja testkeskkonnast väljumise
protseduurid ning osaliste õigused ja kohustused) sätestatakse rakendusaktides. Lisaks nähakse
ette tingimused isikuandmete töötlemiseks testkeskkonnas teatavate tehisintellektisüsteemide
arendamiseks ja testimiseks avalikes huvides.
Jaotis sisaldab ka sätteid, mille eesmärk on lihtsustada väikepakkujate ja idufirmade ligipääsu
testkeskkondadele ning vähendada nende koormust, näiteks vastavushindamise tasude
kehtestamisel.
VI jaotises (artiklid 56-58) sätestatakse liidu ja riigi tasandi juhtimissüsteemid.
1. peatükis kehtestatakse Liidu tasandil liikmesriikide ja komisjoni esindajatest koosnev
Euroopa tehisintellekti nõukoda, mis aitab tõhustada riikide järelevalveasutuste ja komisjoni
koostööd ning annab komisjonile nõu ja oskusteavet, soodustades sellega määruse sujuvat,
tõhusat ja harmoneeritud rakendamist. Nõukoda kogub ja jagab liikmesriikidega parimaid
tavasid.
2. peatüki kohaselt peavad liikmesriigid määruse kohaldamise ja rakendamise jälgimise
eesmärgil nimetama ühe või mitu riiklikku pädevat asutust ning nende hulgast riikliku
järelevalveasutuse, mis tegutseb teavitava asutuse ja turujärelevalveasutusena. Mh nähakse ette,
et liikmesriigid peavad esitama komisjonile igal aastal aruande pädevate asutuste rahaliste ja
inimressursside seisu kohta, hinnates sealjuures nende piisavust, saadud teabe esitab komisjon
nõukojale arutamiseks. Euroopa andmekaitseinspektor tegutseb liidu asutuste, ametite ja
organite üle järelevalvet teostava pädeva asutusena, kui need kuuluvad määruse
kohaldamisalasse.
VII jaotise (artikkel 60) eesmärk on hõlbustada komisjoni ja riikide ametiasutuste seiretööd,
kehtestades peamiselt põhiõigusi mõjutavate eraldiseisvate suure riskiga
tehisintellektisüsteemide ELi andmebaasi. Andmebaasi haldab komisjon ja selle andmed
pärinevad tehisintellektisüsteemide pakkujatelt, kellelt nõutakse oma süsteemide
registreerimist enne nende turule laskmist või muul viisil kasutusele võtmist. Andmebaasis
sisalduv teave on üldsusele juurdepääsetav.
VIII jaotises (artiklid 61-68) sätestatakse tehisintellektisüsteemide pakkujate seire- ja
aruandekohustused seoses turustamisjärgse seire ja aruandluse ning tehisintellektiga seotud
intsidentide ja rikete uurimisega.
1. peatükk (artikkel 61) sisaldab turustamisjärgse seire sätteid. Pakkujad peavad kehtestama
turustamisjärgse seire süsteemi, mis aktiivselt ja süstemaatiliselt kogub, dokumenteerib ja
analüüsib kasutajate esitavaid või muudest allikatest kogutavaid asjakohaseid andmeid suure
riskiga tehisintellektisüsteemide toimimise kohta kogu nende eluea jooksul. Süsteem põhineb
turustamisjärgse seire kaval, mis on IV lisas osutatud tehnilise dokumentatsiooni osa.
2. peatükk (artikkel 62) reguleerib teabe jagamist intsidentide ja tõrgete kohta. Turule lastud
suure riskiga tehisintellektisüsteemide pakkujad teatavad igast süsteemide tõsisest intsidendist
või tõrkest, mille puhul on tegu põhiõiguste kaitseks mõeldud liidu õiguse kohaste kohustuste
rikkumisega, nende liikmesriikide turujärelevalveasutustele, kus intsident või rikkumine aset
leidis.
3. peatükk (artiklid 63-68) sisaldab turujärelevalvet ja kontrolli puudutavaid sätteid.
Turujärelevalveasutused kontrollivad turgu ja uurivad kõigile juba turule lastud suure riskiga
tehisintellektisüsteemidele kehtestatud kohustuste ja nõuete täitmist.
IX jaotises (artikkel 69) luuakse käitumisjuhendite koostamise raamistik. Juhendite eesmärk
on julgustada muu kui suure riskiga tehisintellektisüsteemide pakkujaid vabatahtlikult
kohaldama suure riskiga tehisintellektisüsteemidele kohustuslikke nõudeid (vastavalt III
jaotisele). Muu kui suure riskiga tehisintellektisüsteemide pakkujad võivad tegevusjuhendeid
ise koostada ja rakendada. Need juhendid võivad hõlmata ka vabatahtlikult võetavaid kohustusi,
mis võivad olla seotud näiteks keskkonnasäästlikkusega, puuetega inimeste juurdepääsuga,
sidusrühmade osalemisega tehisintellektisüsteemide projekteerimises ja arendamises ning
arendustiimide mitmekesisusega.
X jaotis (artiklid 70-72) sisaldab teabe ja andmete konfidentsiaalsust sisaldavaid sätteid ning
sätestatakse eeskirjad määruse rakendamisel hangitava teabe vahetamiseks. Jaotis sisaldab ka
meetmeid, millega tagada määruse tõhus rakendamine selle normide rikkumise eest
määratavate karistustega.
XI jaotises (artiklid 73-74) sätestatakse delegeerimis- ja rakendusvolituste kasutamise
eeskirjad. Ettepanek annab komisjonile õiguse võtta asjakohasel juhul vastu rakendusakte
määruse ühetaolise kohaldamise tagamiseks või delegeeritud õigusakte I–VII lisa loetelude
ajakohastamiseks või täiendamiseks.
XII jaotis (artiklid 75-85) sisaldab lõppsätteid. Komisjonile kehtestatakse kohustus hinnata
korrapäraselt III lisa ajakohastamise vajadust ja koostada korrapäraselt määruse hindamise ja
läbivaatamise aruandeid. Määrust kohaldatakse 24 kuud pärast määruse jõustumist. Erandina
kohaldatakse III jaotise 4. peatükki ja VI jaotist kolm kuud pärast määruse jõustumist ning
artiklit 71 alates 12 kuud pärast määruse jõustumist. Enne määruse kohaldamist turule lastud
või kasutusele võetud suure riskiga tehisintellektisüsteemidele kohaldatakse määrust ainult
juhul, kui muudetakse oluliselt nende projekti või sihtotstarvet.
Määruse praegusel kujul vastuvõtmisega kaasneb vajadus sätestada siseriiklikus õiguses
karistused, mida kohaldatakse määruse rikkumise korral (näiteks karistusseadustikus). Lisaks
tuleb asjakohastes õigusaktides täpsustada antud määruse kontekstis pädevate asutuste ja
järelevalveasutuste volitusi.
3. Euroopa Liidu asja vastavus pädevuse andmise, subsidiaarsuse ja proportsionaalsuse
põhimõtetele
3.1. Õiguslik alus
Määruse õiguslikuks aluseks on valitud ELi toimimise lepingu artikkel 114, mis annab õiguse
kehtestada meetmeid, mille eesmärk on tagada EL siseturu toimimine. Õiguslik alus on kohane,
sest liidu tasemel võetavad meetmed võimaldavad vältida ühtse turu killustumist olukorras, kus
liikmesriigid hakkavad kehtestama tehisintellektisüsteemide arendamisele ja kasutamisele
erinevaid siseriiklike norme, mis omakorda muudaksid keerulisemaks Eesti ettevõtjate
juurdepääsu turgudele ja kahjustaks konkurentsivõimet. Õiguskaitse eesmärgil avalikult
juurdepääsetavas ruumis reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide
kasutamise piirangute osas on õiguslikuks aluseks ELi toimimise lepingu artikkel 16, mis on
samuti asjakohane.
3.2. Subsidiaarsus
Nõustume komisjoni subsidiaarsuse analüüsiga, mille kohaselt liikmesriigid üksi ei saa määruse
ettepaneku eesmärke tõhusalt täita ning eesmärgid on paremini saavutatavad EL tasandil.
Valdkonna reguleerimine EL tasandil on vajalik EL siseturu parema toimimise tagamiseks. Kui
liikmesriigid hakkavad tehisintellektist tingitud probleemide käsitlemiseks vastu võtma
siseriiklikke õigusnorme, tooks see kaasa digitaalse ühtse turu killustumise, mis võib mh
kahjustada ka Eesti ettevõtete juurdepääsu turgudele ja konkurentsivõimet ülemaailmsetel
turgudel. Lisaks takistavad lahkneda võivad riiklikud eeskirjad ohutuse ja põhiõiguste ning
liidu väärtuste tõhusat kaitset. Seega oleme seisukohal, et kavandatavad määruse eesmärgid on
paremini saavutatavad liidu tasandil.
3.3. Proportsionaalsus
Määruses toodud meetmete kaudu soovitakse toetada tehisintellekti väljatöötamist ja
kasutuselevõttu ning tagada loodavate lahenduste usaldusväärsus. Komisjon on omaks võtnud
komisjoni kokku kutsutud sõltumatu kõrgetasemelise tehisintellekti eksperdirühma
usaldusväärse tehisintellekti käsitluse, mille kohaselt usaldusväärne tehisintellekt on
õiguspärane (sh kooskõlas põhiõigustega), eetiline ja tehniliselt ning sotsiaalsest seisukohast
töökindel (ingl. robust). Usaldusväärse, ühiskonna hüvangut tagava tehisintellekti tagamisega
näeb EL võimalust tõsta ühiskonna valmisolekut tehisintellektirakenduste kasutuselevõtuks ja
võimalust tõsta oma konkurentsivõimet maailmaturul. Samas on ka hinnatud5, et määrus võib
kaasa tuua märkimisväärsed lisakulutused tehisintellekti arendamisele ja kasutuselevõtule,
mille tagajärjel võib investeeringute maht väheneda pea 20 protsenti ning seeläbi kannatada ka
ELi konkurentsivõime ning süveneda mahajäämus. Esmasest analüüsist ja saadud selgitustest
lähtuvalt ei saa kõiki määrusega planeeritud meetmed praeguses sõnastuses pidada
proportsionaalseteks. Näiteks kehtestatakse suure riskiga tehisintellektisüsteemidele mõningaid
5
Center for Data Innovation „How Much Will the Artificial Intelligence Act Cost Europe?“
https://www2.datainnovation.org/2021-aia-costs.pdf
kvaliteedikriteeriume, mida ei ole praeguses sõnastuses praktikas võimalik tagada. Selleks on
näiteks treenimis-, valideerimis- ja testimisandmestikele kehtestatavad nõuded, mille kohaselt
peavad andmestikud olema asjakohased, representatiivsed, vigadeta ja täielikud. Määruse
sõnastust tuleb täpsustada, sest praktikas ei ole võimalik tagada, et andmed oleksid vigadeta ja
täielikud. Selleks, et oleks tagatud ka ELi konkurentsivõime usaldusväärse tehisintellekti
arendamisel ja kasutuselevõtul, on oluline läbirääkimiste käigus tagada määrusega
kavandatavate meetmete proportsionaalsus.
4. Esialgse mõjude analüüsi kokkuvõte
4.1. Mõju riigi julgeolekule
Määruse kohaldamislast on välja jäetud tehisintellektisüsteemid, mis on välja töötatud või mida
kasutatakse üksnes sõjalisel otstarbel, kohaldamisalasse kuuluvad kahese kasutusega
tehisintellektisüsteemid, mida kasutatakse paralleelselt sõjalisel- ja ka tsiviilotstarbel. Samuti
kohaldub määrus julgeoleku tagamise eesmärgil kasutatavatele tehisintellektisüsteemidele.
Sellised süsteemid peavad kasutusvaldkonnast lähtuvalt vastama määruses sätestatud nõuetele.
Määrust ei kohaldata kolmanda riigi ametiasutuste ega määruse kohaldamisalasse kuuluvate
rahvusvaheliste organisatsioonide suhtes, kui need asutused või organisatsioonid kasutavad
tehisintellektisüsteeme liidu või ühe või mitme liikmesriigiga õiguskaitse ja õigusalase koostöö
jaoks sõlmitud rahvusvaheliste lepingute raames.
4.2. Mõju majandusele
Ühtlustatud õigusraamistik võimaldab vältida EL ühtse turu killustumist ning tagab ettevõtetele
võrdsed tingimused. Määruse toodud meetmed avaldavad kõige suuremat majanduslikku mõju
ettevõtetele, kes pakuvad või kasutavad tehisintellektisüsteeme, mis liigituvad artikli 6 alusel
suure riskiga tehisintellektisüsteemide hulka. Komisjoni hinnangul 6 puudutaks see
hinnanguliselt 5 – 15 protsenti kõigist rakendustest. Need süsteemid peavad vastama määruses
sätestatud nõuetele, mille täitmisega kaasneks komisjoni hinnangul ligikaudu 6000-7000 eurot
ühekordsete kuludena ning 5000-8000 eurot püsivate kuludena (inimjärelevalve tagamine)
süsteemi kohta. Kulud kaasnevad ka enne turule laskmist kohustusliku vastavushindamise
läbiviimisega (3000-7500 eurot).
Läbiviidud projektile ja ekspertteadmistele tuginedes võib eeldada, et määruse rakendamisega
kaasnevad märgatavalt kõrgemad ühekordsed- ja jätkukulud kui need, mida komisjon on
mõjuhinnangus välja toonud. Tänaste kasutusjuhtude näitel puudutab määrus oluliselt suuremat
osa kasutatavatest tehisintellektisüsteemidest (Eesti hinnangul puudutab see hetkel pea 40
protsenti riigisiseselt avalikus sektoris rakendatud tehisintellektisüsteemidest).7 Eriti ulatuslik
majanduslik mõju võib kaasneda asjaoluga, et määrusega sätestatakse täiendavad nõuded
andmekvaliteedile, mis tüüpiliselt on seotud väga kõrgete kuludega. Näiteks Fontese
palgauuringu kohaselt andmekvaliteedile esitatavate nõuete tagamisega kaasnevad
personalikulud ühe andmekogu kohta on minimaalselt 52182 eurot aastas (IKT konsultandid 3
tööpere põhjal), millele lisandub ka töökoha kulu (varieerub asutuseti, arvestada võib 7747
6
Mõjuhinnang: https://digital-strategy.ec.europa.eu/en/library/impact-assessment-regulation-artificial-
intelligence
7
Avalik sektor on täna Eestis tehisintellektisüsteemide rakendamisel eesrinnas, kuid lahendusi arendab peamiselt
erasektor. Majanduslike mõjude all käsitletud ka avaliku sektori osa majandusest.
eurot aastas). Sellele lisanduvad ühekordsed andmekogu andmekvaliteedi parendusteks
tehtavad tööd8, mille arenduste kulud võivad küündida üle ühe miljoni euro andmekogu kohta.
Näiteks rahvastikuregistri andmekvaliteedi tagamisega tegeleb iga-aastaselt 5 inimest, kellele
palgakulu on 250 000 eurot. Samamoodi on ehitisregistri andmekvaliteedi parendustöödest
senini kulunud enam kui 800 000 eurot, lisaks tegeleb üks täiskohaga töötaja andmekvaliteedi
tagamisega. Seejuures viidatud andmekogudes ei ole andmekvaliteet tänaseni tagatud ning
nõuaks määruse rakendumisel samaväärseid investeeringuid.
Eeltoodu illustreerib, et täiendavad nõuded andmekvaliteedi tagamiseks võivad tuua kaasa
ulatuslikke kulusid, eriti erasektoris, tingituna selle mahajäämusest andmekvaliteedi tagamisel.
Täpsemad arenduskulud sõltuvad siiski andmekogust ja selle vastavusest kehtivatele
andmekvaliteedi nõuetele, mistõttu on siinkohal välja toodud vaid hinnangulised summad.
Oluline on ka silmas pidada, et määruse esialgses sõnastuses on andmekvaliteedi nõuded
sõnastatud lakooniliselt, kusjuures määruses sätestatud kriteerium, mille kohaselt treenimis-,
valideerimis- ja testimisandmestikud peaksid olema mh vigadeta ja täielikud on selline, mida
ei ole võimalik praktikas mõistliku kulu ja ajaga saavutada (v.a väga erandlikel juhtudel).
Andmekvaliteedi parendusteks tehtavate tööde kulusid on võimalik oluliselt vähendada kui
andmekvaliteedile kehtestavad nõuded on proportsionaalsed ja lähtuksid konkreetselt
kasutusjuhtudest ning püstitatud eesmärkidest. Seega hakkavad tegelikud kulud sõltuma sellest,
milliseks kujunevad praktikas rakendatavad andmekvaliteedi nõuded, mis oleks kooskõlas
kõnesoleva määrusega. Lisaks sellele lisanduvad ka muud ühekordsed- ja püsikulud. Kui
komisjon on oma mõjuhinnangus hinnanud määruse nõuete täitmisega kaasnevaks
maksimaalseks täiendavaks kuluks ligikaudu 10 000 eurot iga tehisintellektisüsteemi kohta,9
siis selliste suure riskiga tehisintellektisüsteeme pakkuvate ettevõtete jaoks, kes juba määrusele
eelnevalt ei ole rakendanud kõrgetasemelisi riskihalduse, logimise ja järelevalvelahendusi,
võivad tegelikud kulud olla siiski oluliselt kõrgemad. Näiteks ainuüksi keskseks õiguste
haldamiseks ja logimiseks võib suuremate organisatsioonide puhul ette näha investeeringuid
enam kui 700 000 euro ulatuses. Tehisintellektisüsteemide arendamisel ja rakendamisel tuleks
arvestada inimjärelevalveks ühekordseteks kuludeks vähemalt 50 100 eurot, mis kätkeb endas
äriloogika kuvamist, liidestamist kasutatavate mudelitega, logide edastamist kesksesse
logiserverisse, testimist jm.
Eelnevast tulenevalt kaasneksid suure riskiga lahenduste loomisel täiendavad kulud. Antud
kulude osas tuleb siiski arvestada ka asjaolu, et olulisel määral tuleks nii andmekvaliteedi
tagamiseks, süsteemi järelevalveks kui riskide maandamiseks kanda kulusid ka sõltumata
määrusest, tagamaks tehisintellektisüsteemi korrektne, kvaliteetne ja õiguspärane toimimine
(sh tagamaks kooskõla kehtivate isikuandmete kaitse ja andmekvaliteedi nõuetega).
Iduettevõtete ja VKEde jaoks võib suure riskiga tehisintellektisüsteemidele kehtestatud nõuete
täitmine ja kaasneva halduskoormusega toimetulek osutuda koormavamaks ning tingida
vajaduse lisaressursi järele. Lisaks on valdkonnas olulisel määral puudu spetsialistidest10, mis
võib raskendada VKEde nõuetega toimetulekut. Seetõttu võib tekkida olukord, kus kulud ja
nõuded suure riskiga tehisintellektisüsteemide arendamiseks ja pakkumiseks kujutavad endast
iduettevõtete ja VKEde jaoks üsna kõrget barjääri turule sisenemiseks ja selliste rakenduste
pakkumiseks ning kasutuselevõtuks. Samuti on suurematel tehnoloogiaettevõtjatel ressurssi
arendada soovitud süsteem välja enne, kui määruse nõuded neile kohalduma hakkavad (artiklite
8
On oluline märkida, et määruses ja mõjuanalüüsi kontekstis käsitletakse andmekvaliteeti laiemalt kui vaid isikuandmete
õigusust. Määrus puudutab kõiki andmeid/andmekogusid, mida on võimalik suure riskiga lahenduste väljatöötamiseks
kasutada ning kõigil juhtudel peavad olema tagatud andmetele ja andmehaldusele kehtestatud nõuded.
9
Mõjuhinnang (alaviide 1), lk 67.
10
Microsofti oskuste ja tööjõu analüüs: https://news.microsoft.com/skills/#skills-and-jobs-analysis
83 ja 85 koosmõju juba turule lastud või kasutusele võetud tehisintellektisüsteemidele). Samuti
tähendaks määruse artikkel 71 kohase trahvi kohaldamine iduettevõtjate puhul nende tegevuse
lõppemist. Olulisi majanduslikke mõjusid ei kaasne nendele ettevõtetele, kes arendavad või
kasutavad tehisintellektisüsteeme, mis ei ole liigitatud suure riskiga rakendusteks. Neil juhtudel
kaasnevad minimaalsed teavitamiskohustused.
Keskpikas perspektiivis võib määrusel olla ettevõtluskeskkonda soodustav mõju niivõrd, kui
selles sätestatud turva-, kvaliteedi- ja riskide maandamise nõuded suurendavad tarbijate ja teiste
kasutajate usaldust ja valmisolekut tehisintellektisüsteemidel põhinevate teenuste ja toodete
kasutamiseks. EL ülene ühetaoline ning õiguskindel regulatiivne raamistik omab potentsiaalselt
ka investeeringuid soodustavat mõju.
Positiivset mõju võivad omada artiklis 43 toodud kohustus võtta vastavushindamise tasude
kehtestamisel arvesse VKEde huve ning meetmed, millega julgustatakse liikmesriike rajama
tehisintellekti regulatsiooni testkeskkondi. Vastavushindamise tasusid puudutavad sätted ei
pruugi omada soovitud mõju, kui vastavushindamist teostavaid asutusi on vähe. Eestis on
mõnes lisas II loetletud valdkonnas ainult üks teavitatud asutus (väikelaevad, lihtsad
surveanumad), kuid paljudes valdkondades ei ole ühtegi teavitatud asutust (sh
meditsiiniseadmed, isikukaitsevahendid raadiotehnika, mänguasjad)11. Kui vastavushindamist
vajavaid rakendusi on palju, ei pruugi asutused vastu võtta töid, mille eest saadav tasu on
väiksem ning vastavushindamise saamiseks ja toote kiireks turule toomiseks võivad VKEd olla
ikkagi sunnitud täishinda tasuma.
4.3. Mõju põhiõigustele
Kohustus tagada põhiõiguste kaitse tehisintellekti kontekstis tuleneb juba praegu nii
põhiseadusest, kehtivast Euroopa Liidu õigusest ja Eestile siduvatest rahvusvaheliste
inimõiguste instrumentidest. Ilma määruseta peaks Eesti tõenäoliselt kehtestama analoogseid
nõudeid siseriiklikult. See aga killustaks ELi siseturgu ega tagaks ühetaolist ja kõrget
põhiõiguste kaitset kogu EL-is.
Määruse seletuskirja kohaselt põhineb ettepanek „ELi väärtustel ja põhiõigustel ning sellega
soovitakse anda inimestele ja muudele kasutajatele kindlustunnet tehisintellektipõhiste
lahenduste kasutamisel, julgustades samas ettevõtjaid neid välja arendama. Tehisintellekt peaks
olema inimeste abivahend ja ühiskonda edasiviiv jõud, mille lõppeesmärk on suurendada
inimeste heaolu. Seepärast peaksid liidu turul olemasolevat või liidu kodanikke muul viisil
mõjutavat tehisintellekti käsitlevad eeskirjad olema inimesekesksed, et inimesed saaksid olla
kindlad, et tehnoloogiat kasutatakse ohutul ja õiguspärasel viisil, sealhulgas austades
põhiõigusi.“
Määrusel on otsene mõju põhiõigustele, kuna selle üheks eesmärgiks on tagada, et turule
lastavad ja kasutatavad tehisintellektisüsteemid on ohutud ja kooskõlas kehtiva põhiõigusi
käsitleva õiguse ning liidu väärtustega. Määruses nähakse ette nõudeid
tehisintellektisüsteemidele vastavalt riskidele elule ja tervisele (ohutus) ning teistele
põhiõigustele, mis nende süsteemide kasutamisega kaasnevad. Põhiõiguste käsitlus määruses
on lai. Tagatakse olemasolevate liidu teiseste õigusaktidega andmekaitse, tarbijakaitse,
diskrimineerimiskeelu ja soolise võrdõiguslikkuse valdkonnas kehtestatud nõuete täitmist, aga
ka laiemalt kõikide Euroopa Liidu põhiõiguste hartas kaitstud põhiõiguste ja vabaduste kaitset.
Seletuskirjas on seosed erinevate nõuete ja põhiõigustega välja toodud täpsemalt: „Kõigile
väärtusahela osalejatele kohaldatavate usaldusväärset tehisintellekti käsitlevate nõuete ja
proportsionaalsete kohustustega suurendab ettepanek hartaga kaitstavate õiguste kaitset: õigus
11
https://ec.europa.eu/growth/tools-databases/nando/index.cfm?fuseaction=country.notifiedbody&cou_id=233
inimväärikusele (artikkel 1), eraelu austamisele ja isikuandmete kaitsele (artiklid 7 ja 8),
diskrimineerimiskeeld (artikkel 21) ning naiste ja meeste võrdõiguslikkus (artikkel 23). Selle
eesmärk on vältida heidutavat mõju sõnavabadusele (artikkel 11) ja kogunemisvabadusele
(artikkel 12), tagada õigus tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele,
kaitseõigus ja süütuse presumptsioon (artiklid 47 ja 48) ning üldine hea halduse põhimõte.
Teatavates valdkondades kohaldatavana mõjutab ettepanek positiivselt mitme rühma õigusi,
nagu töötajate õigused headele ja õiglastele töötingimustele (artikkel 31), tarbijakaitse kõrge
tase (artikkel 28), lapse õigused (artikkel 24) ning puuetega inimeste integreerimine ühiskonda
(artikkel 26). Tähtis on ka õigus kõrgetasemelisele keskkonnakaitsele ja keskkonna kvaliteedi
parandamisele (artikkel 37), sealhulgas seoses inimeste tervise ja ohutusega. Teiste põhiõiguste
austamisele aitavad kaasa eelkontrolli, riskijuhtimise ja inimjärelevalve kohustused, millega
viiakse miinimumini ekslike või erapoolikute tehisintellektipõhiste otsuste tegemise risk
elutähtsates valdkondades, nagu haridus ja koolitus, tööhõive, tähtsad teenused, õiguskaitse ja
kohtuvõim. Kui põhiõiguste rikkumisi ikkagi esineb, tehakse kahju kandnud isikutele
kättesaadavaks tõhus õiguskaitse, tagades tehisintellektisüsteemide läbipaistvuse ja jälgitavuse
koos range järelkontrolliga.“
Määruse ettepanekuga kehtestatakse ka teatavaid piirangud ettevõtlusvabadusele (artikkel 16),
kunsti ja teaduse vabadusele (artikkel 13) ja õigusele intellektuaalomandi kaitsele (artikli 17
lõige 2), et tagada suure riskiga tehisintellektitehnoloogia arendamisel ja kasutamisel ohutus ja
teiste põhiõiguste kaitse. Oluline on määruses saavutada optimaalne tasakaal innovatsiooni
edendamise ning põhiõiguste kaitse vahel.
4.4. Mõju riigiasutuste ja kohalike omavalitsuste korraldusele ning avaliku sektori
kuludele ja tuludele
Avalikule sektorile kaasnevad kulud tehisintellektisüsteemide kasutajatena määruses toodud
nõuete täitmisel ning ka järelevalve teostamise kaudu.
Kõige suurem on mõju asutustele, mis kasutavad tehisintellektisüsteeme, mis liigituvad suure
riskiga süsteemide alla. Näiteks hõlmab määruse kohaldamisala mitmeid Siseministeeriumi
haldusala süsteeme, mistõttu kaasneb sellega haldusalas kasutusel olevate andmekogude
põhimääruste muutmise ja uuendamise vajadus. Lisaks puudutab määruse kohaldamisala ka
mitmeid Justiitsministeeriumi haldusala, Töötukassa, Haigekassa, Põllumajanduse Registrite ja
Informatsiooni Ameti (PRIA), Transpordiameti ja teiste asutuste süsteeme, kus tekib kohustus
teostada süsteemidele täiendav riskianalüüs (artikkel 9), kontroll andmete kasutamise üle
(artikkel 10), kohustus andmete ja logide rakendamiseks ja säilitamiseks (artikkel 12), tagada
lahenduse läbipaistvus ja kasutajate teavitamine (artikkel 13), järelevalve (artikkel 14) ning
lahenduse täpsus, stabiilsus ja küberturvalisus (artikkel 15). Nende punktide täitmiseks ja
tagamiseks tekib vajadus täiendavate arenduste, aga ka ametikohtade järele, sealhulgas ka
arenduse tellija poolt.
Määruse eesmärgid on iseenesest õiged, kuid Eesti hinnangul kaasnevad määruse
rakendamisega liikmesriikide ametiasutustele märgatavalt kõrgemad ühekordsed- ja jätkukulud
kui need, mida komisjon on mõjuanalüüsis välja toonud. Määrusest tulenevad täiendavad
nõuded andmekvaliteedi tagamiseks võivad tuua kaasa ulatuslikke kulusid. Näiteks määruses
andmekvaliteedile esitatavate nõuete12 tagamisega seotud personalikulud ühe andmekogu kohta
12
On oluline märkida, et määruses ja mõjuanalüüsi kontekstis käsitletakse andmekvaliteeti laiemalt kui vaid
isikuandmete õigusust. Määrus puudutab kõiki andmeid/andmekogusid, mida on võimalik suure riskiga lahenduste
väljatöötamiseks kasutada ning kõigil juhtudel peavad olema tagatud andmetele ja andmehaldusele kehtestatud
nõuded.
oleksid Fontes palgauuringust lähtuvalt minimaalselt 52182 eurot aastas (IKT konsultandid 3
tööpere põhjal), millele lisandub ka töökohakulu (varieerub asutuste lõikes, arvestada võib 7747
eurot aastas). Võttes Riigi infosüsteemi haldussüsteemi (RIHA) põhjal aluseks olulisemad 344
andmekogu (andmekogusid on tegelikult oluliselt rohkem), mida võidakse tõenäoliselt suure
riskiga lahenduste väljatöötamisel kasutada, võib täiendavaks aastaseks personalikuluks
hinnata 17 950 608 eurot. Määruse tulemusel võivad püsivad personalikulud veelgi oluliselt
suureneda.
Eelnevale lisanduvad ka ühekordsed andmekogu andmekvaliteedi parendusteks tehtavad tööd,
mille arenduste kulud võivad küündida üle ühe miljoni euro andmekogu kohta. Näiteks
rahvastikuregistri andmekvaliteedi tagamisega tegeleb juba praegu iga-aastaselt viis inimest,
kellele palgakulu on 250 000 eurot. Sarnaselt on ehitisregistri andmekvaliteedi parendustöödele
senini kulunud enam kui 800 000 eurot. Lisaks tegeleb üks täiskohaga töötaja andmekvaliteedi
tagamisega. Mõlemal juhul ei ole andmekogudes andmekvaliteet tänaseni tagatud ning on
võimalik, et nõuded andmekvaliteedile määruse tulemusel veelgi karmistuvad. Näiteks
ehitisregistri puhul on hinnatud määrusega kaasnevateks täiendavateks vajadusteks pea 1 000
000 eurot. Antud mõjuhinnangu puhul on arvestatud minimaalsete ühekordsete kuludega 250
000 eurot andmekogu kohta. Oluline on aga siiski silmas pidada, et määruse esialgses
sõnastuses on andmekvaliteedi nõuded sõnastatud lakooniliselt, kusjuures viide, et treenimis-,
valideerimis- ja testimisandmestikud peaksid olema mh vigadeta ja täielikud on kriteerium,
mida ei ole võimalik praktikas saavutada (v.a väga erandlikel juhtudel). Seega hakkavad
tegelikud kulud sõltuma sellest, milliseks kujuneb praktikas rakendatavad andmekvaliteedi
nõuded, mis oleks kooskõlas kõnesoleva määrusega ja millisel määral ületab see
andmekvaliteedi nõudeid, mida juba praegu avaliku sektori hallatavatelt andmekogudelt
eeldatakse. Täpsemad arenduskulud sõltuvad ka konkreetsest andmekogust.
Määrusega kaasnevad ka muud ühekordsed- ja püsikulud, näiteks vajadus inimjärelevalveks,
mille kulusid on ka komisjon oluliselt alahinnanud. Näiteks ainuüksi keskseks õiguste
haldamiseks ja logimiseks võib suuremate organisatsioonide puhul ette näha tänaste arvutuste
põhjal investeeringuid enam kui 700 000 euro ulatuses. Tehisintellektisüsteemide arendamisel
ja rakendamisel tuleks arvestada inimjärelevalveks ühekordseteks kuludeks vähemalt 50 100
eurot, mis kätkeb endas äriloogika kuvamist, liidestamist kasutatavate mudelitega, logide
edastamist kesksesse logiserverisse, testimist jm. Seega liikmesriikides, kus ei ole
tehisintellektisüsteemidele määruse eelnõus sätestatud nõudeid kehtestatud, kaasneksid
edaspidi süsteemide kasutuselevõtuga olulised ühekordsed ja jätkukulud. Ei ole välistatud, et
Eesti puhul võivad ainuüksi arenduste kulud ületada 75 000 000 eurot (arvestuse aluseks
võtame 300 andmekogu, mille andmeid võidakse lahenduste väljatöötamisel kasutada).
Riigiasutuste täiendavaks püsikulude mahuks inimjärelevalve nõuete täitmiseks (arvestuse
aluseks võtame 100 tehisintellekti lahendust) võime hinnata minimaalselt 7 810 000 eurot.
Eelnimetatud kulude osas tuleb siiski arvestada ka asjaolu, et olulisel määral kaasneksid kulud
nii avaliku sektori pakutavate tehisintellektisüsteemide andmekvaliteedi tagamiseks,
tehisintellektisüsteemide järelevalveks kui riskide maandamiseks ka sõltumata kõnesolevast
määrusest, tagamaks tehisintellektisüsteemide korrektne, kvaliteetne ja õiguspärane toimimine
(sh tagamaks kooskõla olemasolevate isikuandmete kaitse ja andmekvaliteedi nõuetega).
Liikmesriigid peavad määruse kohaldamise ja rakendamise jälgimise eesmärgil nimetama ühe
või mitu riiklikku pädevat asutust ning nende hulgast riikliku järelevalveasutuse, mis tegutseb
teavitava asutuse ja turujärelevalveasutusena. See tähendab täiendavat vajadust nii rahalise kui
inimressursi näol. Määruses toodud nõuete üle järelevalve teostamine eeldab ka ekspertteadmisi
tehisintellekti tehnoloogiatest, andmetest, õigusest (sh põhiõigustest tehisintellekti kontekstis),
kehtivatest standarditest jmt. Komisjon on määruse mõjuanalüüsis hinnanud, et olenevalt juba
olemasolevatest struktuuridest, võib järelevalve teostamine nõuda kuni 25 töötajat liikmesriigi
kohta. Täpset ressursivajadust ei ole Eesti kontekstis võimalik hetkel esile tuua, see sõltub ka
lõpuks määrusega kehtestatavatest kohustustest.
Määruse eesmärgi saavutamiseks on oluline tagada, et loodavas järelevalvesüsteemis oleks
piisavalt tehnoloogilist oskusteavet, teadmisi põhiõiguste ja ohutuse kaitsest, inimressurssi ja
rahalisi vahendeid. Tehisintellektisüsteemide järjest kasvava kasutuselevõtu valguses on
oluline seda võimekust pidevalt arendada. Vastupidine olukord soodustab ettevõtjate
ebavõrdset kohtlemist, võimaldades mõnel ettevõtjal lihtsalt järelevalvesüsteemide
puudulikkuse tõttu tegeleda suure riskiga tehisintellektisüsteemidega ilma määruse nõudeid
järgimata, sest järelevalve tegijatel puuduvad nii teadmised kui ressursid
tehisintellektisüsteemide sisuliseks mõistmiseks ja vajalike meetmete rakendamiseks.
5. Valitsuse seisukoha selgitus
5.1. Eesti toetab Euroopa Komisjoni esitatud määruse eelnõu eesmärki luua
tehisintellekti käsitlev ühtlustatud õigusraamistik, et aidata kaasa Euroopa Liidu
digitaalse ühtse turu toimimisele ning maandada selle tehnoloogia teatavatest
kasutusviisidest tulenevaid riske. Eesti peab oluliseks, et määrus soodustaks
innovatsiooni ja usaldusväärse tehisintellekti kasutuselevõttu.
Selgitus: 2020. aasta tehisintellekti valges raamatus seadis Komisjon kaks eesmärki -
soodustada tehisintellekti kasutuselevõttu ja tegeleda selle tehnoloogia teatavate
kasutusviisidega seotud riskidega. Ettepanekuga taotletakse eeskätt teise eesmärgi täitmist ehk
usaldusväärse tehisintellekti ökosüsteemi loomist tagamaks, et ELi turule lastavad ja
kasutatavad tehisintellektisüsteemid on ohutud ning kooskõlas kehtiva põhiõigusi käsitleva
õiguse ja liidu väärtustega ning suurendamaks seeläbi usaldust tehisintellekti kasutamise vastu
ja tehisintellektisüsteemide laiemat kasutuselevõttu.
Ettepaneku üks olulisi eesmärke on tagada siseturu nõuetekohane toimimine ning vältida turu
killustumist olukorras, kus liikmesriigid hakkavad kehtestama siseriiklikke norme, et hallata ja
maandada tehisintellektisüsteemide kasutamisest tulenevaid riske. Leiame, et ühtlustatud
õigusraamistiku loomine aitab tagada EL digitaalse ühtse turu toimimise. Määrusel on sobivate
ja proportsionaalsete meetmete kehtestamise korral oluline positiivne majanduslik ja
ühiskondlik mõju. Läbirääkimiste käigus on asjakohane kriitiliselt hinnata määruses sätestatud
meetmete sõnastust (näiteks andmekvaliteedile esitatud nõuded) ja täpsustada neid viisil, mis
tagab usaldusväärse tehisintellekti nõuete täitmise ilma et see piiraks ebaproportsionaalselt
tehisintellektisüsteemide pakkujate, kasutajate ja muude osaliste õigusi ning tehisintellekti
arendamist ja kasutuselevõttu. On oluline, et usaldusväärse tehisintellekti õigusraamistiku
loomise kõrval oleks tagatud ka Euroopa tehisintellekti valdkonna konkurentsivõime ning EL
digikümnendi eesmärkide13 saavutamine.
5.2. Eesti leiab, et tehisintellekti käsitlev ühtlustatud õigusraamistik peab olema
tehnoloogianeutraalne ja tõhus. Eesti eelistab, et määruse kohaldamisala määravad
loetelud oleksid kehtestatud määruses, mitte delegeeritud õigusaktide kaudu.
Jõustumisel peab määrus olema sõnastatud viisil, mis tagaks, et see on tulevikukindel.
Selgitus: Tehisintellekti reguleerimisel on oluline tagada määratluste tulevikukindlus ehk
rakendatavus tehnoloogia kiire arengu korral, mistõttu on mõistetav komisjoni soov ette näha
Euroopa digikümnend: 2030. aasta digieesmärgid. https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-
fit-digital-age/europes-digital-decade-digital-targets-2030_et
delegeeritud õigusakti vastuvõtmise võimalust nii määruse I lisas esitatud meetodite ja
lähenemisviiside loetelu kui ka III lisas esitatud suure riskiga tehisintellektisüsteemide loetelu
kaasajastamiseks. Samas on tegemist õigusakti kohaldamisala määravate oluliste sätetega,
mistõttu on vaja täiendavat analüüsi ja Nõukogu Õigusteenistuse hinnangut, kas delegeeritud
õigusakti kasutamine nende sätete muutmiseks on õiguspärane. ELTL artikkel 290 lõike 1
kohaselt võib delegeeritud aktide kaudu täiendada või muuta seadusandliku akti teatavaid
mitteolemuslikke osi. Valdkonna olemuslikud aspektid tuleb sätestada seadusandliku aktiga
ning õigust neid sätestada ei või delegeerida. Sealjuures tuleb seadusandlikes aktides määrata
selgesõnaliselt kindlaks volituste delegeerimise eesmärgid, sisu, ulatus ja kestus. Kui määruse
kohaldamisala muutmine delegeeritud akti kaudu ei ole kooskõlas ELTL artikkel 290 lõikega
1, võib Euroopa Kohus antud õigusaktid tühiseks tunnistada. Eelnevast tulenevalt peavad
delegeeritud õigusaktid olema õiguspärased ning kooskõlas ELTL artikliga 290, võttes mh
arvesse Nõukogu Õigusteenistuse seisukohti. Komisjoni diskretsioon delegeeritud õigusakti
vastuvõtmiseks peab olema väga selgelt piiritletud. Enne delegeeritud õigusakti kaudu määruse
kohaldamisala laiendamist peab olema tagatud huvirühmade piisav kaasamine ja põhjaliku
mõjuhinnangu läbiviimine.
Oluline on, et tehisintellektisüsteemi määratlus oleks määruse vastuvõtmisel
tehnoloogianeutraalne ja tulevikukindel, et seda ei tuleks koheselt ja järjepidevalt kohandada
(seadusandliku tavamenetlusega) uusimate tehnoloogia arengute valguses. Problemaatiline on
määruse kalduvus lähtuda tehisintellektisüsteemi ühest konkreetsest otstarbest. Näiteks artikkel
8 lõike 2 kohaselt võetakse suure riskiga tehisintellektisüsteemide nõuetele vastavuse tagamisel
arvesse süsteemi sihtotstarvet ning artikkel 9 lõige 2 punkti b kohaselt peab
riskijuhtimissüsteem sisaldama selliste riskide prognoosimist ja hindamist, mis võivad tekkida,
kui süsteemi kasutatakse vastavalt selle sihtotstarbele (aga ka mõistlikult prognoositava
väärkasutamise tingimustes). Juba praegu on uutel süsteemidel (nt Microsoft’i Generative Pre-
trained Transformer 3 (GPT-3)) ühe konkreetse sihtotstarve asemel palju võimalikke ning
sellega tuleks nõuete kehtestamisel ka arvestada.
Määrus on otseselt seotud tooteohutuse raamistikuga ELis. Mõiste „sihtotstarve” (intended
purpose) asemel eelistame kasutusele võtta eeldatava otstarbe (foreseeable use) mõiste, mis
peab sisu poolest hõlmama ka tooteohutusele iseloomuliku eeldatavat väärkasutust (foreseeable
misuse). Kui kasutamine on mõistlikult etteaimatav, ei tohiks toode põhjustada kahju,
olenemata sellest, kas kasutamine vastas esialgsele sihtotstarbele või mitte.
Tulevikukindluse eesmärgil peab olema põhjenduspunkt 50 täiendatud või artikkel 15
tõlgendatud viisil, mis võimaldaks ära hoida ka teisi süsteemi stabiilsusega seotud probleeme
lisaks kallutatud väljundi tekkimise võimalusele tagasisideahelate tõttu. Sageli ei seisne
probleem selles, et väljundeid kasutatakse sisenditena, vaid väljundite kaudses mõjus
tulevastele sisenditele, muuhulgas potentsiaalses tehisintellektisüsteemi nõrkusi
kuritarvitatavas inimkäitumises.
Rakendatavuse ja tõhususe vaatenurgast on problemaatiline ka see, kuidas artiklis 3(33) on
määratletud mõiste „biomeetrilised andmed” (st isiku tuvastamiseks piisavad andmed), kuna
selline määratlus ei ole punktide 34 ja 35 puhul kohane. Emotsioonide äratundmine ja isikute
kategoriseerimine ei nõua seda tüüpi biomeetrilisi andmeid. Seetõttu tuleb mõisteid biometric
categorisation system ja emotion recognition system sisustada viisil, mis ei hõlma artiklis 3(33)
viidatud identifying biometric data.
5.3. Eesti on seisukohal, et õigusselguse saavutamiseks ning määruse ühetaoliseks
rakendamiseks peab kitsamalt piiritlema selliseid määruse I lisas esitatud meetodeid
ja lähenemisviise, mida ei loeta klassikaliselt tehisintellektisüsteemideks, näiteks
statistilisi lähenemisviise, otsingu- ja optimeerimismeetodeid ning mitmeid loogika-
ja teadmistepõhiseid lähenemisviise.
Selgitus: Määruse ühetaolise kohaldamise ja õigusselguse võimaldamiseks on oluline, et
õigusaktis kasutatud mõisted oleksid selgelt piiritletud. Artiklis 3 toodud tehisintellektisüsteemi
mõiste kohaselt on tegu tehisintellektisüsteemiga, kui selline süsteem võib teatavate inimese
kindlaks määratud eesmärkide jaoks luua väljundeid, näiteks sisu, prognoose, soovitusi või
otsuseid, mis mõjutavad keskkondi, millega nad suhtlevad. Tehisintellektisüsteemi
määratlemiseks tuleb määruse artikli 3 punkti 1 kohaselt lähtuda määruse I lisa tehisintellekti
meetoditest ja lähenemisviisidest. Määruse artikkel 3 punktis 1 toodud tehisintellektisüsteemi
definitsioon hõlmab igasugust tarkvara, mis kasutab ka statistilisi lähenemisviise ning otsingu-
ja optimeerimismeetodeid.
Klassikalises mõttes ei loeta kõiki selliseid tarkvarasid, mis on loetletud I lisas,
tehisintellektisüsteemideks (näiteks statistilised lähenemisviisid, otsingu- ja
optimeerimismeetodid). Praegusel kujul sõnastatud definitsiooni korral hakkaks tehisintellekti
määrus reguleerima tarkvarasid, mida nende tarkvarade loojad, omanikud ega kasutajad ise ei
pea põhjendatult tehisintellektideks, sest selline definitsioon hõlmaks suurt osa tarkvaralistest
lahendustest. Selline kõikehõlmav regulatsioon võiks osutuda ootamatuks ja põhjendamatuks
ning seada kahtluse alla kavandatavate muudatuste proportsionaalsuse. Kuna
tehisintellektisüsteemid on loodud täitma inimese määratud eesmärke ning loovad ka
väljundeid, mida kasutatakse nii digitaalses kui ka reaalses maailmas, siis ei kitsenda artiklis 3
toodud tingimus mõiste kohaldamisala piisavalt. Võimalik, et tehisintellektisüsteemi mõiste
oleks otstarbekam sõnastada tehnoloogianeutraalselt, mis on digitaalse ühtse turu üks
olulisemaid väärtusi. Ühes sellega oleks võimalik mõiste sisustuse alt välja jätta ka tarkvarad,
mida ei peeta klassikaliselt tehisintellektisüsteemideks.
Eeltoodust lähtuvalt leiame, et määruses kasutatav tehisintellektisüsteemi määratlus vajab
kitsamat piiritlemist. Liiga lai definitsioon suurendab ka ohtu, et määruse III lisa alusel suure
riskiga tehisintellektisüsteemide määratlemine on praktikas liiga piirav. Täpsustamist vajavad
I lisa punktis b ja c väljatoodud meetodid ning lähenemisviisid, mis meie hinnangul ei määratle
süsteemi tehisintellektisüsteemiks. Näiteks leiame, et määruse I lisa punktis c on väljatoodud
„statistilised lähenemisviisid“ tuleks piiritleda kitsamalt. Lisaks tuleks I lisa punktist c välja
jätta otsingu- ja optimeerimismeetodid, mis on kaetud I lisa punktiga a.
5.4. Toetame määruses põhiõiguste kaitse laia käsitlust, mille rakendamiseks tuleb välja
selgitada vajadus hinnata suure riskiga tehisintellektisüsteemide
riskihindamissüsteemi osana konkreetsetele põhiõigustele avaldavat mõju.
Rõhutame, et inimkeskse ja usaldusväärse, sh põhiõigustega kooskõlas oleva
tehisintellekti arendamisel ja kasutamisel tuleb tagada võrdse kohtlemise põhimõtte
järgimine, samuti pidada silmas laiemat võrdsete võimaluste ja soolise
võrdõiguslikkuse edendamise eesmärki, mis hõlmab ka tehisintellekti kasutavate
lahenduste kaudu sooliste ja muude stereotüüpide leviku aktiivset tõkestamist.
Selgitus: Toetame määruses põhiõiguste kaitse laia käsitlust, millega kehtestatakse nõuded
tagamaks suure riskiga tehisintellektisüsteemide kasutuse kooskõla EL õigusega kaitstud
põhiõigustega, sh EL põhiõiguste hartas (ELPÕH) sätestatud põhiõiguste ja -vabadustega. Kui
seni on eelkõige käsitletud vajadust isikuandmete ja privaatsuse kaitseks
tehisintellektisüsteemide arendamisel ja rakendamisel läbi viia isikuandmete kaitse mõjude
analüüs vastavalt isikuandmete kaitse üldmääruse artiklile 35, on tagaplaanile või tähelepanuta
jäänud teised olulised põhiõigused, nt õigus mittediskrimineerimisele, sõnavabadus,
kogunemisvabadus, ühinemisvabadus, tarbijakaitse ja lapse õigused, mida
tehisintellektisüsteemide kasutus võib negatiivselt mõjutada. Oluline on silmas pidada, et
põhiõiguste rikkumised võivad omakorda negatiivselt mõjutada nii demokraatia toimimist kui
ka õigusriiki, s.o väärtused, mis on kõikidele liikmesriikidele ühised ning millele EL on ELL
artikli 2 kohaselt rajatud. Artikli 9 riskijuhtimissüsteemi, artikli 13 läbipaistvuse ja kasutajate
teavitamise nõuete jt suure riskiga tehisintellektisüsteemidele esitatavate nõuete täitmine eeldab
põhiõigustega seotud riskide kindlakstegemist ja analüüsi, millele viitab laiemalt artikkel 9
lõike 2 punkt a.
Tervitame, et määrus pöörab tähelepanu ka tehisintellektiga seonduvatele võimaliku soo või
muu tunnuse (sh rassiline ja etniline päritolu, vanus, puue, seksuaalne sättumus) tõttu
diskrimineerimise ja laiemalt põhiõiguste rikkumisega seotud riskidele, samuti vajadusele
kasutada representatiivseid andmekogusid, et tagada kõigi sugu, etnilist päritolu ja muid
võimalikke diskrimineerimise aluseid puudutavate asjakohaste aspektide kajastus nendes
andmekogumites. Sellega aidatakse kaasa EL põhiõiguste harta diskrimineerimiskeelu ja
soolise võrdõiguslikkuse põhimõtete rakendamisele tehisintellekti kasutavates lahendustes ning
nende abil. Samuti toetatakse seeläbi eelkõige tööelus ning kaupade-teenuste kättesaadavuse
tagamiseks direktiividega kehtestatud naiste ja meeste ning erinevate vähemusgruppide
esindajate võrdse kohtlemise nõude täitmist.
Näiteks hääl-, näo- jm tuvastusprogrammides tehisintellekti lahenduste kasutamisel on oluline
tagada, et tuvastamise õpetamisel või treenimisel ning testimisel oleksid esindatud võimalikult
paljud erinevad ühiskonnarühmade esindajad, sh naised ja mehed, erineva nahavärviga
inimesed, sest senine praktika näitab, et vastasel juhul töötab lahendus teatud rühmade
esindajate puhul halvemini, mis võib tuua kaasa nende õiguste rikkumise.
Määruses praegusel kujul esitatud riskide hindamise regulatsioon on ühest küljest küll
detailirohke, teisalt ei tarvitse see tagada piisavat selgust ning seeläbi ka soovitud ja vajalikku
tulemust. Regulatsiooni ühetaolise rakendamise tagamiseks ja asjakohase kontrolli
lihtsustamiseks ning ühtlustamiseks võiks olla asjakohane töötada EL tasandil välja ühtne
mudel tehisintellektil põhinevate lahendustega põhiõigustele avaldatava mõju, sh (võimalike)
kaasnevate riskide väljaselgitamiseks. Selline mudel peaks aitama määratleda, millised
põhiõigused on erinevate süsteemide puhul asjakohased, kuidas hinnata nendega seotud riske
ja kuidas tuvastatud riske tuleb maandada. Vajab täpsustamist, kas ja mis ulatuses on
põhiõiguste mõjude analüüs asjakohane määruse II lisas sätestatud suure riskiga
tehisintellektisüsteemide puhul. Näiteks on ebaselge, kas ja kuidas tuleks
tehisintellektisüsteemiga mänguasjade puhul tagada lapse õigusi, sh kaitsta nende vaimset
tervist.
5.5. Eesti toetab lähenemist, mille kohaselt on määruse kohaldamisalast väljas
tehisintellektisüsteemid, mida on arendatud või kasutatakse üksnes sõjalisel
otstarbel. Peame oluliseks erandi säilimist. Toetame, et määruse reguleerimisalast on
väljas ka surmavate autonoomsete relvasüsteemidega seotud küsimused.
Selgitus: Määruse artikkel 2 lõige 3 välistab kohaldamisalast tehisintellektisüsteemid, mida on
arendatud või kasutatakse üksnes sõjalisel otstarbel. See tähendab, et tehisintellektisüsteem,
mida küll ei ole arendatud sõjalisel otstarbel kasutamiseks (ja mida võib-olla algselt on
kasutatud hoopis tsiviilotstarbel), aga mida parasjagu kasutatakse üksnes sõjalisel otstarbel, on
määruse reguleerimisalast väljas. Niisiis on kohaldamisalast väljas süsteem, mida on, kas a)
arendatud või b) kasutatakse ainult militaareesmärkidel. Seda arvestades oleme seisukohal, et
relvasüsteemid kui üksnes militaareesmärkidel arendatud või kasutusel olevad
tehisintellektisüsteemid on määruse kohaldamisalast väljas. Toetame läbirääkimistel sellise
erandi säilimist. Nõustume, et juhul, kui algselt üksnes sõjalisel otstarbel arendatud
tehisintellektisüsteemi kasutatakse edaspidi mingil hetkel tsiviilotstarbel, on sellise süsteemi
tsiviilkasutus määruse reguleerimisalas.
Eesti seisukoht on, et tänane rahvusvaheline õigus kohaldub kõigile relvasüsteemidele ning
seda sõltumata nende autonoomsusest. Ka surmavate autonoomsete relvasüsteemide (LAWS -
Lethal Autonomous Weapons Systems) kasutamine alluks juba kehtivale regulatiivsele
raamistikule ning eelkõige tuleks fookus seada küsimusele, kuidas on võimalik kehtivat
rahvusvahelist õigust LAWS-ile kohaldada tõhusaimal viisil. LAWS-i diskussioonid toimuvad
eelkõige tavarelvade konventsiooni raames. Määruse artikkel 2 lõige 3 välistab määruse
kohaldumise LAWS-ile.
Toetame, et kaitsevaldkonna tehisintellekti lahenduste väljatöötamisel kohalduvad eetilised
põhimõtted töötaks välja NATO. NATO printsiipide järgi peavad tehisintellektisüsteemid
olema kooskõlas kohalduva rahvusvahelise õigusega, mis hõlmab ka rahvusvahelisi inimõigusi.
NATO prioritiseerib tehisintellekti kasutamist kaitsevaldkonnas ning peab seda oluliseks
tehnoloogiaks liitlaste tehnoloogilise ülekaalu säilitamisel. NATO on välja töötamas strateegiat
tehisintellekti kasutuselevõtuks ja arendamiseks ning see katab ka eetilisi põhimõtteid.
5.6. Eesti leiab, et määruse kohaldamisalast peavad olema välistatud
tehisintellektisüsteemid, mida on arendatud või kasutatakse üksnes riigi julgeoleku
tagamise eesmärgil.
Selgitus: Määruse artikkel 2 lõige 3 välistab kohaldamisalast tehisintellektisüsteemid, mida on
arendatud või mida kasutatakse eranditult sõjalisel otstarbel (developed or used exclusively for
military purposes), kuid eelnõu sõnastus ei välista määruse kohaldamisalast julgeolekuasutuste
poolt riigi julgeoleku tagamise eesmärgil kasutatavaid tehisintellektisüsteeme. Euroopa Liidu
Lepingu (ELL) artikkel 4 lõike 2 kohaselt on riigi julgeolek iga liikmesriigi ainuvastutuses.
Peame seepärast vajalikuks määruse kohaldamisalast sõnaselgelt välistada
tehisintellektisüsteemid, mida on arendatud või mida kasutatakse üksnes riigi julgeoleku
tagamise eesmärgil.
Selleks on vaja lisada määruse põhjenduspunktidesse viide ELL artikkel 4 lõike 2
kohaldumisele (ehk asjaolule, et riigi julgeolek on liikmesriigi ainuvastutuses). Samuti on vaja
laiendada määruse artikkel 2 lõike 3 sõnastust, välistades selgesõnaliselt määruse
kohaldumisalast tehisintellektisüsteemid, mida on arendatud või kasutatakse üksnes riigi
julgeoleku tagamise eesmärkidel. Kuna varasemalt on Euroopa Kohus möönnud ELi teisese
õiguse kohaldumise vajadust ka riigi julgeolekuga seotud valdkondades (eelkõige seoses
andmekaitse reeglitega), ei pruugi üksnes „riigi julgeoleku“ termini kasutamisest piisata ja
õigusselguse tagamiseks võib olla vajalik lisada määruse sätetesse konkreetseid välistusi selle
kohta, millises olukorras või millistele süsteemidele määrus ei kohaldu.
5.7. Toetame määruse riskipõhist lähenemisviisi, mille kohaselt tehisintellektisüsteemile
kohaldatavad nõuded sõltuvad süsteemi kasutusviisist ning sellega kaasnevast riskist
põhiõigustele ja ohutusele, tagades seeläbi regulatsiooni proportsionaalsuse. Oleme
seisukohal, et riskitaseme määratlus peab lähtuma konkreetsest kasutusjuhust ja
olema üheselt arusaadav tagamaks määruse ühetaoline rakendatavus.
Selgitus: Toetame komisjoni riskipõhist lähenemist, mis on tulevikukindel viis valdkonna
reguleerimiseks. Sellega seonduvalt toetame ka lähenemist, millega välditakse tehnoloogia
enese reguleerimist ning lähtutakse süsteemi kasutusviisist. Määruses järgitakse riskipõhist
lähenemisviisi, eristades tehisintellekti kasutusviise, mis tekitavad vastuvõetamatu riski, suure
riski ja väikese või minimaalse riski. Teatavad eriti kahjulikud ning liidu väärtustega vastuolus
olevad tehisintellekti kasutusviisid keelustatakse. Määrusega reguleeritakse peamiselt suure
riskiga tehisintellektisüsteeme, mis peavad vastama määruses sätestatud nõuetele ja enne nende
turule laskmist tuleb läbi viia vastavushindamine.
Läbirääkimiste käigus tuleb tagada, et tehisintellekti keelatud kasutusviisid, suure riskiga
tehisintellektisüsteemid ja tehisintellektisüsteemid, millele kohalduvad artikli 52 täiendavad
läbipaistvuskohustused, oleksid määratletud selgelt ja üheselt mõistavalt, et võimaldada
määruse ühetaoline kohaldamine. Määratlused ja kriteeriumid peavad lähtuma
tehisintellektisüsteemide põhjustatavate riskide intensiivsusest ja ulatusest ning nõuded peavad
olema vajalikud, sobivad ja proportsionaalsed konkreetse usaldusväärse tehisintellekti
tagamiseks seatud eesmärgiga. Toetame määruse lähenemist, mille kohaselt riski taset
määratletakse arvestades konkreetse tehisintellektisüsteemi kasutamise konteksti, sh
tehisintellektisüsteemi kasutusvaldkonda, eesmärki ja tehisintellektisüsteemi kaudu või abil
tehtavate otsuste mõju inimeste elule, tervisele ja põhiõigustele.
On oluline, et läbirääkimiste käigus arvestataks ka edaspidi suure riskiga rakenduste
määratlemisel konkreetseid kasutusjuhte ning vältida tuleb olukorda, kus suure riski alla
liigitataks de facto terveid valdkondi. Selline lähenemine oleks vastuolus määruse riskipõhise
lähenemisviisiga ning takistaks reaalset kasu toovate lahenduste arendamist ja kasutamist.
5.8. Toetame tehisintellekti keelatud kasutusviiside käsitlemist määruses. Määruse
sõnastusest peab üheselt selguma, milliseid kasutusviise on alapunktide kirjeldusest
lähtuvalt konkreetselt mõeldud ning kasutusviisi keeld peab olema proportsionaalne.
Selgitus: Määruse eelnõu artiklis 5 käsitletakse tehisintellekti keelatud kasutusviise, mis on
vastuolus selliste liidu väärtustega nagu inimväärikuse austamine, vabadus, võrdsus,
demokraatia ja õigusriik ning liidu põhiõigustega, sh õigusega mittediskrimineerimisele,
andmekaitsele ja privaatsusele, aga ka lapse õigustega. Nendeks on süsteemid, mis
manipuleerivad inimeste käitumisega, et minna mööda kasutajate vabast tahtest; süsteemid, mis
võimaldavad valitsustel anda kodanikele sotsiaalsete näitajate põhjal punkte (nn social credit
systems) ning reaalaja biomeetria kasutamine avalikes kohtades õiguskaitse eesmärgil, välja
arvatud teatud erijuhtudel (nt võimalike kuriteoohvrite otsimine, terroriohu ärahoidmine,
kuriteo toimepanija otsimine).
Läbirääkimiste käigus peab selguma, milliseid kasutusviise on alapunktide kirjeldusest
lähtuvalt konkreetselt mõeldud ja kuidas hinnata kahju, mis need põhjustavad või tõenäoliselt
võivad põhjustada, et selliste kasutusviiside keelamine oleks õigustatud. Lisaks tuleks
täpsustada kahju ulatust, mis õigustaks kasutusviiside keelustamist. Näiteks võib olla
ebaproportsionaalne keelata artikkel 5 lõige 1 punkti a alusel tehisintellektisüsteemi, milles on
küll kasutatud inimese teadvusest kaugemale ulatuvale alalävisele tajule suunatud võtteid, et
oluliselt moonutada isiku käitumist viisil, mis põhjustab või tõenäoliselt põhjustab sellele või
mõnele teisele isikule füüsilist või psühholoogilist kahju olukorras, kus see on minimaalne,
aktsepteeritav ning kooskõlas tervise ja ohutuse kaitse kõrge tasemega. Keeruline on siin
psühholoogilise kahju määratlemine ja tuvastamine, ebaselge on ka „oluliselt moonutama“
mõiste. Analoogiline probleem on sama lõigu punkti b mõistmisel, millega keelustatakse
süsteemid, mis kasutavad ära konkreetse isikute rühma haavatavusi, mis tulenevad nende
vanusest või füüsilise või vaimse tervise häirest, et oluliselt moonutada isiku käitumist viisil,
mis põhjustab või tõenäoliselt põhjustab sellele või mõnele teisele isikule füüsilist või
psühholoogilist kahju. Praegune lai sõnastus raskendab edaspidi määruse ühetaolist
rakendamist.
Lisaks tuleks läbirääkimiste käigus kaaluda, kas tehisintellekti keelatud kasutusviiside hulka
tuleks lisada tehisintellektisüsteemid, mis õigusmõistmisel langetavad otsuseid, mis eeldavad
asjaolude ja tõendite kaalumist või õigusnormide tõlgendamist. Inimväärikuse kaitseks peab
õigusemõistmise raames olema tagatud otsuse materiaalne õiguspärasus ja menetlusnormide
järgimine. Tehisintellektil põhinevad tehnoloogiad ei võimalda vajalikul tasemel tuvastada,
võtta arvesse ning kogumis hinnata faktilisi asjaolusid ning asitõendeid, ega tagada normi
korrektset tõlgendamist ja subsumeerimist. Võttes mh arvesse tehisintellektisüsteemi
otsustusprotsesside läbipaistmatust, on äärmiselt keeruline tagada, et tehtavad otsused ei oleks
diskrimineerivad või ei võtaks arvesse asjaolusid, mis ei tohiks otsuse tegemisel kaalu omada.
Samuti ei võimalda tehisintellektisüsteemi läbipaistmatu ning statistilistel korrelatsioonidel
põhinev kaalutlusotsus tagada menetlusõigusi nagu otsuse põhjendamine, osapoolte
ärakuulamine (ja sellega arvestamine), otsuse (eelkõige selle aluseks oleva põhjenduse)
vaidlustatavus ning kohtuliku kontrolli reaalne teostatavus. Keelatud ei peaks olema
tehisintellektisüsteemi kasutamine juhtudel, kus süsteem ei teosta kaalutlusõigust asjaolude või
asitõendite hindamisel või õigusnormide (sh määratlemata õigusmõistete) tõlgendamisel. See
tähendab mh, et keelatud ei oleks automatiseeritud maksekäsu kiirmenetluse otsused või
automaatsed trahviotsused mootorsõidukiga lubatud sõidukiiruse ületamise eest
kiirusekaamera poolt tuvastatud juhtudel.
5.9. Toetame määruses toodud keeldu tehisintellektisüsteemide turule laskmisele,
kasutusele võtmisele või kasutamisele ametiasutuste poolt või nende nimel, mille
kaudu hinnatakse või liigitatakse isikute usaldusväärsust nende sotsiaalse käitumise
põhjal ühiskondliku reitingu määramise eesmärgil.
Selgitus: Toetame määruse artikkel 5 lõige 1 punktis c määratletud süsteemide ametiasutuste
poolt või nende nimel turule laskmise, kasutusele võtmise või kasutamise keelustamist.
Tegemist on tehisintellektisüsteemidega, mis hindavad või liigitavad inimeste usaldusväärsust
nende sotsiaalse käitumise põhjal (social credit või social scoring). Sellised süsteemid ei ole
kooskõlas demokraatia, õigusriigi põhimõtte ega põhiõigustega.
Eraelu ja isikuandmete kaitse põhiõigust silmas pidades on oluline sõnum keelata tehisintellekti
süsteemide arendamine ja kasutamine avaliku võimu poolt inimeste ühiskondliku reitingu
eesmärgil. Nii eraelu kaitse kui põhiõigus isikuandmete kaitsele teenivad inimväärikuse
põhimõtet, millest lähtuvalt ei tohi inimene olla pidevalt avaliku võimu jälgimise all. Riive
muudab intensiivsemaks asjaolu, kui sellega kaasneb inimese käitumise või isikuomaduste
prognoosimine näiteks näotuvastustehnoloogiate abil. Pideva jälgimise all olevad inimesed
võivad hakata piirama oma vabadusi ja proovida käituda eeldatava normi piires, soovides mitte
silma paista, mis kahjustab inimeste õigust vabale enesemääramisele. See omakorda võib kaasa
tuua ohu demokraatlikule ühiskonnakorrale, mis lähtub fundamentaalselt inimeste vabadusest.
5.10. Leiame, et õiguskaitse eesmärgil avalikult juurdepääsetavas ruumis reaalajas
toimuva biomeetrilise kaugtuvastamise süsteemide kasutamise keelu erandeid tuleb
täiendada viisil, mis võimaldaks ka selliste isikute otsimist, kes ei ole kuriteoohvrid,
kuid kelle elu või tervis võib olla ohus muul põhjusel. Reaalajas tuvastamist lubavate
kuritegude loetelu peab hõlmama ka riigi jaoks olulisi raskeid kuritegusid, näiteks
riigivastaseid kuritegusid. Keelu laiendamine teistele biomeetria kasutusviisidele
peaks toimuma üksnes väga selgelt põhjendatud juhtudel.
Selgitus: Määrusega soovitakse keelata avalikult juurdepääsetavas ruumis reaalajas toimuva
biomeetrilise kaugtuvastamise süsteemide kasutamine õiguskaitse jaoks, välja arvatud juhul,
kui selline kasutamine on vajalik mõnel loetletud eesmärgil – konkreetsete võimalike
kuriteoohvrite sihipärane otsimine, füüsiliste isikute elu või turvalisust ähvardava konkreetse,
suure ja vahetu ohu või terrorirünnaku ärahoidmine või Euroopa vahistamismäärust käsitleva
nõukogu raamotsuses 2002/584/JSK sätestatud raske kuriteo toimepanijate tuvastamine -
selleks vajalikus ulatuses.
Erandid avalikult juurdepääsetavas ruumis reaalajas toimuva biomeetrilise kaugtuvastamise
süsteemide kasutamisele õiguskaitse jaoks vajavad täpsustamist. Tehisintellektisüsteemide
rakendamine „konkreetsete võimalike kuriteoohvrite, kaasa arvatud kadunud laste, sihipärase
otsimise“ eesmärgil vajab täpsemat määratlemist. Praeguses sõnastuses loob säte liiga avara
tõlgendusruumi ja võimaldab liikmesriikidel seda väga ettearvamatutes olukordades kasutada.
Sõltuvalt kuriteo mõiste määratlemisest liikmesriigis võib see hõlmata ka näiteks avalikes
kohtades jälgimist taskuvarguste ohvrite sihipäraseks otsimiseks, avades seega ukse inimeste
totaalseks jälgimiseks tehisintellektisüsteeme rakendades. Võib eeldada, et määruse ettepaneku
koostamisel on olnud eesmärgiks vastupidine, arvestades mh ka komisjoni pidevas praktikas
kujunenud seisukohaga, mille kohaselt peab kõigis EL liikmesriikides olema tagatud
kõrgetasemeline isikuandmete kaitse. Põhiõigust eraelule ja isikuandmete kaitsele tohib piirata
vaid juhul, mil see on vältimatult vajalik. Seetõttu, arvestades mh laste õiguste erilise kaitse
vajadust, tekib küsimus, kas tehisintellektisüsteemi tohib rakendada laste suhtes vaid sel
eesmärgil, kui on alust arvata, et nad on võimalikud kuriteoohvrid. Kaaluda tuleks, kas
„vältimatult vajaliku“ kriteerium on täidetud ka juhul, kui konkreetsete faktiliste asjaolude
pinnal on alust arvata, et eksisteerib vahetu kõrgendatud oht lapse elule (nt suitsiidioht). Sama
küsimus tekib täiendavalt ka täisealiste suhtes. Artikli 5 lõike 1 punktides d ja i loetletud isikute
hulka võiks lisada isikud, kelle suhtes ei ole alust kahtlustada, et tegu on võimalike kuriteo
ohvritega ega lapsega, näiteks kadunud sügava vaimupuudega isikuga, kes on omavoliliselt
lahkunud järelevalvega asutusest, hooldekodust lahkunud isikud jne. Sama punkti alapunkti
(iii) loetelu võib olla liialt piirav, näiteks ei hõlma raamotsuse 2002/584/JSK artikli 2 lõikes 2
sätestatud loetelu riigivastaseid kuritegusid.
Läbirääkimiste käigus tuleks täpsustada artikkel 5 punktis 3 seatud kohustust igakordselt loa
taotlemiseks kohtult või kompetentselt haldusorganilt reaalajas biomeetrilise tuvastuse
kasutamiseks. Praegune sõnastus „each individual use“ võib tekitada vajaduse loa küsimiseks
ühe menetluse raames isiku igakordsel tuvastamisel erinevas asukohas ja kaamerapildis, mis
tekitab suure halduskoormuse. Teeme ettepaneku asendada „each individual use“ väljendiga
„each individual case“.
Nõustume komisjoni pakutud lähenemisega, mis keskendub õiguskaitse eesmärgil toimuvale
biomeetriliste kaugtuvastamise süsteemide kasutamisele avalikult juurdepääsetavas ruumis
(võttes arvesse eelpool toodud vajadust keelu erandeid täiendavalt täpsustada). Peame oluliseks
suhtuda ettevaatlikkusega katsetesse hõlmata tehisintellekti keelatud kasutusviiside alla teisi
biomeetrilise tuvastamise kasutusviise. Keelu laiendamine teistele biomeetria kasutusviisidele
peab toimuma üksnes väga selgelt põhjendatud juhtudel. Biomeetrial põhinevad süsteemid
pakuvad mitmeid positiivseid kasutusjuhte ja võimalusi eri valdkondades, näiteks tervishoius.
5.11. Eesti on seisukohal, et määruses õiguskaitse valdkonnale kehtestatavad piirangud
ei tohi põhjendamatult takistada kriminaalmenetlust ega liikmesriigi võimalusi
kuritegevusevastasel võitlusel. Eelistame õiguskaitseasutuste
tehisintellektisüsteemide kasutamisega seotud küsimuste käsitlemist eraldi
õigusaktis.
Selgitus: Määrus reguleerib tehisintellekti kasutamist kriminaalmenetluse valdkonnas ning
välja pakutud regulatsioon võib seada kuritegevuse vastasele võitlusele liialt ranged piirangud.
Liidu tasemel sätestatud tehnoloogia kasutamist käsitlevad piirangud ei tohi mingil moel saada
liikmesriigile takistuseks mistahes kuritegevusega võitlemisel. Kriminaalmenetlust võib
mõjutada artikkel 6 lõikes 2 ja lisa III punktis 6 osutatud õiguskaitse valdkonnas kasutatavate
tehisintellektisüsteemide liigitamine suure riskiga tehisintellektisüsteemideks, millele
esitatakse artiklites 8-15 sätestatud nõuded.
Läbirääkimiste käigus tuleks kaaluda õiguskaitseasutustele tehisintellekti osas eraldi õigusakti
loomist nagu tehti isikuandmete kaitse üldmäärusega. Liikmesriikide poolt rakendatavad
siseriiklikud kuritegevusega võitlemise meetmed on tihedalt seotud asjaomase liikmesriigi
siseriiklike väljakutsetega ja nendega seotud kriminaalpoliitilistest eesmärkidest. Üldjuhul
peaks kriminaalmenetlust puudutava regulatsiooni ühtlustamine toimuma ELTL artiklis 82
sätestatud alustel ning arvestades ka artikkel 82 lõikes 3 sätestatud riigi karistusõigussüsteemi
erilise kaitse põhimõtteid. Pöörame tähelepanu, et õiguskaitseasutusi reguleerivate liiduüleste
õigusaktide väljatöötamisel, seda eriti õiguskaitseasutusi puudutavas osas, peab jätkuma
Euroopa Liidu senine suund jätta liikmesriikidele võimalikult avar otsustusõigus määrata, mis
juhtudel, ulatuses ja viisil kasutada kriminaalmenetluses tehnoloogilisi võimalusi.
Määrus sisaldab loomult kriminaalmenetluslike ja karistusõiguslike sätteid, ilma et need
põhineksid vastavalt EL toimimise lepingu artiklitele 82 ja 83, vaid üksnes artiklile 16.
Kriminaalmenetlust võib mõjutada artikkel 6 lõikes 2 ja lisa III punktis 6 osutatud õiguskaitse
valdkonnas kasutatavate tehisintellektisüsteemide liigitamine suure riskiga
tehisintellektisüsteemideks, millele esitatakse artiklites 8-15 sätestatud nõuded. Liikmesriikide
poolt rakendatavad siseriiklikud kuritegevusega võitlemise meetmed on tihedalt seotud
asjaomase liikmesriigi siseriiklike väljakutsetega ja nendega seotud kriminaalpoliitilistest
eesmärkidest. Määruse meetmeid on kohati keeruline eristada kriminaalmenetlusõiguslikest
meetmetest, mille ühtlustamine peaks üldjuhul peaks EL toimimise lepingu artiklis 82
sätestatud alustel ning arvestades ka artikkel 82 lõikes 3 sätestatud riigi karistusõigussüsteemi
erilise kaitse põhimõtteid. Pöörame tähelepanu, et õiguskaitseasutusi reguleerivate liiduüleste
õigusaktide väljatöötamisel, seda eriti õiguskaitseasutusi puudutavas osas, peab jätkuma
Euroopa Liidu senine suund jätta liikmesriikidele võimalikult avar otsustusõigus määrata, mis
juhtudel, ulatuses ja viisil kasutada kriminaalmenetluses tehnoloogilisi võimalusi. Eelnevale
tuginedes on käesolevas määruses toodud õiguskaitseasutusi puudutav regulatsioon kitsendav
ning võib oluliselt kahjustada kriminaalmenetluse valdkonda, sealhulgas kuritegevuse vastast
võitlust.
5.12. Peame oluliseks, et suure riskiga tehisintellektisüsteemidele esitatavad nõuded ja
suure riskiga tehisintellektisüsteemide pakkujate kohustused tagaksid
usaldusväärsete tehisintellektisüsteemide arendamise ja kasutamise EL-is, ilma et see
ebaproportsionaalselt pärsiks innovatsiooni, takistaks tehisintellekti kasutuselevõttu
või rikuks ettevõtjate õigusi ning vabadusi.
Selgitus: Määruse eesmärk on tagada, et turule lastavad ja kasutatavad tehisintellektisüsteemid
on ohutud ja kooskõlas põhiõigusi käsitleva õigusega ning liidu väärtustega, ning tagada
õiguskindlus tehisintellekti tehtavate investeeringute ja innovatsiooni soodustamiseks. Valdav
osa määrusega kehtestatavaid nõudeid kohalduvad üksnes suure riskiga
tehisintellektisüsteemidele, tagades seeläbi regulatiivse sekkumise sihipärasuse. Peame
oluliseks tagada meetmete proportsionaalsus tugevdamaks Euroopa tehisintellekti valdkonna
konkurentsivõimet ning tagamaks EL digikümnendi eesmärkide saavutamise, kus on mh seatud
eesmärk tehisintellekti kasutuselevõtule ettevõtetes ja ühiskonnas laiemalt. Määrus peab
tagama, et suure riskiga tehisintellektisüsteemidele kohalduvad läbipaistvuskohustused oleksid
tasakaalus ärisaladuse kaitse õigusega ega rikuks tehisintellekti pakkujate
intellektuaalomandiõigusi. Määruse artikkel 13 lõike 3 loetelu tundub seda tasakaalu
saavutavat, kuid läbirääkimiste käigus tuleks eeltoodu valguses jälgida, et ei tekiks olukord, kus
tehisintellekti pakkuja peab avaldama algoritmi treeningandmestiku või muud ärisaladuse
kaitsega hõlmatud informatsiooni (v.a ulatuses, milles see on õigustatud kasutajate õiguste
kaitseks). Artiklis 11 nimetatud tehnilisele dokumentatsioonile ligipääsuõiguse andmisel
regulatsiooni rakendajale või muudele õigustatud asutustele peab olema tagatud, et vastavatele
asutustele kohalduksid asjakohased ja tõhusad konfidentsiaalsusmeetmed.
Määruse artikkel 17 lõike 2 kohaselt peab kvaliteedijuhtimissüsteemi rakendamine olema
proportsionaalne pakkuja organisatsiooni suurusega. Artikkel 30 lõike 8 kohaselt peavad
teavitatavad asutused tagama, et vastavushindamine toimuks proportsionaalsel viisil, võttes
nõuetekohaselt arvesse ettevõtja suurust, tegutsemisvaldkonda ja struktuuri. Määruses toodud
kohustuste puhul võtta meetmete määramisel arvesse ettevõtte suurust ja võimekust ei ole
piisavalt selge, millistel juhtudel ja milliste kohustuste täitmisest võib ettevõtted vabastada. Nii
ei taga antud sätted ettevõtjatele vajalikku õigusselgust ja õiguskindlust ning võivad kaasa tuua
ettevõtete ebavõrdse kohtlemise, kahjustades konkurentsi. Ühtlasi pole nõuete kontrollijatele
selge, milliste nõuete kontrollimisest on võimalik loobuda, mistõttu võivad nad nõuda määruse
täitmise tagamiseks pigem rangelt kõikide nõuete järgimist. Selle olukorra vältimiseks on
vajalik täpsustada, millisel juhul on kohustuste täitmisest võimalik vabastada.
Tervitame dokumentide säilitamise nõuet, kuid tuleb selgitada, kas artiklis 50 sätestatud nõue
dokumente säilitada kümneks aastaks on piisav arvestades nõuete esitamise aegumistähtaegu
ning lubamaks nõuete esitamist, kui kahju tervisele või põhiõigustele ilmneb hiljem. Toetame
ka artiklis 51 sätestatud kohustust enne suure riskiga tehisintellektisüsteemi turule laskmist või
kasutusele võtmist süsteem registreerida artiklis 60 osutatud ELi andmebaasis. Artikli 60
kohaselt on tegemist üldsusele juurdepääsetava andmebaasiga, mis tagab selle, et igaühel on
võimalus saada teavet suure riskiga tehisintellektisüsteemide kohta, mida EL-is võidakse
rakendada. Toetame tehisintellektisüsteemi pakkujate kohustust teatada tõsistest intsidentidest,
mille puhul on tegu põhiõiguste kaitseks mõeldud liidu õiguse kohaste kohustuste rikkumisega,
nende liikmesriikide turujärelevalveasutustele, kus intsident või rikkumine aset leidis. Määrus
peab tagama, et pakkujatel on huvi intsidentidest teavitada ja mitte sellest nõudest kõrvale
hiilida. Määruses sätestatud nõue, et riskijuhtimissüsteemi rakendamisel pööratakse erilist
tähelepanu sellele, kas on tõenäoline, et suure riskiga tehisintellektisüsteemile pääsevad juurde
lapsed või et see mõjutab lapsi, on arusaadava ja teretulnud eesmärgiga. Samas on ebaselge,
mida peab reaalselt sellest nõudest tulenevalt teisiti tegema.
Ühtlasi tuleb läbirääkimiste käigus selgitada, miks ei rakendu kolmanda isiku poolt tehtud
vastavushindamise nõue kõigile suure riskiga tehisintellektisüsteemidele (III lisas toodud
süsteemidele). Tõhususe vaatenurgast on oluline, et läbirääkimistel pöörataks tähelepanu
asjaolule, et pakkuja ja tema kliendi huvide vahel võib olla suure riski tehisintellektisüsteemide
vastavushindamise puhul konflikt: isik, kes peaks hindama toote vastavust eeskirjadele, on
ühtlasi huvitatud süsteemi võimalikult kiirest ELi turule toomisest (artikkel 43). Võib eeldada,
et sõltumatult kontrollitud toodete vastavus ja ohutus on kõrgemad kui tootja enda
vastavusdeklaratsioonil põhinevate lahenduste puhul. Samas tunnetame riski, et kolmandate
osapoolte vastavushindamine võib tähendada ebaproportsionaalset kulutuste suurenemist ja
piirata tehisintellekti süsteemide turule ligipääsu.
5.13. Leiame, et suure riskiga tehisintellektisüsteemidele kohaldatavad andmete ja
andmehalduse ning tehisintellektisüsteemi turult kõrvaldamise nõuded peavad olema
praktikas rakendatavad. Toetame määruse eelnõus sisalduvat logimise nõuet, kuid
tunnustatud standarditele vastavuse nõude kehtestamisel tuleb tagada vastavate
valdkondlike standardite olemasolu.
Selgitus: Praeguses sõnastuses sisaldab määruse eelnõu artikkel 10 lõige 3 nõuet, mille kohaselt
peavad treenimis-, valideerimis- ja testimisandmestikud olema asjakohased, representatiivsed,
vigadeta ja täielikud. Andmete kvaliteet on küll väga oluline, kuid selliselt sõnastatud nõude
täitmine ei ole praktikas võimalik ega realistlik, mistõttu tuleb kõnealuse artikli sõnastust
läbirääkimiste käigus täpsustada. Lisaks on eelnõus jäetud tähelepanuta asjaolu, et
tehisintellektisüsteemide võimalik kallutatus ei tulene ainult nende treenimisandmestikest.
Tehisintellektidele võib kallutatus tekkida ka valest sisendist või tehnilistest piirangutest.
Määruses tuleks sätestada ka meetmed, mille eesmärk on ära hoida muu kallutatuse tekkimist.
Artikkel 12 lõige 1 sisaldab nõuet, et suure riskiga süsteemide puhul peavad olema logid
salvestatud ning logimisvõime peab vastama tunnustatud standarditele või ühtsetele
kirjeldustele. Tervitame antud nõuet, kuid peame vajalikuks täpsustada, mida mõeldakse
tunnustatud standardi ning ühtse kirjelduse all. Juhime ka tähelepanu, et ühtseid standardeid ei
eksisteeri täna kõigis valdkondades. Samas vajavad selgitamist teised nõuded, näiteks
võrdlusandmebaasi kasutamine sisendandmete võrdlemiseks ning sisendandmete salvestamine
logidesse. Viimasel juhul tuleb arvestada, et andmeid ei säilitataks, kui andmetöötluse eesmärk
on täidetud. On oluline märkida, et isegi tunnustatud ja ajas ära proovitud meetmed ei pruugi
sobida otsesele ülekandmisele tehisintellektisüsteemi reguleerimise konteksti ning võivad
vajada määruse tõhusa rakendamise jaoks täiendavad kohendamist. Näiteks kasutatakse
määruse ingliskeelses versioonis tehisintellektisüsteemi turult kõrvaldamise puhul (nt artikkel
67) sõna „recall“. Tehniliselt ei pruugi selline sõnavalik olla tarkvara puhul korrektne ning
nõue praktikas täidetav. Sama eesmärki võib tõhusamalt saavutada hoopis kohustusega
süsteemi viivitamatult ning kaugjuhtimise teel desaktiveerida.
5.14. Peame oluliseks tagada suure riskiga tehisintellektisüsteemide inimjärelevalve
selliselt, et kogu tehisintellektisüsteemi elutsükli jooksul jälgitakse süsteemi toimimist
selleks, et ära hoida tervist, ohutust või põhiõigusi ähvardavaid riske. Inimjärelevalve
kohustus peab olema proportsionaalne, sh ei tohi põhjendamatult piirata võimalust
kasutada tehisintellektisüsteeme automaatotsuste tegemiseks.
Selgitus: määruse artikkel 14 seab kohustuse projekteerida ja arendada suure riskiga
tehisintellektisüsteemid selliselt, et füüsilised isikud saaksid teha tehisintellektisüsteemi
kasutamise ajal selle üle reaalset järelevalvet. Tehisintellektisüsteemide inimjärelevalve osas
on võimalik eristada eri lähenemisi, kus inimese poolt reaalselt teostatava järelevalve ulatus
varieerub14. Inimsekkumise põhimõttel (human on the loop) toimuv inimjärelevalve tähendab,
et inimene saab jälgida süsteemi tööd ning selle igal hetkel enda kontrolli alla võtta. Inimosaluse
põhimõttel (human in the loop) toimuv järelevalve tähendab, et inimene saab sekkuda süsteemi
igas otsustustsüklis, kui selleks tekib vajadus, näiteks olukorras, kus otsuse täpsus ei vasta
seatud tingimustele. Samas, paljudel juhtudel pole see võimalik ega ka soovitav rakendada.
Inimjuhitavuse põhimõttel (human in command) toimuv inimjärelevalve tähendab, et juhtida
saab tehisintellektisüsteemi kogu tegevust (sealhulgas selle laiemat majanduslikku,
ühiskondlikku, õiguslikku ja eetilist mõju) ning võimekust otsustada, millal ja kuidas süsteemi
mis tahes konkreetses olukorras kasutada. See võib sisaldada otsust tehisintellekti süsteemi
teatud olukorras mitte kasutada, määrata kindlaks inimese kaalutlusõiguse tasemed süsteemi
kasutamise ajal või tagada võimalus süsteemi tehtud otsus tühistada.
Peame oluliseks tagada suure riskiga tehisintellektisüsteemide inimjärelevalve selliselt, et kogu
tehisintellektisüsteemi elutsükli jooksul jälgitaks süsteemi toimimist. Inimjärelevalve on
usaldusväärse tehisintellekti üks seitsmest põhinõudest. Seejuures peab suure riskiga
tehisintellektisüsteemidele kohalduv inimjärelevalve kohustus olema proportsionaalne ning
lähtuma konkreetsetest asjaoludest ja kasutusjuhust. Seetõttu toetame määruse lähenemist, mis
seab eesmärgid inimjärelevalvele kuid jätab määratletud eesmärkide saavutamiseks
konkreetsete meetmete valiku tehisintellekti pakkujale, arvestades konkreetset olukorda,
eelkõige riske, mis võivad tekkida konkreetse suure riskiga tehisintellektisüsteemi kasutamisel.
Näiteks ei ole inimosaluse põhimõttel (human in the loop) toimuva järelevalve meede alati
vajalik, sobilik ega proportsionaalne. Olenevalt olukorrast võib reealseks järelevalveks olla
sobiv süsteemi toimimise logimine, mis võimaldab süsteemi riske, kõrvalekaldeid ja probleeme
14
https://www.europarl.europa.eu/meetdocs/2014_2019/plmrep/COMMITTEES/JURI/DV/2019/11-06/Ethics-
guidelines-AI_ET.pdf
tuvastada ja neile asjakohaselt reageerida. Enamikel juhtudel võib olla proportsionaalne
inimsekkumise (human on the loop) põhimõttel toimiv lähenemine.
Automatiseerimine ja automaatsed otsused ei ole iseenesest probleemsed, mistõttu ei tohi
määrusega kehtestatav inimjärelevalve kohustus põhjendamatult piirata võimalust kasutada
tehisintellektisüsteeme automaatotsuste tegemiseks. Nõuded tehisintellektisüsteemi väljundi
kasutamiseks või kontrollimiseks inimese poolt peavad olema põhjendatud ja
proportsionaalsed.
5.15. Leiame, et suure riskiga tehisintellektisüsteemide tõsistest intsidentidest ja
tõrgetest teavitamise tähtaega tuleks lühendada kolme päevani. Lisaks tuleb
õigusselguse huvides selgemalt piiritleda, millistele intsidentidele ja tõrgetele
teavitamise kohustus laieneb.
Selgitus: määruse artiklis 62 kehtestatakse suure riskiga tehisintellektisüsteemide pakkujatele
kohustus teavitada igast tõsisest intsidendist või tõrkest, mille puhul on tegu põhiõiguste
kaitseks mõeldud liidu õiguse kohaste kohustuste rikkumisega, nende liikmesriikide
turujärelevalveasutustele, kus intsident või rikkumine aset leidis. Määruse järgi võib intsident
avaldada mõju ka põhiõigustele, sh isikuandmete kaitsele, mistõttu tuleks teavitamise aega
lühendada kolme päevani analoogselt isikuandmete kaitse üldmääruses toodule, kus
sätestatakse kohustus teavitada isikuandmetega seotud rikkumisest järelevalveasutuselt
põhjendamatu viivituseta ja võimaluse korral 72 tunni jooksul pärast sellest teada saamist.
Ühtlasi tuleks määruses täpsustada, mis on tõsine intsident ning talitushäired, mille kohta tuleb
määruse artikkel 62 kohaselt raporteid esitada. Tõsine intsident on artikkel 3 punktis 44
defineeritud selgete tagajärgedega (juhtum, mis otseselt või kaudselt põhjustab, võis põhjustada
või võib põhjustada inimese surma või tõsise kahju tervisele, varale või keskkonnale; elutähtsa
taristu juhtimise ja käitamise tõsise ja pöördumatu katkemise). Määramatust põhjustab
siinkohal „võib põhjustada“ hõlmamine ning seda tuleks näiteks põhjenduspunktides rohkem
avada.
Sarnaselt toote ohutuse valdkonnale oleks meie arvamusel määruse rakendamise tõhususe
tagamiseks oluline koondada teavet rikkumiste ja õnnetusjuhtumite kohta EL tasandil.
Analoogselt tooteohutuse õigusaktides kasutatud lähenemisele eelistame Komisjonile
täiendavate kohustuste lisamist toetamaks suutlikkust seda teavet analüüsida, et sarnaselt
turujärelevalve valdkonnaga avastada makrotrende ja vajadusel välja töötada vajalikke
meetmeid.
5.16. Leiame, et määruses vajab täpsemat kirjeldamist, millistele õigusmõistmise ja
demokraatlike protsesside valdkonda kuuluvatele süsteemidele laienevad suure
riskiga süsteemidele kohalduvad nõuded. Eelkõige vajab defineerimist mõiste
„õigusasutus“ ja välistada ei tohiks selliseid süsteeme, mida kasutatakse ressursside
jaotamiseks ja mis võivad mõjutada isikute juurdepääsu õigusemõistmisele või õigust
õiglasele kohtupidamisele.
Selgitus: määruse III lisa punkti 8 kohaselt kuuluvad suure riskiga tehisintellektisüsteemide
hulka õigusemõistmise ja demokraatlike protsesside valdkonnas kasutatavad
tehisintellektisüsteemid, mis on mõeldud abistama õigusasutusi faktide ja seadustega
tutvumisel ja nende tõlgendamisel ning õiguse rakendamisel konkreetse faktide kogumi suhtes.
Leiame, et määruse III lisa punkt 8 vajab läbirääkimiste käigus täpsustamist. Ettepaneku
põhiteksti kohaselt on tegemist tehisintellektisüsteemidega, mis on mõeldud abistama
õigusasutusi faktide ja seadustega tutvumisel ja nende tõlgendamisel ning õiguse rakendamisel
konkreetse faktide kogumi suhtes. Sõnastusest ei selgu aga üheselt, milliseid õigusmõistmise
valdkonnas kasutatavaid tehisintellektisüsteeme silmas peetakse. Põhjenduspunktis 40 tehakse
vahet õigusemõistmise ja demokraatlike protsesside jaoks mõeldud tehisintellektisüsteemide
korral suure riskiga süsteemide ning selliste süsteemide vahel, mis on mõeldud puhtalt
halduslikeks abitegevusteks, ehk mis ei mõjuta tegelikku õigusemõistmist konkreetsetel
juhtudel, nagu kohtuotsuste, dokumentide või andmete anonüümimine või pseudonüümimine,
töötajate vaheline suhtlus, haldusülesanded või ressursside jaotamine. Selles loetelus on mõneti
küsitavad tehisintellektisüsteemid, mida võidakse kasutatakse ressursside jaotamiseks
kohtuasjade jagamise kaudu, mis võib mõjutada isikute õigest õiglasele kohtupidamisele.
Määratlus katab tehisintellektisüsteeme, mis on mõeldud õigusasutusi õiguse rakendamisel
abistama, kuid ebaselgeks jääb, kas on mõeldud ka süsteeme, mis õigust ise rakendaksid ehk
siis otsuseid ise toodaksid. Ka mõiste „õigusasutusi“ on määratlemata ja vajab piiritlemist.
5.17. Toetame läbipaistvuskohustuste kehtestamist teatavate tehisintellektisüsteemide
puhul, mis on mõeldud füüsiliste isikutega suhtlema või mis on emotsioonide
tuvastamise või biomeetrilise liigitamise süsteemid. Toetame ka kohustust
süvavõltsingu puhul avaldada, et sisu on kunstlikud loodud või seda on
manipuleeritud. Samas peame oluliseks, et teavitamise nõuded ja väljendusvabaduse,
kunsti ja teaduse vabaduse õiguste teostamiseks kehtestatud erandid oleksid
asjakohased ja proportsionaalsed.
Selgitus: Määruse artikkel 52 sätestab läbipaistvuskohustused teatavate
tehisintellektisüsteemide puhul, näiteks tuleb juturoboti kasutamise korral inimest teavitada, et
ta suhtleb tehisintellektisüsteemiga. EL põhiõiguste harta kohaselt on inimväärikus mitte ainult
kõikide põhiõiguste aluseks, vaid ka põhiõigus iseenesest. Inimväärikuse kaitse nõuab, et
inimene ei tohi muutmuda tehnoloogia objektiks, mh tähendab see, et inimesel peab olema
õigus teada, et ta suhtleb tehisintellektisüsteemiga või tema õiguste teostamist mõjutab
tehisintellektisüsteemi kasutus.
Selgitamist vajab, millal on ettepaneku kohaselt vajalik EL põhiõiguste hartaga tagatud
väljendusvabaduse ja kunsti ja teaduse vabaduse õiguse teostamiseks süvavõltsingut kasutada,
mis vabastab kohustusest avaldada, et sisu on kunstlikult loodud või seda on manipuleeritud,
tingimusel, et kolmandate isikute õiguste ja vabaduste kaitseks kohaldatakse asjakohaseid
kaitsemeetmeid. Tuleb täiendavalt analüüsida, kas väljendusvabaduse ja kunsti ning teaduse
vabaduse õiguse teostamiseks on erand vajalik, sobiv ja proportsionaalne. Seletuskirjast ega
põhjenduspunktidest ei selgu, millise riski või probleemi maandamiseks on erand sätestatud.
Selgitust vajab lisaks, millised on süvavõltsingu kasutamisel asjakohased kaitsemeetmed ning
millistel juhtudel ei ole tarvis süvavõltsingu kasutamisest teavitada. Teavitamise nõue ei pruugi
olla asjakohane, kui näiteks inimene saab kontekstist niigi aru, et tegemist on süvavõltsinguga
või et inimene suhtleb tehisintellektisüsteemiga. Lisaks tuleks kaaluda artikli täiendamist
selliselt, et käsitletud oleks sünteetilise meedia teisi väljundeid, näiteks oleks käsitletud
kohustus tehisintellekti loodud sisu või teose esitamisel avaldada, et teos on loodud
tehisintellekti poolt.
5.18. Oleme seisukohal, et tehisintellekti regulatsiooni testkeskkonnas osalemine peab
olema vabatahtlik ning testkeskkonnas tehisintellektisüsteemide arendamisel
avalikes huvides peab olema võimalik kaasata ka kolmandaid osapooli, sh ettevõtteid.
Toetame, et määruse kohaldamisalast on välistatud tehisintellekti lahenduste
testkeskused, mis on loodud sõjalise või riigi julgeoleku tagamise eesmärgil
kasutatavate tehisintellektisüsteemide arendamiseks.
Selgitus: Määruse artikkel 53 kohaselt on tehisintellekti regulatsiooni testkeskkonna näol
tegemist kontrollitud keskkonnaga, mis hõlbustab innovatiivsete tehisintellektisüsteemide
arendamist, testimist ja valideerimist piiratud aja jooksul enne nende turule laskmist või
kasutusele võtmist konkreetse kava kohaselt. Testkeskkonnad on Euroopa innovatsiooni ja
majandusarengu toetamiseks kriitilise tähtsusega, võimaldades luua väikestele idufirmadele
tingimusi arendamaks rakendusi tihedas koostöös järelevalveasutustega ja karistusi kartmata.
Ilma testkeskkonnata ei pruugi juriidiliste osakondadeta väikesed tehisintellektiga tegelevad
ettevõtted saada tulevase määruse rakendamisega korralikult hakkama. Samuti on tõenäoline,
et erinevad liikmesriigid lähenevad testkeskkondade loomisele erinevalt, mis võib põhjustada
praktilisi raskusi mitmes liikmesriigis tegelevatele ettevõttele. Eksisteerib ka oht, et konkreetses
liikmesriigis võib vajalik kompetents või ressurss puududa, mis võib negatiivselt mõjutada
kättesaadava testkeskkonna kvaliteeti. Alternatiivina soovitame kaaluda üleeuroopaliselt
kättesaadava testkeskkonna rajamist. Ühtlasi tuleks välja töötada konkreetsed ja tõhusad
meetmed, millega innustada VKEsid testkeskkondi kasutama. Samas pole testkeskkondadel
võimalik toetada kõiki suure riskiga tehisintellektisüsteeme arendavaid idufirmasid ja
väikeettevõtteid. Nii tuleb nõuete kehtestamisel arvesse võtta, et nõuded oleksid idufirmadele
ja väikeettevõtetele proportsionaalsed ja praktiliselt rakendatavad ega piiraks õigustamatult
nende konkurentsivõimet, muutes suure riskiga tehisintellektisüsteemide arendamise
jõukohaseks üksnes suurtele ettevõtetele.
Siseriiklikult korraldatud testkeskkondade puhul toetame tehisintellekti regulatsiooni
testkeskkondade nõuete kehtestamist, et hõlbustada innovatiivsete tehisintellektisüsteemide
arendamist kontrollitud keskkonnas, liikmesriigi pädevate asutuste otsese järelevalve ja
juhendamise all, et oleks tagatud kooskõla määruse nõuetega ja vajaduse korral muude
testkeskkonnas jälgitavate liidu ja liikmesriikide õigusaktidega. Oluline on isikuandmete
kaitseks seostada riiklikud andmekaitseasutused testkeskkonnaga. Nõustume nõuetega mujal
seaduslikult kogutud isikuandmete töötlemiseks testkeskkonnas teatavate innovatiivsete
tehisintellektisüsteemide arendamiseks ja testimiseks.
Leiame, et artiklis 53 oleks vaja selgemini määratleda tehisintellekti regulatsiooni
testkeskkonna mõiste. Hetkel ei ole arusaadav, kas tegemist on koostöövormiga, füüsilise
keskkonnaga või muuga, ei ole ka selge, kas või millised on nõuded selliste keskkondade
tunnustamiseks, et neile oleks kohaldatavad määruse vastavad erinormid. Määruse artiklist 53
jääb ebaselgeks, kas nimetatud testkeskkondades osalemine on vabatahtlik. Selline kohustus
muudaks tehisintellektisüsteemide arendamise ja turule jõudmise protsessi ebavajalikult pikaks
ning seetõttu ei tohiks vastavat kohustust tekitada. Jääb ka ebaselgeks, mida mõeldakse
“innovatiivsete tehisintellektisüsteemide” all ning mis põhjusel on sellised
tehisintellektisüsteemid eraldi välja toodud. Määrusest jääb arusaamatuks ka see, mis kujul
hinnatakse testkeskkonna abil selliseid individuaalseid ja raskesti hindavaid nähtusi nagu
näiteks füüsilisele isikule tekitatud psühholoogiline kahju. Ühtlasi tuleks täpsustada, kas ja
kuidas saavad testkeskkondi kasutada teadusasutused.
Määruse artiklis 54 reguleeritakse isikuandmete töötlemist testkeskkonnas teatavate
tehisintellektisüsteemide arendamiseks avalikes huvides. Lõige 1 punkti e kohaselt ei tohi
töödeldud isikuandmeid edastada ega üle anda ning need ei tohi olla teistele isikutele muul moel
kättesaadavad. Nimetatud norm oleks väikeriikidele nagu Eesti väga koormav seoses
kvalifitseeritud tööjõu nappusega riigisektoris. Siseriiklikult viiakse täna enamik projekte ellu
era- ja avaliku sektori koostöös ning selline nõue tooks kaasa märgatava avaliku sektori kulude
kasvu ja vajaduse leida vahendeid baaseelarvesse. Seetõttu leiame, et määrus peaks lubama
arendustesse kaasata ka kolmandaid osapooli. Sama lõike alapunkti b sõnastuses tuuakse eraldi
välja tulemuslikkuse indikaator, mis vajab omakorda täpsuse ja piisavuse hindamise mudelit
või kriteeriume, mistõttu tasub kaaluda „tulemuslikkuse“ asemel „põhjendatud juhtudel“
lisamist.
Eesti peab kaitsevaldkonnas selliste testkeskuste arendamist vajalikuks ja perspektiivikaks,
kuna see võimaldab arendada sõjalise ja riigi julgeoleku tagamiseks vajalikke
tehisintellektisüsteeme ning liitlassuhteid. Seepärast toetame õigusselguse huvides lisaks
üldisele erandile ka sõjalise ja riigi julgeoleku tagamiseks vajalike arenduste tehisintellekti
testkeskuste sõnaselget välistamist määruse kohaldamisalast.
5.19. Eesti leiab, et määrus peab jätma liikmesriikidele õiguse valida ise sobilik
sanktsioonitüüp. Sanktsioonimäärad peavad olema kooskõlas Euroopa Liidu
põhiõiguste harta artikliga 49. Määruses tuleb karistuste sätestamisel lähtuda ultima
ratio põhimõttest.
Selgitus: määruse artikkel 71 kohustab liikmesriike sätestama rikkumiste eest karistused, kaasa
arvatud haldustrahvid (administrative fine), mida kohaldatakse määruse rikkumise korral.
Haldustrahv annab mõista, et selline trahv määratakse haldusmenetluses. Liikmesriikidele ei
jäta sanktsiooniliigi osas valikut ka määruse ettepaneku artikli 71 lõige 8, mis ütleb, et olenevalt
liikmesriikide õigussüsteemist võib haldustrahve käsitlevaid õigusnorme kohaldada selliselt, et
trahve määravad riigi pädevad kohtud või muud asutused, nii nagu neis liikmesriikides
asjakohane. Määruse artikkel 71 lõige 8 puudutab haldustrahvi määravat asutust. Sellest ei
tulene aga selget võimalust valida sanktsiooniliigiks näiteks süüteomenetlus.
Eesti on seisukohal, et sanktsioonisüsteemide osas peab liikmesriikidel säilima ulatuslik
kaalutlusõigus ning väljaspool ELTL artiklis 83 sätestatud alust ei tohiks õigusaktid teha
ettekirjutusi sanktsiooni tüübi ega liigi, samuti sanktsiooni, kohta ning jätma liikmesriikidele
piisava paindlikkuse, et leida enda sanktsioonisüsteemi sobituv lahendus. Samuti peaks
liikmesriikidele jääma paindlikkus sanktsioneerida vaid teatud raskemaid rikkumisi (ultima
ratio põhimõte), st iga rikkumine ei pea olema kohustuslikus korras karistatav. Määruses
kohustatakse füüsilistele isikutele sätestama kuni 30 000 000 euro suurusi rahatrahve. Tegemist
on ühemõtteliselt karistusõigusliku iseloomuga regulatsiooniga, mille puhul peaks õiguslikuks
aluseks olema ELTL artikkel 83 ning sealjuures peaks liikmesriigil olema võimalus kasutada
ELTL artikli 83 lõikes 3 sätestatud nn hädapiduri õigust. Üks lahendus oleks sätestada
sanktsioonid sarnaselt masinamääruse ettepanekule, mis jätab liikmesriikidele vabaduse
sanktsioonitüübi valikul.
Lisaks eeltoodud probleemkohtadele väärib märkimist seegi, et määruse ettepaneku kohaselt
peavad liikmesriigid sätestama 30 000 000 euro suuruse ülemmääraga rahatrahve ilma (selge)
võimaluseta rahatrahvi ülemmäärasid diferentseerida või seada ülemmäära sõltuvusse näiteks
füüsilise isiku sissetulekust. Kuigi määrus sätestab võimaluse juriidiliste isikute puhul lähtuda
nende käibest, siis seda üksnes siis, kui käibe põhjal arvutatav ülemmäär ületaks 30 000 000
eurot (seega juriidilisele isikule kahjulikus suunas). Kuigi mõistetavalt (ja kooskõlas määruse
ettepaneku artikkel 71 lõikega 6) võib konkreetse trahvi määramisel võtta arvesse erinevaid
asjaolusid, siis on selline regulatsioon ilmselt vastuolus Euroopa Liidu põhiõiguste harta
artikkel 49 lõikest 1 tuleneva karistusõiguse määratletuse põhimõttega, mille kohaselt peaks
isikule olema ettenähtav nii see, milline käitumine on karistatav, kui ka sellega kaasneda võiv
sanktsioon. Määruse ülevõtmise järel järgneks füüsilisele isikule mõne rikkumise eest
sanktsioon kuni 30 000 000 eurot. Sellisel juhul on isikul täiesti võimatu prognoosida isegi
ligilähedaselt, millises suuruses sanktsioon tema teole järgneda võib (nt kas 1000 eurot, 10 000
eurot, 500 000 eurot, mõned miljonid või mõned kümned miljonid).
5.20. Peame oluliseks läbirääkimiste käigus tagada, et loodav Euroopa tehisintellekti
nõukoda jääks täitma eelkõige nõuandvat rolli ning et nõukoja otsustuspädevusi
oluliselt ei laiendataks.
Selgitus: Määrus näeb ette riiklike järelevalveasutuste ja komisjoni esindajatest koosneva
Euroopa tehisintellekti nõukoja loomise. Nõukoda peaks vastutama mitmesuguste
nõustamisalaste ülesannete eest, sh arvamuste, soovituste, nõuannete või juhendite
väljaandmine määruse rakendamisega seotud küsimustes, mh tehniliste kirjelduste või
olemasolevate standardite kohta. Ühtlasi kogub ja jagab nõukoda määruse rakendamisega
seotud liikmesriikide parimaid tavasid. Peame määruse eelnõus toodud nõukoja volitusi
asjakohasteks, kuid peame oluliseks tagada, et läbirääkimiste tulemusena ei laiendataks
nõukoja otsustuspädevusi ega dubleeritaks juba olemasolevaid funktsioone. Lisaks vajab
täpsustamist, kuidas suhestub nõukoda Euroopa Andmekaitsenõukoguga, mis vastutab
andmekaitsereeglite ühtse kohaldamise eest ELis.
6. Arvamuse saamine ning seisukohtade kooskõlastamine
Majandus- ja Kommunikatsiooniministeerium on seisukohtade ettevalmistamisel küsinud
sisendit Haridus- ja Teadusministeeriumilt, Justiitsministeeriumilt, Kaitseministeeriumilt,
Keskkonnaministeeriumilt, Kultuuriministeeriumilt, Maaeluministeeriumilt,
Rahandusministeeriumilt, Siseministeeriumilt, Sotsiaalministeeriumilt ja Välisministeeriumilt.
Tehisintellekti määruse eelnõu saadeti arvamuse saamiseks ka järgnevatele asutustele ja
organisatsioonidele:
Arenguseire Keskus; E-riigi Akadeemia; Eesti E-kaubanduse Liit; Eesti Elektritööstuse Liit;
Eesti Infotehnoloogia ja Telekommunikatsiooni Liit; Eesti Inimõiguste Keskus; Eesti
Kaubandus-Tööstuskoda; Eesti Maaülikool; Eesti Masinatööstuse Liit; Eesti Standardimis- ja
Akrediteerimiskeskus; Eesti Teadusagentuur; Eesti Tööandjate Keskliit; Eesti Väike- ja
Keskmiste Ettevõtjate Assotsiatsioon; Elering; Ettevõtluse Arendamise Sihtasutus (EAS); ITS
Estonia; Haigekassa; Transpordiamet; Open Knowledge Estonia; PRIA; PPA; Riigi
Infosüsteemi Amet; Startup Estonia; Statistikaamet; Sotsiaalkindlustusamet; Tallinna Ülikool;
Tallinna Ülikooli Haridusinnovatsiooni Keskus; Tartu Ülikool; Tartu Ülikooli
õigusteaduskond; Tartu Ülikooli haridusteaduste instituut; Tallinna Tehnikaülikool;
Tarbijakaitse ja Tehnilise Järelevalve Amet; Eesti Keele Instituut; Teaduste Akadeemia;
Töötukassa; Mindtitan OÜ; Microsoft Estonia OÜ; Fyma; EKT; Starship Technologies; Bolt;
Feelingstream; Veriff; Pactum; Metaplanet Holdings OÜ; Cleveron AS; Supervaisor OÜ
Sentinel AI – Sidekik; OÜ Inimõiguste Instituut; Advokatuur; Eesti Advokatuuri IP/IKT
komisjon; Tilde; FORT Legal; Maksu- ja Tolliameti; Eesti Juristide Liit; Õiguskantsleri
Kantselei; Riigikohus; Eesti Kohtunike Ühing; MTÜ Internet Society Estonia; Eesti Interneti
Sihtasutus; Eesti Tarbijakaitse Liit; Konkurentsiamet; Registrite ja Infosüsteemide Keskus;
Andmekaitse Inspektsioon; Pangaliit; MTÜ Finance Estonia; Haridus- ja Noorteamet;
Kutsekoda.
Arvamuse saatsid Haridus- ja Teadusministeerium; Justiitsministeerium; Kaitseministeerium;
Maaeluministeerium; Rahandusministeerium; Siseministeerium; Sotsiaalministeerium;
Välisministeerium; Tarbijakaitse ja Tehnilise Järelevalve Amet; Advokatuuri
intellektuaalseomandi ja IT-õiguse komisjon; Andmekaitse Inspektsioon; Cleveron; Maksu- ja
Tolliameti, Eesti Interneti SA; Eesti Tarbijakaitse Liit; Eesti Teadusagentuur; Eesti
Elektritööstuse Liit; Advokaadibüroo Fort; ITL; Jaan Tallinn; Riigi Infosüsteemi Amet;
Tallinna Tehnikaülikool ja NJORD Advokaadibüroo.
Saabunud sisendid on esitatud kaasamise tabelis (lisa 1).
EELNÕU
VABARIIGI VALITSUS
ISTUNGI PROTOKOLL ………….2021 nr
Tallinn, Stenbocki maja
Eesti seisukohad Euroopa Parlamendi ja nõukogu määruse, millega nähakse ette
tehisintellekti käsitlevad ühtlustatud õigusnormid (tehisintellekti käsitlev õigusakt) ja
muudetakse teatavaid liidu õigusakte (COM(2021) 85 final), eelnõu kohta
1. Kiita heaks järgmised ettevõtlus- ja infotehnoloogiaministri esitatud seisukohad Euroopa
Parlamendi ja nõukogu määruse, millega nähakse ette tehisintellekti käsitlevad ühtlustatud
õigusnormid (tehisintellekti käsitlev õigusakt) ja muudetakse teatavaid liidu õigusakte
(COM(2021) 85 final), eelnõu kohta:
1.1. Eesti toetab Euroopa Komisjoni esitatud määruse eelnõu eesmärki luua tehisintellekti
käsitlev ühtlustatud õigusraamistik, et aidata kaasa Euroopa Liidu digitaalse ühtse turu
toimimisele ning maandada selle tehnoloogia teatavatest kasutusviisidest tulenevaid
riske. Eesti peab oluliseks, et määrus soodustaks innovatsiooni ja usaldusväärse
tehisintellekti kasutuselevõttu.
1.2. Eesti leiab, et tehisintellekti käsitlev ühtlustatud õigusraamistik peab olema
tehnoloogianeutraalne ja tõhus. Eesti eelistab, et määruse kohaldamisala määravad
loetelud oleksid kehtestatud määruses, mitte delegeeritud õigusaktide kaudu. Jõustumisel
peab määrus olema sõnastatud viisil, mis tagaks, et see on tulevikukindel.
1.3. Eesti on seisukohal, et õigusselguse saavutamiseks ning määruse ühetaoliseks
rakendamiseks peab kitsamalt piiritlema selliseid määruse I lisas esitatud meetodeid ja
lähenemisviise, mida ei loeta klassikaliselt tehisintellektisüsteemideks, näiteks statistilisi
lähenemisviise, otsingu- ja optimeerimismeetodeid ning mitmeid loogika- ja
teadmistepõhiseid lähenemisviise.
1.4. Toetame määruses põhiõiguste kaitse laia käsitlust, mille rakendamiseks tuleb välja
selgitada vajadus hinnata suure riskiga tehisintellektisüsteemide riskihindamissüsteemi
osana konkreetsetele põhiõigustele avaldavat mõju. Rõhutame, et inimkeskse ja
usaldusväärse, sh põhiõigustega kooskõlas oleva tehisintellekti arendamisel ja
kasutamisel tuleb tagada võrdse kohtlemise põhimõtte järgimine, samuti pidada silmas
laiemat võrdsete võimaluste ja soolise võrdõiguslikkuse edendamise eesmärki, mis
hõlmab ka tehisintellekti kasutavate lahenduste kaudu sooliste ja muude stereotüüpide
leviku aktiivset tõkestamist.
1.5. Eesti toetab lähenemist, mille kohaselt on määruse kohaldamisalast väljas
tehisintellektisüsteemid, mida on arendatud või kasutatakse üksnes sõjalisel otstarbel.
Peame oluliseks erandi säilimist. Toetame, et määruse reguleerimisalast on väljas ka
surmavate autonoomsete relvasüsteemidega seotud küsimused.
1.6. Eesti leiab, et määruse kohaldamisalast peavad olema välistatud
tehisintellektisüsteemid, mida on arendatud või kasutatakse üksnes riigi julgeoleku
tagamise eesmärgil.
1.7. Toetame määruse riskipõhist lähenemisviisi, mille kohaselt tehisintellektisüsteemile
kohaldatavad nõuded sõltuvad süsteemi kasutusviisist ning sellega kaasnevast riskist
põhiõigustele ja ohutusele, tagades seeläbi regulatsiooni proportsionaalsuse. Oleme
seisukohal, et riskitaseme määratlus peab lähtuma konkreetsest kasutusjuhust ja olema
üheselt arusaadav tagamaks määruse ühetaoline rakendatavus.
1.8. Toetame tehisintellekti keelatud kasutusviiside käsitlemist määruses. Määruse
sõnastusest peab üheselt selguma, milliseid kasutusviise on alapunktide kirjeldusest
lähtuvalt konkreetselt mõeldud ning kasutusviisi keeld peab olema proportsionaalne.
1.9. Toetame määruses toodud keeldu tehisintellektisüsteemide turule laskmisele,
kasutusele võtmisele või kasutamisele ametiasutuste poolt või nende nimel, mille kaudu
hinnatakse või liigitatakse isikute usaldusväärsust nende sotsiaalse käitumise põhjal
ühiskondliku reitingu määramise eesmärgil.
1.10. Leiame, et õiguskaitse eesmärgil avalikult juurdepääsetavas ruumis reaalajas toimuva
biomeetrilise kaugtuvastamise süsteemide kasutamise keelu erandeid tuleb täiendada
viisil, mis võimaldaks ka selliste isikute otsimist, kes ei ole kuriteoohvrid, kuid kelle elu
või tervis võib olla ohus muul põhjusel. Reaalajas tuvastamist lubavate kuritegude loetelu
peab hõlmama ka riigi jaoks olulisi raskeid kuritegusid, näiteks riigivastaseid kuritegusid.
Keelu laiendamine teistele biomeetria kasutusviisidele peaks toimuma üksnes väga
selgelt põhjendatud juhtudel.
1.11. Eesti on seisukohal, et määruses õiguskaitse valdkonnale kehtestatavad piirangud ei
tohi põhjendamatult takistada kriminaalmenetlust ega liikmesriigi võimalusi
kuritegevusevastasel võitlusel. Eelistame õiguskaitseasutuste tehisintellektisüsteemide
kasutamisega seotud küsimuste käsitlemist eraldi õigusaktis.
1.12. Peame oluliseks, et suure riskiga tehisintellektisüsteemidele esitatavad nõuded ja
suure riskiga tehisintellektisüsteemide pakkujate kohustused tagaksid usaldusväärsete
tehisintellektisüsteemide arendamise ja kasutamise EL-is, ilma et see
ebaproportsionaalselt pärsiks innovatsiooni, takistaks tehisintellekti kasutuselevõttu või
rikuks ettevõtjate õigusi ning vabadusi.
1.13. Leiame, et suure riskiga tehisintellektisüsteemidele kohaldatavad andmete ja
andmehalduse ning tehisintellektisüsteemi turult kõrvaldamise nõuded peavad olema
praktikas rakendatavad. Toetame määruse eelnõus sisalduvat logimise nõuet, kuid
tunnustatud standarditele vastavuse nõude kehtestamisel tuleb tagada vastavate
valdkondlike standardite olemasolu.
1.14. Peame oluliseks tagada suure riskiga tehisintellektisüsteemide inimjärelevalve
selliselt, et kogu tehisintellektisüsteemi elutsükli jooksul jälgitakse süsteemi toimimist
selleks, et ära hoida tervist, ohutust või põhiõigusi ähvardavaid riske. Inimjärelevalve
kohustus peab olema proportsionaalne, sh ei tohi põhjendamatult piirata võimalust
kasutada tehisintellektisüsteeme automaatotsuste tegemiseks.
1.15. Leiame, et suure riskiga tehisintellektisüsteemide tõsistest intsidentidest ja tõrgetest
teavitamise tähtaega tuleks lühendada kolme päevani. Lisaks tuleb õigusselguse huvides
selgemalt piiritleda, millistele intsidentidele ja tõrgetele teavitamise kohustus laieneb.
1.16. Leiame, et määruses vajab täpsemat kirjeldamist, millistele õigusmõistmise ja
demokraatlike protsesside valdkonda kuuluvatele süsteemidele laienevad suure riskiga
süsteemidele kohalduvad nõuded. Eelkõige vajab defineerimist mõiste „õigusasutus“ ja
välistada ei tohiks selliseid süsteeme, mida kasutatakse ressursside jaotamiseks ja mis
võivad mõjutada isikute juurdepääsu õigusemõistmisele või õigust õiglasele
kohtupidamisele.
1.17. Toetame läbipaistvuskohustuste kehtestamist teatavate tehisintellektisüsteemide
puhul, mis on mõeldud füüsiliste isikutega suhtlema või mis on emotsioonide tuvastamise
või biomeetrilise liigitamise süsteemid. Toetame ka kohustust süvavõltsingu puhul
avaldada, et sisu on kunstlikud loodud või seda on manipuleeritud. Samas peame
oluliseks, et teavitamise nõuded ja väljendusvabaduse, kunsti ja teaduse vabaduse õiguste
teostamiseks kehtestatud erandid oleksid asjakohased ja proportsionaalsed.
1.18. Oleme seisukohal, et tehisintellekti regulatsiooni testkeskkonnas osalemine peab
olema vabatahtlik ning testkeskkonnas tehisintellektisüsteemide arendamisel avalikes
huvides peab olema võimalik kaasata ka kolmandaid osapooli, sh ettevõtteid. Toetame,
et määruse kohaldamisalast on välistatud tehisintellekti lahenduste testkeskused, mis on
loodud sõjalise või riigi julgeoleku tagamise eesmärgil kasutatavate
tehisintellektisüsteemide arendamiseks.
1.19. Eesti leiab, et määrus peab jätma liikmesriikidele õiguse valida ise sobilik
sanktsioonitüüp. Sanktsioonimäärad peavad olema kooskõlas Euroopa Liidu põhiõiguste
harta artikliga 49. Määruses tuleb karistuste sätestamisel lähtuda ultima ratio põhimõttest.
1.20. Peame oluliseks läbirääkimiste käigus tagada, et loodav Euroopa tehisintellekti
nõukoda jääks täitma eelkõige nõuandvat rolli ning et nõukoja otsustuspädevusi oluliselt
ei laiendataks.
2. Eesti esindajatel Euroopa Komisjoni eksperdirühmades, komiteedes ja Euroopa Liidu
Nõukogus väljendada ülaltoodud seisukohti.
3. Riigikantseleil esitada punktis 1 nimetatud eelnõu ja seisukohad Riigikogu juhatusele ning
teha seisukohad teatavaks Eestist valitud Euroopa Parlamendi liikmetele ning Eestist
nimetatud Euroopa Majandus- ja Sotsiaalkomitee ja Regioonide Komitee liikmetele.
Kaja Kallas Taimar Peterkop
Peaminister Riigisekretär
Lisa 1. Arvamused tehisintellekti määruse eelnõu kohta
Nr Ettepaneku sisu Arvestatud/
mittearvestatud/
selgitatud
1. Justiitsministeerium
Justiitsministeerium toetab Euroopa Parlamendi ja Nõukogu määruse, millega nähakse ette Arvestatud
tehisintellekti käsitlevad ühtlustatud õigusnormid (tehisintellekti käsitlev õigusakt) ja seisukohapunktis 5.1.
muudetakse teatavaid liidu õigusakte, vastuvõtmist, kehtestamaks TI käsitlevad ühtlustatud
õigusnormid, et soodustada tehisintellekti kasutuselevõttu ja tegeleda selle tehnoloogia teatavate
kasutusviisidega seotud riskidega inimestele ja ühiskonnale laiemalt.
Toetame õigusraamistiku erieesmärke, iseäranis eesmärki tagada, et turule lastavad ja kasutatavad
tehisintellektisüsteemid on ohutud ja kooskõlas kehtiva põhiõigusi käsitleva õigusega ning liidu
väärtustega, ja eesmärki tugevdada juhtimist ning tõhustada põhiõigusi käsitleva kehtiva õiguse ja
tehisintellektisüsteemidele kohalduvate ohutusnõuete täitmise tagamist.
Uute tehnoloogiate, sh tehisintellekti arendamise ja rakendamisega kaasnevad riskid põhi- ja
inimõigustele ning seotud eetikaküsimused on viimaste aastate jooksul pälvinud suurt tähelepanu kogu
maailmas. Nii OECD 2019 tehisintellekti soovitus, UNESCO 2021. a juunis kokku lepitud AI
eetikasoovitus kui ka Euroopa Nõukogu ad hoc tehisintellekti töögrupp CAHAI töö käsitlevad vajadust
tehisintellekti süsteemide kogu olelusringi vältel tagada inimõiguste, demokraatia ja õigusriigi kaitset.
Euroopa Nõukogu liigub kindlalt siduva tehisintellekti konventsiooni väljatöötamise poole, et tagada
tehisintellektisüsteemide disaini, arendamise ja rakendamise kooskõla Euroopa Nõukogu inimõiguste,
demokraatia ja õigusriigi standarditega. Euroopa Liidu tasandil on komisjoni kokku kutsutud
tehisintellekti sõltumatu ekspertgrupp (AI HLG) välja töötanud usaldusväärse tehisintellekti eetilised
suunised[1], poliitika ja investeeringute soovituse[2] ning usaldusväärse tehisintellekti
kontrollnimekirja[3] (The Assessment List for Trustworthy Artificial Intelligence (ALTAI).
Komisjon on omaks võtnud AI HLG usaldusväärse tehisintellekti määratluse, mille kohaselt
usaldusväärne tehisintellekt on õiguspärane (sh kooskõlas inim/põhiõigustega), eetiline ja tehniliselt
ning sotsiaalselt töökindel, kusjuures sotsiaalse töökindluse all mõeldakse seda, et tehisintellekti
kasutuselevõtmine ei kahjustaks ühiskonda ega moonutaks selle toimimist. EL põhiõiguste harta
(ELPÕH) kohaselt on inimväärikus mitte ainult kõikide põhiõiguste aluseks, vaid ka põhiõigus
iseenesest. ELPÕH artikkel 1 sätestab, et inimväärikus on puutumatu ja et seda tuleb austada ja kaitsta.
Just inimväärikuse kaitse on põhjus, miks ei tohi lubada inimese muutmist tehnoloogia sh
tehisintellektisüsteemi objektiks.
Toetame määruse põhiõiguste kaitse laia käsitlust. Arvestatud
Toetame määruse põhiõiguste kaitse laia käsitlust, millega kehtestatakse nõudeid tagamaks suure seisukohapunktis 5.4.
riskiga tehisintellektisüsteemide kasutuse kooskõla Euroopa Liidu õigusega kaitstud põhiõigustega, sh
Euroopa Liidu põhiõiguste hartas sätestatud kõik põhiõigused ja -vabadused. Kui seni on eelkõige
käsitletud vajadust isikuandmete ja privaatsuse kaitseks tehisintellektisüsteemide arendamisel ja
rakendamisel läbi viia isikuandmete kaitse mõjude analüüs vastavalt IKÜM artiklike 35, on
tagaplaanile või tähelepanuta jäänud teised olulised põhiõigused, näiteks õigus
mittediskrimineerimisele, sõnavabadus, kogunemisvabadus, ühinemisvabadus, tarbijakaitse ja lapse
õigused, mida tehisintellektisüsteemide kasutus võib negatiivselt mõjutada. Ka Euroopa Liidu
põhiõiguste amet on oma 2020 aruandes Getting the Future Right: AI and Fundamental Rights
rõhutanud kõikide ELPÕH õiguste arvestamise ja põhiõiguste mõjude hindamise olulisust. [1] Oluline
on veel silmas pidada, et põhiõiguste rikkumised võivad omakorda negatiivselt mõjutada nii
demokraatia toimimist kui ka õigusriiki, s.o. väärtused, mis on kõikidele liikmesriikidele ühised ning
millele Euroopa Liitu on ELL artikli 2 kohaselt rajatud.
Artikli 9 nõuded riskijuhtimissüsteemi, artikli 13 läbipaistvuse ja kasutajate teavitamise nõuete jt suure
riskiga tehisintellektisüsteemidele esitatavate nõuete täitmine eeldab põhiõigustega seotud riskide
kindlakstegemist ja analüüsi, millele viitab laiemalt artikkel 9 lg 2 punkt a. Määruses tuleks selgemalt
välja tuua põhiõiguste mõjude hindamise vajadus riskijuhtimissüsteemi osana, nagu on välja toodud
ALTAI usaldusväärse AI kontrollnimekirjas eeldusena kontrollnimekirja alusel tehisintellekti süsteemi
hindamiseks[2]. Oleks oluline kaasa aidata sellele, et EL-i või Euroopa Nõukogu või mõne muu
organisatsiooni tasandil töötataks välja põhiõiguste mõjude hindamise mudel, mis lubaks määruse
nõudeid täita ja täitmist kontrollida ühetaoliselt kogu EL-is.
Ettepaneku õiguslik alus, kohaldamisala ja subsidiaarsuse analüüs. Arvestatud punktis 3.1
(vastavus pädevuse
Üldjoontes on asjakohane komisjoni valitud õiguslik alus, milleks on Euroopa Liidu toimimise lepingu andmise, põhimõtetele)
(ELTL) artikkel 114, mis annab õiguse kehtestada meetmeid, mille eesmärk on tagada siseturu loomine ja seisukohapunktis 5.5.
ja toimimine. Kohane on ka valik määruse ja mitte direktiivi kasuks, sest tuvastatud on vajadus ELi
siseturul tagada, et siseturg ei killustuks olukorras, kus mõned liikmesriigid kaaluvad juba riiklike
eeskirjade kehtestamist, et tagada tehisintellekti ohutus ning arendamine ja kasutamine kooskõlas
põhiõigustega seotud kohustustega. Lisaks on tuvastatud vajadust suurendada tehisintellektisüsteemide
pakkujate ja kasutajate õiguskindlus seoses sellega, kuidas kohaldatakse liidus nende süsteemide
suhtes olemasolevaid ja uusi eeskirju.
Nõustume komisjoni seisukohaga, et selleks et tagada võrdsed tingimused ning üksikisikute õiguste ja
vabaduste tulemuslik kaitse kogu liidus, tuleks määrusega kehtestatud õigusnorme kohaldada
tehisintellektisüsteemide pakkujate suhtes, diskrimineerimata pakkujaid selle põhjal, kas nad
tegutsevad liidus või mõnes kolmandas riigis, ja liidus tegutsevate tehisintellektisüsteemide kasutajate
suhtes. Oluline on seejuures silmas pidada takistusi ja raskusi õigusakti täitmise tagamisel väljaspool
EL-i asutatud ettevõtjate poolt, nagu on tuvastatud isikuandmete kaitse üldmääruse puhul. [1]
Nõustume ettepaneku artikli 2 lõikega 3, et määruse kohaldamisalast tuleks välja jätta
tehisintellektisüsteemid, mis on välja töötatud või mida kasutatakse üksnes sõjalisel otstarbel.
Seisukohtade kujundamisel on vaja välja selgitada, kas ja kuidas oleks vaja eraldi arvesse võtta kahese
kasutusega tehisintellektisüsteemide sõjalist ja tsiviilkasutust.
Asjakohane on ka ELTL artikkel 16 määruse artikli 5 punkti d õigusliku alusena. Põhjenduspunkti 23
kohaselt on viidatud punkt direktiivi 2016/680 artikli 10 suhtes erinormiks, seades piirangud loetletud
põhjustel biomeetriliste andmete töötlemisele avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil
reaalajas toimuva füüsiliste isikute kaugtuvastamise jaoks, Direktiiv 2016/680 põhineb ELTL artiklil
16, mis sätestab igaühe õiguse oma isikuandmete kaitsele ja annab EL-ile pädevuse kehtestada
eeskirjad füüsiliste isikute kaitse kohta seoses isikuandmete töötlemisega liidu institutsioonides,
organites ja asutustes ning liikmesriikides liidu õiguse reguleerimisalasse kuuluva tegevuse puhul,
samuti selliste andmete vaba liikumise eeskirjad.
Samas teeb murelikuks komisjoni tendents esitada ettepanekuid, milles on sätestatud loomult Arvestatud punktis 3.1
kriminaalmenetluslike ja karistusõiguslike sätteid, ilma et need põhineksid vastavalt ELTL artiklile 82 ja seisukohapunktis
ja 83. Kriminaalmenetlust võib mõjutada artikli 6 lg 2 ja lisa III punktis 6 osutatud õiguskaitse 5.11.
valdkonnas kasutatavate tehisintellektisüsteemide liigitamine suure riskiga
tehisintellektisüsteemideks, millele esitatakse artikli 8-15 sätestatud nõuded. Seisukohtade
kujundamisel tuleb täiendavalt arutada Siseministeeriumi ettepanekut kaaluda õiguskaitseasutustele AI
osa oma õigusakti loomist, nagu tehti isikuandmete kaitse määruse ja direktiiviga.
Liikmesriikide poolt rakendatavad siseriiklikud kuritegevusega võitlemise meetmed on tihedalt seotud
asjaomase liikmesriigi siseriiklike väljakutsetega ja nendega seotud kriminaalpoliitilistest
eesmärkidest. Üldjuhul peaks kriminaalmenetlust puudutava regulatsiooni ühtlustamine toimuma
ELTL art-s 82 sätestatud alustel ning arvestades ka ELTL art 82 lg-s 3 sätestatud riigi
karistusõigussüsteemi erilise kaitse põhimõtteid. Pöörame tähelepanu, et õiguskaitseasutusi
reguleerivate liiduüleste õigusaktide väljatöötamisel, seda eriti õiguskaitseasutusi puudutavas osas,
peab jätkuma Euroopa Liidu senine suund jätta liikmesriikidele võimalikult avar otsustusõigus
määrata, mis juhtudel, ulatuses ja viisil kasutada kriminaalmenetluses tehnoloogilisi võimalusi.
Määruse eelnõu reguleerib AI kasutamist kriminaalmenetluse valdkonnas ning välja pakutud
regulatsioon võib seada kuritegevuse vastasele võitlusele liialt ranged piirangud. Liidu tasemel
sätestatud tehnoloogia kasutamist käsitlevad piirangud ei tohi mingil moel saada liikmesriigile
takistuseks mistahes kuritegevusega võitlemisel. Kahetsusväärselt on tuua näiteid, kus valdkonna
harmoneerimine EL tasandil on hiljem toonud kaasa olulised piirangud kuritegevusevastasele
võitlusele ning omanud ulatuslikku mõju ka ülejäänud kriminaalmenetlusele (eeskätt nt sideandmete
säilitamise teemal). Seetõttu ei tohiks Eesti arvates kergekäeliselt laiendada Liidu pädevust
kriminaalmenetluslike küsimuste reguleerimiseks. Eelnevale tuginedes jääme seisukohale, et
käesolevas määrusest toodud õiguskaitseasutusi puudutav regulatsioon on liialt kitsendav ning selle
liidu tasandil reguleerimine on ennatlik ning võib kahjustada kuritegevuse vastast võitlust.
Artikkel 71 kohustab liikmesriike sätestama rikkumiste eest sanktsioone. Sanktsioonisüsteemide osas Arvestatud
on liikmesriikidel ulatuslik kaalutlusõigus ning väljaspool ELTL art-s 83 sätestatud alust ei tohiks seisukohapunktis 5.19.
õigusaktid teha ettekirjutusi sanktsiooni tüübi ega liigi, samuti sanktsiooni, kohta ning jätma
liikmesriikidele piisava paindlikkuse, et leida enda sanktsioonisüsteemi sobituv lahendus. Samuti
peaks liikmesriikidele jääma paindlikkus sanktsioneerida vaid teatud raskemaid rikkumisi (ultima ratio
põhimõte), st iga rikkumine ei pea olema kohustuslikus korras karistatav. Määruses kohustatakse
füüsilistele isikutele sätestama kuni 30 000 000 euro suurusi rahatrahve. Tegemist on ühemõtteliselt
karistusõigusliku iseloomuga regulatsiooniga, mille puhul peaks õiguslikuks aluseks olema ELTL art
83 ning sealjuures peaks liikmesriigil olema võimalus kasutada ELTL art 83 lg-s 3 sätestatud nn
hädapiduri õigust.
Nõustume komisjoni subsidiaarsuse analüüsiga, mille kohaselt liikmesriigi üksi ei saa määruse Arvestatud punktis 3.2.
ettepaneku eesmärke tõhusalt täita, kuna tehisintellekt tugineb sageli suurtele ja mitmekesistele
andmekogumitele ning selle võib sisse ehitada siseturul vabalt ringlevasse mis tahes tootesse või
teenusesse. Lisaks takistavad lahkneda võivad riiklikud eeskirjad ohutuse ja põhiõiguste ning liidu
väärtuste tõhusat kaitset.
Toetame määruse riskipõhist lähenemist, mis aitab tagada regulatsiooni proportsionaalsuse. Arvestatud
seisukohapunktis 5.7.
Läbirääkimiste käigus tuleb tagada, et tehisintellekti keelatud kasutusviisid, suure riskiga
tehisintellektisüsteemid ja tehisintellektisüsteemid, millele on kohaldatavad artikli 52 täiendavad
läbipaistvuskohustused, on määratletud selgelt ja üheselt mõistavalt, et võimaldada määruse ühetaolist
kohaldamist. Määratlused ja kriteeriumid peavad lähtuma tehisintellektisüsteemide põhjustatavate
riskide intensiivsusest ja ulatusest ning nõuded peavad olema vajalikud, sobivad ja proportsionaalsed
konkreetse usaldusväärse tehisintellekti tagamiseks seatud eesmärgiga. Toetame määruse lähenemist,
mille kohaselt riski taset määratletakse arvestades konkreetse tehisintellektisüsteemi kasutamise
konteksti, sh tehisintellektisüsteemi kasutusvaldkonda, eesmärki, kasutajat ja tehisintellektisüsteemi
kaudu või abil tehtavate otsuste mõju inimeste elule, tervisele ja põhiõiguste kaitsele.
Toetame tehisintellekti keelatud kasutusviiside käsitlemist määruses, et seda tehnoloogiat ei Arvestatud
oleks võimalik kurjasti kasutada ning luua uudseid ja võimsaid manipuleerimise, ärakasutamise seisukohapunktides 5.8;
ja sotsiaalse kontrolli vahendeid. Oluline on tehisintellekti arendamisel ja rakendamisel tagada 5.9; 5.10.
kasu ühiskonnale ja inimkonnale, kaitstes inimväärikust, kõiki teisi põhiõigusi ja -vabadusi ning
demokraatiat ja õigusriiki.
Artiklis 5 käsitletakse tehisintellekti kasutusviise, mis on vastuolus selliste liidu väärtustega nagu
inimväärikuse austamine, vabadus, võrdsus, demokraatia ja õigusriik ning liidu põhiõigustega, sh
õigusega mittediskrimineerimisele, andmekaitsele ja privaatsusele, aga ka lapse õigustega. Nende
sätete käsitlemisel on oluline silmas pidada, et põhjenduspunkti 24 kohaselt peaks igasugune
biomeetriliste ja muude isikuandmete töötlemine, mis on seotud tehisintellektisüsteemide
kasutamisega biomeetrilise tuvastamise jaoks, v.a juhul, kui see toimub seoses käesoleva määrusega
reguleeritud reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamisega avalikult
juurdepääsetavas ruumis õiguskaitse eesmärgil, kaasa arvatud juhul, kui pädevad asutused kasutavad
neid süsteeme avalikult juurdepääsetavas ruumis muul otstarbel kui õiguskaitse eesmärgil, ka edaspidi
vastama kõigile määruse (EL) 2016/679, artikli 9 lõikest 1, määruse (EL) 2018/1725 artikli 10 lõikest
1 ja direktiivi (EL) 2016/680 artiklist 10 tulenevatele nõuetele, nagu on asjakohane.
Läbirääkimiste käigus peab selguma, millised kasutusviisid on alapunktide kirjeldusest lähtuvalt
konkreetselt mõeldud ja kuidas hinnata kahju, mis need põhjustavad või tõenäoliselt põhjustavad, et
selliste kasutusviiside keelamine oleks õigustatud. Lisaks tuleks täpsustada kahju ulatust, mis õigustaks
kasutusviisi keelamist. Näiteks võib olla ebaproportsionaalne keelata artikkel 5 lg 1 p a alusel
tehisintellektisüsteemi, milles on küll kasutatud inimese teadvusest kaugemale ulatuvale alalävisele
tajule suunatud võtteid, et oluliselt moonutada isiku käitumist viisil, mis põhjustab või tõenäoliselt
põhjustab sellele või mõnele teisele isikule füüsilist või psühholoogilist kahju, mis on aga minimaalne.
Keeruline on siin psühholoogilise kahju määratlemine ja tuvastamine, ebaselge on ka „oluliselt
moonutama“ mõiste. Analoogiline probleem on sama lõigu punkti b mõistmisel ja edaspidi ühetaoliselt
rakendamisel.
Toetame punktis c määratletud süsteemide ametiasutuste poolt või nende nimel turule laskmise,
kasutusele võtmise või kasutamise keelustamist. Tegemist on tehisintellektisüsteemidega, mis
hindavad või liigitavad inimeste usaldusväärsust nende sotsiaalse käitumise põhjal (ingl. social credit
või social scoring), kuna sellised süsteemid ei ole kooskõlas demokraatia, õigusriigi põhimõtte ega
põhiõigustega. Ka erasektoris ei ole vastavad süsteemide kasutamine üldjuhul lubatud. IKÜM kohaselt
võib füüsilisele isikule skoori (punktisumma) määramine olla lubatud üksnes IKS § 10 kohase isiku
krediidivõimelisuse hindamise raames, arvestades IKÜM profileerimise reegleid. Mh peab iga inimene
aru saama, kuidas ja millest lähtuvalt on kujunenud tema punktiskoor (vt ka IKÜM põhjenduspunkti
60). Andmekaitse inspektsioon on leidnud, et kindlasti ei ole lubatud koostada mingit abstraktset
inimese skoori, mille koostamisel on arvestatud krediidivõimelisusesse mittepuutuvaid asjaolusid (nt
kus inimene sündis, milline on ta emakeel, milliseid võõrkeeli ta räägib või milline on olnud tema
hariduskäik).[1]
Eraelu ja isikuandmete kaitse põhiõigust silmas pidades on oluline sõnum keelata ära tehisintellekti
süsteemide arendamine ja kasutamine avaliku võimu poolt inimeste ühiskondliku reitingu eesmärgil.
Lähtudes sellest, et nii eraelu kaitse kui põhiõigus isikuandmete kaitsele teenivad ka inimväärikuse
põhimõtet, millest lähtuvalt inimene ei tohi olla pidevalt avaliku võimu jälgimise all. Riivet muudab
intensiivsemaks asjaolu, kui sellega kaasneb inimese käitumise või isikuomaduste prognoosimine
näiteks näotuvastustehnoloogiate abil. Pideva jälgimise all olevad inimesed võivad hakata piirama oma
vabadusi ja proovida käituda eeldatava normi piires, soovides mitte silma paista, mis kahjustab
inimeste õigust vabale enesemääramisele. See omakorda võib kaasa tuua ohu demokraatlikule
ühiskonnakorrale, mis lähtub fundamentaalselt inimeste vabadusest. Seetõttu toetame art 5 lg 1 punktis
c väljendatud kavatsust keelata ära tehisintellektisüsteemide arendamine ja rakendamine ühiskondliku
reitingu eesmärgil.
Samadel põhjustel on oluline piirata ka tehisintellektisüsteemide rakendamist õiguskaitse eesmärgil.
Erandid avalikult juurdepääsetavas ruumis reaalajas toimuva biomeetrilise kaugtuvastamise
süsteemide kasutamisele õiguskaitse jaoks vajavad täpsustamist. Tehisintellektisüsteemide
rakendamine „konkreetsete võimalike kuriteoohvrite, kaasa arvatud kadunud laste, sihipärane
otsimise“ eesmärgil vajab siiski edasises töös eelnõuga täpsemat määratlemist. Praeguses sõnastuses
loob säte liiga avara tõlgendusruumi ja võimaldab liikmesriikidel seda väga ettearvamatutes
olukordades kasutada. Sõltuvalt kuriteo mõiste määratlemisest liikmesriigis võib see hõlmata ka
näiteks avalikes kohtades jälgimist taskuvarguste ohvrite sihipäraseks otsimiseks, avades seega ukse
inimeste totaalseks jälgimiseks tehisintellektisüsteeme rakendades. Ometi võib eeldada, et määruse
ettepaneku koostamisel on olnud eesmärgiks vastupidine, arvestades mh ka EK pidevas praktikas
kujunenud seisukohaga, mille kohaselt peab kõigis EL liikmesriikides olema tagatud kõrgetasemeline
isikuandmete kaitse. Sama põhimõtet on kinnitatud ka IKÜM põhjenduspunkt 10: „Selleks et tagada
füüsiliste isikute järjekindel ja kõrgetasemeline kaitse ning kõrvaldada takistused isikuandmete
liikumisel liidus, peaks füüsiliste isikute õiguste ja vabaduste kaitse selliste andmete töötlemisel olema
kõigis liikmesriikides samal tasemel.“. Põhiõigust eraelule ja isikuandmete kaitsele tohib piirata vaid
juhul, mil see on vältimatult vajalik. Seetõttu, arvestades mh ka laste õiguste erilise kaitse vajadust,
tekib ka küsimus, kas tehisintellektisüsteemi tohib rakendada laste suhtes vaid sel eesmärgil, kui on
alust arvata, et nad on võimalikud kuriteoohvrid? Kaaluda tuleks, kas „vältimatult vajaliku“ kriteerium
on täidetud ka juhul, kui on konkreetsete faktiliste asjaolude pinnal on alust arvata, et eksisteerib vahetu
kõrgendatud oht lapse elule (suitsiidioht). Sama küsimus tekib täiendavalt ka täisealiste suhtes. Artikli
5 lg 1 punktis (d)(i) loetletud isikute hulka võiks lisada isikud, kelle suhtes ei ole alust kahtlustada, et
tegu on võimalike kuriteo ohvritega ega lapsega, näiteks kadunud sügava vaimupuudega isikuga, kes
on omavoliliselt lahkunud järelevalvega asutusest, hooldekodust lahkunud isikud, jne. Sama punkti
alapunkti (iii) loetelu võib olla liialt piirav, näiteks ei hõlma raamotsuse 2002/584/JSK artikli 2 lõikes
2 sätestatud loetelu riigivastaseid kuritegusid.
Soovitakse keelata avalikult juurdepääsetavas ruumis reaalajas toimuva biomeetrilise kaugtuvastamise
süsteemide kasutamine õiguskaitse jaoks, välja arvatud juhul, kui selline kasutamine on vajalik mõnel
loetletud eesmärgil – konkreetsete võimalike kuriteoohvrite sihipärane otsimine, füüsiliste isikute elu
või turvalisust ähvardava konkreetse, suure ja vahetu ohu või terrorirünnaku ärahoidmine või Euroopa
vahistamismäärust käsitleva nõukogu raamotsuses 2002/584/JSK sätestatud raske kuriteo
toimepanijate tuvastamine -- selleks vajalikus ulatuses. Eraõiguslikele turvafirmadele on biomeetrilise
kaugtuvastamise süsteemi kasutamine keelatud, sest nemad ei ole artikli 3 punkti 40 kohaselt
„õiguskaitseasutus“ ja nende tegevus ei ole sama artikli punkti 41 kohaselt „õiguskaitse“. Euroopa
Andmekaitsenõukogu juhise kohaselt tohib erafirma kasutada näotuvastussüsteeme vastavalt IKÜM
artikli 9 lõige 2 punktile a üldjuhul vaid andmesubjektide nõusoleku alusel.
Lisaks tuleks seisukohtade kujundamisel täiendavalt kaaluda tehisintellekti keelatud kasutusviiside
hulka lisamist tehisintellekti süsteemid, millega mõistetakse õigust asjades ja küsimustes, mis eeldavad
asjaolude ja tõendite kaalumist ning õigusnormide tõlgendamist.
Seisukohtade kujundamisel tuleks käsitleda ka nn musta kasti probleemi, s.o. keerulised
tehisintellektisüsteemid, mille puhul loojad ega käitajad ei mõista ise täielikult, kuidas vastav süsteem
toimib. Tuleks analüüsida, kas hea halduse, demokraatia ja õigusriigi põhimõtetega on kooskõlas nö
musta kasti tehisintellektisüsteemide rakendamine avaliku võimu poolt. Lisaks tuleks analüüsida ka nö
musta kasti tehisintellektisüsteemide rakendamise puhul on määrusega riskid piisavalt maandatud.
Tehisintellektisüsteemi ja suure riskiga tehisintellektisüsteemi määratlused. Arvestatud
seisukohapunktis 5.3.
Tehisintellektisüsteemi määratlemiseks tuleb määruse artikli 3 punkti 1 kohaselt lähtuda I lisa
tehisintellekti meetoditest ja lähenemisviisidest. Leiame, et lisa punktis c on ekslikult kasutatud
terminit „statistilised lähenemisviisid“. Komisjon on oma ettekannetes rääkinud „statistilistest
mudelitest“, millega oleme nõus. Lisaks tuleks punktist c välja jätta otsingu- optimeerimismeetodid,
mis on I lisa punktiga a kaetud.
Määruse artiklis 6 on sätestatud suure riskiga tehisintellektisüsteemide liigitamise reeglid. Lõike 2 Arvestatud
kohaselt peetakse suure riskiga süsteemideks III lisas osutatud tehisintellektisüsteeme. Toetame seisukohapunktides 5.7;
määruse lähenemist, mille kohaselt riski taset määratletakse arvestades konkreetse 5.16.
tehisintellektisüsteemi kasutamise konteksti, sh tehisintellektisüsteemi kasutusvaldkonda, eesmärki,
kasutajat ja tehisintellektisüsteemi kaudu või abil tehtavate otsuste mõju inimeste elule, tervisele ja
põhiõiguste kaitsele. III lisa sõnastuse osas on meil järgmised tähelepanekud.
Nõustume, et biomeetriline tuvastamine ja füüsiliste isikute liigitamise võimalik mõju isikute
isikuandmete ja privaatsuse kaitsele, aga ka võimalik mõju inimeste käitumisele laiemalt, mh nende
ühinemis- ja kogumisvabaduse teostamisele, sõnavabaduse teostamisele ning seeläbi ka demokraatiale
ning õigusriigile, on igal juhul piisavalt suur, et tehisintellektisüsteem, mis on mõeldud kasutamiseks
füüsiliste isikute reaalajas ja tagantjärele toimuva biomeetrilise tuvastamise jaoks, mis tahes avalik-
õiguslikus või eraõiguslikus kontekstis, tuleks pidada suure riskiga tehisintellektisüsteemiks.
Seisukohtade kujundamisel tuleks kaaluda vajadust punkti 5 „juurdepääs olulistele era- ja avalik-
õiguslikele teenustele ja hüvedele ning nende kasutamine“ täiendamist tehisintellektisüsteemidega,
mida kasutatakse (solidaarses) tervishoiusüsteemis patsiendi diagnoosi panemiseks ja
tervishoiuteenuste ning ravi määramiseks. Sellised süsteemid võivad oluliselt mõjutada inimese õigust
elule ja tervisele, juurdepääsu tervishoiuteenustele ja mittediskrimineerimisele.
Punkt 8 „õigusemõistmine ja demokraatlikud protsessid“ vajab täpsustamist. Alapunkti (a) sõnastusest
ei selgu üheselt, milliste õigusmõistmisega seoses võimalikult kasutatavaid süsteeme silmas peetakse.
Põhjenduspunktis 40 tehakse vahet õigusemõistmise ja demokraatlike protsesside jaoks mõeldud
tehisintellektisüsteemide korral suure riskiga süsteemide ning selliste süsteemide vahel, mis on
mõeldud puhtalt halduslikeks abitegevusteks, ehk mis ei mõjuta tegelikku õigusemõistmist
konkreetsetel juhtudel, nagu kohtuotsuste, dokumentide või andmete anonüümimine või
pseudonüümimine, töötajate vaheline suhtlus, haldusülesanded või ressursside jaotamine. Selles
loetelus on mõneti küsitav tehisintellektisüsteemid, mida võidakse kasutatakse ressursside jaotamiseks
kohtuasjade jagamise kaudu, mis võib mõjutada isikute õigest õiglasele kohtupidamisele.
Ettepaneku põhiteksti kohaselt on tegemist „tehisintellektisüsteemid(ega), mis on mõeldud abistama
õigusasutusi faktide ja seadustega tutvumisel ja nende tõlgendamisel ning õiguse rakendamisel
konkreetse faktide kogumi suhtes.“ Mõiste „õigusasutusi“ on määratlemata ja vajab piiritlemist.
Määratlus katab tehisintellektisüsteeme, mis on mõeldud õigusasutusi õiguse rakendamisel abistama,
kuid ebaselgeks jääb, kas on mõeldud ka süsteeme, mis õigust ise rakendaksid ehk siis otsuseid ise
toodaksid.
Seisukohtade kujundamisel tuleks täiendavalt kaaluda, kas tehisintellekti keelatud kasutusviiside hulka
tuleks lisada tehisintellekti süsteemid, millega mõistetakse õigust asjades ja küsimustes, mis eeldavad
asjaolude ja tõendite kaalumist ning õigusnormide tõlgendamist.
Vaatamata punkti 8 pealkirjale, ei käsitleta selles demokraatlike protsesse nagu näiteks valimisi. Hetkel Teadmiseks võetud.
ei ole ka Eestis aktuaalne tehisintellektisüsteemide kasutus valmiste korraldamise ega hääletamisega
seoses, ei ole ka seda ettenähtavas tulevikus. Kui tulevikus oleks aktuaalne biomeetria kasutamine
valija tuvastamiseks, ei erineks selline süsteem kuidagi tehisintellektisüsteemist, mis on mõeldud
kasutamiseks füüsiliste isikute reaalajas ja tagantjärele toimuva biomeetrilise tuvastamise jaoks, mis
on III lisa punkti 1(a) kohaselt suure riskiga tehisintellektisüsteem.
Toetame artiklis 52 käsitletud läbipaistvuskohustuste kehtestamist teatavate tehisintellekti Arvestatud
süsteemide puhul, mis on mõeldud füüsiliste isikutega suhtlema või mis on emotsioonide seisukohapunktis 5.17.
tuvastamise või biomeetrilise liigitamise süsteemid. Toetame ka kohustust süvavõltsingu puhul
avaldada, et sisu on kunstlikud loodud või seda on manipuleeritud.
EL põhiõiguste harta (ELPÕH) kohaselt on inimväärikus mitte ainult kõikide põhiõiguste aluseks, vaid
ka põhiõigus iseenesest. ELPÕH artikkel 1 sätestab, et inimväärikus on puutumatu ja et seda tuleb
austada ja kaitsta. Just inimväärikuse kaitse on põhjus, miks ei tohi lubada inimese muutmist
tehnoloogia sh tehisintellektisüsteemi objektiks. Muu hulgas tähendab see, et inimesel peab olema
õigus teada, et ta suhtleb tehisintellektisüsteemiga või tema õiguste teostamist mõjutab
tehisintellektisüsteemi kasutus.
Selgitamist vajab, millal on ettepaneku kohaselt vajalik EL-i põhiõiguste hartaga tagatud
väljendusvabaduse ja kunsti ja teaduse vabaduse õiguse teostamiseks süvavõltsingut kasutada, mis
vabastab kohustusest avaldada, et sisu on kunstlikult loodud või seda on manipuleeritud, tingimusel et
kolmandate isikute õiguste ja vabaduste kaitseks kohaldatakse asjakohaseid kaitsemeetmeid. Tuleb
täiendavalt analüüsida, kas väljendusvabaduse ja kunsti ning teaduse vabaduse õiguse teostamiseks on
erand vajalik, sobiv ja proportsionaalne. Seletuskirjast ega põhjenduspunktidest ei selgu, millise
riski/probleemi maandamiseks on selline erand sätestatud.
Lisaks tuleks seisukohtade kujundamisel kaaluda artikli täiendamist selliselt, et käsitletud oleks lisaks
süvavõltsingutele sünteetilise meedia teisi väljundeid, näiteks oleks käsitletud kohustust tehisintellekti
loodud sisu või teose esitamisel avaldada, et teos on loodud tehisintellekti poolt.
I Lisa „Tehisintellekti meetodid ja lähenemisviisid“ ja III Lisa „Artikli 6 lõike 2 osutatud suure Arvestatud
riskiga tehisintellektisüsteemid“ muutmine delegeeritud õigusaktiga. seisukohapunktis 5.2.
Tehisintellekti reguleerimisel on oluline tagada määratluste tulevikukindlust ehk rakendatavust
tehnoloogia (kiire) arengu korral, mistõttu on mõistetav Euroopa Komisjoni soov ette näha
delegeeritud õigusakti vastuvõtmise võimalust nii I lisas esitatud meetodite ja lähenemisviiside loetelu
kui ka III lisas esitatud loetelu kaasajastamiseks. Samas on tegemist õigusakti kohaldamisala määravate
sätetega, mistõttu tuleks kaaluda delegeeritud õigusaktide põhjendatust ja lubatavust põhjalikult.
Võimalusel eelistaksime piisavalt tehnoloogianeutraalse ja tulevikukindla sõnastuse sätestamist
määruses. Selle võimalikkuse osas tuleks edaspidistes diskussioonides kindlasti kaasata tehnilisi
eksperte. Komisjoni väitel lähtub 2022. a I kvartalis oodatud tehisintellekti tsiviilvastutust reguleeriv
õigusakt käesoleva määruse tehisintellekti ja võimalikult ka suure riski määratlusest, mistõttu I Lisa
muutmine võib mõjutada ka seda tulevast õigusakti. Kõrgema riski kriteeriumite sätestamisel tuleb aga
edaspidi arvestada, et horisontaalses määruses toodud reeglid AI kohta on avalik-õiguslikud, sätestades
eelkõige ex ante meetmed ja ei ole seega ülekantavad võimaliku tsiviilvastutuse süsteemi.
Tsiviilvastutuse reeglid käsitlevad eraisikute vahelisi suhteid ning on oma eesmärkidelt ja olemuselt
erinevad. Loomulikult tuleb erinevaid tehisintellekti kasutamisele kehtestavaid reegleid vaadata
süsteemina, ning tagada reeglite kooskõla nii suures ulatuses kui võimalik, kuid arvesse tuleb võtta ka
asjakohaseid erisusi. Tsiviilvastutuse puhul on eesmärgiks kannatanule kahju tekkimise hüvitamine.
See millistel eesmärkidel tehisintellekti kasutatakse, ei ole selles kontekstis oluline. Rangema vastutuse
määratlemisel tuleks eelkõige arvesse võtta AI olemusest tuleneva kahju tõenäosust ja olulisust.
Artiklis 6 toodud määratlused lähtuvad muudest kriteeriumitest, mis võivad küll olla olulised määruses
sätestatud nõuete puhul, kuid mis ei ole sobivad vastutuse puhul.
Suure riskiga tehisintellektisüsteemidele esitatavad nõuded ja suure riskiga Arvestatud
tehisintellektisüsteemide pakkujate kohustused peavad olema määruse eesmärgi saavutamiseks seisukohapunktis 5.12.
tõhusad, et tagada EL-is kasutavate tehisintellektisüsteemide usaldusväärsus, sh kooskõla EL-i
õigusega kaitstud põhiõigustega. Samas peavad nõuded olema vajalikud, sobilikud ja
proportsionaalsed, et mitte õigustamatult pärssida innovatsiooni ega riivata ettevõtjate õigusi ja
huve, mida tuleb määrusega ühtlasi kaitsta.
Käesolev õigusakt peab tagama, et suure riskiga tehisintellektile kohalduvad läbipaistvuskohustused
oleksid tasakaalus ärisaladuse kaitse õigusega ega kahjustaks ebaproportsionaalselt tehisintellekti
pakkuja intellektuaalomandi kaitset. Praegune art 13(3) loetelu tundub seda tasakaalu saavutavat, kuid
läbirääkimiste käigus tuleks eeltoodu valguses jälgida, et art 13(3) p-d iv) ja v) ei saaks tuua kaasa
olukorda, kus tehisintellekti pakkuja peab avaldama algoritmi treeningandmestiku või muud
ärisaladuse kaitsega hõlmatud informatsiooni (v.a ulatuses, milles see on õigustatud kasutajate õiguste
kaitseks).
Lisaks, art-s 11 nimetatud tehnilisele dokumentatsioonile ligipääsuõiguse andmisel regulatsiooni
rakendajale või muudele õigustatud asutustele, peab olema tagatud, et vastavatele asutustele
kohalduksid asjakohased ja tõhusad konfidentsiaalsusmeetmed.
Läbipaistvuse nõuded peavad mitte ainult tagama, et kasutajad saaksid tõlgendada süsteemi väljundit
ja seda asjakohaselt kasutada vaid ka seda, et isikutel oleks vajalikku teavet oma õigusi tegelikult ja
tõhusalt kaitsta nende elu, tervise kahjustamise või põhiõiguste rikkumise korral. Tervitame
dokumentide säilitamise nõuet, kuid tuleb välja selgitada, kas artiklis 50 sätestatud nõue dokumente
säilitada kümneks aastaks on piisav arvestades nõuete esitamise aegusmistähtaegu ning lubamaks
nõuete esitamist, kui kahju tervisele või põhiõigustele ilmneb hiljem.
Toetame artiklis 51 sätestatud kohustust enne suure riskiga tehisintellektisüsteemi turule laskmist või
kasutusele võtmist süsteemi registreerida artiklis 60 osutatud ELi andmebaasis. Artikli 60 kohaselt on
tegemist üldsusele juurdepääsetava andmebaasiga, mis tagab selle, et igaühel on võimalus saada teavet
kõrge riskiga tehisintellektisüsteemide kohta, mida EL-is võidakse rakendada, sellega teabega saavad
nad siis arvestada ja vajadusel oma õigusi kaitsta. Kui ei ole teada, milliseid kõrge riskiga süsteeme
kasutatakse, siis ei ole ka teada, kas oleks vaja seadusandlike või muude meetmetega reageerida
mingitele uut sorti ohtudele.
Toetame tehisintellektisüsteemi pakkujate kohustust teatada tõsisest intsidentidest, mille puhul on tegu
põhiõiguste kaitseks mõeldud liidu õiguse kohaste kohustuste rikkumisega, nende liikmesriikide
turujärelevalveasutustele, kus intsident või rikkumine aset leidis. Vaid sellisel juhul on võimalik
sellistest intsidentidest kogu EL-is õppida, nii on ka võimalikel kahju saajatel võimalik oma õigusi
kaitsta. Määrus peab tagama, et pakkujatel on huvi intsidentidest teavitada ja mitte sellest nõudest
kõrvale hiilida.
Peame oluliseks tagada inimjärelevalve selliselt, et füüsilised isikud saaksid teha Arvestatud
tehisintellektisüsteemi kasutamise ajal selle üle reaalset järelevalvet ning minimeerida või ära seisukohapunktis 5.14.
hoida tervist, ohutust või põhiõigusi ähvardavaid riske.
Inimjärelevalve tehisintellekti süsteemide üle on oluline mh inimväärikuse ja inimkeskse tehnoloogia
tagamiseks. Kõrge riskiga iseõppivate tehisintellektisüsteemide puhul tuleb tagada pidev
inimjärelevalve, tagamaks, et iseõppiv algoritm ei muutu töö käigus õhtulikuks või õigusvastaseks.
IKÜM artikli 22 kohaselt on andmesubjektil õigus, et tema kohta ei võetaks otsust, mis põhineb üksnes
automatiseeritud töötlusel, sealhulgas profiilianalüüsil, mis toob kaasa teda puudutavaid õiguslikke
tagajärgi või avaldab talle märkimisväärset mõju. Üldjuhul ei tohi selline otsus põhineda isikuandmete
eriliikidel ning igal juhul peab olema kehtestatud asjakohased meetmed andmesubjekti õiguste,
vabaduste ja õigustatud huvide kaitsmiseks. Nõustume määrusega kehtestatud nõudega, et suure
riskiga tehisintellektisüsteemide puhul, mis on mõeldud kasutamiseks füüsiliste isikute reaalajas ja
tagantjärele toimuva biomeetrilise tuvastamise jaoks, tuleb tagada, et kasutaja ei tee ega otsusta
süsteemist saadud tuvastamise põhjal midagi, kui seda ei ole kontrollinud ja kinnitanud vähemalt kaks
füüsilist isikut.
Oluline on tagada teavitatud asutuste ja vastavushindamise ning teavitatud asutuste üle Teadmiseks võetud.
järelevalvet teostavate riiklike järelevalveasutuste sõltumatus ja pädevus
tehisintellektisüsteemide arendamise ja rakendamisega seotud põhiõiguste riskide ja
riskijuhtimismeetmete hindamisel, tagades neile ka järelevalve teostamiseks vajalikku ressurssi.
Eestis on siiani tehisintellekti arendamisel ja rakendamisel mõjusid põhiõigustele kitsalt, hinnates
peamiselt mõju vaid isikuandmete ja privaatsuse kaitsele. Selline lähenemine ei ole aga piisav
kaitsmaks kõikide inimeste EL-i õigusega kaitstud põhiõigusi ja -vabadusi, mida tehisintellekti ja
tehisintellektisüsteemide arendamine ja rakendamine võivad negatiivselt mõjutada.
Oluline oleks määruse rakendamise eel tegeleda süsteemsemalt tehisintellekti ja põhiõiguste kaitse
küsimustega ning koolitada tehisintellektiga tegelevaid teadlasi, ametnike, ettevõtjaid, kasutajaid ja
kõiki teisi asjakohaseid huvigruppe põhiõiguste mõjude hindamises ja riskide maandamises. Riigi
põhiõiguste kaitse kohustuste tõhusaks täitmiseks tuleks kaaluda põhiõiguste mõjude hindamise ja
riskimaandamise kohustuse kehtestamist tehisintellektisüsteemide avalike hangete pakkujatele.
Oluline oleks ka senisest enam rõhku panna avalikus sektoris tehisintellektisüsteemide arendamisele
ja rakendamisele, mis aitavad riigil tagada hea halduse põhimõtte teostamist ja põhiõigusi- ning
vabadusi mitte ainult kaitsta, vaid ka edendada.
Tehisintellekti regulatsiooni testkeskkonnad. Arvestatud
seisukohapunktis 5.18.
Toetame määrusega tehisintellekti regulatsiooni testkeskkondade nõuete kehtestamist, et hõlbustada
innovatiivsete tehisintellektisüsteemide arendamist kontrollitud keskkonnas, liikmesriigi pädevate
asutuste otsese järelevalve ja juhendamise all, et oleks tagatud kooskõla määruse nõuetega ja vajaduse
korral muude testkeskkonnas jälgitavate liidu ja liikmesriikide õigusaktidega. Oluline on isikuandmete
kaitseks seostada riiklikud andmekaitseasutused testkeskkonnaga. Nõustume nõuetega tehisintellekti
regulatsiooni testkeskkonnas mujal seaduslikult kogutud isikuandmete töötlemiseks testkeskkonnas
teatavate innovatiivsete tehisintellektisüsteemide arendamiseks ja testimiseks. Artiklis 53 oleks vaja
selgemini määratleda tehisintellekti regulatsiooni testkeskkonna mõistet. Hetkel ei ole arusaadav, kas
tegemist on koostöövormiga, füüsilise keskkonnaga või muuga, ei ole ka selge, kas või millised on
nõuded selliste keskkondade tunnustamiseks, et neile oleks kohaldatavad määruse vastavad erinormid.
Määruse kohaldamine juba turule lastud või kasutusele võetud tehisintellektisüsteemid. Teadmiseks võetud.
Ettepaneku kohaselt kohaldatakse suure riskiga tehisintellektisüsteemide suhtes, välja arvatud artikli
83 lõikes 1 osutatud süsteemide suhtes, mis on turule lastud või kasutusele võetud enne kuupäeva, mil
määrust hakatakse kohaldama, ainult juhul, kui pärast nimetatud kuupäeva muudetakse oluliselt nende
projekti või sihtotstarvet. Seisukohtade kujundamisel tuleks analüüsida, kas see säte peaks kehtima
kõikide suure riskiga tehisintellektisüsteemide suhtes või kas mõningate tehisintellektisüsteemide
suhtes tuleks inimeste tervise ja põhiõiguste kaitseks ette näha üleminekusätteid.
Karistusi puudutav säte ei tohiks teha ettekirjutusi sanktsiooni tüübi ja liigi kohta. Määrus peab Arvestatud
jätma liikmesriikidele piisava paindlikkuse sanktsioonisüsteemi valikul. seisukohapunktis 5.19.
Artikkel 71 kohustab liikmesriike sätestama rikkumiste eest karistused, kaasa arvatud haldustrahvid
(administrative fine), mida kohaldatakse määruse rikkumise korral. Haldustrahv (administrative fine)
annab mõista, et selline trahv määratakse haldusmenetluses. Liikmesriikidele ei jäta sanktsiooniliigi
osas valikut ka määruse ettepaneku artikli 71 lõige 8, mis ütleb, et olenevalt liikmesriikide
õigussüsteemist võib haldustrahve käsitlevaid õigusnorme kohaldada selliselt, et trahve määravad riigi
pädevad kohtud või muud asutused, nii nagu neis liikmesriikides asjakohane. Määruse artikkel 71 lõige
8 puudutab haldustrahvi määravat asutust. Sellest ei tulene aga selget võimalust valida
sanktsiooniliigiks näiteks süüteomenetlus.
Sanktsioonisüsteemide osas peab liikmesriikidel säilima ulatuslik kaalutlusõigus ning väljaspool
ELTL artiklis 83 sätestatud alust ei tohiks õigusaktid teha ettekirjutusi sanktsiooni tüübi ega liigi,
samuti sanktsiooni, kohta ning jätma liikmesriikidele piisava paindlikkuse, et leida enda
sanktsioonisüsteemi sobituv lahendus. Samuti peaks liikmesriikidele jääma paindlikkus
sanktsioneerida vaid teatud raskemaid rikkumisi (ultima ratio põhimõte), s.t iga rikkumine ei pea
olema kohustuslikus korras karistatav. Määruses kohustatakse füüsilistele isikutele sätestama kuni 30
000 000 euro suurusi rahatrahve. Tegemist on ühemõtteliselt karistusõigusliku iseloomuga
regulatsiooniga, mille puhul peaks õiguslikuks aluseks olema ELTL artikkel 83 ning sealjuures peaks
liikmesriigil olema võimalus kasutada ELTL artikli 83 lõikes 3 sätestatud nn hädapiduri õigust.
Sanktsioonid võiksid olla sätestatud sarnaselt masinamääruse ettepaneku artikliga 48.
Määruse rikkumiste teatamine ja nn vilepuhujate kaitse. Teadmiseks võetud.
Nõustume Jaan Tallinna ettepanekuga, et määrus võiks ette näha igaühe õiguse järelevalveasutusele
teatada määruse rikkumisest, sarnaselt nagu on sätestatud IKÜM artiklis 77 andmesubjekti õigus
esitada kaebus järelevalveasutusele, kui andmesubjekt on seisukohal, et teda puudutavate isikuandmete
töötlemine rikub käesolevat määrust. Sel juhul tuleb ka tagada, et rikkumisest teavitaja kaitse laieneks
isikutele, kes teavitavad järelevalveasutusi oma tööandja poolt toime pandud rikkumistest.
2. Haridus- ja Teadusministeerium
Üldises plaanis toetame algatust reguleerida horisontaalselt tehisintellekti kasutamist, tuginedes Teadmiseks võetud.
riskipõhisele lähenemisviisile.
Näeme, et tehisintellektiga seotud riskide ja probleemidega tuleb arvestada kõikide selliseid
süsteeme hõlmavate arenduste puhul (sh nt meie hariduse digiloo projekt) ning et enne arendamist
tuleb selgelt hinnata, mida ja kuidas soovitakse ning mida tehisintellekt saab seejuures pakkuda.
Oluline on vaadelda ka seda, mil määral või kuidas tehisintellekti ise arenema suunatakse, ehk kui
palju vabadust tehisintellektile endale jääb arenemiseks meie enda seatud raamides.
Eelnõus tuuakse välja, et hariduse- ja täiendkoolituse valdkonnas (sh kutseõppe) tuleks Arvestatud
tehisintellekti hinnata kõrge riskiga tehisintellektiks. Siin on küll konkreetsemalt mõeldud sellist seisukohapunktis 5.12.
tehisintellekti, mis hindab inimese oskuste sobilikkust ning võimekust tulemaks toime
konkreetsetes õppeasutustes ning sisuliselt teeb tehisintellekt otsuse, kas isik saab õppekoha või
mitte ning teisel juhul hindab isikuid ja teste. Seega on oluline, et riskide minimeerimisel
arvestataks tõesti konkreetseid kasutusjuhte, mitte ei liigitataks kõrge riski alla terveid valdkondi,
mis takistaks reaalset kasu toovate lahenduste arendamist ja kasutamist.
3. Kaitseministeerium
1. Toetame tehisintellekti lahenduste suuremat kasutamist kaitsevaldkonnas ja tähtsustame Teadmiseks võetud.
NATO rolli selles.
Selgitus: Tehisintellekti (AI) rakendamine kaitsevaldkonnas on perspektiivikas, kuna see võimaldab
anda mitmesuguseid lahinguvälja eeliseid mõjuka vastase üle. NATO on alustanud kaitsevaldkonna
tehisintellekti strateegia väljatöötamist ning muuhulgas näeb see ette ka erinevate AI lahenduste
arendamist. Peame NATO tegevust selles valdkonnas prioriteetseks. Euroopa Liidu (EL) rollina näeme
eelkõige kaitsevaldkonna tehisintellekti rakenduste arendamise soodustamist läbi nende
finantseerimise EL Kaitsefondi ja teiste sobilike ELi finantsinstrumentide kaudu. Tehisintellekti
suurem rahastamine võimaldab arendada tehnoloogiakeskset ja kõrge lisandväärtusega tööstust, sh ka
Eesti kaitsetööstust. Peame vajalikuks, et EL toetab kaitsevaldkonna AI teadus- ja arendustegevust,
kuid tuleb vältida AI kasutuse reguleerimist riigi julgeolekuga seotud valdkondades, mis on vastavalt
Euroopa Liidu lepingu (ELL) art 4 lõikele 2 liikmesriikide ainupädevuses.
2. Eesti ei toeta, et Euroopa Liidu tehisintellekti määrus kohalduks või reguleeriks riikliku Osaliselt arvestatud
julgeoleku, sh riigikaitse tagamiseks vajalikke tehisintellekti lahendusi. Toetame määruse seisukohapunktides 5.5
eelnõus sisalduvat kaitsevaldkonna üldise erandi säilimist eelnõu läbirääkimiste tulemusel ja 5.6
ja soovime selle erandi laiendamist riiklikule julgeolekule ja kõrge riskiga kaitsevaldkonna
tehisintellekti lahendustele.
Selgitus: Määruse artikkel 2 lg 3 välistab kohaldamisalast AI, mis on developed or used exclusively for
military purposes. Sätet tõlgendades saab argumenteerida, et AI süsteem, mida küll ei ole arendatud
militaareesmärkidel kasutamiseks (ja mida võib-olla algselt on kasutatud hoopis tsiviileesmärkidel),
aga mida parasjagu kasutatakse (ainult) militaareesmärkidel, on määruse reguleerimisalast väljas.
Niisiis on kohaldamisalast väljas AI, mida on, kas 1) arendatud või 2) kasutatakse ainult
militaareesmärkidel. Seda arvestades oleme seisukohal, et relvasüsteemid kui militaareesmärkidel
arendatud AI süsteemid on määruse alt väljas ja väljas peaksid olema ka sellised süsteemid, mida
algselt on arendatud tsiviileesmärkidel kasutamiseks, aga mida tegelikult kasutatakse ainult
militaareesmärkidel. See siiski ei välista määruse kohaldumist sellistele AI süsteemidele, mida
kasutatakse paralleelselt/samal ajal militaar- ja ka tsiviileesmärkidel (kahene kasutus), ehk sellistele
süsteemidele määrus kohaldub. Samuti kohaldub määrus julgeolekuasutuste poolt kasutatavatele AI
süsteemidele.
Kaitseministeerium teeb ettepaneku välistada kahese kasutusega AI süsteemid ja julgeolekuasutustega
seotud AI süsteemid määruse kohaldamisalast. Sellel eesmärgil on vajalik lisada määruse preambulisse
viide ELL art 4 lg 2 kohaldumisele (ehk asjaolule, et riigi julgeolekuga seotud küsimused on
liikmesriigi ainupädevuses). Samuti oleks vajalik laiendada määruse art 2 lg 3 sõnastust, välistades
selgesõnaliselt määruse kohaldumisalast AI süsteemid, mida on arendatud või kasutatakse peamiselt
või ainult riigi julgeoleku tagamise eesmärkidel. Selline sõnastus hõlmaks endas nii militaareesmärke
kui ka näiteks julgeolekuasutuste tegevust ning kahese kasutusega AI süsteeme. Samas, kuna
varasemalt on Euroopa Kohus möönnud ELi teisese õiguse kohaldumise vajadust ka riigi julgeolekuga
seotud valdkondades (eelkõige seoses andmekaitse reeglitega), ei pruugi üksnes „riigi julgeoleku“
termini kasutamisest piisata ja õigusselguse tagamiseks võib olla vajalik lisada määruse sätetesse
konkreetseid välistusi selle kohta, millises olukorras või millistele süsteemidele määrus ei kohaldu (nt
julgeolekuasutused).
3. Toetame, et määruse kohaldamisalast on välistatud kaitsevaldkonna tehisintellekti Arvestatud
lahenduste testkeskused. seisukohapunktis 5.18.
Selgitus: Eelnõu artikkel 53 reguleerib tehisintellekti lahenduste testimiseks ja valideerimiseks vajalike
kontrollitud testkeskkondade (AI regulatory sandboxes) loomist. Eesti peab kaitsevaldkonnas selliste
testkeskuste arendamist vajalikuks ja perspektiivikaks, kuna see võimaldab arendada kaitseotstarbelisi
tehisintellekti lahendusi ning liitlassuhteid. Seepärast toetame õigusselguse huvides lisaks üldisele
erandile ka kaitsevaldkonna AI testkeskuste sõnaselget välistamist määruse kohaldamisalast.
4. Toetame, et määruse reguleerimisalast jäävad välja surmavate autonoomsete Arvestatud
relvasüsteemidega (Lethal Autonomous Weapon Systems, LAWS) seotud küsimused. seisukohapunktis 5.5.
Selgitus: Eesti seisukoht on, et tänane rahvusvaheline õigus kohaldub kõigile relvasüsteemidele
ning seda sõltumata nende autonoomsusest. Ka LAWS (Lethal Autonomous Weapons Systems)
kasutamine alluks juba kehtivale regulatiivsele raamistikule ning eelkõige tuleks fookus seada
küsimusele, kuidas on võimalik kehtivat rahvusvahelist õigust LAWS-ile kohaldada tõhusaimal
viisil. LAWS-i diskussioonid toimuvad eelkõige tavarelvade konventsiooni raames. Määruse
eelnõu art 2 lg 3 Euroopa komisjoni pakutud kujul välistab määruse kohaldumise LAWS-ile.
5. Toetame, et kaitsevaldkonna tehisintellekti lahenduste väljatöötamisel kohalduvad eetilised Arvestatud
põhimõtted töötaks välja NATO. seisukohapunktis 5.5.
Selgitus: NATO prioriseerib tehisintellekti kasutamist kaitsevaldkonnas ning peab seda oluliseks
tehnoloogiaks liitlaste tehnoloogilise ülekaalu säilitamisel. NATO on välja töötamas strateegiat
tehisintellekti kasutuselevõtuks ja arendamiseks ning see katab ka eetilisi põhimõtteid. Dubleerimise
vältimiseks toetab Eesti, et kaitsevaldkonna tehisintellekti lahenduste eetilisi küsimusi reguleerib
NATO.
4. Maaeluministeerium
Põllumajandustehnikate puhul jääb tehisintellekti eelnõu reguleerima nende ohutusvarustust. Kui 1. Teadmiseks võetud.
peatüki 6. artikkel täpsustab, et igasugune ohutustehnika on kõrge riskiga valdkond ning jääb eelnõu
kohaldamisalasse, siis soovime jätta põllumajandustehnika selle regulatsiooni alt välja. Seda tüüpi
Masinamääruse
kohaselt
ohutustehnika eesmärk on selgelt tuvastada inimesed (või loomad) ning vältida neile füüsiline otsa kvalifitseeruvad kõrge
sõitmine. Leiame, et see võiks regulatsiooni alt välja jääda kuna: riskiga masinateks
masinad, mis
põllumajandustehnikat kasutatakse piiratud alal, kus võõrastel isikutel puudub juurdepääs, sisaldavad
ning tehnikaga vahetus kokkupuutes olevad isikud on väljaõppinud personal; ohutusfunktsioonide
põllumajandustehnikat tootvad ettevõtted muidu ei pruugi jääda üldse selle regulatsiooni tagamise tarkvara, sh
kohaldamisalasse ning kui ettevõttel on valida, kas näiteks lisada mehhaaniliste tehisintellektipõhiseid
ohutusvahendite kõrvale dubleerima veel mõni tehisintellekti baasil ohutust tagav süsteeme ning
tehnoloogia, siis täiendav halduskoormus võib sundida sellest loobuma; ohutusfunktsioone
eelnõu eesmärk on reguleerida valdkondi, kus toimub kõrge riskiga suhtlus tehisintellekti ja tagavate
inimeste vahel nende mõjutamiseks. Põllumajandustehnika puhul seda ei ole. tehisintellektipõhiste
süsteemidega
varustatud masinad.
Tõdeme, et
tehisintellekti ja
masinatoode määruse
kohaldamisala on üpris
lai, kuid eelnõu
läbirääkimiste käigus
võib see kitseneda.
Põllumajandustehnikate puhul jääb tehisintellekti eelnõu reguleerima nende ohutusvarustust. Teadmiseks võetud.
Kui 1. peatüki 6. artikkel täpsustab, et igasugune ohutustehnika on kõrge riskiga valdkond ning Masinamääruse
jääb eelnõu kohaldamisalasse, siis soovime jätta põllumajandustehnika selle regulatsiooni alt kohaselt
välja. Seda tüüpi ohutustehnika eesmärk on selgelt tuvastada inimesed (või loomad) ning vältida kvalifitseeruvad kõrge
neile füüsiline otsa sõitmine. Leiame, et see võiks regulatsiooni alt välja jääda kuna: riskiga masinateks
põllumajandustehnikat kasutatakse piiratud alal, kus võõrastel isikutel puudub masinad, mis
juurdepääs, ning tehnikaga vahetus kokkupuutes olevad isikud on väljaõppinud sisaldavad
ohutusfunktsioonide
personal;
tagamise tarkvara, sh
põllumajandustehnikat tootvad ettevõtted muidu ei pruugi jääda üldse selle tehisintellektipõhiseid
regulatsiooni kohaldamisalasse ning kui ettevõttel on valida, kas näiteks lisada süsteeme ning
mehhaaniliste ohutusvahendite kõrvale dubleerima veel mõni tehisintellekti baasil ohutusfunktsioone
ohutust tagav tehnoloogia, siis täiendav halduskoormus võib sundida sellest loobuma; tagavate
eelnõu eesmärk on reguleerida valdkondi, kus toimub kõrge riskiga suhtlus tehisintellekti ja tehisintellektipõhiste
inimeste vahel nende mõjutamiseks. Põllumajandustehnika puhul seda ei ole. süsteemidega
varustatud masinad.
Tõdeme, et
tehisintellekti ja
masinatoode määruse
kohaldamisala on üpris
lai, kuid eelnõu
läbirääkimiste käigus
võib see kitseneda.
5. Rahandusministeerium
Finantssektorit puudutavad ettepanekud on mõistlikud ja asjakohased. Eeskätt liigitatakse Teadmiseks võetud.
finantsteenuste sektoris suure riskiga tehisintellektisüsteemideks tehisintellektisüsteemid, mida
kasutatakse füüsilistele isikutele krediidihinnangu andmiseks või nende krediidivõimelisuse
hindamiseks, sest need panevad paika inimese juurdepääsu finantsvahenditele.
Finantsteenuseid käsitlevate liidu õigusaktidega reguleeritud finantsasutuste poolt turule lastud,
kasutusele võetud või kasutatavate tehisintellektisüsteemide puhul pakutakse turujärelevalveasutuseks
asutust, kes vastutab õigusaktide kohaselt nende asutuste finantsjärelevalve eest. Õigusnormide ja
nõuete sidusa kohaldamise ja täitmise tagamiseks on ettepanek finantsteenuseid käsitlevate õigusaktide
järelevalve ja täitmise tagamise eest vastutavad ametiasutused, sh teatud juhul Euroopa Keskpank,
määrata pädevateks asutusteks. Finantsteenuseid käsitlevad liidu õigusaktid sisaldavad sisemise
juhtimissüsteemi ja riskihalduse kohta käivaid õigusnorme ja nõudeid, mida kohaldataks ettepaneku
järgi reguleeritud finantsasutuste suhtes nende teenuste pakkumise käigus, sh tehisintellektisüsteemide
puhul. Järjepidevuse suurendamiseks integreeritakse tehisintellektisüsteemide vastavushindamine ja
ettepanekust pakkujatele tulenevad menetluskohustused, sh vastavushindamismenetlus, pakkujate
riskijuhtimise ja turustamisjärgse seire menetluslikud kohustused, krediidiasutuste tegevuse alustamise
tingimusi ning usaldatavusnõuete täitmise järelevalvet käsitleva direktiivi (CRD) menetlustesse.
Kattuvuse vältimiseks kavatasetakse ette näha piiratud erandid seoses pakkujate
kvaliteedijuhtimissüsteemidega ja seirekohustusega.
6. Siseministeerium
Tehisintellekti (edaspidi ka AI) arendamine on üks digiühiskonna arengukava prioriteetseid valdkondi Teadmiseks võetud ja
ning AI ise on üks võimalikest vahenditest, mille abil automatiseerida protsesse ning luua uusi arvestatud
teenuseid. AI valdkonna reguleerimist on Siseministeerium toetanud ka riigisiseselt seisukohapunktis 5.6.
(Justiitsministeeriumi Algoritmiliste süsteemide mõjude reguleerimise väljatöötamise kavatsus ehk
„krati VTK“). Toetame ka EL-i ülese vastavushindamise läbiviimist, kvaliteedikontrolli ja järelevalvet
peale kasutuselevõttu. Samuti on reguleerimisel mõistlik riskipõhine lähenemine lähtuvalt AI
eesmärgist, mitte tehnoloogiast. Samuti pooldame teatud AI süsteemide keelustamist.
Siseministeerium näeb aga Euroopa Liidu regulatsiooni ettepanekus järgmisi olulisi probleeme:
Arvestatud
1. Tehisintellekti definitsioon seisukohapunktis 5.3.
Tehisintellekti ei ole regulatsioonis defineeritud, vaid on antud tehnoloogiate loetelu, mis käivad
regulatsiooni alla. Seejuures on üheks selliseks tehnoloogiaks nimetatud statistilised („statistical
apporaches“), loogika- ja teadmispõhised lähenemised ning otsingumootorid (Annex I (c)). Selline
käsitlus väljub seni mõistetud tehisintellekti raamidest – regulatsiooni lisas I toodud tehnoloogia
nimekirja mahuvad praktiliselt kõik IT süsteemid. Definitsioon vajab kindlasti kitsamat piiritlemist.
2. Käsitlusala ja õiguslik alus Arvestatud
seisukohapunktis 5.6.
Regulatsiooni praegune fookus on suunatud peamiselt avalikus sektoris kasutatavatele tehisintellekti
lahendustele, mis on suures osas kvalifitseeritud kõrge riskiga süsteemideks. Siseministeeriumi
hinnangul ei ole aktsepteeritav regulatsiooni läbiv joon, kus täiendavaid nõudeid esitatakse AI
süsteemidele just siis, kui nende eesmärgiks on avalikud huvid (õiguskaitse, piirihaldus), samas
sarnastele süsteemidele erasektoris või erakasutuses esitatakse vähem nõudeid. Samaväärseid
piirangud ei ole näiteks seatud AI lahendustele, mis mõjutavad inimeste igapäevaseid otsuseid nt
sotsiaalmeedias, otsingumootorites, veebipoodides jne kasutusel olevad algoritmid, mis filtreerivad
kasutajale nähtavat sisu. Need ei ole regulatsiooni alusel kõrge riskiga AI süsteemid ning neile
piiranguid ei seata, samas kui pea kõik õiguskaitse, avaliku korra tagamise ja sisejulgeolekuga seotud
valdkonnad on kvalifitseeritud kõrge riskiga.
Õiguskaitse- ning julgeolekuasutustele peab võimaldama tehnoloogiate arenemist ja kasutamist teatud
raamistiku sees, mitte selgelt midagi keelama ja piirama. 8. juunil 2021. a toimunud justiits- ja
siseküsimuste nõukogu kohtumisel leiti, et komisjoni ettepanek ei ole õiguskaitse vaatest tasakaalus.
Muuhulgas nähti ohuna seda, kui kiirelt digitaliseeruvas maailmas lastakse tekkida olukorral, kus
õiguskaitseasutused jäävad tehnoloogia arengust maha, sest nende jaoks on õiguskeskkond liialt
keeruline; kurjategijad tehnoloogia arengust maha ei jää.
Eeltoodust tulenevalt tuleks tõsiselt kaaluda õiguskaitseasutustele AI osas oma õigusakti loomist (nagu
tehti isikuandmete kaitse määruse ja direktiiviga), mis tagaks meie valdkonnas huvide kaitse. Siinkohal
juhime tähelepanu, et regulatsiooni õiguslikuks aluseks on Euroopa Liidu toimimise lepingu artikkel
114, mille alusel on liidul võimalik reguleerida siseturgu. Vajab täiendavat analüüsi, kas sellise aluse
puhul on võimalik anda komisjonile pädevusi valdkonnas, mis on seotud õiguskaitse ja riigi
julgeolekuga, mis on liikmesriikide ainupädevuses.
3. Biomeetria kasutamine Selgitatud.
Biomeetria lahendused on jagatud keelatud AI süsteemide ning kõrge riskiga AI süsteemide alla. Eraõiguslikele
Üldiselt paiknevad biomeetriat reguleerivad sätted regulatsioonis väga hajutatult, mistõttu vajab see turvafirmadele on
teema oluliselt konkreetsemat ja koondatud käsitlust. Teeme ettepaneku vaadata koostöös valdkonna biomeetrilise
ekspertidega üle kogu biomeetria osa regulatsioonis ning seada samad tingimused kõigile AI kaugtuvastamise
süsteemidele, sõltumata sellest, kas need on kasutuses avalikus sektoris, õiguskaitse valdkonnas või süsteemi kasutamine
erasektoris (nt turvafirmad). Konkreetsete kitsaskohtadena toome välja järgneva: keelatud, sest nemad ei
ole artikli 3 punkti 40
3.1. Keelatud on spetsiifiliselt avalikus ruumis reaalajas biomeetria kaudu isiku tuvastamine
kohaselt
õiguskaitse eesmärgil, välja arvatud kindlatel eesmärkidel – otsese ohu ärahoidmine, kuriteoohvri
„õiguskaitseasutus“ ja
otsimine, raskete kuritegude toimepanijate tuvastamine: The use of ‘real-time’ remote biometric
nende tegevus ei ole
identification systems in publicly accessible spaces for the purpose of law enforcement, unless
sama artikli punkti 41
and in as far as such use is strictly necessary for one of the following objectives (…)
kohaselt „õiguskaitse“.
Sellise sõnastuse tulemusel ei ole eesmärgil, mis nimekirjast välja jäävad, õiguskaitse- ega Euroopa
julgeolekuasutustel lubatud reaalajas biomeetriat kasutada, samas kui nt erasektoril selline Andmekaitsenõukogu
õigus jääb. Muudel juhtudel, ja seega teistele isikutele, nt turvafirmadele, on biomeetria juhise kohaselt tohib
kasutamine lubatud, kui täidetakse nõudeid kõrge riskiga tehisintellekti süsteemidele. erafirma kasutada
näotuvastussüsteeme
Vajab selgemat ja lihtsamat käsitlust, millistel juhtudel võib märgenduste abil saadud andmeid vastavalt IKÜM artikli
kasutada. Lõplik nimekiri erandjuhtudest võib olla liikmesriikide jaoks liialt piirav, nt ei ole 9 lõige 2 punktile a
regulatsiooni alusel selge, kas riigi julgeoleku eesmärgil AI kasutamine on keelatud, kuna ei mahu üldjuhul vaid
„õiguskaitse“ alla või lubatud, kuid kõrge riskiga. andmesubjektide
nõusoleku alusel. Muus
3.2. Siseministeeriumi jaoks jääb osaliselt arusaamatuks ka reaalajas biomeetria kasutamise osas liigituvad
rakendamise regulatsioon. Komisjon leiab, et meie ühiskonnas ei ole kohta massjälgimisele ehk biomeetriliste
reaalaja biomeetria kaudu inimeste jälgimine avalikus ruumis on keelatud. Samas aga komisjon tuvastamise süsteemid
selgitab: „Seda võib siiski kasutada vahetu terroristliku ohu korral näiteks, aga selline kasutus III lisa kohaselt suure
vajab igal konkreetsel juhul kohtu luba.“ Aegkriitilisust silmas pidades ei ole asjakohane loa riskiga süsteemide
taotlemise kohustus pädevalt asutuselt, tekitades asjatut viivitust. Vahetule ohule reageeritakse hulka.
viivitamatult. Tagantjärele kohtu loa taotlemine on samas mõistetamatu lisabürokraatia, kuna see
ei pööra tagasi juba toimunud identifitseerimist. Alternatiiv oleks siin järelevalve näiteks logidele
tuginedes ning täiendava dokumentatsiooni pidamine.
3.3. Reaalajas eraldiseisvate biomeetria abil identifitseerivate süsteemide andmete kasutamine Teadmiseks võetud.
eeldab videopildi pidevat reaalaajas märgendamist ja saadud andmete võrdlemist vastu juba
olemasolevaid biomeetria andmeid. Vajab üle täpsustamist, kas biomeetrilise andmekogu
loomine ning reaalajas videopildi märgendamine, mis on eeldusteks identifitseerimisele, on
regulatsiooni järgi lubatud.
3.4. Dokumendimenetlust ei ole regulatsioonis kaetud, samas kui dokumendihalduse
tulevikulahendused on biomeetria põhised. Eelnõus ega preambulas sellele viidet ei ole, seega
soovime teada, kas eelnõu autorid on teadlikult jätnud skoobist välja isikut tõendavate
dokumentide arengu ja selle biomeetrilised komponendid ning kontrollvõimekused? Seejuures
juhime tähelepanu Euroopa Parlamendi ja nõukogu määrusele (EL) 2019/1157, 20. juuni 2019,
liidu kodanike isikutunnistuste ning vaba liikumise õigust kasutavatele liidu kodanikele ja nende
pereliikmetele väljaantavate elamislubade turvalisuse suurendamise kohta (EMPs kohaldatav
tekst). Käesolevalt ei ole eelnõus sellega seotust markeeritud.
4. Muud kõrge riskiga AI süsteemid Osaliselt arvestatud
Leiame, et kõrge riskiga AI süsteemide loetelu regulatsiooni lisas III on liiga lai – kui regulatsiooni seisukohapunktis 5.2.
eesmärk on riskipõhine lähenemine, siis toodud nimekiri sisaldab pea kõigi võimalikke AI süsteeme.
Kiiresti areneva tehnoloogia tingimustes peaks olema regulatsioon võimalikult tulevikukindel ning
paindlik.
Jääb ka arusaamatuks, miks on eristatud „Biometric identification and categorisation of natural
persons“, „Law enforcement“ ja „Migration, asylum and border control management“ just sellisel
kujul. Näiteks on avalike teenuste all mainitud süsteemid, mis aitavad välja saata hädaaabi. Kas aga
politsei vastamine väljakutsele käib samuti siia alla või on see „law enforcement“? Samuti on segane,
kas ja millise punkti alla kvalifitseerub isikusamasuse kontroll dokumendimenetluses. Lisa III punkt
7 c katab masinõppel põhineva tehnoloogia kasutuse dokumendikontrollis, kuid ei ole selge, kuhu
kvalifitseeruks ametiasutuse poolne AI põhine kontroll biomeetriliste andmete töötluses
dokumendimenetluses. VVTP-s on kohustus analüüsida ka isiku kaugtuvastamise võimalusi, mis
eeldab AI põhineva tehnoloogia kasutuselevõttu. Ka siin ei ole selgust, kas ja millise lisa III toodud
eesmärgi alla see kvalifitseeruks.
5. Varasemad Komisjoni uuringud Teadmiseks võetud.
Euroopa Komisjon on varasemalt tellinud mitmeid teostatavusuuringuid AI kasutamiseks, näiteks Määrust tuleks
rakenduse loomiseks, mis aitaks tuvastada ning ennustada rändevoogusid Euroopa Liitu ning kohaldada ka liidu
jätkurännet EL-i sees, samuti rakendusuuring AI kasutamise võimalustest piirikontrolli, migratsiooni institutsioonide,
ja sisejulgeoleku valdkonnas. Soovime teada, kas uuringute alusel plaanitavad AI süsteemid organite ja asutuste
vastaksid eelnõus toodud tingimustele ning kas eelnõu väljatöötamisel on nendega arvestatud. suhtes, kui need
tegutsevad
tehisintellektisüsteemi
pakkuja või kasutajana.
6. „Regulatoorne liivakast“ Arvestatud
Regulatsiooni positiivseks aspektis on võimaluse loomine kasutada reaalseid andmeid, sh seisukohapunktis 5.18.
isikuandmeid, tehisintellekti testimisel ja treenimisel, mis hetkel on GDPRi järgi keelatud. Selline
võimalus on loodud nime all „regulatroy sandbox“, mille puhul tekivad samuti lisaküsimused:
Jääb selgusetuks, kas tegemist on õigusnormide kogumiga või tehnoloogilise liivakasti ehk
eraldiseisva testkeskkonnaga.
„Liivakast“ on lubatud vaid väga piiravatel tingimustel ning üksikute süsteemide puhul, näiteks
ei ole selge, kas seda saab kasutada liiklusjärelevalves või hädaabiteadete menetlemisel.
Isikuandmetele ei tohi võimaldada ligipääsu kolmandatele osapooltele, mis välistab välised
arendajad.
Regulatsioon näeb ette, et luuakse veel täiendavalt rakendusaktid „liivakasti“ kasutamisel, mis
suurendab bürokraatiat veelgi.
7. Riskide hindamine, süsteemide sertifitseerimine Teadmiseks võetud.
Regulatsioon näeb selle rakendamiseks ette riskide hindamise süsteemi, EL-i ülese andmebaasi ning
AI süsteemide registreerimise ja sertifitseerimise protsessi. Siinkohal soovime rõhutada järgnevat:
7.1. Riski hindamise protsess on hetkel väga bürokraatlik, aeganõudev, ning samas subjektiivne. AI
süsteemi looja peab ise hindama, kas tema loodav süsteem on kõrge riskiga või mitte. Kuigi
teoreetiliselt on seatud nõudmiste täitmine võimalik, on aja- ja ressursikulu nii suur, et kaotab
ära AI süsteemist saadava võimaliku kasu.
7.2. Sooviksime teada, millist asutust planeeritakse Eestis tegema antud määruse raames järelevalvet Teadmiseks võetud.
ja kontrolli. Regulatsioon toob riigile kaasa olulisi lisakohustusi, milles näeme probleemi nii
ressursi kui vastava spetsiifilise teadmisega isikute leidmisel. Lisaks algsele hinnangu andmisele
on kohustus süsteeme regulaarselt monitoorida, mis nõuab täiendavat ressurssi.
7.3. Kuna regulatsiooni praeguse käsitlusala kohaselt puudutab see väga mitmeid Siseministeeriumi Arvestatud
süsteeme, kaasneb sellega haldusalas kasutusel olevate andmekogude põhimääruste muutmise ja mõjuanalüüsis.
uuendamise vajadus. Lisaks tekib kohustus teostada süsteemidele täiendav riskianalüüs (artikkel
9), kontroll andmete kasutamise üle (artikkel 10) ning järelevalvet (artikkel 14). Nende punktide
täitmiseks ja tagamiseks aga tekib vajadus täiendavate ametikohtade järele ka arenduse tellija
poolt, millega regulatsioonis arvestatud ei ole.
7.4. Eeldame, et MKM on kõige pädevam hindama regulatsiooni mõju Eesti it-sektorile ja näiteks
idufirmadele ning seda, kas mõjuhinnangus toodud mahuhinnang regulatsiooni nõuete täitmisele
(6000-7000 eurot projekti kohta) on adekvaatne. Nõudmiste täitmine võib olla lihtsam
rahvusvahelistele suurkorporatsioonidele, kuid on suur tõenäosus, et Eesti it-sektor ei ole
võimeline nendega konkureerima.
7. Sotsiaalministeerium
Leiame, et usaldusväärse, inimkeskse ja põhiõiguseid arvestava ning väärtustava tehisintellekti Arvestatud
arendamisel peab tagama võrdse kohtlemise põhimõtte järgimise, samuti pidama silmas laiemat seisukohapunktis 5.4.
võrdsete võimaluste ja soolise võrdõiguslikkuse edendamise eesmärki, mis hõlmab ka
tehisintellekti kasutavate lahenduste kaudu sooliste ja muude stereotüüpide leviku aktiivset
tõkestamist.
Tervitame, et määruse eelnõu pöörab tähelepanu ka tehisintellektiga seonduvatele võimaliku soo või
muu tunnuse (sh rassiline ja etnilise päritolu, vanus, puue, seksuaalne sättumus) tõttu diskrimineerimise
ja laiemalt põhiõiguste rikkumisega seotud riskidele, samuti vajadusele kasutada representatiivseid
andmekogusid, et tagada kõigi sugu, etnilist päritolu ja muid võimalikke diskrimineerimise aluseid
puudutavate asjakohaste aspektide kajastus nendes andmekogumites. Sellega aidatakse kaasa EL
põhiõiguste harta diskrimineerimiskeelu ja soolise võrdõiguslikkuse põhimõtete rakendamisele
tehisintellekti kasutavates lahendustes ning nende abil. Samuti toetatakse seeläbi eelkõige tööelus ning
kaupade-teenuste kättesaadavuse tagamiseks direktiividega kehtestatud naiste ja meeste ning erinevate
vähemusgruppide esindajate võrdse kohtlemise nõude täitmist.
Oleme siiski mures, et määruses esitatud riskide hindamise regulatsioon on ühest küljest küll
detailirohke, teisest küljest ei tarvitse see tagada piisavat selgust ning seeläbi ka soovitud ja vajalikku
tulemust. Nii peaks EL tasandi regulatsioon andma selge sõnumi selle kohta, milliseid riske (sh milliste
inim- ja põhiõigustega seonduvaid riske) tuleb erinevate lahenduste puhul hinnata, kuidas seda teha,
kuidas tuvastatud riske maandada, kellele peab riskianalüüs ja nende maandamiseks ellu viidud
meetmete info kättesaadav olema. Sealhulgas on oluline, millisele infole ja millises vormis peaks
olema ligipääs lõpptarbijal, et suurendada nende võimekust tajuda oma õiguste võimalikku
rikkumisohtu ning pöörduda vajaduse korral rikkumise väljaselgitamiseks ning oma õiguste kaitseks
asjakohaste institutsioonide poole. Regulatsiooni ühetaolise rakendamise tagamiseks ja asjakohase
kontrolli lihtsustamiseks ning ühtlustamiseks oleks asjakohane töötada EL tasandil välja ühtne mudel
tehisintellektil põhinevate lahendustega põhiõigustele avaldatava mõju, sh (võimalike) kaasnevate
riskide väljaselgitamiseks.
Tehisintellekti kasutavate lahenduste puhul on võrdse kohtlemise tagamiseks ja võrdsete võimaluste
ning soolise võrdõiguslikkuse edendamise nõuete täitmiseks oluline roll tehisintellektisüsteemide
arendamiseks kasutatavate andmete kvaliteedil, mis aitab maandada tehisintellekti süsteemide abil
tehtavate otsuste kohatu kallutatuse (bias) riski ning ennetada nende kaudu ajaloolise ja ka tänapäeval
levinud ühiskondliku ebavõrdsuse taastootmist ning võimendamist. Kui kogutud ja kasutatud andmed
on sooliselt või muu tunnuse alusel kallutatud, on ka andmete kasutamise tulemus, nende põhjal tehtud
otsus, kallutatud. Seda silmas pidades eeldab andmete kvaliteedi nõude täitmine erinevate
ühiskonnarühmade esindajate (sh naiste ja meeste) proportsionaalset esindatust andmekogumis (sh
korrigeerimist juhtudel, mil andmed, sh nt ajaloolised andmed, mille pealt tehisintellekti õpetatakse,
ei taga proportsionaalset esindatust). Näiteks on teada tehisintellektil põhinevate lahenduste
kasutamisest juhtumeid, kus algoritm eelistab vastuvõtu- või värbamisvalikute tegemisel
meeskandidaate, sest sellist kallutatust sisaldavad ka varasemad värbamisotsuste andmed, mida AI
lahenduste tarbeks kasutati. Selline kallutatus kahjustab tugevalt halvemasse olukorda asetatud
kandidaatide põhiõiguseid, haridus- ja tööalaseid võimalusi ning seeläbi nii lühemas kui pikemas
perspektiivis ka nende eneseteostuse võimalusi ning majanduslikku hakkamasaamist ja heaolu.
Kasutatavate andmete kvaliteet on kriitilise tähtsusega ka tervishoiusektoris, kus jätkuvalt esineb
soopõhiseid andmelünki nt naistel ja meestel esinevate sümptomite seostamises terviseprobleemide
ja diagnoosidega, kuna naistel ja meestel esinevad sümptomid võivad erineda. Kui tehisintellektil
põhinev lahendus ei arvesta selliseid erinevusi, võib sellega kaasneda ebakorrektne diagnoos.
Hääl-, näo- jm tuvastusprogrammides tehisintellekti lahenduste kasutamisel on oluline tagada, et
tuvastamise õpetamisel/treenimisel ning testimisel oleksid esindatud võimalikult paljud erinevad
ühiskonnarühmade esindajad, sh naised ja mehed, erineva nahavärviga inimesed jne, sest senine
praktika näitab, et vastasel juhul töötab lahendus teatud rühmade esindajate puhul halvemini, mis võib
tuua kaasa nende õiguste rikkumise.
Juhime tähelepanu, et ka Euroopa Komisjoni soolise võrdõiguslikkuse strateegias aastateks 2020-
2025 (https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52020DC0152) pööratakse
eraldi tähelepanu tehisintellekti valdkonna seostele soolise võrdõiguslikkusega. Muuhulgas
nenditakse, et kuigi tehisintellekt võib aidata lahendada paljusid ühiskondlikke väljakutseid, kaasneb
sellega ka soolise ebavõrdsuse suurendamise risk. Kui algoritmid ja seonduv masinõpe ei ole piisavalt
läbipaistvad ja robustsed, siis kaasneb nendega sooliste eelarvamuste/kallutatuse kordamise,
võimendamise või neisse panustamise risk, millest programmeerijad ei tarvitse teadlikud olla või mis
tulenevad valitud andmetest. Samuti rõhutatakse, et naised peavad saama osa tehisintellekti
arendamisest teadlaste, programmeerijate ja kasutajatena.
Euroopa Nõukogu, kuhu kuuluvad ka kõik EL liikmesriigid, Ministrite Komitee 29. märtsi 2019. a.
seksismi ennetamise ja selle vastu võitlemise teemalise soovituse Rec(2019)1 lisas
(https://rm.coe.int/cm-rec-2019-1-on-preventing-and-combating-sexism/168094d894) olevas juhises
viidatakse, et algoritmide kasutamine võib ühiskonnas levinud soolisi stereotüüpe edasi kanda ja
tugevdada. Negatiivse mõju vältimiseks ja selgitamaks välja, kuidas tehisintellekt saaks aidata
ühiskonnas soolisi lõhesid ja seksismi kaotada, on vajalik lõimida soolise võrdõiguslikkuse aspekt
kõigisse tehisintellekti puudutavatesse poliitikatesse, programmidesse ja uuringutesse. Asjakohaseks
meetmeks on naiste ja tüdrukute osaluse suurendamine IKT valdkonna (üli)õpilaste, töötajate ja
otsustajate seas. Andmepõhiste tööriistade kujundamisel, arendamisel, väljatöötamisel tuleks arvestada
soopõhist dünaamikat. Vajalik on teadlikkuse tõstmine võimalikust soolisest kallutatusest
suurandmetes, läbipaistvuse suurendamine ja vastutuse lahenduste parendamine.
2020. a. andis tehisintellekti ja soolise võrdõiguslikkuse teemalise arvamuse ka Euroopa
Komisjoni meeste ja naiste võrdsete võimaluste nõuandekomitee
(https://ec.europa.eu/info/sites/default/files/aid_development_cooperation_fundamental_rights/opinio
n_artificial_intelligence_gender_equality_2020_en.pdf
8. Välisministeerium
- Kavandatav ELi määrus on samm õiges suunas – EL peab olema tehnoloogia eetilise ja Arvestatud
vastutustundliku arendamise ja kasutamise pioneeriks ja globaalsete standardite loojaks. seisukohapunktides 5.3
- Komisjoni määrus aitab kaasa uue tehnoloogia suhtes usalduse loomisele. ja 5.7.
- Tark reguleerimine tõstab EL konkurentsivõimet, aga ülereguleerimine vähendaks seda.
- Riskipõhine lähenemine on õigustatud, sest aitab tagada proportsionaalsust.
- Tehisintellekti (AI) definitsioon on liiga lai; selle alla mahuvad ka süsteemid, mis ei vaja sellist
reguleerimist.
- Kõrge riskiga süsteemide kriteeriumid pole piisavalt selged.
- ELi määrus ei kata õigustatult kõiki valdkondi (nt AI-d kasutavad lennukid ja autod ning
militaarne kasutus). Samas katab (art 52) kahest kasutust.
- Komisjoni määrus ei tohiks ebaproportsionaalselt pärssida seaduslikku AI kasutamist õiguskaitse Arvestatud
valdkonnas. seisukohapunktis 5.6.
9. Tarbijakaitse ja Tehnilise Järelevalve Amet
TTJA on nõus, et tehisintellekt on kiiresti arenev tehnoloogia valdkond, mis võib luua kasu nii Teadmiseks võetud ja
majanduslikus, keskkonnalases kui ka sotsiaalses sektoris. Läbi uute lahenduste, toimingute arvestatud
optimeerimise ja isikupärastatud teenuste pakkumise võib tehisintellekti kasutamine toetada seisukohapunktis 5.1.
majanduslikku ja keskkonnalast arengut ning pakkuda Euroopa ettevõtetele paremaid konkurentsi
eeliseid.
Samal ajal tuleb silmas pidada tehisintellektiga kaasnevaid ohtusid ja riske nii üksikisikutele kui ka
ühiskonnale. Seetõttu on tervitatav, et tehisintellekti üha enama kasutusele võtmisega on EL võtnud
pigem tasakaalustatud lähenemisviisi, eesmärgiga tagada, et eurooplased on toetatud tehnoloogiast,
mis vastab EL-i väärtutele, põhiõigustele ja põhimõtetele.
TTJA toetab määruses lähtutud riskipõhist lähenemisviisi, kus igale kategooriale rakenduvad Arvestatud
konkreetsed nõuded. Loodavatest nõuetest on kasu nii ettevõtetele kui ka tarbijatele. Ettevõtetele seisukohapunktis 5.6.
luuakse selged, EL-i väärtustest lähtuvad nõuded, mille järgimisel on tagatud ka õiguskindlus. Samuti
saab olema tagatud tarbijate ohutus ja nende põhiõiguste kaitse.
On tervitatav, et EL tehisintellekti määruse ettepanek tõhustab veelgi enam tarbijaõiguste kaitset,
sätestades selged piirid ja kohustused tehisintellektisüsteemidele, milledega tarbijad oma igapäevases
elus kokku puutuvad.
Tarbijakaitse vaates on enam puutumust kolmandas grupis (piiratud riskiga süsteemid) olevate Arvestatud
tehisintellektisüsteemidega. On oluline, et tarbijad saavad teenust kasutades teavet ausalt, ja selgelt. seisukohapunktis 5.15.
Kuna ettevõtete poolt üha enam võetakse kasutusele juturoboteid, siis on oluline, et tarbija oleks
teadlik, et temaga suhtleb robot, mitte inimene. Konkreetsete läbipaistvusnõuete kehtestamine on
vajalik, millega tagatakse kõrgem tarbijate usaldus ja välistatakse võimalikud eksitamised.
Kõnealuse määruse alusel kohustatakse liikmesriike määrama vähemalt üks määruse täitmise üle Arvestatud
järelevalvet teostav pädev asutus. Juhul kui riikliku järelevalvet asutuse rolli hakkaks täitma TTJA, siis seisukohapunktis 5.17.
märgime, et antava rolliga peaks kaasnema ka täiendav ressurss, mille määra on hetkel keeruline
hinnata. Lisaks eeldab pädeva järelevalve asutuse rolli täitmine IT-alase kompetentsi tõstmist.
10. Advokatuuri intellektuaalseomandi ja IT-õiguse komisjon
Tehisintellekti määruse eelnõu on Euroopa Parlamendi ja Nõukogu ettepanek tagamaks tehisintellekti Teadmiseks võetud ja
arendamisel ja kasutuselevõtul põhiõiguste kaitse, inimeste turvalisuse ning usalduse, eriti mis arvestatud
puudutab tehisintellektisüsteeme, millega on seotud suur risk. Kuivõrd tehisintellekt on kiirelt arenev seisukohapunktis 5.1.
tehnoloogiaharu, mis võib luua mitmesuguseid majanduslikke ja ühiskondlikke hüvesid kõigis
tööstusharudes ja kogu ühiskonnas, on kindlasti tegu vajaliku ja teretulnud regulatsiooniga.
Alljärgnevalt esitame kommentaarid tehisintellekti määruse eelnõu kohta.
1. Tehisintellekti määruse eelnõus kasutusel olevad mõisted on kas ebamäärased või Arvestatud
sisustamata seisukohapunktis 5.3.
Kuigi enamus mõisteid, mis on tehisintellekti määruse eelnõus kasutusel, on artiklis 3 defineeritud,
jäävad mõned definitsioonid ebaselgeks või liiga üldiseks. Lisaks on eelnõus kasutusel mitu mõistet,
mis on jäänud sisustamata. Meie hinnangul pole tegu piisavalt igapäevaste ega üldtuntud mõistetega,
et neid eelnõus defineerimata jätta.
1) Tehisintellekt määruse eelnõu artiklis 3(1) toodud „tehisintellektisüsteemi“ definitsioon võib
endas hõlmata igasugust tarkvara, mis kasutab ka statistilisi lähenemisviise ning otsingu- ja
optimeerimismeetodeid. Klassikalises mõttes ei loeta kõiki selliseid tarkvarasid
tehisintellektideks. Juhul, kui eelnõu eesmärk ongi laiendada tehisintellektisüsteemide mõistet,
siis pole seda muuta vaja. Samas, sellise laia definitsiooni korral hakkaks tehisintellekti määrus
reguleerima tarkvarasid, mida nende tarkvarade loojad, omanikud ega kasutajad ise ei pea
põhjendatult tehisintellektideks, sest definitsioon hõlmab suurt osa algoritmilistest tarkvaralistest
lahendustest. Selline kõikehõlmav regulatsioon võib osutuda õiguspärase ootuse kontekstis
ootamatuks ja põhjendamatuks muudatuseks.
Lisaks on artiklis 3(1) toodud „tehisintellektisüsteemi“ mõiste kohaselt tehisintellektisüsteemiga
tegu vaid siis, kui selle arendamiseks on kasutatud eelnõus lisas I loetletud tehnoloogiat või
lähenemisviisi. Vastupidiselt eelnevale võib see muuta vastava mõiste just liiga kitsaks ning
võimaldab määruse kohaldamisalast kõrvale hiilida vaid „tehnoloogiat ja lähenemisviisi“ valides
ja kohandades. Võimalik, et tehisintellektisüsteemi mõiste oleks otstarbekam sõnastada
tehnoloogianeutraalselt, mis on digitaalse ühtse turu üks olulisemaid väärtusi. Ühes sellega oleks
võimalik mõiste sisustuse alt välja jätta ka tarkvarad, mida tavakäibes ei peeta
tehisintellektisüsteemideks.
2) Eelnõus on kasutusel aga defineerimata tehisintellektisüsteemi väljundi mõiste. Kuivõrd Teadmiseks võetud.
tehisintellektisüsteemi väljund on uue regulatsiooni kontekstis olulisel kohal – sellest võivad
oleneda kolmandates riikides asuvate tehisintellektisüsteemide pakkujate ja kasutajate õigused –
tuleks tehisintellektisüsteemi väljundi mõiste määruses defineerida.
3) Artiklis 5(1) alapunktides a ja b loetletud keelatud kasutusviiside sisu on ebaselge. Neid Arvestatud
alapunkte tuleks konkretiseerida, kuivõrd „inimese teadvusest kaugemale ulatuvale alalävisele seisukohapunktis 5.8.
tajule suunatud võtted“ ja „konkreetse isikute rühma mis tahes haavatavused, mis tulenevad
nende vanusest või füüsilise või vaimse tervise häirest“ on eelnõus sisustamata.
4) Artiklis 9(4) mainitud „jääkrisk“ tuleks samuti defineerida, kuivõrd tegu pole tavakäibes Teadmiseks võetud.
kasutusel oleva mõistega.
5) Artiklis 28(1)(b) mainitud sihtotstarbe muutmine tuleks samuti eraldi mõistena defineerida. Teadmiseks võetud.
Vastaval juhul on sihtotstarbe muutmist sisaldavad sätted üheaegselt mitte midagi ütlevad ja ka
potentsiaalselt väga piiravad, sest pole selge, mis tegevused täpselt lähevad sihtotstarbe
muutmise alla. Artiklis 3(12) on „sihtotstarve“ küll defineeritud, aga sellest ei ilmne, millisel
juhul tuleb ühte sihtotstarvet lugeda muudetud sihtotstarbeks.
2. Tehisintellekti määruse eelnõu ei võta arvesse tehisintellektide üldist keerukust, ulatust ja Teadmiseks võetud.
eripärasid
Määrusest tuleneb nõudeid, mis eeldavad, et tehisintellektisüsteemidest ja nende tehnoloogiatest on
võimalik koostada täielik ülevaade (näiteks artikkel 32(3)). Sellise ülevaate koostamine võib osutuda
keeruliseks, ebapraktiliseks või koguni võimatuks, kuivõrd tehisintellektisüsteemid ja nende
tehnoloogia võib olla ääretult keerukas ja ulatuslik. Tehisintellektisüsteeme kaitstakse tihti ka
ärisaladusega ning tootjate ja omanike huvides ei ole vastavate andmete täies ulatuses avalikustamine.
Enamgi veel, tehisintellektisüsteemile on omane selle pidev muutumine ajas. Lisaks on tegu
valdkonnaga, mis on kiirelt arenev ja pidevalt muutuv, mistõttu võib mingisugusest tehnoloogiast
koostatud täielik ülevaade kiirelt aeguda ja osutuda ootamatult vananenuks.
Arvestamata on ka nn „musta kasti probleem“, mis kujutab endast olukorda, kus keerulise
ülesehitusega tehisintellektisüsteemide loojad ega käitajad ei mõista ise täielikult, kuidas vastav
süsteem toimib. See tähendab, et inimene ei näe tehisintellekti sisse ega oma täit ülevaadet selle
toimimisest. Sellised süsteeme võib olla võimatu või väga keeruline viia kooskõlla määrusest
tulenevate nõuetega. Kuna mustad kastid pole aga harvaesinevad ja nende väljundid võivad igati
kasulikud olla, peaks määrus ka nende olemasoluga arvestama.
3. Tehisintellekti määruse eelnõus on ebaselgeid nõudeid Arvestatud
seisukohapunktis 5.12.
1) Artiklis 9(8) sätestatud nõue, et riskijuhtimissüsteemi rakendamisel pööratakse erilist tähelepanu
sellele, kas on tõenäoline, et suure riskiga tehisintellektisüsteemile pääsevad juurde lapsed või et
see mõjutab lapsi, on arusaadava ja teretulnud eesmärgiga. See-eest on ebaselge, mida peab
reaalselt sellest nõudest tulenevalt teisiti tegema. Alternatiivselt võiks selle nõude asemel
sätestada kõrgendatud vastutuse juhtudeks, kui suure riskiga tehisintellektisüsteemid on loonud
riski lastele ning vastav risk on realiseerunud.
2) Artiklis 10 on sätestatud nõue, et suure riskiga tehisintellektisüsteemide treenimisel tuleb Arvestatud
kasutada konkreetsetele kvaliteedikriteeriumitele treenimis- , valideerimis- ja seisukohapunktis 5.13.
testimisandmestikke. Jääb aga ebaselgeks, kas vastavate andmestike kasutamise kohustus
tähendab, et ainult selliseid andmestikke tuleb kasutada või saab neile lisaks kasutada ka muid
andmestikke. Seda tuleks määruses täpsustada.
Lisaks on eelnõus jäetud tähelepanuta asjaolu, et tehisintellektisüsteemide võimalik kallutatus ei
tulene ainult nende treenimisandmestikest. Tehisintellektidele võib kallutatus tekkida ka valest
sisendist või tehnilistest piirangutest. Määruses tuleks sätestada ka meetmed, mille eesmärk on
ära hoida muu kallutatuse tekkimist.
3) Määruse üks läbivatest eesmärkidest on tehisintellektisüsteemide ja nende kasutamise Teadmiseks võetud.
läbipaistvuse tagamine. Seda eesmärki peaksid täitma näiteks artiklis 13(2) sätestatud nõue, et
suure riskiga tehisintellektisüsteemiga peab kaasas olema sobivas digivormingus või muus
vormis kasutusjuhend, ning artiklis 52(3) sätestatud nõue, et kasutaja, kes kasutab
tehisintellektisüsteemi, mis loob või manipuleerib pildi-, audio-või videosisu, peab kindlatel
eeldustel avalikustama, et sisu on kunstlikult loodud või seda on manipuleeritud. See-eest on
ebaselge, mida kujutavad endast „kaasas olemine“ ja „avalikustamine“ antud juhtudel. Et
paremini tagada selliste tehisintellektisüsteemide läbipaistvus, tuleks neid sätteid täpsustada.
4) Jääb ebaselgeks, mida kujutab endast artiklis 53 nimetatud testkeskkond. Näiteks pole selge, kas Arvestatud
see on midagi, millest peavad osa võtma kõik innovatiivsete tehisintellektisüsteemide arendajad seisukohapunktis 5.18
või on tegu lihtsalt vabatahtliku ja abistava tööriistaga. Lisaks on ebaselge, mida mõeldakse
„innovatiivsete tehisintellektisüsteemide“ all ning mis põhjusel on sellised
tehisintellektisüsteemid antud juhul eraldi välja toodud. Seda kõike tuleks täpsustada.
Osaliselt arvestatud
4. Artiklis 14 nõutav inimjärelevalve on ebamääraste raamidega ja võib osutuda kohati seisukohapunktis 5.14.
ebapraktiliseks
Artiklis 14(3) loetletud meetmed, millega tuleks inimjärelevalve tagada, on väga üldiselt sõnastatud
ega loo ettekujutust nende tegelikust sisust. Artiklis 14(4) sätestatu küll mingil määral aitab meetmete
mõistmisele kaasa, kuid ka need sätted on sõnastatud eesmärgist lähtudes, mitte meetmete sisust.
Lisaks on ebaselge, kuidas peaks lõike 3 alapunktides a kuni c loetletud eesmärke järelevalve
meetmetega tagama, kuivõrd nendest punktidest tulenev nõuab justkui täieliku ülevaadet ja mõistmist
konkreetsest tehisintellektist. Sellise mõistmise tagamine isikule, kes pole vastava
tehisintellektisüsteemiga kokku puutunud, võib osutuda ebaproportsionaalselt keeruliseks. Lisaks
saab sõnastust „isikutel, kellel on antud ülesanne tegeleda inimjärelevalvega“ mõista palju laiemalt
kui näiteks sõnastust „isikutel, kelle ülesanne on teostada inimjärelevalvet“. Seega võib
potentsiaalsete isikute ring, kellele tuleb alapunktides a kuni c sätestatu tagada, osutuda soovitust
laiemaks. See muudab vastavate eesmärkide täitmist veelgi keerulisemaks.
Samas annab artiklis 14 sätestatu üsna laiad raamid järelevalvele, mis võib just kasulik olla, kuivõrd
tehisintellektisüsteemidel ei ole alati samalaadsed omadused ning järelevalve meetmete täpsem
sisustus võib sobida mõne tehisintellektisüsteemi jaoks, aga olla just sobimatu mõne teise
tehisintellektisüsteemi jaoks. Kuivõrd uudseid tehisintellektisüsteeme tekib potentsiaalselt pidevalt
juurde, võib selline lai ja eesmärgipõhine järelevalve regulatsioon osutuda just parimaks valikuks.
Täiendavalt vajab selgitamist inimjärelvalve regulatsiooni seos EL erinevate soovitustega
tehisintellekti osas, mis viitavad inimkesksele lähenemisele ja tähenduslikule inimkontrollile
tehisintellektisüsteemide arendamisel ja kasutamisel.
Inimjärelevalve oluliseks osiseks ja teostamise meetodiks on pikka aega kaalutud inimõiguste
mõjuhinnangu koostamist tehisintellektisüsteemide puhul. Paraku määrus eelnevale teadmisele selles
ei toetu ning viitab vaid andmekaitselisele mõjuhinnangule GDPR artikkel 35 tähenduses (artikkel
29(6)).
Siiski tuleks üle kaaluda, kas mõni loetletud eesmärkidest (art 14(4)(a)-(c)) on ikkagi täiel määral
saavutatav.
Arvestatud
5. Määruses on täheldada ülereguleerimist, mis võib kaasa tuua soovimatuid tagajärgi seisukohapunktides
5.13; 5.18.
Mõni eelnõus sätestatud nõue täidab küll tehisintellektisüsteemide läbipaistvuse ja õigusselguse
eesmärke, kuid toob endaga kaasa liigse reguleerimise, mida võib pidada kohati
ebaproportsionaalseks.
1) Artiklis 10 sätestatud kohustus kasutada suure riskiga tehisintellektisüsteemide arendamisel
kindlaid treenimis-, valideerimis- ja testimisandmestikke võib olla väiksemate süsteemide puhul
liialt piirav. Lisaks võib vastava nõude täitmine teha tehisintellektisüsteemide arendamise
protsessi pikemaks ning jääda takistama innovatsiooni.
2) Artiklis 47(2) sätestatud turujärelevalveasutuse kohustus teavitada iga erandliku loa andmise
korral kõiki liikmesriike võib olla ebaproportsionaalne olukorras, kus on antud luba
tehisintellektisüsteem turule lasta või kasutusele võtta vaid ühe liikmesriigi territooriumil või
suunatult vaid selle liikmesriigi residentidele.
3) Kuigi artiklis 53 nimetatud testkeskkondades osalemise kohustus on ebaselge, võib ka see
kohustus muuta tehisintellektisüsteemide arendamise ja turule jõudmise protsessi ebavajalikult
pikaks.
4) Artiklis 64 sätestatud kohustus anda turujärelevalveasutusele täielik juurdepääs loetletud
andmetele on pakkujaid liialt piirav ja võib nõuda mõlemalt poolelt – st järelevalveasutus ja
pakkuja – olulisi kulutusi.
Eeltoodud piirangud võivad pärssida majanduse ja tehnoloogia arengut, kuivõrd need aeglustavad
tehisintellektisüsteemide arendamist ja turule pääsemist ning tekitavad ebavajalikke kulutusi. Lisaks,
kuna määrus hakkab kohalduma vaid turule lastud tehisintellektisüsteemidele, võib see
tehisintellektide pakkujaid vähem motiveerida oma süsteeme turule laskma.
Osaliselt arvestatud
6. Lisas III loetletud suure riskiga tehisintellektisüsteemide jaotamine valdkonnapõhiselt võib seisukohapunktis 5.12.
osutuda ebaproportsionaalselt piiravaks ja samal ajal jätta osad süsteemid tähelepanuta
Määruse lisas III on loetletud valdkonnad, milles kasutatavad tehisintellektisüsteemid on suure
riskiga. On põhjendatud, miks kõikides loetletud valdkondades peaks esineme kõrgendatud risk, kui
neis kasutatakse tehisintellekte. See-eest võib selline valdkonnapõhine jaotamine jätta tähelepanuta
tehisintellektisüsteemid, mis küll oma valdkonna tõttu suurt riski ei kanna, kuid selle süsteemi
spetsiifilistest omadustest tulenevalt võib suur risk ikkagi esineda ja seda valdkonnas, mis pole lisas
III loetletud. Hetkel jääksid reguleerimata potentsiaalselt suure riskiga süsteemid, sest neid ei
kasutata tingimata valdkonnas, mis vastab lisas III toodud loetelule. Valdkondade laiendamine ei
pruugi seda probleemi parandada, kuivõrd suur risk võib tuleneda tehisintellektisüsteemist ja mitte
selle valdkonnast.
Lisaks võib valdkondadel põhinev määratlemine hõlmata suure riskiga tehisintellektisüsteemide
regulatsiooni alla ka sellised süsteemid, millele tegelikkuses suurt riski ei kaasne. Kindlasti ei tohiks
see loetelu olla mitteammendav, kuna siis võib valdkondade ring laieneda ja veelgi rohkem
tehisintellektisüsteeme alluksid regulatsioonile, mis on nende operaatorite jaoks ebamõistlikult
piirav. Lisaks valdkonnapõhisele määratlemisele või selle lähenemise asemel tuleks kaaluda
tehisintellektisüsteemide riski kvalifitseerimist näiteks nende väljundi järgi.
Vastutuse küsimust
7. Määruses on reguleerimata vastutuse küsimus käsitletakse eraldi
tsiviilvastutust
Tehisintellekti määruse eelnõus on reguleerimata vastutuse küsimus tehisintellektisüsteemile käsitleva õigusakti
kaasnevate riskide eest. Seda aga tuleks reguleerida, sest tegu on vägagi aktuaalse küsimusega ettepanekus, mida on
tehisintellekti valdkonnas. Määrus, mis on suunatud tehisintellektidele peaks looma ka mingisuguse oodata 2022. aasta
lähtepunkti tehisintellektidega seotud vastuste omistamisest. alguses.
11. Andmekaitse Inspektsioon
1. Art 10 lg 5 sõnastuse kohaselt on kõrge riskiga AI teenuse pakkujatel justkui voli teenuse Teadmiseks võetud.
parendamise eesmärgil töödelda IKÜM art 9(1) kohaseid eriliigilisi isikuandmeid,
rakendades täiendavaid kaitsemeetmeid. Mainitakse nt pseudonüümimist või
anonüümimist.
Ettepanek: Määrus peab täpsustama, kas art 10 lõiget 5 tuleb tõlgendada selliselt, et see on lex specialis
IKÜM art 9 suhtes. Ehk, annab kõrge riskiga AI teenuse pakkujale volituse automaatselt teenuse
parendamise või turvalisuse tagamise eesmärgil eriliigilisi isikuandmeid töödelda. Meenutame, et
IKÜM art 9 kohaselt tohib eriliigilisi andmeid töödelda ainult kas isiku nõusolekul või liimesriigi
seadus(t)es sätestatud juhtudel.
2. Art 25 kohaselt peavad väljaspool EL-i resideeruvad kõrge riskiga AI süsteemide
teenusepakkujad teatud juhul määrama oma volitatud esindaja ühes EL liikmesriigis.
Ettepanek: Soovitame määrust täiendada selgitustega, kuidas üks liikmesriik saab teada, et AI
teenusepakkuja on oma esindaja mõnes liikmesriigis määranud. Sarnane probleem on täna IKÜM
käsitlusalas, kus esindaja olemasolust ei ole võimalik keskselt teada saada. Nt võiks AI nõukogu või
KOM luua tsentraalse esindajate registri.
3. Art 44-46 reguleerib kõrge riskiga AI süsteemide sertifitseerimist. Kasutatakse mõisteid nagu
notified body, notified authority. Esimese näol on tegu organisatsiooniga, kes soovib
sertifitseerimist läbi viia (sertifitseerimisasutus), teisel juhul tegu asutusega, kes peab eelnevalt
sertifitseerimisasutuse akrediteerima.
Ettepanek: kuna sarnased akrediteerimis- ja sertifitseerimispõhimõtted on juba kirjas ka IKÜM-s,
soovitame määruses läbivalt kasutada samu mõisteid, mis IKÜM-s (st notified autority asemel
järelevalveasutus, notified body asemel sertifitseerimisasutus).
4. Art 53-55 – andmekaitseasutused peavad hakkama osalema isikuandmeid töötlevate AI Arvestatud
lahenduste nn testimisraamistike ehk Sandbox-de loomisel. seisukohapunktis 5.18.
Ettepanek: Määrus peaks defineerima ka „liivakasti“ mõiste. Või viitama muule õigusaktile, kus see
definitsioon on toodud. Praeguses sõnastuses jääb mulje, et „liivakasti“ näol on tegu tehnilise
keskkonnaga, kus on võimalik oma AI teenuseid arendada ja testida.
5. Art 56 sätestab euroopa tehisintellekti nõukogu loomise. Arvestatud
Ettepanek: Määrus peaks täiendavalt käsitleda, kuidas AI nõukogu suhestub andmekaitsenõukoguga. seisukohapunktis 5.20.
Või vähemalt võiks viidata, et need kaks institutsiooni töötavad käsikäes.
6. Art 59 sätestab riikide kompetentsete asutuste ja nende seas ühe järelevalveasutuse Teadmiseks võetud.
määramise. Järelevalveasutusel on teavitatava asutuse (notifying authority) ja turujärelevalve
roll.
Ettepanek: Art 59 ja art 63 käsitlusalad on kattuvad. Seetõttu soovitame tõsta ühe artikli alla.
7. Art 61 sätestab, et kõrge riskiga AI teenusepakkujad peavad rakendama teenusele pidevat Teadmiseks võetud.
monitooringut (nn post-market monitoring system). Selle raames annab määrus neile võimaluse
koguda ka AI teenuse kasutajate andmeid (art 61 lg 2). Praktikas aga võivad need olla ka
isikuandmed, mille töötlemise õiguslikud alused tulevad eelkõige IKÜM-st.
Ettepanek: AI süsteemis toimuva isikuandmete töötlemise õigusliku aluse peavad määrama AI
kasutajad (vastutavad töötlejad). Määruse see säte ei anna selgust, kas AI teenusepakkujad võivad
töödelda ainult AI kasutajate andmeid või võivad nad töödelda ka AI kasutajate poolt teenust kasutades
kogutud isikute andmeid. Määrus peab vältima olukorda, kus AI teenusepakkujatel on laiad volitused
kõigi teenust kasutavate isikute andmete töötlemiseks AI teenuse toimimise monitooringu eesmärgil.
8. Art 62 sätestab kõrge riskiga AI teenuse pakkujatele kohustuse teavitada turujärelevalve Arvestatud
asutust intsidendist 15 päeva jooksul. seisukohapunktis 5.15.
Ettepanek: Kuna määruse järgi võib intsident mh avaldada mõju inimeste põhiõigustele sh
isikuandmete kaitsele, soovitame teavitamise aega lühendada 3 päevani. Nt IKÜM-s on see nii.
9. Art 63 sätestab võimalikud järelevalveasutused. Mittearvestatud.
Ettepanek: Kuigi määruse praegune sõnastus näeb ette võimalused mitme Eelnõus peaks säilima
järelevalveasutusemääramiseks (nt turujärelevalve TTJA, finantsjärelevalve FI, õiguskaitseasutuste võimalus eraldi asutuste
osas AKI), oleks mõistlik üks asutus. Ning teised asutused võivad teha talle põhjendatud ettepanekuid määramiseks.
järelevalve alustamiseks, kui neil oma valdkonnas jäävad puudused silma.
10. Art 65 käsitleb riigi turujärelevalveasutuse tegevust. Kui järelevalve käigus avastatakse, et AI Mittearvestatud.
süsteem kujutab endast riski rahva tervisele, turvalisusele või põhiõigustele, peab AI operaator Euroopa tehisintellekti
need riskid elimineerima. Või tuleb AI süsteemi töö riigis peatada. Kui riigi järelevalveasutus nõukoja roll peaks
leiab, AI operaatori riskid puudutavad ka teisi liikmesriike, peab järelevalveasutus informeerima olema eelkõige
puudutatud riike. Kui AI operaator puudusi ei kõrvalda, teeb järelevalveasutus korralduse AI nõuandev.
süsteemi tegevus peatada (sulgeda). See info tuleb edastada ka KOM-i. Riikidel ja KOM-l on 3
kuud aega vastuväiteid esitada. Kui KOM või liikmesriigid leiavad, et järelvalveasutuse otsus on
vastuolus EL reeglitega, alustab ta selle riigiga konsultatsioone.
Ettepanek: Määrus ei sätesta, milline roll on sellistes menetlustes AI nõukogul. Ettepanek on lisada AI
nõukogu kõigepealt protsessi ja kui nõukogus konsensust ei saavutada, alles siis sekkub KOM. See
ühtiks ka selgemalt täna IKÜM-s sätestatud liikmesriikide vaheliste andmekaitselist vaidluste
menetlustega.
11. Art 69 puudutab toimimisjuhendite väljatöötamist. Teadmiseks võetud.
Ettepanek: Määruses puudub käsitlus protseduurikast, kuidas ja kelle poolt need juhendid heaks
kiidetakse. Nt IKÜM-s on kirjas väga konkreetsed sammud, kes kontrollib väljatöötajat, kes teeb
juhendi üle järelevalvet ning milline on andmekaitsenõukogu roll. Soovitame täpsustused määrusesse
lisada.
Lisaks on ka Euroopa Andmekaitse Nõukogu eelnõule arvamust koostamas –osaleme samuti selles Teadmiseks võetud.
protsessis ja seal väljendatud mõtetega tuleks samuti arvestada. Eelkõige rõhutame ka siin eraldi, et
kuivõrd tehisintellekt töötleb enamasti ka isikuandmeid, siis igal juhul tuleb lähtuda ka tehisintellekte
reguleerides isikuandmete kaitse üldmäärusest (IKÜM) ja õiguskaitseasutuste direktiivist ning
kõnealune tehisintellekti määrus ei tohiks kuidagi IKÜM-i kohaldumist piirata.
12. Cleveron
1. Conformity assessment procedures Arvestatud
The Commission has decided to extend third-party conformity assessment (i.e. Annex VII seisukohapunktis 5.12.
assessment) to only certain high-risk AI systems. It is unclear as to why the third-party conformity
assessment obligation is not extended to many other high-risk applications of AI/why there is a
discrepancy in the stringency of conformity assessment procedures applied.
The arguments for opting out of third-party conformity assessment for some (or even most) AI use-
cases do not seem entirely convincing.
The high-risk AI systems covered by the third-party conformity assessment obligation are:
a) AI systems already covered by third-party assessment requirements as products or safety
component thereof
E.g. machinery products that are or incorporate AI systems (to fall under the recently
proposed new Machinery Regulation) will have a third-party assessment obligation (and are
also designated as high-risk machinery products under the Machinery Regulation itself - see
COM(2021) 202 final Annex I, pt 24-25).
Even considering that there is already an established procedure for assessing compliance of
machinery products - in contrast with other high-risk AI systems -, this does not lead to the
conclusion that there would be no associations besides the manufacturers themselves that
would be capable of assessing the technical documentation and compliance of these other
systems. Additionally, with regard to the “different nature of risks involved”, it is doubtful
whether e.g. AI systems for law enforcement or management of critical infrastructure pose a
lower/more negligible risk than machinery products incorporating AI systems.
b) AI systems for the remote biometric identification of persons
These systems will only be subjected to third-party conformity assessment in case the
manufacturer has not followed a harmonised standard or common specification. By contrast,
under the proposed Machinery Regulation, high-risk machinery (including products
incorporating AI systems), only third party certification will be accepted, even when
manufacturers apply the relevant harmonised standards (see COM(2021) 202 final art 21(2).
‘Real-time’ and ‘post’ remote biometric identification of natural persons, when used for law
enforcement in public places, is even defined as an “unacceptable risk” use-case in general
and only permitted for specific objectives (see art 5(1)(d)). This gives weight to the
argument that if e.g. high-risk machinery with AI systems, which is considered to be of
comparably lower risk than remote biometric identification systems, is subjected to third-
party conformity assessment irrespective of following harmonised standards, the same
should go for biometric identification AI systems.
2. Regulation to be applicable to certain AI products Masinavaldkonna
toodete määruse
Concerning both the AI regulation and the Machinery Regulation proposals, the latter excludes from
artikkel 2 lg 2 p e
application all road vehicles intended for the transport of goods or people (see COM(2021) 202 final
kohaselt ei kohaldata
art 2(2)(e)). This is in contrast to the Machinery Directive 2006/42/EC currently in force, which
nimetatud määrust
excludes only those road vehicles that are covered by existing type-approval regulations (see
sõidukite suhtes, mille
2006/42/EC art 1(2)(e)).
ainus eesmärk on
Vehicle type-approval regulations do not cover all sorts of vehicles. Notably, both the regulations for kaupade või inimeste
motor vehicles and for light vehicles, such as quadricycles, apply only in case the vehicle is intended transportimine
for use on public roads. (See e.g. 2018/858 art 2(1): “This Regulation applies to motor vehicles of maanteel, õhus, vees
categories M and N and their trailers of category O, that are intended to be used on public roads, või raudteel, välja
including those designed and constructed in one or more stages, and to systems, components and arvatud nendele
separate technical units, as well as to parts and equipment, designed and constructed for such sõidukitele paigaldatud
vehicles and their trailers.” masinad. Cleveron oma
tagasisides juhib
This raises the question of what will be the regulations applicable to some vehicles – e.g. vehicles
tähelepanu, et välistus
used only in private, fenced territories/non-public roads, such as industrial areas – that do not fall
hõlmab ka asukohta,
under either the type-approval regime nor, in the future, the machinery regime. Currently, such
kus masinat
vehicles not intended for public roads are covered by the machinery directive. kasutatakse, nt maantee
In the future, the AI regulation would cover such vehicles if they incorporate an autonomous driving või raudtee. Üldjuhul
system, but would this AI regulation (and the general product safety directive) be the only applicable on neis valdkondades
regulation? Or is there an intention to subject non-public road transportation to other regulatory olemas eraldi Euroopa
instruments (e.g. type-approval)? Liidu õigusaktid.
Masinad, mida
maanteedel /avalikel
teedel ei kasutata, neile
kohaldatakse täna
masinadirektiivi
nõudeid ja tulevikus
masinatoodete määruse
nõudeid. Seega ei teki
olukorda, kus mingid
sõidukid jäävad kõikide
õigusaktide
kohaldamisalast välja.
Kergliikurite osas
plaanib Euroopa
Komisjon lähiaastatel
välja tulla eraldi
õigusaktiga.
13. EMTA
Artiklis 54 reguleeritakse isikuandmete töötlemise testkeskkonna regulatsioone ja osundame selles Arvestatud
tähelepanu punkti üks alapunktidele b ja e. seisukohapunktis 5.18.
1. Alapunkti b sõnastuses tuuakse eraldi välja tulemuslikkuse indikaator, mis suuremal või vähemal
määral seega vajab omakorda täpsuse ja piisavuse hindamise mudelit/kriteeriume. Lisaks on alati
kõik tulemuslikkuse hindamise kriteeriumid vaieldavad ning tihti ka näilikud. Seega teeme
ettepaneku kasutada sõnastuses „tulemuslikkuse“ asemel „põhjendatud juhtudel“ kriteeriumi.
2. Alapunkti e kohaselt töödeldud isikuandmeid ei tohi edastada ega üle anda ning need ei tohi olla
teistele isikutele muul moel kättesaadavad. Nimetatud norm on väikeriikidele nagu Eesti väga
koormav seoses kvalifitseeritud tööjõu nappusega riigisektoris, seega määrus võiks lubada ka
põhjendatud vajadusel arendustesse kaasata kolmandaid osapooli.
14. Eesti Interneti SA
Euroopa Liit kui digitaalne liider Teadmiseks võetud.
Antud määrus on osa Euroopa Liidu suuremast andmestrateegiast, mis peaks tööle hakates võimaldama
Euroopa Liidul tugevdada oma positsiooni digitaalse liidrina hõlmates eelkõige andmekaeve ja
tehisintellekti reguleerimisega seonduvat. Tehisintellekti reguleerimisel peab märksõnaks olema
proaktiivsus ja põhiõiguste kaitse. Proaktiivsus, sest tehisintellekti kasutamine sisaldab endas hulga
riske, alates autonoomsetest sõidukitest kuni eetiliste küsimusteni, keda ja mis olukorras peaks
tehisintellekt eelistama.
Tehisintellekti käsitleva määruse ülesehitus ning eelnõu maht peaks saama Euroopa Liidus võrreldava
efekti GDPR rakendamisega, kus see puudutas kõiki valdkondi ning reguleeris tulevikku vaatavalt
eraisikutele ebaõiglaseks muutunud süsteemid. EIS leiab, et GDPR sarnane määruse ülesehitus aitab
määruse rakendamisele paremini kaasa tänu sarnastele struktuursetele elementidele nagu
territoriaalsus, sunnivahendid ja järelevalveasutused.
EIS leiab, et käesoleva eelnõu astmeline riskisüsteem võib jätta tõlgendamiseks liigselt ruumi ning
riskisüsteemi astmeid tuleks täiendada näiteks mittesiduvate ja nö arenevate/uuendatavate
dokumentidega, mis täpsustaksid astmete sisu detailsemalt.
Eelnõu artikli 14(1) kohaselt tuleb kõrge riskiga AI süsteemide puhul tuleb tagada, et füüsilised isikud Arvestatud
saaksid teha tehisintellektisüsteemi kasutamise ajal selle üle reaalset järelevalvet – kuidas seda aga ellu seisukohapunktis 5.14.
viia on lahtine, sest füüsiline isik saab põhimõtteliselt ainult teha kahte asja, kas lülitada AI välja või
mitte võtta arvesse AI poolt antavat väljundit. Reaalse AI töö üle ei saa füüsiline isik järelevalvet teha.
Eeltoodud näide ilustab tervet kavandatud eelnõud – see on ambitsioonikas määrus, kuid samal ajal ei Teadmiseks võetud.
paku määrus tarkvara arhitektidele konkreetseid juhiseid määruse rakendamiseks. Sarnaselt GDPR-le
võime me järgnevad aastad kulutada konverentsidele, kus juristid tõlgendavad, millist eesmärki
määruse väljatöötajad arvatavasti püüda soovisid. Selle vältimiseks tuleks EIS-i arvates täiendada
määrust tehniliste selgitustega, mis aitaksid kaasa määruse rakendamisele.
Küsimused, mis võivad eelkõige tõusetuda on:
1) Mida tähendab, et inimoperaator „mõistab täielikult“ suure riskiga AI süsteemi?
2) Kuidas vastavushindamine välja näeb ja kes neid teostab?
3) Mida tähendab, et treenimis-, valideerimis- ja testimisandmestikud peavad olema
asjakohased, representatiivsed, vigadeta ja täielikud?
15. Eesti Tarbijakaitse Liit
Leiame, et see ettepanek ei vasta tarbijate ootustele ja on ka vastuolus Euroopa Komisjoni enda Teadmiseks võetud.
eesmärgiga võimaldamaks tarbijatele sellist tehisintellekti, mida nad saaksid usaldada. Tehisintellekt
võib olla kasulik tarbijate igapäevaelus, kuid sellega kaasnevad ka riskid, seepärast on oluline, et
tarbijakaitse käib tehnoloogiate arenguga käsikäes. Kavandatud reeglid käsitlevad vaid piiratud
tehisintellekti kasutusalasid ja probleeme ja need ei taga tarbijatele vajaliku kaitse toodete ja teenuste
võimalike majanduslike kahjude eest.
Tänase ettepaneku fookus on kitsalt määratletud kõrge riskiga tehisintellekti jaoks ja välja on jäetud Mittearvestatud.
paljud kasutusalad, mis mõjutavad tarbijate igapäevaelu nagu näiteks tervisekindlustuse Riskipõhine
riskihindamine või nutikad termostaadid. lähenemine võimaldab
tagada meetmete
proportsionaalsuse.
Komisjon kavatseb keelustada teatud tehisintellektiga kaasnevad praktikad, mida kasutatakse Teadmiseks võetud.
inimeste käitumise moonutamiseks, arvestades siiski ainult füüsilise ja psühholoogilise kahjuga jättes Diskrimineerimise
kõrvale muud võimalikud kahjud nagu näiteks rahaline kahju või majanduslik diskrimineerimine. keeld on täna kehtivates
seadustes sätestatud.
Samuti ei sisalda ettepanek tehisintellekti toodete ja teenuste osas konkreetseid tarbijaõigusi nagu Tehisintellekti määruse
näiteks õigust vaidlustada algoritmiline otsus ja saada järelevalvet ega ka abinõusid juhuks kui asjad eelnõu tuleb vaadata
lähevad valesti. Leiame, et tulevane seadus peaks sisaldama tõhusamat tarbija kaebuste esitamise ja koosmõjus
lahendamise menetlusi ja muid õiguskaitsevahendeid s.h. võimalust algatada kollektiivseid kaebusi. isikuandmete kaitse
üldmäärusega, mille
kohaselt on isikutel
õigus, et nende kohta ei
võetaks vastu otsust,
mis põhineb üksnes
automatiseeritud
töötlusel, ühtlasi on
õigus seda otsust
vaidlustada (art 21 ja
22).
Meil on olemas juba nii virtuaalsed assistendid, intelligentsed autod, vestlusrobotid jne, seega Teadmiseks võetud.
peaksid tarbijad saama usaldada kõiki tehisintellektil põhinevaid tooteid ja teenuseid, olgu need siis
madala, keskmise või kõrge riskiga. Oleme seisukohal, et Euroopa Parlament koos liikmesriikidega
peaksid täiendama ettepanekut selliselt, et tehisintellektist oleks kasu nii üksikisikule kui ühiskonnale
tervikuna.
16. Eesti Teadusagentuur
Uus Euroopa Liidu tehisintellekti määruse eelnõu toetab tehisintellektisüsteemide ohutuse tagamist Teadmiseks võetud.
ühiskonna aspektist ning on ka välja pakkunud raamistiku tehisintellekti arendamise ja innovatsiooni
toetamiseks. Sellegi poolest keskendub välja pakutud raamistik väga tugevalt ainult ettevõtetele ja
VKE-dele ning teaduse ja teadusasutuste perspektiivi on väga vähe mainitud. Millised hakkavad
olema antud määrusest tingitud nõuded teadusasutustele ning kuidas peaksid nad neid rakendama ja
kohaldama? Kas tehisintellekti määrust hakatakse edaspidi rakendama ka näiteks Euroopa Komisjoni
poolt rahastatavates teadus- ja arendustegevuse projektides ning kuidas see võib välja näha?
Näiteks uues Euroopa Liidu teadusuuringute ja innovatsiooni raamprogrammi „Euroopa horisondi“ II
samba digi, tööstuse, kosmose teemavaldkonna 2021. ja 2022. aasta tööprogrammis toetatakse
projekte, mis tegelevad otseselt tehisintellekti ja inimeste vaheliste interaktsioonide jaoks
tehnoloogiliste lahenduste välja töötamisega, mis võivad mingil hetkel muutuda potentsiaalselt suure
riskiga tehisintellektisüsteemideks, sest neid võidakse hakata rakendama mõnes igapäevaelus väga
olulises taristus (näiteks taotlusvoor HORIZON-CL4-2021-DIGITAL-EMERGING-01-10: AI, Data
and Robotics at work). Kas eelnõust tulenevalt võivad kunagi sellistele taotlusvoorudele lisanduda
juurde uued nõuded? Kas see eelnõu, mõeldes eelkõige ettepanekule 16 leheküljel 21 eestikeelses
versioonis, võib hakata kajastuma ka „Euroopa horisonti“ sätestavas regulatsioonis?
Kuidas saavad artikkel 54-s mainitud tehisintellekti regulatsiooni testkeskkondasid hakata kasutama Arvestatud
teadusasutused? Kas samamoodi nagu ettevõtted ja VKEd-? See tuleks eelnõus konkreetselt seisukohapunktis 5.18.
sõnastada ja esile tuua.
Ettepaneku lõpus on toodud selle hinnanguline finantsmõju, kus on mainitud ääremärkustes kaudset Teadmiseks võetud.
ja otsest teadustegevust. Millised on täpsed kaudse ja otsese teadustegevuse definitsioonid? Kas need
on defineeritud tehisintellekti valges paberis? Hea oleks need lahti kirjutada.
Kokkuvõttes toome esile just teadusasutuste ja teadlaste perspektiivi puudumist ning kuidas mõjutab
see eelnõu nende igapäevatööd.
17. Elektritööstuse Liit
Üldiselt GDPR v2 on oluline teema, aga samas on reaalselt olemas väga suur oht bürokraatlikuks Teadmiseks võetud.
ülereguleerimiseks ning nii energeetika kui ka Eesti startupide vaates tõstatab ülesse tõsiseid
küsimusi. Kahjuks praeguses määruse ettevalmistamise etapis ei ole meil informatsiooni, et kuidas
täpsemalt siis ikkagi EU-keskne/riikidele delegeeritud juhtimine/järelevalve tööle hakkab?
Ülevaatest ja ka tegelikult määrusest endast jääb arusaamatuks misasi on üldse tehisintellekt Arvestatud
antud määruse kontekstis? Määruse seletuskirjas on üldine jutt, määruse Chapter 1 on juristide seisukohapunktis 5.3.
keeles. Seletuskirja järgi samas iga uus andmepõhine tehnoloogiline innovatsioon võib selle alla
minna.
...artificial intelligence system’ (AI system) means software that is developed with one or
more of the techniques and approaches listed in Annex I and can, for a given set of human-
defined objectives, generate outputs such as content, predictions, recommendations, or decisions
influencing the environments they interact with;
Järgmisena toob määrus sisse 4 riskiklassi ja see on kindlasti komistuskivi, kuna hetke neljases Osaliselt arvestatud
jaotuses on Suure riskiga süsteemide hulka pandud selgelt liiga palju valdkondi ning need on seisukohapunktides 5.7;
samas laialivalguvad (eestikeelses versioonis „elutähtis taristu“, „olulised“ avalikud ja erateenused, 5.12.
praktiliselt kogu HR jne). Ingliskeelne definitsioon high riski kohta on see natuke konkreetsem. Meie
tänases vaates eelkõige HR ja kõik töötajate/töötamise andmetega seotud teemad on küsimus (kliendi
marketing ja segmenteerimine on samas lowrisk), kuid juristide abi oleks vaja arusaamiseks, et kui
palju energeetika muid (operatiivtehnoloogia) valdkondi sellesse kategooriasse kuulub? Kas ka
alajaamade predictive maintenance on safety component of critical infrastructure?
Praktiliselt kogu edasine dokument on pühendatud „high-risk“ kategooria reguleerimisele ja
seda viisil, mis meie hinnangul muudab ebamõistlikult keeruliseks high-risk kategooriasse
kuuluvate AI-lahenduste väljatöötamise sektori siseselt/omaks tarbeks ning teeb oluliselt
raskemaks AI-l põhinevate sisseostetud süsteemide kasutusele võtmise ja opereerimise. Mis
puutub madalamatesse kategooriatesse, siis nende opereerimise aluseks on
kasutajate teavitamine, see on meie jaoks vastuvõetav. Küll aga on veel hulk punkte, mis muudavad
keerulisemaks ka madalamate kategooriate AI arendamise, eriti kui see sisaldab kasutajaandmeid
või isikuandmeid.
1. Selgelt tuleb piiritleda high-risk AI kategooria definitsioon operatiivse ohutustehnoloogia Selgitatud.
ja limiteeritud oluliste isikuotsuste (suuremahuline krediidiotsus, töölepingu muudatus Energeetika valdkonnas
vms) juurde, vältimaks olulist turu- ja konkurentsitõket AI/Data science kasutuselevõtus on see nõue vaid
väiksemate (sh energeetika) ettevõtete poolt. elutähtsa taristu
juhtimise ja käitamise
puhul.
2. Selgitada konkreetsemalt ja avada, et nimetatud määruse rakendamisel tekib oluline lisakulu ja Teadmiseks võetud.
-koormus, mis põhineb teadaolevalt ühe või mitme high-risk AI süsteemi kasutuselevõtule
ja/või jätkuva opereerimise nõuetele vastavusele viimiseks, energeetika kontekstis
siis mõisteruumis „võrguteenuse hind“;
3. Üle vaadata koos juristide ja IT valdkonnaga üle punktid AI arenduse osas (Title V ja edasi, Arvestatud
allpool punkt c) ja anda lisaselgitused, et mida tähendab seisukohapunktis 5.18.
ikkagi riiklik AI regulatory sandbox ja kuidas sellise riikliku AI sandboxi suhestumine ntx
energeetika sektori siseste andmeladudega ja/või arenduskiirusega.
4. Selgelt väljendada, et taolise määruse vastuvõtmisel tuleb lisaks EU-sisesele muutusele võtta Teadmiseks võetud.
arvesse ka muid (eelkõige Põhja-Ameerika) turge ja tarkvaratootjaid. Sarnaselt pt 2 on määruse
üheks võimalikuks mõjuks oluline konkurentsitõrke/tarkvaralahenduste kättesaadavuse piiramine
ja eelkõige USA-le eelise tekkimine.
18. Advokaadibüroo Fort
Tunnustame, et Euroopa Komisjon on riskipõhisest lähenemisest lähtudes võtnud reguleerida Arvestatud
peamiselt just kõrge riskiga tehisintellektisüsteeme ning jätnud madala riskiga süsteemide seisukohapunktis 5.7.
arendamisel, turustamisel ja kasutamisel isikutele rohkem vabadust.
On loogiline ja mõistetav nõuda, et tehisintellektisüsteemi väljatöötajad ja kasutajad peavad aru Teadmiseks võetud.
saama, mille nad välja töötavad või kasutusele võtavad, kuid kahtlemata paneb määrus Arvestatud
tehisintellektisüsteemide arendamisega tegelevatele iduettevõtjatele märkimisväärse halduskoormuse mõjuanalüüsis.
läbi täiendava riski- ja kvaliteedijuhtimise (art 9 ja 17), dokumenteerimise (art 11) ja
vastavushindamise kohustuse (art 19 ja 43), kui nad tegelevad määruse eelnõu III lisas kirjeldatud
suure riskiga tehisintellektisüsteemidega. Samas tuleb arvestada, et iduettevõtjad on enamasti
tehnoloogiavaldkonna spetsialistid, mistõttu neil on tarvis täiendavaid ressursse, et regulatsioonidele
vastavus tagada (dokumentatsiooni koostamine, vastavushindamisprotsessi läbimine jne). Seega võib
regulatsiooni tulemusena tekkida olukord, kus määruse III lisas nimetatud kõrge riskiga, kuid ühtlasi
ka huvitavamate ja suuremat väljakutset pakkuvate tehisintellektisüsteemidega on võimelised
tegelema üksnes suuremad tehnoloogiaettevõtjad, sest iduettevõtjatel puudub täiendava
halduskoormusega toimetulemiseks vajalik ressurss. Samuti on suurematel tehnoloogiaettevõtjatel
ressurssi arendada soovitud süsteem välja enne, kui määruse nõuded neile kohalduma hakkavad (art
83 ja 85 koosmõju juba turule lastud või kasutusele võetud tehisintellektisüsteemidele). Samuti
tähendaks määruse art 71 kohase trahvi kohaldamine iduettevõtjate puhul nende tegevuse lõppemist.
Arvestades tehisintellektisüsteemide mõju, on oluline tagada ka adekvaatne riiklik järelevalve Teadmiseks võetud.
määruse nõuete täitmise üle. Tehisintellekti määrus on ambitsioonikas ning valdkond uudne ja
keerukas, mistõttu peab riik tagama, et loodavas järelevalvesüsteemis oleks piisavalt tehnoloogilist
oskusteavet, inimressursse ja rahalisi vahendeid (seda rõhutab ka eelnõu artikkel 59). Vastasel juhul
ei täida oma sisulist funktsiooni ei määrusega loodav liivakasti regulatsioon ega ole täidetud ka
määruse nõuete täitmise ja eesmärkide saavutamise järelevalve. See omakorda soodustaks ka
ettevõtjate ebavõrdset kohtlemist, võimaldades mõnel ettevõtjal lihtsalt järelevalvesüsteemide
puudulikkuse tõttu tegeleda kõrge riskiga tehisintellektisüsteemidega ilma määruse nõudeid
järgimata, sest järelevalve tegijatel puuduvad nii teadmised kui ressursid tehisintellektisüsteemide
sisuliseks mõistmiseks ja vajalike meetmete rakendamiseks.
Tuleb arvesse võtta, et potentsiaalselt on avalik sektor (sh riik oma erinevate asutuste,
institutsioonide ja eraõiguslike juriidiliste isikute kaudu) suurim kõrge riskiga
tehisintellektisüsteemide (määruse III lisa) kasutaja ja tellija, mistõttu on oluline tagada, et 1)
tehisintellektil põhineva süsteemi tellimisel järgitakse määruse nõudeid sellise tehisintellektisüsteemi
väljatöötamisele, dokumentatsioonile ja vastavushindamisele ning 2) järelevalve avaliku sektori poolt
tehisintellektisüsteemi kasutamise üle toimiks objektiivselt ja erapooletult.
Eeltoodust tulenevalt teeme ettepaneku, et selliste kõrge riskiga tehisintellektisüsteemide puhul, Mittearvestatud.
millele määruse nõudeid ei kohaldata tulenevalt sellest, et need on juba turule lastud või kasutusele
võetud (art 83), peab selle süsteemi kasutaja siiski järgima määrusest tulenevaid kasutaja kohustusi, Juba turule lastud või
et ka enne määruse rakendamist kasutusele võetud kõrge riskiga tehisintellektisüsteemide kasutused olevad
kasutamisel oleks tagatud kaitse, mida Euroopa Komisjon on soovinud käesoleva määruse eelnõuga süsteemid on täna
isikutele pakkuda. kehtivate nõuetega
kooskõlas ning kui
süsteemides või nende
sihtotstarbes tehakse
olulisi muudatusi, siis
tuleb järgida määrusest
tulenevaid nõudeid.
Lisaks võiks meie hinnangul analüüsida määruse eelnõu III lisas toodud kõrge riskiga Arvestatud
tehisintellektisüsteemidest loetelu – näiteks punktis 4 (tööhõive) nimetatud töökuulutuste avaldamine seisukohapunktis 5.12;
ja tööülesannete andmine ei peaks olema nimetatud kõrge riskiga süsteemide hulgas. Samuti on meie 5.14.
hinnangul liigne nõue, et tehisintellektisüsteemide puhul, mis on mõeldud kasutamiseks füüsiliste
isikute reaalajas ja tagantjärele toimuva biomeetrilise tuvastamise jaoks, tuleb tagada, et kasutaja ei
tee ega otsusta süsteemist saadud tuvastamise põhjal midagi, kui seda ei ole kontrollinud ja
kinnitanud vähemalt kaks füüsilist isikut (art 14 lg 5). Ulatusliku inimjärelevalve nõuded kõrge
riskiga tehisintellektisüsteemide puhul on mõistetavad, kuid võivad pidurdada
tehisintellektisüsteemide arengut – näiteks tuginemine automatiseerimisele ja automaatsed otsused ei
ole iseenesest negatiivsed, et neid peaks vältima või iga otsustuse üle kontrollima (ka inimesed
eksivad), kuid inimjärelevalve peaks tagama selle, et valesti funktsioneeriva tehisintellektisüsteemi
kasutamine peatatakse või lõpetatakse.
19. ITL
Osaliselt arvestatud
1. Regulatsiooni vajadus ja eesmärgid seisukohapunktis 5.1 ja
5.12.
1.1. Hetkel jääb arusaamatuks, miks on vaja regulatsiooni, mis ütleb, et tehisintellekti
kasutamisel on keelatud rikkuda põhiõigusi, kui põhiõiguste rikkumine on ka ilma
tehisintellekti määruseta keelatud. ITL-ile jääb selgusetuks, mis on see probleem, mida
selle ettepanekuga lahendatakse. Tehisintellektisüsteemide reguleerimise vajadust näib
olevat ühe ajendina põhjendatud sellega, et vastasel juhul on oht, et tehisintellekt saab
võimu inimeste üle. Käesoleva määruse ettepanekuga kavandatakse aga reguleerida
tarkvara süsteemide kasutamist laiemalt, sh on kavas allutada sellele regulatsioonile ka
üsna lihtsad automaatselt toimivad IT-süsteemid ja lahendused (vt ka kommentaari
punktis 3.1).
1.2. ITL on seisukohal, et vajalik on vältida selle kiirelt areneva valdkonna ennetavat üle
reguleerimist. Loodav regulatsioon peab pigem soodustama ja lihtsustama
tehisintellekti süsteemide arengut ja kasutusele võttu, mitte seda asjatult piirama.
Seetõttu kahtleme, kas määruse ettepanekus sisalduv niivõrd lai lähenemine on
põhjendatud. Näeme vajadust reguleerida tehisintellekti loomise ja kasutamisega seotud
vastutuse küsimusi, aga me oleme kahtlevad, kas nii ulatuslikult on vaja reguleerida
kõikvõimalikke muid tehisintellekti kasutamisega seotud küsimusi.
1.3. Samas oleme seisukohal, et kui tehisintellekti kasutamist reguleeritakse, siis on see
vajalik Euroopa Liidu tasemel ühetaoliselt, et ennetada turu killustumist ja erinevaid
kohustusi erinevates liikmesriikides.
Arvestatud
2. Määruse kohaldamisala
seisukohapunktis 5.7.
2.1. ITL toetab määruse ettepanekus välja pakutud riskipõhist lähenemist. Kõigi
tehisintellekti süsteemide reguleerimine sama rangelt ei oleks kindlasti põhjendatud.
2.2. Samas ei ole ettevõtjate jaoks määruse ettepanekuga tutvumise järgselt üheselt
arusaadav, millisesse kategooriasse nende poolt loodud ja kasutatavad tehisintellekti
süsteemid kuuluksid, kuna süsteem võib olla kliendi juures sümbioosis mõne teise
lahendusega juba järgmisesse kategooriasse kuuluv. Seega hakkab praktikas
kindlasti tõusetuma küsimusi, millisesse kategooriasse kasutatav tehisintellekti süsteem
kuulub ning ettevõtjad vajavad siin abi, et saada üheselt aru, millised on nende
kohustused.
2.3. ITL on seisukohal, et kuna tegemist on esimese regulatsiooniga tehisintellekti vallas, siis Osaliselt arvestatud
peab see olema kitsam ning keskenduma kõige kriitilisematele reguleerimist seisukohapunktis 5.7.
vajavatele küsimustele. Toetame lähenemist, mille kohaselt vaadatakse määruse Riskitaseme määratlus
kohaldamisala üle ja vajadusel täiendatakse. Just seetõttu on õigustatud see, et esimene peab olema
regulatsiooni samm on pigem väike. objektiivselt
2.4. ITL-i hinnangul on põhjendatud alustada reguleerimist avaliku sektori teenustes põhjendatud ning
kasutavastest tehisintellektisüsteemidest ja siis lähtuvalt vajadusest laiendada lähtuma konkreetsest
regulatsiooni ka erasektori teenustele. kasutusjuhust.
Tehisintellekti
kasutusviisidega võivad
kaasneda ohud ka
erasektoris, mistõttu ei
saa toetada vaid avaliku
sektori reguleerimist.
Arvestatud
3. Tehisintellekti mõiste
seisukohapunktis 5.3.
3.1. Tehisintellekti süsteemid on määruse eelnõus defineeritud väga laialt (artikkel 3 p 1).
Eriti lai on määruse ettepaneku lisa 1, mis sätestab tehisintellekti meetodid ja
lähenemisviisid, mis hõlmavad sisuliselt kõik meetodid, mida kaasaegsete IT-
süsteemide arendamisel kasutatakse. Seetõttu palume kaaluda, kas tehisintellekti
süsteemi oleks võimalik määruse ettepanekus täpsustada.
3.2. Kindlasti on vaja täpsustada suure riskiga tehisintellekti süsteemide määratlust. Näiteks
tekib küsimus, kas kõik määruse ettepaneku III lisas nimetatud teenuste osutamisega
seotud tehisintellekti süsteemid on kõrge riskiga (artikkel 6 lõige 2). Näiteks kas
ettevõtte kodulehel olev otsingukastike, millega saab aadressiotsingut teha, on kõrge
riskiga tehisintellekti süsteem, kui see võib viia kriitilise infrastruktuuri teenuse
kasutamiseni?
Arvestatud
4. Tõsine intsident ja talitushäired
seisukohapunktis 5.15.
4.1. ITL-i hinnangul ei ole piisavalt selge, mis on tõsine intsident ning talitushäired, mille kohta
tuleb ettepaneku artikkel 62 kohaselt raporteid esitama hakata. Tõsine intsident on määruse
ettepaneku artikkel 3 punktis 44 defineeritud selgete tagajärgedega (määramatust põhjustab
siinkohal „võib põhjustada“ hõlmamine), aga artikkel 62 on väga laia sõnastusega, kuna
teavitada tuleb lisaks tõsistele intsidentidele ka igast suure riskiga tehisintellektisüsteemi
tõrkest, mille puhul on tegu põhiõiguste kaitseks mõeldud liidu õiguse kohaste kohustuste
rikkumisega.
4.2. Juhime tähelepanu, et kõigil tehisintellektisüsteemidel on veaprotsent, sest need on arenevad
süsteemid. See veaprotsent on samas üldjuhul märksa väiksem kui sama tegevuse tegemisel
inimese poolt (nendel juhtudel, kus see ei ole väiksem, võib tehisintellekti eelistamine olla
mõistlikum muudel põhjustel, nt pommirobotid). Seega tooks niivõrd ulatuslik
raporteerimiskohustus kaasa väga palju raporteid, mistõttu näeme ette, et see säte põhjustaks
praeguses sõnastuses praktikas probleeme.
Teadmiseks võetud.
5. Innovatsiooni toetavad meetmed
5.1. Innovatsiooni toetavad meetmed on meie hinnangul innovatsiooni toetavad ainult oma
nime poolest. Hetkel on praktikas seis juba ammu selline, et Euroopa Liit on USA-st ja
Hiinast kõvasti tagapool ning määruse ettepanekus välja pakutud range reguleerimine,
järelevalve ning bürokraatia ei aita Euroopa Liitu järgi, vaid tekitab olukorra, kus
jäädakse veel rohkem maha.
5.2. Oleme seisukohal, et määruse ettepaneku kõikide punktide järgimine tõstaks
tarkvaraarenduse hinda ja vähendaks tarkvara arendamise kiirust, mis vähendaks
Euroopa Liidu konkurentsivõimet oluliselt.
5.3. Innovatsiooni toetavate meetme all võiks meie hinnangul pigem suunata, kuidas
tehisintellekti saaks aina rohkemates eluvaldkondades aina rohkem rakendada, eriti
olukorras, kus Euroopa Liidus, oma vananeva elanikkonnaga, jääb tööjõudu vähemaks.
Teadmiseks võetud.
6. Sanktsioonid ja järelevalve
6.1. Sanktsioonide osas jääb hetkel arusaamatuks, miks on jäetud sanktsioonide
rakendamine avaliku sektori asutustele lahtiseks ehk liikmesriikide otsustada (art 71 lg
7). Olukorras, milles mõned liikmesriigid asuvad rakendama avaliku sektori asutustele
märkimisväärselt madalamaid sanktsioone võrrelduna erasektoriga, loob see
põhjendamatu eelise avalikus sektoris tehisintellekti kasutamisele, pidurdades samal
ajal erasektori poolt tehisintellekti lahenduste kasutusele võttu, kuna sellega kaasnevad
riskid on erasektori jaoks kõrgete trahvimäärade tõttu liiga ulatuslikud.
6.2. Samuti ei pea me põhjendatuks, et EL-i institutsioonidele rakenduvad märkimisväärselt
väiksemad trahvimäärad kui ettevõtetele (art 72). Leiame, et määruse ettepanekus
vajab täpsustamist, milliseid EL-i asutusi on artiklis 72 mõeldud. Lisaks teeme
ettepaneku võrdse kohtlemise tagamiseks rakendada vastavaid madalamaid
trahvimäärasid ka erasektori suhtes (eeldusel, et erasektori poolt rakendatavaid
tehisintellekti lahendusi üldse asutakse reguleerima).
6.3. Oleme seisukohal, et järelevalve eesmärgil kavandatav andmestikele kaugjuurdepääsu
andmine tõstab liigselt andmelekete ohtu.
6.4. Samuti leiame, et määruse ettepanekus kirjeldatud järelevalve tegemine ei ole
inimtööjõu poolest realistlik. Kirjeldatud järelevalve teostamine põhjalikult (nii et
sellel oleks päriselt kvaliteet) nõuaks väga suurtes koguses tippspetsialiste, kelle
leidmine palju väiksemas koguses on eraettevõtetele suur probleem. Väidame, et välja
pakutud kõikehõlmava, põhjaliku ja range järelevalve korral tekib olukord, kus iga
tehisintellekti arendaja kohta peaks olema mitu järelevalvet teostavat inimest, mis ei
ole realistlik ja kindlasti mitte innovatsiooni toetav. Seetõttu oleme seisukohal, et
järelevalve skoopi tuleb määruse ettepanekus oluliselt vähendada ja seda rakendada
ainult väga vähestele ning kõige kriitilisematele süsteemidele.
7. Kattuvused teiste õigusaktidega
Teadmiseks võetud.
7.1. Peame väga oluliseks, et välistatakse kattuvused teiste horisontaalsete ja Ettepanek ei piira
sektorspetsiifiliste regulatsioonidega. Hetkel käsitletakse määruse ettepanekus seoseid isikuandmete kaitse
uuel õigusraamistikul põhinevate liidu ühtlustamisõigusaktidega ja finantsteenuste üldmääruse
regulatsioonidega, aga seonduvaid õigusakte on palju rohkem. Seetõttu on ITL-i kohaldamist.
Läbirääkimiste käigus
tuleb tagada kooskõla
hinnangul vajalik panna määruse ettepanek konteksti teiste õigusaktidega selliselt, et teiste liidu
isikutel oleks lihtsam nendes orienteeruda. õigusaktidega, sh
7.2. Määruse ettepanekust on raske aru saada, mis vahe on Andmekaitse Üldmäärusega läbirääkimiste faasis
(GDPR) reguleeritud automatiseeritud andmetöötlusel ja tehisintellektil, mida olevate õigusaktidega
plaanitakse reguleerida antud ettepanekuga. (nt NIS2).
7.3. Samuti on vaja analüüsida ja tuua välja seosed määruse ettepaneku ning Euroopa Liidu
küberturvalisuse määruse 2019/881 vahel. Küberturvalisuse määrus reguleerib
küberturvalisuse sertifitseerimist, mistõttu tekib küsimus, kas see sertifitseerimine
katab ka määruse ettepanekus sätestatavaid nõudeid kriitiliste tehisintellekti
rakendustes.
Selgitatud.
8. Jõustumine Liikmesriigid peaksid
8.1. ITL toetab määruse ettepaneku jõustumisel kavandatud kaheaastast ülemineku aega. nägema ette
8.2. Samas jääb mõistmatuks artikkel 85, mille järgi hakatakse sanktsioone ehk artiklit 71 õigusnormid karistuste,
kohaldama juba 12 kuu pärast peale määruse jõustumist. ITL-i hinnangul ei ole see sh haldustrahvide
põhjendatud ega ka õiguslikult teostatav. Pigem peaks regulatsioon tervikuna hakkama kohta, teatama neist
enne kohalduma kui sanktsioonid ning pädevate asutuste esmaseks ülesandeks peaks komisjonile ning
olema kohustatud isikute juhendamine ja nõustamine, mitte trahvimine. tagama, et need
õigusnormid on
käesoleva määruse
kohaldamise
kuupäevaks
nõuetekohaselt ja
tulemuslikult
rakendatud. Seepärast
tuleks karistusi
käsitlevaid sätteid
hakata kohaldama
alates 12 kuud pärast
määruse jõustumist.
Kokkuvõtteks leiame, et määruse ettepanekuks tuleb pigem kitsalt läheneda ja reguleerida ainult Teadmiseks võetud.
kõrge riskiga süsteeme, piiritledes seejuures kõrge riskiga süsteemid võimalikult kitsalt. Kindlasti
peab kavandatav regulatsioon olema eesmärgipärane ja lahendama praktikas probleeme põhjustada Valdav osa nõuetest
võivaid olukordi. ITL peab oluliseks, et uus kavandatav tehisintellekti regulatsioon arvestaks tänaseid kohaldubki just suure
ja ka tuleviku tehnoloogia arenguid, oleks üheselt selge ega suurendaks ebaproportsionaalselt riskiga
ettevõtete halduskoormust. Selleks, et seda praktikas saavutada, tuleb regulatsiooni väljatöötamisse tehisintellektisüsteemid
kaasata inimesed, kes tehisintellekti süsteeme igapäevaselt arendavad ja kes nende võimalusi ning ele. Nõustume, et
piire päriselt mõistavad. Vastasel juhul saavutatakse populaarsetele väärarusaamadele tuginedes määratlused ja
olukord, mis ei ole praktikas teostatav. kriteeriumid peavad
lähtuma
tehisintellektisüsteemid
e põhjustatavate riskide
intensiivsusest ja
ulatusest ning nõuded
peavad olema
vajalikud, sobivad ja
proportsionaalsed.
20. Jaan Tallinn
Euroopa on tänu oma heale majanduslikule olukorrale ja põhiõiguste hoidmisele väga heas Teadmiseks võetud.
positsioonis, et panustada positiivse tehisintellekti arenduse kujundamisprotsessi – protsessi, milles
on oluline osa ka käesoleval Euroopa Liidu regulatsioonil. Ainuüksi reeglistikust siiski probleemi
lahendamiseks ei piisa ning sellest lähtuvalt soovitan ka tehisintellekti ohutuse teemalisse
teadustöösse täiendavalt investeerida. Seda saab teha näiteks Horizon 2020 programmi kaudu.
1. Regulatsiooni enda osas oleks mul kolm soovitust. Esiteks soovitan, et regulatsiooni täiendataks Arvestatud
nii, et see hõlmaks üha üldisema funktsionaalsusega tehisintellektisüsteeme – st. süsteeme, millel seisukohapunktis 5.2.
on mitu otstarvet. Praeguse regulatsiooni eelnõu järgi sõltub seaduse kohandamine
tehisintellektisüsteemi üksiku sihtotstarbe määratlusest. Moodsatel süsteemidel, nagu Microsofti
Generative Pre-trained Transformer 3 (GPT-3), on aga võimalikke rakendusi mitu, mistõttu võib
käesolev, kitsast rakendusvaldkonda eeldav, regulatsioon kiiresti aeguda. Tulevikus luuakse aga
veelgi üldisemaid tehisintellektisüsteeme kui GPT-3. Selle asemel, et neid süsteeme ainult ühe
võimaliku otstarbe järgi kategoriseerida, võiks regulatsioon nõuda terviklikku riskihinnangut
kõigile tehisintellektisüsteemi plaanitavatele kasutusotstarvetele (ning ka eeldatavatele
väärkasutusvõimalustele).
2. Teiseks soovitan, et Euroopa Liidu kodanikele antaks võimalus regulatsiooni rikkumisi Teadmiseks võetud.
raporteerida. Tehisintellekt hakkab tõenäoliselt aja jooksul inimeste igapäevaelus järjest
suuremat rolli mängima ja neil peaks sellest lähtuvalt olema võimalus järelevalveasutusele
kaevata, nagu nad saavad praegu teha näiteks juhul, kui ettevõtted ei kaitse nende isikuandmeid
piisavalt (GDPR, artikkel 77). Sarnaselt peaks ka laiendama Euroopa Liidu siseinformaatorite
kaitset tehisintellekti arendajatele. Nagu Google’i tehisintellekti eetika uurimismeeskonna näitel
hiljuti nägime, on arendajad tulevikus väheste inimeste hulgas, kes vahetult teavad, kas mingi
tehisintellektisüsteem rikub põhiõiguseid. Sellest tulenevalt peaksid nad olema kaitstud, kui nad
teavitavad järelevalveasutusi oma tööandja poolt toime pandud rikkumistest.
3. Kolmandaks soovitan, et regulatsioon kohustaks tehisintellektisüsteeme huvide konflikte
selgelt välja näitama. Näiteks võib tarbija eeldada, et tehisintellekti toega
kaardistamissüsteem näitab talle lühimat teed punktist A punkti B. Kaardistamisteenuse
algoritm võib aga sisaldada peidetud rõhkusid, mis suurendavad võimalust, et teenus
soovitab kasutajale mingist kindlast restoraniketist mööduvat teekonda. Kui
tehisintellektisüsteem tarbijaid sellisel viisil manipuleerib, peaks regulatsioon nõudma, et
vastavad huvide konfliktid avalikustataks. See suurendaks tehisintellektisüsteemide
läbipaistvust ning aitaks tuvastada olukordi, kus süsteemid ei järgi kasutaja eesmärke
sellises ulatuses, kui välja paistab.
21. Riigi Infosüsteemi Amet
RIA toetab üldiselt komisjoni valitud riskide kategoriseerimise metodoloogiat. Seejuures jääb Teadmiseks võetud.
küsitavaks, et mõned pakutud sõnastused eristavad hästi selgelt avalikku sektorit (näiteks artikkel 5,
punkt 1 b, mis keelab selle social credit systemi printsiibi, sõnastusega „putting into service or use of
AI systems by public authorities or on their behalf“). See „on their behalf“ maandab riski, aga
eelkõige on küsimus selles, et kui Facebook või mõni muu eraettevõte teeb oma social credit systemi,
siis mis hetkest alates see on „on their behalf“?
Osa nendest nõuetest, mis on esitatud high-risk AI süsteemidele on ebapädevad nagu näiteks Arvestatud
„Training, validation and testing data sets shall be relevant, representative, free of errors and seisukohapunktis 5.14.
complete.“ Kahtleme, et eksisteerib sellist andmestikku, mis on free-of-errors ja complete. Mõistame,
et seda on vaja välja öelda, aga seda kontrollida on ebaproportsionaalne, eriti olukorras, kus iga
mistahes elutähtsa või kriitilise üksuse kohta tuleb kasutusele sadu tehisintellekti rakendusi. Lisaks
on taoliste nõuete lisamine konkurentsi ja ettevõtlusvabadust piirav. High-risk tehisintellekti
rakendustele on määrusega tohutu bürokraatiakoormus seatud ning selle puhul tuleks säilitada vaid
osa, mis adresseeriks konkreetselt riskide maandamist. Need kohustused tuleks kindlasti üle vaadata
sellise pilguga, et mida võiks õppida näiteks NIS direktiivist, nt. turvanõuete (art. 19) seoses, kus
pole nõutud, et direktiivi subjektide tarkvara peab olema „free-of-errors“ või „complete“.
Ka suure riskiga süsteemide puhul on märkimisväärne tõenäosus, et masinõppe ja tehisintellektiga Teadmiseks võetud.
süsteemid on ebavõrdsuse, diskrimineerimise ja korruptsiooni mõistes kasulikud. See tähendab, et
pigem peaks nende kasutuselevõttu soodustama, kuid EL-i senise tarbijakaitse, andmekaitse ja
kodanike üldise kaitse kogemuse raamides.
Tehisintellektsüsteemide puhul on suureks probleemiks algoritmide kehv läbipaistvus ja ka Teadmiseks võetud.
masinõppe-tehisintellekti loojate kergekäeline suhtumine vigadesse ning kaheldavatesse otsustesse.
Selle jaoks on suunata valdkonna regulatsiooni selles suunas, et turule jõudvad ja avaliku sektori
tehisintellektisüsteemid oleksid sellised, mille otsuseid on võimalik selgitada ja vigu parandada
(näide: kui AI „must kast“ jääb pimedaks ehk et kui keegi ei oska lihtsasti seletada, miks mingi otsus
millegi kohta tehti, siis pole võimalik sisendiks kasutatavaid AI otsust mõjutavaid andmeid
tuvastada). Praegused läbipaistvuse reeglid (art. 13) küll seda reguleerivad, kuid vaid kasutaja
tasandil (st kasutajaks on tõenäoliselt kõrge riskiga süsteemide käitajad, mitte need, kelle kohta
mingeid otsuseid tehakse). Seetõttu on oluline, et AI mudelite puhul oleks nõutud high-risk
süsteemide puhul pigem sarnase lähenemisega nagu andmekaitsega: teenusepakkuja peab selgitama
*arusaadavas keeles*, kuidas tehisintellekt nende kohta otsuseid teeb ning kodanikel peab olema
õigus nõuda välja nende kohta tehtud otsuse algandmed või muud reeglid, et otsuseid ka vajadusel
vaidlustada.
Art. 15, 4) küberturvalisuse kohta ei ole kindlasti piisav meede („The technical solutions aimed at Teadmiseks võetud.
ensuring the cybersecurity of high-risk AI systems shall be appropriate to the relevant circumstances
and the risks.“). High-risk peaks automaatselt tähendama NIS direktiivi mõistes subjekti kohustusi ja
küberintsidentidest teavitamise nõuete jälgimist, ning samuti võimaldama küberasutusel teha
järelevalvet. Ainuüksi ütlemine, et „systems shall be resilient“ ei ole piisav, kui high-risk süsteemid
hakkavad tegema high-risk otsuseid.
Neljas peatükk, artikkel 52, on läbivalt korrapäratu. RIA hinnangul peaks olema kõikidel AI Mittearvestatud. Artikli
süsteemidel, mis Euroopas turule tulevad ja mis teevad otsuseid, suhtlevad või vastutavad 52 laiendamine kõigile
mingisuguste otsuste eest (or on someone’s behalf), kohustus eelpooltoodud läbipaistvuse AI süsteemidele oleks
kriteeriumitele. Juhul kui neid ei kasutata (tehisintellekt toimetab kuskil taustal, teda pole näha), siis ebaproportsionaalne
pole neid vaja kasutada. Aga Euroopas eurooplastele teenuseid pakkuvad tehisintellekti rakendused meede.
peavad olema kõik läbipaistvalt disainitud juba varajases faasis. Kui me seda praegu paika ei pane,
siis panevad selle paika Hiina ja Ameerika turud.
22. Tallinna Tehnikaülikool ja NJORD Advokaadibüroo (koostööprojekti „TalTech Legal
Lab kaudu)
Teadmiseks võetud.
1. Juhime tähelepanu sellele, et USA on AI mõistes Euroopa Liidust kaugel ees ning seetõttu ei
tohiks eelnõus sätestatud reeglid olla sellised, mis AI arendajatelt väga palju ressurssi võtavad
(teisisõnu: tulemus võiks olla selline, et kogu energia ei läheks reeglite täitmisele, vaid AI
tehnoloogia arendamisele, et Euroopa Liit USA-le järgi ning ehk isegi ette jõuaks). Väga hea
oleks see, kui reeglid oleksid sellised, et nad loovad Euroopa Liidus arendatavale AI-le mingi
lisaväärtuse, mida USA-s arendataval AI-l ei ole. Samas ei tohiks kahjustada saada Euroopa
Liidu inimesed ega nende põhiõigused – need väärtused teevadki Euroopa Liidu võrreldes USA-
ga mõneti humaansemaks ja inimesi respekteerivamaks.
2. Juhime tähelepanu sellele, et eelnõu Art 2 (1) punkti a järgi kohaldatakse eelnõus sätestatud
reegleid ka kolmandate riikide teenusepakkujatele ja kasutajatele, kuid tekib küsimus, et kuidas
praktikas nende reeglite järgimine ja sanktsioneerimine tagatakse? Arvestades tehisintellektiga
kaasnevaid riske, peaks väga selgelt olema hinnatud, kas ikka suudetakse seda teha. Siin on
omakorda seos ka andmekaitsega – nt, olukorras, kus Euroopa Liidus tegutsemine keelatakse
ära, siis mis saab isikuandmetest (nt olukorras, kus kui tehisintellekt isikuandmeid töötles)?
GDPR-i nõuete täitmise üle on vähemalt Eesti Andmekaitse Inspektsioonil keeruline EU/EEA
välistes riikides järelevalvet teostada.
3. Seoses eelnõu artikliga 5 soovime tähelepanu juhtida AI arendamisega seotud murekohtadele. Arvestatud
Artikkel 5 lg 1 punkt a sätestab: "the placing on the market, putting into service or use of an AI seisukohapunktis 5.3.
system that deploys subliminal techniques beyond a person’s consciousness in order to
materially distort a person’s behaviour in a manner that causes or is likely to cause that person
or another person physical or psychological harm." AI definitsiooni ja AI piirangute osas tasub
mõelda, et mida täpsemalt me piirata tahame. Arvestades, et AI tasemeid on mitu, kas näiteks me
soovime, et mingit taset ei arendataks (vt tasemeid siit:
https://courses.cs.ut.ee/2020/Tehisintellekti_algkursus/spring/Main/PARTIVautonoomsus).
Mingist autonoomsusest alates ei ole ju võimalik enam teada, et kas art 5 on järgitud või mitte.
4. Globaliseerunud ja tehnoloogiast läbipõimitud majanduses, eriti pilvetehnoloogiaga seoses, Teadmiseks võetud.
töödeldakse (isiku)andmeid piiriüleselt ja see toimub väga kiiresti. Sellisel juhul jääb ainult
liiduülesest regulatsioonist väheseks. Artiklid 25, 32 ja 35 püüavad seda olukorda muuta läbi
volitatud esindaja loomise. Samas valguses on regulatsiooniga loodud turustajate kohustused.
Artikkel 27 lg 4 jätab aga turustajale ülemäära ebaselge diskretsiooni ise otsustada
süsteemi vastavuse üle ja võimaluse üle seal parandusi teha, unustades, et muudest
õigusaktidest tulenevalt ei pruugi vastavate modifikatsioonide tegemine üldse võimalik
olla.
5. Eelnõu jätab välja sõjalisel eesmärgil tehisintellekti kasutamisega seotud murekohad, samuti Teadmiseks võetud.
tehisintellekti kasutamisel tekkivad konkurentsiõiguse ja intellektuaalomandi probleemid. Toetame määruses
toodud lähenemist,
mille kohaselt on
kohaldamisalast väljas
tehisintellektisüsteemid
, mis on välja töötatud
või mida kasutatakse
üksnes sõjalisel
otstarbel.
6. Kokkuvõtteks ütleksime, et kavandatav määrus on väga mahukas ning tuleb läbi mõelda, kas on Teadmiseks võetud.
reaalne, et määruse alusel kohustatud isikutel on võimalik kõiki kohustusi täita.