dokumendiregister.ee
OtsingAsutusedMCP
dokumendiregister.eeAsutusedEesti avalike dokumendiregistrite otsing · nimistu.ee andmetel
Otsing›Majandus- ja Kommunikatsiooniministeerium
Väljaminev kiriAvalik

Eesti seisukohad tehisintellekti määruse eelnõu kohta (COM(2021) 85 final)

Majandus- ja Kommunikatsiooniministeerium · 5. oktoober 2021
Viit
2-13/21-3339
Registreeritud
5. oktoober 2021
Dokumendi liik
Väljaminev kiri
Adressaat
Riigikantselei
Saabumis/saatmisviis
EIS
Funktsioon
2/S Õigusalane teenindamine
Sari
2-13 EL õigusloome riiklike positsioonide koordineerimisega seotud kirjavahetus
Toimik
2-13/2021
Vastutaja
Anna-Liisa Pärnalaas (Majandus- ja Kommunikatsiooniministeerium, Kantsleri valdkond, EL ja rahvusvahelise koostöö osakond)

Failid

  • 📎2-1321-3339 05.10.2021 Väljaminev kiri.asice2636 KB

Sisu (failidest)

Teie 25.05.2021 nr 17.4/21-0673/-1T Riigikantselei [email protected] Meie 05.10.2021 nr 2-13/21-3339 Stenbocki maja Rahukohtu 3 15161, Tallinn Eesti seisukohad Euroopa Parlamendi ja nõukogu määruse, millega nähakse ette tehisintellekti käsitlevad ühtlustatud õigusnormid (tehisintellekti käsitlev õigusakt) ja muudetakse teatavaid liidu õigusakte (COM(2021) 85 final), eelnõu kohta Esitan 7. oktoobri 2021. a Vabariigi Valitsuse istungile Eesti seisukohad Euroopa Parlamendi ja nõukogu määruse, millega nähakse ette tehisintellekti käsitlevad ühtlustatud õigusnormid (tehisintellekti käsitlev õigusakt) ja muudetakse teatavaid liidu õigusakte (COM(2021) 85 final), eelnõu kohta. Lugupidamisega (allkirjastatud digitaalselt) Andres Sutt ettevõtlus- ja infotehnoloogiaminister Lisad: 1) Vabariigi Valitsuse protokollilise otsuse eelnõu; 2) seletuskiri; 3) Lisa 1. Kaasamise tabel. Anna-Liisa Pärnalaas 639 7697 [email protected] Suur-Ameerika 1 / 10122 Tallinn / 625 6342 / [email protected] / www.mkm.ee Registrikood 70003158 SELETUSKIRI Vabariigi Valitsuse otsuse juurde „Eesti seisukohad Euroopa Parlamendi ja nõukogu määruse, millega nähakse ette tehisintellekti käsitlevad ühtlustatud õigusnormid (tehisintellekti käsitlev õigusakt) ja muudetakse teatavaid liidu õigusakte (COM(2021) 85 final), eelnõu kohta“ 1. Sissejuhatus Tehisintellekti valgele raamatule1 tuginedes esitas Euroopa Komisjon (edaspidi komisjon) 21. aprillil 2021 Euroopa Parlamendi ja nõukogu määruse eelnõu, millega nähakse ette tehisintellekti käsitlevad ühtlustatud õigusnormid ja muudetakse teatavaid liidu õigusakte (edaspidi määrus). Määrus on osa paketist, kuhu kuuluvad lisaks masinamääruse eelnõu2 ning uuendatud tehisintellekti tegevuskava3. Tehisintellekti kasutuselevõtt võimaldab luua majanduslikke ja ühiskondlike hüvesid, kuid samas võivad sellega kaasneda ka riskid ja negatiivsed tagajärjed. Tehisintellekti valges raamatus esitas komisjon kaks põhieesmärki: luua tipptasemel ökosüsteem, mis suudab toetada tehisintellekti väljatöötamist ja kasutuselevõttu, ning tagada ökosüsteemi usaldusväärsus. Ettepaneku abil taotletakse teise eesmärgi täitmist, et muuta Euroopa juhtivaks piirkonnaks usaldusväärse ja turvalise tehisintellekti arendamisel ja rakendamisel. Määruse eesmärgiks on:  tagada, et turule lastavad ja kasutatavad tehisintellektisüsteemid on ohutud ja kooskõlas kehtiva põhiõigusi käsitleva õigusega ning liidu väärtustega;  tagada õiguskindlus tehisintellekti tehtavate investeeringute ja innovatsiooni soodustamiseks;  tugevdada juhtimist ja tõhustada põhiõigusi käsitleva kehtiva õiguse ja tehisintellektisüsteemidele kohalduvate ohutusnõuete täitmise tagamist;  hõlbustada seaduslike, ohutute ja usaldusväärsete tehisintellektirakenduste ühtse turu väljatöötamist ja vältida turu killustumist. Ettepanekus sätestatakse harmoneeritud eeskirjad tehisintellektisüsteemide arendamiseks, turule laskmiseks ja kasutamiseks liidus. Määrus järgib riskipõhist lähenemisviisi, kus reguleeriv sekkumine on kohandatud eelkõige nendele olukordadele, kus on või võib eeldada lähitulevikus tekkivat riski. Liidu väärtustega vastuolus olevad tehisintellekti kasutusviisid keelustatakse ning pakutakse välja eripiirangud ja kaitsemeetmed seoses biomeetrilise kaugtuvastamise süsteemide teatavate kasutusviisidega õiguskaitse eesmärgil. Suure riskiga tehisintellektisüsteemid, mis võivad põhjustada märkimisväärseid riske inimeste tervisele ja ohutusele või põhiõigustele, peavad vastama määruses sätestatud nõuetele ja enne nende laskmist liidu turule tuleb läbi viia vastavushindamine. Samuti kehtestatakse nende süsteemide pakkujatele ja kasutajatele kohustused, et tagada ohutus ja selliste olemasolevate õigusaktide järgimine, mis kaitsevad põhiõigusi kogu tehisintellektisüsteemide olelusringi jooksul. Teatavatele tehisintellektisüsteemidele kehtestatakse läbipaistvuskohustused, näiteks kui 1 „Tehisintellekt: Euroopa käsitus tipptasemel ja usaldusväärsest tehnoloogiast https://ec.europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence- feb2020_et.pdf 2 Euroopa Parlamendi ja Nõukogu masinavaldkonna toodete määruse COM(2021) 202 final https://eur- lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0202 3 https://digital-strategy.ec.europa.eu/en/library/coordinated-plan-artificial-intelligence-2021-review kasutatakse juturoboteid või nn süvavõltsinguid. Määrus näeb ette ka Euroopa tehisintellekti nõukoja loomise. Tehisintellekti regulatsiooni testkeskkondadele kohalduvate sätete kaudu soovitakse toetada innovatsiooni. Õigusakti vastuvõtmiseks on nõukogus vaja kvalifitseeritud häälteenamust. Subsidiaarsustähtaeg on 2. september 2021. Määruse eelnõu menetlemine toimub nõukogu telekommunikatsiooni ja infoühiskonna töörühmas. Seisukohad ja seletuskirja koostasid Majandus- ja Kommunikatsiooniministeeriumi andmete valdkonna juht Ott Velsberg ([email protected]), Euroopa Liidu ja rahvusvahelise koostöö osakonna nõunik Anna-Liisa Pärnalaas ([email protected]), toote ohutuse ja tarbijakaitse talituse nõunik Jekaterina Iljina ([email protected]), kaubanduse ja teenuste talituse nõunik Maarja Mere ([email protected]) ning Justiitsministeeriumi õiguspoliitika osakonna avaliku õiguse talituse nõunik Siiri Aulik ([email protected]) ja õiguspoliitika osakonna nõunik Henrik Trasberg ([email protected]). Valdkonna eest vastutavad Majandus- ja Kommunikatsiooniministeeriumi digiarengu asekantsler Siim Sikkut ([email protected]) ja ettevõtlus- ja tarbimiskeskkonna asekantsler Kristi Talving ([email protected]) ning Justiitsministeeriumi õiguspoliitika valdkonna asekantsler Heddi Lutterus ([email protected]). 2. Määruse eelnõu sisu ja võrdlev analüüs I jaotises (artiklid 1-4) määratakse määruse reguleerimisese, tehisintellektisüsteemide turule laskmist, kasutuselevõttu ja kasutamist käsitlevate eeskirjade kohaldamisala ning esitatakse eelnõus kasutatavad mõisted. Tehisintellektisüsteem on defineeritud kui tarkvara, mille arendamiseks on kasutatud üht või mitut I lisas loetletud tehnoloogiat või lähenemisviisi ja mis võib teatavate inimese kindlaks määratud eesmärkide jaoks luua väljundeid, näiteks sisu, prognoose, soovitusi või otsuseid, mis mõjutavad keskkondi, millega nad suhtlevad. Komisjoni eesmärk on määratleda tehisintellektisüsteem võimalikult tehnoloogianeutraalselt ja tulevikukindlalt, võttes arvesse tehnoloogia arenguid ja turusuundumusi. Jaotist on täiendatud I lisaga, kus esitatakse tehisintellekti meetodite ja lähenemisviiside loetelu, komisjonile antakse õigus loetelu delegeeritud akti kaudu ajakohastada. II jaotises (artikkel 5) esitatakse tehisintellekti keelatud kasutusviiside loetelu. Nendeks on:  süsteemid, milles on kasutatud inimese teadvusest kaugemale ulatuvale alalävisele tajule suunatud võtteid, et oluliselt moonutada isiku käitumist viisil, mis põhjustab või tõenäoliselt põhjustab sellele või mõnele teisele isikule füüsilist või psühholoogilist kahju;  süsteemid, mis kasutavad ära konkreetse isikute rühma mis tahes haavatavusi, mis tulenevad nende vanusest või füüsilise või vaimse tervise häirest, et oluliselt moonutada sellesse rühma kuuluva isiku käitumist viisil, mis põhjustab või tõenäoliselt põhjustab sellele või mõnele teisele isikule füüsilist või psühholoogilist kahju;  süsteemid, mis võetakse kasutusele ametiasutuste poolt või nende nimel, et hinnata või liigitada füüsiliste isikute usaldusväärsust teatava aja jooksul, lähtudes nende sotsiaalsest käitumisest või teadaolevatest või prognoositud iseloomulikest või isikuomadustest;  avalikult juurdepääsetavas ruumis reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamine õiguskaitse jaoks, välja arvatud kolmel erandjuhul: o võimalike kuriteoohvrite, sh kadunud laste otsimine; o füüsiliste isikute elu või füüsilist turvalisust ähvardava konkreetse, suure ja vahetu ohu või terrorirünnaku ärahoidmine; o nõukogu raamotsuses 2002/584/JSK4 osutatud kuriteo toimepanija või sellises kuriteos kahtlustatava avastamine, tema asukohta kindlaks tegemine, tema tuvastamine või vastutusele võtmine, kui tegemist on kuriteoga, mille eest karistatakse asjaomases liikmesriigis vabadusekaotuse või vabadust piirava julgeolekumeetmega, mille maksimaalne pikkus on vähemalt kolm aastat, nagu selle liikmesriigi õigusaktides kindlaks määratud. Kõigis kolmes eelkirjeldatud olukorras tuleb arvesse võtta olukorra olemust (sh milline oleks kahju raskusaste ja ulatus, kui süsteemi ei kasutata) ja süsteemi kasutamise tagajärgi kõigi asjaomaste isikute õiguste ja vabaduste seisukohast. Reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi igaks kasutamiseks avalikult juurdepääsetavas ruumis on vaja eelnevat luba, mille annab selle liikmesriigi õigusasutus või sõltumatu haldusasutus, kus kasutamine hakkab toimuma. Kiireloomulistel juhtudel võib hakata süsteemi kasutama ka ilma loata ja loa võib taotleda kasutamise ajal või pärast seda. III jaotis (artiklid 6-51) sisaldab suure riskiga tehisintellekti süsteemidele kohalduvaid nõudeid. Suure riskiga tehisintellektisüsteemide kasutamine Euroopa turul on lubatud vaid siis, kui on täidetud määruses toodud kohustuslikud nõuded ja tehtud vastavuse eelhindamine. Suure riskiga tehisintellektisüsteemiks liigitamisel lähtutakse tehisintellektisüsteemi sihtotstarbest kooskõlas olemasolevate tooteohutusalaste õigusaktidega. Seega ei olene suure riskiga süsteemiks liigitamine ainult tehisintellektisüsteemi täidetavast funktsioonist, vaid ka selle süsteemi konkreetsest kasutuseesmärgist ja kasutusviisidest. 1. peatükis (artiklid 6-7) esitatakse suure riskiga tehisintellektisüsteemide liigitamise reeglid. Tegemist on suure riskiga tehisintellektisüsteemidega, kui täidetud on mõlemad järgmised tingimused:  tehisintellektisüsteem on mõeldud kasutamiseks toote turvakomponendina või on ise toode, mille suhtes kehtivad II lisas loetletud liidu ühtlustamisõigusaktid;  toode, mille turvakomponent tehisintellektisüsteem on, või tehisintellektisüsteem ise kui toode peab läbima kolmanda isiku tehtava vastavushindamise, et selle saaks turule lasta või kasutusele võtta vastavalt II lisas loetletud liidu ühtlustamisõigusaktidele; Sinna hulka kuuluvad näiteks masinad, mänguasjad, raadioseadmed, küttegaasiseadmed, meditsiiniseadmed ja in vitro diagnostika meditsiiniseadmed. Lisaks on suure riskiga kõik III lisas loetletud muud eraldiseisvad tehisintellektisüsteemid. Siia alla kuuluvad näiteks elutähtsa taristu juhtimise ja käitamise valdkonnas kasutatavad tehisintellektisüsteemid, mis on mõeldud kasutamiseks maanteeliikluse korraldamise ja käitamise ning vee, gaasi, kütteenergia ja elektri tarnimise turvakomponendina; tööhõive, töötajate juhtimise valdkonnas kasutatavad tehisintellektisüsteemid, mis on mõeldud inimeste tööle võtmiseks või välja valimiseks, eeskätt seoses töökuulutuste avaldamise, avalduste sõelumise või filtreerimise ning vestluste või testide käigus kandidaatide hindamiseks; hariduse- ja kutseõppe valdkonnas kasutatavad tehisintellektisüsteemid, mis on mõeldud selleks, et määrata kindlaks füüsiliste isikute juurdepääsu haridus- ja kutseõppeasutustele või määrata isikud neisse asutustesse; tehisintellektisüsteemid, mis on mõeldud selleks, et hinnata 4 Nõukogu 13. juuni 2002. aasta raamotsus 2002/584/JSK Euroopa vahistamismääruse ja liikmesriikidevahelise üleandmiskorra kohta (EÜT L 190, 18.7.2002, lk 1). haridus- ja kutseõppeasutuste õpilasi ning haridusasutusse vastuvõtmiseks tavapäraselt nõutavate testide tegijaid. Komisjonil on õigus III lisas esitatud loetelu delegeeritud akti kaudu ajakohastada. 2. peatükis (artiklid 8-15) sätestatakse suure riskiga tehisintellektisüsteemidele esitatavad nõuded:  Riskijuhtimissüsteem - suure riskiga tehisintellektisüsteemide jaoks luuakse riskijuhtimissüsteem, seda rakendatakse ja see dokumenteeritakse ning seda hooldatakse. Tegemist on tehisintellektisüsteemi kogu eluea jooksul toimuva protsessiga, mida tuleb korrapäraselt ja süstemaatiliselt ajakohastada.  Andme ja andmehalduse nõuded - treenimis-, valideerimis- ja testimisandmestikud peavad olema asjakohased, representatiivsed, vigadeta ja täielikud ning neid peavad iseloomustama asjakohased statistilised omadused, sealhulgas vajaduse korral seoses isikute või isikute rühmadega, kelle peal kavatsetakse suure riskiga tehisintellektisüsteemi kasutada. Treenimis-, valideerimis- ja testimisandmestike suhtes kohaldatakse asjakohaseid andmehaldus- ja juhtimistavasid.  Tehniline dokumentatsioon - dokumentatsioon koostatakse enne süsteemi turule laskmist või kasutusele võtmist selliselt, et see tõendaks suure riskiga tehisintellektisüsteemi vastavust nõuetele ja annaks riikide pädevatele asutustele ja teavitatud asutustele nõuetele vastavuse hindamiseks kogu vajaliku teabe. Dokumentatsiooni kohustuslikud elemendid on toodud IV lisas, mida komisjonil on õigus delegeeritud akti alusel ajakohastada.  Andmete säilitamine - suure riskiga tehisintellektisüsteeme tuleb nii projekteerida ja arendada, et töötamise ajal oleks võimalik sündmusi automaatselt registreerida („logid“) vastavalt tunnustatud standarditele või ühtsetele kirjeldustele.  Läbipaistvus ja kasutajate teavitamine - tagatud peab olema töö piisav läbipaistvus, et kasutajad saaksid tõlgendada süsteemi väljundit ja seda asjakohaselt kasutada. Kaasas peab olema sobivas digivormingus või muus vormis kasutusjuhend, mis sisaldab kokkuvõtlikku, täielikku, täpset ja selget teavet, mis on kasutajatele oluline, juurdepääsetav ja mõistetav.  Inimjärelevalve - peab olema tagatud, et füüsilised isikud saaksid teha tehisintellektisüsteemi kasutamise ajal selle üle reaalset järelevalvet, et hoida ära või minimeerida tervist, ohutust või põhiõigusi ähvardavaid riske.  Täpsus, stabiilsus ja küberturvalisus - tehisintellektisüsteemid tuleb projekteerida ja arendada selliselt, et nad saavutaksid oma sihtotstarbe seisukohast asjakohase täpsuse, stabiilsuse ja küberturvalisuse taseme ning et nende sooritus oleks kolmes nimetatud aspektis kogu elutsükli jooksul järjekindel. Täpsuse tasemed ja parameetrid tuleb deklareerida süsteemiga kaasas olevas kasutusjuhendis. Suure riskiga tehisintellektisüsteemid peavad pidama vastu volitamata kolmandate isikute katsetele muuta süsteemi kasutamist või toimimist, kasutades ära süsteemi nõrkusi. 3. peatükis (artiklid 16-29) kehtestatakse suure riskiga tehisintellektisüsteemide pakkujatele horisontaalsed kohustused. Kohustused kehtestatakse ka kasutajatele ja teistele tehisintellekti väärtusahela osalejatele (näiteks importijad, turustajad, volitatud esindajad). 4. peatükis (artiklid 30-39) sätestatakse raamistik teavitatud asutuste kui sõltumatute kolmandate isikute osalemise kohta vastavushindamises. Iga liikmesriik peab määrama või looma teavitava asutuse, kes vastutab vastavushindamisasutuste hindamise, määramise ja neist teavitamise ning nende seire jaoks vajalike menetluste väljatöötamise ja läbiviimise eest. Vastavushindamisasutus peab esitama teavitamistaotluse selle liikmesriigi teavitavale asutusele, mille territooriumil ta asub, koos dokumendiga, kus kirjeldatakse vastavushindamistoiminguid, vastavushindamismoodulit ja tehisintellektitehnoloogiaid, millega tegelemiseks väidab see vastavushindamisasutus end pädev olevat. Kui asutus vastab määruses toodud nõuetele, informeerib teavitav asutus sellest komisjoni ja teisi liikmesriike. Teavitatud asutused kontrollivad suure riskiga tehisintellektisüsteemi vastavust määruses kirjeldatud vastavushindamismenetluse kohaselt, olles samal ajal sõltumatud tehisintellektisüsteemi pakkujast, mille vastavushindamisega nad tegelevad. 5. peatükk (artiklid 40-51) sisaldab suure riskiga tehisintellektisüsteemide puhul nõutud vastavushindamist puudutavaid sätteid. IV jaotises (artikkel 52) sätestatakse teatavate tehisintellektisüsteemide puhul kohalduvad läbipaistvusnõuded. Pakkujad peavad tagama, et füüsilistele isikutele antakse teada, et nad suhtlevad tehisintellektisüsteemiga, välja arvatud juhul, kui see on asjaolude ja kasutamise konteksti tõttu ilmne. Emotsioonide tuvastamise või biomeetrilise liigitamise süsteemi kasutajad peavad teavitama süsteemi tööst isikuid, kes sellega kokku puutuvad. Nn süvavõltsingute korral peab avalikustama, et sisu on kunstlikult loodud või seda on manipuleeritud. V jaotis (artiklid 53-55) sisaldab innovatsiooni toetavaid meetmeid, eelkõige regulatsiooni testkeskkondi puudutavaid sätteid. Tegemist on kontrollitud keskkonnaga, mis hõlbustab innovatiivsete tehisintellektisüsteemide arendamist, testimist ja valideerimist piiratud aja jooksul enne nende turule laskmist või kasutusele võtmist konkreetse kava kohaselt. Pädevate asutuste järelevalve ja juhendamise tulemusena võimaldavad testkeskkonnad tagada innovatiivsete tehisintellektisüsteemide vastavuse määruse nõuetele ning muudele asjakohastele õigusaktidele. See suurendab õiguskindlust ning toetab pädevaid asutusi järelevalve teostamisel ning toetab arusaamist tehisintellekti kasutamise võimalustest, kaasnevatest riskidest ja mõjudest ning kiirendab lahenduste turulepääsu. Pädevad asutused, kes on loonud tehisintellekti regulatsiooni testkeskkonnad, koordineerivad oma tegevust ja teevad koostööd Euroopa tehisintellekti nõukojas ning esitavad nõukojale ja komisjonile igal aastal aruande nende kavade rakendamise kohta. Testkeskkondade töökord ja -tingimused (sh kõlblikkuskriteeriumid ja taotluste esitamise, valiku-, osalemis- ja testkeskkonnast väljumise protseduurid ning osaliste õigused ja kohustused) sätestatakse rakendusaktides. Lisaks nähakse ette tingimused isikuandmete töötlemiseks testkeskkonnas teatavate tehisintellektisüsteemide arendamiseks ja testimiseks avalikes huvides. Jaotis sisaldab ka sätteid, mille eesmärk on lihtsustada väikepakkujate ja idufirmade ligipääsu testkeskkondadele ning vähendada nende koormust, näiteks vastavushindamise tasude kehtestamisel. VI jaotises (artiklid 56-58) sätestatakse liidu ja riigi tasandi juhtimissüsteemid. 1. peatükis kehtestatakse Liidu tasandil liikmesriikide ja komisjoni esindajatest koosnev Euroopa tehisintellekti nõukoda, mis aitab tõhustada riikide järelevalveasutuste ja komisjoni koostööd ning annab komisjonile nõu ja oskusteavet, soodustades sellega määruse sujuvat, tõhusat ja harmoneeritud rakendamist. Nõukoda kogub ja jagab liikmesriikidega parimaid tavasid. 2. peatüki kohaselt peavad liikmesriigid määruse kohaldamise ja rakendamise jälgimise eesmärgil nimetama ühe või mitu riiklikku pädevat asutust ning nende hulgast riikliku järelevalveasutuse, mis tegutseb teavitava asutuse ja turujärelevalveasutusena. Mh nähakse ette, et liikmesriigid peavad esitama komisjonile igal aastal aruande pädevate asutuste rahaliste ja inimressursside seisu kohta, hinnates sealjuures nende piisavust, saadud teabe esitab komisjon nõukojale arutamiseks. Euroopa andmekaitseinspektor tegutseb liidu asutuste, ametite ja organite üle järelevalvet teostava pädeva asutusena, kui need kuuluvad määruse kohaldamisalasse. VII jaotise (artikkel 60) eesmärk on hõlbustada komisjoni ja riikide ametiasutuste seiretööd, kehtestades peamiselt põhiõigusi mõjutavate eraldiseisvate suure riskiga tehisintellektisüsteemide ELi andmebaasi. Andmebaasi haldab komisjon ja selle andmed pärinevad tehisintellektisüsteemide pakkujatelt, kellelt nõutakse oma süsteemide registreerimist enne nende turule laskmist või muul viisil kasutusele võtmist. Andmebaasis sisalduv teave on üldsusele juurdepääsetav. VIII jaotises (artiklid 61-68) sätestatakse tehisintellektisüsteemide pakkujate seire- ja aruandekohustused seoses turustamisjärgse seire ja aruandluse ning tehisintellektiga seotud intsidentide ja rikete uurimisega. 1. peatükk (artikkel 61) sisaldab turustamisjärgse seire sätteid. Pakkujad peavad kehtestama turustamisjärgse seire süsteemi, mis aktiivselt ja süstemaatiliselt kogub, dokumenteerib ja analüüsib kasutajate esitavaid või muudest allikatest kogutavaid asjakohaseid andmeid suure riskiga tehisintellektisüsteemide toimimise kohta kogu nende eluea jooksul. Süsteem põhineb turustamisjärgse seire kaval, mis on IV lisas osutatud tehnilise dokumentatsiooni osa. 2. peatükk (artikkel 62) reguleerib teabe jagamist intsidentide ja tõrgete kohta. Turule lastud suure riskiga tehisintellektisüsteemide pakkujad teatavad igast süsteemide tõsisest intsidendist või tõrkest, mille puhul on tegu põhiõiguste kaitseks mõeldud liidu õiguse kohaste kohustuste rikkumisega, nende liikmesriikide turujärelevalveasutustele, kus intsident või rikkumine aset leidis. 3. peatükk (artiklid 63-68) sisaldab turujärelevalvet ja kontrolli puudutavaid sätteid. Turujärelevalveasutused kontrollivad turgu ja uurivad kõigile juba turule lastud suure riskiga tehisintellektisüsteemidele kehtestatud kohustuste ja nõuete täitmist. IX jaotises (artikkel 69) luuakse käitumisjuhendite koostamise raamistik. Juhendite eesmärk on julgustada muu kui suure riskiga tehisintellektisüsteemide pakkujaid vabatahtlikult kohaldama suure riskiga tehisintellektisüsteemidele kohustuslikke nõudeid (vastavalt III jaotisele). Muu kui suure riskiga tehisintellektisüsteemide pakkujad võivad tegevusjuhendeid ise koostada ja rakendada. Need juhendid võivad hõlmata ka vabatahtlikult võetavaid kohustusi, mis võivad olla seotud näiteks keskkonnasäästlikkusega, puuetega inimeste juurdepääsuga, sidusrühmade osalemisega tehisintellektisüsteemide projekteerimises ja arendamises ning arendustiimide mitmekesisusega. X jaotis (artiklid 70-72) sisaldab teabe ja andmete konfidentsiaalsust sisaldavaid sätteid ning sätestatakse eeskirjad määruse rakendamisel hangitava teabe vahetamiseks. Jaotis sisaldab ka meetmeid, millega tagada määruse tõhus rakendamine selle normide rikkumise eest määratavate karistustega. XI jaotises (artiklid 73-74) sätestatakse delegeerimis- ja rakendusvolituste kasutamise eeskirjad. Ettepanek annab komisjonile õiguse võtta asjakohasel juhul vastu rakendusakte määruse ühetaolise kohaldamise tagamiseks või delegeeritud õigusakte I–VII lisa loetelude ajakohastamiseks või täiendamiseks. XII jaotis (artiklid 75-85) sisaldab lõppsätteid. Komisjonile kehtestatakse kohustus hinnata korrapäraselt III lisa ajakohastamise vajadust ja koostada korrapäraselt määruse hindamise ja läbivaatamise aruandeid. Määrust kohaldatakse 24 kuud pärast määruse jõustumist. Erandina kohaldatakse III jaotise 4. peatükki ja VI jaotist kolm kuud pärast määruse jõustumist ning artiklit 71 alates 12 kuud pärast määruse jõustumist. Enne määruse kohaldamist turule lastud või kasutusele võetud suure riskiga tehisintellektisüsteemidele kohaldatakse määrust ainult juhul, kui muudetakse oluliselt nende projekti või sihtotstarvet. Määruse praegusel kujul vastuvõtmisega kaasneb vajadus sätestada siseriiklikus õiguses karistused, mida kohaldatakse määruse rikkumise korral (näiteks karistusseadustikus). Lisaks tuleb asjakohastes õigusaktides täpsustada antud määruse kontekstis pädevate asutuste ja järelevalveasutuste volitusi. 3. Euroopa Liidu asja vastavus pädevuse andmise, subsidiaarsuse ja proportsionaalsuse põhimõtetele 3.1. Õiguslik alus Määruse õiguslikuks aluseks on valitud ELi toimimise lepingu artikkel 114, mis annab õiguse kehtestada meetmeid, mille eesmärk on tagada EL siseturu toimimine. Õiguslik alus on kohane, sest liidu tasemel võetavad meetmed võimaldavad vältida ühtse turu killustumist olukorras, kus liikmesriigid hakkavad kehtestama tehisintellektisüsteemide arendamisele ja kasutamisele erinevaid siseriiklike norme, mis omakorda muudaksid keerulisemaks Eesti ettevõtjate juurdepääsu turgudele ja kahjustaks konkurentsivõimet. Õiguskaitse eesmärgil avalikult juurdepääsetavas ruumis reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamise piirangute osas on õiguslikuks aluseks ELi toimimise lepingu artikkel 16, mis on samuti asjakohane. 3.2. Subsidiaarsus Nõustume komisjoni subsidiaarsuse analüüsiga, mille kohaselt liikmesriigid üksi ei saa määruse ettepaneku eesmärke tõhusalt täita ning eesmärgid on paremini saavutatavad EL tasandil. Valdkonna reguleerimine EL tasandil on vajalik EL siseturu parema toimimise tagamiseks. Kui liikmesriigid hakkavad tehisintellektist tingitud probleemide käsitlemiseks vastu võtma siseriiklikke õigusnorme, tooks see kaasa digitaalse ühtse turu killustumise, mis võib mh kahjustada ka Eesti ettevõtete juurdepääsu turgudele ja konkurentsivõimet ülemaailmsetel turgudel. Lisaks takistavad lahkneda võivad riiklikud eeskirjad ohutuse ja põhiõiguste ning liidu väärtuste tõhusat kaitset. Seega oleme seisukohal, et kavandatavad määruse eesmärgid on paremini saavutatavad liidu tasandil. 3.3. Proportsionaalsus Määruses toodud meetmete kaudu soovitakse toetada tehisintellekti väljatöötamist ja kasutuselevõttu ning tagada loodavate lahenduste usaldusväärsus. Komisjon on omaks võtnud komisjoni kokku kutsutud sõltumatu kõrgetasemelise tehisintellekti eksperdirühma usaldusväärse tehisintellekti käsitluse, mille kohaselt usaldusväärne tehisintellekt on õiguspärane (sh kooskõlas põhiõigustega), eetiline ja tehniliselt ning sotsiaalsest seisukohast töökindel (ingl. robust). Usaldusväärse, ühiskonna hüvangut tagava tehisintellekti tagamisega näeb EL võimalust tõsta ühiskonna valmisolekut tehisintellektirakenduste kasutuselevõtuks ja võimalust tõsta oma konkurentsivõimet maailmaturul. Samas on ka hinnatud5, et määrus võib kaasa tuua märkimisväärsed lisakulutused tehisintellekti arendamisele ja kasutuselevõtule, mille tagajärjel võib investeeringute maht väheneda pea 20 protsenti ning seeläbi kannatada ka ELi konkurentsivõime ning süveneda mahajäämus. Esmasest analüüsist ja saadud selgitustest lähtuvalt ei saa kõiki määrusega planeeritud meetmed praeguses sõnastuses pidada proportsionaalseteks. Näiteks kehtestatakse suure riskiga tehisintellektisüsteemidele mõningaid 5 Center for Data Innovation „How Much Will the Artificial Intelligence Act Cost Europe?“ https://www2.datainnovation.org/2021-aia-costs.pdf kvaliteedikriteeriume, mida ei ole praeguses sõnastuses praktikas võimalik tagada. Selleks on näiteks treenimis-, valideerimis- ja testimisandmestikele kehtestatavad nõuded, mille kohaselt peavad andmestikud olema asjakohased, representatiivsed, vigadeta ja täielikud. Määruse sõnastust tuleb täpsustada, sest praktikas ei ole võimalik tagada, et andmed oleksid vigadeta ja täielikud. Selleks, et oleks tagatud ka ELi konkurentsivõime usaldusväärse tehisintellekti arendamisel ja kasutuselevõtul, on oluline läbirääkimiste käigus tagada määrusega kavandatavate meetmete proportsionaalsus. 4. Esialgse mõjude analüüsi kokkuvõte 4.1. Mõju riigi julgeolekule Määruse kohaldamislast on välja jäetud tehisintellektisüsteemid, mis on välja töötatud või mida kasutatakse üksnes sõjalisel otstarbel, kohaldamisalasse kuuluvad kahese kasutusega tehisintellektisüsteemid, mida kasutatakse paralleelselt sõjalisel- ja ka tsiviilotstarbel. Samuti kohaldub määrus julgeoleku tagamise eesmärgil kasutatavatele tehisintellektisüsteemidele. Sellised süsteemid peavad kasutusvaldkonnast lähtuvalt vastama määruses sätestatud nõuetele. Määrust ei kohaldata kolmanda riigi ametiasutuste ega määruse kohaldamisalasse kuuluvate rahvusvaheliste organisatsioonide suhtes, kui need asutused või organisatsioonid kasutavad tehisintellektisüsteeme liidu või ühe või mitme liikmesriigiga õiguskaitse ja õigusalase koostöö jaoks sõlmitud rahvusvaheliste lepingute raames. 4.2. Mõju majandusele Ühtlustatud õigusraamistik võimaldab vältida EL ühtse turu killustumist ning tagab ettevõtetele võrdsed tingimused. Määruse toodud meetmed avaldavad kõige suuremat majanduslikku mõju ettevõtetele, kes pakuvad või kasutavad tehisintellektisüsteeme, mis liigituvad artikli 6 alusel suure riskiga tehisintellektisüsteemide hulka. Komisjoni hinnangul 6 puudutaks see hinnanguliselt 5 – 15 protsenti kõigist rakendustest. Need süsteemid peavad vastama määruses sätestatud nõuetele, mille täitmisega kaasneks komisjoni hinnangul ligikaudu 6000-7000 eurot ühekordsete kuludena ning 5000-8000 eurot püsivate kuludena (inimjärelevalve tagamine) süsteemi kohta. Kulud kaasnevad ka enne turule laskmist kohustusliku vastavushindamise läbiviimisega (3000-7500 eurot). Läbiviidud projektile ja ekspertteadmistele tuginedes võib eeldada, et määruse rakendamisega kaasnevad märgatavalt kõrgemad ühekordsed- ja jätkukulud kui need, mida komisjon on mõjuhinnangus välja toonud. Tänaste kasutusjuhtude näitel puudutab määrus oluliselt suuremat osa kasutatavatest tehisintellektisüsteemidest (Eesti hinnangul puudutab see hetkel pea 40 protsenti riigisiseselt avalikus sektoris rakendatud tehisintellektisüsteemidest).7 Eriti ulatuslik majanduslik mõju võib kaasneda asjaoluga, et määrusega sätestatakse täiendavad nõuded andmekvaliteedile, mis tüüpiliselt on seotud väga kõrgete kuludega. Näiteks Fontese palgauuringu kohaselt andmekvaliteedile esitatavate nõuete tagamisega kaasnevad personalikulud ühe andmekogu kohta on minimaalselt 52182 eurot aastas (IKT konsultandid 3 tööpere põhjal), millele lisandub ka töökoha kulu (varieerub asutuseti, arvestada võib 7747 6 Mõjuhinnang: https://digital-strategy.ec.europa.eu/en/library/impact-assessment-regulation-artificial- intelligence 7 Avalik sektor on täna Eestis tehisintellektisüsteemide rakendamisel eesrinnas, kuid lahendusi arendab peamiselt erasektor. Majanduslike mõjude all käsitletud ka avaliku sektori osa majandusest. eurot aastas). Sellele lisanduvad ühekordsed andmekogu andmekvaliteedi parendusteks tehtavad tööd8, mille arenduste kulud võivad küündida üle ühe miljoni euro andmekogu kohta. Näiteks rahvastikuregistri andmekvaliteedi tagamisega tegeleb iga-aastaselt 5 inimest, kellele palgakulu on 250 000 eurot. Samamoodi on ehitisregistri andmekvaliteedi parendustöödest senini kulunud enam kui 800 000 eurot, lisaks tegeleb üks täiskohaga töötaja andmekvaliteedi tagamisega. Seejuures viidatud andmekogudes ei ole andmekvaliteet tänaseni tagatud ning nõuaks määruse rakendumisel samaväärseid investeeringuid. Eeltoodu illustreerib, et täiendavad nõuded andmekvaliteedi tagamiseks võivad tuua kaasa ulatuslikke kulusid, eriti erasektoris, tingituna selle mahajäämusest andmekvaliteedi tagamisel. Täpsemad arenduskulud sõltuvad siiski andmekogust ja selle vastavusest kehtivatele andmekvaliteedi nõuetele, mistõttu on siinkohal välja toodud vaid hinnangulised summad. Oluline on ka silmas pidada, et määruse esialgses sõnastuses on andmekvaliteedi nõuded sõnastatud lakooniliselt, kusjuures määruses sätestatud kriteerium, mille kohaselt treenimis-, valideerimis- ja testimisandmestikud peaksid olema mh vigadeta ja täielikud on selline, mida ei ole võimalik praktikas mõistliku kulu ja ajaga saavutada (v.a väga erandlikel juhtudel). Andmekvaliteedi parendusteks tehtavate tööde kulusid on võimalik oluliselt vähendada kui andmekvaliteedile kehtestavad nõuded on proportsionaalsed ja lähtuksid konkreetselt kasutusjuhtudest ning püstitatud eesmärkidest. Seega hakkavad tegelikud kulud sõltuma sellest, milliseks kujunevad praktikas rakendatavad andmekvaliteedi nõuded, mis oleks kooskõlas kõnesoleva määrusega. Lisaks sellele lisanduvad ka muud ühekordsed- ja püsikulud. Kui komisjon on oma mõjuhinnangus hinnanud määruse nõuete täitmisega kaasnevaks maksimaalseks täiendavaks kuluks ligikaudu 10 000 eurot iga tehisintellektisüsteemi kohta,9 siis selliste suure riskiga tehisintellektisüsteeme pakkuvate ettevõtete jaoks, kes juba määrusele eelnevalt ei ole rakendanud kõrgetasemelisi riskihalduse, logimise ja järelevalvelahendusi, võivad tegelikud kulud olla siiski oluliselt kõrgemad. Näiteks ainuüksi keskseks õiguste haldamiseks ja logimiseks võib suuremate organisatsioonide puhul ette näha investeeringuid enam kui 700 000 euro ulatuses. Tehisintellektisüsteemide arendamisel ja rakendamisel tuleks arvestada inimjärelevalveks ühekordseteks kuludeks vähemalt 50 100 eurot, mis kätkeb endas äriloogika kuvamist, liidestamist kasutatavate mudelitega, logide edastamist kesksesse logiserverisse, testimist jm. Eelnevast tulenevalt kaasneksid suure riskiga lahenduste loomisel täiendavad kulud. Antud kulude osas tuleb siiski arvestada ka asjaolu, et olulisel määral tuleks nii andmekvaliteedi tagamiseks, süsteemi järelevalveks kui riskide maandamiseks kanda kulusid ka sõltumata määrusest, tagamaks tehisintellektisüsteemi korrektne, kvaliteetne ja õiguspärane toimimine (sh tagamaks kooskõla kehtivate isikuandmete kaitse ja andmekvaliteedi nõuetega). Iduettevõtete ja VKEde jaoks võib suure riskiga tehisintellektisüsteemidele kehtestatud nõuete täitmine ja kaasneva halduskoormusega toimetulek osutuda koormavamaks ning tingida vajaduse lisaressursi järele. Lisaks on valdkonnas olulisel määral puudu spetsialistidest10, mis võib raskendada VKEde nõuetega toimetulekut. Seetõttu võib tekkida olukord, kus kulud ja nõuded suure riskiga tehisintellektisüsteemide arendamiseks ja pakkumiseks kujutavad endast iduettevõtete ja VKEde jaoks üsna kõrget barjääri turule sisenemiseks ja selliste rakenduste pakkumiseks ning kasutuselevõtuks. Samuti on suurematel tehnoloogiaettevõtjatel ressurssi arendada soovitud süsteem välja enne, kui määruse nõuded neile kohalduma hakkavad (artiklite 8 On oluline märkida, et määruses ja mõjuanalüüsi kontekstis käsitletakse andmekvaliteeti laiemalt kui vaid isikuandmete õigusust. Määrus puudutab kõiki andmeid/andmekogusid, mida on võimalik suure riskiga lahenduste väljatöötamiseks kasutada ning kõigil juhtudel peavad olema tagatud andmetele ja andmehaldusele kehtestatud nõuded. 9 Mõjuhinnang (alaviide 1), lk 67. 10 Microsofti oskuste ja tööjõu analüüs: https://news.microsoft.com/skills/#skills-and-jobs-analysis 83 ja 85 koosmõju juba turule lastud või kasutusele võetud tehisintellektisüsteemidele). Samuti tähendaks määruse artikkel 71 kohase trahvi kohaldamine iduettevõtjate puhul nende tegevuse lõppemist. Olulisi majanduslikke mõjusid ei kaasne nendele ettevõtetele, kes arendavad või kasutavad tehisintellektisüsteeme, mis ei ole liigitatud suure riskiga rakendusteks. Neil juhtudel kaasnevad minimaalsed teavitamiskohustused. Keskpikas perspektiivis võib määrusel olla ettevõtluskeskkonda soodustav mõju niivõrd, kui selles sätestatud turva-, kvaliteedi- ja riskide maandamise nõuded suurendavad tarbijate ja teiste kasutajate usaldust ja valmisolekut tehisintellektisüsteemidel põhinevate teenuste ja toodete kasutamiseks. EL ülene ühetaoline ning õiguskindel regulatiivne raamistik omab potentsiaalselt ka investeeringuid soodustavat mõju. Positiivset mõju võivad omada artiklis 43 toodud kohustus võtta vastavushindamise tasude kehtestamisel arvesse VKEde huve ning meetmed, millega julgustatakse liikmesriike rajama tehisintellekti regulatsiooni testkeskkondi. Vastavushindamise tasusid puudutavad sätted ei pruugi omada soovitud mõju, kui vastavushindamist teostavaid asutusi on vähe. Eestis on mõnes lisas II loetletud valdkonnas ainult üks teavitatud asutus (väikelaevad, lihtsad surveanumad), kuid paljudes valdkondades ei ole ühtegi teavitatud asutust (sh meditsiiniseadmed, isikukaitsevahendid raadiotehnika, mänguasjad)11. Kui vastavushindamist vajavaid rakendusi on palju, ei pruugi asutused vastu võtta töid, mille eest saadav tasu on väiksem ning vastavushindamise saamiseks ja toote kiireks turule toomiseks võivad VKEd olla ikkagi sunnitud täishinda tasuma. 4.3. Mõju põhiõigustele Kohustus tagada põhiõiguste kaitse tehisintellekti kontekstis tuleneb juba praegu nii põhiseadusest, kehtivast Euroopa Liidu õigusest ja Eestile siduvatest rahvusvaheliste inimõiguste instrumentidest. Ilma määruseta peaks Eesti tõenäoliselt kehtestama analoogseid nõudeid siseriiklikult. See aga killustaks ELi siseturgu ega tagaks ühetaolist ja kõrget põhiõiguste kaitset kogu EL-is. Määruse seletuskirja kohaselt põhineb ettepanek „ELi väärtustel ja põhiõigustel ning sellega soovitakse anda inimestele ja muudele kasutajatele kindlustunnet tehisintellektipõhiste lahenduste kasutamisel, julgustades samas ettevõtjaid neid välja arendama. Tehisintellekt peaks olema inimeste abivahend ja ühiskonda edasiviiv jõud, mille lõppeesmärk on suurendada inimeste heaolu. Seepärast peaksid liidu turul olemasolevat või liidu kodanikke muul viisil mõjutavat tehisintellekti käsitlevad eeskirjad olema inimesekesksed, et inimesed saaksid olla kindlad, et tehnoloogiat kasutatakse ohutul ja õiguspärasel viisil, sealhulgas austades põhiõigusi.“ Määrusel on otsene mõju põhiõigustele, kuna selle üheks eesmärgiks on tagada, et turule lastavad ja kasutatavad tehisintellektisüsteemid on ohutud ja kooskõlas kehtiva põhiõigusi käsitleva õiguse ning liidu väärtustega. Määruses nähakse ette nõudeid tehisintellektisüsteemidele vastavalt riskidele elule ja tervisele (ohutus) ning teistele põhiõigustele, mis nende süsteemide kasutamisega kaasnevad. Põhiõiguste käsitlus määruses on lai. Tagatakse olemasolevate liidu teiseste õigusaktidega andmekaitse, tarbijakaitse, diskrimineerimiskeelu ja soolise võrdõiguslikkuse valdkonnas kehtestatud nõuete täitmist, aga ka laiemalt kõikide Euroopa Liidu põhiõiguste hartas kaitstud põhiõiguste ja vabaduste kaitset. Seletuskirjas on seosed erinevate nõuete ja põhiõigustega välja toodud täpsemalt: „Kõigile väärtusahela osalejatele kohaldatavate usaldusväärset tehisintellekti käsitlevate nõuete ja proportsionaalsete kohustustega suurendab ettepanek hartaga kaitstavate õiguste kaitset: õigus 11 https://ec.europa.eu/growth/tools-databases/nando/index.cfm?fuseaction=country.notifiedbody&cou_id=233 inimväärikusele (artikkel 1), eraelu austamisele ja isikuandmete kaitsele (artiklid 7 ja 8), diskrimineerimiskeeld (artikkel 21) ning naiste ja meeste võrdõiguslikkus (artikkel 23). Selle eesmärk on vältida heidutavat mõju sõnavabadusele (artikkel 11) ja kogunemisvabadusele (artikkel 12), tagada õigus tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele, kaitseõigus ja süütuse presumptsioon (artiklid 47 ja 48) ning üldine hea halduse põhimõte. Teatavates valdkondades kohaldatavana mõjutab ettepanek positiivselt mitme rühma õigusi, nagu töötajate õigused headele ja õiglastele töötingimustele (artikkel 31), tarbijakaitse kõrge tase (artikkel 28), lapse õigused (artikkel 24) ning puuetega inimeste integreerimine ühiskonda (artikkel 26). Tähtis on ka õigus kõrgetasemelisele keskkonnakaitsele ja keskkonna kvaliteedi parandamisele (artikkel 37), sealhulgas seoses inimeste tervise ja ohutusega. Teiste põhiõiguste austamisele aitavad kaasa eelkontrolli, riskijuhtimise ja inimjärelevalve kohustused, millega viiakse miinimumini ekslike või erapoolikute tehisintellektipõhiste otsuste tegemise risk elutähtsates valdkondades, nagu haridus ja koolitus, tööhõive, tähtsad teenused, õiguskaitse ja kohtuvõim. Kui põhiõiguste rikkumisi ikkagi esineb, tehakse kahju kandnud isikutele kättesaadavaks tõhus õiguskaitse, tagades tehisintellektisüsteemide läbipaistvuse ja jälgitavuse koos range järelkontrolliga.“ Määruse ettepanekuga kehtestatakse ka teatavaid piirangud ettevõtlusvabadusele (artikkel 16), kunsti ja teaduse vabadusele (artikkel 13) ja õigusele intellektuaalomandi kaitsele (artikli 17 lõige 2), et tagada suure riskiga tehisintellektitehnoloogia arendamisel ja kasutamisel ohutus ja teiste põhiõiguste kaitse. Oluline on määruses saavutada optimaalne tasakaal innovatsiooni edendamise ning põhiõiguste kaitse vahel. 4.4. Mõju riigiasutuste ja kohalike omavalitsuste korraldusele ning avaliku sektori kuludele ja tuludele Avalikule sektorile kaasnevad kulud tehisintellektisüsteemide kasutajatena määruses toodud nõuete täitmisel ning ka järelevalve teostamise kaudu. Kõige suurem on mõju asutustele, mis kasutavad tehisintellektisüsteeme, mis liigituvad suure riskiga süsteemide alla. Näiteks hõlmab määruse kohaldamisala mitmeid Siseministeeriumi haldusala süsteeme, mistõttu kaasneb sellega haldusalas kasutusel olevate andmekogude põhimääruste muutmise ja uuendamise vajadus. Lisaks puudutab määruse kohaldamisala ka mitmeid Justiitsministeeriumi haldusala, Töötukassa, Haigekassa, Põllumajanduse Registrite ja Informatsiooni Ameti (PRIA), Transpordiameti ja teiste asutuste süsteeme, kus tekib kohustus teostada süsteemidele täiendav riskianalüüs (artikkel 9), kontroll andmete kasutamise üle (artikkel 10), kohustus andmete ja logide rakendamiseks ja säilitamiseks (artikkel 12), tagada lahenduse läbipaistvus ja kasutajate teavitamine (artikkel 13), järelevalve (artikkel 14) ning lahenduse täpsus, stabiilsus ja küberturvalisus (artikkel 15). Nende punktide täitmiseks ja tagamiseks tekib vajadus täiendavate arenduste, aga ka ametikohtade järele, sealhulgas ka arenduse tellija poolt. Määruse eesmärgid on iseenesest õiged, kuid Eesti hinnangul kaasnevad määruse rakendamisega liikmesriikide ametiasutustele märgatavalt kõrgemad ühekordsed- ja jätkukulud kui need, mida komisjon on mõjuanalüüsis välja toonud. Määrusest tulenevad täiendavad nõuded andmekvaliteedi tagamiseks võivad tuua kaasa ulatuslikke kulusid. Näiteks määruses andmekvaliteedile esitatavate nõuete12 tagamisega seotud personalikulud ühe andmekogu kohta 12 On oluline märkida, et määruses ja mõjuanalüüsi kontekstis käsitletakse andmekvaliteeti laiemalt kui vaid isikuandmete õigusust. Määrus puudutab kõiki andmeid/andmekogusid, mida on võimalik suure riskiga lahenduste väljatöötamiseks kasutada ning kõigil juhtudel peavad olema tagatud andmetele ja andmehaldusele kehtestatud nõuded. oleksid Fontes palgauuringust lähtuvalt minimaalselt 52182 eurot aastas (IKT konsultandid 3 tööpere põhjal), millele lisandub ka töökohakulu (varieerub asutuste lõikes, arvestada võib 7747 eurot aastas). Võttes Riigi infosüsteemi haldussüsteemi (RIHA) põhjal aluseks olulisemad 344 andmekogu (andmekogusid on tegelikult oluliselt rohkem), mida võidakse tõenäoliselt suure riskiga lahenduste väljatöötamisel kasutada, võib täiendavaks aastaseks personalikuluks hinnata 17 950 608 eurot. Määruse tulemusel võivad püsivad personalikulud veelgi oluliselt suureneda. Eelnevale lisanduvad ka ühekordsed andmekogu andmekvaliteedi parendusteks tehtavad tööd, mille arenduste kulud võivad küündida üle ühe miljoni euro andmekogu kohta. Näiteks rahvastikuregistri andmekvaliteedi tagamisega tegeleb juba praegu iga-aastaselt viis inimest, kellele palgakulu on 250 000 eurot. Sarnaselt on ehitisregistri andmekvaliteedi parendustöödele senini kulunud enam kui 800 000 eurot. Lisaks tegeleb üks täiskohaga töötaja andmekvaliteedi tagamisega. Mõlemal juhul ei ole andmekogudes andmekvaliteet tänaseni tagatud ning on võimalik, et nõuded andmekvaliteedile määruse tulemusel veelgi karmistuvad. Näiteks ehitisregistri puhul on hinnatud määrusega kaasnevateks täiendavateks vajadusteks pea 1 000 000 eurot. Antud mõjuhinnangu puhul on arvestatud minimaalsete ühekordsete kuludega 250 000 eurot andmekogu kohta. Oluline on aga siiski silmas pidada, et määruse esialgses sõnastuses on andmekvaliteedi nõuded sõnastatud lakooniliselt, kusjuures viide, et treenimis-, valideerimis- ja testimisandmestikud peaksid olema mh vigadeta ja täielikud on kriteerium, mida ei ole võimalik praktikas saavutada (v.a väga erandlikel juhtudel). Seega hakkavad tegelikud kulud sõltuma sellest, milliseks kujuneb praktikas rakendatavad andmekvaliteedi nõuded, mis oleks kooskõlas kõnesoleva määrusega ja millisel määral ületab see andmekvaliteedi nõudeid, mida juba praegu avaliku sektori hallatavatelt andmekogudelt eeldatakse. Täpsemad arenduskulud sõltuvad ka konkreetsest andmekogust. Määrusega kaasnevad ka muud ühekordsed- ja püsikulud, näiteks vajadus inimjärelevalveks, mille kulusid on ka komisjon oluliselt alahinnanud. Näiteks ainuüksi keskseks õiguste haldamiseks ja logimiseks võib suuremate organisatsioonide puhul ette näha tänaste arvutuste põhjal investeeringuid enam kui 700 000 euro ulatuses. Tehisintellektisüsteemide arendamisel ja rakendamisel tuleks arvestada inimjärelevalveks ühekordseteks kuludeks vähemalt 50 100 eurot, mis kätkeb endas äriloogika kuvamist, liidestamist kasutatavate mudelitega, logide edastamist kesksesse logiserverisse, testimist jm. Seega liikmesriikides, kus ei ole tehisintellektisüsteemidele määruse eelnõus sätestatud nõudeid kehtestatud, kaasneksid edaspidi süsteemide kasutuselevõtuga olulised ühekordsed ja jätkukulud. Ei ole välistatud, et Eesti puhul võivad ainuüksi arenduste kulud ületada 75 000 000 eurot (arvestuse aluseks võtame 300 andmekogu, mille andmeid võidakse lahenduste väljatöötamisel kasutada). Riigiasutuste täiendavaks püsikulude mahuks inimjärelevalve nõuete täitmiseks (arvestuse aluseks võtame 100 tehisintellekti lahendust) võime hinnata minimaalselt 7 810 000 eurot. Eelnimetatud kulude osas tuleb siiski arvestada ka asjaolu, et olulisel määral kaasneksid kulud nii avaliku sektori pakutavate tehisintellektisüsteemide andmekvaliteedi tagamiseks, tehisintellektisüsteemide järelevalveks kui riskide maandamiseks ka sõltumata kõnesolevast määrusest, tagamaks tehisintellektisüsteemide korrektne, kvaliteetne ja õiguspärane toimimine (sh tagamaks kooskõla olemasolevate isikuandmete kaitse ja andmekvaliteedi nõuetega). Liikmesriigid peavad määruse kohaldamise ja rakendamise jälgimise eesmärgil nimetama ühe või mitu riiklikku pädevat asutust ning nende hulgast riikliku järelevalveasutuse, mis tegutseb teavitava asutuse ja turujärelevalveasutusena. See tähendab täiendavat vajadust nii rahalise kui inimressursi näol. Määruses toodud nõuete üle järelevalve teostamine eeldab ka ekspertteadmisi tehisintellekti tehnoloogiatest, andmetest, õigusest (sh põhiõigustest tehisintellekti kontekstis), kehtivatest standarditest jmt. Komisjon on määruse mõjuanalüüsis hinnanud, et olenevalt juba olemasolevatest struktuuridest, võib järelevalve teostamine nõuda kuni 25 töötajat liikmesriigi kohta. Täpset ressursivajadust ei ole Eesti kontekstis võimalik hetkel esile tuua, see sõltub ka lõpuks määrusega kehtestatavatest kohustustest. Määruse eesmärgi saavutamiseks on oluline tagada, et loodavas järelevalvesüsteemis oleks piisavalt tehnoloogilist oskusteavet, teadmisi põhiõiguste ja ohutuse kaitsest, inimressurssi ja rahalisi vahendeid. Tehisintellektisüsteemide järjest kasvava kasutuselevõtu valguses on oluline seda võimekust pidevalt arendada. Vastupidine olukord soodustab ettevõtjate ebavõrdset kohtlemist, võimaldades mõnel ettevõtjal lihtsalt järelevalvesüsteemide puudulikkuse tõttu tegeleda suure riskiga tehisintellektisüsteemidega ilma määruse nõudeid järgimata, sest järelevalve tegijatel puuduvad nii teadmised kui ressursid tehisintellektisüsteemide sisuliseks mõistmiseks ja vajalike meetmete rakendamiseks. 5. Valitsuse seisukoha selgitus 5.1. Eesti toetab Euroopa Komisjoni esitatud määruse eelnõu eesmärki luua tehisintellekti käsitlev ühtlustatud õigusraamistik, et aidata kaasa Euroopa Liidu digitaalse ühtse turu toimimisele ning maandada selle tehnoloogia teatavatest kasutusviisidest tulenevaid riske. Eesti peab oluliseks, et määrus soodustaks innovatsiooni ja usaldusväärse tehisintellekti kasutuselevõttu. Selgitus: 2020. aasta tehisintellekti valges raamatus seadis Komisjon kaks eesmärki - soodustada tehisintellekti kasutuselevõttu ja tegeleda selle tehnoloogia teatavate kasutusviisidega seotud riskidega. Ettepanekuga taotletakse eeskätt teise eesmärgi täitmist ehk usaldusväärse tehisintellekti ökosüsteemi loomist tagamaks, et ELi turule lastavad ja kasutatavad tehisintellektisüsteemid on ohutud ning kooskõlas kehtiva põhiõigusi käsitleva õiguse ja liidu väärtustega ning suurendamaks seeläbi usaldust tehisintellekti kasutamise vastu ja tehisintellektisüsteemide laiemat kasutuselevõttu. Ettepaneku üks olulisi eesmärke on tagada siseturu nõuetekohane toimimine ning vältida turu killustumist olukorras, kus liikmesriigid hakkavad kehtestama siseriiklikke norme, et hallata ja maandada tehisintellektisüsteemide kasutamisest tulenevaid riske. Leiame, et ühtlustatud õigusraamistiku loomine aitab tagada EL digitaalse ühtse turu toimimise. Määrusel on sobivate ja proportsionaalsete meetmete kehtestamise korral oluline positiivne majanduslik ja ühiskondlik mõju. Läbirääkimiste käigus on asjakohane kriitiliselt hinnata määruses sätestatud meetmete sõnastust (näiteks andmekvaliteedile esitatud nõuded) ja täpsustada neid viisil, mis tagab usaldusväärse tehisintellekti nõuete täitmise ilma et see piiraks ebaproportsionaalselt tehisintellektisüsteemide pakkujate, kasutajate ja muude osaliste õigusi ning tehisintellekti arendamist ja kasutuselevõttu. On oluline, et usaldusväärse tehisintellekti õigusraamistiku loomise kõrval oleks tagatud ka Euroopa tehisintellekti valdkonna konkurentsivõime ning EL digikümnendi eesmärkide13 saavutamine. 5.2. Eesti leiab, et tehisintellekti käsitlev ühtlustatud õigusraamistik peab olema tehnoloogianeutraalne ja tõhus. Eesti eelistab, et määruse kohaldamisala määravad loetelud oleksid kehtestatud määruses, mitte delegeeritud õigusaktide kaudu. Jõustumisel peab määrus olema sõnastatud viisil, mis tagaks, et see on tulevikukindel. Selgitus: Tehisintellekti reguleerimisel on oluline tagada määratluste tulevikukindlus ehk rakendatavus tehnoloogia kiire arengu korral, mistõttu on mõistetav komisjoni soov ette näha Euroopa digikümnend: 2030. aasta digieesmärgid. https://ec.europa.eu/info/strategy/priorities-2019-2024/europe- fit-digital-age/europes-digital-decade-digital-targets-2030_et delegeeritud õigusakti vastuvõtmise võimalust nii määruse I lisas esitatud meetodite ja lähenemisviiside loetelu kui ka III lisas esitatud suure riskiga tehisintellektisüsteemide loetelu kaasajastamiseks. Samas on tegemist õigusakti kohaldamisala määravate oluliste sätetega, mistõttu on vaja täiendavat analüüsi ja Nõukogu Õigusteenistuse hinnangut, kas delegeeritud õigusakti kasutamine nende sätete muutmiseks on õiguspärane. ELTL artikkel 290 lõike 1 kohaselt võib delegeeritud aktide kaudu täiendada või muuta seadusandliku akti teatavaid mitteolemuslikke osi. Valdkonna olemuslikud aspektid tuleb sätestada seadusandliku aktiga ning õigust neid sätestada ei või delegeerida. Sealjuures tuleb seadusandlikes aktides määrata selgesõnaliselt kindlaks volituste delegeerimise eesmärgid, sisu, ulatus ja kestus. Kui määruse kohaldamisala muutmine delegeeritud akti kaudu ei ole kooskõlas ELTL artikkel 290 lõikega 1, võib Euroopa Kohus antud õigusaktid tühiseks tunnistada. Eelnevast tulenevalt peavad delegeeritud õigusaktid olema õiguspärased ning kooskõlas ELTL artikliga 290, võttes mh arvesse Nõukogu Õigusteenistuse seisukohti. Komisjoni diskretsioon delegeeritud õigusakti vastuvõtmiseks peab olema väga selgelt piiritletud. Enne delegeeritud õigusakti kaudu määruse kohaldamisala laiendamist peab olema tagatud huvirühmade piisav kaasamine ja põhjaliku mõjuhinnangu läbiviimine. Oluline on, et tehisintellektisüsteemi määratlus oleks määruse vastuvõtmisel tehnoloogianeutraalne ja tulevikukindel, et seda ei tuleks koheselt ja järjepidevalt kohandada (seadusandliku tavamenetlusega) uusimate tehnoloogia arengute valguses. Problemaatiline on määruse kalduvus lähtuda tehisintellektisüsteemi ühest konkreetsest otstarbest. Näiteks artikkel 8 lõike 2 kohaselt võetakse suure riskiga tehisintellektisüsteemide nõuetele vastavuse tagamisel arvesse süsteemi sihtotstarvet ning artikkel 9 lõige 2 punkti b kohaselt peab riskijuhtimissüsteem sisaldama selliste riskide prognoosimist ja hindamist, mis võivad tekkida, kui süsteemi kasutatakse vastavalt selle sihtotstarbele (aga ka mõistlikult prognoositava väärkasutamise tingimustes). Juba praegu on uutel süsteemidel (nt Microsoft’i Generative Pre- trained Transformer 3 (GPT-3)) ühe konkreetse sihtotstarve asemel palju võimalikke ning sellega tuleks nõuete kehtestamisel ka arvestada. Määrus on otseselt seotud tooteohutuse raamistikuga ELis. Mõiste „sihtotstarve” (intended purpose) asemel eelistame kasutusele võtta eeldatava otstarbe (foreseeable use) mõiste, mis peab sisu poolest hõlmama ka tooteohutusele iseloomuliku eeldatavat väärkasutust (foreseeable misuse). Kui kasutamine on mõistlikult etteaimatav, ei tohiks toode põhjustada kahju, olenemata sellest, kas kasutamine vastas esialgsele sihtotstarbele või mitte. Tulevikukindluse eesmärgil peab olema põhjenduspunkt 50 täiendatud või artikkel 15 tõlgendatud viisil, mis võimaldaks ära hoida ka teisi süsteemi stabiilsusega seotud probleeme lisaks kallutatud väljundi tekkimise võimalusele tagasisideahelate tõttu. Sageli ei seisne probleem selles, et väljundeid kasutatakse sisenditena, vaid väljundite kaudses mõjus tulevastele sisenditele, muuhulgas potentsiaalses tehisintellektisüsteemi nõrkusi kuritarvitatavas inimkäitumises. Rakendatavuse ja tõhususe vaatenurgast on problemaatiline ka see, kuidas artiklis 3(33) on määratletud mõiste „biomeetrilised andmed” (st isiku tuvastamiseks piisavad andmed), kuna selline määratlus ei ole punktide 34 ja 35 puhul kohane. Emotsioonide äratundmine ja isikute kategoriseerimine ei nõua seda tüüpi biomeetrilisi andmeid. Seetõttu tuleb mõisteid biometric categorisation system ja emotion recognition system sisustada viisil, mis ei hõlma artiklis 3(33) viidatud identifying biometric data. 5.3. Eesti on seisukohal, et õigusselguse saavutamiseks ning määruse ühetaoliseks rakendamiseks peab kitsamalt piiritlema selliseid määruse I lisas esitatud meetodeid ja lähenemisviise, mida ei loeta klassikaliselt tehisintellektisüsteemideks, näiteks statistilisi lähenemisviise, otsingu- ja optimeerimismeetodeid ning mitmeid loogika- ja teadmistepõhiseid lähenemisviise. Selgitus: Määruse ühetaolise kohaldamise ja õigusselguse võimaldamiseks on oluline, et õigusaktis kasutatud mõisted oleksid selgelt piiritletud. Artiklis 3 toodud tehisintellektisüsteemi mõiste kohaselt on tegu tehisintellektisüsteemiga, kui selline süsteem võib teatavate inimese kindlaks määratud eesmärkide jaoks luua väljundeid, näiteks sisu, prognoose, soovitusi või otsuseid, mis mõjutavad keskkondi, millega nad suhtlevad. Tehisintellektisüsteemi määratlemiseks tuleb määruse artikli 3 punkti 1 kohaselt lähtuda määruse I lisa tehisintellekti meetoditest ja lähenemisviisidest. Määruse artikkel 3 punktis 1 toodud tehisintellektisüsteemi definitsioon hõlmab igasugust tarkvara, mis kasutab ka statistilisi lähenemisviise ning otsingu- ja optimeerimismeetodeid. Klassikalises mõttes ei loeta kõiki selliseid tarkvarasid, mis on loetletud I lisas, tehisintellektisüsteemideks (näiteks statistilised lähenemisviisid, otsingu- ja optimeerimismeetodid). Praegusel kujul sõnastatud definitsiooni korral hakkaks tehisintellekti määrus reguleerima tarkvarasid, mida nende tarkvarade loojad, omanikud ega kasutajad ise ei pea põhjendatult tehisintellektideks, sest selline definitsioon hõlmaks suurt osa tarkvaralistest lahendustest. Selline kõikehõlmav regulatsioon võiks osutuda ootamatuks ja põhjendamatuks ning seada kahtluse alla kavandatavate muudatuste proportsionaalsuse. Kuna tehisintellektisüsteemid on loodud täitma inimese määratud eesmärke ning loovad ka väljundeid, mida kasutatakse nii digitaalses kui ka reaalses maailmas, siis ei kitsenda artiklis 3 toodud tingimus mõiste kohaldamisala piisavalt. Võimalik, et tehisintellektisüsteemi mõiste oleks otstarbekam sõnastada tehnoloogianeutraalselt, mis on digitaalse ühtse turu üks olulisemaid väärtusi. Ühes sellega oleks võimalik mõiste sisustuse alt välja jätta ka tarkvarad, mida ei peeta klassikaliselt tehisintellektisüsteemideks. Eeltoodust lähtuvalt leiame, et määruses kasutatav tehisintellektisüsteemi määratlus vajab kitsamat piiritlemist. Liiga lai definitsioon suurendab ka ohtu, et määruse III lisa alusel suure riskiga tehisintellektisüsteemide määratlemine on praktikas liiga piirav. Täpsustamist vajavad I lisa punktis b ja c väljatoodud meetodid ning lähenemisviisid, mis meie hinnangul ei määratle süsteemi tehisintellektisüsteemiks. Näiteks leiame, et määruse I lisa punktis c on väljatoodud „statistilised lähenemisviisid“ tuleks piiritleda kitsamalt. Lisaks tuleks I lisa punktist c välja jätta otsingu- ja optimeerimismeetodid, mis on kaetud I lisa punktiga a. 5.4. Toetame määruses põhiõiguste kaitse laia käsitlust, mille rakendamiseks tuleb välja selgitada vajadus hinnata suure riskiga tehisintellektisüsteemide riskihindamissüsteemi osana konkreetsetele põhiõigustele avaldavat mõju. Rõhutame, et inimkeskse ja usaldusväärse, sh põhiõigustega kooskõlas oleva tehisintellekti arendamisel ja kasutamisel tuleb tagada võrdse kohtlemise põhimõtte järgimine, samuti pidada silmas laiemat võrdsete võimaluste ja soolise võrdõiguslikkuse edendamise eesmärki, mis hõlmab ka tehisintellekti kasutavate lahenduste kaudu sooliste ja muude stereotüüpide leviku aktiivset tõkestamist. Selgitus: Toetame määruses põhiõiguste kaitse laia käsitlust, millega kehtestatakse nõuded tagamaks suure riskiga tehisintellektisüsteemide kasutuse kooskõla EL õigusega kaitstud põhiõigustega, sh EL põhiõiguste hartas (ELPÕH) sätestatud põhiõiguste ja -vabadustega. Kui seni on eelkõige käsitletud vajadust isikuandmete ja privaatsuse kaitseks tehisintellektisüsteemide arendamisel ja rakendamisel läbi viia isikuandmete kaitse mõjude analüüs vastavalt isikuandmete kaitse üldmääruse artiklile 35, on tagaplaanile või tähelepanuta jäänud teised olulised põhiõigused, nt õigus mittediskrimineerimisele, sõnavabadus, kogunemisvabadus, ühinemisvabadus, tarbijakaitse ja lapse õigused, mida tehisintellektisüsteemide kasutus võib negatiivselt mõjutada. Oluline on silmas pidada, et põhiõiguste rikkumised võivad omakorda negatiivselt mõjutada nii demokraatia toimimist kui ka õigusriiki, s.o väärtused, mis on kõikidele liikmesriikidele ühised ning millele EL on ELL artikli 2 kohaselt rajatud. Artikli 9 riskijuhtimissüsteemi, artikli 13 läbipaistvuse ja kasutajate teavitamise nõuete jt suure riskiga tehisintellektisüsteemidele esitatavate nõuete täitmine eeldab põhiõigustega seotud riskide kindlakstegemist ja analüüsi, millele viitab laiemalt artikkel 9 lõike 2 punkt a. Tervitame, et määrus pöörab tähelepanu ka tehisintellektiga seonduvatele võimaliku soo või muu tunnuse (sh rassiline ja etniline päritolu, vanus, puue, seksuaalne sättumus) tõttu diskrimineerimise ja laiemalt põhiõiguste rikkumisega seotud riskidele, samuti vajadusele kasutada representatiivseid andmekogusid, et tagada kõigi sugu, etnilist päritolu ja muid võimalikke diskrimineerimise aluseid puudutavate asjakohaste aspektide kajastus nendes andmekogumites. Sellega aidatakse kaasa EL põhiõiguste harta diskrimineerimiskeelu ja soolise võrdõiguslikkuse põhimõtete rakendamisele tehisintellekti kasutavates lahendustes ning nende abil. Samuti toetatakse seeläbi eelkõige tööelus ning kaupade-teenuste kättesaadavuse tagamiseks direktiividega kehtestatud naiste ja meeste ning erinevate vähemusgruppide esindajate võrdse kohtlemise nõude täitmist. Näiteks hääl-, näo- jm tuvastusprogrammides tehisintellekti lahenduste kasutamisel on oluline tagada, et tuvastamise õpetamisel või treenimisel ning testimisel oleksid esindatud võimalikult paljud erinevad ühiskonnarühmade esindajad, sh naised ja mehed, erineva nahavärviga inimesed, sest senine praktika näitab, et vastasel juhul töötab lahendus teatud rühmade esindajate puhul halvemini, mis võib tuua kaasa nende õiguste rikkumise. Määruses praegusel kujul esitatud riskide hindamise regulatsioon on ühest küljest küll detailirohke, teisalt ei tarvitse see tagada piisavat selgust ning seeläbi ka soovitud ja vajalikku tulemust. Regulatsiooni ühetaolise rakendamise tagamiseks ja asjakohase kontrolli lihtsustamiseks ning ühtlustamiseks võiks olla asjakohane töötada EL tasandil välja ühtne mudel tehisintellektil põhinevate lahendustega põhiõigustele avaldatava mõju, sh (võimalike) kaasnevate riskide väljaselgitamiseks. Selline mudel peaks aitama määratleda, millised põhiõigused on erinevate süsteemide puhul asjakohased, kuidas hinnata nendega seotud riske ja kuidas tuvastatud riske tuleb maandada. Vajab täpsustamist, kas ja mis ulatuses on põhiõiguste mõjude analüüs asjakohane määruse II lisas sätestatud suure riskiga tehisintellektisüsteemide puhul. Näiteks on ebaselge, kas ja kuidas tuleks tehisintellektisüsteemiga mänguasjade puhul tagada lapse õigusi, sh kaitsta nende vaimset tervist. 5.5. Eesti toetab lähenemist, mille kohaselt on määruse kohaldamisalast väljas tehisintellektisüsteemid, mida on arendatud või kasutatakse üksnes sõjalisel otstarbel. Peame oluliseks erandi säilimist. Toetame, et määruse reguleerimisalast on väljas ka surmavate autonoomsete relvasüsteemidega seotud küsimused. Selgitus: Määruse artikkel 2 lõige 3 välistab kohaldamisalast tehisintellektisüsteemid, mida on arendatud või kasutatakse üksnes sõjalisel otstarbel. See tähendab, et tehisintellektisüsteem, mida küll ei ole arendatud sõjalisel otstarbel kasutamiseks (ja mida võib-olla algselt on kasutatud hoopis tsiviilotstarbel), aga mida parasjagu kasutatakse üksnes sõjalisel otstarbel, on määruse reguleerimisalast väljas. Niisiis on kohaldamisalast väljas süsteem, mida on, kas a) arendatud või b) kasutatakse ainult militaareesmärkidel. Seda arvestades oleme seisukohal, et relvasüsteemid kui üksnes militaareesmärkidel arendatud või kasutusel olevad tehisintellektisüsteemid on määruse kohaldamisalast väljas. Toetame läbirääkimistel sellise erandi säilimist. Nõustume, et juhul, kui algselt üksnes sõjalisel otstarbel arendatud tehisintellektisüsteemi kasutatakse edaspidi mingil hetkel tsiviilotstarbel, on sellise süsteemi tsiviilkasutus määruse reguleerimisalas. Eesti seisukoht on, et tänane rahvusvaheline õigus kohaldub kõigile relvasüsteemidele ning seda sõltumata nende autonoomsusest. Ka surmavate autonoomsete relvasüsteemide (LAWS - Lethal Autonomous Weapons Systems) kasutamine alluks juba kehtivale regulatiivsele raamistikule ning eelkõige tuleks fookus seada küsimusele, kuidas on võimalik kehtivat rahvusvahelist õigust LAWS-ile kohaldada tõhusaimal viisil. LAWS-i diskussioonid toimuvad eelkõige tavarelvade konventsiooni raames. Määruse artikkel 2 lõige 3 välistab määruse kohaldumise LAWS-ile. Toetame, et kaitsevaldkonna tehisintellekti lahenduste väljatöötamisel kohalduvad eetilised põhimõtted töötaks välja NATO. NATO printsiipide järgi peavad tehisintellektisüsteemid olema kooskõlas kohalduva rahvusvahelise õigusega, mis hõlmab ka rahvusvahelisi inimõigusi. NATO prioritiseerib tehisintellekti kasutamist kaitsevaldkonnas ning peab seda oluliseks tehnoloogiaks liitlaste tehnoloogilise ülekaalu säilitamisel. NATO on välja töötamas strateegiat tehisintellekti kasutuselevõtuks ja arendamiseks ning see katab ka eetilisi põhimõtteid. 5.6. Eesti leiab, et määruse kohaldamisalast peavad olema välistatud tehisintellektisüsteemid, mida on arendatud või kasutatakse üksnes riigi julgeoleku tagamise eesmärgil. Selgitus: Määruse artikkel 2 lõige 3 välistab kohaldamisalast tehisintellektisüsteemid, mida on arendatud või mida kasutatakse eranditult sõjalisel otstarbel (developed or used exclusively for military purposes), kuid eelnõu sõnastus ei välista määruse kohaldamisalast julgeolekuasutuste poolt riigi julgeoleku tagamise eesmärgil kasutatavaid tehisintellektisüsteeme. Euroopa Liidu Lepingu (ELL) artikkel 4 lõike 2 kohaselt on riigi julgeolek iga liikmesriigi ainuvastutuses. Peame seepärast vajalikuks määruse kohaldamisalast sõnaselgelt välistada tehisintellektisüsteemid, mida on arendatud või mida kasutatakse üksnes riigi julgeoleku tagamise eesmärgil. Selleks on vaja lisada määruse põhjenduspunktidesse viide ELL artikkel 4 lõike 2 kohaldumisele (ehk asjaolule, et riigi julgeolek on liikmesriigi ainuvastutuses). Samuti on vaja laiendada määruse artikkel 2 lõike 3 sõnastust, välistades selgesõnaliselt määruse kohaldumisalast tehisintellektisüsteemid, mida on arendatud või kasutatakse üksnes riigi julgeoleku tagamise eesmärkidel. Kuna varasemalt on Euroopa Kohus möönnud ELi teisese õiguse kohaldumise vajadust ka riigi julgeolekuga seotud valdkondades (eelkõige seoses andmekaitse reeglitega), ei pruugi üksnes „riigi julgeoleku“ termini kasutamisest piisata ja õigusselguse tagamiseks võib olla vajalik lisada määruse sätetesse konkreetseid välistusi selle kohta, millises olukorras või millistele süsteemidele määrus ei kohaldu. 5.7. Toetame määruse riskipõhist lähenemisviisi, mille kohaselt tehisintellektisüsteemile kohaldatavad nõuded sõltuvad süsteemi kasutusviisist ning sellega kaasnevast riskist põhiõigustele ja ohutusele, tagades seeläbi regulatsiooni proportsionaalsuse. Oleme seisukohal, et riskitaseme määratlus peab lähtuma konkreetsest kasutusjuhust ja olema üheselt arusaadav tagamaks määruse ühetaoline rakendatavus. Selgitus: Toetame komisjoni riskipõhist lähenemist, mis on tulevikukindel viis valdkonna reguleerimiseks. Sellega seonduvalt toetame ka lähenemist, millega välditakse tehnoloogia enese reguleerimist ning lähtutakse süsteemi kasutusviisist. Määruses järgitakse riskipõhist lähenemisviisi, eristades tehisintellekti kasutusviise, mis tekitavad vastuvõetamatu riski, suure riski ja väikese või minimaalse riski. Teatavad eriti kahjulikud ning liidu väärtustega vastuolus olevad tehisintellekti kasutusviisid keelustatakse. Määrusega reguleeritakse peamiselt suure riskiga tehisintellektisüsteeme, mis peavad vastama määruses sätestatud nõuetele ja enne nende turule laskmist tuleb läbi viia vastavushindamine. Läbirääkimiste käigus tuleb tagada, et tehisintellekti keelatud kasutusviisid, suure riskiga tehisintellektisüsteemid ja tehisintellektisüsteemid, millele kohalduvad artikli 52 täiendavad läbipaistvuskohustused, oleksid määratletud selgelt ja üheselt mõistavalt, et võimaldada määruse ühetaoline kohaldamine. Määratlused ja kriteeriumid peavad lähtuma tehisintellektisüsteemide põhjustatavate riskide intensiivsusest ja ulatusest ning nõuded peavad olema vajalikud, sobivad ja proportsionaalsed konkreetse usaldusväärse tehisintellekti tagamiseks seatud eesmärgiga. Toetame määruse lähenemist, mille kohaselt riski taset määratletakse arvestades konkreetse tehisintellektisüsteemi kasutamise konteksti, sh tehisintellektisüsteemi kasutusvaldkonda, eesmärki ja tehisintellektisüsteemi kaudu või abil tehtavate otsuste mõju inimeste elule, tervisele ja põhiõigustele. On oluline, et läbirääkimiste käigus arvestataks ka edaspidi suure riskiga rakenduste määratlemisel konkreetseid kasutusjuhte ning vältida tuleb olukorda, kus suure riski alla liigitataks de facto terveid valdkondi. Selline lähenemine oleks vastuolus määruse riskipõhise lähenemisviisiga ning takistaks reaalset kasu toovate lahenduste arendamist ja kasutamist. 5.8. Toetame tehisintellekti keelatud kasutusviiside käsitlemist määruses. Määruse sõnastusest peab üheselt selguma, milliseid kasutusviise on alapunktide kirjeldusest lähtuvalt konkreetselt mõeldud ning kasutusviisi keeld peab olema proportsionaalne. Selgitus: Määruse eelnõu artiklis 5 käsitletakse tehisintellekti keelatud kasutusviise, mis on vastuolus selliste liidu väärtustega nagu inimväärikuse austamine, vabadus, võrdsus, demokraatia ja õigusriik ning liidu põhiõigustega, sh õigusega mittediskrimineerimisele, andmekaitsele ja privaatsusele, aga ka lapse õigustega. Nendeks on süsteemid, mis manipuleerivad inimeste käitumisega, et minna mööda kasutajate vabast tahtest; süsteemid, mis võimaldavad valitsustel anda kodanikele sotsiaalsete näitajate põhjal punkte (nn social credit systems) ning reaalaja biomeetria kasutamine avalikes kohtades õiguskaitse eesmärgil, välja arvatud teatud erijuhtudel (nt võimalike kuriteoohvrite otsimine, terroriohu ärahoidmine, kuriteo toimepanija otsimine). Läbirääkimiste käigus peab selguma, milliseid kasutusviise on alapunktide kirjeldusest lähtuvalt konkreetselt mõeldud ja kuidas hinnata kahju, mis need põhjustavad või tõenäoliselt võivad põhjustada, et selliste kasutusviiside keelamine oleks õigustatud. Lisaks tuleks täpsustada kahju ulatust, mis õigustaks kasutusviiside keelustamist. Näiteks võib olla ebaproportsionaalne keelata artikkel 5 lõige 1 punkti a alusel tehisintellektisüsteemi, milles on küll kasutatud inimese teadvusest kaugemale ulatuvale alalävisele tajule suunatud võtteid, et oluliselt moonutada isiku käitumist viisil, mis põhjustab või tõenäoliselt põhjustab sellele või mõnele teisele isikule füüsilist või psühholoogilist kahju olukorras, kus see on minimaalne, aktsepteeritav ning kooskõlas tervise ja ohutuse kaitse kõrge tasemega. Keeruline on siin psühholoogilise kahju määratlemine ja tuvastamine, ebaselge on ka „oluliselt moonutama“ mõiste. Analoogiline probleem on sama lõigu punkti b mõistmisel, millega keelustatakse süsteemid, mis kasutavad ära konkreetse isikute rühma haavatavusi, mis tulenevad nende vanusest või füüsilise või vaimse tervise häirest, et oluliselt moonutada isiku käitumist viisil, mis põhjustab või tõenäoliselt põhjustab sellele või mõnele teisele isikule füüsilist või psühholoogilist kahju. Praegune lai sõnastus raskendab edaspidi määruse ühetaolist rakendamist. Lisaks tuleks läbirääkimiste käigus kaaluda, kas tehisintellekti keelatud kasutusviiside hulka tuleks lisada tehisintellektisüsteemid, mis õigusmõistmisel langetavad otsuseid, mis eeldavad asjaolude ja tõendite kaalumist või õigusnormide tõlgendamist. Inimväärikuse kaitseks peab õigusemõistmise raames olema tagatud otsuse materiaalne õiguspärasus ja menetlusnormide järgimine. Tehisintellektil põhinevad tehnoloogiad ei võimalda vajalikul tasemel tuvastada, võtta arvesse ning kogumis hinnata faktilisi asjaolusid ning asitõendeid, ega tagada normi korrektset tõlgendamist ja subsumeerimist. Võttes mh arvesse tehisintellektisüsteemi otsustusprotsesside läbipaistmatust, on äärmiselt keeruline tagada, et tehtavad otsused ei oleks diskrimineerivad või ei võtaks arvesse asjaolusid, mis ei tohiks otsuse tegemisel kaalu omada. Samuti ei võimalda tehisintellektisüsteemi läbipaistmatu ning statistilistel korrelatsioonidel põhinev kaalutlusotsus tagada menetlusõigusi nagu otsuse põhjendamine, osapoolte ärakuulamine (ja sellega arvestamine), otsuse (eelkõige selle aluseks oleva põhjenduse) vaidlustatavus ning kohtuliku kontrolli reaalne teostatavus. Keelatud ei peaks olema tehisintellektisüsteemi kasutamine juhtudel, kus süsteem ei teosta kaalutlusõigust asjaolude või asitõendite hindamisel või õigusnormide (sh määratlemata õigusmõistete) tõlgendamisel. See tähendab mh, et keelatud ei oleks automatiseeritud maksekäsu kiirmenetluse otsused või automaatsed trahviotsused mootorsõidukiga lubatud sõidukiiruse ületamise eest kiirusekaamera poolt tuvastatud juhtudel. 5.9. Toetame määruses toodud keeldu tehisintellektisüsteemide turule laskmisele, kasutusele võtmisele või kasutamisele ametiasutuste poolt või nende nimel, mille kaudu hinnatakse või liigitatakse isikute usaldusväärsust nende sotsiaalse käitumise põhjal ühiskondliku reitingu määramise eesmärgil. Selgitus: Toetame määruse artikkel 5 lõige 1 punktis c määratletud süsteemide ametiasutuste poolt või nende nimel turule laskmise, kasutusele võtmise või kasutamise keelustamist. Tegemist on tehisintellektisüsteemidega, mis hindavad või liigitavad inimeste usaldusväärsust nende sotsiaalse käitumise põhjal (social credit või social scoring). Sellised süsteemid ei ole kooskõlas demokraatia, õigusriigi põhimõtte ega põhiõigustega. Eraelu ja isikuandmete kaitse põhiõigust silmas pidades on oluline sõnum keelata tehisintellekti süsteemide arendamine ja kasutamine avaliku võimu poolt inimeste ühiskondliku reitingu eesmärgil. Nii eraelu kaitse kui põhiõigus isikuandmete kaitsele teenivad inimväärikuse põhimõtet, millest lähtuvalt ei tohi inimene olla pidevalt avaliku võimu jälgimise all. Riive muudab intensiivsemaks asjaolu, kui sellega kaasneb inimese käitumise või isikuomaduste prognoosimine näiteks näotuvastustehnoloogiate abil. Pideva jälgimise all olevad inimesed võivad hakata piirama oma vabadusi ja proovida käituda eeldatava normi piires, soovides mitte silma paista, mis kahjustab inimeste õigust vabale enesemääramisele. See omakorda võib kaasa tuua ohu demokraatlikule ühiskonnakorrale, mis lähtub fundamentaalselt inimeste vabadusest. 5.10. Leiame, et õiguskaitse eesmärgil avalikult juurdepääsetavas ruumis reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamise keelu erandeid tuleb täiendada viisil, mis võimaldaks ka selliste isikute otsimist, kes ei ole kuriteoohvrid, kuid kelle elu või tervis võib olla ohus muul põhjusel. Reaalajas tuvastamist lubavate kuritegude loetelu peab hõlmama ka riigi jaoks olulisi raskeid kuritegusid, näiteks riigivastaseid kuritegusid. Keelu laiendamine teistele biomeetria kasutusviisidele peaks toimuma üksnes väga selgelt põhjendatud juhtudel. Selgitus: Määrusega soovitakse keelata avalikult juurdepääsetavas ruumis reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamine õiguskaitse jaoks, välja arvatud juhul, kui selline kasutamine on vajalik mõnel loetletud eesmärgil – konkreetsete võimalike kuriteoohvrite sihipärane otsimine, füüsiliste isikute elu või turvalisust ähvardava konkreetse, suure ja vahetu ohu või terrorirünnaku ärahoidmine või Euroopa vahistamismäärust käsitleva nõukogu raamotsuses 2002/584/JSK sätestatud raske kuriteo toimepanijate tuvastamine - selleks vajalikus ulatuses. Erandid avalikult juurdepääsetavas ruumis reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamisele õiguskaitse jaoks vajavad täpsustamist. Tehisintellektisüsteemide rakendamine „konkreetsete võimalike kuriteoohvrite, kaasa arvatud kadunud laste, sihipärase otsimise“ eesmärgil vajab täpsemat määratlemist. Praeguses sõnastuses loob säte liiga avara tõlgendusruumi ja võimaldab liikmesriikidel seda väga ettearvamatutes olukordades kasutada. Sõltuvalt kuriteo mõiste määratlemisest liikmesriigis võib see hõlmata ka näiteks avalikes kohtades jälgimist taskuvarguste ohvrite sihipäraseks otsimiseks, avades seega ukse inimeste totaalseks jälgimiseks tehisintellektisüsteeme rakendades. Võib eeldada, et määruse ettepaneku koostamisel on olnud eesmärgiks vastupidine, arvestades mh ka komisjoni pidevas praktikas kujunenud seisukohaga, mille kohaselt peab kõigis EL liikmesriikides olema tagatud kõrgetasemeline isikuandmete kaitse. Põhiõigust eraelule ja isikuandmete kaitsele tohib piirata vaid juhul, mil see on vältimatult vajalik. Seetõttu, arvestades mh laste õiguste erilise kaitse vajadust, tekib küsimus, kas tehisintellektisüsteemi tohib rakendada laste suhtes vaid sel eesmärgil, kui on alust arvata, et nad on võimalikud kuriteoohvrid. Kaaluda tuleks, kas „vältimatult vajaliku“ kriteerium on täidetud ka juhul, kui konkreetsete faktiliste asjaolude pinnal on alust arvata, et eksisteerib vahetu kõrgendatud oht lapse elule (nt suitsiidioht). Sama küsimus tekib täiendavalt ka täisealiste suhtes. Artikli 5 lõike 1 punktides d ja i loetletud isikute hulka võiks lisada isikud, kelle suhtes ei ole alust kahtlustada, et tegu on võimalike kuriteo ohvritega ega lapsega, näiteks kadunud sügava vaimupuudega isikuga, kes on omavoliliselt lahkunud järelevalvega asutusest, hooldekodust lahkunud isikud jne. Sama punkti alapunkti (iii) loetelu võib olla liialt piirav, näiteks ei hõlma raamotsuse 2002/584/JSK artikli 2 lõikes 2 sätestatud loetelu riigivastaseid kuritegusid. Läbirääkimiste käigus tuleks täpsustada artikkel 5 punktis 3 seatud kohustust igakordselt loa taotlemiseks kohtult või kompetentselt haldusorganilt reaalajas biomeetrilise tuvastuse kasutamiseks. Praegune sõnastus „each individual use“ võib tekitada vajaduse loa küsimiseks ühe menetluse raames isiku igakordsel tuvastamisel erinevas asukohas ja kaamerapildis, mis tekitab suure halduskoormuse. Teeme ettepaneku asendada „each individual use“ väljendiga „each individual case“. Nõustume komisjoni pakutud lähenemisega, mis keskendub õiguskaitse eesmärgil toimuvale biomeetriliste kaugtuvastamise süsteemide kasutamisele avalikult juurdepääsetavas ruumis (võttes arvesse eelpool toodud vajadust keelu erandeid täiendavalt täpsustada). Peame oluliseks suhtuda ettevaatlikkusega katsetesse hõlmata tehisintellekti keelatud kasutusviiside alla teisi biomeetrilise tuvastamise kasutusviise. Keelu laiendamine teistele biomeetria kasutusviisidele peab toimuma üksnes väga selgelt põhjendatud juhtudel. Biomeetrial põhinevad süsteemid pakuvad mitmeid positiivseid kasutusjuhte ja võimalusi eri valdkondades, näiteks tervishoius. 5.11. Eesti on seisukohal, et määruses õiguskaitse valdkonnale kehtestatavad piirangud ei tohi põhjendamatult takistada kriminaalmenetlust ega liikmesriigi võimalusi kuritegevusevastasel võitlusel. Eelistame õiguskaitseasutuste tehisintellektisüsteemide kasutamisega seotud küsimuste käsitlemist eraldi õigusaktis. Selgitus: Määrus reguleerib tehisintellekti kasutamist kriminaalmenetluse valdkonnas ning välja pakutud regulatsioon võib seada kuritegevuse vastasele võitlusele liialt ranged piirangud. Liidu tasemel sätestatud tehnoloogia kasutamist käsitlevad piirangud ei tohi mingil moel saada liikmesriigile takistuseks mistahes kuritegevusega võitlemisel. Kriminaalmenetlust võib mõjutada artikkel 6 lõikes 2 ja lisa III punktis 6 osutatud õiguskaitse valdkonnas kasutatavate tehisintellektisüsteemide liigitamine suure riskiga tehisintellektisüsteemideks, millele esitatakse artiklites 8-15 sätestatud nõuded. Läbirääkimiste käigus tuleks kaaluda õiguskaitseasutustele tehisintellekti osas eraldi õigusakti loomist nagu tehti isikuandmete kaitse üldmäärusega. Liikmesriikide poolt rakendatavad siseriiklikud kuritegevusega võitlemise meetmed on tihedalt seotud asjaomase liikmesriigi siseriiklike väljakutsetega ja nendega seotud kriminaalpoliitilistest eesmärkidest. Üldjuhul peaks kriminaalmenetlust puudutava regulatsiooni ühtlustamine toimuma ELTL artiklis 82 sätestatud alustel ning arvestades ka artikkel 82 lõikes 3 sätestatud riigi karistusõigussüsteemi erilise kaitse põhimõtteid. Pöörame tähelepanu, et õiguskaitseasutusi reguleerivate liiduüleste õigusaktide väljatöötamisel, seda eriti õiguskaitseasutusi puudutavas osas, peab jätkuma Euroopa Liidu senine suund jätta liikmesriikidele võimalikult avar otsustusõigus määrata, mis juhtudel, ulatuses ja viisil kasutada kriminaalmenetluses tehnoloogilisi võimalusi. Määrus sisaldab loomult kriminaalmenetluslike ja karistusõiguslike sätteid, ilma et need põhineksid vastavalt EL toimimise lepingu artiklitele 82 ja 83, vaid üksnes artiklile 16. Kriminaalmenetlust võib mõjutada artikkel 6 lõikes 2 ja lisa III punktis 6 osutatud õiguskaitse valdkonnas kasutatavate tehisintellektisüsteemide liigitamine suure riskiga tehisintellektisüsteemideks, millele esitatakse artiklites 8-15 sätestatud nõuded. Liikmesriikide poolt rakendatavad siseriiklikud kuritegevusega võitlemise meetmed on tihedalt seotud asjaomase liikmesriigi siseriiklike väljakutsetega ja nendega seotud kriminaalpoliitilistest eesmärkidest. Määruse meetmeid on kohati keeruline eristada kriminaalmenetlusõiguslikest meetmetest, mille ühtlustamine peaks üldjuhul peaks EL toimimise lepingu artiklis 82 sätestatud alustel ning arvestades ka artikkel 82 lõikes 3 sätestatud riigi karistusõigussüsteemi erilise kaitse põhimõtteid. Pöörame tähelepanu, et õiguskaitseasutusi reguleerivate liiduüleste õigusaktide väljatöötamisel, seda eriti õiguskaitseasutusi puudutavas osas, peab jätkuma Euroopa Liidu senine suund jätta liikmesriikidele võimalikult avar otsustusõigus määrata, mis juhtudel, ulatuses ja viisil kasutada kriminaalmenetluses tehnoloogilisi võimalusi. Eelnevale tuginedes on käesolevas määruses toodud õiguskaitseasutusi puudutav regulatsioon kitsendav ning võib oluliselt kahjustada kriminaalmenetluse valdkonda, sealhulgas kuritegevuse vastast võitlust. 5.12. Peame oluliseks, et suure riskiga tehisintellektisüsteemidele esitatavad nõuded ja suure riskiga tehisintellektisüsteemide pakkujate kohustused tagaksid usaldusväärsete tehisintellektisüsteemide arendamise ja kasutamise EL-is, ilma et see ebaproportsionaalselt pärsiks innovatsiooni, takistaks tehisintellekti kasutuselevõttu või rikuks ettevõtjate õigusi ning vabadusi. Selgitus: Määruse eesmärk on tagada, et turule lastavad ja kasutatavad tehisintellektisüsteemid on ohutud ja kooskõlas põhiõigusi käsitleva õigusega ning liidu väärtustega, ning tagada õiguskindlus tehisintellekti tehtavate investeeringute ja innovatsiooni soodustamiseks. Valdav osa määrusega kehtestatavaid nõudeid kohalduvad üksnes suure riskiga tehisintellektisüsteemidele, tagades seeläbi regulatiivse sekkumise sihipärasuse. Peame oluliseks tagada meetmete proportsionaalsus tugevdamaks Euroopa tehisintellekti valdkonna konkurentsivõimet ning tagamaks EL digikümnendi eesmärkide saavutamise, kus on mh seatud eesmärk tehisintellekti kasutuselevõtule ettevõtetes ja ühiskonnas laiemalt. Määrus peab tagama, et suure riskiga tehisintellektisüsteemidele kohalduvad läbipaistvuskohustused oleksid tasakaalus ärisaladuse kaitse õigusega ega rikuks tehisintellekti pakkujate intellektuaalomandiõigusi. Määruse artikkel 13 lõike 3 loetelu tundub seda tasakaalu saavutavat, kuid läbirääkimiste käigus tuleks eeltoodu valguses jälgida, et ei tekiks olukord, kus tehisintellekti pakkuja peab avaldama algoritmi treeningandmestiku või muud ärisaladuse kaitsega hõlmatud informatsiooni (v.a ulatuses, milles see on õigustatud kasutajate õiguste kaitseks). Artiklis 11 nimetatud tehnilisele dokumentatsioonile ligipääsuõiguse andmisel regulatsiooni rakendajale või muudele õigustatud asutustele peab olema tagatud, et vastavatele asutustele kohalduksid asjakohased ja tõhusad konfidentsiaalsusmeetmed. Määruse artikkel 17 lõike 2 kohaselt peab kvaliteedijuhtimissüsteemi rakendamine olema proportsionaalne pakkuja organisatsiooni suurusega. Artikkel 30 lõike 8 kohaselt peavad teavitatavad asutused tagama, et vastavushindamine toimuks proportsionaalsel viisil, võttes nõuetekohaselt arvesse ettevõtja suurust, tegutsemisvaldkonda ja struktuuri. Määruses toodud kohustuste puhul võtta meetmete määramisel arvesse ettevõtte suurust ja võimekust ei ole piisavalt selge, millistel juhtudel ja milliste kohustuste täitmisest võib ettevõtted vabastada. Nii ei taga antud sätted ettevõtjatele vajalikku õigusselgust ja õiguskindlust ning võivad kaasa tuua ettevõtete ebavõrdse kohtlemise, kahjustades konkurentsi. Ühtlasi pole nõuete kontrollijatele selge, milliste nõuete kontrollimisest on võimalik loobuda, mistõttu võivad nad nõuda määruse täitmise tagamiseks pigem rangelt kõikide nõuete järgimist. Selle olukorra vältimiseks on vajalik täpsustada, millisel juhul on kohustuste täitmisest võimalik vabastada. Tervitame dokumentide säilitamise nõuet, kuid tuleb selgitada, kas artiklis 50 sätestatud nõue dokumente säilitada kümneks aastaks on piisav arvestades nõuete esitamise aegumistähtaegu ning lubamaks nõuete esitamist, kui kahju tervisele või põhiõigustele ilmneb hiljem. Toetame ka artiklis 51 sätestatud kohustust enne suure riskiga tehisintellektisüsteemi turule laskmist või kasutusele võtmist süsteem registreerida artiklis 60 osutatud ELi andmebaasis. Artikli 60 kohaselt on tegemist üldsusele juurdepääsetava andmebaasiga, mis tagab selle, et igaühel on võimalus saada teavet suure riskiga tehisintellektisüsteemide kohta, mida EL-is võidakse rakendada. Toetame tehisintellektisüsteemi pakkujate kohustust teatada tõsistest intsidentidest, mille puhul on tegu põhiõiguste kaitseks mõeldud liidu õiguse kohaste kohustuste rikkumisega, nende liikmesriikide turujärelevalveasutustele, kus intsident või rikkumine aset leidis. Määrus peab tagama, et pakkujatel on huvi intsidentidest teavitada ja mitte sellest nõudest kõrvale hiilida. Määruses sätestatud nõue, et riskijuhtimissüsteemi rakendamisel pööratakse erilist tähelepanu sellele, kas on tõenäoline, et suure riskiga tehisintellektisüsteemile pääsevad juurde lapsed või et see mõjutab lapsi, on arusaadava ja teretulnud eesmärgiga. Samas on ebaselge, mida peab reaalselt sellest nõudest tulenevalt teisiti tegema. Ühtlasi tuleb läbirääkimiste käigus selgitada, miks ei rakendu kolmanda isiku poolt tehtud vastavushindamise nõue kõigile suure riskiga tehisintellektisüsteemidele (III lisas toodud süsteemidele). Tõhususe vaatenurgast on oluline, et läbirääkimistel pöörataks tähelepanu asjaolule, et pakkuja ja tema kliendi huvide vahel võib olla suure riski tehisintellektisüsteemide vastavushindamise puhul konflikt: isik, kes peaks hindama toote vastavust eeskirjadele, on ühtlasi huvitatud süsteemi võimalikult kiirest ELi turule toomisest (artikkel 43). Võib eeldada, et sõltumatult kontrollitud toodete vastavus ja ohutus on kõrgemad kui tootja enda vastavusdeklaratsioonil põhinevate lahenduste puhul. Samas tunnetame riski, et kolmandate osapoolte vastavushindamine võib tähendada ebaproportsionaalset kulutuste suurenemist ja piirata tehisintellekti süsteemide turule ligipääsu. 5.13. Leiame, et suure riskiga tehisintellektisüsteemidele kohaldatavad andmete ja andmehalduse ning tehisintellektisüsteemi turult kõrvaldamise nõuded peavad olema praktikas rakendatavad. Toetame määruse eelnõus sisalduvat logimise nõuet, kuid tunnustatud standarditele vastavuse nõude kehtestamisel tuleb tagada vastavate valdkondlike standardite olemasolu. Selgitus: Praeguses sõnastuses sisaldab määruse eelnõu artikkel 10 lõige 3 nõuet, mille kohaselt peavad treenimis-, valideerimis- ja testimisandmestikud olema asjakohased, representatiivsed, vigadeta ja täielikud. Andmete kvaliteet on küll väga oluline, kuid selliselt sõnastatud nõude täitmine ei ole praktikas võimalik ega realistlik, mistõttu tuleb kõnealuse artikli sõnastust läbirääkimiste käigus täpsustada. Lisaks on eelnõus jäetud tähelepanuta asjaolu, et tehisintellektisüsteemide võimalik kallutatus ei tulene ainult nende treenimisandmestikest. Tehisintellektidele võib kallutatus tekkida ka valest sisendist või tehnilistest piirangutest. Määruses tuleks sätestada ka meetmed, mille eesmärk on ära hoida muu kallutatuse tekkimist. Artikkel 12 lõige 1 sisaldab nõuet, et suure riskiga süsteemide puhul peavad olema logid salvestatud ning logimisvõime peab vastama tunnustatud standarditele või ühtsetele kirjeldustele. Tervitame antud nõuet, kuid peame vajalikuks täpsustada, mida mõeldakse tunnustatud standardi ning ühtse kirjelduse all. Juhime ka tähelepanu, et ühtseid standardeid ei eksisteeri täna kõigis valdkondades. Samas vajavad selgitamist teised nõuded, näiteks võrdlusandmebaasi kasutamine sisendandmete võrdlemiseks ning sisendandmete salvestamine logidesse. Viimasel juhul tuleb arvestada, et andmeid ei säilitataks, kui andmetöötluse eesmärk on täidetud. On oluline märkida, et isegi tunnustatud ja ajas ära proovitud meetmed ei pruugi sobida otsesele ülekandmisele tehisintellektisüsteemi reguleerimise konteksti ning võivad vajada määruse tõhusa rakendamise jaoks täiendavad kohendamist. Näiteks kasutatakse määruse ingliskeelses versioonis tehisintellektisüsteemi turult kõrvaldamise puhul (nt artikkel 67) sõna „recall“. Tehniliselt ei pruugi selline sõnavalik olla tarkvara puhul korrektne ning nõue praktikas täidetav. Sama eesmärki võib tõhusamalt saavutada hoopis kohustusega süsteemi viivitamatult ning kaugjuhtimise teel desaktiveerida. 5.14. Peame oluliseks tagada suure riskiga tehisintellektisüsteemide inimjärelevalve selliselt, et kogu tehisintellektisüsteemi elutsükli jooksul jälgitakse süsteemi toimimist selleks, et ära hoida tervist, ohutust või põhiõigusi ähvardavaid riske. Inimjärelevalve kohustus peab olema proportsionaalne, sh ei tohi põhjendamatult piirata võimalust kasutada tehisintellektisüsteeme automaatotsuste tegemiseks. Selgitus: määruse artikkel 14 seab kohustuse projekteerida ja arendada suure riskiga tehisintellektisüsteemid selliselt, et füüsilised isikud saaksid teha tehisintellektisüsteemi kasutamise ajal selle üle reaalset järelevalvet. Tehisintellektisüsteemide inimjärelevalve osas on võimalik eristada eri lähenemisi, kus inimese poolt reaalselt teostatava järelevalve ulatus varieerub14. Inimsekkumise põhimõttel (human on the loop) toimuv inimjärelevalve tähendab, et inimene saab jälgida süsteemi tööd ning selle igal hetkel enda kontrolli alla võtta. Inimosaluse põhimõttel (human in the loop) toimuv järelevalve tähendab, et inimene saab sekkuda süsteemi igas otsustustsüklis, kui selleks tekib vajadus, näiteks olukorras, kus otsuse täpsus ei vasta seatud tingimustele. Samas, paljudel juhtudel pole see võimalik ega ka soovitav rakendada. Inimjuhitavuse põhimõttel (human in command) toimuv inimjärelevalve tähendab, et juhtida saab tehisintellektisüsteemi kogu tegevust (sealhulgas selle laiemat majanduslikku, ühiskondlikku, õiguslikku ja eetilist mõju) ning võimekust otsustada, millal ja kuidas süsteemi mis tahes konkreetses olukorras kasutada. See võib sisaldada otsust tehisintellekti süsteemi teatud olukorras mitte kasutada, määrata kindlaks inimese kaalutlusõiguse tasemed süsteemi kasutamise ajal või tagada võimalus süsteemi tehtud otsus tühistada. Peame oluliseks tagada suure riskiga tehisintellektisüsteemide inimjärelevalve selliselt, et kogu tehisintellektisüsteemi elutsükli jooksul jälgitaks süsteemi toimimist. Inimjärelevalve on usaldusväärse tehisintellekti üks seitsmest põhinõudest. Seejuures peab suure riskiga tehisintellektisüsteemidele kohalduv inimjärelevalve kohustus olema proportsionaalne ning lähtuma konkreetsetest asjaoludest ja kasutusjuhust. Seetõttu toetame määruse lähenemist, mis seab eesmärgid inimjärelevalvele kuid jätab määratletud eesmärkide saavutamiseks konkreetsete meetmete valiku tehisintellekti pakkujale, arvestades konkreetset olukorda, eelkõige riske, mis võivad tekkida konkreetse suure riskiga tehisintellektisüsteemi kasutamisel. Näiteks ei ole inimosaluse põhimõttel (human in the loop) toimuva järelevalve meede alati vajalik, sobilik ega proportsionaalne. Olenevalt olukorrast võib reealseks järelevalveks olla sobiv süsteemi toimimise logimine, mis võimaldab süsteemi riske, kõrvalekaldeid ja probleeme 14 https://www.europarl.europa.eu/meetdocs/2014_2019/plmrep/COMMITTEES/JURI/DV/2019/11-06/Ethics- guidelines-AI_ET.pdf tuvastada ja neile asjakohaselt reageerida. Enamikel juhtudel võib olla proportsionaalne inimsekkumise (human on the loop) põhimõttel toimiv lähenemine. Automatiseerimine ja automaatsed otsused ei ole iseenesest probleemsed, mistõttu ei tohi määrusega kehtestatav inimjärelevalve kohustus põhjendamatult piirata võimalust kasutada tehisintellektisüsteeme automaatotsuste tegemiseks. Nõuded tehisintellektisüsteemi väljundi kasutamiseks või kontrollimiseks inimese poolt peavad olema põhjendatud ja proportsionaalsed. 5.15. Leiame, et suure riskiga tehisintellektisüsteemide tõsistest intsidentidest ja tõrgetest teavitamise tähtaega tuleks lühendada kolme päevani. Lisaks tuleb õigusselguse huvides selgemalt piiritleda, millistele intsidentidele ja tõrgetele teavitamise kohustus laieneb. Selgitus: määruse artiklis 62 kehtestatakse suure riskiga tehisintellektisüsteemide pakkujatele kohustus teavitada igast tõsisest intsidendist või tõrkest, mille puhul on tegu põhiõiguste kaitseks mõeldud liidu õiguse kohaste kohustuste rikkumisega, nende liikmesriikide turujärelevalveasutustele, kus intsident või rikkumine aset leidis. Määruse järgi võib intsident avaldada mõju ka põhiõigustele, sh isikuandmete kaitsele, mistõttu tuleks teavitamise aega lühendada kolme päevani analoogselt isikuandmete kaitse üldmääruses toodule, kus sätestatakse kohustus teavitada isikuandmetega seotud rikkumisest järelevalveasutuselt põhjendamatu viivituseta ja võimaluse korral 72 tunni jooksul pärast sellest teada saamist. Ühtlasi tuleks määruses täpsustada, mis on tõsine intsident ning talitushäired, mille kohta tuleb määruse artikkel 62 kohaselt raporteid esitada. Tõsine intsident on artikkel 3 punktis 44 defineeritud selgete tagajärgedega (juhtum, mis otseselt või kaudselt põhjustab, võis põhjustada või võib põhjustada inimese surma või tõsise kahju tervisele, varale või keskkonnale; elutähtsa taristu juhtimise ja käitamise tõsise ja pöördumatu katkemise). Määramatust põhjustab siinkohal „võib põhjustada“ hõlmamine ning seda tuleks näiteks põhjenduspunktides rohkem avada. Sarnaselt toote ohutuse valdkonnale oleks meie arvamusel määruse rakendamise tõhususe tagamiseks oluline koondada teavet rikkumiste ja õnnetusjuhtumite kohta EL tasandil. Analoogselt tooteohutuse õigusaktides kasutatud lähenemisele eelistame Komisjonile täiendavate kohustuste lisamist toetamaks suutlikkust seda teavet analüüsida, et sarnaselt turujärelevalve valdkonnaga avastada makrotrende ja vajadusel välja töötada vajalikke meetmeid. 5.16. Leiame, et määruses vajab täpsemat kirjeldamist, millistele õigusmõistmise ja demokraatlike protsesside valdkonda kuuluvatele süsteemidele laienevad suure riskiga süsteemidele kohalduvad nõuded. Eelkõige vajab defineerimist mõiste „õigusasutus“ ja välistada ei tohiks selliseid süsteeme, mida kasutatakse ressursside jaotamiseks ja mis võivad mõjutada isikute juurdepääsu õigusemõistmisele või õigust õiglasele kohtupidamisele. Selgitus: määruse III lisa punkti 8 kohaselt kuuluvad suure riskiga tehisintellektisüsteemide hulka õigusemõistmise ja demokraatlike protsesside valdkonnas kasutatavad tehisintellektisüsteemid, mis on mõeldud abistama õigusasutusi faktide ja seadustega tutvumisel ja nende tõlgendamisel ning õiguse rakendamisel konkreetse faktide kogumi suhtes. Leiame, et määruse III lisa punkt 8 vajab läbirääkimiste käigus täpsustamist. Ettepaneku põhiteksti kohaselt on tegemist tehisintellektisüsteemidega, mis on mõeldud abistama õigusasutusi faktide ja seadustega tutvumisel ja nende tõlgendamisel ning õiguse rakendamisel konkreetse faktide kogumi suhtes. Sõnastusest ei selgu aga üheselt, milliseid õigusmõistmise valdkonnas kasutatavaid tehisintellektisüsteeme silmas peetakse. Põhjenduspunktis 40 tehakse vahet õigusemõistmise ja demokraatlike protsesside jaoks mõeldud tehisintellektisüsteemide korral suure riskiga süsteemide ning selliste süsteemide vahel, mis on mõeldud puhtalt halduslikeks abitegevusteks, ehk mis ei mõjuta tegelikku õigusemõistmist konkreetsetel juhtudel, nagu kohtuotsuste, dokumentide või andmete anonüümimine või pseudonüümimine, töötajate vaheline suhtlus, haldusülesanded või ressursside jaotamine. Selles loetelus on mõneti küsitavad tehisintellektisüsteemid, mida võidakse kasutatakse ressursside jaotamiseks kohtuasjade jagamise kaudu, mis võib mõjutada isikute õigest õiglasele kohtupidamisele. Määratlus katab tehisintellektisüsteeme, mis on mõeldud õigusasutusi õiguse rakendamisel abistama, kuid ebaselgeks jääb, kas on mõeldud ka süsteeme, mis õigust ise rakendaksid ehk siis otsuseid ise toodaksid. Ka mõiste „õigusasutusi“ on määratlemata ja vajab piiritlemist. 5.17. Toetame läbipaistvuskohustuste kehtestamist teatavate tehisintellektisüsteemide puhul, mis on mõeldud füüsiliste isikutega suhtlema või mis on emotsioonide tuvastamise või biomeetrilise liigitamise süsteemid. Toetame ka kohustust süvavõltsingu puhul avaldada, et sisu on kunstlikud loodud või seda on manipuleeritud. Samas peame oluliseks, et teavitamise nõuded ja väljendusvabaduse, kunsti ja teaduse vabaduse õiguste teostamiseks kehtestatud erandid oleksid asjakohased ja proportsionaalsed. Selgitus: Määruse artikkel 52 sätestab läbipaistvuskohustused teatavate tehisintellektisüsteemide puhul, näiteks tuleb juturoboti kasutamise korral inimest teavitada, et ta suhtleb tehisintellektisüsteemiga. EL põhiõiguste harta kohaselt on inimväärikus mitte ainult kõikide põhiõiguste aluseks, vaid ka põhiõigus iseenesest. Inimväärikuse kaitse nõuab, et inimene ei tohi muutmuda tehnoloogia objektiks, mh tähendab see, et inimesel peab olema õigus teada, et ta suhtleb tehisintellektisüsteemiga või tema õiguste teostamist mõjutab tehisintellektisüsteemi kasutus. Selgitamist vajab, millal on ettepaneku kohaselt vajalik EL põhiõiguste hartaga tagatud väljendusvabaduse ja kunsti ja teaduse vabaduse õiguse teostamiseks süvavõltsingut kasutada, mis vabastab kohustusest avaldada, et sisu on kunstlikult loodud või seda on manipuleeritud, tingimusel, et kolmandate isikute õiguste ja vabaduste kaitseks kohaldatakse asjakohaseid kaitsemeetmeid. Tuleb täiendavalt analüüsida, kas väljendusvabaduse ja kunsti ning teaduse vabaduse õiguse teostamiseks on erand vajalik, sobiv ja proportsionaalne. Seletuskirjast ega põhjenduspunktidest ei selgu, millise riski või probleemi maandamiseks on erand sätestatud. Selgitust vajab lisaks, millised on süvavõltsingu kasutamisel asjakohased kaitsemeetmed ning millistel juhtudel ei ole tarvis süvavõltsingu kasutamisest teavitada. Teavitamise nõue ei pruugi olla asjakohane, kui näiteks inimene saab kontekstist niigi aru, et tegemist on süvavõltsinguga või et inimene suhtleb tehisintellektisüsteemiga. Lisaks tuleks kaaluda artikli täiendamist selliselt, et käsitletud oleks sünteetilise meedia teisi väljundeid, näiteks oleks käsitletud kohustus tehisintellekti loodud sisu või teose esitamisel avaldada, et teos on loodud tehisintellekti poolt. 5.18. Oleme seisukohal, et tehisintellekti regulatsiooni testkeskkonnas osalemine peab olema vabatahtlik ning testkeskkonnas tehisintellektisüsteemide arendamisel avalikes huvides peab olema võimalik kaasata ka kolmandaid osapooli, sh ettevõtteid. Toetame, et määruse kohaldamisalast on välistatud tehisintellekti lahenduste testkeskused, mis on loodud sõjalise või riigi julgeoleku tagamise eesmärgil kasutatavate tehisintellektisüsteemide arendamiseks. Selgitus: Määruse artikkel 53 kohaselt on tehisintellekti regulatsiooni testkeskkonna näol tegemist kontrollitud keskkonnaga, mis hõlbustab innovatiivsete tehisintellektisüsteemide arendamist, testimist ja valideerimist piiratud aja jooksul enne nende turule laskmist või kasutusele võtmist konkreetse kava kohaselt. Testkeskkonnad on Euroopa innovatsiooni ja majandusarengu toetamiseks kriitilise tähtsusega, võimaldades luua väikestele idufirmadele tingimusi arendamaks rakendusi tihedas koostöös järelevalveasutustega ja karistusi kartmata. Ilma testkeskkonnata ei pruugi juriidiliste osakondadeta väikesed tehisintellektiga tegelevad ettevõtted saada tulevase määruse rakendamisega korralikult hakkama. Samuti on tõenäoline, et erinevad liikmesriigid lähenevad testkeskkondade loomisele erinevalt, mis võib põhjustada praktilisi raskusi mitmes liikmesriigis tegelevatele ettevõttele. Eksisteerib ka oht, et konkreetses liikmesriigis võib vajalik kompetents või ressurss puududa, mis võib negatiivselt mõjutada kättesaadava testkeskkonna kvaliteeti. Alternatiivina soovitame kaaluda üleeuroopaliselt kättesaadava testkeskkonna rajamist. Ühtlasi tuleks välja töötada konkreetsed ja tõhusad meetmed, millega innustada VKEsid testkeskkondi kasutama. Samas pole testkeskkondadel võimalik toetada kõiki suure riskiga tehisintellektisüsteeme arendavaid idufirmasid ja väikeettevõtteid. Nii tuleb nõuete kehtestamisel arvesse võtta, et nõuded oleksid idufirmadele ja väikeettevõtetele proportsionaalsed ja praktiliselt rakendatavad ega piiraks õigustamatult nende konkurentsivõimet, muutes suure riskiga tehisintellektisüsteemide arendamise jõukohaseks üksnes suurtele ettevõtetele. Siseriiklikult korraldatud testkeskkondade puhul toetame tehisintellekti regulatsiooni testkeskkondade nõuete kehtestamist, et hõlbustada innovatiivsete tehisintellektisüsteemide arendamist kontrollitud keskkonnas, liikmesriigi pädevate asutuste otsese järelevalve ja juhendamise all, et oleks tagatud kooskõla määruse nõuetega ja vajaduse korral muude testkeskkonnas jälgitavate liidu ja liikmesriikide õigusaktidega. Oluline on isikuandmete kaitseks seostada riiklikud andmekaitseasutused testkeskkonnaga. Nõustume nõuetega mujal seaduslikult kogutud isikuandmete töötlemiseks testkeskkonnas teatavate innovatiivsete tehisintellektisüsteemide arendamiseks ja testimiseks. Leiame, et artiklis 53 oleks vaja selgemini määratleda tehisintellekti regulatsiooni testkeskkonna mõiste. Hetkel ei ole arusaadav, kas tegemist on koostöövormiga, füüsilise keskkonnaga või muuga, ei ole ka selge, kas või millised on nõuded selliste keskkondade tunnustamiseks, et neile oleks kohaldatavad määruse vastavad erinormid. Määruse artiklist 53 jääb ebaselgeks, kas nimetatud testkeskkondades osalemine on vabatahtlik. Selline kohustus muudaks tehisintellektisüsteemide arendamise ja turule jõudmise protsessi ebavajalikult pikaks ning seetõttu ei tohiks vastavat kohustust tekitada. Jääb ka ebaselgeks, mida mõeldakse “innovatiivsete tehisintellektisüsteemide” all ning mis põhjusel on sellised tehisintellektisüsteemid eraldi välja toodud. Määrusest jääb arusaamatuks ka see, mis kujul hinnatakse testkeskkonna abil selliseid individuaalseid ja raskesti hindavaid nähtusi nagu näiteks füüsilisele isikule tekitatud psühholoogiline kahju. Ühtlasi tuleks täpsustada, kas ja kuidas saavad testkeskkondi kasutada teadusasutused. Määruse artiklis 54 reguleeritakse isikuandmete töötlemist testkeskkonnas teatavate tehisintellektisüsteemide arendamiseks avalikes huvides. Lõige 1 punkti e kohaselt ei tohi töödeldud isikuandmeid edastada ega üle anda ning need ei tohi olla teistele isikutele muul moel kättesaadavad. Nimetatud norm oleks väikeriikidele nagu Eesti väga koormav seoses kvalifitseeritud tööjõu nappusega riigisektoris. Siseriiklikult viiakse täna enamik projekte ellu era- ja avaliku sektori koostöös ning selline nõue tooks kaasa märgatava avaliku sektori kulude kasvu ja vajaduse leida vahendeid baaseelarvesse. Seetõttu leiame, et määrus peaks lubama arendustesse kaasata ka kolmandaid osapooli. Sama lõike alapunkti b sõnastuses tuuakse eraldi välja tulemuslikkuse indikaator, mis vajab omakorda täpsuse ja piisavuse hindamise mudelit või kriteeriume, mistõttu tasub kaaluda „tulemuslikkuse“ asemel „põhjendatud juhtudel“ lisamist. Eesti peab kaitsevaldkonnas selliste testkeskuste arendamist vajalikuks ja perspektiivikaks, kuna see võimaldab arendada sõjalise ja riigi julgeoleku tagamiseks vajalikke tehisintellektisüsteeme ning liitlassuhteid. Seepärast toetame õigusselguse huvides lisaks üldisele erandile ka sõjalise ja riigi julgeoleku tagamiseks vajalike arenduste tehisintellekti testkeskuste sõnaselget välistamist määruse kohaldamisalast. 5.19. Eesti leiab, et määrus peab jätma liikmesriikidele õiguse valida ise sobilik sanktsioonitüüp. Sanktsioonimäärad peavad olema kooskõlas Euroopa Liidu põhiõiguste harta artikliga 49. Määruses tuleb karistuste sätestamisel lähtuda ultima ratio põhimõttest. Selgitus: määruse artikkel 71 kohustab liikmesriike sätestama rikkumiste eest karistused, kaasa arvatud haldustrahvid (administrative fine), mida kohaldatakse määruse rikkumise korral. Haldustrahv annab mõista, et selline trahv määratakse haldusmenetluses. Liikmesriikidele ei jäta sanktsiooniliigi osas valikut ka määruse ettepaneku artikli 71 lõige 8, mis ütleb, et olenevalt liikmesriikide õigussüsteemist võib haldustrahve käsitlevaid õigusnorme kohaldada selliselt, et trahve määravad riigi pädevad kohtud või muud asutused, nii nagu neis liikmesriikides asjakohane. Määruse artikkel 71 lõige 8 puudutab haldustrahvi määravat asutust. Sellest ei tulene aga selget võimalust valida sanktsiooniliigiks näiteks süüteomenetlus. Eesti on seisukohal, et sanktsioonisüsteemide osas peab liikmesriikidel säilima ulatuslik kaalutlusõigus ning väljaspool ELTL artiklis 83 sätestatud alust ei tohiks õigusaktid teha ettekirjutusi sanktsiooni tüübi ega liigi, samuti sanktsiooni, kohta ning jätma liikmesriikidele piisava paindlikkuse, et leida enda sanktsioonisüsteemi sobituv lahendus. Samuti peaks liikmesriikidele jääma paindlikkus sanktsioneerida vaid teatud raskemaid rikkumisi (ultima ratio põhimõte), st iga rikkumine ei pea olema kohustuslikus korras karistatav. Määruses kohustatakse füüsilistele isikutele sätestama kuni 30 000 000 euro suurusi rahatrahve. Tegemist on ühemõtteliselt karistusõigusliku iseloomuga regulatsiooniga, mille puhul peaks õiguslikuks aluseks olema ELTL artikkel 83 ning sealjuures peaks liikmesriigil olema võimalus kasutada ELTL artikli 83 lõikes 3 sätestatud nn hädapiduri õigust. Üks lahendus oleks sätestada sanktsioonid sarnaselt masinamääruse ettepanekule, mis jätab liikmesriikidele vabaduse sanktsioonitüübi valikul. Lisaks eeltoodud probleemkohtadele väärib märkimist seegi, et määruse ettepaneku kohaselt peavad liikmesriigid sätestama 30 000 000 euro suuruse ülemmääraga rahatrahve ilma (selge) võimaluseta rahatrahvi ülemmäärasid diferentseerida või seada ülemmäära sõltuvusse näiteks füüsilise isiku sissetulekust. Kuigi määrus sätestab võimaluse juriidiliste isikute puhul lähtuda nende käibest, siis seda üksnes siis, kui käibe põhjal arvutatav ülemmäär ületaks 30 000 000 eurot (seega juriidilisele isikule kahjulikus suunas). Kuigi mõistetavalt (ja kooskõlas määruse ettepaneku artikkel 71 lõikega 6) võib konkreetse trahvi määramisel võtta arvesse erinevaid asjaolusid, siis on selline regulatsioon ilmselt vastuolus Euroopa Liidu põhiõiguste harta artikkel 49 lõikest 1 tuleneva karistusõiguse määratletuse põhimõttega, mille kohaselt peaks isikule olema ettenähtav nii see, milline käitumine on karistatav, kui ka sellega kaasneda võiv sanktsioon. Määruse ülevõtmise järel järgneks füüsilisele isikule mõne rikkumise eest sanktsioon kuni 30 000 000 eurot. Sellisel juhul on isikul täiesti võimatu prognoosida isegi ligilähedaselt, millises suuruses sanktsioon tema teole järgneda võib (nt kas 1000 eurot, 10 000 eurot, 500 000 eurot, mõned miljonid või mõned kümned miljonid). 5.20. Peame oluliseks läbirääkimiste käigus tagada, et loodav Euroopa tehisintellekti nõukoda jääks täitma eelkõige nõuandvat rolli ning et nõukoja otsustuspädevusi oluliselt ei laiendataks. Selgitus: Määrus näeb ette riiklike järelevalveasutuste ja komisjoni esindajatest koosneva Euroopa tehisintellekti nõukoja loomise. Nõukoda peaks vastutama mitmesuguste nõustamisalaste ülesannete eest, sh arvamuste, soovituste, nõuannete või juhendite väljaandmine määruse rakendamisega seotud küsimustes, mh tehniliste kirjelduste või olemasolevate standardite kohta. Ühtlasi kogub ja jagab nõukoda määruse rakendamisega seotud liikmesriikide parimaid tavasid. Peame määruse eelnõus toodud nõukoja volitusi asjakohasteks, kuid peame oluliseks tagada, et läbirääkimiste tulemusena ei laiendataks nõukoja otsustuspädevusi ega dubleeritaks juba olemasolevaid funktsioone. Lisaks vajab täpsustamist, kuidas suhestub nõukoda Euroopa Andmekaitsenõukoguga, mis vastutab andmekaitsereeglite ühtse kohaldamise eest ELis. 6. Arvamuse saamine ning seisukohtade kooskõlastamine Majandus- ja Kommunikatsiooniministeerium on seisukohtade ettevalmistamisel küsinud sisendit Haridus- ja Teadusministeeriumilt, Justiitsministeeriumilt, Kaitseministeeriumilt, Keskkonnaministeeriumilt, Kultuuriministeeriumilt, Maaeluministeeriumilt, Rahandusministeeriumilt, Siseministeeriumilt, Sotsiaalministeeriumilt ja Välisministeeriumilt. Tehisintellekti määruse eelnõu saadeti arvamuse saamiseks ka järgnevatele asutustele ja organisatsioonidele: Arenguseire Keskus; E-riigi Akadeemia; Eesti E-kaubanduse Liit; Eesti Elektritööstuse Liit; Eesti Infotehnoloogia ja Telekommunikatsiooni Liit; Eesti Inimõiguste Keskus; Eesti Kaubandus-Tööstuskoda; Eesti Maaülikool; Eesti Masinatööstuse Liit; Eesti Standardimis- ja Akrediteerimiskeskus; Eesti Teadusagentuur; Eesti Tööandjate Keskliit; Eesti Väike- ja Keskmiste Ettevõtjate Assotsiatsioon; Elering; Ettevõtluse Arendamise Sihtasutus (EAS); ITS Estonia; Haigekassa; Transpordiamet; Open Knowledge Estonia; PRIA; PPA; Riigi Infosüsteemi Amet; Startup Estonia; Statistikaamet; Sotsiaalkindlustusamet; Tallinna Ülikool; Tallinna Ülikooli Haridusinnovatsiooni Keskus; Tartu Ülikool; Tartu Ülikooli õigusteaduskond; Tartu Ülikooli haridusteaduste instituut; Tallinna Tehnikaülikool; Tarbijakaitse ja Tehnilise Järelevalve Amet; Eesti Keele Instituut; Teaduste Akadeemia; Töötukassa; Mindtitan OÜ; Microsoft Estonia OÜ; Fyma; EKT; Starship Technologies; Bolt; Feelingstream; Veriff; Pactum; Metaplanet Holdings OÜ; Cleveron AS; Supervaisor OÜ Sentinel AI – Sidekik; OÜ Inimõiguste Instituut; Advokatuur; Eesti Advokatuuri IP/IKT komisjon; Tilde; FORT Legal; Maksu- ja Tolliameti; Eesti Juristide Liit; Õiguskantsleri Kantselei; Riigikohus; Eesti Kohtunike Ühing; MTÜ Internet Society Estonia; Eesti Interneti Sihtasutus; Eesti Tarbijakaitse Liit; Konkurentsiamet; Registrite ja Infosüsteemide Keskus; Andmekaitse Inspektsioon; Pangaliit; MTÜ Finance Estonia; Haridus- ja Noorteamet; Kutsekoda. Arvamuse saatsid Haridus- ja Teadusministeerium; Justiitsministeerium; Kaitseministeerium; Maaeluministeerium; Rahandusministeerium; Siseministeerium; Sotsiaalministeerium; Välisministeerium; Tarbijakaitse ja Tehnilise Järelevalve Amet; Advokatuuri intellektuaalseomandi ja IT-õiguse komisjon; Andmekaitse Inspektsioon; Cleveron; Maksu- ja Tolliameti, Eesti Interneti SA; Eesti Tarbijakaitse Liit; Eesti Teadusagentuur; Eesti Elektritööstuse Liit; Advokaadibüroo Fort; ITL; Jaan Tallinn; Riigi Infosüsteemi Amet; Tallinna Tehnikaülikool ja NJORD Advokaadibüroo. Saabunud sisendid on esitatud kaasamise tabelis (lisa 1). EELNÕU VABARIIGI VALITSUS ISTUNGI PROTOKOLL ………….2021 nr Tallinn, Stenbocki maja Eesti seisukohad Euroopa Parlamendi ja nõukogu määruse, millega nähakse ette tehisintellekti käsitlevad ühtlustatud õigusnormid (tehisintellekti käsitlev õigusakt) ja muudetakse teatavaid liidu õigusakte (COM(2021) 85 final), eelnõu kohta 1. Kiita heaks järgmised ettevõtlus- ja infotehnoloogiaministri esitatud seisukohad Euroopa Parlamendi ja nõukogu määruse, millega nähakse ette tehisintellekti käsitlevad ühtlustatud õigusnormid (tehisintellekti käsitlev õigusakt) ja muudetakse teatavaid liidu õigusakte (COM(2021) 85 final), eelnõu kohta: 1.1. Eesti toetab Euroopa Komisjoni esitatud määruse eelnõu eesmärki luua tehisintellekti käsitlev ühtlustatud õigusraamistik, et aidata kaasa Euroopa Liidu digitaalse ühtse turu toimimisele ning maandada selle tehnoloogia teatavatest kasutusviisidest tulenevaid riske. Eesti peab oluliseks, et määrus soodustaks innovatsiooni ja usaldusväärse tehisintellekti kasutuselevõttu. 1.2. Eesti leiab, et tehisintellekti käsitlev ühtlustatud õigusraamistik peab olema tehnoloogianeutraalne ja tõhus. Eesti eelistab, et määruse kohaldamisala määravad loetelud oleksid kehtestatud määruses, mitte delegeeritud õigusaktide kaudu. Jõustumisel peab määrus olema sõnastatud viisil, mis tagaks, et see on tulevikukindel. 1.3. Eesti on seisukohal, et õigusselguse saavutamiseks ning määruse ühetaoliseks rakendamiseks peab kitsamalt piiritlema selliseid määruse I lisas esitatud meetodeid ja lähenemisviise, mida ei loeta klassikaliselt tehisintellektisüsteemideks, näiteks statistilisi lähenemisviise, otsingu- ja optimeerimismeetodeid ning mitmeid loogika- ja teadmistepõhiseid lähenemisviise. 1.4. Toetame määruses põhiõiguste kaitse laia käsitlust, mille rakendamiseks tuleb välja selgitada vajadus hinnata suure riskiga tehisintellektisüsteemide riskihindamissüsteemi osana konkreetsetele põhiõigustele avaldavat mõju. Rõhutame, et inimkeskse ja usaldusväärse, sh põhiõigustega kooskõlas oleva tehisintellekti arendamisel ja kasutamisel tuleb tagada võrdse kohtlemise põhimõtte järgimine, samuti pidada silmas laiemat võrdsete võimaluste ja soolise võrdõiguslikkuse edendamise eesmärki, mis hõlmab ka tehisintellekti kasutavate lahenduste kaudu sooliste ja muude stereotüüpide leviku aktiivset tõkestamist. 1.5. Eesti toetab lähenemist, mille kohaselt on määruse kohaldamisalast väljas tehisintellektisüsteemid, mida on arendatud või kasutatakse üksnes sõjalisel otstarbel. Peame oluliseks erandi säilimist. Toetame, et määruse reguleerimisalast on väljas ka surmavate autonoomsete relvasüsteemidega seotud küsimused. 1.6. Eesti leiab, et määruse kohaldamisalast peavad olema välistatud tehisintellektisüsteemid, mida on arendatud või kasutatakse üksnes riigi julgeoleku tagamise eesmärgil. 1.7. Toetame määruse riskipõhist lähenemisviisi, mille kohaselt tehisintellektisüsteemile kohaldatavad nõuded sõltuvad süsteemi kasutusviisist ning sellega kaasnevast riskist põhiõigustele ja ohutusele, tagades seeläbi regulatsiooni proportsionaalsuse. Oleme seisukohal, et riskitaseme määratlus peab lähtuma konkreetsest kasutusjuhust ja olema üheselt arusaadav tagamaks määruse ühetaoline rakendatavus. 1.8. Toetame tehisintellekti keelatud kasutusviiside käsitlemist määruses. Määruse sõnastusest peab üheselt selguma, milliseid kasutusviise on alapunktide kirjeldusest lähtuvalt konkreetselt mõeldud ning kasutusviisi keeld peab olema proportsionaalne. 1.9. Toetame määruses toodud keeldu tehisintellektisüsteemide turule laskmisele, kasutusele võtmisele või kasutamisele ametiasutuste poolt või nende nimel, mille kaudu hinnatakse või liigitatakse isikute usaldusväärsust nende sotsiaalse käitumise põhjal ühiskondliku reitingu määramise eesmärgil. 1.10. Leiame, et õiguskaitse eesmärgil avalikult juurdepääsetavas ruumis reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamise keelu erandeid tuleb täiendada viisil, mis võimaldaks ka selliste isikute otsimist, kes ei ole kuriteoohvrid, kuid kelle elu või tervis võib olla ohus muul põhjusel. Reaalajas tuvastamist lubavate kuritegude loetelu peab hõlmama ka riigi jaoks olulisi raskeid kuritegusid, näiteks riigivastaseid kuritegusid. Keelu laiendamine teistele biomeetria kasutusviisidele peaks toimuma üksnes väga selgelt põhjendatud juhtudel. 1.11. Eesti on seisukohal, et määruses õiguskaitse valdkonnale kehtestatavad piirangud ei tohi põhjendamatult takistada kriminaalmenetlust ega liikmesriigi võimalusi kuritegevusevastasel võitlusel. Eelistame õiguskaitseasutuste tehisintellektisüsteemide kasutamisega seotud küsimuste käsitlemist eraldi õigusaktis. 1.12. Peame oluliseks, et suure riskiga tehisintellektisüsteemidele esitatavad nõuded ja suure riskiga tehisintellektisüsteemide pakkujate kohustused tagaksid usaldusväärsete tehisintellektisüsteemide arendamise ja kasutamise EL-is, ilma et see ebaproportsionaalselt pärsiks innovatsiooni, takistaks tehisintellekti kasutuselevõttu või rikuks ettevõtjate õigusi ning vabadusi. 1.13. Leiame, et suure riskiga tehisintellektisüsteemidele kohaldatavad andmete ja andmehalduse ning tehisintellektisüsteemi turult kõrvaldamise nõuded peavad olema praktikas rakendatavad. Toetame määruse eelnõus sisalduvat logimise nõuet, kuid tunnustatud standarditele vastavuse nõude kehtestamisel tuleb tagada vastavate valdkondlike standardite olemasolu. 1.14. Peame oluliseks tagada suure riskiga tehisintellektisüsteemide inimjärelevalve selliselt, et kogu tehisintellektisüsteemi elutsükli jooksul jälgitakse süsteemi toimimist selleks, et ära hoida tervist, ohutust või põhiõigusi ähvardavaid riske. Inimjärelevalve kohustus peab olema proportsionaalne, sh ei tohi põhjendamatult piirata võimalust kasutada tehisintellektisüsteeme automaatotsuste tegemiseks. 1.15. Leiame, et suure riskiga tehisintellektisüsteemide tõsistest intsidentidest ja tõrgetest teavitamise tähtaega tuleks lühendada kolme päevani. Lisaks tuleb õigusselguse huvides selgemalt piiritleda, millistele intsidentidele ja tõrgetele teavitamise kohustus laieneb. 1.16. Leiame, et määruses vajab täpsemat kirjeldamist, millistele õigusmõistmise ja demokraatlike protsesside valdkonda kuuluvatele süsteemidele laienevad suure riskiga süsteemidele kohalduvad nõuded. Eelkõige vajab defineerimist mõiste „õigusasutus“ ja välistada ei tohiks selliseid süsteeme, mida kasutatakse ressursside jaotamiseks ja mis võivad mõjutada isikute juurdepääsu õigusemõistmisele või õigust õiglasele kohtupidamisele. 1.17. Toetame läbipaistvuskohustuste kehtestamist teatavate tehisintellektisüsteemide puhul, mis on mõeldud füüsiliste isikutega suhtlema või mis on emotsioonide tuvastamise või biomeetrilise liigitamise süsteemid. Toetame ka kohustust süvavõltsingu puhul avaldada, et sisu on kunstlikud loodud või seda on manipuleeritud. Samas peame oluliseks, et teavitamise nõuded ja väljendusvabaduse, kunsti ja teaduse vabaduse õiguste teostamiseks kehtestatud erandid oleksid asjakohased ja proportsionaalsed. 1.18. Oleme seisukohal, et tehisintellekti regulatsiooni testkeskkonnas osalemine peab olema vabatahtlik ning testkeskkonnas tehisintellektisüsteemide arendamisel avalikes huvides peab olema võimalik kaasata ka kolmandaid osapooli, sh ettevõtteid. Toetame, et määruse kohaldamisalast on välistatud tehisintellekti lahenduste testkeskused, mis on loodud sõjalise või riigi julgeoleku tagamise eesmärgil kasutatavate tehisintellektisüsteemide arendamiseks. 1.19. Eesti leiab, et määrus peab jätma liikmesriikidele õiguse valida ise sobilik sanktsioonitüüp. Sanktsioonimäärad peavad olema kooskõlas Euroopa Liidu põhiõiguste harta artikliga 49. Määruses tuleb karistuste sätestamisel lähtuda ultima ratio põhimõttest. 1.20. Peame oluliseks läbirääkimiste käigus tagada, et loodav Euroopa tehisintellekti nõukoda jääks täitma eelkõige nõuandvat rolli ning et nõukoja otsustuspädevusi oluliselt ei laiendataks. 2. Eesti esindajatel Euroopa Komisjoni eksperdirühmades, komiteedes ja Euroopa Liidu Nõukogus väljendada ülaltoodud seisukohti. 3. Riigikantseleil esitada punktis 1 nimetatud eelnõu ja seisukohad Riigikogu juhatusele ning teha seisukohad teatavaks Eestist valitud Euroopa Parlamendi liikmetele ning Eestist nimetatud Euroopa Majandus- ja Sotsiaalkomitee ja Regioonide Komitee liikmetele. Kaja Kallas Taimar Peterkop Peaminister Riigisekretär Lisa 1. Arvamused tehisintellekti määruse eelnõu kohta Nr Ettepaneku sisu Arvestatud/ mittearvestatud/ selgitatud 1. Justiitsministeerium Justiitsministeerium toetab Euroopa Parlamendi ja Nõukogu määruse, millega nähakse ette Arvestatud tehisintellekti käsitlevad ühtlustatud õigusnormid (tehisintellekti käsitlev õigusakt) ja seisukohapunktis 5.1. muudetakse teatavaid liidu õigusakte, vastuvõtmist, kehtestamaks TI käsitlevad ühtlustatud õigusnormid, et soodustada tehisintellekti kasutuselevõttu ja tegeleda selle tehnoloogia teatavate kasutusviisidega seotud riskidega inimestele ja ühiskonnale laiemalt. Toetame õigusraamistiku erieesmärke, iseäranis eesmärki tagada, et turule lastavad ja kasutatavad tehisintellektisüsteemid on ohutud ja kooskõlas kehtiva põhiõigusi käsitleva õigusega ning liidu väärtustega, ja eesmärki tugevdada juhtimist ning tõhustada põhiõigusi käsitleva kehtiva õiguse ja tehisintellektisüsteemidele kohalduvate ohutusnõuete täitmise tagamist. Uute tehnoloogiate, sh tehisintellekti arendamise ja rakendamisega kaasnevad riskid põhi- ja inimõigustele ning seotud eetikaküsimused on viimaste aastate jooksul pälvinud suurt tähelepanu kogu maailmas. Nii OECD 2019 tehisintellekti soovitus, UNESCO 2021. a juunis kokku lepitud AI eetikasoovitus kui ka Euroopa Nõukogu ad hoc tehisintellekti töögrupp CAHAI töö käsitlevad vajadust tehisintellekti süsteemide kogu olelusringi vältel tagada inimõiguste, demokraatia ja õigusriigi kaitset. Euroopa Nõukogu liigub kindlalt siduva tehisintellekti konventsiooni väljatöötamise poole, et tagada tehisintellektisüsteemide disaini, arendamise ja rakendamise kooskõla Euroopa Nõukogu inimõiguste, demokraatia ja õigusriigi standarditega. Euroopa Liidu tasandil on komisjoni kokku kutsutud tehisintellekti sõltumatu ekspertgrupp (AI HLG) välja töötanud usaldusväärse tehisintellekti eetilised suunised[1], poliitika ja investeeringute soovituse[2] ning usaldusväärse tehisintellekti kontrollnimekirja[3] (The Assessment List for Trustworthy Artificial Intelligence (ALTAI). Komisjon on omaks võtnud AI HLG usaldusväärse tehisintellekti määratluse, mille kohaselt usaldusväärne tehisintellekt on õiguspärane (sh kooskõlas inim/põhiõigustega), eetiline ja tehniliselt ning sotsiaalselt töökindel, kusjuures sotsiaalse töökindluse all mõeldakse seda, et tehisintellekti kasutuselevõtmine ei kahjustaks ühiskonda ega moonutaks selle toimimist. EL põhiõiguste harta (ELPÕH) kohaselt on inimväärikus mitte ainult kõikide põhiõiguste aluseks, vaid ka põhiõigus iseenesest. ELPÕH artikkel 1 sätestab, et inimväärikus on puutumatu ja et seda tuleb austada ja kaitsta. Just inimväärikuse kaitse on põhjus, miks ei tohi lubada inimese muutmist tehnoloogia sh tehisintellektisüsteemi objektiks. Toetame määruse põhiõiguste kaitse laia käsitlust. Arvestatud Toetame määruse põhiõiguste kaitse laia käsitlust, millega kehtestatakse nõudeid tagamaks suure seisukohapunktis 5.4. riskiga tehisintellektisüsteemide kasutuse kooskõla Euroopa Liidu õigusega kaitstud põhiõigustega, sh Euroopa Liidu põhiõiguste hartas sätestatud kõik põhiõigused ja -vabadused. Kui seni on eelkõige käsitletud vajadust isikuandmete ja privaatsuse kaitseks tehisintellektisüsteemide arendamisel ja rakendamisel läbi viia isikuandmete kaitse mõjude analüüs vastavalt IKÜM artiklike 35, on tagaplaanile või tähelepanuta jäänud teised olulised põhiõigused, näiteks õigus mittediskrimineerimisele, sõnavabadus, kogunemisvabadus, ühinemisvabadus, tarbijakaitse ja lapse õigused, mida tehisintellektisüsteemide kasutus võib negatiivselt mõjutada. Ka Euroopa Liidu põhiõiguste amet on oma 2020 aruandes Getting the Future Right: AI and Fundamental Rights rõhutanud kõikide ELPÕH õiguste arvestamise ja põhiõiguste mõjude hindamise olulisust. [1] Oluline on veel silmas pidada, et põhiõiguste rikkumised võivad omakorda negatiivselt mõjutada nii demokraatia toimimist kui ka õigusriiki, s.o. väärtused, mis on kõikidele liikmesriikidele ühised ning millele Euroopa Liitu on ELL artikli 2 kohaselt rajatud. Artikli 9 nõuded riskijuhtimissüsteemi, artikli 13 läbipaistvuse ja kasutajate teavitamise nõuete jt suure riskiga tehisintellektisüsteemidele esitatavate nõuete täitmine eeldab põhiõigustega seotud riskide kindlakstegemist ja analüüsi, millele viitab laiemalt artikkel 9 lg 2 punkt a. Määruses tuleks selgemalt välja tuua põhiõiguste mõjude hindamise vajadus riskijuhtimissüsteemi osana, nagu on välja toodud ALTAI usaldusväärse AI kontrollnimekirjas eeldusena kontrollnimekirja alusel tehisintellekti süsteemi hindamiseks[2]. Oleks oluline kaasa aidata sellele, et EL-i või Euroopa Nõukogu või mõne muu organisatsiooni tasandil töötataks välja põhiõiguste mõjude hindamise mudel, mis lubaks määruse nõudeid täita ja täitmist kontrollida ühetaoliselt kogu EL-is. Ettepaneku õiguslik alus, kohaldamisala ja subsidiaarsuse analüüs. Arvestatud punktis 3.1 (vastavus pädevuse Üldjoontes on asjakohane komisjoni valitud õiguslik alus, milleks on Euroopa Liidu toimimise lepingu andmise, põhimõtetele) (ELTL) artikkel 114, mis annab õiguse kehtestada meetmeid, mille eesmärk on tagada siseturu loomine ja seisukohapunktis 5.5. ja toimimine. Kohane on ka valik määruse ja mitte direktiivi kasuks, sest tuvastatud on vajadus ELi siseturul tagada, et siseturg ei killustuks olukorras, kus mõned liikmesriigid kaaluvad juba riiklike eeskirjade kehtestamist, et tagada tehisintellekti ohutus ning arendamine ja kasutamine kooskõlas põhiõigustega seotud kohustustega. Lisaks on tuvastatud vajadust suurendada tehisintellektisüsteemide pakkujate ja kasutajate õiguskindlus seoses sellega, kuidas kohaldatakse liidus nende süsteemide suhtes olemasolevaid ja uusi eeskirju. Nõustume komisjoni seisukohaga, et selleks et tagada võrdsed tingimused ning üksikisikute õiguste ja vabaduste tulemuslik kaitse kogu liidus, tuleks määrusega kehtestatud õigusnorme kohaldada tehisintellektisüsteemide pakkujate suhtes, diskrimineerimata pakkujaid selle põhjal, kas nad tegutsevad liidus või mõnes kolmandas riigis, ja liidus tegutsevate tehisintellektisüsteemide kasutajate suhtes. Oluline on seejuures silmas pidada takistusi ja raskusi õigusakti täitmise tagamisel väljaspool EL-i asutatud ettevõtjate poolt, nagu on tuvastatud isikuandmete kaitse üldmääruse puhul. [1] Nõustume ettepaneku artikli 2 lõikega 3, et määruse kohaldamisalast tuleks välja jätta tehisintellektisüsteemid, mis on välja töötatud või mida kasutatakse üksnes sõjalisel otstarbel. Seisukohtade kujundamisel on vaja välja selgitada, kas ja kuidas oleks vaja eraldi arvesse võtta kahese kasutusega tehisintellektisüsteemide sõjalist ja tsiviilkasutust. Asjakohane on ka ELTL artikkel 16 määruse artikli 5 punkti d õigusliku alusena. Põhjenduspunkti 23 kohaselt on viidatud punkt direktiivi 2016/680 artikli 10 suhtes erinormiks, seades piirangud loetletud põhjustel biomeetriliste andmete töötlemisele avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil reaalajas toimuva füüsiliste isikute kaugtuvastamise jaoks, Direktiiv 2016/680 põhineb ELTL artiklil 16, mis sätestab igaühe õiguse oma isikuandmete kaitsele ja annab EL-ile pädevuse kehtestada eeskirjad füüsiliste isikute kaitse kohta seoses isikuandmete töötlemisega liidu institutsioonides, organites ja asutustes ning liikmesriikides liidu õiguse reguleerimisalasse kuuluva tegevuse puhul, samuti selliste andmete vaba liikumise eeskirjad. Samas teeb murelikuks komisjoni tendents esitada ettepanekuid, milles on sätestatud loomult Arvestatud punktis 3.1 kriminaalmenetluslike ja karistusõiguslike sätteid, ilma et need põhineksid vastavalt ELTL artiklile 82 ja seisukohapunktis ja 83. Kriminaalmenetlust võib mõjutada artikli 6 lg 2 ja lisa III punktis 6 osutatud õiguskaitse 5.11. valdkonnas kasutatavate tehisintellektisüsteemide liigitamine suure riskiga tehisintellektisüsteemideks, millele esitatakse artikli 8-15 sätestatud nõuded. Seisukohtade kujundamisel tuleb täiendavalt arutada Siseministeeriumi ettepanekut kaaluda õiguskaitseasutustele AI osa oma õigusakti loomist, nagu tehti isikuandmete kaitse määruse ja direktiiviga. Liikmesriikide poolt rakendatavad siseriiklikud kuritegevusega võitlemise meetmed on tihedalt seotud asjaomase liikmesriigi siseriiklike väljakutsetega ja nendega seotud kriminaalpoliitilistest eesmärkidest. Üldjuhul peaks kriminaalmenetlust puudutava regulatsiooni ühtlustamine toimuma ELTL art-s 82 sätestatud alustel ning arvestades ka ELTL art 82 lg-s 3 sätestatud riigi karistusõigussüsteemi erilise kaitse põhimõtteid. Pöörame tähelepanu, et õiguskaitseasutusi reguleerivate liiduüleste õigusaktide väljatöötamisel, seda eriti õiguskaitseasutusi puudutavas osas, peab jätkuma Euroopa Liidu senine suund jätta liikmesriikidele võimalikult avar otsustusõigus määrata, mis juhtudel, ulatuses ja viisil kasutada kriminaalmenetluses tehnoloogilisi võimalusi. Määruse eelnõu reguleerib AI kasutamist kriminaalmenetluse valdkonnas ning välja pakutud regulatsioon võib seada kuritegevuse vastasele võitlusele liialt ranged piirangud. Liidu tasemel sätestatud tehnoloogia kasutamist käsitlevad piirangud ei tohi mingil moel saada liikmesriigile takistuseks mistahes kuritegevusega võitlemisel. Kahetsusväärselt on tuua näiteid, kus valdkonna harmoneerimine EL tasandil on hiljem toonud kaasa olulised piirangud kuritegevusevastasele võitlusele ning omanud ulatuslikku mõju ka ülejäänud kriminaalmenetlusele (eeskätt nt sideandmete säilitamise teemal). Seetõttu ei tohiks Eesti arvates kergekäeliselt laiendada Liidu pädevust kriminaalmenetluslike küsimuste reguleerimiseks. Eelnevale tuginedes jääme seisukohale, et käesolevas määrusest toodud õiguskaitseasutusi puudutav regulatsioon on liialt kitsendav ning selle liidu tasandil reguleerimine on ennatlik ning võib kahjustada kuritegevuse vastast võitlust. Artikkel 71 kohustab liikmesriike sätestama rikkumiste eest sanktsioone. Sanktsioonisüsteemide osas Arvestatud on liikmesriikidel ulatuslik kaalutlusõigus ning väljaspool ELTL art-s 83 sätestatud alust ei tohiks seisukohapunktis 5.19. õigusaktid teha ettekirjutusi sanktsiooni tüübi ega liigi, samuti sanktsiooni, kohta ning jätma liikmesriikidele piisava paindlikkuse, et leida enda sanktsioonisüsteemi sobituv lahendus. Samuti peaks liikmesriikidele jääma paindlikkus sanktsioneerida vaid teatud raskemaid rikkumisi (ultima ratio põhimõte), st iga rikkumine ei pea olema kohustuslikus korras karistatav. Määruses kohustatakse füüsilistele isikutele sätestama kuni 30 000 000 euro suurusi rahatrahve. Tegemist on ühemõtteliselt karistusõigusliku iseloomuga regulatsiooniga, mille puhul peaks õiguslikuks aluseks olema ELTL art 83 ning sealjuures peaks liikmesriigil olema võimalus kasutada ELTL art 83 lg-s 3 sätestatud nn hädapiduri õigust. Nõustume komisjoni subsidiaarsuse analüüsiga, mille kohaselt liikmesriigi üksi ei saa määruse Arvestatud punktis 3.2. ettepaneku eesmärke tõhusalt täita, kuna tehisintellekt tugineb sageli suurtele ja mitmekesistele andmekogumitele ning selle võib sisse ehitada siseturul vabalt ringlevasse mis tahes tootesse või teenusesse. Lisaks takistavad lahkneda võivad riiklikud eeskirjad ohutuse ja põhiõiguste ning liidu väärtuste tõhusat kaitset. Toetame määruse riskipõhist lähenemist, mis aitab tagada regulatsiooni proportsionaalsuse. Arvestatud seisukohapunktis 5.7. Läbirääkimiste käigus tuleb tagada, et tehisintellekti keelatud kasutusviisid, suure riskiga tehisintellektisüsteemid ja tehisintellektisüsteemid, millele on kohaldatavad artikli 52 täiendavad läbipaistvuskohustused, on määratletud selgelt ja üheselt mõistavalt, et võimaldada määruse ühetaolist kohaldamist. Määratlused ja kriteeriumid peavad lähtuma tehisintellektisüsteemide põhjustatavate riskide intensiivsusest ja ulatusest ning nõuded peavad olema vajalikud, sobivad ja proportsionaalsed konkreetse usaldusväärse tehisintellekti tagamiseks seatud eesmärgiga. Toetame määruse lähenemist, mille kohaselt riski taset määratletakse arvestades konkreetse tehisintellektisüsteemi kasutamise konteksti, sh tehisintellektisüsteemi kasutusvaldkonda, eesmärki, kasutajat ja tehisintellektisüsteemi kaudu või abil tehtavate otsuste mõju inimeste elule, tervisele ja põhiõiguste kaitsele. Toetame tehisintellekti keelatud kasutusviiside käsitlemist määruses, et seda tehnoloogiat ei Arvestatud oleks võimalik kurjasti kasutada ning luua uudseid ja võimsaid manipuleerimise, ärakasutamise seisukohapunktides 5.8; ja sotsiaalse kontrolli vahendeid. Oluline on tehisintellekti arendamisel ja rakendamisel tagada 5.9; 5.10. kasu ühiskonnale ja inimkonnale, kaitstes inimväärikust, kõiki teisi põhiõigusi ja -vabadusi ning demokraatiat ja õigusriiki. Artiklis 5 käsitletakse tehisintellekti kasutusviise, mis on vastuolus selliste liidu väärtustega nagu inimväärikuse austamine, vabadus, võrdsus, demokraatia ja õigusriik ning liidu põhiõigustega, sh õigusega mittediskrimineerimisele, andmekaitsele ja privaatsusele, aga ka lapse õigustega. Nende sätete käsitlemisel on oluline silmas pidada, et põhjenduspunkti 24 kohaselt peaks igasugune biomeetriliste ja muude isikuandmete töötlemine, mis on seotud tehisintellektisüsteemide kasutamisega biomeetrilise tuvastamise jaoks, v.a juhul, kui see toimub seoses käesoleva määrusega reguleeritud reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamisega avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil, kaasa arvatud juhul, kui pädevad asutused kasutavad neid süsteeme avalikult juurdepääsetavas ruumis muul otstarbel kui õiguskaitse eesmärgil, ka edaspidi vastama kõigile määruse (EL) 2016/679, artikli 9 lõikest 1, määruse (EL) 2018/1725 artikli 10 lõikest 1 ja direktiivi (EL) 2016/680 artiklist 10 tulenevatele nõuetele, nagu on asjakohane. Läbirääkimiste käigus peab selguma, millised kasutusviisid on alapunktide kirjeldusest lähtuvalt konkreetselt mõeldud ja kuidas hinnata kahju, mis need põhjustavad või tõenäoliselt põhjustavad, et selliste kasutusviiside keelamine oleks õigustatud. Lisaks tuleks täpsustada kahju ulatust, mis õigustaks kasutusviisi keelamist. Näiteks võib olla ebaproportsionaalne keelata artikkel 5 lg 1 p a alusel tehisintellektisüsteemi, milles on küll kasutatud inimese teadvusest kaugemale ulatuvale alalävisele tajule suunatud võtteid, et oluliselt moonutada isiku käitumist viisil, mis põhjustab või tõenäoliselt põhjustab sellele või mõnele teisele isikule füüsilist või psühholoogilist kahju, mis on aga minimaalne. Keeruline on siin psühholoogilise kahju määratlemine ja tuvastamine, ebaselge on ka „oluliselt moonutama“ mõiste. Analoogiline probleem on sama lõigu punkti b mõistmisel ja edaspidi ühetaoliselt rakendamisel. Toetame punktis c määratletud süsteemide ametiasutuste poolt või nende nimel turule laskmise, kasutusele võtmise või kasutamise keelustamist. Tegemist on tehisintellektisüsteemidega, mis hindavad või liigitavad inimeste usaldusväärsust nende sotsiaalse käitumise põhjal (ingl. social credit või social scoring), kuna sellised süsteemid ei ole kooskõlas demokraatia, õigusriigi põhimõtte ega põhiõigustega. Ka erasektoris ei ole vastavad süsteemide kasutamine üldjuhul lubatud. IKÜM kohaselt võib füüsilisele isikule skoori (punktisumma) määramine olla lubatud üksnes IKS § 10 kohase isiku krediidivõimelisuse hindamise raames, arvestades IKÜM profileerimise reegleid. Mh peab iga inimene aru saama, kuidas ja millest lähtuvalt on kujunenud tema punktiskoor (vt ka IKÜM põhjenduspunkti 60). Andmekaitse inspektsioon on leidnud, et kindlasti ei ole lubatud koostada mingit abstraktset inimese skoori, mille koostamisel on arvestatud krediidivõimelisusesse mittepuutuvaid asjaolusid (nt kus inimene sündis, milline on ta emakeel, milliseid võõrkeeli ta räägib või milline on olnud tema hariduskäik).[1] Eraelu ja isikuandmete kaitse põhiõigust silmas pidades on oluline sõnum keelata ära tehisintellekti süsteemide arendamine ja kasutamine avaliku võimu poolt inimeste ühiskondliku reitingu eesmärgil. Lähtudes sellest, et nii eraelu kaitse kui põhiõigus isikuandmete kaitsele teenivad ka inimväärikuse põhimõtet, millest lähtuvalt inimene ei tohi olla pidevalt avaliku võimu jälgimise all. Riivet muudab intensiivsemaks asjaolu, kui sellega kaasneb inimese käitumise või isikuomaduste prognoosimine näiteks näotuvastustehnoloogiate abil. Pideva jälgimise all olevad inimesed võivad hakata piirama oma vabadusi ja proovida käituda eeldatava normi piires, soovides mitte silma paista, mis kahjustab inimeste õigust vabale enesemääramisele. See omakorda võib kaasa tuua ohu demokraatlikule ühiskonnakorrale, mis lähtub fundamentaalselt inimeste vabadusest. Seetõttu toetame art 5 lg 1 punktis c väljendatud kavatsust keelata ära tehisintellektisüsteemide arendamine ja rakendamine ühiskondliku reitingu eesmärgil. Samadel põhjustel on oluline piirata ka tehisintellektisüsteemide rakendamist õiguskaitse eesmärgil. Erandid avalikult juurdepääsetavas ruumis reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamisele õiguskaitse jaoks vajavad täpsustamist. Tehisintellektisüsteemide rakendamine „konkreetsete võimalike kuriteoohvrite, kaasa arvatud kadunud laste, sihipärane otsimise“ eesmärgil vajab siiski edasises töös eelnõuga täpsemat määratlemist. Praeguses sõnastuses loob säte liiga avara tõlgendusruumi ja võimaldab liikmesriikidel seda väga ettearvamatutes olukordades kasutada. Sõltuvalt kuriteo mõiste määratlemisest liikmesriigis võib see hõlmata ka näiteks avalikes kohtades jälgimist taskuvarguste ohvrite sihipäraseks otsimiseks, avades seega ukse inimeste totaalseks jälgimiseks tehisintellektisüsteeme rakendades. Ometi võib eeldada, et määruse ettepaneku koostamisel on olnud eesmärgiks vastupidine, arvestades mh ka EK pidevas praktikas kujunenud seisukohaga, mille kohaselt peab kõigis EL liikmesriikides olema tagatud kõrgetasemeline isikuandmete kaitse. Sama põhimõtet on kinnitatud ka IKÜM põhjenduspunkt 10: „Selleks et tagada füüsiliste isikute järjekindel ja kõrgetasemeline kaitse ning kõrvaldada takistused isikuandmete liikumisel liidus, peaks füüsiliste isikute õiguste ja vabaduste kaitse selliste andmete töötlemisel olema kõigis liikmesriikides samal tasemel.“. Põhiõigust eraelule ja isikuandmete kaitsele tohib piirata vaid juhul, mil see on vältimatult vajalik. Seetõttu, arvestades mh ka laste õiguste erilise kaitse vajadust, tekib ka küsimus, kas tehisintellektisüsteemi tohib rakendada laste suhtes vaid sel eesmärgil, kui on alust arvata, et nad on võimalikud kuriteoohvrid? Kaaluda tuleks, kas „vältimatult vajaliku“ kriteerium on täidetud ka juhul, kui on konkreetsete faktiliste asjaolude pinnal on alust arvata, et eksisteerib vahetu kõrgendatud oht lapse elule (suitsiidioht). Sama küsimus tekib täiendavalt ka täisealiste suhtes. Artikli 5 lg 1 punktis (d)(i) loetletud isikute hulka võiks lisada isikud, kelle suhtes ei ole alust kahtlustada, et tegu on võimalike kuriteo ohvritega ega lapsega, näiteks kadunud sügava vaimupuudega isikuga, kes on omavoliliselt lahkunud järelevalvega asutusest, hooldekodust lahkunud isikud, jne. Sama punkti alapunkti (iii) loetelu võib olla liialt piirav, näiteks ei hõlma raamotsuse 2002/584/JSK artikli 2 lõikes 2 sätestatud loetelu riigivastaseid kuritegusid. Soovitakse keelata avalikult juurdepääsetavas ruumis reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamine õiguskaitse jaoks, välja arvatud juhul, kui selline kasutamine on vajalik mõnel loetletud eesmärgil – konkreetsete võimalike kuriteoohvrite sihipärane otsimine, füüsiliste isikute elu või turvalisust ähvardava konkreetse, suure ja vahetu ohu või terrorirünnaku ärahoidmine või Euroopa vahistamismäärust käsitleva nõukogu raamotsuses 2002/584/JSK sätestatud raske kuriteo toimepanijate tuvastamine -- selleks vajalikus ulatuses. Eraõiguslikele turvafirmadele on biomeetrilise kaugtuvastamise süsteemi kasutamine keelatud, sest nemad ei ole artikli 3 punkti 40 kohaselt „õiguskaitseasutus“ ja nende tegevus ei ole sama artikli punkti 41 kohaselt „õiguskaitse“. Euroopa Andmekaitsenõukogu juhise kohaselt tohib erafirma kasutada näotuvastussüsteeme vastavalt IKÜM artikli 9 lõige 2 punktile a üldjuhul vaid andmesubjektide nõusoleku alusel. Lisaks tuleks seisukohtade kujundamisel täiendavalt kaaluda tehisintellekti keelatud kasutusviiside hulka lisamist tehisintellekti süsteemid, millega mõistetakse õigust asjades ja küsimustes, mis eeldavad asjaolude ja tõendite kaalumist ning õigusnormide tõlgendamist. Seisukohtade kujundamisel tuleks käsitleda ka nn musta kasti probleemi, s.o. keerulised tehisintellektisüsteemid, mille puhul loojad ega käitajad ei mõista ise täielikult, kuidas vastav süsteem toimib. Tuleks analüüsida, kas hea halduse, demokraatia ja õigusriigi põhimõtetega on kooskõlas nö musta kasti tehisintellektisüsteemide rakendamine avaliku võimu poolt. Lisaks tuleks analüüsida ka nö musta kasti tehisintellektisüsteemide rakendamise puhul on määrusega riskid piisavalt maandatud. Tehisintellektisüsteemi ja suure riskiga tehisintellektisüsteemi määratlused. Arvestatud seisukohapunktis 5.3. Tehisintellektisüsteemi määratlemiseks tuleb määruse artikli 3 punkti 1 kohaselt lähtuda I lisa tehisintellekti meetoditest ja lähenemisviisidest. Leiame, et lisa punktis c on ekslikult kasutatud terminit „statistilised lähenemisviisid“. Komisjon on oma ettekannetes rääkinud „statistilistest mudelitest“, millega oleme nõus. Lisaks tuleks punktist c välja jätta otsingu- optimeerimismeetodid, mis on I lisa punktiga a kaetud. Määruse artiklis 6 on sätestatud suure riskiga tehisintellektisüsteemide liigitamise reeglid. Lõike 2 Arvestatud kohaselt peetakse suure riskiga süsteemideks III lisas osutatud tehisintellektisüsteeme. Toetame seisukohapunktides 5.7; määruse lähenemist, mille kohaselt riski taset määratletakse arvestades konkreetse 5.16. tehisintellektisüsteemi kasutamise konteksti, sh tehisintellektisüsteemi kasutusvaldkonda, eesmärki, kasutajat ja tehisintellektisüsteemi kaudu või abil tehtavate otsuste mõju inimeste elule, tervisele ja põhiõiguste kaitsele. III lisa sõnastuse osas on meil järgmised tähelepanekud. Nõustume, et biomeetriline tuvastamine ja füüsiliste isikute liigitamise võimalik mõju isikute isikuandmete ja privaatsuse kaitsele, aga ka võimalik mõju inimeste käitumisele laiemalt, mh nende ühinemis- ja kogumisvabaduse teostamisele, sõnavabaduse teostamisele ning seeläbi ka demokraatiale ning õigusriigile, on igal juhul piisavalt suur, et tehisintellektisüsteem, mis on mõeldud kasutamiseks füüsiliste isikute reaalajas ja tagantjärele toimuva biomeetrilise tuvastamise jaoks, mis tahes avalik- õiguslikus või eraõiguslikus kontekstis, tuleks pidada suure riskiga tehisintellektisüsteemiks. Seisukohtade kujundamisel tuleks kaaluda vajadust punkti 5 „juurdepääs olulistele era- ja avalik- õiguslikele teenustele ja hüvedele ning nende kasutamine“ täiendamist tehisintellektisüsteemidega, mida kasutatakse (solidaarses) tervishoiusüsteemis patsiendi diagnoosi panemiseks ja tervishoiuteenuste ning ravi määramiseks. Sellised süsteemid võivad oluliselt mõjutada inimese õigust elule ja tervisele, juurdepääsu tervishoiuteenustele ja mittediskrimineerimisele. Punkt 8 „õigusemõistmine ja demokraatlikud protsessid“ vajab täpsustamist. Alapunkti (a) sõnastusest ei selgu üheselt, milliste õigusmõistmisega seoses võimalikult kasutatavaid süsteeme silmas peetakse. Põhjenduspunktis 40 tehakse vahet õigusemõistmise ja demokraatlike protsesside jaoks mõeldud tehisintellektisüsteemide korral suure riskiga süsteemide ning selliste süsteemide vahel, mis on mõeldud puhtalt halduslikeks abitegevusteks, ehk mis ei mõjuta tegelikku õigusemõistmist konkreetsetel juhtudel, nagu kohtuotsuste, dokumentide või andmete anonüümimine või pseudonüümimine, töötajate vaheline suhtlus, haldusülesanded või ressursside jaotamine. Selles loetelus on mõneti küsitav tehisintellektisüsteemid, mida võidakse kasutatakse ressursside jaotamiseks kohtuasjade jagamise kaudu, mis võib mõjutada isikute õigest õiglasele kohtupidamisele. Ettepaneku põhiteksti kohaselt on tegemist „tehisintellektisüsteemid(ega), mis on mõeldud abistama õigusasutusi faktide ja seadustega tutvumisel ja nende tõlgendamisel ning õiguse rakendamisel konkreetse faktide kogumi suhtes.“ Mõiste „õigusasutusi“ on määratlemata ja vajab piiritlemist. Määratlus katab tehisintellektisüsteeme, mis on mõeldud õigusasutusi õiguse rakendamisel abistama, kuid ebaselgeks jääb, kas on mõeldud ka süsteeme, mis õigust ise rakendaksid ehk siis otsuseid ise toodaksid. Seisukohtade kujundamisel tuleks täiendavalt kaaluda, kas tehisintellekti keelatud kasutusviiside hulka tuleks lisada tehisintellekti süsteemid, millega mõistetakse õigust asjades ja küsimustes, mis eeldavad asjaolude ja tõendite kaalumist ning õigusnormide tõlgendamist. Vaatamata punkti 8 pealkirjale, ei käsitleta selles demokraatlike protsesse nagu näiteks valimisi. Hetkel Teadmiseks võetud. ei ole ka Eestis aktuaalne tehisintellektisüsteemide kasutus valmiste korraldamise ega hääletamisega seoses, ei ole ka seda ettenähtavas tulevikus. Kui tulevikus oleks aktuaalne biomeetria kasutamine valija tuvastamiseks, ei erineks selline süsteem kuidagi tehisintellektisüsteemist, mis on mõeldud kasutamiseks füüsiliste isikute reaalajas ja tagantjärele toimuva biomeetrilise tuvastamise jaoks, mis on III lisa punkti 1(a) kohaselt suure riskiga tehisintellektisüsteem. Toetame artiklis 52 käsitletud läbipaistvuskohustuste kehtestamist teatavate tehisintellekti Arvestatud süsteemide puhul, mis on mõeldud füüsiliste isikutega suhtlema või mis on emotsioonide seisukohapunktis 5.17. tuvastamise või biomeetrilise liigitamise süsteemid. Toetame ka kohustust süvavõltsingu puhul avaldada, et sisu on kunstlikud loodud või seda on manipuleeritud. EL põhiõiguste harta (ELPÕH) kohaselt on inimväärikus mitte ainult kõikide põhiõiguste aluseks, vaid ka põhiõigus iseenesest. ELPÕH artikkel 1 sätestab, et inimväärikus on puutumatu ja et seda tuleb austada ja kaitsta. Just inimväärikuse kaitse on põhjus, miks ei tohi lubada inimese muutmist tehnoloogia sh tehisintellektisüsteemi objektiks. Muu hulgas tähendab see, et inimesel peab olema õigus teada, et ta suhtleb tehisintellektisüsteemiga või tema õiguste teostamist mõjutab tehisintellektisüsteemi kasutus. Selgitamist vajab, millal on ettepaneku kohaselt vajalik EL-i põhiõiguste hartaga tagatud väljendusvabaduse ja kunsti ja teaduse vabaduse õiguse teostamiseks süvavõltsingut kasutada, mis vabastab kohustusest avaldada, et sisu on kunstlikult loodud või seda on manipuleeritud, tingimusel et kolmandate isikute õiguste ja vabaduste kaitseks kohaldatakse asjakohaseid kaitsemeetmeid. Tuleb täiendavalt analüüsida, kas väljendusvabaduse ja kunsti ning teaduse vabaduse õiguse teostamiseks on erand vajalik, sobiv ja proportsionaalne. Seletuskirjast ega põhjenduspunktidest ei selgu, millise riski/probleemi maandamiseks on selline erand sätestatud. Lisaks tuleks seisukohtade kujundamisel kaaluda artikli täiendamist selliselt, et käsitletud oleks lisaks süvavõltsingutele sünteetilise meedia teisi väljundeid, näiteks oleks käsitletud kohustust tehisintellekti loodud sisu või teose esitamisel avaldada, et teos on loodud tehisintellekti poolt. I Lisa „Tehisintellekti meetodid ja lähenemisviisid“ ja III Lisa „Artikli 6 lõike 2 osutatud suure Arvestatud riskiga tehisintellektisüsteemid“ muutmine delegeeritud õigusaktiga. seisukohapunktis 5.2. Tehisintellekti reguleerimisel on oluline tagada määratluste tulevikukindlust ehk rakendatavust tehnoloogia (kiire) arengu korral, mistõttu on mõistetav Euroopa Komisjoni soov ette näha delegeeritud õigusakti vastuvõtmise võimalust nii I lisas esitatud meetodite ja lähenemisviiside loetelu kui ka III lisas esitatud loetelu kaasajastamiseks. Samas on tegemist õigusakti kohaldamisala määravate sätetega, mistõttu tuleks kaaluda delegeeritud õigusaktide põhjendatust ja lubatavust põhjalikult. Võimalusel eelistaksime piisavalt tehnoloogianeutraalse ja tulevikukindla sõnastuse sätestamist määruses. Selle võimalikkuse osas tuleks edaspidistes diskussioonides kindlasti kaasata tehnilisi eksperte. Komisjoni väitel lähtub 2022. a I kvartalis oodatud tehisintellekti tsiviilvastutust reguleeriv õigusakt käesoleva määruse tehisintellekti ja võimalikult ka suure riski määratlusest, mistõttu I Lisa muutmine võib mõjutada ka seda tulevast õigusakti. Kõrgema riski kriteeriumite sätestamisel tuleb aga edaspidi arvestada, et horisontaalses määruses toodud reeglid AI kohta on avalik-õiguslikud, sätestades eelkõige ex ante meetmed ja ei ole seega ülekantavad võimaliku tsiviilvastutuse süsteemi. Tsiviilvastutuse reeglid käsitlevad eraisikute vahelisi suhteid ning on oma eesmärkidelt ja olemuselt erinevad. Loomulikult tuleb erinevaid tehisintellekti kasutamisele kehtestavaid reegleid vaadata süsteemina, ning tagada reeglite kooskõla nii suures ulatuses kui võimalik, kuid arvesse tuleb võtta ka asjakohaseid erisusi. Tsiviilvastutuse puhul on eesmärgiks kannatanule kahju tekkimise hüvitamine. See millistel eesmärkidel tehisintellekti kasutatakse, ei ole selles kontekstis oluline. Rangema vastutuse määratlemisel tuleks eelkõige arvesse võtta AI olemusest tuleneva kahju tõenäosust ja olulisust. Artiklis 6 toodud määratlused lähtuvad muudest kriteeriumitest, mis võivad küll olla olulised määruses sätestatud nõuete puhul, kuid mis ei ole sobivad vastutuse puhul. Suure riskiga tehisintellektisüsteemidele esitatavad nõuded ja suure riskiga Arvestatud tehisintellektisüsteemide pakkujate kohustused peavad olema määruse eesmärgi saavutamiseks seisukohapunktis 5.12. tõhusad, et tagada EL-is kasutavate tehisintellektisüsteemide usaldusväärsus, sh kooskõla EL-i õigusega kaitstud põhiõigustega. Samas peavad nõuded olema vajalikud, sobilikud ja proportsionaalsed, et mitte õigustamatult pärssida innovatsiooni ega riivata ettevõtjate õigusi ja huve, mida tuleb määrusega ühtlasi kaitsta. Käesolev õigusakt peab tagama, et suure riskiga tehisintellektile kohalduvad läbipaistvuskohustused oleksid tasakaalus ärisaladuse kaitse õigusega ega kahjustaks ebaproportsionaalselt tehisintellekti pakkuja intellektuaalomandi kaitset. Praegune art 13(3) loetelu tundub seda tasakaalu saavutavat, kuid läbirääkimiste käigus tuleks eeltoodu valguses jälgida, et art 13(3) p-d iv) ja v) ei saaks tuua kaasa olukorda, kus tehisintellekti pakkuja peab avaldama algoritmi treeningandmestiku või muud ärisaladuse kaitsega hõlmatud informatsiooni (v.a ulatuses, milles see on õigustatud kasutajate õiguste kaitseks). Lisaks, art-s 11 nimetatud tehnilisele dokumentatsioonile ligipääsuõiguse andmisel regulatsiooni rakendajale või muudele õigustatud asutustele, peab olema tagatud, et vastavatele asutustele kohalduksid asjakohased ja tõhusad konfidentsiaalsusmeetmed. Läbipaistvuse nõuded peavad mitte ainult tagama, et kasutajad saaksid tõlgendada süsteemi väljundit ja seda asjakohaselt kasutada vaid ka seda, et isikutel oleks vajalikku teavet oma õigusi tegelikult ja tõhusalt kaitsta nende elu, tervise kahjustamise või põhiõiguste rikkumise korral. Tervitame dokumentide säilitamise nõuet, kuid tuleb välja selgitada, kas artiklis 50 sätestatud nõue dokumente säilitada kümneks aastaks on piisav arvestades nõuete esitamise aegusmistähtaegu ning lubamaks nõuete esitamist, kui kahju tervisele või põhiõigustele ilmneb hiljem. Toetame artiklis 51 sätestatud kohustust enne suure riskiga tehisintellektisüsteemi turule laskmist või kasutusele võtmist süsteemi registreerida artiklis 60 osutatud ELi andmebaasis. Artikli 60 kohaselt on tegemist üldsusele juurdepääsetava andmebaasiga, mis tagab selle, et igaühel on võimalus saada teavet kõrge riskiga tehisintellektisüsteemide kohta, mida EL-is võidakse rakendada, sellega teabega saavad nad siis arvestada ja vajadusel oma õigusi kaitsta. Kui ei ole teada, milliseid kõrge riskiga süsteeme kasutatakse, siis ei ole ka teada, kas oleks vaja seadusandlike või muude meetmetega reageerida mingitele uut sorti ohtudele. Toetame tehisintellektisüsteemi pakkujate kohustust teatada tõsisest intsidentidest, mille puhul on tegu põhiõiguste kaitseks mõeldud liidu õiguse kohaste kohustuste rikkumisega, nende liikmesriikide turujärelevalveasutustele, kus intsident või rikkumine aset leidis. Vaid sellisel juhul on võimalik sellistest intsidentidest kogu EL-is õppida, nii on ka võimalikel kahju saajatel võimalik oma õigusi kaitsta. Määrus peab tagama, et pakkujatel on huvi intsidentidest teavitada ja mitte sellest nõudest kõrvale hiilida. Peame oluliseks tagada inimjärelevalve selliselt, et füüsilised isikud saaksid teha Arvestatud tehisintellektisüsteemi kasutamise ajal selle üle reaalset järelevalvet ning minimeerida või ära seisukohapunktis 5.14. hoida tervist, ohutust või põhiõigusi ähvardavaid riske. Inimjärelevalve tehisintellekti süsteemide üle on oluline mh inimväärikuse ja inimkeskse tehnoloogia tagamiseks. Kõrge riskiga iseõppivate tehisintellektisüsteemide puhul tuleb tagada pidev inimjärelevalve, tagamaks, et iseõppiv algoritm ei muutu töö käigus õhtulikuks või õigusvastaseks. IKÜM artikli 22 kohaselt on andmesubjektil õigus, et tema kohta ei võetaks otsust, mis põhineb üksnes automatiseeritud töötlusel, sealhulgas profiilianalüüsil, mis toob kaasa teda puudutavaid õiguslikke tagajärgi või avaldab talle märkimisväärset mõju. Üldjuhul ei tohi selline otsus põhineda isikuandmete eriliikidel ning igal juhul peab olema kehtestatud asjakohased meetmed andmesubjekti õiguste, vabaduste ja õigustatud huvide kaitsmiseks. Nõustume määrusega kehtestatud nõudega, et suure riskiga tehisintellektisüsteemide puhul, mis on mõeldud kasutamiseks füüsiliste isikute reaalajas ja tagantjärele toimuva biomeetrilise tuvastamise jaoks, tuleb tagada, et kasutaja ei tee ega otsusta süsteemist saadud tuvastamise põhjal midagi, kui seda ei ole kontrollinud ja kinnitanud vähemalt kaks füüsilist isikut. Oluline on tagada teavitatud asutuste ja vastavushindamise ning teavitatud asutuste üle Teadmiseks võetud. järelevalvet teostavate riiklike järelevalveasutuste sõltumatus ja pädevus tehisintellektisüsteemide arendamise ja rakendamisega seotud põhiõiguste riskide ja riskijuhtimismeetmete hindamisel, tagades neile ka järelevalve teostamiseks vajalikku ressurssi. Eestis on siiani tehisintellekti arendamisel ja rakendamisel mõjusid põhiõigustele kitsalt, hinnates peamiselt mõju vaid isikuandmete ja privaatsuse kaitsele. Selline lähenemine ei ole aga piisav kaitsmaks kõikide inimeste EL-i õigusega kaitstud põhiõigusi ja -vabadusi, mida tehisintellekti ja tehisintellektisüsteemide arendamine ja rakendamine võivad negatiivselt mõjutada. Oluline oleks määruse rakendamise eel tegeleda süsteemsemalt tehisintellekti ja põhiõiguste kaitse küsimustega ning koolitada tehisintellektiga tegelevaid teadlasi, ametnike, ettevõtjaid, kasutajaid ja kõiki teisi asjakohaseid huvigruppe põhiõiguste mõjude hindamises ja riskide maandamises. Riigi põhiõiguste kaitse kohustuste tõhusaks täitmiseks tuleks kaaluda põhiõiguste mõjude hindamise ja riskimaandamise kohustuse kehtestamist tehisintellektisüsteemide avalike hangete pakkujatele. Oluline oleks ka senisest enam rõhku panna avalikus sektoris tehisintellektisüsteemide arendamisele ja rakendamisele, mis aitavad riigil tagada hea halduse põhimõtte teostamist ja põhiõigusi- ning vabadusi mitte ainult kaitsta, vaid ka edendada. Tehisintellekti regulatsiooni testkeskkonnad. Arvestatud seisukohapunktis 5.18. Toetame määrusega tehisintellekti regulatsiooni testkeskkondade nõuete kehtestamist, et hõlbustada innovatiivsete tehisintellektisüsteemide arendamist kontrollitud keskkonnas, liikmesriigi pädevate asutuste otsese järelevalve ja juhendamise all, et oleks tagatud kooskõla määruse nõuetega ja vajaduse korral muude testkeskkonnas jälgitavate liidu ja liikmesriikide õigusaktidega. Oluline on isikuandmete kaitseks seostada riiklikud andmekaitseasutused testkeskkonnaga. Nõustume nõuetega tehisintellekti regulatsiooni testkeskkonnas mujal seaduslikult kogutud isikuandmete töötlemiseks testkeskkonnas teatavate innovatiivsete tehisintellektisüsteemide arendamiseks ja testimiseks. Artiklis 53 oleks vaja selgemini määratleda tehisintellekti regulatsiooni testkeskkonna mõistet. Hetkel ei ole arusaadav, kas tegemist on koostöövormiga, füüsilise keskkonnaga või muuga, ei ole ka selge, kas või millised on nõuded selliste keskkondade tunnustamiseks, et neile oleks kohaldatavad määruse vastavad erinormid. Määruse kohaldamine juba turule lastud või kasutusele võetud tehisintellektisüsteemid. Teadmiseks võetud. Ettepaneku kohaselt kohaldatakse suure riskiga tehisintellektisüsteemide suhtes, välja arvatud artikli 83 lõikes 1 osutatud süsteemide suhtes, mis on turule lastud või kasutusele võetud enne kuupäeva, mil määrust hakatakse kohaldama, ainult juhul, kui pärast nimetatud kuupäeva muudetakse oluliselt nende projekti või sihtotstarvet. Seisukohtade kujundamisel tuleks analüüsida, kas see säte peaks kehtima kõikide suure riskiga tehisintellektisüsteemide suhtes või kas mõningate tehisintellektisüsteemide suhtes tuleks inimeste tervise ja põhiõiguste kaitseks ette näha üleminekusätteid. Karistusi puudutav säte ei tohiks teha ettekirjutusi sanktsiooni tüübi ja liigi kohta. Määrus peab Arvestatud jätma liikmesriikidele piisava paindlikkuse sanktsioonisüsteemi valikul. seisukohapunktis 5.19. Artikkel 71 kohustab liikmesriike sätestama rikkumiste eest karistused, kaasa arvatud haldustrahvid (administrative fine), mida kohaldatakse määruse rikkumise korral. Haldustrahv (administrative fine) annab mõista, et selline trahv määratakse haldusmenetluses. Liikmesriikidele ei jäta sanktsiooniliigi osas valikut ka määruse ettepaneku artikli 71 lõige 8, mis ütleb, et olenevalt liikmesriikide õigussüsteemist võib haldustrahve käsitlevaid õigusnorme kohaldada selliselt, et trahve määravad riigi pädevad kohtud või muud asutused, nii nagu neis liikmesriikides asjakohane. Määruse artikkel 71 lõige 8 puudutab haldustrahvi määravat asutust. Sellest ei tulene aga selget võimalust valida sanktsiooniliigiks näiteks süüteomenetlus. Sanktsioonisüsteemide osas peab liikmesriikidel säilima ulatuslik kaalutlusõigus ning väljaspool ELTL artiklis 83 sätestatud alust ei tohiks õigusaktid teha ettekirjutusi sanktsiooni tüübi ega liigi, samuti sanktsiooni, kohta ning jätma liikmesriikidele piisava paindlikkuse, et leida enda sanktsioonisüsteemi sobituv lahendus. Samuti peaks liikmesriikidele jääma paindlikkus sanktsioneerida vaid teatud raskemaid rikkumisi (ultima ratio põhimõte), s.t iga rikkumine ei pea olema kohustuslikus korras karistatav. Määruses kohustatakse füüsilistele isikutele sätestama kuni 30 000 000 euro suurusi rahatrahve. Tegemist on ühemõtteliselt karistusõigusliku iseloomuga regulatsiooniga, mille puhul peaks õiguslikuks aluseks olema ELTL artikkel 83 ning sealjuures peaks liikmesriigil olema võimalus kasutada ELTL artikli 83 lõikes 3 sätestatud nn hädapiduri õigust. Sanktsioonid võiksid olla sätestatud sarnaselt masinamääruse ettepaneku artikliga 48. Määruse rikkumiste teatamine ja nn vilepuhujate kaitse. Teadmiseks võetud. Nõustume Jaan Tallinna ettepanekuga, et määrus võiks ette näha igaühe õiguse järelevalveasutusele teatada määruse rikkumisest, sarnaselt nagu on sätestatud IKÜM artiklis 77 andmesubjekti õigus esitada kaebus järelevalveasutusele, kui andmesubjekt on seisukohal, et teda puudutavate isikuandmete töötlemine rikub käesolevat määrust. Sel juhul tuleb ka tagada, et rikkumisest teavitaja kaitse laieneks isikutele, kes teavitavad järelevalveasutusi oma tööandja poolt toime pandud rikkumistest. 2. Haridus- ja Teadusministeerium Üldises plaanis toetame algatust reguleerida horisontaalselt tehisintellekti kasutamist, tuginedes Teadmiseks võetud. riskipõhisele lähenemisviisile. Näeme, et tehisintellektiga seotud riskide ja probleemidega tuleb arvestada kõikide selliseid süsteeme hõlmavate arenduste puhul (sh nt meie hariduse digiloo projekt) ning et enne arendamist tuleb selgelt hinnata, mida ja kuidas soovitakse ning mida tehisintellekt saab seejuures pakkuda. Oluline on vaadelda ka seda, mil määral või kuidas tehisintellekti ise arenema suunatakse, ehk kui palju vabadust tehisintellektile endale jääb arenemiseks meie enda seatud raamides. Eelnõus tuuakse välja, et hariduse- ja täiendkoolituse valdkonnas (sh kutseõppe) tuleks Arvestatud tehisintellekti hinnata kõrge riskiga tehisintellektiks. Siin on küll konkreetsemalt mõeldud sellist seisukohapunktis 5.12. tehisintellekti, mis hindab inimese oskuste sobilikkust ning võimekust tulemaks toime konkreetsetes õppeasutustes ning sisuliselt teeb tehisintellekt otsuse, kas isik saab õppekoha või mitte ning teisel juhul hindab isikuid ja teste. Seega on oluline, et riskide minimeerimisel arvestataks tõesti konkreetseid kasutusjuhte, mitte ei liigitataks kõrge riski alla terveid valdkondi, mis takistaks reaalset kasu toovate lahenduste arendamist ja kasutamist. 3. Kaitseministeerium 1. Toetame tehisintellekti lahenduste suuremat kasutamist kaitsevaldkonnas ja tähtsustame Teadmiseks võetud. NATO rolli selles. Selgitus: Tehisintellekti (AI) rakendamine kaitsevaldkonnas on perspektiivikas, kuna see võimaldab anda mitmesuguseid lahinguvälja eeliseid mõjuka vastase üle. NATO on alustanud kaitsevaldkonna tehisintellekti strateegia väljatöötamist ning muuhulgas näeb see ette ka erinevate AI lahenduste arendamist. Peame NATO tegevust selles valdkonnas prioriteetseks. Euroopa Liidu (EL) rollina näeme eelkõige kaitsevaldkonna tehisintellekti rakenduste arendamise soodustamist läbi nende finantseerimise EL Kaitsefondi ja teiste sobilike ELi finantsinstrumentide kaudu. Tehisintellekti suurem rahastamine võimaldab arendada tehnoloogiakeskset ja kõrge lisandväärtusega tööstust, sh ka Eesti kaitsetööstust. Peame vajalikuks, et EL toetab kaitsevaldkonna AI teadus- ja arendustegevust, kuid tuleb vältida AI kasutuse reguleerimist riigi julgeolekuga seotud valdkondades, mis on vastavalt Euroopa Liidu lepingu (ELL) art 4 lõikele 2 liikmesriikide ainupädevuses. 2. Eesti ei toeta, et Euroopa Liidu tehisintellekti määrus kohalduks või reguleeriks riikliku Osaliselt arvestatud julgeoleku, sh riigikaitse tagamiseks vajalikke tehisintellekti lahendusi. Toetame määruse seisukohapunktides 5.5 eelnõus sisalduvat kaitsevaldkonna üldise erandi säilimist eelnõu läbirääkimiste tulemusel ja 5.6 ja soovime selle erandi laiendamist riiklikule julgeolekule ja kõrge riskiga kaitsevaldkonna tehisintellekti lahendustele. Selgitus: Määruse artikkel 2 lg 3 välistab kohaldamisalast AI, mis on developed or used exclusively for military purposes. Sätet tõlgendades saab argumenteerida, et AI süsteem, mida küll ei ole arendatud militaareesmärkidel kasutamiseks (ja mida võib-olla algselt on kasutatud hoopis tsiviileesmärkidel), aga mida parasjagu kasutatakse (ainult) militaareesmärkidel, on määruse reguleerimisalast väljas. Niisiis on kohaldamisalast väljas AI, mida on, kas 1) arendatud või 2) kasutatakse ainult militaareesmärkidel. Seda arvestades oleme seisukohal, et relvasüsteemid kui militaareesmärkidel arendatud AI süsteemid on määruse alt väljas ja väljas peaksid olema ka sellised süsteemid, mida algselt on arendatud tsiviileesmärkidel kasutamiseks, aga mida tegelikult kasutatakse ainult militaareesmärkidel. See siiski ei välista määruse kohaldumist sellistele AI süsteemidele, mida kasutatakse paralleelselt/samal ajal militaar- ja ka tsiviileesmärkidel (kahene kasutus), ehk sellistele süsteemidele määrus kohaldub. Samuti kohaldub määrus julgeolekuasutuste poolt kasutatavatele AI süsteemidele. Kaitseministeerium teeb ettepaneku välistada kahese kasutusega AI süsteemid ja julgeolekuasutustega seotud AI süsteemid määruse kohaldamisalast. Sellel eesmärgil on vajalik lisada määruse preambulisse viide ELL art 4 lg 2 kohaldumisele (ehk asjaolule, et riigi julgeolekuga seotud küsimused on liikmesriigi ainupädevuses). Samuti oleks vajalik laiendada määruse art 2 lg 3 sõnastust, välistades selgesõnaliselt määruse kohaldumisalast AI süsteemid, mida on arendatud või kasutatakse peamiselt või ainult riigi julgeoleku tagamise eesmärkidel. Selline sõnastus hõlmaks endas nii militaareesmärke kui ka näiteks julgeolekuasutuste tegevust ning kahese kasutusega AI süsteeme. Samas, kuna varasemalt on Euroopa Kohus möönnud ELi teisese õiguse kohaldumise vajadust ka riigi julgeolekuga seotud valdkondades (eelkõige seoses andmekaitse reeglitega), ei pruugi üksnes „riigi julgeoleku“ termini kasutamisest piisata ja õigusselguse tagamiseks võib olla vajalik lisada määruse sätetesse konkreetseid välistusi selle kohta, millises olukorras või millistele süsteemidele määrus ei kohaldu (nt julgeolekuasutused). 3. Toetame, et määruse kohaldamisalast on välistatud kaitsevaldkonna tehisintellekti Arvestatud lahenduste testkeskused. seisukohapunktis 5.18. Selgitus: Eelnõu artikkel 53 reguleerib tehisintellekti lahenduste testimiseks ja valideerimiseks vajalike kontrollitud testkeskkondade (AI regulatory sandboxes) loomist. Eesti peab kaitsevaldkonnas selliste testkeskuste arendamist vajalikuks ja perspektiivikaks, kuna see võimaldab arendada kaitseotstarbelisi tehisintellekti lahendusi ning liitlassuhteid. Seepärast toetame õigusselguse huvides lisaks üldisele erandile ka kaitsevaldkonna AI testkeskuste sõnaselget välistamist määruse kohaldamisalast. 4. Toetame, et määruse reguleerimisalast jäävad välja surmavate autonoomsete Arvestatud relvasüsteemidega (Lethal Autonomous Weapon Systems, LAWS) seotud küsimused. seisukohapunktis 5.5. Selgitus: Eesti seisukoht on, et tänane rahvusvaheline õigus kohaldub kõigile relvasüsteemidele ning seda sõltumata nende autonoomsusest. Ka LAWS (Lethal Autonomous Weapons Systems) kasutamine alluks juba kehtivale regulatiivsele raamistikule ning eelkõige tuleks fookus seada küsimusele, kuidas on võimalik kehtivat rahvusvahelist õigust LAWS-ile kohaldada tõhusaimal viisil. LAWS-i diskussioonid toimuvad eelkõige tavarelvade konventsiooni raames. Määruse eelnõu art 2 lg 3 Euroopa komisjoni pakutud kujul välistab määruse kohaldumise LAWS-ile. 5. Toetame, et kaitsevaldkonna tehisintellekti lahenduste väljatöötamisel kohalduvad eetilised Arvestatud põhimõtted töötaks välja NATO. seisukohapunktis 5.5. Selgitus: NATO prioriseerib tehisintellekti kasutamist kaitsevaldkonnas ning peab seda oluliseks tehnoloogiaks liitlaste tehnoloogilise ülekaalu säilitamisel. NATO on välja töötamas strateegiat tehisintellekti kasutuselevõtuks ja arendamiseks ning see katab ka eetilisi põhimõtteid. Dubleerimise vältimiseks toetab Eesti, et kaitsevaldkonna tehisintellekti lahenduste eetilisi küsimusi reguleerib NATO. 4. Maaeluministeerium Põllumajandustehnikate puhul jääb tehisintellekti eelnõu reguleerima nende ohutusvarustust. Kui 1. Teadmiseks võetud. peatüki 6. artikkel täpsustab, et igasugune ohutustehnika on kõrge riskiga valdkond ning jääb eelnõu kohaldamisalasse, siis soovime jätta põllumajandustehnika selle regulatsiooni alt välja. Seda tüüpi Masinamääruse kohaselt ohutustehnika eesmärk on selgelt tuvastada inimesed (või loomad) ning vältida neile füüsiline otsa kvalifitseeruvad kõrge sõitmine. Leiame, et see võiks regulatsiooni alt välja jääda kuna: riskiga masinateks masinad, mis  põllumajandustehnikat kasutatakse piiratud alal, kus võõrastel isikutel puudub juurdepääs, sisaldavad ning tehnikaga vahetus kokkupuutes olevad isikud on väljaõppinud personal; ohutusfunktsioonide  põllumajandustehnikat tootvad ettevõtted muidu ei pruugi jääda üldse selle regulatsiooni tagamise tarkvara, sh kohaldamisalasse ning kui ettevõttel on valida, kas näiteks lisada mehhaaniliste tehisintellektipõhiseid ohutusvahendite kõrvale dubleerima veel mõni tehisintellekti baasil ohutust tagav süsteeme ning tehnoloogia, siis täiendav halduskoormus võib sundida sellest loobuma; ohutusfunktsioone eelnõu eesmärk on reguleerida valdkondi, kus toimub kõrge riskiga suhtlus tehisintellekti ja tagavate inimeste vahel nende mõjutamiseks. Põllumajandustehnika puhul seda ei ole. tehisintellektipõhiste süsteemidega varustatud masinad. Tõdeme, et tehisintellekti ja masinatoode määruse kohaldamisala on üpris lai, kuid eelnõu läbirääkimiste käigus võib see kitseneda. Põllumajandustehnikate puhul jääb tehisintellekti eelnõu reguleerima nende ohutusvarustust. Teadmiseks võetud. Kui 1. peatüki 6. artikkel täpsustab, et igasugune ohutustehnika on kõrge riskiga valdkond ning Masinamääruse jääb eelnõu kohaldamisalasse, siis soovime jätta põllumajandustehnika selle regulatsiooni alt kohaselt välja. Seda tüüpi ohutustehnika eesmärk on selgelt tuvastada inimesed (või loomad) ning vältida kvalifitseeruvad kõrge neile füüsiline otsa sõitmine. Leiame, et see võiks regulatsiooni alt välja jääda kuna: riskiga masinateks  põllumajandustehnikat kasutatakse piiratud alal, kus võõrastel isikutel puudub masinad, mis juurdepääs, ning tehnikaga vahetus kokkupuutes olevad isikud on väljaõppinud sisaldavad ohutusfunktsioonide personal; tagamise tarkvara, sh  põllumajandustehnikat tootvad ettevõtted muidu ei pruugi jääda üldse selle tehisintellektipõhiseid regulatsiooni kohaldamisalasse ning kui ettevõttel on valida, kas näiteks lisada süsteeme ning mehhaaniliste ohutusvahendite kõrvale dubleerima veel mõni tehisintellekti baasil ohutusfunktsioone ohutust tagav tehnoloogia, siis täiendav halduskoormus võib sundida sellest loobuma; tagavate eelnõu eesmärk on reguleerida valdkondi, kus toimub kõrge riskiga suhtlus tehisintellekti ja tehisintellektipõhiste inimeste vahel nende mõjutamiseks. Põllumajandustehnika puhul seda ei ole. süsteemidega varustatud masinad. Tõdeme, et tehisintellekti ja masinatoode määruse kohaldamisala on üpris lai, kuid eelnõu läbirääkimiste käigus võib see kitseneda. 5. Rahandusministeerium Finantssektorit puudutavad ettepanekud on mõistlikud ja asjakohased. Eeskätt liigitatakse Teadmiseks võetud. finantsteenuste sektoris suure riskiga tehisintellektisüsteemideks tehisintellektisüsteemid, mida kasutatakse füüsilistele isikutele krediidihinnangu andmiseks või nende krediidivõimelisuse hindamiseks, sest need panevad paika inimese juurdepääsu finantsvahenditele. Finantsteenuseid käsitlevate liidu õigusaktidega reguleeritud finantsasutuste poolt turule lastud, kasutusele võetud või kasutatavate tehisintellektisüsteemide puhul pakutakse turujärelevalveasutuseks asutust, kes vastutab õigusaktide kohaselt nende asutuste finantsjärelevalve eest. Õigusnormide ja nõuete sidusa kohaldamise ja täitmise tagamiseks on ettepanek finantsteenuseid käsitlevate õigusaktide järelevalve ja täitmise tagamise eest vastutavad ametiasutused, sh teatud juhul Euroopa Keskpank, määrata pädevateks asutusteks. Finantsteenuseid käsitlevad liidu õigusaktid sisaldavad sisemise juhtimissüsteemi ja riskihalduse kohta käivaid õigusnorme ja nõudeid, mida kohaldataks ettepaneku järgi reguleeritud finantsasutuste suhtes nende teenuste pakkumise käigus, sh tehisintellektisüsteemide puhul. Järjepidevuse suurendamiseks integreeritakse tehisintellektisüsteemide vastavushindamine ja ettepanekust pakkujatele tulenevad menetluskohustused, sh vastavushindamismenetlus, pakkujate riskijuhtimise ja turustamisjärgse seire menetluslikud kohustused, krediidiasutuste tegevuse alustamise tingimusi ning usaldatavusnõuete täitmise järelevalvet käsitleva direktiivi (CRD) menetlustesse. Kattuvuse vältimiseks kavatasetakse ette näha piiratud erandid seoses pakkujate kvaliteedijuhtimissüsteemidega ja seirekohustusega. 6. Siseministeerium Tehisintellekti (edaspidi ka AI) arendamine on üks digiühiskonna arengukava prioriteetseid valdkondi Teadmiseks võetud ja ning AI ise on üks võimalikest vahenditest, mille abil automatiseerida protsesse ning luua uusi arvestatud teenuseid. AI valdkonna reguleerimist on Siseministeerium toetanud ka riigisiseselt seisukohapunktis 5.6. (Justiitsministeeriumi Algoritmiliste süsteemide mõjude reguleerimise väljatöötamise kavatsus ehk „krati VTK“). Toetame ka EL-i ülese vastavushindamise läbiviimist, kvaliteedikontrolli ja järelevalvet peale kasutuselevõttu. Samuti on reguleerimisel mõistlik riskipõhine lähenemine lähtuvalt AI eesmärgist, mitte tehnoloogiast. Samuti pooldame teatud AI süsteemide keelustamist. Siseministeerium näeb aga Euroopa Liidu regulatsiooni ettepanekus järgmisi olulisi probleeme: Arvestatud 1. Tehisintellekti definitsioon seisukohapunktis 5.3. Tehisintellekti ei ole regulatsioonis defineeritud, vaid on antud tehnoloogiate loetelu, mis käivad regulatsiooni alla. Seejuures on üheks selliseks tehnoloogiaks nimetatud statistilised („statistical apporaches“), loogika- ja teadmispõhised lähenemised ning otsingumootorid (Annex I (c)). Selline käsitlus väljub seni mõistetud tehisintellekti raamidest – regulatsiooni lisas I toodud tehnoloogia nimekirja mahuvad praktiliselt kõik IT süsteemid. Definitsioon vajab kindlasti kitsamat piiritlemist. 2. Käsitlusala ja õiguslik alus Arvestatud seisukohapunktis 5.6. Regulatsiooni praegune fookus on suunatud peamiselt avalikus sektoris kasutatavatele tehisintellekti lahendustele, mis on suures osas kvalifitseeritud kõrge riskiga süsteemideks. Siseministeeriumi hinnangul ei ole aktsepteeritav regulatsiooni läbiv joon, kus täiendavaid nõudeid esitatakse AI süsteemidele just siis, kui nende eesmärgiks on avalikud huvid (õiguskaitse, piirihaldus), samas sarnastele süsteemidele erasektoris või erakasutuses esitatakse vähem nõudeid. Samaväärseid piirangud ei ole näiteks seatud AI lahendustele, mis mõjutavad inimeste igapäevaseid otsuseid nt sotsiaalmeedias, otsingumootorites, veebipoodides jne kasutusel olevad algoritmid, mis filtreerivad kasutajale nähtavat sisu. Need ei ole regulatsiooni alusel kõrge riskiga AI süsteemid ning neile piiranguid ei seata, samas kui pea kõik õiguskaitse, avaliku korra tagamise ja sisejulgeolekuga seotud valdkonnad on kvalifitseeritud kõrge riskiga. Õiguskaitse- ning julgeolekuasutustele peab võimaldama tehnoloogiate arenemist ja kasutamist teatud raamistiku sees, mitte selgelt midagi keelama ja piirama. 8. juunil 2021. a toimunud justiits- ja siseküsimuste nõukogu kohtumisel leiti, et komisjoni ettepanek ei ole õiguskaitse vaatest tasakaalus. Muuhulgas nähti ohuna seda, kui kiirelt digitaliseeruvas maailmas lastakse tekkida olukorral, kus õiguskaitseasutused jäävad tehnoloogia arengust maha, sest nende jaoks on õiguskeskkond liialt keeruline; kurjategijad tehnoloogia arengust maha ei jää. Eeltoodust tulenevalt tuleks tõsiselt kaaluda õiguskaitseasutustele AI osas oma õigusakti loomist (nagu tehti isikuandmete kaitse määruse ja direktiiviga), mis tagaks meie valdkonnas huvide kaitse. Siinkohal juhime tähelepanu, et regulatsiooni õiguslikuks aluseks on Euroopa Liidu toimimise lepingu artikkel 114, mille alusel on liidul võimalik reguleerida siseturgu. Vajab täiendavat analüüsi, kas sellise aluse puhul on võimalik anda komisjonile pädevusi valdkonnas, mis on seotud õiguskaitse ja riigi julgeolekuga, mis on liikmesriikide ainupädevuses. 3. Biomeetria kasutamine Selgitatud. Biomeetria lahendused on jagatud keelatud AI süsteemide ning kõrge riskiga AI süsteemide alla. Eraõiguslikele Üldiselt paiknevad biomeetriat reguleerivad sätted regulatsioonis väga hajutatult, mistõttu vajab see turvafirmadele on teema oluliselt konkreetsemat ja koondatud käsitlust. Teeme ettepaneku vaadata koostöös valdkonna biomeetrilise ekspertidega üle kogu biomeetria osa regulatsioonis ning seada samad tingimused kõigile AI kaugtuvastamise süsteemidele, sõltumata sellest, kas need on kasutuses avalikus sektoris, õiguskaitse valdkonnas või süsteemi kasutamine erasektoris (nt turvafirmad). Konkreetsete kitsaskohtadena toome välja järgneva: keelatud, sest nemad ei ole artikli 3 punkti 40 3.1. Keelatud on spetsiifiliselt avalikus ruumis reaalajas biomeetria kaudu isiku tuvastamine kohaselt õiguskaitse eesmärgil, välja arvatud kindlatel eesmärkidel – otsese ohu ärahoidmine, kuriteoohvri „õiguskaitseasutus“ ja otsimine, raskete kuritegude toimepanijate tuvastamine: The use of ‘real-time’ remote biometric nende tegevus ei ole identification systems in publicly accessible spaces for the purpose of law enforcement, unless sama artikli punkti 41 and in as far as such use is strictly necessary for one of the following objectives (…) kohaselt „õiguskaitse“. Sellise sõnastuse tulemusel ei ole eesmärgil, mis nimekirjast välja jäävad, õiguskaitse- ega Euroopa julgeolekuasutustel lubatud reaalajas biomeetriat kasutada, samas kui nt erasektoril selline Andmekaitsenõukogu õigus jääb. Muudel juhtudel, ja seega teistele isikutele, nt turvafirmadele, on biomeetria juhise kohaselt tohib kasutamine lubatud, kui täidetakse nõudeid kõrge riskiga tehisintellekti süsteemidele. erafirma kasutada näotuvastussüsteeme Vajab selgemat ja lihtsamat käsitlust, millistel juhtudel võib märgenduste abil saadud andmeid vastavalt IKÜM artikli kasutada. Lõplik nimekiri erandjuhtudest võib olla liikmesriikide jaoks liialt piirav, nt ei ole 9 lõige 2 punktile a regulatsiooni alusel selge, kas riigi julgeoleku eesmärgil AI kasutamine on keelatud, kuna ei mahu üldjuhul vaid „õiguskaitse“ alla või lubatud, kuid kõrge riskiga. andmesubjektide nõusoleku alusel. Muus 3.2. Siseministeeriumi jaoks jääb osaliselt arusaamatuks ka reaalajas biomeetria kasutamise osas liigituvad rakendamise regulatsioon. Komisjon leiab, et meie ühiskonnas ei ole kohta massjälgimisele ehk biomeetriliste reaalaja biomeetria kaudu inimeste jälgimine avalikus ruumis on keelatud. Samas aga komisjon tuvastamise süsteemid selgitab: „Seda võib siiski kasutada vahetu terroristliku ohu korral näiteks, aga selline kasutus III lisa kohaselt suure vajab igal konkreetsel juhul kohtu luba.“ Aegkriitilisust silmas pidades ei ole asjakohane loa riskiga süsteemide taotlemise kohustus pädevalt asutuselt, tekitades asjatut viivitust. Vahetule ohule reageeritakse hulka. viivitamatult. Tagantjärele kohtu loa taotlemine on samas mõistetamatu lisabürokraatia, kuna see ei pööra tagasi juba toimunud identifitseerimist. Alternatiiv oleks siin järelevalve näiteks logidele tuginedes ning täiendava dokumentatsiooni pidamine. 3.3. Reaalajas eraldiseisvate biomeetria abil identifitseerivate süsteemide andmete kasutamine Teadmiseks võetud. eeldab videopildi pidevat reaalaajas märgendamist ja saadud andmete võrdlemist vastu juba olemasolevaid biomeetria andmeid. Vajab üle täpsustamist, kas biomeetrilise andmekogu loomine ning reaalajas videopildi märgendamine, mis on eeldusteks identifitseerimisele, on regulatsiooni järgi lubatud. 3.4. Dokumendimenetlust ei ole regulatsioonis kaetud, samas kui dokumendihalduse tulevikulahendused on biomeetria põhised. Eelnõus ega preambulas sellele viidet ei ole, seega soovime teada, kas eelnõu autorid on teadlikult jätnud skoobist välja isikut tõendavate dokumentide arengu ja selle biomeetrilised komponendid ning kontrollvõimekused? Seejuures juhime tähelepanu Euroopa Parlamendi ja nõukogu määrusele (EL) 2019/1157, 20. juuni 2019, liidu kodanike isikutunnistuste ning vaba liikumise õigust kasutavatele liidu kodanikele ja nende pereliikmetele väljaantavate elamislubade turvalisuse suurendamise kohta (EMPs kohaldatav tekst). Käesolevalt ei ole eelnõus sellega seotust markeeritud. 4. Muud kõrge riskiga AI süsteemid Osaliselt arvestatud Leiame, et kõrge riskiga AI süsteemide loetelu regulatsiooni lisas III on liiga lai – kui regulatsiooni seisukohapunktis 5.2. eesmärk on riskipõhine lähenemine, siis toodud nimekiri sisaldab pea kõigi võimalikke AI süsteeme. Kiiresti areneva tehnoloogia tingimustes peaks olema regulatsioon võimalikult tulevikukindel ning paindlik. Jääb ka arusaamatuks, miks on eristatud „Biometric identification and categorisation of natural persons“, „Law enforcement“ ja „Migration, asylum and border control management“ just sellisel kujul. Näiteks on avalike teenuste all mainitud süsteemid, mis aitavad välja saata hädaaabi. Kas aga politsei vastamine väljakutsele käib samuti siia alla või on see „law enforcement“? Samuti on segane, kas ja millise punkti alla kvalifitseerub isikusamasuse kontroll dokumendimenetluses. Lisa III punkt 7 c katab masinõppel põhineva tehnoloogia kasutuse dokumendikontrollis, kuid ei ole selge, kuhu kvalifitseeruks ametiasutuse poolne AI põhine kontroll biomeetriliste andmete töötluses dokumendimenetluses. VVTP-s on kohustus analüüsida ka isiku kaugtuvastamise võimalusi, mis eeldab AI põhineva tehnoloogia kasutuselevõttu. Ka siin ei ole selgust, kas ja millise lisa III toodud eesmärgi alla see kvalifitseeruks. 5. Varasemad Komisjoni uuringud Teadmiseks võetud. Euroopa Komisjon on varasemalt tellinud mitmeid teostatavusuuringuid AI kasutamiseks, näiteks Määrust tuleks rakenduse loomiseks, mis aitaks tuvastada ning ennustada rändevoogusid Euroopa Liitu ning kohaldada ka liidu jätkurännet EL-i sees, samuti rakendusuuring AI kasutamise võimalustest piirikontrolli, migratsiooni institutsioonide, ja sisejulgeoleku valdkonnas. Soovime teada, kas uuringute alusel plaanitavad AI süsteemid organite ja asutuste vastaksid eelnõus toodud tingimustele ning kas eelnõu väljatöötamisel on nendega arvestatud. suhtes, kui need tegutsevad tehisintellektisüsteemi pakkuja või kasutajana. 6. „Regulatoorne liivakast“ Arvestatud Regulatsiooni positiivseks aspektis on võimaluse loomine kasutada reaalseid andmeid, sh seisukohapunktis 5.18. isikuandmeid, tehisintellekti testimisel ja treenimisel, mis hetkel on GDPRi järgi keelatud. Selline võimalus on loodud nime all „regulatroy sandbox“, mille puhul tekivad samuti lisaküsimused:  Jääb selgusetuks, kas tegemist on õigusnormide kogumiga või tehnoloogilise liivakasti ehk eraldiseisva testkeskkonnaga.  „Liivakast“ on lubatud vaid väga piiravatel tingimustel ning üksikute süsteemide puhul, näiteks ei ole selge, kas seda saab kasutada liiklusjärelevalves või hädaabiteadete menetlemisel.  Isikuandmetele ei tohi võimaldada ligipääsu kolmandatele osapooltele, mis välistab välised arendajad.  Regulatsioon näeb ette, et luuakse veel täiendavalt rakendusaktid „liivakasti“ kasutamisel, mis suurendab bürokraatiat veelgi. 7. Riskide hindamine, süsteemide sertifitseerimine Teadmiseks võetud. Regulatsioon näeb selle rakendamiseks ette riskide hindamise süsteemi, EL-i ülese andmebaasi ning AI süsteemide registreerimise ja sertifitseerimise protsessi. Siinkohal soovime rõhutada järgnevat: 7.1. Riski hindamise protsess on hetkel väga bürokraatlik, aeganõudev, ning samas subjektiivne. AI süsteemi looja peab ise hindama, kas tema loodav süsteem on kõrge riskiga või mitte. Kuigi teoreetiliselt on seatud nõudmiste täitmine võimalik, on aja- ja ressursikulu nii suur, et kaotab ära AI süsteemist saadava võimaliku kasu. 7.2. Sooviksime teada, millist asutust planeeritakse Eestis tegema antud määruse raames järelevalvet Teadmiseks võetud. ja kontrolli. Regulatsioon toob riigile kaasa olulisi lisakohustusi, milles näeme probleemi nii ressursi kui vastava spetsiifilise teadmisega isikute leidmisel. Lisaks algsele hinnangu andmisele on kohustus süsteeme regulaarselt monitoorida, mis nõuab täiendavat ressurssi. 7.3. Kuna regulatsiooni praeguse käsitlusala kohaselt puudutab see väga mitmeid Siseministeeriumi Arvestatud süsteeme, kaasneb sellega haldusalas kasutusel olevate andmekogude põhimääruste muutmise ja mõjuanalüüsis. uuendamise vajadus. Lisaks tekib kohustus teostada süsteemidele täiendav riskianalüüs (artikkel 9), kontroll andmete kasutamise üle (artikkel 10) ning järelevalvet (artikkel 14). Nende punktide täitmiseks ja tagamiseks aga tekib vajadus täiendavate ametikohtade järele ka arenduse tellija poolt, millega regulatsioonis arvestatud ei ole. 7.4. Eeldame, et MKM on kõige pädevam hindama regulatsiooni mõju Eesti it-sektorile ja näiteks idufirmadele ning seda, kas mõjuhinnangus toodud mahuhinnang regulatsiooni nõuete täitmisele (6000-7000 eurot projekti kohta) on adekvaatne. Nõudmiste täitmine võib olla lihtsam rahvusvahelistele suurkorporatsioonidele, kuid on suur tõenäosus, et Eesti it-sektor ei ole võimeline nendega konkureerima. 7. Sotsiaalministeerium Leiame, et usaldusväärse, inimkeskse ja põhiõiguseid arvestava ning väärtustava tehisintellekti Arvestatud arendamisel peab tagama võrdse kohtlemise põhimõtte järgimise, samuti pidama silmas laiemat seisukohapunktis 5.4. võrdsete võimaluste ja soolise võrdõiguslikkuse edendamise eesmärki, mis hõlmab ka tehisintellekti kasutavate lahenduste kaudu sooliste ja muude stereotüüpide leviku aktiivset tõkestamist. Tervitame, et määruse eelnõu pöörab tähelepanu ka tehisintellektiga seonduvatele võimaliku soo või muu tunnuse (sh rassiline ja etnilise päritolu, vanus, puue, seksuaalne sättumus) tõttu diskrimineerimise ja laiemalt põhiõiguste rikkumisega seotud riskidele, samuti vajadusele kasutada representatiivseid andmekogusid, et tagada kõigi sugu, etnilist päritolu ja muid võimalikke diskrimineerimise aluseid puudutavate asjakohaste aspektide kajastus nendes andmekogumites. Sellega aidatakse kaasa EL põhiõiguste harta diskrimineerimiskeelu ja soolise võrdõiguslikkuse põhimõtete rakendamisele tehisintellekti kasutavates lahendustes ning nende abil. Samuti toetatakse seeläbi eelkõige tööelus ning kaupade-teenuste kättesaadavuse tagamiseks direktiividega kehtestatud naiste ja meeste ning erinevate vähemusgruppide esindajate võrdse kohtlemise nõude täitmist. Oleme siiski mures, et määruses esitatud riskide hindamise regulatsioon on ühest küljest küll detailirohke, teisest küljest ei tarvitse see tagada piisavat selgust ning seeläbi ka soovitud ja vajalikku tulemust. Nii peaks EL tasandi regulatsioon andma selge sõnumi selle kohta, milliseid riske (sh milliste inim- ja põhiõigustega seonduvaid riske) tuleb erinevate lahenduste puhul hinnata, kuidas seda teha, kuidas tuvastatud riske maandada, kellele peab riskianalüüs ja nende maandamiseks ellu viidud meetmete info kättesaadav olema. Sealhulgas on oluline, millisele infole ja millises vormis peaks olema ligipääs lõpptarbijal, et suurendada nende võimekust tajuda oma õiguste võimalikku rikkumisohtu ning pöörduda vajaduse korral rikkumise väljaselgitamiseks ning oma õiguste kaitseks asjakohaste institutsioonide poole. Regulatsiooni ühetaolise rakendamise tagamiseks ja asjakohase kontrolli lihtsustamiseks ning ühtlustamiseks oleks asjakohane töötada EL tasandil välja ühtne mudel tehisintellektil põhinevate lahendustega põhiõigustele avaldatava mõju, sh (võimalike) kaasnevate riskide väljaselgitamiseks. Tehisintellekti kasutavate lahenduste puhul on võrdse kohtlemise tagamiseks ja võrdsete võimaluste ning soolise võrdõiguslikkuse edendamise nõuete täitmiseks oluline roll tehisintellektisüsteemide arendamiseks kasutatavate andmete kvaliteedil, mis aitab maandada tehisintellekti süsteemide abil tehtavate otsuste kohatu kallutatuse (bias) riski ning ennetada nende kaudu ajaloolise ja ka tänapäeval levinud ühiskondliku ebavõrdsuse taastootmist ning võimendamist. Kui kogutud ja kasutatud andmed on sooliselt või muu tunnuse alusel kallutatud, on ka andmete kasutamise tulemus, nende põhjal tehtud otsus, kallutatud. Seda silmas pidades eeldab andmete kvaliteedi nõude täitmine erinevate ühiskonnarühmade esindajate (sh naiste ja meeste) proportsionaalset esindatust andmekogumis (sh korrigeerimist juhtudel, mil andmed, sh nt ajaloolised andmed, mille pealt tehisintellekti õpetatakse, ei taga proportsionaalset esindatust). Näiteks on teada tehisintellektil põhinevate lahenduste kasutamisest juhtumeid, kus algoritm eelistab vastuvõtu- või värbamisvalikute tegemisel meeskandidaate, sest sellist kallutatust sisaldavad ka varasemad värbamisotsuste andmed, mida AI lahenduste tarbeks kasutati. Selline kallutatus kahjustab tugevalt halvemasse olukorda asetatud kandidaatide põhiõiguseid, haridus- ja tööalaseid võimalusi ning seeläbi nii lühemas kui pikemas perspektiivis ka nende eneseteostuse võimalusi ning majanduslikku hakkamasaamist ja heaolu. Kasutatavate andmete kvaliteet on kriitilise tähtsusega ka tervishoiusektoris, kus jätkuvalt esineb soopõhiseid andmelünki nt naistel ja meestel esinevate sümptomite seostamises terviseprobleemide ja diagnoosidega, kuna naistel ja meestel esinevad sümptomid võivad erineda. Kui tehisintellektil põhinev lahendus ei arvesta selliseid erinevusi, võib sellega kaasneda ebakorrektne diagnoos. Hääl-, näo- jm tuvastusprogrammides tehisintellekti lahenduste kasutamisel on oluline tagada, et tuvastamise õpetamisel/treenimisel ning testimisel oleksid esindatud võimalikult paljud erinevad ühiskonnarühmade esindajad, sh naised ja mehed, erineva nahavärviga inimesed jne, sest senine praktika näitab, et vastasel juhul töötab lahendus teatud rühmade esindajate puhul halvemini, mis võib tuua kaasa nende õiguste rikkumise. Juhime tähelepanu, et ka Euroopa Komisjoni soolise võrdõiguslikkuse strateegias aastateks 2020- 2025 (https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52020DC0152) pööratakse eraldi tähelepanu tehisintellekti valdkonna seostele soolise võrdõiguslikkusega. Muuhulgas nenditakse, et kuigi tehisintellekt võib aidata lahendada paljusid ühiskondlikke väljakutseid, kaasneb sellega ka soolise ebavõrdsuse suurendamise risk. Kui algoritmid ja seonduv masinõpe ei ole piisavalt läbipaistvad ja robustsed, siis kaasneb nendega sooliste eelarvamuste/kallutatuse kordamise, võimendamise või neisse panustamise risk, millest programmeerijad ei tarvitse teadlikud olla või mis tulenevad valitud andmetest. Samuti rõhutatakse, et naised peavad saama osa tehisintellekti arendamisest teadlaste, programmeerijate ja kasutajatena. Euroopa Nõukogu, kuhu kuuluvad ka kõik EL liikmesriigid, Ministrite Komitee 29. märtsi 2019. a. seksismi ennetamise ja selle vastu võitlemise teemalise soovituse Rec(2019)1 lisas (https://rm.coe.int/cm-rec-2019-1-on-preventing-and-combating-sexism/168094d894) olevas juhises viidatakse, et algoritmide kasutamine võib ühiskonnas levinud soolisi stereotüüpe edasi kanda ja tugevdada. Negatiivse mõju vältimiseks ja selgitamaks välja, kuidas tehisintellekt saaks aidata ühiskonnas soolisi lõhesid ja seksismi kaotada, on vajalik lõimida soolise võrdõiguslikkuse aspekt kõigisse tehisintellekti puudutavatesse poliitikatesse, programmidesse ja uuringutesse. Asjakohaseks meetmeks on naiste ja tüdrukute osaluse suurendamine IKT valdkonna (üli)õpilaste, töötajate ja otsustajate seas. Andmepõhiste tööriistade kujundamisel, arendamisel, väljatöötamisel tuleks arvestada soopõhist dünaamikat. Vajalik on teadlikkuse tõstmine võimalikust soolisest kallutatusest suurandmetes, läbipaistvuse suurendamine ja vastutuse lahenduste parendamine. 2020. a. andis tehisintellekti ja soolise võrdõiguslikkuse teemalise arvamuse ka Euroopa Komisjoni meeste ja naiste võrdsete võimaluste nõuandekomitee (https://ec.europa.eu/info/sites/default/files/aid_development_cooperation_fundamental_rights/opinio n_artificial_intelligence_gender_equality_2020_en.pdf 8. Välisministeerium - Kavandatav ELi määrus on samm õiges suunas – EL peab olema tehnoloogia eetilise ja Arvestatud vastutustundliku arendamise ja kasutamise pioneeriks ja globaalsete standardite loojaks. seisukohapunktides 5.3 - Komisjoni määrus aitab kaasa uue tehnoloogia suhtes usalduse loomisele. ja 5.7. - Tark reguleerimine tõstab EL konkurentsivõimet, aga ülereguleerimine vähendaks seda. - Riskipõhine lähenemine on õigustatud, sest aitab tagada proportsionaalsust. - Tehisintellekti (AI) definitsioon on liiga lai; selle alla mahuvad ka süsteemid, mis ei vaja sellist reguleerimist. - Kõrge riskiga süsteemide kriteeriumid pole piisavalt selged. - ELi määrus ei kata õigustatult kõiki valdkondi (nt AI-d kasutavad lennukid ja autod ning militaarne kasutus). Samas katab (art 52) kahest kasutust. - Komisjoni määrus ei tohiks ebaproportsionaalselt pärssida seaduslikku AI kasutamist õiguskaitse Arvestatud valdkonnas. seisukohapunktis 5.6. 9. Tarbijakaitse ja Tehnilise Järelevalve Amet TTJA on nõus, et tehisintellekt on kiiresti arenev tehnoloogia valdkond, mis võib luua kasu nii Teadmiseks võetud ja majanduslikus, keskkonnalases kui ka sotsiaalses sektoris. Läbi uute lahenduste, toimingute arvestatud optimeerimise ja isikupärastatud teenuste pakkumise võib tehisintellekti kasutamine toetada seisukohapunktis 5.1. majanduslikku ja keskkonnalast arengut ning pakkuda Euroopa ettevõtetele paremaid konkurentsi eeliseid. Samal ajal tuleb silmas pidada tehisintellektiga kaasnevaid ohtusid ja riske nii üksikisikutele kui ka ühiskonnale. Seetõttu on tervitatav, et tehisintellekti üha enama kasutusele võtmisega on EL võtnud pigem tasakaalustatud lähenemisviisi, eesmärgiga tagada, et eurooplased on toetatud tehnoloogiast, mis vastab EL-i väärtutele, põhiõigustele ja põhimõtetele. TTJA toetab määruses lähtutud riskipõhist lähenemisviisi, kus igale kategooriale rakenduvad Arvestatud konkreetsed nõuded. Loodavatest nõuetest on kasu nii ettevõtetele kui ka tarbijatele. Ettevõtetele seisukohapunktis 5.6. luuakse selged, EL-i väärtustest lähtuvad nõuded, mille järgimisel on tagatud ka õiguskindlus. Samuti saab olema tagatud tarbijate ohutus ja nende põhiõiguste kaitse. On tervitatav, et EL tehisintellekti määruse ettepanek tõhustab veelgi enam tarbijaõiguste kaitset, sätestades selged piirid ja kohustused tehisintellektisüsteemidele, milledega tarbijad oma igapäevases elus kokku puutuvad. Tarbijakaitse vaates on enam puutumust kolmandas grupis (piiratud riskiga süsteemid) olevate Arvestatud tehisintellektisüsteemidega. On oluline, et tarbijad saavad teenust kasutades teavet ausalt, ja selgelt. seisukohapunktis 5.15. Kuna ettevõtete poolt üha enam võetakse kasutusele juturoboteid, siis on oluline, et tarbija oleks teadlik, et temaga suhtleb robot, mitte inimene. Konkreetsete läbipaistvusnõuete kehtestamine on vajalik, millega tagatakse kõrgem tarbijate usaldus ja välistatakse võimalikud eksitamised. Kõnealuse määruse alusel kohustatakse liikmesriike määrama vähemalt üks määruse täitmise üle Arvestatud järelevalvet teostav pädev asutus. Juhul kui riikliku järelevalvet asutuse rolli hakkaks täitma TTJA, siis seisukohapunktis 5.17. märgime, et antava rolliga peaks kaasnema ka täiendav ressurss, mille määra on hetkel keeruline hinnata. Lisaks eeldab pädeva järelevalve asutuse rolli täitmine IT-alase kompetentsi tõstmist. 10. Advokatuuri intellektuaalseomandi ja IT-õiguse komisjon Tehisintellekti määruse eelnõu on Euroopa Parlamendi ja Nõukogu ettepanek tagamaks tehisintellekti Teadmiseks võetud ja arendamisel ja kasutuselevõtul põhiõiguste kaitse, inimeste turvalisuse ning usalduse, eriti mis arvestatud puudutab tehisintellektisüsteeme, millega on seotud suur risk. Kuivõrd tehisintellekt on kiirelt arenev seisukohapunktis 5.1. tehnoloogiaharu, mis võib luua mitmesuguseid majanduslikke ja ühiskondlikke hüvesid kõigis tööstusharudes ja kogu ühiskonnas, on kindlasti tegu vajaliku ja teretulnud regulatsiooniga. Alljärgnevalt esitame kommentaarid tehisintellekti määruse eelnõu kohta. 1. Tehisintellekti määruse eelnõus kasutusel olevad mõisted on kas ebamäärased või Arvestatud sisustamata seisukohapunktis 5.3. Kuigi enamus mõisteid, mis on tehisintellekti määruse eelnõus kasutusel, on artiklis 3 defineeritud, jäävad mõned definitsioonid ebaselgeks või liiga üldiseks. Lisaks on eelnõus kasutusel mitu mõistet, mis on jäänud sisustamata. Meie hinnangul pole tegu piisavalt igapäevaste ega üldtuntud mõistetega, et neid eelnõus defineerimata jätta. 1) Tehisintellekt määruse eelnõu artiklis 3(1) toodud „tehisintellektisüsteemi“ definitsioon võib endas hõlmata igasugust tarkvara, mis kasutab ka statistilisi lähenemisviise ning otsingu- ja optimeerimismeetodeid. Klassikalises mõttes ei loeta kõiki selliseid tarkvarasid tehisintellektideks. Juhul, kui eelnõu eesmärk ongi laiendada tehisintellektisüsteemide mõistet, siis pole seda muuta vaja. Samas, sellise laia definitsiooni korral hakkaks tehisintellekti määrus reguleerima tarkvarasid, mida nende tarkvarade loojad, omanikud ega kasutajad ise ei pea põhjendatult tehisintellektideks, sest definitsioon hõlmab suurt osa algoritmilistest tarkvaralistest lahendustest. Selline kõikehõlmav regulatsioon võib osutuda õiguspärase ootuse kontekstis ootamatuks ja põhjendamatuks muudatuseks. Lisaks on artiklis 3(1) toodud „tehisintellektisüsteemi“ mõiste kohaselt tehisintellektisüsteemiga tegu vaid siis, kui selle arendamiseks on kasutatud eelnõus lisas I loetletud tehnoloogiat või lähenemisviisi. Vastupidiselt eelnevale võib see muuta vastava mõiste just liiga kitsaks ning võimaldab määruse kohaldamisalast kõrvale hiilida vaid „tehnoloogiat ja lähenemisviisi“ valides ja kohandades. Võimalik, et tehisintellektisüsteemi mõiste oleks otstarbekam sõnastada tehnoloogianeutraalselt, mis on digitaalse ühtse turu üks olulisemaid väärtusi. Ühes sellega oleks võimalik mõiste sisustuse alt välja jätta ka tarkvarad, mida tavakäibes ei peeta tehisintellektisüsteemideks. 2) Eelnõus on kasutusel aga defineerimata tehisintellektisüsteemi väljundi mõiste. Kuivõrd Teadmiseks võetud. tehisintellektisüsteemi väljund on uue regulatsiooni kontekstis olulisel kohal – sellest võivad oleneda kolmandates riikides asuvate tehisintellektisüsteemide pakkujate ja kasutajate õigused – tuleks tehisintellektisüsteemi väljundi mõiste määruses defineerida. 3) Artiklis 5(1) alapunktides a ja b loetletud keelatud kasutusviiside sisu on ebaselge. Neid Arvestatud alapunkte tuleks konkretiseerida, kuivõrd „inimese teadvusest kaugemale ulatuvale alalävisele seisukohapunktis 5.8. tajule suunatud võtted“ ja „konkreetse isikute rühma mis tahes haavatavused, mis tulenevad nende vanusest või füüsilise või vaimse tervise häirest“ on eelnõus sisustamata. 4) Artiklis 9(4) mainitud „jääkrisk“ tuleks samuti defineerida, kuivõrd tegu pole tavakäibes Teadmiseks võetud. kasutusel oleva mõistega. 5) Artiklis 28(1)(b) mainitud sihtotstarbe muutmine tuleks samuti eraldi mõistena defineerida. Teadmiseks võetud. Vastaval juhul on sihtotstarbe muutmist sisaldavad sätted üheaegselt mitte midagi ütlevad ja ka potentsiaalselt väga piiravad, sest pole selge, mis tegevused täpselt lähevad sihtotstarbe muutmise alla. Artiklis 3(12) on „sihtotstarve“ küll defineeritud, aga sellest ei ilmne, millisel juhul tuleb ühte sihtotstarvet lugeda muudetud sihtotstarbeks. 2. Tehisintellekti määruse eelnõu ei võta arvesse tehisintellektide üldist keerukust, ulatust ja Teadmiseks võetud. eripärasid Määrusest tuleneb nõudeid, mis eeldavad, et tehisintellektisüsteemidest ja nende tehnoloogiatest on võimalik koostada täielik ülevaade (näiteks artikkel 32(3)). Sellise ülevaate koostamine võib osutuda keeruliseks, ebapraktiliseks või koguni võimatuks, kuivõrd tehisintellektisüsteemid ja nende tehnoloogia võib olla ääretult keerukas ja ulatuslik. Tehisintellektisüsteeme kaitstakse tihti ka ärisaladusega ning tootjate ja omanike huvides ei ole vastavate andmete täies ulatuses avalikustamine. Enamgi veel, tehisintellektisüsteemile on omane selle pidev muutumine ajas. Lisaks on tegu valdkonnaga, mis on kiirelt arenev ja pidevalt muutuv, mistõttu võib mingisugusest tehnoloogiast koostatud täielik ülevaade kiirelt aeguda ja osutuda ootamatult vananenuks. Arvestamata on ka nn „musta kasti probleem“, mis kujutab endast olukorda, kus keerulise ülesehitusega tehisintellektisüsteemide loojad ega käitajad ei mõista ise täielikult, kuidas vastav süsteem toimib. See tähendab, et inimene ei näe tehisintellekti sisse ega oma täit ülevaadet selle toimimisest. Sellised süsteeme võib olla võimatu või väga keeruline viia kooskõlla määrusest tulenevate nõuetega. Kuna mustad kastid pole aga harvaesinevad ja nende väljundid võivad igati kasulikud olla, peaks määrus ka nende olemasoluga arvestama. 3. Tehisintellekti määruse eelnõus on ebaselgeid nõudeid Arvestatud seisukohapunktis 5.12. 1) Artiklis 9(8) sätestatud nõue, et riskijuhtimissüsteemi rakendamisel pööratakse erilist tähelepanu sellele, kas on tõenäoline, et suure riskiga tehisintellektisüsteemile pääsevad juurde lapsed või et see mõjutab lapsi, on arusaadava ja teretulnud eesmärgiga. See-eest on ebaselge, mida peab reaalselt sellest nõudest tulenevalt teisiti tegema. Alternatiivselt võiks selle nõude asemel sätestada kõrgendatud vastutuse juhtudeks, kui suure riskiga tehisintellektisüsteemid on loonud riski lastele ning vastav risk on realiseerunud. 2) Artiklis 10 on sätestatud nõue, et suure riskiga tehisintellektisüsteemide treenimisel tuleb Arvestatud kasutada konkreetsetele kvaliteedikriteeriumitele treenimis- , valideerimis- ja seisukohapunktis 5.13. testimisandmestikke. Jääb aga ebaselgeks, kas vastavate andmestike kasutamise kohustus tähendab, et ainult selliseid andmestikke tuleb kasutada või saab neile lisaks kasutada ka muid andmestikke. Seda tuleks määruses täpsustada. Lisaks on eelnõus jäetud tähelepanuta asjaolu, et tehisintellektisüsteemide võimalik kallutatus ei tulene ainult nende treenimisandmestikest. Tehisintellektidele võib kallutatus tekkida ka valest sisendist või tehnilistest piirangutest. Määruses tuleks sätestada ka meetmed, mille eesmärk on ära hoida muu kallutatuse tekkimist. 3) Määruse üks läbivatest eesmärkidest on tehisintellektisüsteemide ja nende kasutamise Teadmiseks võetud. läbipaistvuse tagamine. Seda eesmärki peaksid täitma näiteks artiklis 13(2) sätestatud nõue, et suure riskiga tehisintellektisüsteemiga peab kaasas olema sobivas digivormingus või muus vormis kasutusjuhend, ning artiklis 52(3) sätestatud nõue, et kasutaja, kes kasutab tehisintellektisüsteemi, mis loob või manipuleerib pildi-, audio-või videosisu, peab kindlatel eeldustel avalikustama, et sisu on kunstlikult loodud või seda on manipuleeritud. See-eest on ebaselge, mida kujutavad endast „kaasas olemine“ ja „avalikustamine“ antud juhtudel. Et paremini tagada selliste tehisintellektisüsteemide läbipaistvus, tuleks neid sätteid täpsustada. 4) Jääb ebaselgeks, mida kujutab endast artiklis 53 nimetatud testkeskkond. Näiteks pole selge, kas Arvestatud see on midagi, millest peavad osa võtma kõik innovatiivsete tehisintellektisüsteemide arendajad seisukohapunktis 5.18 või on tegu lihtsalt vabatahtliku ja abistava tööriistaga. Lisaks on ebaselge, mida mõeldakse „innovatiivsete tehisintellektisüsteemide“ all ning mis põhjusel on sellised tehisintellektisüsteemid antud juhul eraldi välja toodud. Seda kõike tuleks täpsustada. Osaliselt arvestatud 4. Artiklis 14 nõutav inimjärelevalve on ebamääraste raamidega ja võib osutuda kohati seisukohapunktis 5.14. ebapraktiliseks Artiklis 14(3) loetletud meetmed, millega tuleks inimjärelevalve tagada, on väga üldiselt sõnastatud ega loo ettekujutust nende tegelikust sisust. Artiklis 14(4) sätestatu küll mingil määral aitab meetmete mõistmisele kaasa, kuid ka need sätted on sõnastatud eesmärgist lähtudes, mitte meetmete sisust. Lisaks on ebaselge, kuidas peaks lõike 3 alapunktides a kuni c loetletud eesmärke järelevalve meetmetega tagama, kuivõrd nendest punktidest tulenev nõuab justkui täieliku ülevaadet ja mõistmist konkreetsest tehisintellektist. Sellise mõistmise tagamine isikule, kes pole vastava tehisintellektisüsteemiga kokku puutunud, võib osutuda ebaproportsionaalselt keeruliseks. Lisaks saab sõnastust „isikutel, kellel on antud ülesanne tegeleda inimjärelevalvega“ mõista palju laiemalt kui näiteks sõnastust „isikutel, kelle ülesanne on teostada inimjärelevalvet“. Seega võib potentsiaalsete isikute ring, kellele tuleb alapunktides a kuni c sätestatu tagada, osutuda soovitust laiemaks. See muudab vastavate eesmärkide täitmist veelgi keerulisemaks. Samas annab artiklis 14 sätestatu üsna laiad raamid järelevalvele, mis võib just kasulik olla, kuivõrd tehisintellektisüsteemidel ei ole alati samalaadsed omadused ning järelevalve meetmete täpsem sisustus võib sobida mõne tehisintellektisüsteemi jaoks, aga olla just sobimatu mõne teise tehisintellektisüsteemi jaoks. Kuivõrd uudseid tehisintellektisüsteeme tekib potentsiaalselt pidevalt juurde, võib selline lai ja eesmärgipõhine järelevalve regulatsioon osutuda just parimaks valikuks. Täiendavalt vajab selgitamist inimjärelvalve regulatsiooni seos EL erinevate soovitustega tehisintellekti osas, mis viitavad inimkesksele lähenemisele ja tähenduslikule inimkontrollile tehisintellektisüsteemide arendamisel ja kasutamisel. Inimjärelevalve oluliseks osiseks ja teostamise meetodiks on pikka aega kaalutud inimõiguste mõjuhinnangu koostamist tehisintellektisüsteemide puhul. Paraku määrus eelnevale teadmisele selles ei toetu ning viitab vaid andmekaitselisele mõjuhinnangule GDPR artikkel 35 tähenduses (artikkel 29(6)). Siiski tuleks üle kaaluda, kas mõni loetletud eesmärkidest (art 14(4)(a)-(c)) on ikkagi täiel määral saavutatav. Arvestatud 5. Määruses on täheldada ülereguleerimist, mis võib kaasa tuua soovimatuid tagajärgi seisukohapunktides 5.13; 5.18. Mõni eelnõus sätestatud nõue täidab küll tehisintellektisüsteemide läbipaistvuse ja õigusselguse eesmärke, kuid toob endaga kaasa liigse reguleerimise, mida võib pidada kohati ebaproportsionaalseks. 1) Artiklis 10 sätestatud kohustus kasutada suure riskiga tehisintellektisüsteemide arendamisel kindlaid treenimis-, valideerimis- ja testimisandmestikke võib olla väiksemate süsteemide puhul liialt piirav. Lisaks võib vastava nõude täitmine teha tehisintellektisüsteemide arendamise protsessi pikemaks ning jääda takistama innovatsiooni. 2) Artiklis 47(2) sätestatud turujärelevalveasutuse kohustus teavitada iga erandliku loa andmise korral kõiki liikmesriike võib olla ebaproportsionaalne olukorras, kus on antud luba tehisintellektisüsteem turule lasta või kasutusele võtta vaid ühe liikmesriigi territooriumil või suunatult vaid selle liikmesriigi residentidele. 3) Kuigi artiklis 53 nimetatud testkeskkondades osalemise kohustus on ebaselge, võib ka see kohustus muuta tehisintellektisüsteemide arendamise ja turule jõudmise protsessi ebavajalikult pikaks. 4) Artiklis 64 sätestatud kohustus anda turujärelevalveasutusele täielik juurdepääs loetletud andmetele on pakkujaid liialt piirav ja võib nõuda mõlemalt poolelt – st järelevalveasutus ja pakkuja – olulisi kulutusi. Eeltoodud piirangud võivad pärssida majanduse ja tehnoloogia arengut, kuivõrd need aeglustavad tehisintellektisüsteemide arendamist ja turule pääsemist ning tekitavad ebavajalikke kulutusi. Lisaks, kuna määrus hakkab kohalduma vaid turule lastud tehisintellektisüsteemidele, võib see tehisintellektide pakkujaid vähem motiveerida oma süsteeme turule laskma. Osaliselt arvestatud 6. Lisas III loetletud suure riskiga tehisintellektisüsteemide jaotamine valdkonnapõhiselt võib seisukohapunktis 5.12. osutuda ebaproportsionaalselt piiravaks ja samal ajal jätta osad süsteemid tähelepanuta Määruse lisas III on loetletud valdkonnad, milles kasutatavad tehisintellektisüsteemid on suure riskiga. On põhjendatud, miks kõikides loetletud valdkondades peaks esineme kõrgendatud risk, kui neis kasutatakse tehisintellekte. See-eest võib selline valdkonnapõhine jaotamine jätta tähelepanuta tehisintellektisüsteemid, mis küll oma valdkonna tõttu suurt riski ei kanna, kuid selle süsteemi spetsiifilistest omadustest tulenevalt võib suur risk ikkagi esineda ja seda valdkonnas, mis pole lisas III loetletud. Hetkel jääksid reguleerimata potentsiaalselt suure riskiga süsteemid, sest neid ei kasutata tingimata valdkonnas, mis vastab lisas III toodud loetelule. Valdkondade laiendamine ei pruugi seda probleemi parandada, kuivõrd suur risk võib tuleneda tehisintellektisüsteemist ja mitte selle valdkonnast. Lisaks võib valdkondadel põhinev määratlemine hõlmata suure riskiga tehisintellektisüsteemide regulatsiooni alla ka sellised süsteemid, millele tegelikkuses suurt riski ei kaasne. Kindlasti ei tohiks see loetelu olla mitteammendav, kuna siis võib valdkondade ring laieneda ja veelgi rohkem tehisintellektisüsteeme alluksid regulatsioonile, mis on nende operaatorite jaoks ebamõistlikult piirav. Lisaks valdkonnapõhisele määratlemisele või selle lähenemise asemel tuleks kaaluda tehisintellektisüsteemide riski kvalifitseerimist näiteks nende väljundi järgi. Vastutuse küsimust 7. Määruses on reguleerimata vastutuse küsimus käsitletakse eraldi tsiviilvastutust Tehisintellekti määruse eelnõus on reguleerimata vastutuse küsimus tehisintellektisüsteemile käsitleva õigusakti kaasnevate riskide eest. Seda aga tuleks reguleerida, sest tegu on vägagi aktuaalse küsimusega ettepanekus, mida on tehisintellekti valdkonnas. Määrus, mis on suunatud tehisintellektidele peaks looma ka mingisuguse oodata 2022. aasta lähtepunkti tehisintellektidega seotud vastuste omistamisest. alguses. 11. Andmekaitse Inspektsioon 1. Art 10 lg 5 sõnastuse kohaselt on kõrge riskiga AI teenuse pakkujatel justkui voli teenuse Teadmiseks võetud. parendamise eesmärgil töödelda IKÜM art 9(1) kohaseid eriliigilisi isikuandmeid, rakendades täiendavaid kaitsemeetmeid. Mainitakse nt pseudonüümimist või anonüümimist. Ettepanek: Määrus peab täpsustama, kas art 10 lõiget 5 tuleb tõlgendada selliselt, et see on lex specialis IKÜM art 9 suhtes. Ehk, annab kõrge riskiga AI teenuse pakkujale volituse automaatselt teenuse parendamise või turvalisuse tagamise eesmärgil eriliigilisi isikuandmeid töödelda. Meenutame, et IKÜM art 9 kohaselt tohib eriliigilisi andmeid töödelda ainult kas isiku nõusolekul või liimesriigi seadus(t)es sätestatud juhtudel. 2. Art 25 kohaselt peavad väljaspool EL-i resideeruvad kõrge riskiga AI süsteemide teenusepakkujad teatud juhul määrama oma volitatud esindaja ühes EL liikmesriigis. Ettepanek: Soovitame määrust täiendada selgitustega, kuidas üks liikmesriik saab teada, et AI teenusepakkuja on oma esindaja mõnes liikmesriigis määranud. Sarnane probleem on täna IKÜM käsitlusalas, kus esindaja olemasolust ei ole võimalik keskselt teada saada. Nt võiks AI nõukogu või KOM luua tsentraalse esindajate registri. 3. Art 44-46 reguleerib kõrge riskiga AI süsteemide sertifitseerimist. Kasutatakse mõisteid nagu notified body, notified authority. Esimese näol on tegu organisatsiooniga, kes soovib sertifitseerimist läbi viia (sertifitseerimisasutus), teisel juhul tegu asutusega, kes peab eelnevalt sertifitseerimisasutuse akrediteerima. Ettepanek: kuna sarnased akrediteerimis- ja sertifitseerimispõhimõtted on juba kirjas ka IKÜM-s, soovitame määruses läbivalt kasutada samu mõisteid, mis IKÜM-s (st notified autority asemel järelevalveasutus, notified body asemel sertifitseerimisasutus). 4. Art 53-55 – andmekaitseasutused peavad hakkama osalema isikuandmeid töötlevate AI Arvestatud lahenduste nn testimisraamistike ehk Sandbox-de loomisel. seisukohapunktis 5.18. Ettepanek: Määrus peaks defineerima ka „liivakasti“ mõiste. Või viitama muule õigusaktile, kus see definitsioon on toodud. Praeguses sõnastuses jääb mulje, et „liivakasti“ näol on tegu tehnilise keskkonnaga, kus on võimalik oma AI teenuseid arendada ja testida. 5. Art 56 sätestab euroopa tehisintellekti nõukogu loomise. Arvestatud Ettepanek: Määrus peaks täiendavalt käsitleda, kuidas AI nõukogu suhestub andmekaitsenõukoguga. seisukohapunktis 5.20. Või vähemalt võiks viidata, et need kaks institutsiooni töötavad käsikäes. 6. Art 59 sätestab riikide kompetentsete asutuste ja nende seas ühe järelevalveasutuse Teadmiseks võetud. määramise. Järelevalveasutusel on teavitatava asutuse (notifying authority) ja turujärelevalve roll. Ettepanek: Art 59 ja art 63 käsitlusalad on kattuvad. Seetõttu soovitame tõsta ühe artikli alla. 7. Art 61 sätestab, et kõrge riskiga AI teenusepakkujad peavad rakendama teenusele pidevat Teadmiseks võetud. monitooringut (nn post-market monitoring system). Selle raames annab määrus neile võimaluse koguda ka AI teenuse kasutajate andmeid (art 61 lg 2). Praktikas aga võivad need olla ka isikuandmed, mille töötlemise õiguslikud alused tulevad eelkõige IKÜM-st. Ettepanek: AI süsteemis toimuva isikuandmete töötlemise õigusliku aluse peavad määrama AI kasutajad (vastutavad töötlejad). Määruse see säte ei anna selgust, kas AI teenusepakkujad võivad töödelda ainult AI kasutajate andmeid või võivad nad töödelda ka AI kasutajate poolt teenust kasutades kogutud isikute andmeid. Määrus peab vältima olukorda, kus AI teenusepakkujatel on laiad volitused kõigi teenust kasutavate isikute andmete töötlemiseks AI teenuse toimimise monitooringu eesmärgil. 8. Art 62 sätestab kõrge riskiga AI teenuse pakkujatele kohustuse teavitada turujärelevalve Arvestatud asutust intsidendist 15 päeva jooksul. seisukohapunktis 5.15. Ettepanek: Kuna määruse järgi võib intsident mh avaldada mõju inimeste põhiõigustele sh isikuandmete kaitsele, soovitame teavitamise aega lühendada 3 päevani. Nt IKÜM-s on see nii. 9. Art 63 sätestab võimalikud järelevalveasutused. Mittearvestatud. Ettepanek: Kuigi määruse praegune sõnastus näeb ette võimalused mitme Eelnõus peaks säilima järelevalveasutusemääramiseks (nt turujärelevalve TTJA, finantsjärelevalve FI, õiguskaitseasutuste võimalus eraldi asutuste osas AKI), oleks mõistlik üks asutus. Ning teised asutused võivad teha talle põhjendatud ettepanekuid määramiseks. järelevalve alustamiseks, kui neil oma valdkonnas jäävad puudused silma. 10. Art 65 käsitleb riigi turujärelevalveasutuse tegevust. Kui järelevalve käigus avastatakse, et AI Mittearvestatud. süsteem kujutab endast riski rahva tervisele, turvalisusele või põhiõigustele, peab AI operaator Euroopa tehisintellekti need riskid elimineerima. Või tuleb AI süsteemi töö riigis peatada. Kui riigi järelevalveasutus nõukoja roll peaks leiab, AI operaatori riskid puudutavad ka teisi liikmesriike, peab järelevalveasutus informeerima olema eelkõige puudutatud riike. Kui AI operaator puudusi ei kõrvalda, teeb järelevalveasutus korralduse AI nõuandev. süsteemi tegevus peatada (sulgeda). See info tuleb edastada ka KOM-i. Riikidel ja KOM-l on 3 kuud aega vastuväiteid esitada. Kui KOM või liikmesriigid leiavad, et järelvalveasutuse otsus on vastuolus EL reeglitega, alustab ta selle riigiga konsultatsioone. Ettepanek: Määrus ei sätesta, milline roll on sellistes menetlustes AI nõukogul. Ettepanek on lisada AI nõukogu kõigepealt protsessi ja kui nõukogus konsensust ei saavutada, alles siis sekkub KOM. See ühtiks ka selgemalt täna IKÜM-s sätestatud liikmesriikide vaheliste andmekaitselist vaidluste menetlustega. 11. Art 69 puudutab toimimisjuhendite väljatöötamist. Teadmiseks võetud. Ettepanek: Määruses puudub käsitlus protseduurikast, kuidas ja kelle poolt need juhendid heaks kiidetakse. Nt IKÜM-s on kirjas väga konkreetsed sammud, kes kontrollib väljatöötajat, kes teeb juhendi üle järelevalvet ning milline on andmekaitsenõukogu roll. Soovitame täpsustused määrusesse lisada. Lisaks on ka Euroopa Andmekaitse Nõukogu eelnõule arvamust koostamas –osaleme samuti selles Teadmiseks võetud. protsessis ja seal väljendatud mõtetega tuleks samuti arvestada. Eelkõige rõhutame ka siin eraldi, et kuivõrd tehisintellekt töötleb enamasti ka isikuandmeid, siis igal juhul tuleb lähtuda ka tehisintellekte reguleerides isikuandmete kaitse üldmäärusest (IKÜM) ja õiguskaitseasutuste direktiivist ning kõnealune tehisintellekti määrus ei tohiks kuidagi IKÜM-i kohaldumist piirata. 12. Cleveron 1. Conformity assessment procedures Arvestatud The Commission has decided to extend third-party conformity assessment (i.e. Annex VII seisukohapunktis 5.12. assessment) to only certain high-risk AI systems. It is unclear as to why the third-party conformity assessment obligation is not extended to many other high-risk applications of AI/why there is a discrepancy in the stringency of conformity assessment procedures applied. The arguments for opting out of third-party conformity assessment for some (or even most) AI use- cases do not seem entirely convincing. The high-risk AI systems covered by the third-party conformity assessment obligation are: a) AI systems already covered by third-party assessment requirements as products or safety component thereof E.g. machinery products that are or incorporate AI systems (to fall under the recently proposed new Machinery Regulation) will have a third-party assessment obligation (and are also designated as high-risk machinery products under the Machinery Regulation itself - see COM(2021) 202 final Annex I, pt 24-25). Even considering that there is already an established procedure for assessing compliance of machinery products - in contrast with other high-risk AI systems -, this does not lead to the conclusion that there would be no associations besides the manufacturers themselves that would be capable of assessing the technical documentation and compliance of these other systems. Additionally, with regard to the “different nature of risks involved”, it is doubtful whether e.g. AI systems for law enforcement or management of critical infrastructure pose a lower/more negligible risk than machinery products incorporating AI systems. b) AI systems for the remote biometric identification of persons These systems will only be subjected to third-party conformity assessment in case the manufacturer has not followed a harmonised standard or common specification. By contrast, under the proposed Machinery Regulation, high-risk machinery (including products incorporating AI systems), only third party certification will be accepted, even when manufacturers apply the relevant harmonised standards (see COM(2021) 202 final art 21(2). ‘Real-time’ and ‘post’ remote biometric identification of natural persons, when used for law enforcement in public places, is even defined as an “unacceptable risk” use-case in general and only permitted for specific objectives (see art 5(1)(d)). This gives weight to the argument that if e.g. high-risk machinery with AI systems, which is considered to be of comparably lower risk than remote biometric identification systems, is subjected to third- party conformity assessment irrespective of following harmonised standards, the same should go for biometric identification AI systems. 2. Regulation to be applicable to certain AI products Masinavaldkonna toodete määruse Concerning both the AI regulation and the Machinery Regulation proposals, the latter excludes from artikkel 2 lg 2 p e application all road vehicles intended for the transport of goods or people (see COM(2021) 202 final kohaselt ei kohaldata art 2(2)(e)). This is in contrast to the Machinery Directive 2006/42/EC currently in force, which nimetatud määrust excludes only those road vehicles that are covered by existing type-approval regulations (see sõidukite suhtes, mille 2006/42/EC art 1(2)(e)). ainus eesmärk on Vehicle type-approval regulations do not cover all sorts of vehicles. Notably, both the regulations for kaupade või inimeste motor vehicles and for light vehicles, such as quadricycles, apply only in case the vehicle is intended transportimine for use on public roads. (See e.g. 2018/858 art 2(1): “This Regulation applies to motor vehicles of maanteel, õhus, vees categories M and N and their trailers of category O, that are intended to be used on public roads, või raudteel, välja including those designed and constructed in one or more stages, and to systems, components and arvatud nendele separate technical units, as well as to parts and equipment, designed and constructed for such sõidukitele paigaldatud vehicles and their trailers.” masinad. Cleveron oma tagasisides juhib This raises the question of what will be the regulations applicable to some vehicles – e.g. vehicles tähelepanu, et välistus used only in private, fenced territories/non-public roads, such as industrial areas – that do not fall hõlmab ka asukohta, under either the type-approval regime nor, in the future, the machinery regime. Currently, such kus masinat vehicles not intended for public roads are covered by the machinery directive. kasutatakse, nt maantee In the future, the AI regulation would cover such vehicles if they incorporate an autonomous driving või raudtee. Üldjuhul system, but would this AI regulation (and the general product safety directive) be the only applicable on neis valdkondades regulation? Or is there an intention to subject non-public road transportation to other regulatory olemas eraldi Euroopa instruments (e.g. type-approval)? Liidu õigusaktid. Masinad, mida maanteedel /avalikel teedel ei kasutata, neile kohaldatakse täna masinadirektiivi nõudeid ja tulevikus masinatoodete määruse nõudeid. Seega ei teki olukorda, kus mingid sõidukid jäävad kõikide õigusaktide kohaldamisalast välja. Kergliikurite osas plaanib Euroopa Komisjon lähiaastatel välja tulla eraldi õigusaktiga. 13. EMTA Artiklis 54 reguleeritakse isikuandmete töötlemise testkeskkonna regulatsioone ja osundame selles Arvestatud tähelepanu punkti üks alapunktidele b ja e. seisukohapunktis 5.18. 1. Alapunkti b sõnastuses tuuakse eraldi välja tulemuslikkuse indikaator, mis suuremal või vähemal määral seega vajab omakorda täpsuse ja piisavuse hindamise mudelit/kriteeriume. Lisaks on alati kõik tulemuslikkuse hindamise kriteeriumid vaieldavad ning tihti ka näilikud. Seega teeme ettepaneku kasutada sõnastuses „tulemuslikkuse“ asemel „põhjendatud juhtudel“ kriteeriumi. 2. Alapunkti e kohaselt töödeldud isikuandmeid ei tohi edastada ega üle anda ning need ei tohi olla teistele isikutele muul moel kättesaadavad. Nimetatud norm on väikeriikidele nagu Eesti väga koormav seoses kvalifitseeritud tööjõu nappusega riigisektoris, seega määrus võiks lubada ka põhjendatud vajadusel arendustesse kaasata kolmandaid osapooli. 14. Eesti Interneti SA Euroopa Liit kui digitaalne liider Teadmiseks võetud. Antud määrus on osa Euroopa Liidu suuremast andmestrateegiast, mis peaks tööle hakates võimaldama Euroopa Liidul tugevdada oma positsiooni digitaalse liidrina hõlmates eelkõige andmekaeve ja tehisintellekti reguleerimisega seonduvat. Tehisintellekti reguleerimisel peab märksõnaks olema proaktiivsus ja põhiõiguste kaitse. Proaktiivsus, sest tehisintellekti kasutamine sisaldab endas hulga riske, alates autonoomsetest sõidukitest kuni eetiliste küsimusteni, keda ja mis olukorras peaks tehisintellekt eelistama. Tehisintellekti käsitleva määruse ülesehitus ning eelnõu maht peaks saama Euroopa Liidus võrreldava efekti GDPR rakendamisega, kus see puudutas kõiki valdkondi ning reguleeris tulevikku vaatavalt eraisikutele ebaõiglaseks muutunud süsteemid. EIS leiab, et GDPR sarnane määruse ülesehitus aitab määruse rakendamisele paremini kaasa tänu sarnastele struktuursetele elementidele nagu territoriaalsus, sunnivahendid ja järelevalveasutused. EIS leiab, et käesoleva eelnõu astmeline riskisüsteem võib jätta tõlgendamiseks liigselt ruumi ning riskisüsteemi astmeid tuleks täiendada näiteks mittesiduvate ja nö arenevate/uuendatavate dokumentidega, mis täpsustaksid astmete sisu detailsemalt. Eelnõu artikli 14(1) kohaselt tuleb kõrge riskiga AI süsteemide puhul tuleb tagada, et füüsilised isikud Arvestatud saaksid teha tehisintellektisüsteemi kasutamise ajal selle üle reaalset järelevalvet – kuidas seda aga ellu seisukohapunktis 5.14. viia on lahtine, sest füüsiline isik saab põhimõtteliselt ainult teha kahte asja, kas lülitada AI välja või mitte võtta arvesse AI poolt antavat väljundit. Reaalse AI töö üle ei saa füüsiline isik järelevalvet teha. Eeltoodud näide ilustab tervet kavandatud eelnõud – see on ambitsioonikas määrus, kuid samal ajal ei Teadmiseks võetud. paku määrus tarkvara arhitektidele konkreetseid juhiseid määruse rakendamiseks. Sarnaselt GDPR-le võime me järgnevad aastad kulutada konverentsidele, kus juristid tõlgendavad, millist eesmärki määruse väljatöötajad arvatavasti püüda soovisid. Selle vältimiseks tuleks EIS-i arvates täiendada määrust tehniliste selgitustega, mis aitaksid kaasa määruse rakendamisele. Küsimused, mis võivad eelkõige tõusetuda on: 1) Mida tähendab, et inimoperaator „mõistab täielikult“ suure riskiga AI süsteemi? 2) Kuidas vastavushindamine välja näeb ja kes neid teostab? 3) Mida tähendab, et treenimis-, valideerimis- ja testimisandmestikud peavad olema asjakohased, representatiivsed, vigadeta ja täielikud? 15. Eesti Tarbijakaitse Liit Leiame, et see ettepanek ei vasta tarbijate ootustele ja on ka vastuolus Euroopa Komisjoni enda Teadmiseks võetud. eesmärgiga võimaldamaks tarbijatele sellist tehisintellekti, mida nad saaksid usaldada. Tehisintellekt võib olla kasulik tarbijate igapäevaelus, kuid sellega kaasnevad ka riskid, seepärast on oluline, et tarbijakaitse käib tehnoloogiate arenguga käsikäes. Kavandatud reeglid käsitlevad vaid piiratud tehisintellekti kasutusalasid ja probleeme ja need ei taga tarbijatele vajaliku kaitse toodete ja teenuste võimalike majanduslike kahjude eest. Tänase ettepaneku fookus on kitsalt määratletud kõrge riskiga tehisintellekti jaoks ja välja on jäetud Mittearvestatud. paljud kasutusalad, mis mõjutavad tarbijate igapäevaelu nagu näiteks tervisekindlustuse Riskipõhine riskihindamine või nutikad termostaadid. lähenemine võimaldab tagada meetmete proportsionaalsuse. Komisjon kavatseb keelustada teatud tehisintellektiga kaasnevad praktikad, mida kasutatakse Teadmiseks võetud. inimeste käitumise moonutamiseks, arvestades siiski ainult füüsilise ja psühholoogilise kahjuga jättes Diskrimineerimise kõrvale muud võimalikud kahjud nagu näiteks rahaline kahju või majanduslik diskrimineerimine. keeld on täna kehtivates seadustes sätestatud. Samuti ei sisalda ettepanek tehisintellekti toodete ja teenuste osas konkreetseid tarbijaõigusi nagu Tehisintellekti määruse näiteks õigust vaidlustada algoritmiline otsus ja saada järelevalvet ega ka abinõusid juhuks kui asjad eelnõu tuleb vaadata lähevad valesti. Leiame, et tulevane seadus peaks sisaldama tõhusamat tarbija kaebuste esitamise ja koosmõjus lahendamise menetlusi ja muid õiguskaitsevahendeid s.h. võimalust algatada kollektiivseid kaebusi. isikuandmete kaitse üldmäärusega, mille kohaselt on isikutel õigus, et nende kohta ei võetaks vastu otsust, mis põhineb üksnes automatiseeritud töötlusel, ühtlasi on õigus seda otsust vaidlustada (art 21 ja 22). Meil on olemas juba nii virtuaalsed assistendid, intelligentsed autod, vestlusrobotid jne, seega Teadmiseks võetud. peaksid tarbijad saama usaldada kõiki tehisintellektil põhinevaid tooteid ja teenuseid, olgu need siis madala, keskmise või kõrge riskiga. Oleme seisukohal, et Euroopa Parlament koos liikmesriikidega peaksid täiendama ettepanekut selliselt, et tehisintellektist oleks kasu nii üksikisikule kui ühiskonnale tervikuna. 16. Eesti Teadusagentuur Uus Euroopa Liidu tehisintellekti määruse eelnõu toetab tehisintellektisüsteemide ohutuse tagamist Teadmiseks võetud. ühiskonna aspektist ning on ka välja pakkunud raamistiku tehisintellekti arendamise ja innovatsiooni toetamiseks. Sellegi poolest keskendub välja pakutud raamistik väga tugevalt ainult ettevõtetele ja VKE-dele ning teaduse ja teadusasutuste perspektiivi on väga vähe mainitud. Millised hakkavad olema antud määrusest tingitud nõuded teadusasutustele ning kuidas peaksid nad neid rakendama ja kohaldama? Kas tehisintellekti määrust hakatakse edaspidi rakendama ka näiteks Euroopa Komisjoni poolt rahastatavates teadus- ja arendustegevuse projektides ning kuidas see võib välja näha? Näiteks uues Euroopa Liidu teadusuuringute ja innovatsiooni raamprogrammi „Euroopa horisondi“ II samba digi, tööstuse, kosmose teemavaldkonna 2021. ja 2022. aasta tööprogrammis toetatakse projekte, mis tegelevad otseselt tehisintellekti ja inimeste vaheliste interaktsioonide jaoks tehnoloogiliste lahenduste välja töötamisega, mis võivad mingil hetkel muutuda potentsiaalselt suure riskiga tehisintellektisüsteemideks, sest neid võidakse hakata rakendama mõnes igapäevaelus väga olulises taristus (näiteks taotlusvoor HORIZON-CL4-2021-DIGITAL-EMERGING-01-10: AI, Data and Robotics at work). Kas eelnõust tulenevalt võivad kunagi sellistele taotlusvoorudele lisanduda juurde uued nõuded? Kas see eelnõu, mõeldes eelkõige ettepanekule 16 leheküljel 21 eestikeelses versioonis, võib hakata kajastuma ka „Euroopa horisonti“ sätestavas regulatsioonis? Kuidas saavad artikkel 54-s mainitud tehisintellekti regulatsiooni testkeskkondasid hakata kasutama Arvestatud teadusasutused? Kas samamoodi nagu ettevõtted ja VKEd-? See tuleks eelnõus konkreetselt seisukohapunktis 5.18. sõnastada ja esile tuua. Ettepaneku lõpus on toodud selle hinnanguline finantsmõju, kus on mainitud ääremärkustes kaudset Teadmiseks võetud. ja otsest teadustegevust. Millised on täpsed kaudse ja otsese teadustegevuse definitsioonid? Kas need on defineeritud tehisintellekti valges paberis? Hea oleks need lahti kirjutada. Kokkuvõttes toome esile just teadusasutuste ja teadlaste perspektiivi puudumist ning kuidas mõjutab see eelnõu nende igapäevatööd. 17. Elektritööstuse Liit Üldiselt GDPR v2 on oluline teema, aga samas on reaalselt olemas väga suur oht bürokraatlikuks Teadmiseks võetud. ülereguleerimiseks ning nii energeetika kui ka Eesti startupide vaates tõstatab ülesse tõsiseid küsimusi. Kahjuks praeguses määruse ettevalmistamise etapis ei ole meil informatsiooni, et kuidas täpsemalt siis ikkagi EU-keskne/riikidele delegeeritud juhtimine/järelevalve tööle hakkab? Ülevaatest ja ka tegelikult määrusest endast jääb arusaamatuks misasi on üldse tehisintellekt Arvestatud antud määruse kontekstis? Määruse seletuskirjas on üldine jutt, määruse Chapter 1 on juristide seisukohapunktis 5.3. keeles. Seletuskirja järgi samas iga uus andmepõhine tehnoloogiline innovatsioon võib selle alla minna. ...artificial intelligence system’ (AI system) means software that is developed with one or more of the techniques and approaches listed in Annex I and can, for a given set of human- defined objectives, generate outputs such as content, predictions, recommendations, or decisions influencing the environments they interact with; Järgmisena toob määrus sisse 4 riskiklassi ja see on kindlasti komistuskivi, kuna hetke neljases Osaliselt arvestatud jaotuses on Suure riskiga süsteemide hulka pandud selgelt liiga palju valdkondi ning need on seisukohapunktides 5.7; samas laialivalguvad (eestikeelses versioonis „elutähtis taristu“, „olulised“ avalikud ja erateenused, 5.12. praktiliselt kogu HR jne). Ingliskeelne definitsioon high riski kohta on see natuke konkreetsem. Meie tänases vaates eelkõige HR ja kõik töötajate/töötamise andmetega seotud teemad on küsimus (kliendi marketing ja segmenteerimine on samas lowrisk), kuid juristide abi oleks vaja arusaamiseks, et kui palju energeetika muid (operatiivtehnoloogia) valdkondi sellesse kategooriasse kuulub? Kas ka alajaamade predictive maintenance on safety component of critical infrastructure? Praktiliselt kogu edasine dokument on pühendatud „high-risk“ kategooria reguleerimisele ja seda viisil, mis meie hinnangul muudab ebamõistlikult keeruliseks high-risk kategooriasse kuuluvate AI-lahenduste väljatöötamise sektori siseselt/omaks tarbeks ning teeb oluliselt raskemaks AI-l põhinevate sisseostetud süsteemide kasutusele võtmise ja opereerimise. Mis puutub madalamatesse kategooriatesse, siis nende opereerimise aluseks on kasutajate teavitamine, see on meie jaoks vastuvõetav. Küll aga on veel hulk punkte, mis muudavad keerulisemaks ka madalamate kategooriate AI arendamise, eriti kui see sisaldab kasutajaandmeid või isikuandmeid. 1. Selgelt tuleb piiritleda high-risk AI kategooria definitsioon operatiivse ohutustehnoloogia Selgitatud. ja limiteeritud oluliste isikuotsuste (suuremahuline krediidiotsus, töölepingu muudatus Energeetika valdkonnas vms) juurde, vältimaks olulist turu- ja konkurentsitõket AI/Data science kasutuselevõtus on see nõue vaid väiksemate (sh energeetika) ettevõtete poolt. elutähtsa taristu juhtimise ja käitamise puhul. 2. Selgitada konkreetsemalt ja avada, et nimetatud määruse rakendamisel tekib oluline lisakulu ja Teadmiseks võetud. -koormus, mis põhineb teadaolevalt ühe või mitme high-risk AI süsteemi kasutuselevõtule ja/või jätkuva opereerimise nõuetele vastavusele viimiseks, energeetika kontekstis siis mõisteruumis „võrguteenuse hind“; 3. Üle vaadata koos juristide ja IT valdkonnaga üle punktid AI arenduse osas (Title V ja edasi, Arvestatud allpool punkt c) ja anda lisaselgitused, et mida tähendab seisukohapunktis 5.18. ikkagi riiklik AI regulatory sandbox ja kuidas sellise riikliku AI sandboxi suhestumine ntx energeetika sektori siseste andmeladudega ja/või arenduskiirusega. 4. Selgelt väljendada, et taolise määruse vastuvõtmisel tuleb lisaks EU-sisesele muutusele võtta Teadmiseks võetud. arvesse ka muid (eelkõige Põhja-Ameerika) turge ja tarkvaratootjaid. Sarnaselt pt 2 on määruse üheks võimalikuks mõjuks oluline konkurentsitõrke/tarkvaralahenduste kättesaadavuse piiramine ja eelkõige USA-le eelise tekkimine. 18. Advokaadibüroo Fort Tunnustame, et Euroopa Komisjon on riskipõhisest lähenemisest lähtudes võtnud reguleerida Arvestatud peamiselt just kõrge riskiga tehisintellektisüsteeme ning jätnud madala riskiga süsteemide seisukohapunktis 5.7. arendamisel, turustamisel ja kasutamisel isikutele rohkem vabadust. On loogiline ja mõistetav nõuda, et tehisintellektisüsteemi väljatöötajad ja kasutajad peavad aru Teadmiseks võetud. saama, mille nad välja töötavad või kasutusele võtavad, kuid kahtlemata paneb määrus Arvestatud tehisintellektisüsteemide arendamisega tegelevatele iduettevõtjatele märkimisväärse halduskoormuse mõjuanalüüsis. läbi täiendava riski- ja kvaliteedijuhtimise (art 9 ja 17), dokumenteerimise (art 11) ja vastavushindamise kohustuse (art 19 ja 43), kui nad tegelevad määruse eelnõu III lisas kirjeldatud suure riskiga tehisintellektisüsteemidega. Samas tuleb arvestada, et iduettevõtjad on enamasti tehnoloogiavaldkonna spetsialistid, mistõttu neil on tarvis täiendavaid ressursse, et regulatsioonidele vastavus tagada (dokumentatsiooni koostamine, vastavushindamisprotsessi läbimine jne). Seega võib regulatsiooni tulemusena tekkida olukord, kus määruse III lisas nimetatud kõrge riskiga, kuid ühtlasi ka huvitavamate ja suuremat väljakutset pakkuvate tehisintellektisüsteemidega on võimelised tegelema üksnes suuremad tehnoloogiaettevõtjad, sest iduettevõtjatel puudub täiendava halduskoormusega toimetulemiseks vajalik ressurss. Samuti on suurematel tehnoloogiaettevõtjatel ressurssi arendada soovitud süsteem välja enne, kui määruse nõuded neile kohalduma hakkavad (art 83 ja 85 koosmõju juba turule lastud või kasutusele võetud tehisintellektisüsteemidele). Samuti tähendaks määruse art 71 kohase trahvi kohaldamine iduettevõtjate puhul nende tegevuse lõppemist. Arvestades tehisintellektisüsteemide mõju, on oluline tagada ka adekvaatne riiklik järelevalve Teadmiseks võetud. määruse nõuete täitmise üle. Tehisintellekti määrus on ambitsioonikas ning valdkond uudne ja keerukas, mistõttu peab riik tagama, et loodavas järelevalvesüsteemis oleks piisavalt tehnoloogilist oskusteavet, inimressursse ja rahalisi vahendeid (seda rõhutab ka eelnõu artikkel 59). Vastasel juhul ei täida oma sisulist funktsiooni ei määrusega loodav liivakasti regulatsioon ega ole täidetud ka määruse nõuete täitmise ja eesmärkide saavutamise järelevalve. See omakorda soodustaks ka ettevõtjate ebavõrdset kohtlemist, võimaldades mõnel ettevõtjal lihtsalt järelevalvesüsteemide puudulikkuse tõttu tegeleda kõrge riskiga tehisintellektisüsteemidega ilma määruse nõudeid järgimata, sest järelevalve tegijatel puuduvad nii teadmised kui ressursid tehisintellektisüsteemide sisuliseks mõistmiseks ja vajalike meetmete rakendamiseks. Tuleb arvesse võtta, et potentsiaalselt on avalik sektor (sh riik oma erinevate asutuste, institutsioonide ja eraõiguslike juriidiliste isikute kaudu) suurim kõrge riskiga tehisintellektisüsteemide (määruse III lisa) kasutaja ja tellija, mistõttu on oluline tagada, et 1) tehisintellektil põhineva süsteemi tellimisel järgitakse määruse nõudeid sellise tehisintellektisüsteemi väljatöötamisele, dokumentatsioonile ja vastavushindamisele ning 2) järelevalve avaliku sektori poolt tehisintellektisüsteemi kasutamise üle toimiks objektiivselt ja erapooletult. Eeltoodust tulenevalt teeme ettepaneku, et selliste kõrge riskiga tehisintellektisüsteemide puhul, Mittearvestatud. millele määruse nõudeid ei kohaldata tulenevalt sellest, et need on juba turule lastud või kasutusele võetud (art 83), peab selle süsteemi kasutaja siiski järgima määrusest tulenevaid kasutaja kohustusi, Juba turule lastud või et ka enne määruse rakendamist kasutusele võetud kõrge riskiga tehisintellektisüsteemide kasutused olevad kasutamisel oleks tagatud kaitse, mida Euroopa Komisjon on soovinud käesoleva määruse eelnõuga süsteemid on täna isikutele pakkuda. kehtivate nõuetega kooskõlas ning kui süsteemides või nende sihtotstarbes tehakse olulisi muudatusi, siis tuleb järgida määrusest tulenevaid nõudeid. Lisaks võiks meie hinnangul analüüsida määruse eelnõu III lisas toodud kõrge riskiga Arvestatud tehisintellektisüsteemidest loetelu – näiteks punktis 4 (tööhõive) nimetatud töökuulutuste avaldamine seisukohapunktis 5.12; ja tööülesannete andmine ei peaks olema nimetatud kõrge riskiga süsteemide hulgas. Samuti on meie 5.14. hinnangul liigne nõue, et tehisintellektisüsteemide puhul, mis on mõeldud kasutamiseks füüsiliste isikute reaalajas ja tagantjärele toimuva biomeetrilise tuvastamise jaoks, tuleb tagada, et kasutaja ei tee ega otsusta süsteemist saadud tuvastamise põhjal midagi, kui seda ei ole kontrollinud ja kinnitanud vähemalt kaks füüsilist isikut (art 14 lg 5). Ulatusliku inimjärelevalve nõuded kõrge riskiga tehisintellektisüsteemide puhul on mõistetavad, kuid võivad pidurdada tehisintellektisüsteemide arengut – näiteks tuginemine automatiseerimisele ja automaatsed otsused ei ole iseenesest negatiivsed, et neid peaks vältima või iga otsustuse üle kontrollima (ka inimesed eksivad), kuid inimjärelevalve peaks tagama selle, et valesti funktsioneeriva tehisintellektisüsteemi kasutamine peatatakse või lõpetatakse. 19. ITL Osaliselt arvestatud 1. Regulatsiooni vajadus ja eesmärgid seisukohapunktis 5.1 ja 5.12. 1.1. Hetkel jääb arusaamatuks, miks on vaja regulatsiooni, mis ütleb, et tehisintellekti kasutamisel on keelatud rikkuda põhiõigusi, kui põhiõiguste rikkumine on ka ilma tehisintellekti määruseta keelatud. ITL-ile jääb selgusetuks, mis on see probleem, mida selle ettepanekuga lahendatakse. Tehisintellektisüsteemide reguleerimise vajadust näib olevat ühe ajendina põhjendatud sellega, et vastasel juhul on oht, et tehisintellekt saab võimu inimeste üle. Käesoleva määruse ettepanekuga kavandatakse aga reguleerida tarkvara süsteemide kasutamist laiemalt, sh on kavas allutada sellele regulatsioonile ka üsna lihtsad automaatselt toimivad IT-süsteemid ja lahendused (vt ka kommentaari punktis 3.1). 1.2. ITL on seisukohal, et vajalik on vältida selle kiirelt areneva valdkonna ennetavat üle reguleerimist. Loodav regulatsioon peab pigem soodustama ja lihtsustama tehisintellekti süsteemide arengut ja kasutusele võttu, mitte seda asjatult piirama. Seetõttu kahtleme, kas määruse ettepanekus sisalduv niivõrd lai lähenemine on põhjendatud. Näeme vajadust reguleerida tehisintellekti loomise ja kasutamisega seotud vastutuse küsimusi, aga me oleme kahtlevad, kas nii ulatuslikult on vaja reguleerida kõikvõimalikke muid tehisintellekti kasutamisega seotud küsimusi. 1.3. Samas oleme seisukohal, et kui tehisintellekti kasutamist reguleeritakse, siis on see vajalik Euroopa Liidu tasemel ühetaoliselt, et ennetada turu killustumist ja erinevaid kohustusi erinevates liikmesriikides. Arvestatud 2. Määruse kohaldamisala seisukohapunktis 5.7. 2.1. ITL toetab määruse ettepanekus välja pakutud riskipõhist lähenemist. Kõigi tehisintellekti süsteemide reguleerimine sama rangelt ei oleks kindlasti põhjendatud. 2.2. Samas ei ole ettevõtjate jaoks määruse ettepanekuga tutvumise järgselt üheselt arusaadav, millisesse kategooriasse nende poolt loodud ja kasutatavad tehisintellekti süsteemid kuuluksid, kuna süsteem võib olla kliendi juures sümbioosis mõne teise lahendusega juba järgmisesse kategooriasse kuuluv. Seega hakkab praktikas kindlasti tõusetuma küsimusi, millisesse kategooriasse kasutatav tehisintellekti süsteem kuulub ning ettevõtjad vajavad siin abi, et saada üheselt aru, millised on nende kohustused. 2.3. ITL on seisukohal, et kuna tegemist on esimese regulatsiooniga tehisintellekti vallas, siis Osaliselt arvestatud peab see olema kitsam ning keskenduma kõige kriitilisematele reguleerimist seisukohapunktis 5.7. vajavatele küsimustele. Toetame lähenemist, mille kohaselt vaadatakse määruse Riskitaseme määratlus kohaldamisala üle ja vajadusel täiendatakse. Just seetõttu on õigustatud see, et esimene peab olema regulatsiooni samm on pigem väike. objektiivselt 2.4. ITL-i hinnangul on põhjendatud alustada reguleerimist avaliku sektori teenustes põhjendatud ning kasutavastest tehisintellektisüsteemidest ja siis lähtuvalt vajadusest laiendada lähtuma konkreetsest regulatsiooni ka erasektori teenustele. kasutusjuhust. Tehisintellekti kasutusviisidega võivad kaasneda ohud ka erasektoris, mistõttu ei saa toetada vaid avaliku sektori reguleerimist. Arvestatud 3. Tehisintellekti mõiste seisukohapunktis 5.3. 3.1. Tehisintellekti süsteemid on määruse eelnõus defineeritud väga laialt (artikkel 3 p 1). Eriti lai on määruse ettepaneku lisa 1, mis sätestab tehisintellekti meetodid ja lähenemisviisid, mis hõlmavad sisuliselt kõik meetodid, mida kaasaegsete IT- süsteemide arendamisel kasutatakse. Seetõttu palume kaaluda, kas tehisintellekti süsteemi oleks võimalik määruse ettepanekus täpsustada. 3.2. Kindlasti on vaja täpsustada suure riskiga tehisintellekti süsteemide määratlust. Näiteks tekib küsimus, kas kõik määruse ettepaneku III lisas nimetatud teenuste osutamisega seotud tehisintellekti süsteemid on kõrge riskiga (artikkel 6 lõige 2). Näiteks kas ettevõtte kodulehel olev otsingukastike, millega saab aadressiotsingut teha, on kõrge riskiga tehisintellekti süsteem, kui see võib viia kriitilise infrastruktuuri teenuse kasutamiseni? Arvestatud 4. Tõsine intsident ja talitushäired seisukohapunktis 5.15. 4.1. ITL-i hinnangul ei ole piisavalt selge, mis on tõsine intsident ning talitushäired, mille kohta tuleb ettepaneku artikkel 62 kohaselt raporteid esitama hakata. Tõsine intsident on määruse ettepaneku artikkel 3 punktis 44 defineeritud selgete tagajärgedega (määramatust põhjustab siinkohal „võib põhjustada“ hõlmamine), aga artikkel 62 on väga laia sõnastusega, kuna teavitada tuleb lisaks tõsistele intsidentidele ka igast suure riskiga tehisintellektisüsteemi tõrkest, mille puhul on tegu põhiõiguste kaitseks mõeldud liidu õiguse kohaste kohustuste rikkumisega. 4.2. Juhime tähelepanu, et kõigil tehisintellektisüsteemidel on veaprotsent, sest need on arenevad süsteemid. See veaprotsent on samas üldjuhul märksa väiksem kui sama tegevuse tegemisel inimese poolt (nendel juhtudel, kus see ei ole väiksem, võib tehisintellekti eelistamine olla mõistlikum muudel põhjustel, nt pommirobotid). Seega tooks niivõrd ulatuslik raporteerimiskohustus kaasa väga palju raporteid, mistõttu näeme ette, et see säte põhjustaks praeguses sõnastuses praktikas probleeme. Teadmiseks võetud. 5. Innovatsiooni toetavad meetmed 5.1. Innovatsiooni toetavad meetmed on meie hinnangul innovatsiooni toetavad ainult oma nime poolest. Hetkel on praktikas seis juba ammu selline, et Euroopa Liit on USA-st ja Hiinast kõvasti tagapool ning määruse ettepanekus välja pakutud range reguleerimine, järelevalve ning bürokraatia ei aita Euroopa Liitu järgi, vaid tekitab olukorra, kus jäädakse veel rohkem maha. 5.2. Oleme seisukohal, et määruse ettepaneku kõikide punktide järgimine tõstaks tarkvaraarenduse hinda ja vähendaks tarkvara arendamise kiirust, mis vähendaks Euroopa Liidu konkurentsivõimet oluliselt. 5.3. Innovatsiooni toetavate meetme all võiks meie hinnangul pigem suunata, kuidas tehisintellekti saaks aina rohkemates eluvaldkondades aina rohkem rakendada, eriti olukorras, kus Euroopa Liidus, oma vananeva elanikkonnaga, jääb tööjõudu vähemaks. Teadmiseks võetud. 6. Sanktsioonid ja järelevalve 6.1. Sanktsioonide osas jääb hetkel arusaamatuks, miks on jäetud sanktsioonide rakendamine avaliku sektori asutustele lahtiseks ehk liikmesriikide otsustada (art 71 lg 7). Olukorras, milles mõned liikmesriigid asuvad rakendama avaliku sektori asutustele märkimisväärselt madalamaid sanktsioone võrrelduna erasektoriga, loob see põhjendamatu eelise avalikus sektoris tehisintellekti kasutamisele, pidurdades samal ajal erasektori poolt tehisintellekti lahenduste kasutusele võttu, kuna sellega kaasnevad riskid on erasektori jaoks kõrgete trahvimäärade tõttu liiga ulatuslikud. 6.2. Samuti ei pea me põhjendatuks, et EL-i institutsioonidele rakenduvad märkimisväärselt väiksemad trahvimäärad kui ettevõtetele (art 72). Leiame, et määruse ettepanekus vajab täpsustamist, milliseid EL-i asutusi on artiklis 72 mõeldud. Lisaks teeme ettepaneku võrdse kohtlemise tagamiseks rakendada vastavaid madalamaid trahvimäärasid ka erasektori suhtes (eeldusel, et erasektori poolt rakendatavaid tehisintellekti lahendusi üldse asutakse reguleerima). 6.3. Oleme seisukohal, et järelevalve eesmärgil kavandatav andmestikele kaugjuurdepääsu andmine tõstab liigselt andmelekete ohtu. 6.4. Samuti leiame, et määruse ettepanekus kirjeldatud järelevalve tegemine ei ole inimtööjõu poolest realistlik. Kirjeldatud järelevalve teostamine põhjalikult (nii et sellel oleks päriselt kvaliteet) nõuaks väga suurtes koguses tippspetsialiste, kelle leidmine palju väiksemas koguses on eraettevõtetele suur probleem. Väidame, et välja pakutud kõikehõlmava, põhjaliku ja range järelevalve korral tekib olukord, kus iga tehisintellekti arendaja kohta peaks olema mitu järelevalvet teostavat inimest, mis ei ole realistlik ja kindlasti mitte innovatsiooni toetav. Seetõttu oleme seisukohal, et järelevalve skoopi tuleb määruse ettepanekus oluliselt vähendada ja seda rakendada ainult väga vähestele ning kõige kriitilisematele süsteemidele. 7. Kattuvused teiste õigusaktidega Teadmiseks võetud. 7.1. Peame väga oluliseks, et välistatakse kattuvused teiste horisontaalsete ja Ettepanek ei piira sektorspetsiifiliste regulatsioonidega. Hetkel käsitletakse määruse ettepanekus seoseid isikuandmete kaitse uuel õigusraamistikul põhinevate liidu ühtlustamisõigusaktidega ja finantsteenuste üldmääruse regulatsioonidega, aga seonduvaid õigusakte on palju rohkem. Seetõttu on ITL-i kohaldamist. Läbirääkimiste käigus tuleb tagada kooskõla hinnangul vajalik panna määruse ettepanek konteksti teiste õigusaktidega selliselt, et teiste liidu isikutel oleks lihtsam nendes orienteeruda. õigusaktidega, sh 7.2. Määruse ettepanekust on raske aru saada, mis vahe on Andmekaitse Üldmäärusega läbirääkimiste faasis (GDPR) reguleeritud automatiseeritud andmetöötlusel ja tehisintellektil, mida olevate õigusaktidega plaanitakse reguleerida antud ettepanekuga. (nt NIS2). 7.3. Samuti on vaja analüüsida ja tuua välja seosed määruse ettepaneku ning Euroopa Liidu küberturvalisuse määruse 2019/881 vahel. Küberturvalisuse määrus reguleerib küberturvalisuse sertifitseerimist, mistõttu tekib küsimus, kas see sertifitseerimine katab ka määruse ettepanekus sätestatavaid nõudeid kriitiliste tehisintellekti rakendustes. Selgitatud. 8. Jõustumine Liikmesriigid peaksid 8.1. ITL toetab määruse ettepaneku jõustumisel kavandatud kaheaastast ülemineku aega. nägema ette 8.2. Samas jääb mõistmatuks artikkel 85, mille järgi hakatakse sanktsioone ehk artiklit 71 õigusnormid karistuste, kohaldama juba 12 kuu pärast peale määruse jõustumist. ITL-i hinnangul ei ole see sh haldustrahvide põhjendatud ega ka õiguslikult teostatav. Pigem peaks regulatsioon tervikuna hakkama kohta, teatama neist enne kohalduma kui sanktsioonid ning pädevate asutuste esmaseks ülesandeks peaks komisjonile ning olema kohustatud isikute juhendamine ja nõustamine, mitte trahvimine. tagama, et need õigusnormid on käesoleva määruse kohaldamise kuupäevaks nõuetekohaselt ja tulemuslikult rakendatud. Seepärast tuleks karistusi käsitlevaid sätteid hakata kohaldama alates 12 kuud pärast määruse jõustumist. Kokkuvõtteks leiame, et määruse ettepanekuks tuleb pigem kitsalt läheneda ja reguleerida ainult Teadmiseks võetud. kõrge riskiga süsteeme, piiritledes seejuures kõrge riskiga süsteemid võimalikult kitsalt. Kindlasti peab kavandatav regulatsioon olema eesmärgipärane ja lahendama praktikas probleeme põhjustada Valdav osa nõuetest võivaid olukordi. ITL peab oluliseks, et uus kavandatav tehisintellekti regulatsioon arvestaks tänaseid kohaldubki just suure ja ka tuleviku tehnoloogia arenguid, oleks üheselt selge ega suurendaks ebaproportsionaalselt riskiga ettevõtete halduskoormust. Selleks, et seda praktikas saavutada, tuleb regulatsiooni väljatöötamisse tehisintellektisüsteemid kaasata inimesed, kes tehisintellekti süsteeme igapäevaselt arendavad ja kes nende võimalusi ning ele. Nõustume, et piire päriselt mõistavad. Vastasel juhul saavutatakse populaarsetele väärarusaamadele tuginedes määratlused ja olukord, mis ei ole praktikas teostatav. kriteeriumid peavad lähtuma tehisintellektisüsteemid e põhjustatavate riskide intensiivsusest ja ulatusest ning nõuded peavad olema vajalikud, sobivad ja proportsionaalsed. 20. Jaan Tallinn Euroopa on tänu oma heale majanduslikule olukorrale ja põhiõiguste hoidmisele väga heas Teadmiseks võetud. positsioonis, et panustada positiivse tehisintellekti arenduse kujundamisprotsessi – protsessi, milles on oluline osa ka käesoleval Euroopa Liidu regulatsioonil. Ainuüksi reeglistikust siiski probleemi lahendamiseks ei piisa ning sellest lähtuvalt soovitan ka tehisintellekti ohutuse teemalisse teadustöösse täiendavalt investeerida. Seda saab teha näiteks Horizon 2020 programmi kaudu. 1. Regulatsiooni enda osas oleks mul kolm soovitust. Esiteks soovitan, et regulatsiooni täiendataks Arvestatud nii, et see hõlmaks üha üldisema funktsionaalsusega tehisintellektisüsteeme – st. süsteeme, millel seisukohapunktis 5.2. on mitu otstarvet. Praeguse regulatsiooni eelnõu järgi sõltub seaduse kohandamine tehisintellektisüsteemi üksiku sihtotstarbe määratlusest. Moodsatel süsteemidel, nagu Microsofti Generative Pre-trained Transformer 3 (GPT-3), on aga võimalikke rakendusi mitu, mistõttu võib käesolev, kitsast rakendusvaldkonda eeldav, regulatsioon kiiresti aeguda. Tulevikus luuakse aga veelgi üldisemaid tehisintellektisüsteeme kui GPT-3. Selle asemel, et neid süsteeme ainult ühe võimaliku otstarbe järgi kategoriseerida, võiks regulatsioon nõuda terviklikku riskihinnangut kõigile tehisintellektisüsteemi plaanitavatele kasutusotstarvetele (ning ka eeldatavatele väärkasutusvõimalustele). 2. Teiseks soovitan, et Euroopa Liidu kodanikele antaks võimalus regulatsiooni rikkumisi Teadmiseks võetud. raporteerida. Tehisintellekt hakkab tõenäoliselt aja jooksul inimeste igapäevaelus järjest suuremat rolli mängima ja neil peaks sellest lähtuvalt olema võimalus järelevalveasutusele kaevata, nagu nad saavad praegu teha näiteks juhul, kui ettevõtted ei kaitse nende isikuandmeid piisavalt (GDPR, artikkel 77). Sarnaselt peaks ka laiendama Euroopa Liidu siseinformaatorite kaitset tehisintellekti arendajatele. Nagu Google’i tehisintellekti eetika uurimismeeskonna näitel hiljuti nägime, on arendajad tulevikus väheste inimeste hulgas, kes vahetult teavad, kas mingi tehisintellektisüsteem rikub põhiõiguseid. Sellest tulenevalt peaksid nad olema kaitstud, kui nad teavitavad järelevalveasutusi oma tööandja poolt toime pandud rikkumistest. 3. Kolmandaks soovitan, et regulatsioon kohustaks tehisintellektisüsteeme huvide konflikte selgelt välja näitama. Näiteks võib tarbija eeldada, et tehisintellekti toega kaardistamissüsteem näitab talle lühimat teed punktist A punkti B. Kaardistamisteenuse algoritm võib aga sisaldada peidetud rõhkusid, mis suurendavad võimalust, et teenus soovitab kasutajale mingist kindlast restoraniketist mööduvat teekonda. Kui tehisintellektisüsteem tarbijaid sellisel viisil manipuleerib, peaks regulatsioon nõudma, et vastavad huvide konfliktid avalikustataks. See suurendaks tehisintellektisüsteemide läbipaistvust ning aitaks tuvastada olukordi, kus süsteemid ei järgi kasutaja eesmärke sellises ulatuses, kui välja paistab. 21. Riigi Infosüsteemi Amet RIA toetab üldiselt komisjoni valitud riskide kategoriseerimise metodoloogiat. Seejuures jääb Teadmiseks võetud. küsitavaks, et mõned pakutud sõnastused eristavad hästi selgelt avalikku sektorit (näiteks artikkel 5, punkt 1 b, mis keelab selle social credit systemi printsiibi, sõnastusega „putting into service or use of AI systems by public authorities or on their behalf“). See „on their behalf“ maandab riski, aga eelkõige on küsimus selles, et kui Facebook või mõni muu eraettevõte teeb oma social credit systemi, siis mis hetkest alates see on „on their behalf“? Osa nendest nõuetest, mis on esitatud high-risk AI süsteemidele on ebapädevad nagu näiteks Arvestatud „Training, validation and testing data sets shall be relevant, representative, free of errors and seisukohapunktis 5.14. complete.“ Kahtleme, et eksisteerib sellist andmestikku, mis on free-of-errors ja complete. Mõistame, et seda on vaja välja öelda, aga seda kontrollida on ebaproportsionaalne, eriti olukorras, kus iga mistahes elutähtsa või kriitilise üksuse kohta tuleb kasutusele sadu tehisintellekti rakendusi. Lisaks on taoliste nõuete lisamine konkurentsi ja ettevõtlusvabadust piirav. High-risk tehisintellekti rakendustele on määrusega tohutu bürokraatiakoormus seatud ning selle puhul tuleks säilitada vaid osa, mis adresseeriks konkreetselt riskide maandamist. Need kohustused tuleks kindlasti üle vaadata sellise pilguga, et mida võiks õppida näiteks NIS direktiivist, nt. turvanõuete (art. 19) seoses, kus pole nõutud, et direktiivi subjektide tarkvara peab olema „free-of-errors“ või „complete“. Ka suure riskiga süsteemide puhul on märkimisväärne tõenäosus, et masinõppe ja tehisintellektiga Teadmiseks võetud. süsteemid on ebavõrdsuse, diskrimineerimise ja korruptsiooni mõistes kasulikud. See tähendab, et pigem peaks nende kasutuselevõttu soodustama, kuid EL-i senise tarbijakaitse, andmekaitse ja kodanike üldise kaitse kogemuse raamides. Tehisintellektsüsteemide puhul on suureks probleemiks algoritmide kehv läbipaistvus ja ka Teadmiseks võetud. masinõppe-tehisintellekti loojate kergekäeline suhtumine vigadesse ning kaheldavatesse otsustesse. Selle jaoks on suunata valdkonna regulatsiooni selles suunas, et turule jõudvad ja avaliku sektori tehisintellektisüsteemid oleksid sellised, mille otsuseid on võimalik selgitada ja vigu parandada (näide: kui AI „must kast“ jääb pimedaks ehk et kui keegi ei oska lihtsasti seletada, miks mingi otsus millegi kohta tehti, siis pole võimalik sisendiks kasutatavaid AI otsust mõjutavaid andmeid tuvastada). Praegused läbipaistvuse reeglid (art. 13) küll seda reguleerivad, kuid vaid kasutaja tasandil (st kasutajaks on tõenäoliselt kõrge riskiga süsteemide käitajad, mitte need, kelle kohta mingeid otsuseid tehakse). Seetõttu on oluline, et AI mudelite puhul oleks nõutud high-risk süsteemide puhul pigem sarnase lähenemisega nagu andmekaitsega: teenusepakkuja peab selgitama *arusaadavas keeles*, kuidas tehisintellekt nende kohta otsuseid teeb ning kodanikel peab olema õigus nõuda välja nende kohta tehtud otsuse algandmed või muud reeglid, et otsuseid ka vajadusel vaidlustada. Art. 15, 4) küberturvalisuse kohta ei ole kindlasti piisav meede („The technical solutions aimed at Teadmiseks võetud. ensuring the cybersecurity of high-risk AI systems shall be appropriate to the relevant circumstances and the risks.“). High-risk peaks automaatselt tähendama NIS direktiivi mõistes subjekti kohustusi ja küberintsidentidest teavitamise nõuete jälgimist, ning samuti võimaldama küberasutusel teha järelevalvet. Ainuüksi ütlemine, et „systems shall be resilient“ ei ole piisav, kui high-risk süsteemid hakkavad tegema high-risk otsuseid. Neljas peatükk, artikkel 52, on läbivalt korrapäratu. RIA hinnangul peaks olema kõikidel AI Mittearvestatud. Artikli süsteemidel, mis Euroopas turule tulevad ja mis teevad otsuseid, suhtlevad või vastutavad 52 laiendamine kõigile mingisuguste otsuste eest (or on someone’s behalf), kohustus eelpooltoodud läbipaistvuse AI süsteemidele oleks kriteeriumitele. Juhul kui neid ei kasutata (tehisintellekt toimetab kuskil taustal, teda pole näha), siis ebaproportsionaalne pole neid vaja kasutada. Aga Euroopas eurooplastele teenuseid pakkuvad tehisintellekti rakendused meede. peavad olema kõik läbipaistvalt disainitud juba varajases faasis. Kui me seda praegu paika ei pane, siis panevad selle paika Hiina ja Ameerika turud. 22. Tallinna Tehnikaülikool ja NJORD Advokaadibüroo (koostööprojekti „TalTech Legal Lab kaudu) Teadmiseks võetud. 1. Juhime tähelepanu sellele, et USA on AI mõistes Euroopa Liidust kaugel ees ning seetõttu ei tohiks eelnõus sätestatud reeglid olla sellised, mis AI arendajatelt väga palju ressurssi võtavad (teisisõnu: tulemus võiks olla selline, et kogu energia ei läheks reeglite täitmisele, vaid AI tehnoloogia arendamisele, et Euroopa Liit USA-le järgi ning ehk isegi ette jõuaks). Väga hea oleks see, kui reeglid oleksid sellised, et nad loovad Euroopa Liidus arendatavale AI-le mingi lisaväärtuse, mida USA-s arendataval AI-l ei ole. Samas ei tohiks kahjustada saada Euroopa Liidu inimesed ega nende põhiõigused – need väärtused teevadki Euroopa Liidu võrreldes USA- ga mõneti humaansemaks ja inimesi respekteerivamaks. 2. Juhime tähelepanu sellele, et eelnõu Art 2 (1) punkti a järgi kohaldatakse eelnõus sätestatud reegleid ka kolmandate riikide teenusepakkujatele ja kasutajatele, kuid tekib küsimus, et kuidas praktikas nende reeglite järgimine ja sanktsioneerimine tagatakse? Arvestades tehisintellektiga kaasnevaid riske, peaks väga selgelt olema hinnatud, kas ikka suudetakse seda teha. Siin on omakorda seos ka andmekaitsega – nt, olukorras, kus Euroopa Liidus tegutsemine keelatakse ära, siis mis saab isikuandmetest (nt olukorras, kus kui tehisintellekt isikuandmeid töötles)? GDPR-i nõuete täitmise üle on vähemalt Eesti Andmekaitse Inspektsioonil keeruline EU/EEA välistes riikides järelevalvet teostada. 3. Seoses eelnõu artikliga 5 soovime tähelepanu juhtida AI arendamisega seotud murekohtadele. Arvestatud Artikkel 5 lg 1 punkt a sätestab: "the placing on the market, putting into service or use of an AI seisukohapunktis 5.3. system that deploys subliminal techniques beyond a person’s consciousness in order to materially distort a person’s behaviour in a manner that causes or is likely to cause that person or another person physical or psychological harm." AI definitsiooni ja AI piirangute osas tasub mõelda, et mida täpsemalt me piirata tahame. Arvestades, et AI tasemeid on mitu, kas näiteks me soovime, et mingit taset ei arendataks (vt tasemeid siit: https://courses.cs.ut.ee/2020/Tehisintellekti_algkursus/spring/Main/PARTIVautonoomsus). Mingist autonoomsusest alates ei ole ju võimalik enam teada, et kas art 5 on järgitud või mitte. 4. Globaliseerunud ja tehnoloogiast läbipõimitud majanduses, eriti pilvetehnoloogiaga seoses, Teadmiseks võetud. töödeldakse (isiku)andmeid piiriüleselt ja see toimub väga kiiresti. Sellisel juhul jääb ainult liiduülesest regulatsioonist väheseks. Artiklid 25, 32 ja 35 püüavad seda olukorda muuta läbi volitatud esindaja loomise. Samas valguses on regulatsiooniga loodud turustajate kohustused. Artikkel 27 lg 4 jätab aga turustajale ülemäära ebaselge diskretsiooni ise otsustada süsteemi vastavuse üle ja võimaluse üle seal parandusi teha, unustades, et muudest õigusaktidest tulenevalt ei pruugi vastavate modifikatsioonide tegemine üldse võimalik olla. 5. Eelnõu jätab välja sõjalisel eesmärgil tehisintellekti kasutamisega seotud murekohad, samuti Teadmiseks võetud. tehisintellekti kasutamisel tekkivad konkurentsiõiguse ja intellektuaalomandi probleemid. Toetame määruses toodud lähenemist, mille kohaselt on kohaldamisalast väljas tehisintellektisüsteemid , mis on välja töötatud või mida kasutatakse üksnes sõjalisel otstarbel. 6. Kokkuvõtteks ütleksime, et kavandatav määrus on väga mahukas ning tuleb läbi mõelda, kas on Teadmiseks võetud. reaalne, et määruse alusel kohustatud isikutel on võimalik kõiki kohustusi täita.
Allikas: Majandus- ja Kommunikatsiooniministeerium dokumendiregister →