Kalle Grünthal
Riigikogu Euroopa Liidu asjade
komisjon Meie 15.12.2021 nr 24.1-2/2021/7512-1
[email protected]
Inimjärelevalve nõuded tehisintellekti määruse eelnõus
Austatud Kalle Grünthal
29. novembril toimunud Riigikogu Euroopa Liidu asjade komisjoni istungil soovisite infot
tehisintellekti määruse eelnõus (edaspidi eelnõu) sisalduvate inimjärelevalve nõuete kohta.
Vastuseks märgin, et eelnõu lähtub riskipõhisest lähenemisviisist, kus valdav osa nõuetest
kohaldub suure riskiga tehisintellektisüsteemidele. Üheks selliseks on ka artiklis 14 sätestatud
inimjärelevalve nõue. Artikkel 14 lõige 1 seab kohustuse projekteerida ja arendada suure riskiga
tehisintellektisüsteemid selliselt, et füüsilised isikud saaksid teha süsteemi kasutamise ajal selle
üle reaalset järelevalvet. Inimjärelevalve kohustuse eesmärk on hoida ära või minimeerida tervist,
ohutust või põhiõigusi ähvardavaid riske, mis võivad tekkida, kui suure riskiga
tehisintellektisüsteemi kasutatakse vastavalt selle sihtotstarbele või mõistlikult prognoositava
väärkasutamise tingimustes.
Tehisintellektisüsteemide inimjärelevalve osas on võimalik eristada eri lähenemisi, kus inimese
poolt reaalselt teostatava järelevalve ulatus varieerub. Ka eelnõu artikkel 14 lõike 4 kohaselt
olenevad konkreetsed inimjärelevalve meetmed konkreetsest kasutusjuhust ja asjaoludest. Selleks
võivad olla näiteks süsteemi seire, et tuvastada märke kõrvalekalletest ja väärtalitlusest; võimalus
sekkuda süsteemi töösse ja see katkestada; suutlikkus konkreetses olukorras otsustada, et süsteemi
enam ei kasutata, või jätta suure riskiga tehisintellektisüsteemi väljund muul moel kõrvale.
Vabariigi Valitsuse seisukohtadele1 tuginedes peame oluliseks tagada suure riskiga
tehisintellektisüsteemide inimjärelevalve selliselt, et kogu tehisintellektisüsteemi elutsükli jooksul
jälgitakse süsteemi toimimist selleks, et ära hoida tervist, ohutust või põhiõigusi ähvardavaid riske.
Inimjärelevalve kohustus peab olema proportsionaalne, sh ei tohi põhjendamatult piirata võimalust
kasutada tehisintellektisüsteeme automaatotsuste tegemiseks. Seetõttu toetame määruse
lähenemist, mis seab eesmärgid inimjärelevalvele, kuid jätab määratletud eesmärkide
saavutamiseks konkreetsete meetmete valiku süsteemi pakkujale, arvestades konkreetset olukorda,
eelkõige riske, mis võivad tekkida konkreetse suure riskiga tehisintellektisüsteemi kasutamisel.
Näiteks ei ole inimosaluse põhimõttel (human in the loop) toimuva järelevalve meede alati vajalik,
sobilik ega proportsionaalne. Olenevalt olukorrast võib reaalseks järelevalveks olla sobiv süsteemi
toimimise logimine, mis võimaldab süsteemi riske, kõrvalekaldeid ja probleeme tuvastada ja neile
asjakohaselt reageerida. Enamikel juhtudel võib olla proportsionaalne inimsekkumise (human on
1 Eesti seisukohad määruse eelnõu kohta, millega nähakse ette tehisintellekti käsitlevad ühtlustatud õigusnormid, heaks kiidetud
Vabariigi Valitsuse 07.10.2021. a istungil ja Riigikogu Euroopa Liidu asjade komisjoni 25.10.2021. a istungil.
Suur-Ameerika 1 / 10122 Tallinn / 625 6342 /
[email protected] / www.mkm.ee
Registrikood 70003158
the loop) põhimõttel toimiv lähenemine.2
Lugupidamisega
(allkirjastatud digitaalselt)
Andres Sutt
ettevõtlus- ja infotehnoloogiaminister
Anna-Liisa Pärnalaas
639 7697
[email protected]
2 Inimsekkumise põhimõttel (human on the loop) toimuv inimjärelevalve tähendab, et inimene saab jälgida süsteemi tööd ning selle
igal hetkel enda kontrolli alla võtta. Inimosaluse põhimõttel (human in the loop) toimuv järelevalve tähendab, et inimene saab
sekkuda süsteemi igas otsustustsüklis, kui selleks tekib vajadus, näiteks olukorras, kus otsuse täpsus ei vasta seatud tingimustele.
Samas, paljudel juhtudel pole see võimalik ega ka soovitav rakendada. Vt nt:
https://www.europarl.europa.eu/meetdocs/2014_2019/plmrep/COMMITTEES/JURI/DV/2019/11-06/Ethics-
guidelines-AI_ET.pdf
2 (2)