Dirbtinio intelekto klaidos gali ne juokais papurtyti kišenes

12.12.2020 Dirbtinio intelekto klaidos gali ne juokais papurtyti kišenes

Komentaro autorė teisininkė Elvina Jurčiukonytė

Europos Komisija paskelbė dirbtinio intelekto (DI) Baltąją knygą, nubrėžusią Europinę DI viziją, o Europos Parlamentas jau parengė DI teisės aktų projektus – panašu, kad Europa skuba patvirtinti DI taisykles, kurios Europos Sąjungos (ES) verslams leistų neatsilikti nuo Kinijos ar JAV įmonių.

Vis dėlto, ryškėjant DI reguliavimo kontūrams, garsiau pradedama kalbėti ir apie tai, kas vis dėlto turės atsakyti už DI klaidas: jo kūrėjai ar valdytojai, pavyzdžiui, DI sprendimus taikantis verslas?

Didelės rizikos DI valdytojų atsakomybė – griežta

Visas DI yra suskirstytas į didelės ir nedidelės rizikos sistemas. Nors galutinį didelės rizikos DI sistemų sąrašą Europos Komisija dar tik skelbs, DI Baltojoje knygoje yra minima, kad aukštos rizikos kategorijai yra priskiriami DI sprendimai įdiegti sveikatos apsaugos, transporto, energetikos, viešajame ir kituose panašios kategorijos sektoriuose.

Svarbiausi ES siūlomo režimo akcentai:

  • nustatoma dirbtinio intelekto valdytojo (ne naudotojo) atsakomybė;
  • numatomas supaprastintas žalos išieškojimo iš didelės rizikos DI valdytojo mechanizmas – jie už žalą atsakys nepriklausomai nuo jų kaltės;
  • didelės rizikos DI valdytojai privalės drausti savo atsakomybę;
  • maksimalūs kompensacijų dydžiai pagal režimą – 2 mln. arba 1 mln. EUR, priklausomai nuo to, kam padaroma žala – gyvybei, sveikatai ar turtui. Tiesa, žalą patyrę asmenys galės reikalauti ir didesnių nuostolių atlyginimo, tačiau tokiu atveju nuostolius reikės įrodinėti papildomai, bendra tvarka;
  • ieškinio senaties terminai (t. y. laikotarpis, per kurį galima reikšti pretenzijas) ilgi – 10 ar netgi 30 metų.
DI kūrėjai, valdytojai ir naudotojai

Pagal siūlomą režimą, už klaidas atsakytų, pavyzdžiui, autonomines transporto priemones savo veikloje valdančios įmonės, taip pat tos, kurios pasitelkia DI darbuotojų atrankoms, naudoja DI algoritmus investicinių ar turto valdymo sprendimų priėmimui bei visi kiti verslai, kurie DI diegia ir jį valdo savo veikloje.

Naudotojai, t.y. DI įdiegusios įmonės darbuotojai, klientai, vartotojai ir pan. nebūtų atsakingi – atvirkščiai, patys gali tapti nukentėjusiais, turinčiais teisę reikalauti žalos atlyginimo.

DI kūrėjams būtų taikomas atsakomybės režimas, kuris ES mastu taikomas produktų gamintojams (product liability). Be to, DI kūrėjams, be kita ko, bus nustatomas reikalavimas atskleisti sukurto DI produkto technologinius aspektus. DI kūrėjai neišvengtų atsakomybės jeigu jų produktas būtų nesaugus, sukeliantis pavojingų sprendimų riziką ir apie tokias pasekmes nebūtų įspėti DI valdytojai. DI produktas turės būti specialiai ženklinamas, aprašyme turės būti nurodytos indikacijos, kontraindikacijos, netikslumai, šalutinis poveikis, atsargumo priemonės, sąveika su kitais DI ir kitokio pobūdžio produktais, ypatingieji perspėjimai ir pan. Taigi jeigu DI kūrėjai nepateiktų visos šios informacijos apie DI produktą, arba DI produktas būtų nepakankamai ištestuotas, ir jį panaudojusi įmonė (DI valdytojas) sukeltų žalą savo klientui, pacientui ir pan., DI valdytojas turėtų galimybę nukreipti reikalavimą dėl žalos atlyginimo DI kūrėjui.

DI panaudojimas negalės sukelti žalos žmogui ir aplinkai

Kitas svarbus brėžiamas akcentas – būtinybė apsaugoti galutinius DI naudotojus nuo žalingų ir diskriminuojančių DI sprendimų:

  • Didžiausios rizikos DI sprendimus turės peržiūrėti žmogus: programinės įrangos siūlomą diagnozę privalės patikrinti specialistas, sprendimą atmesti kredito paraišką – įstaigos darbuotojas ir pan.
  • DI naudojimas turės nesukelti diskriminacinio poveikio: bausmių vykdyme DI neturėtų vertinti žmogaus kaip labiau ar mažiau linkusio į recidyvą atsižvelgiant į jo etninę kilmę, asmens kreditingumą vertinančioje ar darbo paieškų platformoje įdiegta DI technologija negalėtų vertinti paraiškos jo lytį ir pan.
  • DI kūrėjai privalės atskleisti technologijos veikimo principus, pateikti informaciją apie DI galimybes, ribas ir (ne)tikslumą.