AI-agendi õigused, kinnitused ja vastutus: kes otsustab?

Õigus tekib ühendusest, mitte agendi nimest

Kui ettevõtte AI-agent loeb CRM-i, koostab arve või saadab e-kirja, tuleneb tema võimekus antud süsteemikasutajast ja ühendustest. Agent ei saa iseenesest volitust; keegi peab looma teenusekonto, andma sellele ligipääsu ning määrama, milliseid toiminguid kood lubab. Seetõttu algab AI-agendi õiguste kavandamine küsimusest „mida ta teha saab?”, mitte nimest või mudelist.

Õiguslik vastutus ei liigu automaatselt tarkvarale. Kui töövoog töötleb isikuandmeid, on GDPR-i artiklite 4 ja 28 järgi vastutav töötleja see, kes määrab töötlemise eesmärgid ja vahendid; volitatud töötleja töötleb isikuandmeid vastutava töötleja nimel. Arendaja või teenusepakkuja roll sõltub tegelikust tegevusest, mitte üksnes lepingu nimetusest. Agent võib teha vea, ent ettevõte peab määrama, kes seda märkab, parandab ja kahju korral tegutseb.

Minu AI-agendi lahenduses on lähtekoht kitsas töövoog ja inimesele nähtav kinnitus. Kui probleem on ainult korduva info liigutamine, võib piisata tavalisest automatiseerimisest; agent ei ole kohustuslik tehnoloogia.

Töövoo õiguste režiimid ja kinnitust vajavad tegevused

„Autonoomne agent” kirjeldab mitut eri olukorda. Pane igale sammule eraldi piir. Näiteks võib süsteem lugeda kliendi kirja iseseisvalt, kuid hinnapakkumise saatmine vajab inimese kinnitust. Tabel aitab enne ligipääsude loomist kokku leppida süsteemid, lubatud tegevused ja vastutajad.

Kõrge mõjuga tegevus ei ole neljas autonoomiatase, vaid kinnituse reegel, mis võib kehtida sõltumata valitud režiimist.

Ära anna „kirjutamisõigust” kui üht suurt nuppu. CRM-i kirjete lisamine, olemasoleva kirje muutmine ja kustutamine on eri õigused. Kui süsteem lubab ainult ühte rolli, ehita piirang tööriistakihi sisse: agent saab näiteks luua mustandi, kuid saatmise funktsioon on kättesaadav ainult kinnituse järel.

Kinnituse voog peab näitama päris tegevust

Kinnitusküsimus „Kas jätkan?” ei anna inimesele piisavalt infot. Kinnitaja peab nägema saajat, sisu, summat või muudetavaid välju ning aru saama, mis juhtub pärast valikut. Kui agent leiab sisendi põhjal mitu võimalikku saajat, peab ta küsima täpsustust, mitte valima tõenäolisima inimese.

1. Agent koostab tegevusettepaneku

   Salvesta tegevuse liik, sihtkirje, muutuvad väljad ja kasutatud allikad. Väljund olgu masinloetav, mitte vaba tekst, mida teine komponent pimesi täidab.

2. Kontrollikiht rakendab piire

   Rakendus kontrollib kasutaja rolli, summalimiiti, saaja staatust, duplikaati ja seda, kas tegevus on lubatud. Mudeli enda väide „mul on luba” ei ole kontroll.

3. Inimene vaatab ettepaneku üle

   Näita ühes vaates mustandit ja mõju. Kinnituse saab tühistada; tegevuse aegumine väldib vana mustandi saatmist pärast andmete muutumist.

4. Süsteem täidab ja logib

   Alles siis käivita saatmine või muu kirjutus. Salvesta kinnitaja, aeg, tegevuse tulemus ja veateade, et korduskatse ei tekitaks topelttoimingut.

Anna ainult ülesandeks vajalik õigus

Kasuta eraldi tehnilist kontot, mitte arendaja või töötaja isiklikku kasutajat. Anna sellele minimaalne roll ja piira ligipääs ühe töövoo, postkasti või andmekoguga. Kui ülesanne vajab ainult lugemist, ära luba kirjutamist. Kui agent peab lisama CRM-i märkme, ära anna talle õigust muuta kliendi omanikku, eksportida kogu andmebaasi või kustutada kontosid.

• E-post: mustandite loomine on vaikimisi ohutum kui saatmine. Kui saatmine on vajalik, piira saajate ringi ja lisa kinnituse samm.
• Arved ja maksed: agent võib koguda arve välju või teha kontrolli, kuid makse kinnitab inimene. Ära anna talle pangakonto mandaate.
• Failid: erista lugemisõigust, uue faili loomist, ülekirjutamist ja kustutamist. Hoia algfail taastatavana.
• Isikuandmed: kasuta minimaalseid välju; ära kopeeri kogu kirjavahetust mudelile, kui ülesanne vajab ainult tellimuse numbrit.
• Teenusekontod: säilita saladused saladuste hoidlas, vaheta need vajadusel ning eemalda ligipääs kohe, kui piloot lõpeb.

Testi õigusi eraldi. Loo prooviandmed ning proovi tahtlikult kustutada, muuta teise kliendi kirjet, saata valele saajale ja korrata sama päringut. Õige tulemus ei ole üksnes see, et normaalne näide töötab; keelatud tegevus peab süsteemi tasemel ebaõnnestuma.

Logi otsuse põhjendus, mitte kogu isiklik vestlus

Auditijälg aitab vastata neljale küsimusele: milline sisend käivitas töö, milliseid tööriistu kasutati, kes kinnitas ja mis tulemus saadi? Logi peab olema piisav vea uurimiseks, kuid mitte koguma tundlikku sisu lihtsalt „igaks juhuks”. Määra säilitusaeg, ligipääs logidele ja kustutamise kord. Kui kasutad välise mudeli teenust, lepi eraldi kokku, millised andmed sellele saadetakse ning milline teenusepakkuja tingimus neile kehtib.

Vastutus jaotub töö rollide järgi. Ettevõtte omanik määrab protsessi eesmärgi ja lubatud riski; protsessi eest vastutav töötaja kontrollib erandeid; arendaja rakendab kokkulepitud õigused ja veakäsitluse; teenusepakkuja haldab enda platvormi lepingutingimuste järgi. See pole universaalne juriidiline vastutuse valem, vaid mõistlik tööjaotus, mis tuleb lepingus ja sisekorras täpsustada.

ELi tehisintellekti määruse artikli 14 inimese tehtava järelevalve kohustus käib määruse alla kuuluvate kõrge riskiga süsteemide kohta, mitte automaatselt iga äris kasutatava agendi kohta. TTJA selgitab Eesti ettevõtjale AI-süsteemide määrusest tulenevat raamistikku. Väiksem risk ei tähenda siiski „kontrolli pole”: ettevõtte enda lepingud, andmekaitse ja tegevusload kehtivad edasi. Eesti riigi arutelud AI-agentide digitaalse identiteedi üle käsitlevad samuti identiteedi ja vastutuse lahusust; ERR vahendas ekspertide kriitikat plaanile registreerida agente. Sellist algatust ei tohi tõlgendada nii, nagu oleks agent juba eraldi juriidiline isik.

Enne käivitamist: kaheksa juhtumi katseplaan

Väike, korduv katseplaan paljastab õiguste vead enne pärisandmetega kasutust. Käivita vähemalt järgmised juhtumid ning kirjuta oodatud tulemus enne testimist üles.

Pane kirja ka töövoo peatamise viis: kes saab agendi välja lülitada, kuidas tühistatakse järjekorras olevad tööd ja kust leitakse logid. Kui need vastused puuduvad, piirdu mustandirežiimiga. Kui kasutusjuht on selge, vaata AI-agendi teenuse lehelt, millise protsessi jaoks lahendus sobib; agendi põhimõistet selgitab AI-agendi juhend. Kuluarvestuse jaoks on eraldi AI hinna ülevaade.

Pane õigused kirja rollide ja piiride kaupa

„Ettevõte vastutab” on liiga üldine, et sellest saaks töökorralduse teha. Kirjuta üles konkreetne vastutaja iga olulise otsuse juurde. Protsessi omanik kinnitab, milliseid andmeid töö vajab ja milline tulemus on lubatud. Süsteemi omanik loob piiratud konto ja hoiab ühenduse toimivana. Igapäevane kasutaja kontrollib talle saadetud erandeid. Teenusepakkuja kirjeldab, milliseid komponente ta haldab ning kuidas rikkest teatab. Sama inimene võib täita mitut rolli, kuid rollid peavad olema nähtavad.

Kasuta enne arenduse algust lühikest õiguste tabelit:

Ära kirjuta lepingusse „AI teeb töö inimese eest ära”, kui päriselt jäävad tööandjale valiku-, kinnitamis- ja kontrolliotsused. Määra, kas arendaja tarnib prototüübi, tootmiskõlbliku ühenduse või kogu hallatava teenuse. Kokkulepe peaks ütlema, kes annab mudeli ja andmeallika ligipääsu, kes vastutab nende õiguspärasuse eest, kuidas muudatused hinnastatakse ning kes kontrollib kolmanda osapoole teenuse tingimusi.

Mida teha, kui agent teeb vale toimingu?

Juhtumiplaan peab olema valmis enne pärisandmetega käivitamist. Näiteks saadab agent valele kliendile mustandi. Esmalt peata edasised saatmised, piira konto saatmisõigust ja säilita vajalik logi. Seejärel selgita, kas põhjus oli vale sisend, vale saaja vaste, tööriista viga või kinnituse kasutajaliides. Teavita protsessi omanikku ning andmekaitse eest vastutavat inimest, kui juhtum puudutab isikuandmeid. Vajadusel järgi ettevõtte andmelekke ja rikkumisest teavitamise korda. Ära kustuta tõendeid enne, kui juhtum on hinnatud.

Kui viga puudutab tagasipööratavat CRM-i märkust, võib parandus olla lihtne. Kui agent saatis kliendile vale hinna või tegi makse, on tagajärg teistsugune. Seepärast ei sobi üks riskitase kõigile agentidele. Pane iga tegevuse juurde tagasipööratavus, võimalik mõju ja avastamise aeg. Seejärel vali inimese kinnituse koht ja katsete arv nende riskide järgi.

Taastamine tähendab ka topelttoimingute vältimist. Kui teenus aegus pärast seda, kui e-kiri juba saadeti, ei tohi automaatne korduskatse kirja uuesti saata. Salvesta iga tegevuse kordumatu võti ning kontrolli tulemust enne uut täitmist. Kasutajale peab jääma arusaadav olek: ootel, kinnitatud, tehtud, ebaõnnestunud või käsitsi üle võetud.

Kui töövoog mõjutab töötajaid või kliente, korralda enne käivitamist lühike harjutus: kas osalejad teavad, kus peatada agent, kuidas teatada veast ja kes otsustab jätkamise? Kui need toimingud sõltuvad ainult arendaja kohalolekust, pole süsteem ettevõtte jaoks veel juhitav. Alusta kitsamast mustandirežiimist ja laienda õigusi alles siis, kui tegelikud kasutuslogid ning vead on üle vaadatud.

Digitaalne identiteet ei asenda volituse kontrolli

Riigi arutelu AI-agentidele digitaalse identiteedi loomise kohta ei lahenda ise seda, kes võib ettevõtte nimel otsustada või sõlmida kohustusi. Identifikaator aitab süsteemi ära tunda; ligipääs, esindusõigus ja konkreetne volitus tuleb endiselt määrata eraldi. Ettevõtte sisemine agent peab kasutama piiratud tehnilist identiteeti ning iga suure mõjuga toimingu puhul peab olema selge, millise inimese või ametliku rolli otsus selle taga on.

Kui kasutaja annab agendile korralduse, säilita korraldus koos kinnitusega nii kaua, kui see on vea uurimiseks vajalik, ja ainult sellises ulatuses, mis on konkreetse töövoo jaoks põhjendatud. Nii saab hiljem eristada, kas algne soov oli vale, mudel tõlgendas seda valesti või rakendus täitis korrektse soovituse vale konto kaudu, ilma et logi muutuks kogu kirjavahetuse arhiiviks.