Valvonta ihmisen toimesta on EU:n tekoälysäädöksen (AI Act) periaate, jonka mukaan tekoälyjärjestelmät on suunniteltava niin, että koulutetut ihmiset voivat ymmärtää, mitä ne tekevät, valvoa niiden toimintaa ja puuttua asiaan tarvittaessa. Artikla 14 edellyttää tätä nimenomaisesti korkean riskin järjestelmiltä, ja sen henki ulottuu jokaiseen yritykseen, joka antaa agenteille toimia asiakkaiden, rahan tai tietojen parissa.
Mitä valvojan pitää pystyä tekemään
- Ymmärtää järjestelmän kyvykkyydet ja rajat sekä havaita poikkeamat ja odottamattomat tulokset.
- Olla luottamatta automaattisesti koneen ehdotuksiin (säädös puhuu «automaatiovinoumän» välttämisestä).
- Tulkita tulos oikein ja päättää, käytetäänkö, korjataanko vai hylätäänkö se.
- Puuttua asiaan: pysäyttää järjestelmä, perua toimi tai estää sen toteutuminen.
Koulutus
Valvonta edellyttää osaamista. Siksi sama säädös velvoittaa yritykset artiklan 4 nojalla varmistamaan, että niiden tekoälyjärjestelmiä käyttävillä henkilöillä on tekoälylukutaitoa: sitä, mitä ei ymmärrä, ei voi valvoa.
Suhde HITL-malliin
Human in the loop on käytännön tapa täyttää tämä vaatimus: ihmisen hyväksyntä sisällytetään niiden toimien kulkuun, joilla on merkitystä, ja jokaiselle agentille asetetaan vähimmäisoikeudet ja selkeät rajat. Molempia asioita tiivistää sama kysymys: kuka ohjaa järjestelmää, millä oikeuksilla ja millä rajoilla?