Human in the loop (HITL, «ihminen silmukassa») on tekoälyjärjestelmän suunnittelutapa, jossa ihminen osallistuu tärkeisiin päätöksiin: hän tarkistaa, korjaa tai hyväksyy toiminnon ennen kuin sillä on vaikutusta. Termi tulee säätötekniikasta, jossa ihmisoperaattori on osa koneen säätösilmukkaa, ja se siirtyi tekoälyyn kuvaamaan järjestelmiä, jotka eivät toimi yksin peruuttamattomissa asioissa.
Se ei ole sama asia kuin jälkikäteinen valvonta. HITL-järjestelmässä hyväksyntä on osa prosessia: agentti valmistelee laskutuksen, lähetyksen tai tietojen muutoksen, ja pysähtyy, kunnes joku sanoo kyllä.
Mitä yleensä kulkee ihmisen kautta
- Peruuttamattomat tai vaikeasti kumottavat toimet: tietojen poistaminen, sähköpostin tai viestin lähettäminen asiakkaalle, laskuttaminen, julkaiseminen tuotantoon.
- Oikeudellisia tai taloudellisia seurauksia aiheuttavat päätökset: tarjouksen hyväksyminen, laskun muuttaminen, ehtojen muuttaminen.
- Tapaukset, joissa luottamus on matala: kun malli epäröi, kun tiedot eivät täsmää tai kun toimi poikkeaa tavanomaisesta.
Miksi tällä on merkitystä
Agentti vahvistaa sekä sen ohjaajan harkintakyvyn että hänen virheensä. Ihmisen hyväksyntä ei ole este nopeudelle: se mahdollistaa sen, että voit delegoida paljon ilman, että delegoit vastuun. Euroopan tekoälysäädöksessä tämä ajatus esitetään ihmisen suorittamana valvontana.
NAiOSissa se on tuoteperiaate: agentit ja liittimet ehdottavat toimea ja suorittavat sen vain ihmisen hyväksynnällä. Hyväksyntä voidaan antaa chatissa, Talkissa tai itse moduulista.