Cada vez que un agente de IA prepara un correo y espera a que alguien pulse «Lähetä», hay detrás una idea con más de setenta años. Se llama HITLHuman in the Loop (HITL)Suunnittelu, jossa ihminen tarkistaa tai hyväksyy tekoälyjärjestelmän merkittävät toiminnot ennen kuin niillä on vaikutusta, Human-In-The-Loop, «ihminen silmukassa». Tänään se kuulostaa tekoälyn slangilta, mutta se syntyi säätötekniikassa, servomekanismien, lentosimulaattorien ja puolustusjärjestelmien parissa. Kun ymmärtää sen alkuperän, ymmärtää myös, miksi se on nyt niin tärkeä.
Avainsana on «loop»
Säätöteoriassa silmukka (loop) on suljettu piiri: järjestelmä toimii, mittaa tuloksen ja käyttää mittausta seuraavan toimenpiteen korjaamiseen. Kyse on takaisinkytkennästä (feedback), samasta ajatuksesta, jonka ansiosta termostaatti kytkee lämmityksen päälle tai pois lukemansa lämpötilan perusteella.
Kun ihminen on aktiivisesti osa tätä piiriä, havainnoimassa, tulkitsemassa ja päättämässä, sanotaan, että hän on in the loop, silmukassa. Hän ei seuraa sivusta: ilman hänen päätöstään silmukka ei sulkeudu.
Juuret: säätötekniikka 1940-luvulta 1960-luvulle
Ajatus ihmisen tarkastelemisesta yhtenä säätöjärjestelmän osana on vanhempi kuin ilmaisu itse. Vuonna 1947 brittiläinen insinööri Arnold Tustin julkaisi tutkimuksen siitä, miten manuaalisella ohjauksella kohdetta seuraava käyttäjä reagoi, ja kuvasi ilmiötä samoilla työkaluilla, joita käytettiin servomekanismeihin. Vuonna 1948 Norbert Wiener popularisoi teoksellaan Cybernetics takaisinkytkennän periaatteena, joka yhdistää koneet ja elävät olennot. 1950- ja 1960-luvuilla tutkijat kuten Duane McRuer ja Ezra Krendel rakensivat matemaattisia malleja lentäjästä osana lentokoneen säätösilmukkaa.
Näistä syntyi kaksi käyttötapaa, jotka levittivät ilmaisua:
- Sotilaallinen ja ilmailun simulointi. Lentosimulaattorien ja asejärjestelmien kirjallisuudessa puhutaan man-in-the-loop simulation -simuloinneista: simulaatioista, joissa ihmisoperaattori tekee päätöksiä reaaliajassa järjestelmän sisällä sen sijaan, että koko järjestelmä simuloitaisiin tietokoneella.
- Puoliautomaattiset järjestelmät. Automaatio hoitaa osan työstä, mutta operaattori valvoo tai hyväksyy kriittiset toimet.
Ajan myötä man muuttui human-sanaksi, ja man-in-the-loop muuttui human-in-the-loop-muotoon.
Älä sekoita tätä «hardware-in-the-loop»-menetelmään
Myös tekniikassa on olemassa hardware-in-the-loop (HIL): fyysisen todellisen osan testaaminen, esimerkiksi auton ohjausyksikön, joka on kytketty simuloituun ympäristöön. Periaate on sama, eli silmukkaan tuodaan jotain todellista, mutta tuotava asia on komponentti, ei ihminen.
Automaatioasteet: kuinka paljon päätösvaltaa ihmiselle jää
Vuonna 1978 MIT:n Thomas Sheridan ja William Verplank esittivät automaatiotasojen asteikon, joka ulottuu tilanteesta «ihminen tekee kaiken» tilanteeseen «kone päättää ja toimii ilmoittamatta kenellekään». Näiden välissä on välitasoja, kuten se, että kone ehdottaa vaihtoehtoja, toteuttaa ratkaisun vain, jos ihminen hyväksyy sen, tai toimii ja ilmoittaa jälkikäteen. Tämä asteikko on nykykeskustelun perusta: kyse ei ole siitä, onko automaatiota, vaan siitä, missä ihminen on.
Omaksuminen tekoälyssä ja koneoppimisessa vuodesta 2010 alkaen
Tekoälyyhteisö omaksui termin kuvaamaan järjestelmiä, joissa ihminen:
- Merkitsee dataa, jota malli ei osaa luokitella, kuten aktiivisessa oppimisessa (active learning).
- Validoi ennusteita ennen kuin niillä on seurauksia.
- Korjaa virheitä, jotta järjestelmä oppii niistä.
Ihmisen palautteeseen perustuva vahvistusoppiminen, jolla suuria kielimalleja hienosäädetään, on myös tapa asettaa ihmisiä koulutussilmukkaan. Myös sääntely on omaksunut ajatuksen: EU:n tekoälysäädös edellyttää ihmisen valvontaa korkean riskin järjestelmissä (14 artikla), mistä kerromme artikkelissa AI Act: protege tu empresa y cumple la ley.
Silmukan sisällä, päällä vai ulkopuolella
Autonomisia järjestelmiä koskevassa keskustelussa, erityisesti vuodesta 2012 alkaen autonomisia aseita koskevan kansainvälisen keskustelun myötä, vakiintui kolme ilmaisua, joita käytetään nykyään kaikilla aloilla:
| Termi | Mitä se tarkoittaa |
|---|---|
| HITL, Human-In-The-Loop | Ihminen osallistuu aktiivisesti: järjestelmä ei toimi ilman hänen päätöstään. |
| HOTL, Human-On-The-Loop | Järjestelmä toimii itsenäisesti ja ihminen valvoo, ja hänellä on mahdollisuus puuttua asiaan tai pysäyttää se. |
| HOOTL, Human-Out-Of-The-Loop | Järjestelmä toimii täysin autonomisesti ilman ihmisen väliintuloa. |
Miten tätä sovelletaan NAiOSissa
NAiOSissa käytämme kaikkia kolmea asemaa, kukin siellä missä se on järkevää, ja yhtä sääntöä, josta ei neuvotella: lukeminen, haku ja työn valmistelu voivat tapahtua automaattisesti; ulospäin suuntautuvasta toiminnasta vastaa ihminen.
Silmukan sisällä kaikessa, millä on vaikutuksia. NAiOS-agentit lukevat, analysoivat ja valmistelevat työtä itsenäisesti, mutta sähköpostin lähettäminen, julkaiseminen tai kirjoittaminen ulkoiseen palveluun odottaa aina hyväksyntääsi. NAiOS Mailissa vastaaminen, lähettäminen tai edelleenlähettäminen vaatii nimenomaisen vahvistuksesi, myös silloin kun agentti ehdottaa sitä. NAiOS Connectorsissa toimenpiteet, joilla on vaikutuksia, pysähtyvät korttiin, joka näyttää, mitä on tekemässä ja millä tilillä. Ja ERP:ssä laskun lähettäminen pyytää aina vahvistusta.
Silmukan päällä, kun valitset niin. Kampanjoissa päivämäärän mukaiset muistutukset voivat olla tilassa «tarkistan jokaisen lähetyksen», jolloin jokainen odottaa hyväksyntääsi, tai automaattisella hyväksynnällä säännön aikataulun puitteissa, jolloin valvot. Kampanjoiden vahti tarkastaa aktiiviset sekvenssit ja ilmoittaa sinulle, mutta se ei koskaan itse lähetä, hyväksy eikä keskeytä mitään omasta aloitteestaan. OmniChatissa agentti vastaa asiakkaillesi itsenäisesti ja keskeytyy automaattisesti, kun astut keskusteluun.
Ei silmukassa, vain lukemista varten. Aamupostin tiivistäminen, tietojen kokoaminen tai dokumentaatiosi haku voidaan tehdä ilman, että kukaan on paikalla, koska mikään ei muutu tilisi ulkopuolella.
Jos haluat viedä tämän tavan toimia koko yritykseesi, Näin muutat pk-yrityksesi HITL-yritykseksi kertoo siitä vaihe vaiheelta.
Lyhyesti
- Avainsana on loop, eli takaisinkytkentää käyttävä säätösilmukka.
- Nimikkeistö kuvaa, missä ihminen sijaitsee päätöspiiriin nähden: sisällä, yllä tai ulkopuolella.
- Käsite syntyi säätötekniikassa ja simuloinnissa 1940–1960-luvuilla, kun ihmisoperaattori mallinnettiin osaksi järjestelmää.
- Tekoäly otti sen käyttöön merkitsemiseen, validointiin ja korjaamiseen, ja EU:n sääntely on tehnyt siitä pakollisen korkean riskin järjestelmille.
- NAiOS:ssa tekoäly valmistelee ja ihminen päättää: kaikki, mikä vaikuttaa ulospäin, kulkee jonkun kautta.
