Menneske i loopen, ofte forkortet HITL, beskriver ethvert system der automatiseringen tar det tunge løftet, men et menneske fortsatt er den som tar den endelige beslutningen. Maskinen samler informasjon, lager en prediksjon eller skriver et utkast; mennesket gjennomgår det så og velger om det skal godtas, redigeres eller avvises. Loopen lukkes først når en person handler, så automatiseringen aldri kjører helt på egen hånd.
Hvor mennesket sitter i loopen
“Loopen” er syklusen av inndata, modellutdata og handling. I et helt selvstendig system løper den syklusen fra ende til annen uten pause. En utforming med menneske i loopen legger bevisst inn et kontrollpunkt før det avgjørende steget — å sende en melding, godkjenne en transaksjon, publisere en avgjørelse — slik at en person kan fange feil modellen ikke kan se. Den samme gjennomgangen fører ofte rettelser tilbake for å forbedre fremtidig utdata, og derfor er mønsteret vanlig i maskinlæringstrening, innholdsmoderering og medisinsk eller juridisk gjennomgang.
Hvorfor menneske i loopen betyr noe
Språkmodeller er flytende, men ikke ufeilbarlige: de kan mistolke konteksten, oppgi noe unøyaktig eller treffe feil tone. Å holde et menneske i loopen betyr noe fordi det:
- Fanger feil før de når en mottaker eller får virkning
- Holder ansvaret hos et navngitt menneske, ikke et ugjennomsiktig system
- Bygger tillit, siden brukerne beholder kontrollen over hva som sies eller gjøres i deres navn
- Støtter tilsyn i situasjoner der en menneskelig beslutning forventes eller kreves
Slik virker det i DraftKite
DraftKite er menneske i loopen fra grunnen av. Den leser innkommende e-post, etiketterer den automatisk og skriver et svar i din egen tone — men den sender aldri noe på egen hånd. Hvert svar havner i kladdemappen din og venter der til du har lest det, redigert det ved behov og trykket send. Automatiseringen skriver utkastet; du tar beslutningen om å sende. Det er loopen, og det er alltid du som lukker den.