Menneske i loopet, ofte forkortet HITL, beskriver ethvert system, hvor automatiseringen klarer det tunge arbejde, men et menneske stadig er den, der træffer den endelige beslutning. Maskinen indsamler information, laver en forudsigelse eller skriver et udkast; mennesket gennemser det derefter og vælger, om det skal accepteres, rettes eller afvises. Loopet lukkes først, når en person handler, så automatiseringen aldrig kører helt af sig selv.
Hvor mennesket sidder i loopet
“Loopet” er cyklussen af input, modeloutput og handling. I et fuldt selvstændigt system kører den cyklus fra ende til anden uden pause. Et design med menneske i loopet indsætter bevidst et kontrolpunkt før det afgørende skridt — at sende en besked, godkende en transaktion, offentliggøre en afgørelse — så en person kan fange fejl, modellen ikke kan se. Den samme gennemgang fører ofte rettelser tilbage for at forbedre fremtidigt output, hvilket er grunden til, at mønstret er udbredt i maskinlæringstræning, indholdsmoderering og medicinsk eller juridisk gennemgang.
Hvorfor menneske i loopet betyder noget
Sprogmodeller er flydende, men ikke ufejlbarlige: de kan misforstå konteksten, angive noget upræcist eller ramme den forkerte tone. At holde et menneske i loopet betyder noget, fordi det:
- Fanger fejl, før de når en modtager eller får virkning
- Holder ansvaret hos et navngivet menneske, ikke et uigennemsigtigt system
- Opbygger tillid, da brugerne bevarer kontrollen over, hvad der siges eller gøres i deres navn
- Understøtter tilsyn i situationer, hvor en menneskelig beslutning forventes eller kræves
Sådan virker det i DraftKite
DraftKite er menneske i loopet fra bunden. Den læser indkommende mail, labeler den automatisk og skriver et svar i din egen tone — men den sender aldrig noget af sig selv. Hvert svar lander i din kladdemappe og venter der, indtil du har læst det, rettet det om nødvendigt og trykket send. Automatiseringen skriver udkastet; du træffer beslutningen om at sende. Det er loopet, og det er altid dig, der lukker det.