Människa i loopen, ofta förkortat HITL, beskriver varje system där automatiseringen sköter det tunga arbetet men en människa förblir den som fattar det slutgiltiga beslutet. Maskinen samlar information, gör en förutsägelse eller skriver ett utkast; människan granskar det sedan och väljer om det ska accepteras, redigeras eller avvisas. Loopen sluts först när en person agerar, så automatiseringen kör aldrig helt på egen hand.
Var människan sitter i loopen
”Loopen” är cykeln av indata, modellutdata och handling. I ett helt självständigt system löper den cykeln från början till slut utan paus. En design med människa i loopen lägger medvetet in en kontrollpunkt före det avgörande steget — att skicka ett meddelande, godkänna en transaktion, publicera ett beslut — så att en person kan fånga fel som modellen inte kan se. Samma granskning för ofta korrigeringar tillbaka för att förbättra framtida utdata, vilket är varför mönstret är vanligt i maskininlärningsträning, innehållsmoderering och medicinsk eller juridisk granskning.
Varför människa i loopen spelar roll
Språkmodeller är flytande men inte ofelbara: de kan misstolka sammanhanget, ange något oriktigt eller träffa fel ton. Att hålla en människa i loopen spelar roll eftersom det:
- Fångar fel innan de når en mottagare eller får verkan
- Håller ansvaret hos en namngiven människa, inte ett ogenomskinligt system
- Bygger förtroende, eftersom användarna behåller kontrollen över vad som sägs eller görs i deras namn
- Stödjer tillsyn i sammanhang där ett mänskligt beslut förväntas eller krävs
Så fungerar det i DraftKite
DraftKite är människa i loopen från grunden. Den läser inkommande e-post, etiketterar den automatiskt och skriver ett svar i din egen ton — men den skickar aldrig något på egen hand. Varje svar hamnar i din utkastmapp och väntar där tills du har läst det, redigerat det vid behov och klickat på skicka. Automatiseringen skriver utkastet; du fattar beslutet att skicka. Det är loopen, och det är alltid du som sluter den.