# Human-in-the-loop in der Softwareentwicklung | Miyagami

> Human-in-the-loop heißt: Ein Mensch gibt Entscheidungen eines Systems frei, korrigiert oder lehnt sie ab. Eingesetzt in 100+ Produkten seit 2017.

Source: https://www.miyagami.com/de/resources/articles/human-in-the-loop-engineering

[Startseite](https://www.miyagami.com/de/)/ [Ressourcen](https://www.miyagami.com/de/resources)/ [Artikel](https://www.miyagami.com/de/resources/articles)/ [Praxis](https://www.miyagami.com/de/resources/articles/practice)/ Was bedeutet Human-in-the-Loop in der Softwareentwicklung?

# Was ist Human-in-the-Loop im technischen Sinne

**[Bo Wesdorp](https://www.linkedin.com/in/bo-wesdorp-496a36167/)** Mitgründer und CTO, Miyagami
[Praxis](https://www.miyagami.com/de/resources/articles/practice)3 Min. Lesezeit Aktualisiert am 7. Oktober 2026

Human-in-the-Loop (HITL) ist in der Softwareentwicklung ein Entwurfsmuster, bei dem ein System ab einem festgelegten Punkt ohne ausdrückliche menschliche Eingabe nicht weiterläuft. Eine Person prüft das Ergebnis, gibt es frei, korrigiert oder verwirft es, und das System macht auf Basis dieser Antwort weiter. Es kommt dort zum Einsatz, wo Fehler bei folgenreichen Entscheidungen mehr kosten als ein geringerer Durchsatz.

## Herkunft des Begriffs

Der Begriff stammt aus der Regelungstechnik und dem maschinellen Lernen, wo ein Mensch benötigt wurde, um Daten zu kennzeichnen oder Modellausgaben zu validieren. In der modernen Softwareentwicklung wurde er breiter übernommen und beschreibt jegliche Arbeitsabläufe, in denen Automatisierung gezielt für eine menschliche Prüfung unterbrochen wird.

## Warum Systeme so gebaut werden

Vollständige Automatisierung ist nicht immer angemessen. Die Gründe für den Einbau eines menschlichen Schritts lassen sich typischerweise in einige Kategorien einteilen:

- **Risiko** : Die Konsequenz einer falschen Aktion ist hoch genug, dass der Aufwand einer Pause gerechtfertigt ist. Eine Zahlung oberhalb eines Schwellenwerts, ein Deployment in die Produktion, das Löschen von Datensätzen.
- **Unsicherheit** : Das System hat geringes Vertrauen in seine Ausgabe und meldet dies, anstatt zu raten.
- **Regulierung** : In manchen Bereichen ist eine menschliche Entscheidung gesetzlich oder durch Richtlinien vorgeschrieben. Kreditentscheidungen, medizinische Empfehlungen, bestimmte Datenverarbeitungsvorgänge.
- **Randfälle** : Die Eingabe liegt außerhalb des Bereichs, für den das System zuverlässig ausgelegt wurde.

Das Muster akzeptiert geringeren Durchsatz im Austausch gegen niedrigere Fehlerquoten bei folgenreichen Entscheidungen.

## HITL in KI-gestützten Systemen

Da immer mehr Produktionssoftware modellgenerierte Ausgaben einbezieht, sei es Vorschläge, Zusammenfassungen, Klassifizierungen oder Aktionen, ist HITL zu einem standardmäßigen Architekturthema geworden, nicht mehr zu einem Sonderfall.

Ein [KI-Coding-Agent](https://www.miyagami.com/de/resources/articles/what-is-a-coding-agent) kann einen Pull Request vorschlagen, ein Mensch prüft und mergt ihn jedoch. Eine RAG-Pipeline kann eine Antwort zurückgeben, doch ein Support-Mitarbeiter liest sie vor dem Versand. Ein [agentischer Workflow](https://www.miyagami.com/de/resources/articles/what-is-agentic-coding) kann eine Abfolge von Schritten ausführen, benötigt jedoch eine Bestätigung, bevor Nebeneffekte wie das Versenden von E-Mails oder das Ändern einer Datenbank eintreten.

Bei der Gestaltung geht es darum, an welcher Stelle im Ablauf Menschen eingreifen und welche Informationen sie an diesem Punkt bekommen. Ob sie überhaupt dabei sind, ist keine offene Frage.

## Was einen HITL-Schritt nützlich oder nutzlos macht

Ein menschlicher Kontrollpunkt funktioniert nur, wenn die prüfende Person tatsächlich beurteilen kann, was ihr vorliegt. Das klingt offensichtlich, scheitert in der Praxis jedoch, wenn:

- Die Ausgabe zu lang oder zu komplex ist, um in der verfügbaren Zeit gelesen zu werden.
- Der Reviewer nicht über das fachliche Wissen verfügt, um Fehler zu erkennen.
- Die Genehmigung zur Formalität geworden ist und die Personen durchklicken, ohne zu lesen.
- Das System liefert keine Erklärung dafür, wie es zu seiner Ausgabe gelangt ist, sodass der Reviewer nichts zur Grundlage seiner Beurteilung hat.

Wenn HITL zum bloßen Durchwinken wird, entsteht der Anschein von Kontrolle ohne deren Substanz. Das ist ein ernstes technisches und organisatorisches Problem, nicht nur ein UX-Problem.

## Implementierungsmuster

Gängige Ansätze sind:

- **Genehmigungswarteschlangen** : Das System schreibt eine vorgeschlagene Aktion in eine Warteschlange; ein Mensch bearbeitet die Einträge, bevor sie ausgeführt werden.
- **Konfidenz-Schwellenwerte** : Das System leitet Ausgaben mit hoher Konfidenz automatisch weiter und markiert Ausgaben mit niedriger Konfidenz zur Überprüfung.
- **Eskalationspfade** : Das System versucht, die Aufgabe eigenständig zu lösen, und eskaliert nur dann an einen Menschen, wenn es nicht weiterkommt.
- **Audit-Trails mit Rollback** : Das System handelt sofort, protokolliert aber alles und ermöglicht eine Rückabwicklung innerhalb eines bestimmten Zeitfensters. Dies ist HITL im Nachhinein, nicht im Vorhinein.

Das richtige Muster hängt von der Latenztoleranz, dem Risikoniveau und dem Entscheidungsvolumen ab, das das System verarbeitet.

## Der Bezug zum Code-Review

Code-Review ist selbst ein HITL-Mechanismus, der auf Software-Änderungen angewendet wird. Je größer der Anteil von KI-generiertem Code an dem wird, was gemergt wird, desto wichtiger wird der Review-Schritt, nicht unwichtiger. Der Reviewer ist der Mensch im Loop für die Ausgabe des Coding-Agenten. Was dies von Engineers verlangt, hat sich etwas verändert; siehe [was sich am Code-Review geändert hat](https://www.miyagami.com/de/resources/articles/what-changed-about-code-review) für Details.

## Was wir prüfen

HITL-Design spiegelt das Urteilsvermögen eines Engineers darüber wider, wo Automatisierung enden sollte und was ein Prüfer tatsächlich sehen muss. Unser Vetting betrachtet dies direkt. In Sitzung 1 zeigen Priorisierung und technisches Verständnis, ob jemand ein Problem strukturieren kann, bevor er es angeht. In Sitzung 2 zeigen die Überprüfung von KI-Ausgaben und das Urteilsvermögen nach Risiko, ob der Kandidat angemessen verlangsamt, wenn ein Agent etwas Folgenreiches produziert, anstatt es zu genehmigen, weil es läuft. Siehe [wie wir prüfen](https://www.miyagami.com/de/how-we-vet).

## Kurze Antworten

Ist Human-in-the-Loop dasselbe wie überwachtes Lernen?

Nicht ganz. Überwachtes Lernen verwendet vom Menschen annotierte Daten, um Modelle zu trainieren. HITL im Engineering bezeichnet Laufzeit-Workflows, bei denen eine Person handeln muss, bevor ein System fortfährt. Die Konzepte überschneiden sich in Active-Learning-Pipelines, sind aber ansonsten voneinander zu unterscheiden.

Macht ein menschlicher Zwischenschritt ein System sicherer?

Nur wenn der Reviewer die Entscheidung sinnvoll bewerten kann. Ein Kontrollpunkt, an dem Personen routinemäßig genehmigen, ohne zu lesen, bietet kaum Schutz. Die Qualität des menschlichen Schritts ist genauso wichtig wie seine bloße Existenz.

Wann sollte ein System einen HITL-Schritt entfernen, den es zuvor hatte?

Wenn es Belege gibt, in der Regel aus Audit-Logs oder Fehlerquoten, dass der menschliche Schritt Latenz verursacht, ohne Fehler aufzudecken. Diese Belege sollten aus Messungen stammen, nicht aus Annahmen.

Wir testen das

Jeder Engineer, den wir bei Kunden einsetzen, durchläuft zwei Assessments: eines ohne KI-Tools, eines mit. Beide Scorecards sind veröffentlicht.

[Unser Auswahlverfahren](https://www.miyagami.com/de/how-we-vet)

Verwandte Themen

- [Wie man KI-generierten Code überprüft](https://www.miyagami.com/de/resources/articles/how-to-review-ai-generated-code)
- [Was sich beim Code-Review geändert hat](https://www.miyagami.com/de/resources/articles/what-changed-about-code-review)
- [Was ist Agentic Coding?](https://www.miyagami.com/de/resources/articles/what-is-agentic-coding)
- [Was ist ein Coding Agent?](https://www.miyagami.com/de/resources/articles/what-is-a-coding-agent)

Suchen Sie für diese Stelle?

Senior AI-native Engineers, eine Shortlist in drei Werktagen und eine Einstellung innerhalb von fünf.

[Shortlist anfordern](https://www.miyagami.com/de/shortlist)

Kontakt aufnehmen

## Shortlist in drei Tagen erhalten

Sie schicken uns die Rollen und den Stack, in einem kurzen Formular oder in einem 30-minütigen Gespräch. Innerhalb von drei Werktagen erhalten Sie Senior Engineers mit Namen zur Prüfung, jeweils mit beiden Scorecards, und Sie können innerhalb von fünf Werktagen einstellen.

[Shortlist anfordern](https://www.miyagami.com/de/shortlist)

Bewertet auf **Clutch** 42 Bewertungen

[ISO 27001
Zertifiziert](https://trust.miyagami.com/)

Dreißig Minuten mit Dale buchen

Der Kalender wird von HubSpot bereitgestellt und setzt eigene Cookies. Laden Sie ihn hier, oder buchen Sie direkt auf der HubSpot-Seite.

[Buchungsseite öffnen](https://sales.miyagami.com/meetings/dwesdorp)
