ooligo
ENTRY TYPE · framework

Wie Sie ein GTM-KI-Pilotprojekt vor der Verlängerung bewerten

By Marius Bughiu Last updated 2026-08-15 RevOps

Sie bewerten ein GTM-KI-Pilotprojekt gegen ein Dokument, das Sie vor dem Start geschrieben haben. Ein Pilot, der ohne vorab festgelegte Hauptmetrik, ohne Abbruchschwelle, ohne Kontrollgruppe und ohne einen vom Kündigungsfenster des Vertrags rückwärts gerechneten Entscheidungstermin beginnt, liefert keine Bewertung — er liefert ein Dashboard, und das Dashboard gehört dem Anbieter. Vier Designentscheidungen bestimmen, ob der Pilot überhaupt etwas beantwortet: was Sie vorab festlegen, wie Sie eine Kontrollgruppe isolieren, wie Sie den menschlichen Nacharbeitsaufwand zählen und wo der Entscheidungstermin relativ zur Verlängerungsuhr liegt. Diese Seite gibt jeder dieser Entscheidungen einen Startwert.

Das Scheitern liegt vor dem Modell

In jedem KI-Steuerkreis werden zwei Zahlen zitiert. Das Project NANDA des MIT berichtete in The GenAI Divide: State of AI in Business 2025, dass 95 % der Unternehmenspiloten für generative KI keine messbare P&L-Wirkung erzeugten — auf Basis von 52 strukturierten Interviews, 153 befragten Führungskräften und einer Auswertung von 300 öffentlich dokumentierten Deployments zwischen Januar und Juni 2025. Unabhängig davon ergab eine IDC-Untersuchung mit Lenovo, dass 88 % der KI-Proofs-of-Concept nie in Produktion gehen — vier von 33 gestarteten schaffen es.

Beide Zahlen sind weicher, als sie wirken. Das NANDA-Dokument ist als vorläufige Ergebnisse gekennzeichnet, nicht als begutachtete Arbeit, und seine Methodik wurde öffentlich kritisiert — für die Stichprobenkonstruktion und für den Sprung von „keine messbare P&L-Wirkung” zu „Scheitern”. Zitieren Sie keine der beiden Zahlen als Beleg dafür, dass Ihr Pilot scheitern wird. Zitieren Sie sie für das, was beide Forschungsteams tatsächlich als Haupthindernis benennen: nicht die Modellqualität, sondern unklare Erfolgskriterien und keine abgestimmte Definition von „gut genug”. Dieses Versagen passiert in der ersten Woche, bevor eine einzige Nachricht rausgeht, und es ist der einzige Teil des Piloten, den Sie vollständig kontrollieren.

1. Legen Sie vier Zeilen vorab fest

Schreiben Sie sie vor dem ersten Lauf, in einem datierten Dokument, verteilt an alle, die später im Verlängerungsmeeting sitzen.

Die Hauptmetrik — genau eine. Für einen Outbound-Agent sind das die vollkostenbelasteten Kosten pro tatsächlich stattgefundenem qualifiziertem Meeting. Nicht gebuchte Meetings, denn gebucht und stattgefunden gehen genau in der Population auseinander, die ein KI-Agent überproduziert. Nicht die Antwortrate, denn eine Antwort ist kein Umsatz, und eine verärgerte Antwort zählt genauso wie eine positive. Sekundärmetriken zu erheben ist in Ordnung; entschieden wird über eine.

Die Schwelle, ausgedrückt gegen Ihre eigene Baseline. Messen Sie die 90 Tage vor dem Piloten auf derselben Metrik und schreiben Sie die Bestehensmarke als Verhältnis dazu. Antwortraten aus veröffentlichten Benchmarks nützen hier nichts: Sie kodieren die Listenqualität, das Angebot, die Domain-Reputation und das Segment von jemand anderem. Ihre Baseline ist der einzige Vergleich, der all das konstant hält.

Abbruchkriterien, die den Piloten vorzeitig beenden. Das sind Verletzungsbedingungen, keine schwachen Ergebnisse: eine Spam-Beschwerderate, die Ihre Obergrenze überschreitet, ein Compliance- oder Markenvorfall, ein Agent, der schlechte Daten in einer Geschwindigkeit ins CRM schreibt, deren Bereinigung mehr kostet, als der Pilot einbringen kann. Benennen Sie die Schwelle und die Person, die den Stecker ziehen darf, ohne ein Gremium einzuberufen.

Den Entscheidungstermin. Abschnitt 4 legt ihn fest. Er lautet nicht „Ende Q3”.

Eine Zeile fehlt noch, und genau die wird übersprungen: die Änderungsregel. Kriterien, die geändert werden, nachdem Daten eintreffen, entwerten den Vergleich. Wenn geändert werden muss, hält das Memo beide Fassungen fest und meldet das Ergebnis als retrospektiv.

2. Bauen Sie die Kontrollgruppe

Das ist der Schritt, den fast jeder GTM-Pilot auslässt, und ihn auszulassen bedeutet, dass kein Ergebnis des Piloten dem Tool zugerechnet werden kann. Ein Quartal mit einem neuen Agent ist auch ein Quartal mit anderer Saisonalität, einem Wettbewerber mit neuen Preisen, zwei SDRs im Ramp-up und einem geänderten Angebot. Ohne Kontrollarm messen Sie all das gleichzeitig.

  • Randomisieren Sie auf Account-Ebene, nicht auf Lead-Ebene. Zwei Kontakte desselben Accounts in unterschiedlichen Armen kontaminieren beide: Sie sprechen miteinander, und Multithreading trägt die Behandlung in die Kontrollgruppe.
  • Halten Sie 20-30 % der infrage kommenden Accounts zurück. Unter 20 % erzeugt der Kontrollarm zu wenige Ergebnis-Events, um einen realistischen Effekt aufzulösen. Über 30 % zahlen Sie mehr Pilotkosten pro Erkenntniseinheit, ohne die Antwort zu verändern.
  • Stratifizieren Sie nach dem, was das Ergebnis vorhersagt — meist ICP-Tier oder Segment — damit die beiden Arme nicht zufällig gerade in der wichtigsten Variablen auseinanderlaufen.
  • Lassen Sie beide Arme im selben Zeitfenster laufen. Vorher-Nachher ist keine Kontrolle; es ist eine Kontrolle plus alles andere, was sich geändert hat.
  • Setzen Sie eine Ergebnisuntergrenze. Liefert der Kontrollarm im Zeitfenster weniger als etwa 30 Ergebnis-Events, lautet der ehrliche Befund „zu wenig Signal für eine Entscheidung” — und das ist ein legitimes Pilotergebnis. Es ist außerdem ein Grund, eine monatliche Laufzeit zu verhandeln, statt eine Jahreslaufzeit per Münzwurf zu unterschreiben.

3. Zählen Sie die menschliche Nacharbeit

Der stärkste veröffentlichte Beleg dafür, dass selbstberichtete KI-Produktivität in die falsche Richtung läuft, stammt aus der randomisierten Studie von METR mit 16 erfahrenen Open-Source-Entwicklern über 246 reale Aufgaben. Sie prognostizierten, KI-Tools würden sie um 24 % beschleunigen. Gemessen wurden sie 19 % langsamer. Danach — nachdem sie die Verlangsamung erlebt hatten — schätzten sie weiterhin, KI habe sie um 20 % schneller gemacht.

METR selbst bezeichnet dieses Ergebnis als historisch und lehnt eine Verallgemeinerung über die Softwareentwicklung hinaus ab. Importieren Sie die 19 % also nicht in ein GTM-Modell. Importieren Sie den Vorzeichenfehler. Die Teilnehmer irrten sich nicht über die Größe des Effekts; sie irrten sich über seine Richtung, bei der eigenen Arbeit, unmittelbar danach. Jede Verlängerungsentscheidung, die Nacharbeit aus dem Gedächtnis rekonstruiert, wiederholt dasselbe Experiment.

Erfassen Sie sie also während des Piloten, in vier Töpfen: Konfiguration und Prompt-Tuning, Prüfung und Überarbeitung der Outputs, Eskalations- und Antwortbearbeitung sowie Bereinigung — falsche CRM-Einträge, Entschuldigungen an den falschen Kontakt, mitten im Lauf gestoppte Sequenzen. Stichproben statt Vollerfassung; zwei erfasste Stunden pro Woche und teilnehmendem Rep genügen, um eine Rate zu bilden. Nacharbeitsstunden gehören zu Vollkostensätzen in den Zähler der Kosten pro Ergebnis, neben Lizenzgebühr und Credit-Verbrauch. Zur Verbrauchshälfte dieser Zahl siehe Sitzplatz- versus verbrauchsbasierte KI-Preise.

4. Rechnen Sie den Kalender vom Kündigungsfenster rückwärts

Die Verlängerungsterminfalle läuft jedes Mal gleich ab. Der Pilot endet, die Ergebnisse sind uneindeutig, jemand bittet nachvollziehbar um einen weiteren Monat — und die Kündigungsfrist verstreicht während der Verlängerung. Der Vertrag verlängert sich zum Listenpreis, und die Fristverlängerung, die Sie für mehr Evidenz gewährt haben, ist zur Entscheidung geworden.

Planen Sie rückwärts, in dieser Reihenfolge:

  1. Lesen Sie das Kündigungsfenster in Ihrem eigenen MSA. Kündigungsfristen für SaaS-Nichtverlängerung liegen zwischen 30 und 90 Tagen vor Laufzeitende. Die einzige Zahl, die zählt, steht in Ihrem Vertrag — und es lohnt sich zu prüfen, ob die Uhr am Laufzeitende oder an einem Jahrestag startet.
  2. Entscheidungstermin = Kündigungsfrist minus 14 Tage. Diese zwei Wochen sind Memo-Erstellung, Finance-Review und ein verschobener Termin auf Führungsebene.
  3. Pilotende = Entscheidungstermin minus 14 Tage. Meetings, die in der letzten Woche gebucht wurden, haben noch nicht stattgefunden, und Zustellbarkeitsschäden zeigen sich verzögert. Ein Pilot, der zum letzten Versanddatum bewertet wird, wird bewertet, bevor seine eigenen Folgen eintreffen.
  4. Pilotstart = Pilotende minus Pilotdauer. Sechs bis acht Wochen für Outbound-E-Mail; länger nur, wenn Ihr Sales-Zyklus das Ergebnis-Event seltener macht.
  5. Baseline = die 90 Tage vor Pilotstart. Diese Daten haben Sie bereits; sie zu ziehen dauert eine Stunde, und sie auszulassen macht das Ergebnis unlesbar.

Darunter liegt kein regulatorisches Sicherheitsnetz. Die Negative Option Rule der FTC — die „Click-to-Cancel”-Regel — wurde am 8. Juli 2025 vom Eighth Circuit aufgehoben, aus Verfahrensgründen und wenige Tage vor Inkrafttreten; die Kommission legte OIRA am 30. Januar 2026 einen Entwurf für eine vorgeschaltete Rechtsetzungsankündigung vor, um das Verfahren neu zu starten. Selbst wenn sie Bestand gehabt hätte, regelte sie Negative-Option-Verträge im Verbrauchergeschäft und hätte einen B2B-SaaS-Vertrag nicht erfasst. Das Kündigungsfenster in Ihrem Vertrag ist der gesamte Schutz.

Kalibrierte Startwerte

Beginnen Sie hier und verschieben Sie eine Zahl nur, wenn Sie benennen können, was an Ihrer Motion sie falsch macht.

EntscheidungStartwertÄndern, wenn
HauptmetrikVollkosten pro stattgefundenem qualifiziertem MeetingDer Output des Agents kein zählbares Ergebnis ist
VergleichIhre Baseline der letzten 90 TageNie — veröffentlichte Benchmarks kontrollieren weder Ihre Domain noch Ihre Liste
RandomisierungseinheitAccountNie im Outbound; Multithreading trägt die Behandlung weiter
Anteil Kontrollgruppe25 % der infrage kommenden AccountsUnter 20 % nur bei einer Ergebnisrate, die die Untergrenze erreicht
Ergebnisuntergrenze30 Events im KontrollarmAnheben, wenn der erwartete Effekt unter 20 % liegt
Pilotdauer6-8 WochenLänger bei Zyklen, in denen das Ergebnis-Event selten ist
Nacharbeits-Stichprobe2 erfasste Stunden pro Rep und WocheAnheben in den ersten zwei Wochen, wenn die Konfigurationslast am höchsten ist
Nachlauf vor der Bewertung14 Tage nach dem letzten VersandLänger, wo Meetings regelmäßig 3+ Wochen im Voraus gebucht werden
EntscheidungsterminKündigungsfrist minus 14 TageFrüher, wenn das Memo einen Board- oder Einkaufszyklus braucht

Fallstricke und Gegenmaßnahmen

  • Das Dashboard des Anbieters wird zur Anzeigetafel. Es zählt Versendungen, Antworten und Buchungen — die drei Dinge, die es sehen kann — und es sieht weder stattgefundene Meetings noch Nacharbeitsstunden noch Bereinigung. Gegenmaßnahme: Bewerten Sie aus Ihrem CRM, Ihrem Finance-Export und Ihren Zeitaufschrieben, und einigen Sie sich auf die Datenquellen in der Vorabfestlegung, bevor jemand ein Interesse an der Antwort hat.
  • Der Vertrieb sucht die Pilot-Accounts von Hand aus. Der Agent bekommt die warme Liste, die Kontrollgruppe den Rest, und der Vergleich ist vor dem ersten Versand tot. Gegenmaßnahme: Randomisieren Sie programmatisch aus dem infrage kommenden Pool und lassen Sie die Zuordnung von jemandem prüfen, der die Zahl nicht trägt.
  • „Pilot verlängern” ersetzt „entscheiden”. Gegenmaßnahme: Eine Verlängerung ist nur zulässig, wenn die Kündigungsfrist weiterhin nach dem neuen Entscheidungstermin liegt. Andernfalls bedeutet eine Pilotverlängerung die Vertragsverlängerung, und das Memo sollte genau das so schreiben.
  • Gebucht wird durch stattgefunden ersetzt. Gegenmaßnahme: Die Metrikdefinition benennt das Stattgefunden-Event und legt die Behandlung von No-Shows fest, bevor der Pilot startet — denn ein auf Volumen getrimmter Agent bewegt gebucht und stattgefunden in entgegengesetzte Richtungen.
  • Nacharbeit wird im Verlängerungsmeeting rekonstruiert. Gegenmaßnahme: der wöchentlich gepflegte Stichproben-Zeitaufschrieb. Die METR-Teilnehmer beurteilten die Richtung des Effekts bei der eigenen Arbeit noch Stunden danach falsch.
  • Ein Pilot ohne Signal wird als Bestehen gelesen. Gegenmaßnahme: Die Ergebnisuntergrenze steht vorab fest, und „unter der Untergrenze” ist ein benanntes Urteil mit eigener Handlung: eine monatliche Laufzeit, keine jährliche.

Wo dieses Framework nicht mehr trägt

Es setzt genug Volumen zum Aufteilen voraus. Wenn Sie weniger als etwa 200 Accounts pro Monat bearbeiten, lässt eine Kontrollgruppe, die groß genug ist, um etwas aufzulösen, einen zu kleinen Behandlungsarm übrig, und der Messapparat kostet mehr als das Tool. Kaufen Sie dann nach Urteil, sagen Sie das ausdrücklich, und stecken Sie die Disziplin in die Vertragslaufzeit — monatlich oder eine kurze Erstlaufzeit mit verhandeltem Kündigungsfenster — statt in eine Kontrollgruppe, die keine Schlussfolgerung tragen kann.

Es setzt außerdem ein zählbares Ergebnis voraus. Für einen Recherche-Assistenten oder einen Copilot im CRM sind Kosten pro Meeting der falsche Rahmen; lassen Sie ihn fallen und führen Sie allein das Nacharbeits-Register als Zeitstudie auf Aufgabenebene gegen einen gematchten Satz von Aufgaben ohne Tool. Und für die Bewertung nach Pilotende setzt die AI-SDR-Pilot-Scorecard-Skill die vier Achsen um und verweigert ein Urteil, wenn Kriterien mitten im Lauf geändert wurden oder die Stichprobe zu klein ist. Für die Architekturfrage, die entscheidet, was Sie überhaupt pilotieren sollten, beginnen Sie mit AI SDR und signalgetriebener versus autonomer AI SDR.

Ein letztes Signal, das nichts kostet. Wenn ein Anbieter keine Laufzeit verkauft, die nach Ihrem Entscheidungstermin endet, oder sich gegen einen Piloten mit Kontrollgruppe sperrt, ist das eine Information über das Vertrauen des Anbieters in das Ergebnis — und sie kommt, bevor Sie etwas ausgegeben haben.