MAIHEM

MAIHEM

MAIHEM · Coding · Sonstiges · Chatbot

MAIHEM ist eine Plattform für KI-Qualitätssicherung: synthetische Agenten führen Gespräche mit LLM-Apps, und der Bericht zeigt, welche Dialoge gescheitert sind.

Vorschau der Oberfläche von MAIHEM

Über MAIHEM

What Is MAIHEM

MAIHEM ist ein Londoner Unternehmen, 2023 gegründet und Teil des Winter-2024-Jahrgangs von Y Combinator, das sich auf Qualitätssicherung für konversationelle Produkte spezialisiert hat. Das Argument war eng: Ihr Chatbot bricht an Stellen, die Ihre Testsuite nie erreicht, also lassen Sie KI-Agenten mit ihm reden wie ein unzufriedener Kunde.

Daraus wurde ein geschlossener Kreislauf. Sie beschrieben die Anwendung, legten synthetische Nutzer mit eigenen Zielen und Launen an und starteten Gespräche in einer Menge, die kein menschliches Team schafft. Am Ende jeder Runde stand ein Bericht mit den gescheiterten Dialogen und dem Grund. Tracxn führt Leistungsbewertungen, LLM-Bewertung, synthetische Daten und Risikosimulationen unter demselben Produkt.

Ein unangenehmer Punkt bleibt: Die Software, um die es hier geht, hat keine Eingangstür mehr. maihem.ai leitet auf tekton-dynamics.com um, die heutige Identität des Unternehmens, das nun Steuerungsschichten mit KI für Schweißroboter baut. Das Python-SDK endet bei Version 1.7.7 vom April 2025, und die Dokumentationsdomain löst nicht mehr auf. Der folgende Text beschreibt die Plattform so, wie sie arbeitete, und bleibt nützlich, wenn Sie Testwerkzeuge vergleichen oder dem Weg des Teams nachgehen.

Getting Started

  1. Installieren Sie den Client mit pip install maihem und erzeugen Sie einen API-Schlüssel im Web-Dashboard.
  2. Beschreiben Sie die zu prüfende Anwendung: was sie beantworten soll, was sie ablehnen muss und welchen Ton sie halten soll.
  3. Legen Sie synthetische Nutzer für die Tests für konversationelle KI an, jeder mit Ziel, Charakter und etwas Geduld, wenn man ihm Nein sagt.
  4. Starten Sie die Simulation und öffnen Sie den Bericht: Jeder gescheiterte Dialog kommt mit der Stelle, an der er brach, und einer kurzen Begründung.
  5. Wiederholen Sie dieselbe Testreihe nach einer Änderung am Prompt oder am Modell und vergleichen Sie beide Berichte.

Produktinformationen

Ein kurzer Überblick über Preise, unterstützte Plattformen und die Leistung von MAIHEM.

Kostenloser TarifNein
Bezahlte TarifeNot published
PlattformWeb app, Python SDK
EntwicklerMAIHEM
KategorieCoding · Sonstiges · Chatbot
VeröffentlichungsdatumJan 2023
Zuletzt aktualisiertApr 2025
Website-BesucheN/A
Globales Website-RankingN/A
API-VerfügbarkeitJa

Am besten für

Die Nutzer, Aufgaben und Szenarien, für die dieses Tool am besten passt.

Nutzer

  • Produktteams mit einem Kundenchatbot
  • QA-Verantwortliche ohne Machine-Learning-Spezialisten
  • Gründer vor einer Demo

Aufgaben

  • Fehlersuche vor dem Start
  • Synthetische Daten
  • Regression nach dem Umschreiben eines Prompts
  • Bericht für Kunden oder Prüfer

Szenarien

  • Ein Support-Assistent für Erstattungen und Sendungsstatus
  • Ein Modellwechsel mitten im Quartal
  • Due Diligence bei einem fremden Chatbot

Wichtigste Funktionen

Agenten, die den Kunden spielen

Jeder synthetische Nutzer ist ein Agent mit Aufgabe, Stimmung und Abbruchregel, keine vorformulierte Nachrichtenliste. Er hakt nach, wechselt das Thema und stellt dieselbe Frage auf drei Arten. Das Ergebnis liest sich wie ein Kundengespräch, nicht wie ein Unit-Test.

Synthetische Gespräche in großer Zahl

Eine Runde deckt Hunderte Dialoge in der Zeit ab, die ein menschlicher Tester für zehn braucht. Die Menge zählt, weil fast jeder Chatbot-Fehler in seltenen Kombinationen steckt: genervter Nutzer, Sonderfall in der Richtlinie, halb beantwortete Frage.

Berichte mit Begründung

Der Output hört nicht bei einer Erfolgsquote auf. Jeder gescheiterte Dialog kommt mit Transkript, der Stelle des Fehlers und einem Urteil: Wissensbasis ignoriert, Regel gebrochen oder einfach aufgegeben.

Vergleichbare Werte zwischen Läufen

Läufe werden auf festen Dimensionen bewertet, eine Prompt-Änderung ergibt also zwei Zahlen statt zwei Meinungen. Genau diesen Vergleich nutzten Teams weiter, weil er sagt, ob die neue Version besser oder nur anders ist.

Python-SDK für automatisierte Läufe

Das Paket maihem erlaubte Ingenieuren, LLM-Tests aus einem Skript oder einem CI-Schritt zu starten und Ergebnisse ohne Browser abzuholen. Eine Testreihe im Code lässt sich viel leichter wiederholen als eine im Tabellenblatt.

Risikosimulationen

Die Plattform brachte Szenarien für heikles Gelände mit: medizinische Fragen, Finanzberatung, Gespräche, in denen ein Nutzer den Bot aus seiner Richtlinie drängt. Für Compliance-Prüfer war das lesbarer Stoff.

Vor- und Nachteile

Vorteile

  • Findet Fehler, die ein starres Skript übersieht, weil synthetische Nutzer improvisieren statt einem Drehbuch zu folgen.
  • Skaliert über menschliche Kapazität hinaus: Hunderte Gespräche pro Lauf, alle protokolliert.
  • Der Bericht nennt den Fehler und zeigt das Transkript, wer den Prompt schreibt, weiß also sofort, was zu ändern ist.
  • Der Vergleich zwischen Läufen macht Chatbot-Bewertung zur Messung statt zur Debatte.
  • Das Python-SDK hält LLM-Tests im Engineering-Ablauf, ohne Ritual in einem zweiten Dashboard.

Nachteile

  • Die Plattform wird nicht mehr angeboten. maihem.ai leitet auf ein Robotikunternehmen um, eine neue Anmeldung findet kein Ziel.
  • Dokumentation und Dashboard sind offline, die Gewichtung der Bewertungsdimensionen lässt sich also nicht mehr prüfen.
  • Preise wurden nie veröffentlicht, ein Budget war damit ein Verkaufsgespräch statt einer Seite zum Lesen.
  • Synthetische Nutzer beurteilen Ihren Bot mit einem LLM, und dieser Richter bringt eigene Verzerrungen mit. Stichproben an echten Transkripten blieben nötig.

Häufige Fragen

Für Tests konversationeller KI-Anwendungen vor dem Start. Synthetische Nutzer führten echte Gespräche mit dem Chatbot, die Plattform meldete, welche Dialoge scheiterten und warum.