Logo von GlobalAnnotateGlobalAnnotate
Alle Referenzen
KI-DatenannotationKI / große Sprachmodelle10-wöchiges Programm

Mehrsprachiger RLHF-Datensatz für ein großes Sprachmodell im Unternehmenseinsatz

Ein Entwickler von Basismodellen nach seiner zweiten großen Finanzierungsrunde

Ein Präferenzdatensatz mit 80.000 Eingaben in 8 Sprachen – einschließlich gezielter Angriffsszenarien und Bewertungen zur Befolgung von Anweisungen –, der die nachgelagerten Bewertungsergebnisse des Modells um 11,6 % verbessert hat. Grundlage war verstärkendes Lernen aus menschlichem Feedback (RLHF).

80.000
Eingaben
8
Sprachen
+11,6 %
Verbesserung der Bewertung

Dieses Projekt gehört zu unserer Leistung KI-Datenannotation – sehen Sie in unseren Referenzen, wie derselbe Ansatz auch anderen Teams hilft.

Ausgangslage

Womit wir es zu tun hatten.

Das Modellteam brauchte Präferenzdaten, die die Feinheiten beim Befolgen von Anweisungen in acht Sprachen abbilden, einschließlich provokativer und sicherheitskritischer Eingaben. Öffentliche Datensätze waren außerhalb des Englischen dünn und in der Qualität uneinheitlich.

Vorgehen

Die Arbeit, Schritt für Schritt.

  1. Gemeinsamer Entwurf der Datensatzstruktur mit dem Forschungsteam – Präferenzpaare, Bewertungen zur Befolgung von Anweisungen und provokative Eingaben

  2. Gewinnung muttersprachlicher Annotatoren mit Fachwissen in jeder Zielsprache und Kalibrierung anhand eines zurückgehaltenen Goldstandard-Datensatzes

  3. Erstellung von 80.000 Eingaben in 8 Sprachen mit ausgewogener Verteilung über Absichtskategorien und Schwierigkeitsstufen

  4. Lieferung von Berichten zur Übereinstimmung zwischen Annotatoren je Sprache und Klärung von Grenzfällen mit dem Forschungsteam in wöchentlichen Abstimmungen

Ergebnisse

Was das Projekt erreicht hat.

Gemessen an den vorab vereinbarten Zielen – nicht an Eitelkeitskennzahlen.

  • Eingaben
    80.000
  • Sprachen
    8
  • Verbesserung der Bewertung
    +11,6 %

Bereit für internationales Wachstum?

Schildern Sie uns Ihr Projekt – wir melden uns innerhalb eines Werktags.