HR

Entschlüsselung der Verwendung von Fine-Tuning, Prompt Engineering und RAG

Lesezeit: 4 Min | Iun 10, 2024

Im schnell fortschreitenden Bereich der generativen KI haben Entscheidungsträger oft mit einer komplexen Landschaft von Techniken und Werkzeugen zu tun , die genutzt werden können, um KI-Anwendungen zu verbessern. Unter diesen sind Fine-Tuning, Prompt Engineering und Retrieval-Augmented Generation (RAG) entscheidend gewesen, doch ihre Integration und Anwendung haben oft zu Verwirrung unter nicht-technischen Stakeholdern geführt. Dieser Artikel soll etwas Klarheit über die Verwendung solcher Techniken schaffen, indem ein auf HR fokussierter KI-Assistent als illustratives Beispiel verwendet wird, um zu zeigen, wie diese die KI-Leistung im Fall von spezifischen Anwendungsfällen und wirtschaftlichen Überlegungen gemeinsam verbessern können.

Klärung allgemeiner Missverständnisse bei der KI-Anwendung

Es ist wesentlich zu verstehen gewesen, dass die Entscheidung für den Einsatz von Fine-Tuning, Prompt Engineering oder RAG nicht binär ist. Diese Techniken sind nicht gegenseitig ausschließend gewesen und können kombiniert werden, um überlegene Ergebnisse abhängig von der beabsichtigten Anwendung zu erzielen.

Die häufige Frage „Sollen wir diese Technik oder jene verwenden?“ hat ein grundlegendes Missverständnis offenbart, das bei vielen in der Technologiebranche verbreitet ist, einschließlich Produktleuten und Führungskräften, die von der schnellen Entwicklung der KI-Technologien überwältigt sein könnten.

Das Zusammenspiel der KI-Techniken

Also haben wir gedacht, warum nicht schnell zeigen, was passiert, wenn jede Technik bei einem KI-Assistenten angewendet wird? Manchmal können zwei Screenshots mehr Klarheit bringen als zwei Forschungsarbeiten. Um dies zu erleichtern, haben wir verschiedene Lösungen wie benutzerdefinierte GPTs verwendet, die es uns ermöglichen, Prompt Engineering und RAG einfach anzuwenden. Darüber hinaus haben wir unsere benutzerdefinierten KI-Assistenten eingesetzt, um ein komplexeres Szenario zu zeigen, in dem alle drei Techniken gemeinsam angewendet werden.

Das praktische Experiment

Wir haben ein benutzerdefiniertes GPT auf der OpenAI-Plattform eingerichtet, wobei wir HR-spezifische Dokumente und strukturierte Prompts verwendet haben, um die Antworten des KI auf präzisere Weise an die Werte und Metriken des Unternehmens anzupassen. Dieses Modell hat RAG und Prompt Engineering verwendet. Um die Genauigkeit und Relevanz des Modells weiter zu verbessern, haben wir mehrere wichtige Dokumente in die Wissensdatenbank hochgeladen, darunter „Gehaltsspannen des Unternehmens“, „Vergütungsmetriken des Unternehmens“ und eine historische Analyse vergangener Gehaltsentscheidungen. Diese Dokumente haben der KI den notwendigen Kontext bereitgestellt, um informiertere und spezifischere Antworten zu generieren.

Ergebnisse und Einsichten

Für die schnelle Bewertung haben wir uns nur auf die Frage „Was ist ein gutes Gehalt für einen Kandidaten mit diesem Lebenslauf?“ konzentriert.

Screenshot 1 der ChatGPT-4o Antwort zur Ermittlung eines angemessenen Gehalts für Mary Martin basierend auf ihrem Lebenslauf, mit Hervorhebungen ihrer über zehnjährigen Erfahrung in der Softwareentwicklung, technischen Fähigkeiten in Python und Projektmanagement, sowie ihrer Führungsrolle und Ausbildung.

Unsere anfänglichen Ergebnisse haben gezeigt, dass das Standard-ChatGPT-4o obwohl effektiv, oft Antworten erzeugt hat, die für derart spezialisierte Anwendungen zu allgemein waren.

Screenshot 2 der ChatGPT-4o Antwort zur Ermittlung eines angemessenen Gehalts für Mary Martin basierend auf ihrem Lebenslauf, mit Hervorhebungen ihrer über zehnjährigen Erfahrung in der Softwareentwicklung, technischen Fähigkeiten in Python und Projektmanagement, sowie ihrer Führungsrolle und Ausbildung.

Wir haben auch einiges an Prompt Engineering eingesetzt, um die Antwort besser zu strukturieren, und die Ergebnisse wurden besser. Wenn wir auf diesem Weg bestanden hätten, hätten wir wahrscheinlich nach ein paar Iterationen noch bessere Ergebnisse erzielt.

Screenshot der ChatGPT-4o Antwort zur Ermittlung eines angemessenen Gehalts für Mary Martin basierend auf ihrem Lebenslauf, mit Hervorhebungen ihrer über zehnjährigen Erfahrung in der Softwareentwicklung, technischen Fähigkeiten in Python und Projektmanagement, sowie ihrer Führungsrolle und Ausbildung nach etwas Prompt-Engineering..

Das benutzerdefinierte GPT-Modell hat andererseits maßgeschneiderte Prompts und Dokumente verwendet, um genauere und unternehmensspezifische Antworten zu produzieren. Diese Unterscheidung hat die verbesserte Leistung hervorgehoben, die durch strategischen Einsatz von RAG und Prompt Engineering erreicht werden kann.

Screenshot 1 der Custom-GPT Antwort zur Ermittlung eines angemessenen Gehalts für Mary Martin basierend auf ihrem Lebenslauf, mit Hervorhebungen ihrer über zehnjährigen Erfahrung in der Softwareentwicklung, technischen Fähigkeiten in Python und Projektmanagement, sowie ihrer Führungsrolle und Ausbildung.

Von Anfang an hat das benutzerdefinierte GPT Antworten geliefert, die nicht nur die Anfrage mit höherer Relevanz angesprochen haben, sondern auch ein nuanciertes Verständnis gezeigt haben, das von HR-Profis benötigt wird, und den Denkprozess effektiver nachgeahmt haben als das generische Modell. Natürlich ist dies eine eher oberflächliche Bewertung gewesen und mehr Arbeit und Iterationen sind erforderlich, um die besten Ergebnisse von solchen GenAI-Apps in der Produktion zu erzielen. Dennoch sind die Ergebnisse bereits vielversprechend gewesen und haben gezeigt, wie RAG das Ergebnis beeinflusst, indem es uns ermöglicht, echte Informationen an das Modell zu füttern und so eine bessere Antwort zu erhalten.

Screenshot 2 der Custom-GPT Antwort zur Ermittlung eines angemessenen Gehalts für Mary Martin basierend auf ihrem Lebenslauf, mit Hervorhebungen ihrer über zehnjährigen Erfahrung in der Softwareentwicklung, technischen Fähigkeiten in Python und Projektmanagement, sowie ihrer Führungsrolle und Ausbildung.

Fazit

Die Integration von KI-Techniken wie Fine-Tuning, Prompt Engineering und RAG hat eine strategische Verbesserung dargestellt, die an vielfältige geschäftliche Bedürfnisse angepasst werden kann. Durch das Verständnis und die Anwendung dieser Werkzeuge in Kombination können Unternehmen ihre KI-Lösungen optimieren, um gezielte und effektive Ergebnisse zu liefern. Diese praktische Erkundung hat als klares Beispiel für Führungskräfte der C-Suite und andere nicht-technische Stakeholder gedient, wie KI an spezifische Geschäftsziele angepasst und Entscheidungsprozesse verbessert werden können.

In zukünftigen Diskussionen werden wir weiterhin den Einfluss der Hinzufügung eines feinabgestimmten Modells zu unserem KI-Toolkit erforschen, wobei tiefergehende Einsichten bereitgestellt werden, wie diese Techniken nahtlos integriert werden können, um die KI-Fähigkeiten zu verfeinern.

Hier sind weitere coole Artikel

Lesen Sie, was als nächstes kommt