KI-Versagen legt 64 Millionen Bewerberdaten offen
Bei McDonald’s führte ein KI-Versagen in der Recruiting-Plattform zu einem Datenleck, bei dem persönliche Informationen von Bewerbenden ungeschützt zugänglich waren.
KI-Chatbot enthüllt sensible Bewerbungsdaten – über 64 Millionen Einträge einsehbar.
Foto: PantherMedia / itchaznong
Sicherheitsforscher haben eine gravierende Schwachstelle bei der US-Firma Paradox entdeckt, über die sich sensible Daten von bis zu 64 Mio.Bewerberinnen und Bewerbern abrufen ließen. Paradox stellt Unternehmen KI-basierte Recruiting-Tools zur Verfügung – darunter auch den Chatbot „Olivia“, den etwa McDonald’s in seinen Filialen für die Personalsuche einsetzt. Und genau „Olivia“ hat versagt.
Der Chatbot soll den Bewerbungsprozess automatisieren und beschleunigen, stellt allerdings teils ungewöhnliche Fragen und sammelt dabei eine große Menge persönlicher Informationen. Offenbar fehlte es dem Anbieter dabei an einem robusten Sicherheitskonzept: Die entdeckte Lücke erlaubte unautorisierten Zugriff auf Bewerberdaten – ein erhebliches Risiko für Datenschutz und Privatsphäre.
Paradox hat nach eigenen Angaben rasch reagiert und die Sicherheitslücke geschlossen. Über den Vorfall hatte zuerst heise online berichtet.
Wie der Chatbot Olivia bei McDonald’s Bewerbungen sammelt
Die Rekrutierungsplattform McHire, auf die rund 90 % der McDonald’s-Franchisenehmer setzen, basiert auf einem Chatbot-System. Bewerberinnen und Bewerber kommunizieren dabei mit dem Bot Olivia, der vom Unternehmen Paradox.ai entwickelt wurde. Olivia sammelt dabei persönliche Informationen, fragt nach Schichtpräferenzen und führt sogar Persönlichkeitstests durch. Aufmerksam wurden Sicherheitsforschende schließlich durch mehrere Beiträge auf Reddit, die das Vorgehen kritisch beleuchteten.
Reddit-Nutzer kritisieren den Bewerbungsprozess mit Olivia
Wie zahlreiche Beiträge auf Reddit zeigten, lief im Bewerbungsprozess mit dem KI-Chatbot Olivia offenbar einiges schief. Nutzer berichteten davon, dass sie zunächst grundlegende Angaben wie Name und Kontaktdaten machen mussten, dann jedoch eine lange Reihe identischer Fragen mehrfach beantworten sollten – gefolgt von einem rund 45-minütigen Bewerbungstest, der erneut dieselben Informationen abfragte. Der Lebenslauf wurde erst ganz am Ende verlangt, was viele als widersinnig empfanden. Was als effizienter Einstiegsprozess gedacht war, wirkte auf viele eher abschreckend und unnötig kompliziert. Der Chatbot erinnerte laut Kritikern eher an ein schlecht programmiertes Skript als an eine durchdachte KI-Lösung.
Sicherheitsforschende starten Tests
Die Sicherheitsforschenden begannen ihre Untersuchung mit einer kurzen Überprüfung der McHire-Plattform, die nur wenige Stunden dauerte. Dabei entdeckten sie zwei gravierende Schwachstellen: Zum einen akzeptierte die Verwaltungsoberfläche für Restaurantbesitzer noch die Standard-Zugangsdaten „123456:123456“. Zum anderen ermöglichte eine unsichere direkte Objektverweisung (IDOR) in einer internen Programmierschnittstelle (API) den Zugriff auf beliebige Kontakte und Chat-Verläufe. Durch die Kombination dieser Sicherheitslücken konnten sie – und potenziell auch andere mit einem McHire-Konto und Zugriff auf ein Postfach – auf die persönlichen Daten von über 64 Mio. Bewerbern zugreifen.
Im nächsten Schritt testeten die Forschenden den Bewerbungsprozess selbst. Sie starteten mit einer Bewerbung bei einem lokalen McDonald’s, wobei sie die öffentlich zugängliche Seite von McHire nutzten. Dabei wurden sie direkt zum Chatbot Olivia weitergeleitet, der sie durch die Eingabe von E-Mail, Telefonnummer und Schichtpräferenzen führte – gefolgt von einem Persönlichkeitstest, der als nächster Schritt im Verfahren vorgesehen ist.
„Leider kamen wir danach nicht weiter und schienen auf eine manuelle Überprüfung durch Menschen zu warten. Wir versuchten, den Olivia-Chatbot durch sogenannte Prompt-Injection zu manipulieren, was vermutlich unsere Chancen auf eine positive menschliche Bewertung ruinierte. Der Bot schien jedoch auf eine Liste vordefinierter Antworten oder Ähnliches beschränkt zu sein, und es gab keine interessanten APIs für Bewerber“, – in einem Blogbeitrag haben die Sicherheitsforschenden ausführlich beschrieben, was dabei alles schiefgelaufen ist.
Ob sich tatsächlich über 64 Mio. Menschen bei McDonald’s beworben haben, ist fraglich – die Sicherheitsforschenden gehen aber von dieser Zahl aus. Der Grund: Jede Bewerbung ist im System mit einer eigenen ID versehen. In ihrem Test lag diese ID bereits bei über 64 Mio. Als die Forschenden die Nummer manuell veränderten, konnten sie problemlos auf weitere Bewerbungen zugreifen – inklusive ungeschützter Kontaktdaten und kompletter Chat-Verläufe mit dem KI-Chatbot. Für ihren Testbewerber lag diese bei 64.185.742. Als sie versuchten, diese Zahl zu verringern, erhielten sie sofort personenbezogene Daten (PII) eines anderen Bewerbers von McDonald’s – darunter auch ungeschützte Kontaktdaten!
Sie erkannten schnell, dass diese API Zugriff auf alle jemals bei McDonald’s eingegangenen Chat-Interaktionen ermöglicht. Die zurückgegebenen Daten umfassten unter anderem:
- Name, E-Mail-Adresse, Telefonnummer und Adresse der Bewerbenden
- den aktuellen Status der Bewerbung sowie alle Änderungen und Eingaben im Bewerbungsformular (z. B. bevorzugte Schichten)
- einen Authentifizierungstoken, mit dem man sich als Bewerber oder Bewerberin im System einloggen und die Chatnachrichten sowie vermutlich weitere persönliche Daten einsehen konnte
Sicherheitsprüfungen angekündigt
Als den Forschenden das Ausmaß der Sicherheitslücke klar wurde, meldeten sie das Problem umgehend. Da es keine offiziellen Ansprechpartner gab, verschickten sie zunächst wahllos E-Mails. Die Paradox.ai-Sicherheitsseite beruhigte anfangs nur pauschal.
Erst nachdem die Meldung die richtigen Personen erreichte, reagierte das Paradox.ai-Team schnell, schloss die Lücke und kündigte weitere Sicherheitsprüfungen an.
Ein Beitrag von:
