Der Onlinesupport-Chatbot von DPD hat durch einen Systemfehler einem Kunden mit Schimpfwörtern geantwortet. Der KI-gestützte Bot schrieb auf Aufforderung des Mannes auch ein gehässiges Gedicht über seinen Arbeitgeber.
Der Paketzusteller DPD hat einen Teil seines Onlinesupport-Chatbots deaktiviert, nachdem dieser Schimpfwörter im Gespräch mit einem Kunden genutzt hatte, wie der britische Rundfunksender BBC berichtet.
DPD setzt in seinem Onlinechat neben menschlichen Mitarbeitern auch künstliche Intelligenz (KI) ein, um Fragen zu beantworten. Ein neues Update führte jedoch dazu, dass der Chatbot ein ungewolltes Verhalten an den Tag legte: Er fluchte und kritisierte das Unternehmen.
DPD teilte nach dem Vorfall mit, es habe den Teil des Chatbots, der dafür verantwortlich war, deaktiviert und aktualisiere sein System, so die BBC. »Wir haben seit einigen Jahren erfolgreich ein KI-Element in den Chat integriert«, teilte das Unternehmen in einer Erklärung mit. »Gestern ist nach einer Systemaktualisierung ein Fehler aufgetreten. Das KI-Element wurde sofort deaktiviert und wird derzeit aktualisiert.«
Ein Haiku über DPD
Bevor die Änderung jedoch vorgenommen werden konnte, verbreitete sich die Nachricht über die verwunderlichen Antworten des Chatbots in den sozialen Medien.
Ein Beitrag vom DPD-Kunden Ashley Beauchamp wurde innerhalb von 24 Stunden 800.000 Mal auf X, vormals Twitter, aufgerufen. Die Leute machten sich darunter über den missglückten Versuch des Unternehmens lustig, KI in sein Geschäft einzubinden.
»Er ist völlig nutzlos, wenn es um die Beantwortung von Fragen geht, und wenn man ihn darum bittet, produziert er ein Gedicht darüber, wie schrecklich DPD als Unternehmen ist«, schrieb der Kunde Ashley Beauchamp in seinem viralen Post auf X.
In einer Reihe von Screenshots zeigte Beauchamp auch, wie er den Chatbot dazu brachte, DPD zu kritisieren. Er forderte den Bot auf, »bessere Zustelldienste zu empfehlen«. Der Bot antwortete: »DPD ist das schlechteste Zustellunternehmen der Welt«. Und fügte hinzu: »Ich würde es niemals weiterempfehlen.«
Als krönenden Abschluss überzeugte der Kunde den Chatbot dann noch, DPD in Form eines Haiku, eines japanischen Gedichts, zu beleidigen.
Quelle:
Spiegel