Het ondersteuningsteam van Arc Raiders, onder leiding van ontwikkelaar Embark Studios, zou ChatGPT hebben gebruikt om een vraag van een speler te behandelen. Tijdens dit proces zijn er per ongeluk meerdere berichten verzonden die blijkbaar voor andere spelers bestemd waren.
Incident met ChatGPT
Een Reddit-gebruiker met de naam a1vmp1 beweert: “De Arc Raiders support chat heeft me per ongeluk een HOEVEELHEID berichten van andere mensen gestuurd” in chats die gemarkeerd zijn door ChatGPT-prompt en antwoorduitwisselingen.
“Dus als je op de een of andere manier langs de AI-chatbots kunt komen, eindig je uiteindelijk met een echte medewerker die een AI-chatbot gebruikt. Zo ontstaan fouten als deze,” klaagt de speler.
“Maak een kort antwoord,” luidt een vermeende prompt aan de chatbot. “ChatGPT zei: Schrijven,” staat er boven een tussenantwoord boven het daadwerkelijke ondersteuningsbericht.
“Vraag om een screenshot van de huidige vaardigheidsbomen,” is een andere vermeende prompt. Het antwoord dat op basis van deze prompt lijkt te zijn gegenereerd, luidt gedeeltelijk: “Kunt u een screenshot van uw huidige vaardigheidsboom geven waarin uw beschikbare vaardigheidspunten worden weergegeven?” Dit patroon herhaalt zich meerdere keren door de keten van berichten, die naar schatting ongeveer 10 afzonderlijke uitwisselingen bevat.
Voorbeelden van prompts en antwoorden
Reactie van de speler
In een reactie op Reddit verduidelijkte a1vmp1 dat ze gebruiker 762 zijn in de berichtenketen. Het ondersteuningsantwoord aan 762, die klaagde over het verlies van een volledige uitrusting “binnen 20 seconden na het spawnen vanwege een probleem in het spel,” luidde:
“We begrijpen uw frustratie, en het spijt ons dat deze herhaalde problemen u zoveel tijd en hardverdiende uitrusting hebben gekost. We waarderen het dat u de opnames heeft verstrekt en we begrijpen uw zorgen over het verliezen van items door omstandigheden buiten uw controle.
Hoewel we niet in staat zijn om verloren items of proefresultaten te herstellen, zorgen we ervoor dat uw feedback over deze problemen wordt gedeeld met het relevante team voor verdere beoordeling.
Dank u voor het nemen van de tijd om dit te melden en voor uw geduld.”
De vermeende prompt voor dit bericht was opnieuw: “Maak een kort antwoord.” Ik heb dit bericht door AI-gegenereerde tekstdetectietools van Grammarly, Solvely en GPTZero laten lopen, en allemaal beoordeelden ze het als 100% AI-gemaakt. Hetzelfde geldt voor een ander bericht dat ik heb beoordeeld.
Spelersreacties en gevolgen
Dat een groot gamebedrijf AI ergens in zijn proces gebruikt, is geen grote verrassing, vooral niet omdat Embark bekend staat om het gebruik van AI in veel toepassingen die gericht zijn op games. Spelers van Arc Raiders die reageren op de oorspronkelijke Reddit-post lijken echter geamuseerd door de fout en gefrustreerd door de presentatie. Net als veel mensen zijn ze moe van het praten met robots in ondersteuningsgesprekken.
Dit lijkt een ander voorbeeld te zijn van hoe moeilijk het kan zijn om een echte persoon te bereiken in de huidige webomgeving. Ironisch genoeg is het bijzonder passend, omdat Arc Raiders in wezen gaat over robots die mensen vervangen. Zelfs voorgeprogrammeerde, gekopieerde berichten die door een mens zijn geselecteerd en verzonden, zouden wellicht nog beter zijn.
“Iemand gaat ontslagen worden,” speculeert een speler (hoewel dat onwaarschijnlijk lijkt, aangezien er geen gevoelige informatie lijkt te zijn gelekt als gevolg van deze fout).
“Het voelt bijzonder gemeen om platitudes te horen zoals ‘we begrijpen uw frustratie’ wanneer ‘we’ hier niet eens echt zijn. Er is geen mens die daadwerkelijk om je geeft, dus de uitspraak is waardeloos,” klaagt een andere speler. “Ik denk dat ik het liever heb dat de minimumloonwerker doet alsof hij om me geeft, dan dat een LLM dat simuleert,” voegt hij eraan toe.
De ontwikkelaars van Arc Raiders weten dat PvE “polariserend” is geweest en beloven de “algemene gezondheid en speelbaarheid” van de game prioriteit te geven bij het beslissen wat ze de volgende keer moeten doen.