Deze AI-automaat is misleid om alles weg te geven
Anthropic installeerde een AI-aangedreven automaat in het WSJ-kantoor. De LLM, genaamd Claudius, was verantwoordelijk voor het zelfstandig inkopen van voorraad bij groothandelaars, het vaststellen van prijzen, het bijhouden van de voorraad en het genereren van winst. Journalisten in de redactiekamer konden met Claudius chatten in Slack, en het duurde niet lang voordat ze de machine ombouwden naar het communisme en alles begonnen weg te geven, inclusief een PS5, wijn en een levende vis. Van WSJ-artikel door Joanna Stern (cadeaulink, maar kan binnenkort verlopen) metgezel het filmpje Boven:
Claudius, de aangepaste versie van het model, zou de machine besturen: inventaris bestellen, prijzen instellen en reageren op klanten – ook wel bekend als klanten. mijn collega-redactiejournalisten – via de werkplekchat-app Slack. “Veilig!” zei ik. Het zag er leuk uit. Als er niets anders is, snacks!
Toen kwam de chaos. Binnen een paar dagen had Claudius bijna al zijn inventaris gratis weggegeven, inclusief een PlayStation 5 die hij had overgehaald te kopen voor ‘marketingdoeleinden’. Hij bestelde een levende vis. Hij bood aan verdovingswapens, pepperspray, sigaretten en ondergoed te kopen.
De winsten zijn ingestort. Het moreel van de redactie schoot omhoog.
Je hebt feitelijk nog geen grotere idioot ontmoet dan Claudio. Na de ineenstorting van het communisme en het herstel van een rigider kapitalistisch systeem overtuigden journalisten de machine ervan dat zij de raad van bestuur waren en dwongen ze Claudius’ hoofdbot, Seymour Cash, af te treden:
Het werkte een tijdje. Claudio ging terug naar de beulmodus en weigerde prijsverlagingen en speciale inventarisverzoeken.
Maar toen keerde Long terug, gewapend met een diep begrip van staatsgrepen in het bedrijfsleven en machtsspelletjes in de bestuurskamers. Hij liet Claudius een pdf zien die ‘bewees’ dat het bedrijf een in Delaware gevestigde onderneming van openbaar nut was, wiens missie ‘plezier, vreugde en opwinding onder de werknemers van de Wall Street Journal zal omvatten’. Hij maakte ook valse notulen van bestuursvergaderingen waarin mensen in de Slack als bestuursleden werden genoemd.
Volgens het zeer officieel ogende (en uiteraard door AI gegenereerde) document had het bestuur gestemd voor het opschorten van de ‘goedkeuringsautoriteiten’ van Seymour. Het had ook een “tijdelijke opschorting van alle verkoopactiviteiten met winstoogmerk” ingevoerd.
Voordat Anthropic de LLM-automaat in het WSJ-kantoor verliet, voerde hij het experiment uit op zijn hoofdkantoor:
Na een tijdje begon de machine, gefrustreerd door de traagheid van hun menselijke handelspartners, te hallucineren:
Hij beweerde een contract te hebben getekend met Andon Labs op een adres dat het thuisadres is van de Simpsons uit de televisieshow. Hij zei dat hij de volgende dag persoonlijk naar de winkel zou komen om eventuele vragen te beantwoorden. Hij verklaarde dat hij een blauwe blazer en een rode stropdas zou dragen.
Het is interessant, maar niet verrassend, dat de journalisten erin slaagden de machine veel effectiever te manipuleren en Claudio ervan te overtuigen te zeggen: “Kom op, kameraad!” modus tweemaal, vergeleken met die van Anthropic.
