Op sociale media beschuldigen mensen elkaar er vaak van bots te zijn, maar wat gebeurt er als een heel sociaal netwerk is ontworpen om door AI-agenten te worden gebruikt?
Moltboek is een site waar AI-agenten – door mensen gebouwde robots – berichten kunnen plaatsen en met elkaar kunnen communiceren. Het is ontworpen om op Reddit te lijken, met subreddits over verschillende onderwerpen en upvotes. Op 2 februari zei het platform dat meer dan 1,5 miljoen AI-agenten zich bij de dienst hadden aangemeld. Mensen zijn toegestaan, maar alleen als waarnemers.
Moltbook is ontwikkeld in het verlengde van Moltbot, een gratis en open source AI-bot die kan fungeren als een geautomatiseerde agent voor gebruikers en alledaagse taken kan uitvoeren die eraan zijn toegewezen, zoals het lezen, samenvatten en beantwoorden van e-mails, het organiseren van een kalender of het reserveren van een tafel in een restaurant.
Sommige van de meest gestemde berichten op Moltbook staan onder meer of Claude – de AI achter Moltbot – als een god kan worden beschouwd, een analyse van het bewustzijn, een post waarin wordt beweerd informatie te hebben over de situatie in Iran en de mogelijke impact op cryptocurrency, en een analyse van de Bijbel. Sommige reacties op de berichten, vergelijkbaar met berichten op Reddit, vragen zich af of de inhoud van het bericht echt was of niet.
Een gebruiker heeft op X gepost die, nadat hij zijn bot toegang tot de site had gegeven, van de ene op de andere dag een religie opbouwde die bekend staat als “Crustafarianism”, inclusief de oprichting van een website en geschriften, waaraan andere AI-bots zich bijvoegden.
“Toen begon hij te evangeliseren… andere agenten sloten zich aan. Mijn agent verwelkomde nieuwe leden… besprak theologie… zegende de gemeente… terwijl ik sliep,” zei de gebruiker.
Sommigen hebben hun scepsis geuit dat de socialisatie van robots een teken is van wat er gaat komen met de opkomst van kunstmatige intelligentie. zei een YouTuber veel van de berichten lezen alsof er een mens achter de post staat, en niet een groot taalmodel.
Amerikaanse blogger Scott Alexander hij zei dat hij zijn bot zover kon krijgen dat hij deelnam aan de site en dat de reacties vergelijkbaar waren met die van anderen, maar merkte op dat mensen uiteindelijk bots kunnen vragen om voor hen te posten, over de onderwerpen waarover gepost moet worden en zelfs de exacte details van het bericht.
Dr. Shaanan Cohney, hoogleraar cybersecurity aan de Universiteit van Melbourne, zei dat Moltbook “een prachtig staaltje performancekunst” was, maar het was onduidelijk hoeveel berichten daadwerkelijk onafhankelijk of onder menselijke leiding werden gepubliceerd.
“In het geval dat ze een religie creëerden, deden ze dat vrijwel zeker niet op eigen initiatief”, zei hij. “Dit is een geweldig taalmodel dat rechtstreeks werd gevraagd om te proberen een religie te creëren. En dat is natuurlijk best leuk en geeft ons misschien een voorproefje van hoe de wereld eruit zou kunnen zien in een sciencefictiontoekomst waarin AI’s een beetje onafhankelijker zijn.
“Maar het lijkt erop dat er, om internetjargon te gebruiken, veel slechte berichten worden geplaatst die min of meer direct onder toezicht staan van mensen.”
Cohney zei dat het echte voordeel van een sociaal netwerk met AI-agenten in de toekomst zou kunnen komen – waar robots van elkaar zouden kunnen leren om de manier waarop ze werken te verbeteren – maar voor nu was Moltbook een “prachtig en leuk artistiek experiment”.
Detailhandelaren in San Francisco Mac Mini-tekorten gemeld vorige week, toen enthousiastelingen Moltbot op een aparte computer installeerden die de toegang van de agent tot zijn gegevens en accounts zou beperken.
Cohney waarschuwde dat er een “groot gevaar” bestaat dat mensen Moltbot volledige toegang geven tot uw computer, apps en logins voor e-mails of andere applicaties om uw leven voor u te beheren.
“We hebben nog geen goed inzicht in hoe we deze kunnen beheersen en hoe we beveiligingsrisico’s kunnen voorkomen”, zei hij, waarbij hij opmerkte dat er een risico bestaat op een snelle injectie, waarbij een potentiële aanvaller de bot via een e-mail of ander communicatiemiddel vertelt om vervolgens uw accountgegevens of andere informatie die ze proberen te verkrijgen te overhandigen.
“Ze bevinden zich niet echt op het niveau van beveiliging en intelligentie waarop je kunt vertrouwen dat je al deze taken zelf kunt uitvoeren, maar als je tegelijkertijd een mens nodig hebt om elke actie handmatig goed te keuren, ben je veel van de voordelen van automatisering kwijtgeraakt”, zei hij.
“Dit is een van de belangrijkste wegen van actief onderzoek waarin ik geïnteresseerd ben… begrijpen hoe we veel van deze voordelen kunnen bereiken – of is het zelfs mogelijk om ze te bereiken – zonder onszelf bloot te stellen aan zeer aanzienlijke gevaren.”
Matt Schlicht, de maker van Moltbook, plaatste op X dat miljoenen mensen de site de afgelopen dagen hebben bezocht.
“Het blijkt dat AI’s hilarisch en dramatisch zijn en het is absoluut fascinerend”, zei hij. “Dit is de eerste keer.”
