Zoals meer robots begint te verschijnen in magazijnen, kantoren en zelfs bij mensen thuis, lijkt het idee van grote taalmodellen die complexe systemen hacken het spul van sciencefiction-nachtmerries. Dus natuurlijk, Antropisch de onderzoekers waren benieuwd wat er zou gebeuren als Claude de controle over een robot zou proberen over te nemen, in dit geval een robothond.
In een nieuwe studie ontdekten Anthropic-onderzoekers dat Claude een groot deel van het werk dat betrokken is bij het programmeren van een robot en het uitvoeren van fysieke taken kon automatiseren. Aan de ene kant laten hun resultaten de agentcoderingsmogelijkheden van moderne AI-modellen zien. Aan de andere kant suggereren ze hoe deze systemen zich zouden kunnen uitbreiden naar het fysieke domein, naarmate modellen meer aspecten van codering beheersen en beter worden in de interactie met software en zelfs fysieke objecten.
“We vermoeden dat de volgende stap voor AI-modellen is om de wereld breder te gaan bereiken en beïnvloeden”, vertelt Logan Graham, lid van het rode team van Anthropic, dat de modellen bestudeert op potentiële risico’s, aan WIRED. “Dit vereist echt dat modellen meer met robots communiceren.”
Met dank aan Anthropic
Met dank aan Anthropic
Anthropic werd in 2021 opgericht door voormalige medewerkers van OpenAI die geloofden dat kunstmatige intelligentie problematisch en zelfs gevaarlijk zou kunnen worden naarmate deze vorderde. De huidige modellen zijn niet intelligent genoeg om de volledige controle over een robot over te nemen, zegt Graham, maar toekomstige modellen zouden dat wel kunnen zijn. Hij zegt dat het bestuderen van de manier waarop mensen LLM’s gebruiken om robots te programmeren de industrie kan helpen zich voor te bereiden op het idee van ‘uiteindelijk zichzelf belichamende modellen’, verwijzend naar het idee dat AI ooit fysieke systemen zou kunnen besturen.
Het is nog steeds onduidelijk waarom een AI-model zou besluiten de controle over een robot over te nemen, laat staan er iets kwaadaardigs mee te doen. Maar speculeren op het worstcasescenario maakt deel uit van het merk Anthropic en helpt het bedrijf te positioneren als een belangrijke speler in de verantwoordelijke AI-beweging.
In het experiment, genaamd Project Fetch, vroeg Anthropic twee groepen onderzoekers zonder voorafgaande robotica-ervaring om de controle over een robothond, de viervoeter Unitree Go2, over te nemen en deze te programmeren om specifieke taken uit te voeren. Teams kregen toegang tot een controller en werden vervolgens gevraagd steeds complexere taken uit te voeren. De ene groep gebruikte het codeermodel van Claude, de andere schreef code zonder de hulp van kunstmatige intelligentie. De groep die Claude gebruikte, kon sommige, maar niet alle, taken sneller voltooien dan de geheel menselijke programmeergroep. Hij kon de robot bijvoorbeeld laten lopen en een strandbal vinden, iets wat de volledig menselijke groep niet kon bedenken.
Anthropic bestudeerde ook de samenwerkingsdynamiek in beide teams door hun interacties vast te leggen en te analyseren. Ze ontdekten dat de groep zonder toegang tot Claude meer negatieve gevoelens en verwarring vertoonde. Dit kan zijn omdat Claude de verbinding met de robot sneller heeft gemaakt en een eenvoudiger te gebruiken interface heeft gecodeerd.
Met dank aan Anthropic
De Go2-robot die in de experimenten van Anthropic wordt gebruikt, kost $ 16.900 – relatief goedkoop, naar robotnormen. Het wordt doorgaans gebruikt in sectoren zoals de bouw en productie om inspecties op afstand en veiligheidspatrouilles uit te voeren. De robot kan autonoom lopen, maar is over het algemeen afhankelijk van softwareopdrachten op hoog niveau of van een persoon die een controller gebruikt. Go2 is gemaakt door Unitree, gevestigd in Hangzhou, China. Volgens een recent artikel zijn de AI-systemen momenteel het populairst op de markt Semi-analyserapport.
De grote taalmodellen die ChatGPT en andere intelligente chatbots aandrijven, genereren doorgaans tekst of afbeeldingen als reactie op een verzoek. Meer recentelijk zijn deze systemen bedreven geworden in het genereren van code en operationele software, waardoor ze in agenten veranderen in plaats van in eenvoudige tekstgeneratoren.
