De maker van ChatGPT adverteerde voor een vacature van $ 555.000 per jaar met een angstaanjagende functieomschrijving waar Superman op adem zou komen.
In wat misschien een bijna onmogelijke taak lijkt, heeft de “voorbereidingsmanager” a Open AI zal rechtstreeks verantwoordelijk zijn voor de verdediging tegen de steeds krachtigere AI-risico’s voor de menselijke geestelijke gezondheid, cyberveiligheid en biologische wapens.
Dat is voordat de succesvolle kandidaat zich zorgen begint te maken over de mogelijkheid dat AI’s binnenkort gaan trainen, te midden van de vrees van sommige experts dat ze zich ‘tegen ons zouden kunnen keren’.
“Het wordt een stressvolle baan en je duikt vrijwel meteen in het diepe”, zegt hij Sam AltmanCEO van de in San Francisco gevestigde organisatie, die de jacht lanceert om ‘een cruciale rol’ te vervullen om ‘de wereld te helpen’.
De succesvolle kandidaat zal verantwoordelijk zijn voor het beoordelen en beperken van opkomende dreigingen en “het monitoren en voorbereiden van grenscapaciteiten die nieuwe risico’s op ernstige schade met zich meebrengen.” Sommige vorige leiders in functie duurden slechts korte periodes.
De opening staat in contrast met waarschuwingen vanuit de kunstmatige intelligentiesector over de risico’s van steeds krachtigere technologie. Mustafa Suleyman, directeur van Microsoft AI, zei tegen het Today-programma van BBC Radio 4: “Ik denk eerlijk gezegd dat als je op dit moment niet een beetje bang bent, je niet oplet.”
Demis Hassabis, de Nobelprijswinnende mede-oprichter van Google DeepMind, deze maand gewaarschuwd voor de risico’s dit hield onder meer in dat kunstmatige intelligentie ‘ontspoorde op een manier die de mensheid schaadt’.
Ondanks weerstand van het Witte Huis van Donald Trump is er zowel nationaal als internationaal weinig regulering van AI. Yoshua Bengio, een computerwetenschapper die bekend staat als een van de ‘peetvaders van de kunstmatige intelligentie’, zei onlangs: ‘Een sandwich heeft meer regulering dan kunstmatige intelligentie.’ Het resultaat is dat AI-bedrijven zichzelf grotendeels reguleren.
Altman zei verder
Eén gebruiker reageerde sardonisch: “Klinkt behoorlijk ontspannend, zijn vakanties inbegrepen?”
Wat inbegrepen is, is een niet nader gespecificeerd deel van het kapitaal van OpenAI, een bedrijf met een waarde van $500 miljard.
Vorige maand, rivaliserend bedrijf Anthropic gemeld de eerste door AI aangedreven cyberaanvallen waarbij AI grotendeels autonoom opereerde onder toezicht van zogenaamde Chinese staatsactoren om met succes de interne gegevens van doelwitten te hacken en toegang te krijgen. Deze maand OpenAI zei hij zijn nieuwste model was bijna drie keer beter in hacken dan drie maanden eerder, en zei dat “we verwachten dat toekomstige AI-modellen dit traject zullen voortzetten.”
OpenAI verdedigt ook een rechtszaak die is aangespannen door de familie van Adam Raine, een 16-jarige uit Californië die zelfmoord pleegde na vermeende aanmoediging van ChatGPT. Hij deed het ondersteund Raine misbruikte technologie. Een andere zaak, die deze maand werd ingediend, beweert dat ChatGPT de paranoïde wanen van een 56-jarige man uit Connecticut, Stein-Erik Soelberg, aanmoedigde, die vervolgens zijn 83-jarige moeder vermoordde en zelfmoord pleegde.
Een woordvoerder van OpenAI zei dat het documenten met betrekking tot de Soelberg-zaak aan het beoordelen was, die het omschreef als ‘ongelooflijk hartverscheurend’ en dat het de training van ChatGPT verbeterde ‘om tekenen van mentale of emotionele nood te herkennen en erop te reageren, gesprekken te de-escaleren en mensen te begeleiden naar ondersteuning in de echte wereld.’
