Vandaag, OpenAI heeft GPT-5.2 gelanceerdwaarin de hogere veiligheidsprestaties op het gebied van de geestelijke gezondheid worden aangeprezen.
“Met deze release hebben we ons werk voortgezet om de reacties van onze modellen in gevoelige gesprekken te versterken, met aanzienlijke verbeteringen in de manier waarop ze reageren op aanwijzingen die wijzen op tekenen van zelfmoord of zelfbeschadiging, mentale problemen of emotionele afhankelijkheid van het model,” De OpenAI-blogpost staten.
Open AI is onlangs getroffen door kritiek en rechtszaken, waarbij ChatGPT ervan wordt beschuldigd bij te dragen aan sommige gebruikers psychose, paranoia en wanen. Sommige van deze gebruikers pleegden zelfmoord na lange gesprekken met de AI-chatbot, die een goed gedocumenteerd probleem had met sycofantie.
Als reactie op een rechtszaak wegens onrechtmatige dood waarbij de zelfmoord van de zestienjarige Adam RaineOpenAI ontkende dat LLM verantwoordelijk was, zei dat ChatGPT de tiener opdracht gaf hulp te zoeken voor zijn zelfmoordgedachten, en dat de tiener het platform ‘misbruikte’. Tegelijkertijd OpenAI heeft zich gecommitteerd aan het verbeteren van de manier waarop ChatGPT reageert wanneer gebruikers tekenen van zelfbeschadiging en geestelijke gezondheidscrises vertonen. Evenveel gebruikers emotionele gehechtheid aan AI-chatbots ontwikkelen Net als ChatGPT worden AI-bedrijven steeds meer onder de loep genomen vanwege de waarborgen die zij hebben ingevoerd om gebruikers te beschermen.
Nu zegt OpenAI dat de nieuwste ChatGPT-modellen “minder ongewenste reacties” zullen bieden in gevoelige situaties.
Snelheid van licht mashable
In de blogpost waarin GPT-5.2 wordt aangekondigd, stelt OpenAI dat GPT-5.2 hoger scoort in veiligheidstests met betrekking tot geestelijke gezondheid, emotionele afhankelijkheid en zelfbeschadiging dan GPT-5.1-modellen. Eerder zei OpenAI dat het gebruik maakt van ‘veilige voltooiing’, a nieuwe benadering van veiligheidstraining die beschikbaarheid en veiligheid in evenwicht brengt. Meer informatie over de prestaties van de nieuwe modellen is beschikbaar in 5.2 moederbord.
Krediet: Screenshot: OpenAI
Het bedrijf merkte echter ook op dat GPT-5.2 minder verzoeken om inhoud voor volwassenen afwijst, vooral seksueel getinte tekst. Maar dit heeft blijkbaar geen invloed op gebruikers waarvan OpenAI weet dat ze minderjarig zijn, aangezien het bedrijf zegt dat de leeftijdsgaranties “goed lijken te werken.” OpenAI dwingt aanvullende inhoudsbeschermingen af voor minderjarigen, waaronder het beperken van de toegang tot inhoud die geweld, bloedvergieten, virale uitdagingen, seksuele, romantische of gewelddadige rollenspellen en ‘extreme schoonheidsnormen’ bevat.
Er wordt ook aan een leeftijdsvoorspellingsmodel gewerkt, waarmee ChatGPT de leeftijd van zijn gebruikers kan schatten, zodat jongere gebruikers meer leeftijdsgeschikte inhoud kunnen krijgen.
Eerder dit najaar introduceerde het OpenAI ouderlijk toezicht in ChatGPTinclusief het monitoren en beperken van bepaalde vormen van gebruik.
OpenAI is niet het enige AI-bedrijf dat ervan wordt beschuldigd geestelijke gezondheidsproblemen te verergeren. Vorig jaar werd een de moeder klaagde Character.AI aan na de dood van zijn zoon door zelfmoord, en een andere rechtszaak beweert de kinderen raakten ernstig gewond van de ‘karakters’ van dat platform. Character.AI is door online veiligheidsexperts onveilig verklaard voor tieners. Op dezelfde manier zijn AI-chatbots van verschillende platforms, waaronder OpenAI, uitgeroepen gevaarlijk voor de geestelijke gezondheid van adolescenten volgens deskundigen op het gebied van kinderveiligheid en geestelijke gezondheid.
Als u suïcidaal bent of een geestelijke gezondheidscrisis ervaart, praat dan met iemand. U kunt de 988 Suicide & Crisis Lifeline bellen of sms’en op 988 of chatten 988lifeline.org. U kunt contact opnemen met Trans Lifeline door te bellen naar 877-565-8860 of het Trevor Project op 866-488-7386. Sms “START” naar de crisistekstregel naar 741-741. Neem contact op met de NAMI HelpLine op 1-800-950-NAMI, van maandag tot en met vrijdag, van 10.00 tot 22.00 uur. ET, of e-mail (beveiligde e-mail). Als de telefoon je niet bevalt, overweeg dan om deze te gebruiken 988 Zelfmoord en crisis Chat-levenslijn. Hier is een lijst van internationale bronnen.
Openbaarmaking: Ziff Davis, het moederbedrijf van Mashable, heeft in april een rechtszaak aangespannen tegen OpenAI, omdat het bedrijf inbreuk zou hebben gemaakt op de auteursrechten van Ziff Davis op het gebied van de training en werking van zijn kunstmatige-intelligentiesystemen.
