A kunstmatige intelligentie De onderzoeker verliet deze week zijn baan bij het Amerikaanse bedrijf Anthropic met een cryptische waarschuwing over de toestand van de wereld, wat het laatste ontslag markeerde in een golf van vertrek over veiligheidsrisico’s en ethische dilemma’s.
In een brief gepubliceerd op XMrinank Sharma schreef dat hij tijdens zijn verblijf alles heeft bereikt waar hij op hoopte NAAR DE beveiligingsbedrijf en was trots op zijn inspanningen, maar liet de vrees buiten beschouwing dat de ‘wereld in gevaar was’, niet alleen door kunstmatige intelligentie, maar door ‘een hele reeks onderling verbonden crises’, variërend van bioterrorisme tot zorgen over de ‘kap’ van de industrie.
Hij zei dat hij zich geroepen voelde om te schrijven, een graad in poëzie te behalen en zich te wijden ‘aan de praktijk van moedig spreken’.
“Tijdens mijn tijd hier heb ik keer op keer gezien hoe moeilijk het is om onze waarden onze daden te laten bepalen”, vervolgde hij.
Anthropic werd in 2021 opgericht door een afgescheiden groep voormalige OpenAI-medewerkers die zich inzetten voor het ontwerpen van een meer op veiligheid gerichte benadering van AI-ontwikkeling dan zijn concurrenten.
Ontvang dagelijks nationaal nieuws
Ontvang het belangrijkste nieuws, de politieke, zakelijke en actuele krantenkoppen van de dag één keer per dag rechtstreeks in uw inbox.
Anthropic heeft rapporten gepubliceerd waarin de veiligheid van zijn producten wordt geschetst, waaronder Claude, zijn brede taalmodel met hybride redenering, en presenteert zichzelf als een bedrijf dat zich inzet voor het bouwen van betrouwbare en begrijpelijke AI-systemen.
Het bedrijf kwam vorig jaar onder vuur te liggen nadat het ermee instemde 1,5 miljard dollar te betalen om een class action-rechtszaak te schikken die was aangespannen door een groep auteurs die beweerden dat het bedrijf illegale versies van hun werk gebruikte om zijn kunstmatige-intelligentiemodellen te trainen.
Sharma’s ontslag komt in dezelfde week dat OpenAI-onderzoeker Zoë Hitzig haar ontslag aankondigde in een week essay in de New York Timesdaarbij verwijzend naar zorgen over de advertentiestrategie van het bedrijf, inclusief het plaatsen van advertenties in ChatGPT.
“Ik geloofde ooit dat ik mensen kon helpen bij het ontwikkelen van AI om de problemen te overwinnen die het zou veroorzaken. Deze week bevestigde ik mijn langzame besef dat OpenAI lijkt te zijn gestopt met het stellen van de vragen die ik had ondertekend om te helpen beantwoorden”, schreef hij.
“Mensen vertellen chatbots over hun medische angsten, hun relatieproblemen, hun overtuigingen over God en het hiernamaals. Advertenties op basis van dat archief creëren de mogelijkheid om gebruikers te manipuleren op manieren die we niet kunnen begrijpen, laat staan voorkomen.”
Anthropic en OpenAI waren onlangs verwikkeld in een publieke ruzie na Anthropic plaatste een Super Bowl-advertentie kritiek op het besluit van OpenAI om advertenties op ChatGPT weer te geven.
In 2024 verklaarde OpenAI-CEO Sam Altman dat hij geen fan was van het gebruik van advertenties en dat hij deze als “laatste redmiddel” zou gebruiken.
Vorige week betwistte hij de bewering van de commercial dat het opnemen van advertenties misleidend was met een lange post waarin hij Anthropic bekritiseerde.
“Ik denk dat het in overeenstemming is met de dubbele taal van Anthropic om een misleidende advertentie te gebruiken om theoretische misleidende advertenties te bekritiseren die niet echt zijn, maar een Super Bowl-advertentie is niet waar ik zou verwachten”, schreef hij, eraan toevoegend dat de advertenties vrije toegang zullen blijven toestaan, wat volgens hem “agentschap” creëert.
Medewerkers van concurrerende bedrijven – Hitzig en Sharma – uitten beiden hun ernstige bezorgdheid over de erosie van de leidende principes die zijn opgesteld om de integriteit van AI te behouden en de gebruikers ervan tegen manipulatie te beschermen.
Hitzig schreef dat er mogelijk al sprake is van een potentiële “erosie van de principes van OpenAI om de betrokkenheid te maximaliseren” bij het bedrijf.
Sharma zei dat hij zich zorgen maakte over het vermogen van AI om ‘de mensheid te verstoren’.
© 2026 Global News, een divisie van Corus Entertainment Inc.
