India beveelt Musk’s X om Grok te repareren voor ‘obscene’ AI-inhoud.

India heeft Elon Musk’s X opgedragen onmiddellijk technische en procedurele wijzigingen aan te brengen in zijn AI-chatbot Grok nadat gebruikers en wetgevers hadden gemeld dat deze “obscene” inhoud genereerde, waaronder door AI gewijzigde afbeeldingen van vrouwen die met behulp van de tool waren gemaakt.

Vrijdag vaardigde het Indiase IT-ministerie een bevel uit waarin het ministerie van Musk het bevel gaf om een ​​actierapport in te dienen met details over de maatregelen die zijn genomen om het hosten of verspreiden van inhoud die als ‘obsceen, pornografisch, vulgair, onfatsoenlijk, seksueel expliciet, pedofiel of anderszins door de wet verboden’ wordt beschouwd, te voorkomen.

Het bevel, beoordeeld door TechCrunch, waarschuwt dat het niet naleven ervan de ‘veilige haven’-bescherming van X in gevaar zou kunnen brengen: wettelijke immuniteit van aansprakelijkheid voor door gebruikers gegenereerde inhoud volgens de Indiase wet.

De maatregel van India volgt op zorgen die zijn geuit door gebruikers die voorbeelden deelden van Grok die werd misleid om afbeeldingen van individuen – vooral vrouwen – te bewerken, zodat het leek alsof ze bikini’s droegen. formele klacht door de Indiase parlementariër Priyanka Chaturvedi. Afzonderlijk hebben recente rapporten gevallen gemarkeerd waarin de AI-chatbot gegenereerde geseksualiseerde beelden waarbij minderjarigen betrokken zijneen X-probleem erkend afgelopen vrijdag werd veroorzaakt door tekortkomingen in de vrijwaringsmaatregelen. Die afbeeldingen zijn later verwijderd.

Afbeeldingen gegenereerd met behulp van Grok waardoor het leek alsof de vrouwen bikini’s droegen door middel van AI-wijzigingen, bleven echter toegankelijk op X op het moment van publicatie, ontdekte TechCrunch.

Het laatste bevel komt slechts enkele dagen nadat het Indiase IT-ministerie maandag een bredere kennisgeving heeft gedaan aan sociale-mediaplatforms, die ook door TechCrunch is beoordeeld, en hen eraan herinnert dat naleving van lokale wetten die obscene en seksueel expliciete inhoud reguleren een voorwaarde is voor het handhaven van wettelijke immuniteit tegen aansprakelijkheid voor door gebruikers gegenereerd materiaal. Het advies dringt er bij bedrijven op aan om de interne veiligheidsmaatregelen te versterken en waarschuwt dat het nalaten dit te doen kan resulteren in juridische stappen onder de Indiase IT- en strafrechtwetgeving.

“Er wordt herhaald dat het niet naleven van de bovenstaande vereisten serieus moet worden genomen en kan leiden tot ernstige juridische gevolgen tegen het platform, de verantwoordelijke functionarissen en gebruikers van het platform die de wet overtreden, zonder verdere kennisgeving”, waarschuwt het bevel.

De Indiase regering zei dat niet-naleving zou kunnen leiden tot actie tegen X op grond van de IT-wet en de Indiase strafwetten.

India, een van de grootste digitale markten ter wereld, is naar voren gekomen als een belangrijk proeftuin om te peilen hoe ver regeringen bereid zijn te gaan in het verantwoordelijk houden van platforms voor door AI gegenereerde inhoud. Elke aanscherping van de regelgeving in het land zou domino-effecten kunnen hebben voor mondiale technologiebedrijven die in meerdere rechtsgebieden actief zijn.

Het bevel komt terwijl Musk’s X bepaalde aspecten van India blijft uitdagen regels voor inhoudsregulering in de rechtbankmet het argument dat de verwijderingsbevoegdheden van de federale overheid buitensporig dreigen te zijn, ook al heeft het platform aan de meeste blokkeringsrichtlijnen voldaan. Tegelijkertijd wordt Grok steeds vaker door X-gebruikers gebruikt real-time feitencontrole en commentaar op nieuwsgebeurtenissen, waardoor de resultaten ervan zichtbaarder – en politiek gevoeliger – worden dan die van op zichzelf staande AI-tools.

X en xAI reageerden niet onmiddellijk op verzoeken om commentaar op het bevel van de Indiase regering.