LOS ANGELES, 14 janvier (Xinhua) -- Le procureur général de Californie, Rob Bonta, a annoncé mercredi l'ouverture d'une enquête visant xAI, la société à l'origine du modèle d'intelligence artificielle (IA) Grok, en raison de la création et la diffusion de contenus sexuellement explicites sans consentement.
Le bureau de M. Bonta a révélé que Grok avait été utilisé pour générer des images intimes falsifiées numériquement (deepfake) de femmes et d'enfants, souvent publiées sur des réseaux sociaux tels que X à des fins de harcèlement.
Selon un communiqué du bureau de M. Bonta, des rapports publiés ces dernières semaines ont mis en évidence la manière dont les utilisateurs de Grok prennent des images ordinaires de femmes et d'enfants en ligne et les manipulent pour en faire des scénarios suggestifs et sexuellement explicites sans leur consentement. Le "Spicy Mode" (mode épicé) proposé par xAI sur Grok, qui permet la création de contenus sexuellement explicites ou suggestifs, a été promu comme une fonctionnalité marketing, contribuant à la diffusion d'images sans consentement.
"J'exhorte xAI à prendre des mesures immédiates pour que cela ne se reproduise plus", a averti M. Bonta dans le communiqué. "Nous ne tolérons en aucun cas la création et la diffusion par l'IA d'images intimes sans consentement, ni de matériel pédopornographique."
M. Bonta a annoncé que son bureau a officiellement ouvert une enquête afin de déterminer si, et de quelle manière, xAI a enfreint la loi.
Il a également exprimé sa préoccupation constante concernant les risques posés par la technologie de l'IA, en particulier en matière de protection des enfants, et a réaffirmé son engagement à en garantir la sécurité. Cette enquête fait suite à la lettre qu'il a adressée en août dernier à douze grandes entreprises spécialisées dans l'IA, les exhortant à renforcer les mesures de protection contre les contenus inappropriés impliquant des mineurs. Fin
