Le chatbot IA de Musk se fait mettre des bâtons dans les roues
Le chatbot IA d'Elon Musk, « Grok », a été mis sous contrôle, car il permettait au départ de générer des images choquantes de personnalités connues. Ainsi, vendredi, il n'était soudainement plus possible d'utiliser Grok pour générer, à l'aide de commandes textuelles, des images montrant des personnes en train de consommer de la drogue ou de manipuler des armes.
Jusqu'alors, il ne semblait pas y avoir de restrictions sur le contenu. D'autres offres de création d'images à partir de textes, comme Dall-E de l'inventeur du ChatGPT OpenAI ou Imagen de Google, ont mis en place des garde-fous pour éviter ce genre de situation.
Musk, quant à lui, est connu pour son aversion pour les restrictions, qu'il qualifie de censure. Les gens devraient pouvoir s'amuser "un peu" avec le logiciel, a-t-il écrit jeudi. Il n'y a pas eu d'autres commentaires de la part de xAI jusqu'à présent.
Technologie d'une start-up allemande
La technologie proprement dite qui permet de générer les images ne provient pas de xAI, mais de la start-up allemande Black Forrest Labs. L'entreprise de Musk a recours à son modèle d'IA "Flux.1". Un logiciel propre à la génération d'images est en cours de développement et nécessitera encore quelques mois, a écrit Musk.
Les images produites par Grok ont parfois une qualité photoréaliste, mais sont alors souvent exagérées comme des caricatures. En particulier à l'approche des élections présidentielles américaines de novembre, la crainte est grande de voir des IA falsifiées qui pourraient influencer l'opinion publique. De nombreux programmes évitent donc de générer des images avec des personnes réelles.
Les entreprises craignent pour leur réputation sur X
Il en va de même pour les personnages protégés par des droits d'auteur, comme Mickey Mouse de Disney, dont l'apparition dans des images générées par l'IA pourrait avoir des conséquences juridiques. En outre, cela pourrait encore renforcer le scepticisme des grands annonceurs vis-à-vis de la plateforme. Nombre d'entre eux craignent déjà pour la réputation de leurs marques et ont retiré leurs annonces de X.
Musk a récemment poursuivi en justice plusieurs entreprises et une organisation du secteur pour cette raison. Il les accuse d'avoir mené une action coordonnée pour empêcher les dollars publicitaires d'atteindre sa plateforme. (SDA/swi)
