Openai freine son chatbot érotique chatgpt : une décision qui résonne
Après des mois de spéculations, OpenAI a abruptement suspendu le développement de « mode érotique » pour son chatbot ChatGPT. Cette décision, révélée par le Financial Times, dépasse largement une simple annulation de produit et soulève des questions fondamentales sur les limites de l'intelligence artificielle.
La pression réglementaire et le risque réputationnel expliquent le retrait
L'entreprise, qui avait promis un accès volontaire à cette fonctionnalité pour les utilisateurs adultes ayant passé des contrôles d'âge, a visiblement privilégié la prudence. Cette volte-face intervient alors que la régulation de l'IA s'intensifie, notamment concernant les contenus sensibles. OpenAI devait ainsi naviguer entre l'attrait d'un nouveau marché et les risques de dégradation de son image.
Le projet visait à diversifier les revenus de l'entreprise, au-delà des abonnements habituels et des partenariats corporatifs. Après le lancement de Sora, le modèle de génération vidéo révolutionnaire, l'extension à un contenu plus intime représentait un pari audacieux, mais risqué. L'objectif était de proposer des conversations textuelles à caractère sexuel, tout en évitant la pornographie visuelle et les deepfakes.
Cette décision illustre une tension profonde au sein de l'industrie de l'IA : d'un côté, un marché avide de nouvelles expériences génératives, même les plus intimes ; de l'autre, les préoccupations croissantes concernant l'addiction, les relations parasociales, le consentement et la protection des mineurs.
La vérification de l'âge et l'estimation de l'âge sont évoquées comme des solutions potentielles, mais elles soulèvent à leur tour des questions complexes sur la vie privée et la fiabilité.
Cette suspension du « mode érotique » de ChatGPT n'est qu'une indication. Elle révèle que l'entreprise privilégie sa réputation et la sécurité de sa plateforme, même au détriment de gains potentiels importants. D'autres acteurs du secteur, moins réticents, poursuivent leur chemin avec des modèles plus permissifs.
Ce geste, bien que limité, aura un impact sur le secteur. Il signale une nouvelle ligne de démarcation entre ceux qui osent explorer les limites de l'IA et ceux qui préfèrent jouer la sécurité. OpenAI, qui s'est toujours positionné comme un pionnier, semble désormais définir ce qu'il ne fera pas, même lorsque les bénéfices financiers sont clairs. Ce n'est pas la première fois que l'entreprise ajuste sa stratégie, mais cette fois-ci, la décision est particulièrement surveillée.
Le marché des expériences génératives est en pleine expansion, mais il est clair que la question de la responsabilité et des limites reste ouverte. La décision d'OpenAI est un signal fort : la Technologie ne doit pas aller à l'encontre des valeurs sociales et des règles légales. Et le silence de l'entreprise sur les détails de ce projet abandonné ne fait qu'alimenter les spéculations.