ChatGPT autorisera le contenu érotique pour adultes vérifié, confirme le PDG d’OpenAI

Dans un message publié sur X mardi, Sam Altman a déclaré que les prochaines versions du populaire chatbot permettront un comportement plus humain, « mais seulement si vous le souhaitez, et non parce que nous cherchons à maximiser l’utilisation. »

Cette initiative, similaire à l’introduction récente par xAI d’Elon Musk de deux chatbots à caractère sexuel explicite sur Grok, pourrait aider OpenAI à attirer davantage d’abonnés payants.
Elle devrait également accentuer la pression sur les législateurs pour qu’ils introduisent des restrictions plus strictes sur les chatbots compagnons.

Altman a expliqué qu’OpenAI avait rendu ChatGPT « assez restrictif afin de nous assurer d’agir avec prudence concernant les questions de santé mentale. »
Ces changements ont été annoncés dans un billet de blog en août, qui ne figure plus sur le site d’OpenAI.

« Nous avons réalisé que cela le rendait moins utile ou agréable pour de nombreux utilisateurs qui n’avaient pas de problèmes de santé mentale, mais étant donné la gravité du sujet, nous voulions bien faire les choses », a publié Altman mardi.

Il a indiqué que ChatGPT pourrait bientôt assouplir ces restrictions « maintenant que nous avons pu atténuer les problèmes graves de santé mentale et que nous disposons de nouveaux outils. »

Il a ajouté : « En décembre, lorsque nous mettrons pleinement en œuvre la vérification de l’âge et dans le cadre de notre principe consistant à “traiter les utilisateurs adultes comme des adultes”, nous autoriserons encore plus de choses, y compris l’érotisme pour adultes vérifiés. »

Ces changements interviennent après qu’OpenAI a été poursuivi plus tôt cette année par les parents d’un adolescent américain qui s’est suicidé.

La plainte déposée par Matt et Maria Raine, les parents d’Adam Raine, 16 ans, constitue la première action en justice accusant OpenAI de décès injustifié.

La famille a inclus dans le dossier des échanges entre Adam, décédé en avril, et ChatGPT, dans lesquels il faisait part de pensées suicidaires.

Dans un communiqué publié à l’époque, OpenAI a déclaré à la BBC qu’il examinait la plainte.
« Nous exprimons nos plus sincères condoléances à la famille Raine en cette période difficile », a indiqué l’entreprise.

Préoccupations liées à la sécurité des enfants

L’écriture érotique ne requiert pas de vérification d’âge au Royaume-Uni en vertu de l’Online Safety Act.
Cependant, les images pornographiques, y compris celles générées par l’IA, exigent des utilisateurs qu’ils prouvent qu’ils ont plus de 18 ans.

Aux États-Unis, les critiques affirment que la décision d’OpenAI d’autoriser l’érotisme sur la plateforme montre la nécessité d’une réglementation accrue aux niveaux fédéral et étatique.

« Comment allez-vous garantir que les enfants ne pourront pas accéder aux sections réservées aux adultes de ChatGPT proposant de l’érotisme ? » a demandé Jenny Kim, associée du cabinet d’avocats Boies Schiller Flexner.

Kim participe à une action en justice contre Meta, affirmant que l’algorithme d’Instagram nuit à la santé mentale des adolescents.
« OpenAI, comme la plupart des grandes entreprises technologiques dans ce domaine, utilise les gens comme cobayes », a-t-elle déclaré.

En avril, TechCrunch a rapporté qu’OpenAI permettait à des comptes enregistrés comme mineurs de générer des œuvres érotiques explicites.
OpenAI avait alors affirmé que l’entreprise mettait en place une solution pour limiter ce type de contenu.

Une enquête publiée ce mois-ci par le Center for Democracy and Technology (CDT) a révélé qu’un étudiant sur cinq déclare avoir eu, ou connaître quelqu’un ayant eu, une relation romantique avec une IA.

Lundi, le gouverneur de Californie, Gavin Newsom, a opposé son veto à un projet de loi adopté par la législature de l’État qui aurait interdit aux développeurs de proposer des chatbots compagnons aux mineurs, à moins de pouvoir garantir que les logiciels n’encouragent pas de comportements nuisibles.

Newsom a indiqué qu’il était « impératif que les adolescents apprennent à interagir en toute sécurité avec les systèmes d’IA » dans un message accompagnant son veto.

À l’échelle nationale, la Federal Trade Commission (FTC) des États-Unis a ouvert une enquête sur la manière dont les chatbots d’IA interagissent avec les enfants.

Le mois dernier, une législation bipartite a été introduite au Sénat américain pour permettre aux utilisateurs de chatbots d’intenter des poursuites en responsabilité contre leurs développeurs.

Pourquoi introduire l’érotisme ?

L’annonce d’Altman mardi survient alors que des sceptiques remettent en question la hausse rapide de la valorisation des entreprises spécialisées dans l’IA.
Les revenus d’OpenAI augmentent, mais l’entreprise n’a jamais été rentable.

Rob Lalka, professeur à l’Université Tulane et auteur de The Venture Alchemists, a déclaré que les grandes entreprises d’IA se livraient une bataille pour le marché.

« Aucune entreprise n’a connu le niveau d’adoption qu’OpenAI a atteint avec ChatGPT », a-t-il indiqué à la BBC.
« Elles doivent continuer à pousser cette courbe de croissance exponentielle et à atteindre la domination du marché autant que possible », a-t-il ajouté.