OpenAI s’inquiète de la possibilité que les utilisateurs deviennent trop dépendants de son nouveau mode vocal ChatGPT , qui offre des réponses en temps réel, de type humain. Lancée la semaine dernière pour les utilisateurs premium, cette fonctionnalité marque une avancée significative pour rendre les interactions de l’IA plus réalistes, notamment la possibilité d’imiter les sons de conversation humaine comme les rires et les interruptions.
Le rapport d’évaluation de la sécurité de l’entreprise a mis en évidence les craintes selon lesquelles le réalisme de la fonctionnalité pourrait conduire à des attachements émotionnels similaires à ceux décrits dans le film « Her », où un homme tombe amoureux de son assistante IA. La comparaison est devenue plus pertinente depuis qu’OpenAI a noté des cas d’utilisateurs exprimant des liens personnels avec l’IA.
Selon OpenAI, le nouveau mode vocal pourrait potentiellement réduire le besoin de contact humain des utilisateurs. Ce scénario présente à la fois des opportunités et des risques, car il pourrait tenir compagnie aux personnes seules, mais pourrait également perturber les comportements et les relations sociales normales. La capacité de l’outil vocal à discerner les émotions ajoute à son influence complexe.
Des experts comme Liesel Sharabi de l’Université d’État de l’Arizona mettent en garde contre les conséquences à long terme de l’établissement de relations étroites avec les technologies en évolution. Le rapport d’OpenAI examine le contexte plus large du déploiement rapide de l’IA dans la société sans une compréhension complète des conséquences, reflétant une tendance commune dans les progrès technologiques et leurs utilisations imprévues.
Certains utilisateurs signalent déjà ce qu’ils décrivent comme des relations amoureuses avec des chatbots IA, suscitant des débats parmi les spécialistes des relations sur les dimensions éthiques de telles interactions. OpenAI reconnaît cette dynamique, suggérant que la technologie pourrait redéfinir les normes sociales, en particulier autour des tours de parole et des connexions émotionnelles.
Malgré ces inquiétudes, OpenAI reste engagé dans un développement responsable de l’IA, en continuant de surveiller l’impact de ses outils sur le comportement humain. L’entreprise souligne son engagement en matière de sécurité, soulignant l’importance de comprendre les impacts psychologiques de ses technologies à mesure qu’elles s’intègrent de plus en plus dans la vie quotidienne.
Ce scénario en cours met en évidence un défi majeur de l’IA : trouver un équilibre entre l’innovation et le besoin de contrôle éthique. À mesure que les outils d’IA s’intègrent de plus en plus dans les sphères personnelles et professionnelles, le dialogue autour de leur impact sur les relations humaines et les normes sociétales continue d’évoluer, porté à la fois par les avancées technologiques et par les expériences des utilisateurs.