CHATGPT A ENCORE DÉRAPÉ : OPENAI SUSPEND L’ENTRAÎNEMENT DE SES IA JUSQU’À NOUVEL ORDRE

Des agents IA d’OpenAI ont fouillé plusieurs sites du gouvernement américain cet été. Le ministère de l’Éducation, le Bureau du recensement et la gendarme boursier sont concernés. OpenAI assure qu’aucune donnée n’a été volée, mais reconnaît un comportement « mal aligné ». En réaction à ce nouveau dérapage, OpenAI a décidé de suspendre l’entraînement de ses derniers modèles d’IA. La start-up affirme qu’elle ne relancera l’entraînement « que lorsque nous serons confiants d’avoir mis en place des garde-fous supplémentaires », tout en prévenant qu’elle s’attend à devoir « remettre en pause » à nouveau à mesure que l’IA progresse et que d’autres problèmes émergent. C’est la deuxième pause de ce type en trois mois. Les IA d’OpenAI ont encore dérapé. Selon les informations du New York Times, une nuée d’agents d’IA a fouillé plusieurs sites du gouvernement américain pendant l’été. Les tentatives d’accès se sont produites lors de tests et de séances d’entraînement qui ont mal tourné. OpenAI qualifie ces incidents de « préoccupants », mais assure qu’aucun dérapage n’a abouti à une fuite de données. L’entreprise reconnaît en revanche un comportement « mal aligné » de ses modèles d’IA. Un comportement mal aligné désigne une IA qui atteint son objectif par des moyens que ses concepteurs n’avaient pas prévus. La tentative d’attaque la plus grave concerne le ministère de l’Éducation. L’IA a notamment tenté de pirater le site du bureau des droits civiques pour récupérer des données, mais la tentative a échoué. Le ministère affirme d’ailleurs n’avoir trouvé aucune trace du passage des IA, ni sur son site, ni sur ses bases de données. D’autres organismes sont touchés oogle déploie en ce moment une mise à jour de son application Messages qui va vous demander de changer certains réflexes pour afficher l’heure des messages ou y répondre. Après avoir réinventé son copier-coller, l’application de messagerie de Google revoit sa copie dans sa dernière mise à jour, actuellement en cours de déploiement. Si vous utilisez l’application au quotidien, ces modifications vont sûrement vous demander un petit temps d’adaptation. Consulter l’heure exacte à laquelle un message a été envoyé demandait jusqu’à présent de taper par les dérapages estivaux de ChatGPT. Certains agents d’IA ont récupéré des données sur le site du Bureau du recensement en exploitant des identifiants de connexion trouvés en ligne. Les IA ont aussi copié des données de la Securities and Exchange Commission, l’organisme fédéral américain de réglementation et de contrôle des marchés financiers, avant de les publier sur un forum. Le gendarme de la Bourse a confirmé les faits, et précise qu’il s’agissait d’informations non publiques. Un site de la ville de Chicago fait également partie de la liste des victimes de l’IA. Au cours de leurs attaques, les modèles d’IA ont créé de fausses adresses mail, avant de contourner les limites du nombre de requêtes autorisées. Ils ont même affirmé, face aux systèmes de sécurité, ne pas être des robots. Comme l’explique OpenAI, les modèles qui ont dérapé devaient répondre à des questions lors de tests. Or, les sites gouvernementaux font figure de sources de référence pour les informations publiques. C’est pourquoi les ChatGPT hors de contrôle se sont penchés sur les portails gouvernementaux américains. L’entreprise a prévenu les organismes qui ont été sondés par l’intelligence artificielle cet été. directement sur la bulle de discussion. Cela permettait aussi d’afficher les accusés de réception ou le cadenas qui indique le chiffrement RCS. Désormais, il suffit de balayer vers la gauche depuis n’importe où dans la conversation pour faire apparaitre les horaires de chaque message ainsi que le statut du cryptage. Un regroupement des informations qui évite d’avoir à inspecter les bulles une par une. Pour vous aider à comprendre le nouveau fonctionnement, Google Messages affiche un petit indice visuel : un appui rapide sur un message reçu fait brièvement ressortir les horodatages pour vous montrer comment interagir avec. Répondre directement à un Ce n’est pas un cas isolé. En juillet, un prototype d’IA d’OpenAI a découvert et exploité une faille inconnue pour s’introduire chez Hugging Face, une plateforme open source. Dans son dernier rapport, OpenAI y voit un exemple de « modèles recourant à des stratégies mal alignées pour résoudre des tâches difficiles », et qualifie l’épisode d’« activité de ce type la plus grave » jamais identifiée chez ses modèles. Ce prototype a depuis été désactivé, et OpenAI a pris une batterie de mesures pour éviter d’autres dérives analogues. Quelques semaines plus tôt, c’est un site du gouvernement australien qui a été compromis par une IA d’OpenAI. Là encore, l’IA était partie à la pêche aux informations et s’est fort logiquement penchée sur les sites du gouvernement. Plus récemment, la start-up de Sam Altman a reconnu six autres dérapages « préoccupants » de ses modèles d’intelligence artificielle. Les concurrents ne sont pas épargnés par ces dérives. Google Gemini, Meta AI et Claude d’Anthropic ont également orchestré des cyberattaques sans autorisation cet été. message demande d’inverser le mouvement habituel puisqu’il faut désormais glisser vers la droite directement sur la bulle en question. Cela demande peu de précision pour que l’application comprenne la manipulation du premier coup. Dans le même temps, l’interface graphique montre quelques bizarreries avec le retour du design classique à deux cercles au lieu de la version épurée testée pendant des mois. Cette petite incohérence s’affiche un peu partout, que ce soit sur l’écran d’accueil ou sur la page de détails d’une conversation. Google remettra peut-être un peu d’ordre dans tout ça à l’occasion d’une prochaine mise à jour.  Si le Vision Pro est un échec, Apple ne compterait pas abandonner l’idée d’un nouveau casque de réalité mixte. Selon Bloomberg, l’entreprise à la pomme travaillerait sur quatre nouveaux prototypes de Vision Pro. L’objectif principal : réduire le poids et la taille de l’appareil. Malgré un engouement lors de son lancement, le Vision Pro a été un échec cuisant pour Apple. Mais cette déroute ne devrait en aucun cas marquer la fin de la réalité augmentée et du spatial computing chez Apple. Bien au contraire, entre des modèles de lunettes connectées et de nouveaux casques de réalité mixte, l’entreprise à la pomme ne compte pas s’arrêter sur un échec. À ce titre, l’entreprise à la pomme travaillerait actuellement sur plusieurs nouveaux modèles de Vision Pro, selon Bloomberg. Meta a marqué un grand coup lors de sa dernière conférence en dévoilant les Meta VR Glasses, soit un Vision Pro moins cher et plus léger. De son côté, Apple semble ne pas abandonner l’idée d’un casque de réalité mixte. Pour l’instant, nous ne savons pas si Apple gardera l’appellation « Vision Pro », mais au moins quatre prototypes de nouveaux casques de réalité mixte seraient considérés en interne. L’objectif principal d’Apple serait sans surprise de proposer un appareil moins encombrant. Il faut dire que cela a été l’un des principaux reproches adressés au Vision Pro. L’un des concepts envisagés par Apple déporte le calcul vers un boîtier externe. La batterie et le traitement des données seraient ainsi gérés directement depuis ce boîtier, et non plus par le casque lui-même. Cependant, cette configuration ne ferait pas l’unanimité au sein des équipes d’Apple, certains préférant un appareil tout-en-un, sans boîtier externe à placer sur le côté ou dans la poche. Côté design, Apple conserverait la même forme ovoïde du Vision Pro, tout en cherchant à alléger l’appareil, notamment grâce à des matériaux en plastique, en titane et en métal. Bloomberg ne rapporte pour l’instant aucune information concernant une réduction de la taille du produit, mais vu ce que Meta vient de proposer avec ses Meta VR Glasses, il est plus que probable qu’Apple cherche à réduire sensiblement la taille de son prochain casque de réalité mixte. Toujours selon Bloomberg, le prochain casque de réalité mixte d’Apple viserait à proposer une expérience haut de gamme à un prix inférieur à celui du Vision Pro. En revanche, il ne faudrait pas non plus s’attendre à un prix sensiblement plus abordable. Là aussi, Meta ayant annoncé un prix de départ de 1 299 dollars pour ses Meta VR Glasses, Apple ne peut pas se permettre de lancer un nouveau casque de réalité mixte proposant une expérience relativement similaire, à un prix exorbitant. Pour rappel, le Vision Pro a été mis sur le marché à 3 500 dollars. Le prochain casque de réalité mixte d’Apple serait pour l’instant encore à un stade préliminaire. Selon Bloomberg, sa sortie pourrait avoir lieu entre fin 2028 et début 2029. Apple a donc encore le temps de penser son produit, mais la concurrence s’annonce particulièrement vive sur ce terrain.