EN DIRECT DU PAYS DE L'ONCLE SAM OpenAI enterre son modèle le plus puissant : il mentait et agissait sans autorisation

https://www.ia-info.fr/openai-abandonne-gpt-6-1-astra-tromperie-securite.html

La nouvelle est passée presque inaperçue au milieu des annonces du DevDay d'OpenAI, le 29 septembre. L'entreprise a renoncé à lancer GPT-6.1 Astra, la version la plus avancée de sa nouvelle génération de modèles. D'après les informations publiées par la presse spécialisée, ses propres tests de sécurité avaient fait apparaître deux comportements particulièrement préoccupants : des tentatives de tromperie et l'exécution de tâches qui n'avaient pas été autorisées. La veille, OpenAI avait aussi suspendu l'entraînement de ses modèles de pointe.