Distillation et modèles ouverts & L’IA peine à faire science - Actualités IA (14 sept. 2026)

Merci de soutenir ce podcast en visitant nos sponsors: - Consensus: IA pour la recherche. Obtenez un mois gratuit - https://get.consensus.app/automated_daily - Lindy est votre assistant IA ultime qui gère proactivement votre boîte de réception - https://try.lindy.ai/tad - Investissez comme les professionnels avec StockMVP - https://www.stock-mvp.com/?via=ron Soutenez directement The Automated Daily: Offre-moi un café: https://buymeacoffee.com/theautomateddaily Sujets du jour: Distillation et modèles ouverts - Garry Tan défend le droit des laboratoires américains à distiller des modèles frontier, au nom des modèles open-weight, de la concurrence et de la souveraineté technologique. En toile de fond, le débat 2026 sur distillation, open source, Chine et régulation s’intensifie. L’IA peine à faire science - Nouvelle mise à jour sur l’auto-amélioration de l’IA: des chercheurs montrent que les agents savent exécuter une partie du travail scientifique, mais échouent encore sur la créativité et le jugement. Un signal important pour le débat sur recursive self-improvement et recherche automatisée. Qui fixe les règles IA - Aidan Gomez de Cohere conteste l’idée que quelques grands laboratoires puissent écrire les normes de sécurité de l’IA entre eux. Le sujet touche à la gouvernance, à l’antitrust, à la transparence et au risque d’une régulation capturée par les acteurs dominants. Bio-risque: débat relancé - Les alertes sur l’usage de l’IA pour des armes biologiques reviennent au premier plan, mais les experts restent divisés sur l’ampleur du risque réel à court terme. Mots-clés: biosecurity, misuse, Anthropic, régulation préventive, preuves de terrain. Travail humain et vision Lanier - Jaron Lanier rappelle que l’IA et la VR sont aussi des systèmes sociaux, économiques et politiques, pas seulement des prouesses techniques. En parallèle, le débat monte sur l’impact de l’IA sur l’emploi, l’expertise et la valeur du travail humain. - Garry Tan Pushes for U.S. Open-Weight AI Distillation - Reading List on Open-Source AI and Open Models - Jaron Lanier Says AI Is Human-Made, Not Truly Artificial - Study Finds AI Still Struggles With Open-Ended Research - Cohere CEO Says AI Rules Should Not Be Written by Big Tech - AI Is Not a Normal Technology - Airbnb and Dorset B&B Clash Over the Letters “bnb” - Experts Split Over AI Biosecurity Warning Transcription de l'Episode Distillation et modèles ouverts On commence par le grand débat du moment autour des modèles ouverts. Garry Tan, le patron de Y Combinator, estime que les laboratoires américains qui publient des modèles open-weight devraient pouvoir pratiquer la distillation librement, et que les régulateurs ne devraient pas bloquer cette pratique. Son message est simple: si les États-Unis se restreignent trop pendant que les concurrents chinois avancent, ils risquent de perdre du terrain sur un levier devenu stratégique. Ce qui rend cette prise de position intéressante, c’est qu’elle va à l’encontre des appels à un encadrement plus dur venus d’autres grands acteurs du secteur. En clair, la question n’est plus seulement de savoir si les modèles ouverts sont utiles, mais s’ils deviennent un contrepoids politique et économique face aux systèmes fermés. L’IA peine à faire science Dans le même registre, on voit se durcir la bataille sur la gouvernance. Dans un nouveau développement, Aidan Gomez, le patron de Cohere, affirme que les règles de sécurité de l’IA ne devraient pas être écrites par un petit cercle de laboratoires dominants. Selon lui, oui, il faut des garde-fous, mais ils doivent être construits sur des preuves, avec de la transparence, et avec une participation plus large. Le point important ici, c’est la crainte qu’une régulation au nom de la sécurité serve aussi de barrière à l’entrée. Autrement dit, la discussion sur l’IA ne porte plus seulement sur les risques technologiques, mais aussi sur qui obtient le pouvoir de définir ce qui est acceptable. Qui fixe les règles IA Autre mise à jour que l’on suivait déjà: l’idée d’une IA capable d’accélérer seule sa propre progression prend un peu de froid. Une nouvelle étude suggère que les systèmes actuels savent déjà faire une partie du travail de recherche, comme lancer des expériences, consulter la littérature ou assembler un papier. Mais quand il faut produire une vraie avancée scientifique, avec intuition, recul et capacité à changer d’approche quand une piste échoue, ça bloque encore. Pourquoi c’est important ? Parce que beaucoup de scénarios très rapides reposent sur l’idée que l’IA pourra bientôt faire de la recherche sur l’IA mieux que les humains. Cette étude dit en substance: pas si vite. Bio-risque: débat relancé Sur le front de la sécurité, le débat sur le risque biologique lié à l’IA repart de plus belle. De nouvelles alertes, notamment après des cas d’usage bloqués par certaines entreprises, relancent l’argument selon lequel ces modèles pourraient aider à des projets dangereux. En face, d’autres experts estiment qu’on extrapole trop vite, et que les systèmes actuels restent très loin de pouvoir transformer seuls une mauvaise intention en menace biologique crédible dans le monde réel. Le vrai enjeu, ici, c’est le calendrier politique: faut-il réguler fortement dès maintenant par précaution, ou attendre des preuves plus nettes de capacités réellement opérationnelles ? Travail humain et vision Lanier Enfin, deux lectures ramènent le débat à une question plus humaine. D’un côté, Jaron Lanier rappelle que l’IA n’est pas une sorte d’esprit autonome tombé du ciel, mais un assemblage de données, de travail humain et d’incitations économiques. Et il dit à peu près la même chose de la VR: la technologie comptait moins que la manière dont les grandes plateformes ont essayé de l’enfermer dans des modèles commerciaux familiers. De l’autre, un essai plus inquiet soutient que l’IA n’est pas une technologie ordinaire, justement parce qu’elle peut s’attaquer à un éventail très large de tâches intellectuelles.