#406 Reprendre le pouvoir sur nos décision à l'ère de l'I.A. avec Olivier Sibony et Eric Hazan

Olivier Sibony est professeur à HEC et spécialiste de la décision. Eric Hazan est investisseur et ancien senior partner chez McKinsey. Ils viennent de publier ensemble "Faut-il encore décider ?", un livre qui refuse d'être technophobe comme il refuse d'être technophile, et qui cartographie ce qu'on peut confier à une IA et ce qu'on doit garder pour soi.

Je les connais tous les deux, mais séparément, et c'était la première fois que je les avais en face de moi ensemble. Ça se sent : ils se coupent la parole, se corrigent, se chambrent sur les anglicismes, et surtout ils ne sont pas toujours d'accord. C'est exactement ce que je cherchais.

Ce qui m'a le plus remué dans cette conversation, c'est cette idée qu'on ne se fait pas déposséder de nos décisions : on les abandonne. Par confort. Parce qu'on est fabriqués pour économiser notre énergie, et qu'une réponse bien formulée par une machine nous suffit largement.

Dans cet épisode, nous parlons de l'effet de contentement, du risque de démission, de ce que devient la confiance en soi quand on fait relire chacun de ses mails, de la justice et du recrutement comme zones interdites, du deskilling, de la joie au travail, et de ce scénario de technocratie IA vers lequel on glisse sans l'avoir choisi.

J'ai questionné Olivier et Eric sur ce que ça fait aux jobs, sur les valorisations d'OpenAI et d'Anthropic qui dépassent le PIB de la Pologne, et sur ce fameux moment où le médecin, l'ego coincé entre lui et la machine, fait moins bien que la machine seule.

Une conversation dense, drôle par moments, et qui m'a laissé avec une question simple : sur quoi est-ce que je refuse de lâcher, moi, et pourquoi ?

Citations marquantes

1. « Le risque, c'est d'avoir toujours tendance à se défausser sur la machine, à lui demander une réponse et à finalement abdiquer toute responsabilité. Et ça, c'est un vrai danger. » (Olivier Sibony)
2. « Les meilleurs médecins ont à peu près 74 % d'acuité, la machine 90 %. Mais quand tu mets les meilleurs médecins avec la machine, ils n'ont que 76 %. » (Eric Hazan)
3. « Comment tu vas utiliser une IA comme partenaire de réflexion pour mieux réfléchir, et non pas comme une béquille sur laquelle tu vas te reposer pour ne pas réfléchir ? Toute la différence est là. » (Olivier Sibony)
4. « L'IA est en train de devenir l'infrastructure du monde et notre infrastructure personnelle. On marche sur un petit tapis roulant, et on n'a aucun moyen de savoir comment il a été programmé. » (Eric Hazan)
5. « Penser est un plaisir. Réfléchir n'est pas seulement instrumental : on le fera aussi pour le plaisir, comme on joue du piano. » (Olivier Sibony)

Idées centrales discutées 1. L'IA générative pense comme notre système 1, et c'est exactement le piège (03:30 – 07:20)

L'histoire de l'IA a commencé par une tentative de répliquer le système 2 : les règles, le calcul, les systèmes experts des années 70-80. Ça n'a jamais marché. L'IA générative, elle, imite le système 1 : rapide, fluide, spontanée, presque humaine. Pourquoi ça compte : quand ChatGPT nous dit de vérifier, il nous demande d'activer notre système 2. Or c'est fatigant. Alors on lit la réponse avec notre système 1, on la trouve plausible parce qu'elle est bien formulée, et on ne vérifie pas.

2. L'effet de contentement et le risque de démission (08:00 – 09:40)

Se satisfaire d'un résultat correct sans se demander s'il en existe un meilleur. Olivier l'appelle l'effet de contentement, Eric y ajoute le risque de démission : on abdique la responsabilité de la décision. Pourquoi ça compte : le problème n'est pas que la machine décide mal, c'est que personne ne décide plus vraiment. Et quand tu n'as pas réfléchi par toi-même, tu ne sais même pas ce que ta réponse aurait donné.

3. Un LLM généraliste n'est jamais un bon outil de décision (14:40 – 16:00)

Un outil d'aide à la décision, c'est un outil entraîné spécifiquement sur ta décision, avec tes objectifs, tes données, et testé sur un échantillon suffisant pour vérifier qu'il fait mieux que toi. Pourquoi ça compte : personne ne demanderait à ChatGPT le prix du siège d'un Paris–New York. Et pourtant on lui demande des décisions de recrutement, de couple, de carrière.

4. Le paradoxe du médecin : l'ego entre la machine et le diagnostic (12:00 – 13:20)

74 % d'acuité pour les meilleurs médecins, 90 % pour la machine, 76 % pour les deux ensemble. L'expérience du praticien s'intercale et dégrade le résultat. Pourquoi ça compte : ça retourne l'intuition dominante du "human in the loop". Sur certaines décisions, l'humain dans la boucle est le maillon qui abîme la performance. Le vrai gain, c'est de rendre au médecin le temps de l'empathie, pas de maximiser le nombre de patients.

5. Performance x acceptabilité : la carte des décisions (24:00 – 26:15)

Deux axes. Ce qui est performant et acceptable : trading haute fréquence, logistique, optimisation de données massives avec des règles claires. Ce qui est performant mais pas encore accepté : la voiture autonome, malgré plus de 40 000 morts par an au volant aux États-Unis. Ce qui reste inacceptable : la justice, l'évaluation des personnes. Pourquoi ça compte : un humain doit juger un autre humain en le regardant dans les yeux. La théâtralité du procès fait partie de la procédure démocratique, pas du folklore.

6. Le deskilling n'est pas nouveau, la vraie question est de savoir ce qu'on refuse de perdre (26:15 – 30:00)

On a cessé d'extraire des racines carrées à la main, on a gardé les tables de multiplication. Le GPS abîme peut-être l'hippocampe. Perdre une compétence libère du temps pour autre chose. Pourquoi ça compte : la bonne question n'est pas "est-ce que je perds des compétences", mais "quelles compétences, pour qui, sont assez importantes pour que je refuse de les perdre". Au cas par cas, personne par personne.

7. Les jobs ne d