# Comment gérer le coût de l'IA pour une entreprise ? Avec Benjamin Drighès

An episode of [Génération IA](https://invisiblenetwork.ai/podcast/1811120641), 18 Jun 2026, 1 h 04 min.

Audio: https://content.rss.com/episodes/326818/2925991/generation-ia/2026_06_18_20_15_08_4cd4716a-5e86-4c48-add2-9d2d36269deb.mp3

Le coût de l’IA explose-t-il vraiment pour les entreprises ? Entre les tokens, les modèles frontier, les abonnements, les agents de code et les workflows agentiques, il devient de plus en plus difficile de comprendre ce qui coûte réellement cher dans l’intelligence artificielle. Avec Benjamin Drighès, CTO IA et associé chez Galadrim, nous allons voir comment les entreprises peuvent garder le contrôle sur leur facture IA sans sacrifier la performance. Comment choisir le bon modèle ? Faut-il toujours utiliser les modèles les plus puissants ? Quel est le rôle du cache, du contexte, du routing, de l’open source ou encore du harness dans l’optimisation des coûts ? Un épisode pour comprendre pourquoi le coût de l’IA n’est pas seulement une question de prix, mais surtout une question d’ingénierie.

## Transcript

[0:01] Bonjour à tous et bienvenue dans ce nouvel épisode
[0:03] de Génération IA. C 'est Guillaume et aujourd
[0:06] 'hui je suis avec Benjamin. Benjamin va nous
[0:09] parler notamment du coût de l 'intelligence artificielle
[0:13] pour les entreprises parce que récemment les
[0:17] coûts ont explosé pour certaines entreprises
[0:19] et pour certains fournisseurs d 'intelligence
[0:21] artificielle et du coup c 'est une question qui
[0:24] est vraiment critique désormais pour certaines
[0:28] organisations. Avant tout, je vais laisser Benjamin
[0:33] se présenter. Benjamin, c 'est un expert en IA.
[0:35] Je ne vais pas spoiler. Benjamin, je te donne
[0:38] directement la parole pour que tu te présentes
[0:39] à l 'audience. Et après, on va aborder tous ces
[0:42] points ensemble. Merci Guillaume pour l 'invitation.
[0:46] Benjamin, je suis le CTO IA de Galadream. Je
[0:49] suis aussi un des associés. Galadream, c 'est
[0:52] une agence de développement sur mesure qui a
[0:54] été créée en 2017 et qui, depuis, a accompagné
[0:58] plus de 800 clients. Et donc j 'ai rejoint Galladream
[1:01] début 2024, quelques mois je pense, après la
[1:05] sortie de ChatGPT, justement pour créer toute
[1:11] la branche intelligence artificielle et données
[1:13] au sein de Galladream. Et aujourd 'hui dans l
[1:16] 'équipe, j 'encadre environ 40 ingénieurs et
[1:19] consultants. Et donc notre métier au quotidien,
[1:23] c 'est d 'accompagner tout type de clients. Donc
[1:26] ça va de la PME, la startup, aux grands groupes
[1:30] sur leurs projets digitaux et notamment depuis
[1:34] quelques années de plus en plus sur l 'utilisation
[1:37] de l 'intelligence artificielle. Et donc on a
[1:39] un ADN très tech qui nous permet d 'utiliser
[1:42] les leviers de l 'intelligence artificielle pour
[1:44] apporter des solutions. Et on a une logique assez
[1:47] pragmatique, à chaque fois on essaie de réfléchir
[1:50] à ce qui apporte le plus de valeur aux clients.
[1:51] Et donc je pense qu 'effectivement la question
[1:54] du coût de l 'intelligence artificielle se pose
[1:57] assez régulièrement aussi pour nos clients, et
[2:00] donc voilà, on peut en parler. Eh bien, j 'ai
[2:04] vu que vous avez des belles références de clients,
[2:07] notamment pas mal de grands groupes aussi, mais
[2:09] ça va aussi jusqu 'à la PME. C 'est quoi, par
[2:12] exemple, la taille d 'entreprise que vous accompagnez
[2:15] ? Oui, c 'est vraiment, on a un tiers, un tiers,
[2:19] un tiers à chaque fois de toute taille d 'entreprise.
[2:23] On peut aussi bien accompagner par exemple du
[2:26] Rexel, qui est dans la distribution de matériel
[2:28] électrique et une entreprise cotée en bourse,
[2:32] qu 'une start -up qui vient de se créer, qui
[2:34] par exemple souhaite accélérer l 'utilisation
[2:37] d 'intelligence artificielle pour faire des migrations
[2:39] SAP. Donc on fait vraiment le grand écart entre
[2:43] ces différents types de clients. Et je dirais
[2:46] que la moyenne de nos clients c 'est plutôt une
[2:49] ETI, donc plus de 200 salariés. avec une direction
[2:56] informatique, une DSI, qui veut accélérer sur
[2:59] ce projet digital. Ok. Intéressant d 'avoir des
[3:05] clients de plusieurs tailles différentes parce
[3:07] que j 'imagine que les problématiques que vous
[3:09] rencontrez ne sont pas forcément les mêmes selon
[3:12] la taille de l 'organisation. Toi t 'as remarqué
[3:20] ça que selon la quantité de données, par exemple
[3:23] la taille de l 'organisation, les problématiques
[3:26] sont différentes et notamment par exemple sur
[3:29] le coût de l 'IA, on y revient déjà mais j 'imagine
[3:32] qu 'il y a des structures qui peuvent pas forcément
[3:34] se permettre du jour au lendemain d 'avoir un
[3:38] fois 4 sur leur consommation d 'IA comme ça implique
[3:43] alors que d 'autres peuvent éventuellement l
[3:44] 'absorber et le lisser au fur et à mesure du
[3:46] temps. À chaque fois, tu le mets en regard de
[3:51] la valeur que tu apportes avec l 'IA. C 'est
[3:56] l 'équilibre coût -bénéfice que tu fais dans
[3:59] chacun des projets. Jusque -là, la question du
[4:03] coût, un peu paradoxalement, ça n 'a pas été
[4:05] forcément la première question qui est posée
[4:08] par nos clients. Nos clients veulent en premier
[4:11] lieu pouvoir débloquer de nouveaux cas d 'usage.
[4:15] et avoir des modèles suffisamment performants
[4:17] pour pouvoir les débloquer. C 'est souvent une
[4:20] discussion qu 'on a au début. Quand il se rend
[4:23] compte que c 'est très intéressant d 'utiliser
[4:25] un modèle plus performant, souvent, ça prend
[4:29] le dessus. Ensuite, on a toute une mécanique
[4:36] d 'observation des coûts, de surveillance des
[4:38] coûts. Ça, c 'est pour la plupart. Il faut différencier
[4:43] comment dire, les cas d 'usage. Je pense que
[4:45] c 'est ça le point principal. Et même dans l
[4:50] 'utilisation de l 'IA, les coûts, il faut rentrer
[4:52] un peu plus finement. Tu sais que, par exemple,
[4:55] les put -inputs ne sont pas les mêmes que les
[4:56] put -outputs. Il y a aussi des mécaniques de
[4:59] cache. Tout de suite, on peut rentrer dans un
[5:01] peu plus de détails techniques, mais qui font
[5:02] que chaque tâche est un peu différente. Et chaque
[5:06] tâche peut avoir des coûts IA assez différents.
[5:11] J 'imagine que vous avez des partenaires avec
[5:14] qui vous travaillez ou vous payez directement
[5:17] à la consommation ? Quels sont les différents
[5:19] modes de pricing aussi de l 'IA ? Parce que tu
[5:22] nous parles de input, donc j 'imagine que c 'est
[5:25] en token, input token, output token. Est -ce
[5:28] qu 'il y a aussi des pricing par requête ou des
[5:31] abonnements qui permettent d 'avoir une grande
[5:33] quantité de requête pour un prix fixe par exemple
[5:36] ou c 'est que du coup à la consommation par exemple
[5:38] ? Pour les projets où nous on met de l 'IA pour
[5:43] servir des entreprises, donc typiquement des
[5:45] workflows agentiques ou des workflows déterministes
[5:48] avec des tâches de compréhension du langage naturel,
[5:54] du style extraire des informations d 'un mail,
[5:57] extraire des informations des documents. Nos
[6:00] clients utilisent les API. Souvent les API via
[6:05] les cloud provider puisque ça leur donne davantage
[6:08] de garanties, de sécurité sur l 'utilisation
[6:10] des données, etc. Et donc là, en fait, effectivement,
[6:14] c 'est plutôt un coût d 'entrée, coût d 'input
[6:17] de token et des coûts de sortie. Et donc ce que
[6:21] je te disais, c 'est effectivement le coût d
[6:22] 'output, et généralement 5 à 10 fois plus élevé
[6:26] que le coût d 'input. Et donc ça veut dire que
[6:29] des tâches qui sont gourmands dans notre put
[6:32] vont être en fait plus chères que des tâches
[6:35] qui sont plutôt gourmand dans l 'input. Pour
[6:38] donner un exemple, par exemple, analyser ou classifier
[6:41] un mail, ça c 'est plutôt bien parce qu 'en fait
[6:43] c 'est plutôt l 'input et l 'input est simple,
[6:45] ça veut juste être de dire, bah ça c 'est un
[6:47] mail pertinent pour telle et telle, comment dire,
[6:50] entité au sein d 'entreprise. Ça c 'est un cas
[6:52] d 'usage qu 'on traite, c 'est par exemple pour
[6:54] un de clients dans le courtage en assurance,
[6:58] on fait toute une mécanique d 'orientation en
[7:01] fait de la demande entrante et on permet en fait
[7:04] de trouver les les bons gestionnaires sur la
[7:08] demande. Donc ça c 'est une tâche de classification.
[7:11] Et pour une tâche de classification, c 'est plutôt
[7:15] le cours en input et donc on a une tâche qui
[7:16] est relativement peu chère en fait. Et inversement,
[7:20] on a par exemple un cas d 'usage où on essaie
[7:23] de générer des articles. Donc là tu génères beaucoup
[7:27] plus d 'output et donc ça va être plus élevé.
[7:30] Et après tu t 'évoques les modèles en abonnement.
[7:33] Nous, en tant qu 'agence tech, on est aussi un
[7:36] consommateur important d 'intelligence artificielle.
[7:40] Donc on utilise énormément les agents de code.
[7:43] Et donc nous, on paye plutôt à l 'abonnement
[7:45] puisque c 'est plus économique effectivement
[7:48] pour nous. Et donc ça, je pense que tu voulais
[7:51] évoquer le fait qu 'il y a une sorte de mécanisme
[7:55] implicite de subvention de la part des grands
[7:57] fournisseurs, donc en tropique avec l 'abonnement
[8:00] cloud. OpenAI avec Codex et puis les autres.
[8:06] Et effectivement, dernièrement, il y a eu une
[8:09] évolution où quand t 'es un gros client, du style
[8:13] Uber ou Microsoft, tu peux plus vraiment utiliser
[8:17] ces abonnements pour chacun de tes employés,
[8:20] chacun de tes ingénieurs quand t 'es dans le
[8:22] code. Et donc tu dois payer à la consommation
[8:25] et comme c 'est plus subventionné, c 'est tout
[8:28] de suite plus cher. Donc c 'est vrai qu 'il y
[8:29] a eu... il y a eu une évolution des coûts. Mais
[8:33] si tu regardes unitairement, je pense que tu
[8:34] n 'as pas forcément des prix quand tu les regardes
[8:39] au token, ils n 'ont pas exposé. Et même si tu
[8:43] pourrais même te poser la question, tout les
[8:48] tokens ne se valent pas, tu vois, parce qu 'il
[8:49] y a des tokens qui sont plus ou moins intelligents.
[8:52] Par exemple, un Fable qui vient de sortir d 'Anthropic
[8:55] ou un Opus. le token d 'OPUS est plus intelligent
[8:59] que le token de Haiku qui est le plus petit des
[9:02] modèles fournis par Anthropic. Et donc tu pourrais
[9:05] même dire, pour prendre un peu le contre -pied,
[9:08] que finalement les prix ont baissé. Et donc d
[9:13] 'où vient l 'explosion des coûts si le prix du
[9:18] token, si tu regardes l 'intelligence du token,
[9:20] a baissé ? Il y a notamment en fait tous les
[9:25] workflows agentiques. et utiliser les IA pour
[9:30] faire du code, c 'est du workflow agentique.
[9:33] Eux produisent beaucoup plus de tokens. Donc,
[9:34] tu as beaucoup de tokens en entrée, beaucoup
[9:38] de tokens en sortie, puis plein d 'allers -retours
[9:40] à chaque fois que tu rappelles une nouvelle tool,
[9:42] etc. Et donc ça, ça, effectivement, produit beaucoup
[9:45] plus de tokens, mais ça te permet d 'aller plus
[9:47] loin. Et nous, on en met... On en fait aussi
[9:51] de plus en plus, en fait, pour nos clients, de
[9:53] workflow agentique, parce qu 'en fait, tu débloques
[9:55] des cas d 'usage que tu ne traîtais pas avant,
[9:58] et tu as vraiment des workflows qui sont autonomes
[10:00] et tu peux faire beaucoup plus que ce que tu
[10:02] faisais avant. Et donc là, tu dois toujours revenir
[10:04] à la question, finalement, quelle valeur je veux
[10:07] gentil par rapport au coût que tu vas payer à
[10:11] cause de ce workflow gentil. Clairement. Donc,
[10:16] juste pour préciser, donc input, c 'est tout
[10:18] ce qui concerne en fait le contexte. on met dans
[10:22] un LLM, parce que du coup là on parle plutôt
[10:24] d 'IA générative sur ce podcast. Pour les AGP
[10:27] que vous faisiez aussi, de l 'IA classique, de
[10:30] vision, etc. d 'autres choses qu 'on va pas forcément
[10:32] mentionner, mais voilà, vous vous limitez pas
[10:35] seulement au cas d 'usage d 'IA générative, parce
[10:37] que, bien sûr. Il y a beaucoup de gens qui sont
[10:40] pas techniques de base et qui découvrent l 'IA
[10:43] avec Tchadjibuti, tu vois, mais l 'IA existait
[10:47] avant, comme je l 'ai dit dans un autre podcast.
[10:49] Et après il y a donc l 'output, c 'est simplement
[10:51] la sortie, c 'est ce qu 'on voit en fait la réponse
[10:53] d 'une liage générative. Donc voilà pour ça.
[10:59] Et pour les workflows antiques, c 'est intéressant
[11:02] parce que du coup, pour rappeler également, donc
[11:05] c 'est ce principe de récursion en fait où à
[11:08] chaque fois l 'output est renvoyé en input, etc.
[11:11] jusqu 'à obtenir à la fin un deliverable, enfin
[11:15] je ne sais pas comment on dit mais ça peut être
[11:17] soit un article comme tu disais, soit de classification.
[11:22] Donc ces workflows agentiques, ils consomment
[11:24] beaucoup plus de tokens qu 'une simple inférence
[11:27] classique à cause de cette récursivité. Et il
[11:30] y a aussi le fait que du coup, on ne peut pas
[11:33] vraiment prédire le nombre d 'étapes aussi que
[11:35] ce workflow agentique va prendre. Donc j 'imagine
[11:38] qu 'il y a des techniques pour cadrer ça. Mais
[11:40] en fait, quand on définit par exemple un workflow
[11:43] qui va tourner tous les jours, On ne sait pas
[11:45] s 'il y aura 15 récursions, 20 récursions, 30
[11:48] récursions. On ne sait pas combien de tokens
[11:50] il va consommer aussi. Ça, est -ce que vous arrivez
[11:54] à le cadrer de manière générale ? Y a des techniques
[11:58] ou simplement en promptant le modèle parce qu
[12:02] 'on ne va pas qu 'il parte trop loin, tu vois,
[12:04] dans des cas particuliers ? Ouais. Et donc ça,
[12:09] le mot qui est à la mode aujourd 'hui, c 'est
[12:11] le mot de Harness. C 'est quoi un harness du
[12:14] coup ? Le harness, c 'est l 'ensemble des outils
[12:21] que tu mets à disposition d 'un modèle de langue
[12:23] du style upload ou open AI. Et l 'idée en fait,
[12:32] c 'est que tu vas essayer de contrôler ton harness
[12:34] et donc ton harness à chaque fois c 'est des
[12:38] outils et donc des morceaux de code qui vont
[12:40] pouvoir être exécutés. et qui vont aussi pouvoir
[12:43] réagir en fonction de l 'entrée ou de la sortie
[12:45] de ton modèle. Par exemple, tu parlais de l 'aspect
[12:50] récursivité. En fait, tu peux limiter le nombre
[12:54] de tours que tu vas faire, notamment en l 'encodant
[12:58] dans ton harness. Tu vas mettre une règle dans
[13:00] ton code pour dire qu 'au bout de 5 appels, tu
[13:04] vas t 'arrêter et tu vas essayer de sortir un
[13:06] résultat. On agit plutôt sur le harness plutôt
[13:10] que sur le compte. Parce que comme tu le sais,
[13:12] le prompt, lui, il va être interprété de manière
[13:14] non déterministe et donc tu peux moins bien le
[13:17] contrôler. Et puis il peut y avoir des instructions
[13:21] contraires un peu dans le prompt. Par exemple,
[13:24] une instruction de base qui est l 'objectif,
[13:27] et après si on lui donne une instruction qui
[13:29] dit de ne pas aller trop loin, c 'est un peu
[13:30] contradictoire avec l 'objectif parfois. Il aura
[13:33] besoin de plus d 'informations. Donc par exemple,
[13:36] oui, on peut... Clairement définir par exemple
[13:39] un nombre de tours qu 'il va faire ou un nombre
[13:41] d 'outils qu 'il peut appeler. D 'ailleurs, on
[13:44] dit que c 'est des tools, donc des outils de
[13:48] base. Est -ce que tu sais pourquoi on n 'appelle
[13:49] pas ça une fonction ? Parce qu 'au moins un outil
[13:53] c 'est comme une fonction, mais du coup tout
[13:54] le monde dit tools. Est -ce qu 'il y a une différence
[13:56] ? Non, je ne pense pas qu 'il y ait de différence.
[14:02] C 'est marrant qu 'il y ait un vocabulaire un
[14:04] peu... différence qui fait que ça on dirait que
[14:07] c 'est un truc révolutionnaire alors qu 'en fait
[14:09] un tool c 'est une fonction que le LLM va appeler
[14:14] ensuite il va récupérer le résultat mais bon
[14:17] c 'est des fonctions spécialisées pour les LLM
[14:19] et du coup souvent par exemple ce que va retourner
[14:23] cette fonction on va sélectionner le résultat
[14:28] injecté dans le contexte pour pas le remplir
[14:31] par exemple si c 'est un JSON énorme ou avec
[14:34] juste d 'informations dans le harness. Pour moi,
[14:38] c 'est vraiment de l 'ingénierie pure, de l 'ingénierie
[14:42] où on pricole, on essaye de choisir les contours.
[14:45] Est -ce que vous, quand vous avez besoin de créer
[14:49] un workflow agentique pour votre harness, est
[14:53] -ce que vous prenez un pas de recul ? Comment
[14:56] vous faites pour définir les tools auxquels il
[14:58] y aura accès ? Vous avez une méthode particulière
[15:01] ? pour spécifier tout ça, cadrer tout ça et lui
[15:05] donner exactement les bons outils sans qu 'il
[15:08] en ait trop aussi, parce que dans mes expériences,
[15:13] parfois quand on donne trop d 'outils, c 'est
[15:15] pas bon. Le LLM, il peut se perdre aussi. Et
[15:18] peut -être pour alimenter la distinction tool
[15:20] -function, si tu veux tool, tu as l 'idée que
[15:24] tu vas apporter les informations nécessaires
[15:27] à ton LLM pour qu 'il comprenne comment utiliser
[15:29] la fonction. du style comment utiliser les arguments,
[15:32] une description, c 'est assez basique mais je
[15:34] pense que c 'est salier. Et ta question c 'est
[15:38] comment en fait l 'approche chez les scientifiques,
[15:42] on est dans du test unlearn et donc bien sûr
[15:46] il y a des gens qui documentent des workflows
[15:48] agentiques, qui font de la recherche dans le
[15:49] domaine. En fait ce qu 'ils font à chaque fois
[15:51] c 'est qu 'ils construisent une mécanique d 'évaluation.
[15:55] Par exemple je peux te parler d 'un... type de
[15:58] workflow agentique qui est le sujet de la recherche,
[16:02] donc pour construire un moteur de recherche.
[16:05] Jusque -là, en fait, la stratégie, si tu veux,
[16:07] c 'est d 'indexer ta base de connaissances et
[16:10] de trouver une mécanique qui va permettre, à
[16:13] partir de l 'expression d 'un mot -clé, d 'associer
[16:17] l 'élément dans l 'index. Et une fois que tu
[16:19] as toutes les références dans ton index, tu peux
[16:21] retrouver les informations que tu recherches,
[16:23] donc les documents candidats. Donc ça, c 'est
[16:26] gérer la recherche classique. Tu peux rajouter
[16:29] des embeddings là -dedans. Un embedding, c 'est
[16:32] l 'utilisation aussi d 'une intelligence artificielle,
[16:35] donc d 'un moteur IA, qui va transformer ton
[16:37] texte en vecteur. Et ensuite, tu vas pouvoir
[16:41] faire des opérations sur les vecteurs qui permettent
[16:43] de voir les vecteurs les plus proches. Donc ça,
[16:46] c 'est aussi ce qu 'on appelle la recherche chémentique.
[16:50] Et encore une fois, c 'est toujours la même idée.
[16:51] Tu indexes et tu recherches directement en une
[16:54] seule fois. Ça c 'est intéressant, mais souvent
[16:59] dans la recherche tu peux avoir différentes intentions
[17:01] qui sont exprimées par ton utilisateur. Tu peux
[17:04] avoir par exemple une recherche qui va étudier
[17:09] tous les documents pertinents sur l 'intelligence
[17:11] artificielle, mais ne garde que ceux qui vont
[17:15] parler de l 'open source par exemple. Donc tu
[17:22] veux rajouter une mécanique de filtre. Et donc
[17:25] ça, en fait, si tu veux, tu es obligé de décomposer,
[17:27] de commencer à interpréter finalement ta recherche.
[17:30] Et la recherche dite agentique, elle s 'y prête
[17:32] bien parce que tu vas pouvoir avoir un premier
[17:34] tour où tu vas lister des documents pertinents.
[17:38] Et puis un deuxième tour où tu vas rentrer un
[17:40] peu plus en profondeur dans chaque document,
[17:42] tu vas l 'analyser et tu vas pouvoir en fait
[17:46] apporter de la précision. Et donc ça, c 'est
[17:50] un cas d 'usage de la recherche agentique qui
[17:53] est de plus en plus courante. Et en fait, ce
[17:56] qu 'on peut faire, c 'est définir des métriques
[17:58] d 'évaluation dès le départ. Donc, tu travailles
[18:02] sur un jeu de données. Tu sais que tel document
[18:06] est pertinent pour tel type de requête. Et donc,
[18:09] tu rétablis ça à l 'avancement. Et donc, tu as
[18:13] un grand nombre de couples requête -document.
[18:17] et score de pertinence. Tu t 'appuies sur ça
[18:21] pour évaluer ta recherche agentique. Tu vas faire
[18:25] tourner ta recherche agentique sur plein de types
[18:28] de requêtes en entrée. Comme tu as déjà ce jeu
[18:32] d 'évaluation, ça va te permettre de calculer
[18:34] le score total atteint à la fin. C 'est ça qu
[18:38] 'on utilise pour évaluer un harness. Dans ton
[18:42] harness agentique, tu peux faire plein de variations.
[18:45] tu peux dire ok, dans un premier temps, je vais
[18:49] regarder que le titre de mon document. Donc ça,
[18:52] c 'est une façon de faire de retrieval, de faire
[18:54] de la récupération d 'informations. Notre tool
[18:57] va être plutôt dans l 'analyse profonde et donc
[19:00] je souhaite dans cet autre tool récupérer un
[19:04] chunk. Donc là, tu peux se poser la question
[19:07] de est -ce que je récupère... Un chunk, c 'est
[19:09] un morceau du document. Est -ce que je récupère
[19:12] un chunk, deux chunks, trois chunks ? Tout ça,
[19:14] tu peux le customiser dans ton harness. Et finalement,
[19:20] après, ton ensemble, ta panoplie d 'outils que
[19:24] tu mets à disposition de ton modèle de langage
[19:27] va te permettre d 'atteindre plus ou moins le
[19:29] résultat. Par exemple, une astuce qui est intéressante
[19:32] dans la recherche agentique, c 'est d 'avoir
[19:35] un tool qui va permettre de nettoyer tous les
[19:38] documents candidats que tu as déjà vus, tu veux
[19:40] éviter d 'aller re -rechercher dans ce que tu
[19:42] as déjà vu. Mais dans ces logiques de recherche
[19:46] agentique, on est plutôt sur de l 'analyse un
[19:49] peu plus profonde, un peu comme si tu connais,
[19:54] par exemple, tu peux faire des deep searches
[19:55] sur Claude ou des choses comme ça, et donc c
[19:58] 'est exactement le même type de logique que tu
[20:00] retrouves dans une recherche agentique. Effectivement,
[20:04] donc du coup vous définissez des use case en
[20:06] fait, des scénarios de l 'utilisateur, de recherche
[20:10] par exemple qui peut faire plus ou moins complexe
[20:12] et après vous allez faire tourner votre harness,
[20:15] votre agent IA, votre workflow agentique et selon
[20:18] le résultat vous allez le noter ou l 'évaluer
[20:22] en fait et comme ça vous pourrez identifier là
[20:25] où il est bon et là où il est pas bon et du coup
[20:28] au fur et à mesure corriger c 'est ça ? Exactement.
[20:34] Souvent, ce que nos clients vont regarder, c
[20:35] 'est la latence, ou en tout cas la durée totale
[20:38] de l 'opération, et aussi le coût. Et on revient
[20:41] au sujet, effectivement. C 'est ça. C 'est tout
[20:46] ce travail d 'optimisation, c 'est le travail
[20:47] des ingénieurs. Moi, je suis assez impressionné
[20:51] quand j 'utilise Perplexity. Parce qu 'en fait,
[20:54] depuis longtemps, ils sont très rapides pour
[20:57] faire de la recherche sur le web. Et du coup,
[21:00] je me dis qu 'ils ont fait quand même un sacré
[21:02] travail d 'engineering parce qu 'ils ont indexé
[21:05] tout ça, ils ont leur propre modèle d 'IR, ils
[21:08] doivent utiliser aussi, j 'imagine, la recherche
[21:10] sémantique. Est -ce que, rapidement, tu peux
[21:14] expliquer l 'intérêt de la recherche sémantique,
[21:16] donc est -ce que tu disais avec les embeddings
[21:18] et le facteur, parce que quelqu 'un qu 'on n
[21:20] 'a jamais fait, je ne sais pas s 'il sait ce
[21:23] que c 'est, mais quel est l 'intérêt de faire...
[21:25] transformer du texte en vecteur en 0 et 1 et
[21:28] en quoi ça marche mieux que juste faire une recherche
[21:31] dans le texte classique ? Oui, parce qu 'en fait
[21:35] là disons que quand tu transformes du texte en
[21:37] vecteur l 'idée c 'est que tu vas avoir une par
[21:40] exemple si tu as deux concepts qui sont proches
[21:45] du style je sais pas moi une voiture et une moto
[21:48] qui sont dans le registre du transport et ben
[21:52] en théorie dans ta représentation vectorielle
[21:54] dans tes embeddings, ces embeddings vont être
[21:56] proches. Donc supposons que tu sois sur un moteur
[21:59] de recherche qui permet d 'explorer des articles
[22:01] de presse et en fait tu recherches des informations
[22:07] sur les différents modes de transport, et bien
[22:11] en fait le modèle va comprendre, va pouvoir généraliser
[22:16] si tu veux un domaine plus large au lieu d 'avoir
[22:19] une recherche qui va être uniquement sur le texte
[22:23] motocycle, motocyclette ou vélo, etc. Il va pouvoir
[22:26] en fait avoir une capacité de généralisation.
[22:29] Et donc ça te permet d 'avoir une recherche un
[22:30] peu plus riche de ce point de vue là. Après c
[22:33] 'est pas forcément une... Nous ce qu 'on fait
[22:35] souvent c 'est qu 'on combine les deux. On a
[22:37] une recherche hybride. On fait à la fois de la
[22:41] recherche syntaxique, tu vois, on va regarder
[22:44] la proximité des mots. Et donc c 'est un peu
[22:47] compliqué juste de dire mot à mot, tu vois, c
[22:49] 'est un peu plus riche. Et on fait aussi la recherche
[22:52] sémantique. Et tu as aussi une astuce qui consiste
[22:56] à utiliser une pipeline d 'ingestion à base d
[23:01] 'intelligence artificielle qui va extraire des
[23:04] mots -clés. Et en fait, quand tu fais de l 'extraction
[23:06] de mots -clés, tu fais aussi une forme d 'extraction
[23:08] sémantique parce que tu essaies d 'enrichir finalement
[23:11] le vocabulaire. Le sens en fait, les mots extraits,
[23:14] quand tu penses des mots plutôt que les mots
[23:16] littéralement. Et cette extraction, vous la faites
[23:21] avec des LLM ? Super intéressant. Et du coup,
[23:29] on bouclait le harness sur le coup, on revenait
[23:32] là où on est parti. Demain, il y a un client
[23:37] qui vient vous voir et qui vous parle de son
[23:40] business, vous vous identifiez des workflows.
[23:44] donc des choses répétitives à potentiellement
[23:47] automatiser et vous identifiez qu 'on peut y
[23:50] mettre de l 'IA parce qu 'il prête bien pour
[23:53] ce cas d 'usage. Comment vous choisissez le modèle
[23:57] d 'intelligence artificielle à utiliser parce
[24:00] qu 'aujourd 'hui on est noyé sous tous les fournisseurs
[24:03] de modèles. Il y a des modèles open source, il
[24:06] y a ce qu 'on appelle les frontières modèles
[24:08] comme Code Spival, le tout nouveau qui est sorti
[24:11] qui est ultra puissant mais ultra cher. Comment
[24:18] vous faites pour choisir le modèle ? Est -ce
[24:21] que vous choisissez, est -ce que vous changez
[24:23] éventuellement le modèle en cours de route ?
[24:25] Et est -ce que vous, éventuellement, même vous
[24:28] utilisez plusieurs modèles parfois, ou même vous
[24:30] changez, vous routez vos requêtes à différents
[24:34] modèles dans un même workflow identique ? Quelle
[24:37] est votre process là -dessus ? J 'ai pas mentionné
[24:41] mais le client, il a aussi un budget, j 'imagine,
[24:45] ou en tout cas une fourchette. Et donc, il faut
[24:48] que ce workflow, il explose pas le budget du
[24:51] client en tout cas pour faire ça. Alors déjà,
[24:56] on commence souvent par pas trop se donner de
[24:58] contraintes de coût au départ quand tu es en
[25:01] phase de développement et que tu réfléchis à
[25:03] est -ce que tu peux automatiser ta tâche avec
[25:06] de l 'intelligence artificielle. ton objectif
[25:09] c 'est de démontrer la faisabilité et de dire
[25:11] ok en fait aujourd 'hui il y a et capable enfin
[25:14] les meilleurs modèles les modèles frontières
[25:16] sont capables de faire ensuite nous on par expérience
[25:19] on sait qu 'il y a certaines tâches que des modèles
[25:22] plus qui n 'ont pas besoin d 'être des modèles
[25:23] frontières sont capables de faire donc j 'irai
[25:26] que tu as un peu j 'irai moi je mets un peu en
[25:29] trois bucket si tu veux les modèles donc tu as
[25:31] et j 'aime bien utiliser le la terminologie tu
[25:34] as du nano mini du normal et puis tu peux avoir
[25:38] un peu plus pro par dessus. Ou bien tu peux reprendre
[25:42] la répartition d 'anthropiques avec du haiku,
[25:46] du sonné et puis du opus. Donc la 3SL en vrai,
[25:51] nano, ça représente aussi la taille en nombre
[25:53] de paramètres, donc petit modèle, petite intelligence
[25:57] mais rapide. Ça peut quand même être intelligent
[26:01] parce qu 'en fait... Plus le temps passe, plus
[26:05] les modèles sont intelligents. Les anciens modèles
[26:07] restent tout aussi intelligents qu 'ils l 'étaient.
[26:10] C 'est juste que la frontière de l 'intelligence
[26:12] est de plus en plus repoussée. Plus le temps
[26:16] passe, moins on aura besoin des frontières modèles
[26:19] pour faire tous nos workflows identiques. Ces
[26:22] modèles -là pourront être utilisés pour démontrer
[26:25] un théorème mathématique ou des choses à fortes
[26:27] valeurs ajoutées. Exactement. C 'est pour ça
[26:30] que je pense qu 'il y a une dissociation entre
[26:33] tes modèles frontières où là vraiment il y a
[26:35] une compétition où je pense que par exemple nous
[26:38] en tant qu 'utilisateurs sur le code, on préfère
[26:41] payer le modèle frontière parce qu 'on sait à
[26:45] quel point ça nous aborde de la valeur et que
[26:47] ça nous accélère. Et donc, par exemple, comme
[26:57] je le disais au début, le coût n 'est pas forcément
[26:59] le critère principal, on l 'a bien sûr en tête.
[27:03] Surtout si il y a un sujet de faisabilité. Par
[27:05] exemple, nous on travaille de plus en plus sur
[27:07] des sujets où on doit analyser des plans, donc
[27:09] c 'est des choses un peu plus complexes, où là
[27:12] le token en fait, c 'est de l 'image. Donc on
[27:15] utilise non plus, tu vois, des modèles de computer
[27:19] vision classique, mais ces modèles multimodaux.
[27:22] qui ont été entraînés à la fois sur du texte,
[27:26] de l 'image, et même aujourd 'hui tu vois tu
[27:28] as du son, donc ça c 'est intéressant. Quand
[27:32] on a un sujet de faisabilité, on commence d 'abord
[27:35] par le modèle fontiaire, ensuite quand il n 'y
[27:37] a pas de sujet de faisabilité, on prend le normal
[27:39] globalement, et ensuite on va ajuster en fonction
[27:43] de la latence, on va pouvoir prendre du Haiku
[27:45] ou du Nano, donc là si on veut vraiment réduire
[27:48] le temps de latence, mais on sait qu 'on va avoir
[27:51] une... un compromis en termes de performance.
[27:54] On est plutôt sur des tâches simples, du style
[27:56] classification, extraction très très simple.
[28:00] Sur de l 'extraction un peu plus classique, du
[28:02] style j 'ai un document, une facture, et tu veux
[28:06] extraire chaque ligne de la facture, le montant,
[28:10] là tu peux mettre le bucket assez normal, du
[28:14] sonné équivalent, ça marche plutôt bien. Et ensuite,
[28:19] effectivement, sur des tâches où tu as besoin
[28:20] de créativité aussi, il y a un peu ce sujet -là,
[28:23] je te donnais le use case de écrire des articles,
[28:27] tu vas plutôt utiliser les modèles un peu plus
[28:29] puissants parce que tu veux une sorte de richesse,
[28:32] de compréhension plus large. Il y a un comportement
[28:37] encore plus aligné sur l 'humain et tu le vois
[28:40] en utilisant les modèles frontières que quand
[28:43] tu leur donnes des instructions, devine aussi
[28:46] un peu le sous -texte de ton instruction et donc
[28:47] ils sont un peu plus alignés avec la façon dont...
[28:50] Plus ou moins en moins il y a besoin de créer
[28:51] des longues pomptes en fait et de plus en plus.
[28:54] Juste une phrase et en fait le modèle va directement
[28:57] comprendre tout ce qu 'il y a sous la censure
[29:00] qu 'on ait besoin de lui préciser et parfois
[29:02] même je crois qu 'Anthropiq recommande désormais
[29:06] de ne plus faire de longues pomptes justement
[29:08] parce que ça pourrait juste... le modèle pourrait
[29:12] être confus et juste... lui dire une ligne, ce
[29:16] qu 'on veut, ce qu 'on a dans la tête, il va
[29:17] le comprendre directement et découper en étapes,
[29:19] etc. Et tu demandais, est -ce qu 'on change le
[29:22] modèle ? Oui, ça nous arrive. Donc tu vois, il
[29:27] y a des mises à jour de modèles, alors il y a
[29:28] même aussi des sujets de dépréciation. Certains
[29:32] de nos clients ont eu du GPT 4 .0, par exemple,
[29:35] et à un moment donné, le provider dit, j 'arrête
[29:39] de servir GPT 4 .0. Ce n 'est pas encore le cas
[29:42] sur le GPT -4, mais c 'était le cas sur des générations
[29:45] précédentes. Et à ce moment -là, nous, ce qu
[29:48] 'on fait, c 'est qu 'on peut, comme on a toujours
[29:50] un peu une mécanique d 'évaluation, on est capable
[29:52] de regarder avec le nouveau modèle et de vérifier
[29:56] qu 'on n 'a pas une dégradation de performance.
[29:59] D 'expérience, on n 'a pas eu ce type de problème,
[30:01] en fait, où quand tu changes de modèle, tu dois
[30:04] tout rechanger. Alors peut -être que tu peux
[30:07] retravailler un petit peu le... Si tu as dû prendre
[30:09] entre les deux, dans le processus, tu peux peut
[30:13] -être le retravailler un petit peu, mais ça ne
[30:15] fait pas non plus une différence notable. Et
[30:19] sinon, dans la logique de comment je vais adapter
[30:22] mon niveau de modèle, par exemple, tu peux partir
[30:27] d 'un mandiel frontière et te dire, ok, bon,
[30:29] là, il est très fort dans cette tâche. Et progressivement,
[30:34] prendre le modèle en dessous, d 'un point en
[30:35] dessous. Mais si tu vois que tu ne dégrades pas
[30:37] tes performances, tu continues à l 'utiliser.
[30:39] C 'est comme ça qu 'on a tendance à construire
[30:44] nos solutions. Comment tu sais que quand tu baisses
[30:47] d 'intelligence et que tu vois que ça se dégrade,
[30:50] comment tu définis que c 'est à cause que du
[30:53] modèle et pas de ton harness et pas suffisamment
[30:56] optimisé ? Ou est -ce que ça peut être les deux
[30:59] mais une balance à trouver, en fait, un équilibre
[31:02] à trouver ? Oui, je pense que ça peut être le
[31:04] 2 après. Sur le harness et les cas agentiques,
[31:08] c 'est nos derniers clients qui en bénéficient
[31:10] parce que c 'est quand même des choses assez
[31:11] récentes. Et en fait, toujours dans nos solutions,
[31:18] on a des mécanismes de feedback utilisateurs.
[31:22] Donc on voit assez rapidement si le feedback
[31:26] est moins bon et s 'il voit une dégradation de
[31:30] la performance. Et après, on peut aussi jouer
[31:32] ça sur des jeux de données qu 'on aura préparés.
[31:36] Et ça nous permet aussi d 'avoir des métriques
[31:37] qui soient un peu plus précises sur la qualité
[31:39] de sortie. Ça, c 'est un sujet. Le feedback,
[31:43] c 'est une pure importance. Et il y a pas mal
[31:46] de gens un peu dans la Silicon Valley, à droite
[31:49] à gauche, qui parlent un peu de self -improving
[31:52] agents, donc des agents qui vont s 'auto -améliorer,
[31:56] donc soit grâce au feedback qu 'ils reçoivent.
[32:01] soit directement eux -mêmes en analysant leurs
[32:03] propres résultats, entre guillemets. Est -ce
[32:08] que c 'est un sujet que vous avez déjà exploré
[32:09] ? J 'imagine que le mettre en production à des
[32:11] clients n 'est pas forcément tout de suite la
[32:14] chose à faire. Est -ce que c 'est un peu dangereux
[32:17] et partir dans tous les sens ? Mais est -ce que
[32:19] tu as un avis là -dessus ? C 'est assez drôle
[32:23] mais on nous demande souvent est -ce que l 'IA
[32:25] apprend. Et bon, ça cache parfois derrière le
[32:31] fait que les gens n 'ont pas conscience que c
[32:32] 'est juste une machine à qui tu donnes des tokens
[32:34] et qui va t 'en donner de nouveaux tokens. Et
[32:38] donc, d 'elle -même, le modèle de langage ne
[32:42] va pas apprendre si tu ne cherches pas à soit
[32:45] faire évoluer ses paramètres, soit faire évoluer
[32:47] le prompt que tu... le modèle n 'apprend pas,
[32:55] il reste toujours le même quoi, si tu le change
[32:58] pas, tu ne change pas les paramètres que tu utilises.
[33:01] Le modèle c 'est quoi ? C 'est un espèce de grand
[33:03] fichier de réseau de neurones, etc. Oui, d 'affaire.
[33:06] Il ne bouge pas, sauf si on le fine -tune, donc
[33:08] on peut le changer, mais si on ne le fait pas,
[33:14] il ne change pas, ça il ne pourra pas améliorer
[33:17] tout seul comme ça, sans intervention d 'ingénieurs
[33:20] qui vont créer des mécanismes pour le faire.
[33:24] Exactement. Donc ça, on essaie de... Parce que
[33:26] c 'est vrai que les gens se disent que quand
[33:28] j 'interagis avec TchatGPT, ils commencent à
[33:32] mieux me comprendre, ils parlent mon langage,
[33:34] etc. Et donc ça, c 'est vrai que t 'as des...
[33:38] Alors, sans modifier les paramètres du modèle,
[33:40] tu peux jouer en fait sur le contexte. Donc en
[33:42] gros, ce que font TchatGPT ou Cloud quand tu
[33:45] utilises leurs outils sur Internet, ils vont
[33:48] enregistrer une mémoire. Donc ils vont dire,
[33:50] OK... Toi t 'aimes bien parler d 'automobile
[33:53] ou autre chose, et donc ils vont se dire, bah
[33:55] mon utilisateur aime bien tel et tel sujet. Et
[33:58] à un moment donné, ils vont le mettre dans le
[33:59] contexte. Et donc c 'est toute la logique de
[34:01] comment je vais réintégrer la mémoire dans mon
[34:03] contexte, qui fait qu 'on peut dire que l 'on
[34:05] y apprend. Et après, pour répondre à ta question,
[34:09] oui, on commence à le faire, le fait de, comment
[34:12] dire, d 'avoir ce boucle de rétroaction. C 'est
[34:16] sûr que le système n 'est pas safe in proving,
[34:17] c 'est -à -dire qu 'on a toujours... comment
[34:19] dire, une intervention de... Pour l 'instant.
[34:24] Mais ce qu 'on peut faire, c 'est... Ce qu 'on
[34:28] fait d 'ailleurs, c 'est en gros, on peut orchestrer
[34:33] une sorte de script qui va prendre les feedbacks,
[34:37] qui va analyser par exemple les erreurs et qui
[34:39] va proposer des évolutions de prompt. Et à un
[34:42] moment donné, l 'ingénieur va voir l 'output,
[34:44] comme tout à l 'heure. On évoquait le fait que
[34:47] tu peux mettre un agent cloud, il a terminé,
[34:49] il va dire, j 'ai terminé. Voilà, on peut avoir
[34:51] ce type de mécanique pour pouvoir en faire de
[34:56] l 'amélioration continue des solutions qu 'on
[34:59] met en place pour nos clients. Ok, d 'ailleurs
[35:02] là -dessus. Du coup, tu m 'as attendu une perche
[35:05] en parlant de mémoire. C 'est un sujet, je pense,
[35:07] que j 'ai jamais abordé sur le podcast. La mémoire
[35:11] des IA entre guillemets. et tu as évoqué le contexte,
[35:16] que c 'était lié au contexte, donc est -ce que
[35:19] tu peux clarifier un peu ça ? Est -ce que tu
[35:21] peux, parce que la mémoire en fait c 'est quand
[35:23] même un gros problème pour les IA, à cause de
[35:27] cette limitation de la taille de contexte, bien
[35:29] que maintenant les modèles, par exemple Gemi,
[35:32] ils ont un million de tokens, mais du coup tu
[35:34] peux pas injecter trop trop d 'informations,
[35:37] parce que du coup ça va se perdre avec ton compte
[35:39] et il faut que ce soit très bien fait. C 'est
[35:42] un problème qui est en train d 'être un peu résolu,
[35:44] j 'ai l 'impression, avec tes agents autonomes,
[35:46] là, on parle souvent de cerveau pour les agents,
[35:49] des outils qui font ça. Tu peux un peu élaborer
[35:52] sur ce problème, parce que en fait c 'est très
[35:57] frustrant et c 'est le cas de plein de gens.
[35:59] Tu fais une session sur CodeCode où tu parles
[36:02] à tchadjpt, tchadjpt garde un dossier d 'ailleurs,
[36:07] mais tu peux, après une longue session, t 'en
[36:09] recommence une autre. et tu lui expliques exactement
[36:12] la même chose que tu lui as expliqué avant. Et
[36:15] du coup, c 'est un peu frustrant, ça consomme
[36:17] plus de tokens, donc ça coûte plus cher et tu
[36:20] peux répéter chaque jour la même chose. Tu te
[36:24] laisses juste élaborer sur la mémoire. En fait,
[36:27] comme tu le dis, le sujet de la mémoire, c 'est
[36:30] le contexte et la taille du contexte. Et ça,
[36:34] je pense que la mauvaise nouvelle, c 'est que
[36:35] ça va pas non plus. Aujourd 'hui, tu vois le...
[36:38] les fournisseurs propriétaires atteignent un
[36:41] million de tokens en taille de contexte. Donc,
[36:44] qu 'est -ce que ça veut dire ? Ça veut dire qu
[36:45] 'on peut mettre au plus un million de tokens
[36:47] pour obtenir deux nouveaux tokens de la part
[36:50] d 'un modèle de langage. Est -ce que tu penses
[36:53] juste que le cap de 1 million va être cassé et
[36:59] il y aura une nouvelle innovation et pas 10 millions
[37:01] ? Enfin, ça c 'est des suppositions. Le sujet
[37:05] derrière, c 'est un peu technique, mais c 'est
[37:07] bien l 'architecture notamment des GPU, qui sont
[37:11] les processeurs graphiques qui sont utilisés.
[37:15] Ces GPU sont limités sur la bande passante mémoire
[37:20] qui permet de copier les paramètres du modèle
[37:24] vers l 'endroit, qui est la mémoire la plus vive
[37:28] du GPU, où se fait l 'exécution parallèle du
[37:32] code. Et donc ça, en fait, tu as une bandwidth,
[37:37] donc une bande passante qui est limitée. Et en
[37:39] fait, à chaque génération, donc la nouvelle génération
[37:42] NVIDIA Rubin, tu continues à faire exploser ta
[37:47] capacité de calcul, mais pas autant d 'un point
[37:50] de vue memoire, bande passante memoire. Et pourquoi
[37:53] je t 'en parle ? Parce qu 'en fait, ce que tu
[37:55] fais quand tu fais un modèle de langage, c 'est
[37:59] un modèle dit auto -régressif. Donc en gros,
[38:03] chaque token que tu dois générer, il faut que
[38:05] tu prennes, tu dois porter attention, donc c
[38:08] 'est le mécanisme de l 'attention, à chacun des
[38:10] tokens précédents. Et ce qui est fait pour éviter
[38:12] d 'avoir à faire un peu de calcul quadratique,
[38:15] c 'est qu 'en gros tu vas en fait stocker ce
[38:18] qu 'on appelle un KVCash, qui en gros tu mets
[38:22] en cache si tu veux tous les moments où tu as
[38:24] utilisé tes tokens précédents dans ton mécanisme
[38:26] de l 'attention. Et donc plus ton KVCash grossit,
[38:30] plus tu vas occuper en fait, ta bande passante
[38:32] mémoire au moment où tu vas faire l 'inférence.
[38:35] Et donc, si tu veux ton 1 million de tokens,
[38:38] il va avoir un impact, en fait, sur cette...
[38:40] Si tu veux passer à 2 millions de tokens, tu
[38:42] vas encore faire exploser ton caveat cash. Et
[38:44] donc là, il y a eu des innovations récentes,
[38:46] c 'est vrai. Donc, notamment, il y a eu des innovations
[38:49] de la part de DeepMind et le laboratoire de Google,
[38:53] où ils sont capables de mieux compresser l 'information
[38:55] et d 'avoir un cash qui est beaucoup plus petit.
[38:59] Donc voilà, il y a beaucoup de gens qui réfléchissent
[39:01] à ce sujet. Mais c 'est vrai que ça reste un
[39:04] problème physique, tu vois, ça vient de ton GPU.
[39:10] Tout le domaine -là, il faut qu 'il y ait de
[39:12] l 'innovation, que le software, bien qu 'on puisse
[39:15] compresser, compresser, mais au bout d 'un moment...
[39:19] Donc t 'es limité en taille de contexte. Et c
[39:24] 'est vrai que tu as pas mal d 'influenceurs dans
[39:27] ce sujet qui parlent par exemple de continuous
[39:29] learning, qui est de dire, supposons que tu aies
[39:32] une taille de contexte infini, finalement tu
[39:34] vas être capable de remplacer vraiment un stagiaire
[39:39] ou une personne que tu viens de recruter parce
[39:43] qu 'il va apprendre de toutes ses interactions,
[39:45] etc. Et donc comme ce n 'est pas possible aujourd
[39:48] 'hui, toute l 'ingénierie qu 'on fait est souvent
[39:51] liée à comment optimiser l 'utilisation de notre
[39:53] contexte. Et donc la mémoire, on peut mimer une
[39:58] sorte de mémoire en ayant des mécaniques qui
[40:01] vont dire, ok, si on me parle de tel et tel sujet,
[40:05] je vais aller chercher des informations dans
[40:07] ma mémoire. Et donc là, on a ce qu 'on appelle
[40:10] des sortes de rags, donc on va avoir quelque
[40:15] chose qui va interroger une base de données,
[40:16] une base de connaissances, de mémoire. et qui
[40:19] va pouvoir l 'intégrer à ton contexte. Donc plutôt
[40:22] qu 'avoir toute sa mémoire dans le contexte,
[40:25] utiliser des outils pour récupérer juste la mémoire
[40:29] qu 'il faut à tel moment pour tel workflow et
[40:34] pas la mémoire non pertinente pour ça quoi. Oui,
[40:37] exactement. Ok, top. Et du coup, on parlait pas
[40:43] mal de cache, un problème pareil. Un peu d 'actualité
[40:48] aussi parce que, je ne sais pas si tu as vu,
[40:51] mais il y a cette entreprise aux États -Unis,
[40:52] Factory, qui fait des Coding Agents. Ils viennent
[40:56] de sortir un espèce de modèle de routing, de
[41:01] la tâche au bon modèle. Un des problèmes que
[41:04] ça pose, c 'est que du coup, si tu utilises un
[41:08] modèle qui met en cache ta conversation, on va
[41:11] dire, et que tu changes, tu dois en fait recréer
[41:16] ton cache. et en fait ça peut potentiellement
[41:19] consommer plus que ça doit en fait sauvegarder.
[41:23] Et je sais pas si t 'as vu ce qu 'ils ont sorti,
[41:26] est -ce que tu penses que ça fonctionne ou est
[41:28] -ce que en fait c 'est juste sexy sur le papier
[41:31] mais à cause de ces problèmes de cache, c 'est
[41:34] pas forcément bien. Je bats connaissance de la
[41:39] sortie mais souvent en fait nous on préfère quand
[41:41] même contrôler notre contexte. Je sais pas si
[41:45] tu te rappelles mais à un moment donné via le
[41:49] tchat de tchat GPT il y avait une sorte d 'orientation
[41:52] vers des modèles plus ou moins performants et
[41:54] ça avait pas mal fait polémique parce que les
[41:56] gens comprenaient pas pourquoi de temps en temps
[41:58] le modèle était beaucoup moins bon qu 'habitué
[42:02] et donc ça en fait contrôler le modèle que tu
[42:05] utilises et aussi toute l 'information que tu
[42:08] lui donnes c 'est quand même assez important
[42:10] pour être sûr tu vois d 'arriver à l 'objectif
[42:13] que tu t 'étais fixé à l 'avance En fait, tu
[42:21] ne sais pas si ta tâche va être complexe ou pas.
[42:23] Tu peux le prédire même avec de l 'IA. Mais parfois,
[42:29] une tâche peut s 'avérer plus complexe que ça
[42:30] n 'y paraît. En fait, ce que tu veux éviter,
[42:33] c 'est qu 'au moment où tu fais le routage, ton
[42:36] routeur dise que ta tâche est moins complexe
[42:39] et du coup, il va faire appel à un modèle moins
[42:42] performant. Et donc, je pense que ce risque -là...
[42:44] T 'essayes quand même de l 'éviter en fait. Tu
[42:47] préfères en fait garder ton modèle, j 'ai envie
[42:49] de dire, normal. Gachi, pour un simple merci
[42:52] par exemple, d 'utiliser le code FABLE. Oui,
[42:57] oui. Mais est -ce que tu sais que tu dois dire
[42:58] juste merci ? En fait, d 'un point de vue un
[43:02] peu conceptuel, c 'est comme ça voudrait dire
[43:04] que ton modèle de routage doit être encore plus
[43:06] intelligent ou en tout cas avoir une capacité
[43:09] à comprendre beaucoup plus l 'intention de l
[43:12] 'utilisateur. et la complexité de la tâche. Et
[43:16] à vrai dire, si t 'es capable de mesurer la complexité
[43:18] d 'une tâche, ça veut dire que t 'as l 'intelligence
[43:20] de la résoudre d 'une certaine façon. Filosophiquement,
[43:23] tu pourrais dire ça. Et donc c 'est pour ça que
[43:25] je pense que les gens sont parfois cétiques sur
[43:27] le routage ou sur ces approches -là. Après, ça
[43:31] marche quand même. Donc je dis pas qu 'il faut
[43:33] jeter le bébé avec l 'eau du bain, mais ça peut
[43:36] être intéressant. Le contexte que Samy parlait,
[43:39] j 'ai l 'impression. C 'est pour ça que ça n
[43:41] 'existe pas forcément dans la GPT ou plein d
[43:44] 'autres points de serveur. Et donc, je disais
[43:49] que maintenant, la plupart de votre temps, c
[43:51] 'était de gérer du contexte et tout ça. J 'imagine
[43:55] que toi, du coup, tu développais du code à la
[43:59] main, comme tout mon enfant. Tu fais partie de
[44:02] cette époque. Les nouveaux développeurs ne pourront
[44:05] pas comprendre, mais en fait... explique -nous
[44:10] un peu cette transformation et en fait que maintenant
[44:14] le métier d 'ingénieur logiciel se transforme
[44:17] un peu en contexte engineering tu vois parce
[44:22] que le code c 'est devenu presque une formalité
[44:25] bien que et maintenant on pense plus en architecture
[44:28] en question du contexte et tout ça voilà c 'est
[44:33] une question assez ouverte Mais qu 'est -ce que
[44:35] ça t 'évoque cette transformation aussi du métier
[44:38] de développeur ? En fait, il y a plein de gens
[44:41] qui ne sont pas dans la tech et qui n 'ont pas
[44:44] vu cette transformation autant arriver parce
[44:48] que j 'ai l 'impression qu 'ils ont visé le code
[44:51] parce que c 'est un gros marché. Et ça marche
[44:54] très bien pour les LLM, ce cas d 'usage. Et du
[44:57] coup, nous, on était un peu les premiers à vraiment
[45:00] avoir des outils à gentils très poussés. Et voilà,
[45:05] qu 'est -ce que ça t 'évoque, ce changement et
[45:08] une nouvelle manière de travailler ? Où est -ce
[45:10] qu 'on va aussi à l 'avenir, tu vois ? On aura
[45:13] encore besoin de nous ? Ouais. C 'est pas mal
[45:17] de questions effectivement qu 'on se pose. Mais
[45:19] oui, on l 'a vraiment senti avec, je pense en
[45:23] novembre, l 'arrivée d 'Opus. Et puis après,
[45:27] il y a eu... Voilà. Et là, les gens qui se sont
[45:31] dit, en fait, ça marche vraiment. Ça code vraiment.
[45:35] On a tous eu les Américains parler de « haha
[45:39] moment », de dire « ah ouais, c 'est impressionnant
[45:41] ». Et oui, oui, je dirais moi, effectivement,
[45:45] décembre, je m 'y suis mis beaucoup plus, effectivement,
[45:50] parce que je voyais que j 'arrivais à aller jusqu
[45:53] 'au bout d 'une tâche. Tu sais, avant, on était
[45:55] dans l 'autocomplétion de code, donc ça, c 'était
[45:59] très bien, ça permettait quand même d 'aller
[46:01] beaucoup plus vite. Mais là, tu pouvais lui confier
[46:04] vraiment des tâches de bout en bout. Et comme
[46:07] tu dis, on travaille de plus en plus sur comment
[46:10] on va utiliser, comment on va orchestrer l 'utilisation
[46:15] de ces agents. Et là, je peux donner plein d
[46:20] 'exemples, mais notre métier, en fait, c 'est
[46:22] surtout de comprendre ce que veut le client.
[46:24] Parce qu 'en fait, souvent, si tu pars d 'un...
[46:27] Donc il y a plein de typologie de projet, mais...
[46:30] Un projet classique, c 'est j 'ai l 'expression
[46:32] d 'un besoin métier et j 'aimerais une solution
[46:35] logicielle. Mais si tu veux, le client, il n
[46:37] 'a pas en face de lui la solution logicielle,
[46:39] donc toi, tu es là, tu lui apportes un peu cette
[46:41] dimension artistique, tu crées devant lui et
[46:44] tu essaies de comprendre ce qui a de la valeur
[46:45] pour lui. Donc ça, j 'ai un autre focus à tout
[46:48] jouer. Oui, ça nous arrive en fait. Et même,
[46:54] c 'est plutôt, c 'est moins l 'équipe tech qui
[46:57] le fait que l 'équipe sales. Maintenant, l 'équité
[47:02] peut utiliser CodeCode, peu importe. C 'est génial
[47:08] de pouvoir brainstormer en voyant vraiment le
[47:12] résultat. La communication, les spécifications
[47:17] entre les clients et les développeurs, ça a toujours
[47:20] été quand même un gros problème, j 'ai l 'impression.
[47:23] Des énergies de compréhension, des allers -retours.
[47:25] Et là, tu te mets directement d 'accord sur...
[47:28] C 'est une espèce de design des fonctionnalités,
[47:31] et après, c 'est vos ingénieurs de faire en sorte
[47:33] que ça marche vraiment en production et pas juste
[47:35] en démo. C 'est assez génial, j 'imagine, de
[47:41] faire ce genre de session. Ce qu 'on parle, on
[47:48] a l 'impression qu 'il y a un peu une convergence
[47:49] des métiers, c 'est -à -dire que le sales qui
[47:52] comprend, ou le product manager, l 'équipe produit.
[47:57] qui est là pour comprendre le besoin. De toute
[47:59] façon, ça a aussi toujours été le travail de
[48:01] l 'ingénieur d 'être dans la compréhension du
[48:03] besoin et des objectifs et de la valeur qu 'il
[48:06] peut apporter aux clients. Et d 'ailleurs, nous,
[48:08] nos équipes sont quand même très proches des
[48:10] clients. On n 'en a pas. On essaie d 'éviter
[48:12] d 'avoir des mécanismes de proxy où tu as quelqu
[48:15] 'un qui prend A et qui te renvoie un peu B. Le
[48:18] message passe moins bien. Et moi, le message,
[48:23] c 'est le téléphone arabe. À la fin, ça ne ressemble
[48:25] plus vraiment. Et donc, on essaie vraiment d
[48:29] 'embarquer nos ingénieurs vraiment sur le...
[48:32] Et d 'ailleurs, le terme à la mode, c 'est forward
[48:34] deployed engineer. Enfin, c 'est même... Oui,
[48:37] j 'ai vu que Anthropic a ouvert des postes. En
[48:41] fait, c 'est des ingénieurs qui vont dans les
[48:42] entreprises, c 'est ça l 'implémentaire. J 'ai
[48:45] pas été pris, mais ça doit être très pétitif
[48:48] chez Anthropic. Notre idée, c 'est de faire ça
[48:51] à notre échelle et on fait ça. Donc du coup,
[48:56] on a une convergence des métiers où le sales
[48:59] commence à faire du code, le tech va pouvoir
[49:03] reprendre ce qui peut être pas mal, c 'est qu
[49:06] 'on peut transformer ce code finalement en spécification.
[49:09] Donc tu reviens à du langage naturel et tu vas
[49:13] retravailler les spécifications et ensuite, c
[49:16] 'est là où c 'est quand même utile d 'être tech,
[49:18] c 'est que pour répondre aussi à la question
[49:20] est -ce que notre métier va disparaître ? Tu
[49:22] as quand même tout un spectre de connaissances.
[49:25] Alors bien sûr, la connaissance maintenant c
[49:27] 'est une commodité puisque n 'importe qui peut
[49:29] interroger le code mais tu as aussi l 'expérience
[49:31] et tu as aussi les réflexes que tu peux avoir
[49:33] sur comment tu organises finalement un projet
[49:36] et comment tu vas séquencer ton développement.
[49:39] Et ça, comme tu n 'as pas ton contexte infini,
[49:42] pour l 'instant ça reste dans le cerveau humain
[49:45] de nos ingénieurs et donc tu vas travailler les
[49:50] specs. Et nous, ce que l 'ingénieur sait, il
[49:52] sait faire les choix techniques du style, je
[49:56] vais utiliser telle base de données, je vais
[49:57] configurer ma CI, donc c 'est un terme technique
[50:01] pour dire la manière dont le code va être construit
[50:05] puis ensuite déployé. Et ça, l 'ingénieur a vraiment
[50:10] une force là -dessus pour dire, je sais comment
[50:12] orchestrer tout ça. Et puis même dans mon développement,
[50:15] je sais comment je vais construire toute ma logique
[50:16] de test. pour m 'assurer que je suis bien conforme
[50:19] à mes spécifications et au fur et à mesure. Mais
[50:26] ça, c 'est difficile à mesurer, tu vois, cette
[50:30] compétence de, comme tu disais, séquencer un
[50:35] peu son implémentation. Parce qu 'on peut coder
[50:39] directement tête baissée, mais on peut aussi
[50:41] prendre un pas de recul, y aller petit à petit,
[50:43] tu vois. Et ça, c 'est vraiment... C 'est pas
[50:46] théorisé de nulle part. Là, j 'ai vu un truc
[50:50] super intéressant. C 'est un nouveau benchmark
[50:53] de coding pour les agents IA. C 'est ceux qui
[50:57] font le devin. Là, c 'est un agent de code des
[51:00] États -Unis. Et en fait, ils ont remarqué que
[51:02] les benchmarks d 'avant, c 'était juste un prompt,
[51:05] un unit test. Sauf que, en fait, ton code, il
[51:09] peut résoudre à un test, mais il peut être moche,
[51:12] tu vois, il peut être surcomplexifié. il y a
[51:15] plein d 'autres critères que juste ça marche,
[51:17] tu vois. Et donc eux, ils se sont basés sur...
[51:21] Est -ce que ce code va être fusionné dans un
[51:24] projet open source par le maintainer, tu vois.
[51:28] Et en fait, parce que quand tu fais une code
[51:29] review, là, du coup, je l 'ai fait ce matin parce
[51:34] que je suis maintainer sur un projet open source
[51:36] sur GitHub. Et du coup, en fait, c 'est beaucoup
[51:40] plus complexe. Donc moi, j 'avais codé avec Fable,
[51:44] tu vois. J 'étais content qu 'il mette un one
[51:47] -shot, mais en discutant avec mon collègue, il
[51:51] y avait plusieurs points que tu étais clairement
[51:53] à revoir, clairement des choix aussi, ça peut
[51:55] être comment tu nommes certaines variables, est
[51:58] -ce que c 'est compréhensible par l 'humain,
[52:00] tout un tas d 'autres critères que ça marche.
[52:05] Pour moi, c 'est là encore où l 'humain a beaucoup
[52:08] de valeur, et après, jusqu 'à quand, je ne sais
[52:12] pas, personne ne sait. Mais voilà, il y a aussi
[52:15] des gens, je l 'ai dit dans d 'autres podcasts,
[52:17] qui pensent que l 'IA va créer plein d 'emplois.
[52:21] Après, c 'est un sujet un peu hors de notre domaine
[52:23] de compétence, on va dire. Mais voilà, je ne
[52:27] sais pas si tu veux rebondir sur tout ça. D 'accord,
[52:31] mais je crois que le chiffre, c 'était 13%. Je
[52:33] crois qu 'il n 'y a que 13 % des PR qui étaient
[52:35] acceptés ou des choses comme ça. Exactement.
[52:38] Mais oui, oui. Mais du coup, ça montre bien que
[52:41] le métier a changé, où tu es plus dans la revue
[52:46] de ce que l 'IA va produire. C 'est ça. Voilà.
[52:50] Et là, c 'est vrai que... Il y a plus de codes,
[52:52] donc il faut beaucoup plus de capacité pour revoir
[52:54] ce code. C 'est ça en fait. Et du coup, le métier
[52:58] est quand même... Je dirais qu 'il n 'est pas
[53:00] plus simple. Il est quand même, d 'une certaine
[53:02] façon, il est plus complexe parce que tu es en
[53:04] permanence à relire du code. Et donc tu vois,
[53:07] tu as des ingénieurs qui débutent leur carrière
[53:09] professionnelle. et qui passent tout de suite,
[53:11] finalement, tech lead d 'une certaine façon,
[53:13] puisqu 'ils sont en train de manager leur IA,
[53:19] et ça demande finalement une prise de recul plus
[53:21] forte et une montée en compétences aussi plus
[53:24] rapide. Ça, c 'est aussi ça que j 'ai observé.
[53:27] On pouvait se dire, effectivement, en utilisant
[53:29] l 'IA, les gens ne vont plus vraiment apprendre
[53:31] à coder. Si tu mets le bon équilibre entre produit
[53:36] de l 'AI Slope et... Je sais, bon... voilà je
[53:40] pousse je regarde pas exactement et je fais tout
[53:43] à la main bah je trouve quand même si t 'es un
[53:46] peu à la frontière de ça finalement je trouve
[53:49] que du coup la courbe de progression est plutôt
[53:51] bonne et en fait si tu te mets dans la disposition
[53:55] de je reste toujours en contrôle de ce qui est
[53:57] produit finalement tu vas apprendre beaucoup
[53:59] plus et c 'est même beaucoup plus exigeant de
[54:01] rester en contrôle de tout ce qui est produit
[54:03] et donc Je dirais qu 'aujourd 'hui, ce qui est
[54:08] bien par rapport à 6 mois, c 'est que si tu veux
[54:10] atteindre un niveau de qualité encore plus supérieur,
[54:12] d 'un point de vue code, d 'un point de vue sécurité,
[54:15] couverture de test, etc., justement, utiliser
[54:19] de l 'IA est quand même une aide assez précieuse.
[54:23] Je peux donner un exemple, et même en tant que
[54:26] manager si tu veux, c 'est aussi utile. Ça me
[54:29] permet de suivre une grande quantité de projets
[54:31] et la qualité de code de pas mal de mes ingénieurs.
[54:37] J 'ai une sorte de petit benchmark, une méthodologie
[54:40] d 'évaluation de la qualité du code selon différents
[54:44] axes et j 'utilise Cloud Code pour le faire tourner
[54:47] régulièrement et ça me permet d 'avoir un aperçu
[54:49] de comment les ingénieurs progressent sur tel
[54:51] et tel sujet. Donc sur la qualité d 'ACI, sur
[54:55] la sécurité des dépendances ou d 'autres choses
[54:58] comme ça. Et ça, je ne pouvais pas faire ça...
[55:02] à la main de manière raisonnable il y a un an,
[55:05] tu vois. Donc ça a quand même décuple tes possibilités.
[55:09] Faut mettre le cursor au bon endroit, c 'est
[55:11] toujours pareil, mais ça doit être un peu difficile
[55:14] pour les juniors qui n 'ont pas connu le code
[55:17] sans l 'IA, parce que souvent il faut prendre
[55:21] le temps au début, être lent pour apprendre.
[55:24] J 'ai l 'impression que même les exigences sont
[55:26] plus hautes, parce que comme on a tous ces outils,
[55:28] tu ne produis pas d 'IPR dans la journée. Enfin
[55:32] tu vois ce que je veux dire, et du coup tu ne
[55:34] prends jamais vraiment le temps de prendre du
[55:36] recul. Et je trouve aussi que c 'est un peu dur
[55:38] de visualiser des changements, etc. Donc servir
[55:42] aussi d 'outils, de diagrammes, tu vois que tu
[55:44] peux aussi générer avec les gars. Mais ça devient
[55:46] dur aussi de vraiment se représenter les choses
[55:49] dans la tête, de façon concrète et pas vraiment
[55:52] abstraite tu vois. Ouais. Mais voilà, c 'est
[55:56] une compétence que on est tous en train de développer
[55:58] j 'imagine. Et pour finir donc cet épisode, je
[56:04] voulais revenir sur quelque chose que tu as dit
[56:06] que des boîtes comme Anthropic, ils ont par exemple
[56:08] des forward deployed engineers, des gens qui
[56:11] ont déployé l 'IA. Moi, ce que j 'aime bien,
[56:14] tu vois, avec des agences qui ne sont pas couplées
[56:17] à des fournisseurs d 'IA comme Galladream, tu
[56:20] vois, c 'est que du coup, vous n 'êtes pas parti
[56:23] pris. Parce que par exemple, un ingénieur d 'Anthropic,
[56:27] il ne va pas forcément minimiser l 'utilisation
[56:31] des tokens, ou alors il ne sera pas incentivé
[56:34] à le faire, même si forcément c 'est bien de
[56:37] le faire. Et aussi cette possibilité de changer
[56:40] de fournisseur d 'IA, d 'avoir l 'option modèle
[56:43] open source. Est -ce que certains de vos clients,
[56:46] ils arrivent à vous, ils présélectionnent derrière
[56:49] le fournisseur d 'IA, ou comme tu disais, ça
[56:51] vient avec les cloud providers, tout ça ? Oui,
[56:55] souvent, certains clients ont des... On dirait
[56:57] des a priori, ils disent je veux utiliser tel
[57:00] modèle etc. Par exemple le sujet qui vient c
[57:05] 'est aussi le sujet de la souraineté donc c 'est
[57:07] un sujet un peu complexe mais souvent nos clients
[57:11] disent bon bah je veux de la souraineté donc
[57:12] je veux du mistral. C 'est un peu plus compliqué
[57:15] que ça. C 'est vrai qu 'on le met un peu en avant
[57:23] de dire qu 'on est modèle agnostique, on n 'est
[57:26] pas lié à un provider. On essaie quand même de
[57:29] coller à ce que ça peut apporter, d 'évaluer
[57:33] à chaque fois la valeur que ça apporte. On fait
[57:36] parfois de l 'open source, notamment dans des
[57:39] contextes de souveraineté, par exemple dans le
[57:43] domaine de la santé. On travaille avec un éditeur
[57:46] logiciel qui fait où on a mis en place une brique
[57:50] d 'intelligence artificielle pour lui. Et là,
[57:53] pour le coup, on utilise un modèle open source
[57:54] qui tourne sur GPU, sur OVH ou un autre fournisseur
[58:00] de GPU. Et c 'est vrai que, je pense, c 'est
[58:07] sûr qu 'on n 'a pas effectivement ce lien direct
[58:10] avec des fournisseurs de modèles. Et donc, on
[58:14] essaie quand même de trouver la meilleure solution
[58:16] à chaque fois. Et comme ça évolue quand même
[58:18] assez régulièrement, on permane en veille sur
[58:23] les capacités. Alors c 'est sûr que si tu prends
[58:25] les modèles frontières américains, ils se copient
[58:27] assez régulièrement les uns les autres. Tu vois,
[58:30] tu as une nouvelle API qui permet de faire ça.
[58:32] Tu vas la voir assez rapidement sur l 'autre.
[58:35] Un truc récent, par exemple, c 'est le flex pricing.
[58:39] En gros, tu envoies une requête à ton modèle
[58:43] de langage, à ton LLM. d 'habitude en normal
[58:47] en fait tu attends qu 'il répond le plus vite
[58:49] possible mais en flex tu peux dire ok je peux
[58:51] attendre un peu plus longtemps il n 'est pas
[58:53] obligé de traiter tout de suite ma requête il
[58:55] pourra traiter un peu plus tard et tu commences
[58:57] à avoir le flex pressing sur un fournisseur et
[59:00] quelques semaines plus tard tu l 'as sur un autre
[59:02] fournisseur donc il y a aussi une sorte d 'homogénéisation
[59:04] en fait de ces fournisseurs frontières et après
[59:10] je dirais qu 'il y a un peu deux classes qui
[59:11] se distinguent soit tu es vraiment obligé d 'utiliser
[59:13] le modèle frontière Parce que c 'est compliqué,
[59:18] t 'es obligé d 'aller chercher les dernières
[59:20] capacités d 'intelligence artificielle. Soit
[59:23] effectivement t 'es un peu plus libre, t 'es
[59:25] sur des tâches plus simples. Et donc là, oui,
[59:28] l 'open source progressivement est une solution,
[59:34] une approche. Après, ça reste difficile quand
[59:37] même de... Donc t 'as des fournisseurs en API
[59:41] de l 'open source, c 'est plutôt... C 'est ça
[59:44] qu 'on recommande. C 'est l 'inférence de modèle,
[59:56] qui est le fait de proposer à des gens, je prends
[59:58] des requêtes et j 'exécute sur un LLM et je te
[1:00:01] donne la réponse. C 'est quand même un métier
[1:00:03] compliqué et surtout, ça demande du capital parce
[1:00:06] que c 'est une sorte de mise à l 'échelle. Si
[1:00:09] tu n 'as pas cette échelle nécessaire, ton coût
[1:00:14] marginal est beaucoup trop important et c 'est
[1:00:15] vraiment pas rentable de faire tourner l 'inférence.
[1:00:18] Donc finalement, t 'as pas de tendateur, c 'est
[1:00:20] ça qui te permet d 'utiliser vraiment de manière
[1:00:22] fiable même des modèles open source. Et quand
[1:00:26] je dis fiable, tu veux en fait quand tu utilises
[1:00:28] ton API, tu veux toujours avoir à peu près les
[1:00:30] mêmes temps de latence. Tu vois, tu vas faire
[1:00:32] une requête, la nuit super ça marche super bien
[1:00:36] et pile au moment de pic d 'activité ça marche
[1:00:38] plus du tout. pour ton client, il ne va pas être
[1:00:41] content si c 'est comme ça que ça se passe. Finalement,
[1:00:44] tu n 'as pas tant de fournisseurs qui permettent
[1:00:47] d 'avoir cette fiabilité dans l 'inférence. C
[1:00:50] 'est un autre sujet, mais je sais que ça fait
[1:00:52] partie aussi de notre travail d 'identifier les
[1:00:55] bons fournisseurs à chaque fois. Nous, on passe
[1:00:59] souvent sur les providers cloud puisque l 'intérêt,
[1:01:05] c 'est que souvent, on décoint nos solutions
[1:01:07] sur du cloud et du coup, Tu as le Provider Cloud
[1:01:10] qui directement tu peux utiliser. Ok. Dernière
[1:01:17] question. Tu m 'as dit que tu recrutais potentiellement
[1:01:22] dans ton équipe. C 'est quel type de profil et
[1:01:25] comment on peut contacter si besoin. On a une
[1:01:30] page Welcome to the Jungle pour Galadrim. Et
[1:01:34] donc là, on a plusieurs profils qu 'on recrute.
[1:01:38] On recule bien sûr des ingénieurs IA, donc plutôt
[1:01:43] des personnes qui aiment déjà le développement
[1:01:46] logiciel parce que c 'est quand même notre métier
[1:01:48] principal et qui s 'intéressent au fonctionnement
[1:01:52] de l 'intelligence artificielle. Idéalement qui
[1:01:56] ont un peu un background de data science parce
[1:01:57] que même si c 'est pas 90 % de notre activité,
[1:02:02] c 'est bien d 'avoir en fait ce recul scientifique.
[1:02:05] pour poser les choses dans le bon ordre et avoir
[1:02:07] par exemple une stratégie d 'évaluation. Et voilà,
[1:02:10] cette rigueur scientifique nous est utile. Et
[1:02:14] aussi, on recrue des gens qui aiment bien construire
[1:02:16] du produit, donc un peu esprit product builders.
[1:02:21] Et dans cet aspect un peu convergent des métiers,
[1:02:24] on recrue des product managers ou des product
[1:02:27] owners qui vont avoir aussi cette... ce côté
[1:02:31] un peu plus tech où ils sont capables d 'ouvrir
[1:02:33] Cloud Code et de se lancer dans un POC, etc.
[1:02:37] Donc voilà. C 'est pas tout ce qu 'on a dit,
[1:02:41] effectivement, parce que quand tu dis ingénieuriat,
[1:02:43] en fait, ça peut être tellement de choses différentes.
[1:02:46] Ouais. Et c 'est bien de préciser tout ça. Écoute,
[1:02:49] Benjamin, merci beaucoup pour ce podcast. C 'était
[1:02:53] super sympa. Je te laisse le mot de la fin éventuellement,
[1:02:59] sinon on s 'arrête là. Merci Guillaume pour l
[1:03:03] 'invitation. J 'adore mon métier, je trouve ça
[1:03:09] hyper intéressant d 'avoir les évolutions. On
[1:03:13] est vraiment au cœur d 'une révolution sur l
[1:03:17] 'utilisation d 'intelligence artificielle. Et
[1:03:24] tu vois que c 'est au cœur d 'une révolution
[1:03:25] économique, et ça on le voit parce que nous on
[1:03:27] est au contact du tissu économique. Et on voit
[1:03:32] que comme je te disais au début, on a tout type
[1:03:34] de clients qui se posent ces questions. Bien
[1:03:37] sûr, il y a des gens qui sont un peu sceptiques,
[1:03:40] techno. Tu vois par exemple sur Uber, qui a reculé
[1:03:45] sur l 'utilisation, ils l 'ont interprété comme
[1:03:47] ça, moi je l 'ai interprété plutôt comme la demande
[1:03:50] à dépasser l 'offre. Vous avez absolument besoin
[1:03:54] d 'utiliser l 'intelligence artificielle et c
[1:03:56] 'est plutôt moi comme ça que je vois dans les
[1:03:59] années qui viennent. Ok. Super intéressant aussi
[1:04:02] tout cet aspect. Merci encore et à une prochaine.
[1:04:07] À bientôt.

Shows are listed from Apple Podcasts' charts and directory, and Podcast Index where it is used. Every show and episode belongs to its publisher and plays from the publisher's own feed; this site hosts none of them.