#98 – RAGaRenn et Ilaas, mutualiser une IAgen de confiance, robuste, éthique et sobre avec Olivier Wong

Parlez-moi d'IA.

Mesdames et messieurs, bonjour.

Je suis un super-ordinateur Karl,

cerveau analytique de recherche et de liaison.

C'est une machine qui ressent les choses.

On nous raconte n'importe quoi sur l'IA.

Alors, qu'est-ce que tu en dis, Kit ?

Moi, je n'en dis rien du tout.

La créativité, elle reste du côté de l'humain.

Parlez-moi d'IA, présentée par Jean-Philippe Clément.

Bonjour à toutes et à tous.

Imaginez qu'une grande organisation française

ait expérimenté et prouvé qu'il était possible

d'utiliser des outils IA efficaces, frugaux et d'intérêt général

sans passer par les GAFAM.

Vous ne rêvez pas ?

L'un des promoteurs de cette démarche

est avec nous aujourd'hui pour en parler.

Accordez-vous 30 minutes pour interroger une nouvelle fois

ce que provoque l'éruption de l'intelligence artificielle

dans nos vies d'un point de vue social, culturel, éthique

à un peu technique aujourd'hui, encore une fois,

et certainement politique.

Cause Commune, 93.1 FM.

Vous êtes sur Cause Commune, la voix des communs, la voix des possibles.

Vous nous écoutez sur le web cause-commune-o-singulier.fm,

sur notre app mobile Android ou iPhone,

sur la bande FM à Paris, 93.1 FM,

et sur le DAB+, au niveau national,

et également sur votre plateforme de podcast préférée.

Merci, M. Grieco, notre directeur d'antenne,

de nous offrir cet espace de liberté

et de nous construire de si beaux outils

pour pouvoir diffuser.

Nous avons besoin de vous, chers auditrices et chers auditeurs.

Quelques petits gestes pour vous ont un impact énorme pour nous.

Usez de vos super-pouvoirs sur les plateformes, sur les réseaux.

Abonnez-vous, commentez, partagez, likez.

C'est notre seule récompense, et cela nous fait connaître

car ça manipule les algorithmes et...

C'est cool de manipuler un algorithme.

Vous écoutez, parlez-moi d'IA.

C'était le sujet de notre table ronde

de la conférence Commons High 2025.

Une IA d'Intérêt Général Sangafam est-elle possible ?

La captation de la conférence n'est pas forcément très bonne.

Émission 90, qu'on a réutilisée pour l'émission 90.

Je vous prie encore de m'en excuser.

Mais les courageux qui ont su tendre l'oreille,

qui ont su suivre cette émission,

savent que la table ronde a quand même conclu sur de bons exemples

où une IA différente, finalement, était possible.

Avec notre sujet du jour, nous changeons d'échelle.

En effet, l'Université de Rennes s'est lancée

dans l'expérimentation de solutions IA totalement maîtrisées,

de l'infrastructure au modèle, en passant par l'accompagnement.

Tout est fait maison, avec beaucoup d'open source,

de savoir-faire interne, bien sûr,

et une grande volonté d'être le plus frugal possible.

On ne pouvait pas passer à côté d'un beau projet comme celui-là

dans Parlez-moi d'IA,

beau projet bien décidé à s'affranchir des gars-femmes.

Nous avons la chance de recevoir l'un des principaux promoteurs

de cette démarche,

vice-président en charge du numérique de l'Université de Rennes,

mais aussi président de l'Association des VP numériques

de l'Enseignement supérieur et de la Recherche.

Bonjour, Olivier Wong.

Bonjour, Jean-Philippe.

Merci au Rennais que vous êtes d'être avec nous en studio,

dans le studio de Cause Commune.

On va commencer dans le vif du sujet parlez-moi d'IA, Olivier,

et commencer, si vous le voulez bien, par nous expliquer

comment l'Université de Rennes décide en mars 2024,

je pense qu'il y a des décisions juste avant, quand même,

de se lancer dans une expérimentation d'outils IA

pour sa communauté éducative et pédagogique.

Comme tout le monde, en 2023, on a été très sollicités

par l'ensemble de la communauté, les personnels, les étudiants,

pour avoir des outils d'IA,

parce que c'était le grand décollage des outils généralistes d'IA générative,

et on s'est posé la question, comme d'habitude,

comme dans tout projet numérique,

est-ce qu'on fait nous-mêmes ou est-ce qu'on va chercher à l'extérieur ?

Évidemment, compte tenu du développement technologique,

on est allés d'abord voir à l'extérieur ce qui existait.

On m'a rapidement dit qu'il fallait des budgets faramineux

et un nombre de RH considérés pour y arriver.

Je me suis dit, c'est quand même curieux,

je ne connais pas de système numérique de ce type-là,

pourquoi pas regarder du côté des briques open source ?

Parce qu'on avait de disponibles, c'est sûr qu'on pouvait nous aussi contribuer,

et on s'est lancé plutôt dans la deuxième aventure

qui a consisté à déployer les briques open source

avec quelques ajustements par rapport à notre problématique de sécurisation.

Donc vous proposez ça à votre président et il dit banco on y va, on essaye.

C'était un peu un choix stratégique à l'époque de se dire,

soit on fait comme tout le monde et on signe des accords avec des grands

pour offrir des solutions qui marchent, qui sont très performantes.

Certains l'ont fait ?

Certains l'ont fait, je pense à Arizona State University,

dont peut-être je reparlerai plus tard,

première au monde à avoir fait ce moment-là en 2024.

Nous, on est plutôt parti sur une autre voie en se disant,

en fait, on est université du numérique,

on a un laboratoire d'informatique qui s'appelle IRISA,

on a de grandes compétences dans le domaine.

On s'est dit, en fait, au niveau de la veille technique,

on pense qu'il y a un potentiel,

ça faisait quelques mois qu'on testait déjà fin 2023 à l'automne.

Et on s'est dit, pourquoi pas, ça pourrait passer à l'échelle,

il nous faut plus d'utilisateurs pour voir si vraiment le concept peut marcher,

peut fonctionner dans des cas d'usage un peu variés.

Oui, finalement, une université comme celle de Rennes,

aujourd'hui, déjà, elle utilise ce type d'outils pour la recherche,

justement, et l'enseignement supérieur,

elle a déjà une partie de l'infra.

Et c'est ça, en fait, qui vous permet, finalement,

de passer assez rapidement jusqu'à l'expérimentation, c'est bien ça ?

Oui, c'est ça, on a déjà les machines qui permettent de le faire,

on a déjà les compétences d'ingénieurs capables de faire,

le regard scientifique aussi,

capables de prononcer et puis se dire,

voilà, est-ce que c'est une trajectoire qui paraît viable ou pas ?

Et à ce moment-là, on se dit, oui, c'est intéressant,

on a envie d'en comprendre un peu plus

parce qu'au-delà de ce que relaye la presse généraliste,

en fait, il y a quand même un petit peu

une part un peu mystérieuse sur cette question d'infrastructure

sur laquelle on avait envie d'en savoir plus.

Et donc, on a décidé d'en savoir plus sur les usages,

sur les infrastructures, en déployant nous-mêmes

et en accompagnant nos communautés sur l'utilisation des infrastructures,

mais adaptés, on va dire, à des cas d'usage précis,

pas pour faire, on va dire, des tâches généralistes.

Et du coup, c'est quoi, les étapes ?

Vous êtes combien, finalement, autour de la table

à monter cette première début d'expérimentation à l'université ?

Et quelles étapes on passe, finalement ?

On a déjà une infra, il y a déjà une veille,

mais après, il faut passer le cap.

Je dirais qu'on est plusieurs acteurs.

Il y a d'une part les collègues du Data Center Régional Labellisé,

Eskemm Data, qui est labellisé par le ministère,

qui perd dans des conditions de sécurité

élevées nos infrastructures de recherche.

Ça, c'est un GIP ?

C'est un GIP, qui est de niveau régional.

Comme dans d'autres régions, qui mutualise les infrastructures

pour la recherche, c'est une infrastructure de calculs intensifs.

Et c'est là où on a les machines pour l'IA, qui sont déjà présentes.

Donc, on a déjà l'environnement technique, qui est déjà géré,

une équipe de recherche de l'ERISA, qui s'occupe, à ce moment-là,

plus particulièrement du domaine du traitement,

on devait dire par IA générative, de données de façon générale,

de données massives.

Et avec nous, on discute au niveau de la gouvernance,

avec l'ensemble des acteurs, donc on est, grosso modo,

on se compte sur les doigts de deux mains, un peu.

Et on se dit, en fait, on a un potentiel,

on peut le faire, à ce moment-là, oui.

D'accord. Et vous...

Évidemment, c'est quoi, vous fixez quoi comme objectif, finalement ?

En fait, à ce moment-là, on a surtout une fenêtre de tiers,

c'est-à-dire que les machines qui, d'habitude, sont prises

par des travaux de recherche sont disponibles.

Et quelque part, moi, je décide de lancer une expérimentation,

comme on le ferait sur une expérience en recherche,

en se disant, tiens, si on déployaît ce type de service-là

et qu'on observait les gens, on utilisait ce type d'outils,

qu'est-ce qu'on pourrait en dire ?

Mettre les mains dedans, retirer des métriques,

aussi des métriques de dimensionnement au niveau de l'infra,

mais aussi, en termes d'usage, se dire,

c'est quoi le bon niveau d'infrastructure par rapport à quel usage

et comment est-ce qu'on va vers des usages vertueux,

dans le sens où on va pas, on va dire,

travailler sur des usages fantasmés de l'IA,

mais des vrais usages qui vont vraiment rendre service

aux personnels de l'établissement.

Allons-y, du coup, vers les usages.

Donc, ce projet, vous l'avez appelé RagaREN,

c'est un petit jeu de mots pour les connaisseurs.

Qu'est-ce qu'il fait, en fait ?

Qu'est-ce qu'il propose en termes de service ?

En fait, à l'époque, un des gros problèmes qu'on avait,

c'était les problèmes d'allucination des grands modèles de langage.

Même si, à ce moment-là, de l'histoire,

on a des modèles ouverts qu'on peut déployer nous-mêmes,

en fait, factuellement, quand on pose des questions un peu pointues,

souvent, ils répondent n'importe quoi.

Et c'est toujours le cas, d'ailleurs.

Et du coup, on s'est dit, en fait,

une façon d'y arriver sur l'aspect factuel,

c'est d'adosser une base de connaissances

sur laquelle on va faire d'abord des recherches sémantiques,

ce qui va permettre de retrieval,

ce qui va permettre d'augmenter le contexte de la question,

avant de générer la réponse qui va être, du coup, meilleure,

juste parce qu'on a rapporté des bonnes informations

avant de poser la question.

Donc, là, vous venez de nous redonner la définition du RAG,

au passage, effectivement,

donner, en fait, de la matière au modèle

pour qu'il puisse, finalement,

pointer cette matière-là dans sa réponse, précisément.

C'est surtout de la matière qu'on souhaite maîtriser dans l'établissement.

Des travaux de recherche non publiés,

des informations sensibles sur des travaux de recherche

ou des travaux stratégiques de l'établissement.

On ne souhaite pas les voir sortir.

Et on souhaite pouvoir les garder dans notre datacenter,

qu'on a construit pour ça, d'ailleurs,

pour assurer la sécurisation.

Et donc, du coup, comme on avait plus de capacité de calcul

et qu'on a déjà les données,

quelque part, c'est un point un peu natural de se dire,

voilà, qu'est-ce qu'on peut en faire ?

Qu'est-ce qu'on voit, est-ce qu'on peut les exploiter

pour, encore une fois, en tirer parti le mieux possible ?

Donc ça, c'est une volonté vraiment de maîtrise en termes de sécurité.

Mais c'est aussi une volonté, on va dire, d'exactitude,

c'est-à-dire d'être capable de rendre un service pertinent.

Et encore une fois, en prenant même des assez petits modèles,

finalement, on se rend compte que ça marche bien.

On n'a pas besoin de très grands modèles de langage

en termes de capacité de compréhension des contextes.

On a besoin de modèles qui s'expriment très bien

et qui, quelque part, arrivent à reformuler

les éléments de contexte qu'on va ramener via le RAG.

Ça, on l'a déjà dit ici, et c'est bien que vous le répétiez.

C'est-à-dire qu'un petit modèle open source, pour le coup,

mais bien piloté, bien ciblé,

notamment sur une documentation spécifique,

il a des bonnes réponses et il donne satisfaction

dans la recherche d'informations de ce corpus documentaire.

Combien de personnes, du coup, aujourd'hui,

sont concernées par RAGAEN

ou commencent à monter en puissance, éventuellement ?

Alors, en fait, je tiens à préciser que, là, j'en parle,

mais en fait, on est beaucoup aux universités,

on va faire exactement la même chose au même moment, simplement.

Ça, on va y revenir après, effectivement.

Oui, voilà.

Du coup, j'ai rapidement dit...

Peut-être la différence, c'est que j'ai rapidement dit à mon président,

je pense que c'est intéressant d'en parler avec les collègues, en général.

Donc, on devrait en parler très largement

d'une discussion publique assez ouverte,

parce qu'on rencontre, nous, des limites, on a des problèmes,

et que c'est intéressant de voir aussi ce sur quoi les collègues ont réfléchi.

C'est ça.

Donc, mais sinon, il y a plein de gens

qui ont fait la même chose que nous, au même moment.

Oui, mais encore une fois, effectivement, la bonne idée,

c'est de communiquer sur l'expérimentation, finalement,

de dire qu'est-ce qui marche, qu'est-ce qui marche pas,

sur quoi vous avez des difficultés.

Bon, on le verra après, mais ça a été à l'origine, finalement,

de la création d'une communauté de gens

qui faisaient un peu la même chose au même moment,

mais d'autres qui communiquaient moins.

Et ça a donné... C'est allé plus loin dans le projet.

C'est sûr. Et peut-être, autre élément singulier aussi,

c'était qu'on a un focus très fort sur les usages.

C'est-à-dire, on a, dès le début, mené beaucoup d'ateliers

en présentiel avec les collègues.

On prend une heure, on décortique les différents cas d'usage,

on va explorer ce que les gens veulent faire,

on essaie de le mettre en place avec eux,

on réajuste l'infrastructure pour que ça corresponde à leurs besoins.

C'est une boucle de rétroaction et de se dire,

finalement, on va rendre un service utile.

Et il y a des pistes qu'on écarte,

parce que, finalement, la valeur ajoutée n'y est pas,

ou alors que ça nous paraît trop délétère en termes de trajectoires.

Je pense à la génération d'images, typiquement.

Ça, vous vous faites pas trop ?

Non, pour l'instant, on a testé, ça marche très bien,

d'un point de vue technique, c'est simplement que d'un point de vue

politique, stratégique, pour l'instant, on s'est dit que le jeu,

l'impact environnemental n'en va pas la chandelle.

C'est vrai que vous avez un vrai souci de frugalité

et c'est tout à votre honneur.

Mais du coup, alors, c'est quoi les thématiques que vous avez creusées

en termes de sujets qui ont bénéficié de ces services-là ?

Ça a vraiment émergé de la communauté.

Je dirais que, de façon générale, il y a tout le travail autour du texte,

c'est-à-dire être capable de reformuler un texte,

être capable de faire des propositions,

être capable de faire de l'analyse de la synthèse du texte.

Donc voilà, des travaux finalement un peu génériques,

mais ça s'applique aussi bien l'administration

qu'au domaine de la recherche ou au domaine de la pédagogie.

Si je parle d'exemples un peu spécifiques,

très tôt, on a vu apparaître la génération de feedback

quand on fait un QCM en tant qu'enseignant.

Souvent, on est capable de proposer des questions.

Parfois, les fausses bonnes réponses, c'est toujours un peu difficile à trouver,

donc c'est intéressant d'avoir un modèle pour s'aider.

Mais le feedback, à partir du polycopié de cours,

c'est toujours très, très long à mettre en place.

Et donc, on a vu émerger des initiatives pour générer du feedback

de façon plus ou moins assistée, en sachant qu'encore une fois,

le but, c'est de fournir un matériau de base à enseignants

qui va ensuite l'adapter en fonction de sa cible.

Vous m'aviez parlé aussi en préparant cette émission

de thématiques autour de la cybersécurité.

Oui, on a eu des demandes d'une équipe de recherche typiquement

qui a repéré un modèle orienté cybersécurité,

assez, on va dire, niche en termes de cybersécurité.

C'est pareil dans le bio médical aussi,

j'ai eu des demandes de ce type-là très tôt.

Et on a déployé ce type de modèle pour eux,

pour qu'ils puissent effectuer leurs travaux.

Et donc, pendant ce temps-là, forcément,

on condamne quelque part l'infrastructure

pour la majeure partie des usagers,

mais pour des travaux un peu spécifiques.

Et quelque part, c'est cette flexibilité la qu'on a essayé de mettre en avant,

de servir au mieux les communautés

en offrant les modèles dont ils ont besoin,

sur une durée à définir ensemble.

Oui, c'est ça, c'est que vous avez, finalement,

une infra disponible, mais limitée.

Et en fonction des projets chauds, des gens qui veulent bien tester,

vous leur offrez cette capacité de calcul, de déploiement de modèles,

de fine-tuning aussi, potentiellement, il y a des modèles ?

Oui, typiquement, les deux modèles dont je parle,

c'est des modèles qui étaient fine-tunés par la communauté internationale,

qui auraient très bien pu être fine-tunés

juste par les collègues chercheurs du laboratoire.

Et simplement, que la communauté souhaite utiliser

après fine-tuning.

Et donc, on rend disponible cette capacité-là au plus grand nombre.

C'est l'idée du projet.

Il y avait aussi quelque chose autour de la gestion d'entreprise,

je crois, avec un avatar chef d'entreprise

qui a un grand succès.

Oui, ça marche très bien. Nous, on a fait l'expérience

directement à l'Université de Rennes, mais je vais surtout parler

du projet TIPS d'Olivier Câteau, Université de Toulouse,

qui a rencontré un grand succès, qui est un projet maintenant

supporté officiellement par la fédération AUNEGe,

l'Université numérique AUNEGe,

et qui permet de simuler des avatars chef d'entreprise,

des RH, des postes, en fait, dans l'entreprise,

et qui permet, du coup, à des étudiants,

d'interroger ces fonctions-là, d'interroger ces avatars-là,

comme s'ils avaient accès à une entreprise

dans un contexte donné, un interlocuteur.

Donc, ça leur permet quelque part de s'exercer

en toute sécurité, entre guillemets, et pour ce faire,

on utilise justement un modèle très petit, en réalité,

plutôt un small-language-model, et qui rend satisfaction.

Là, c'est un des exemples historiques assez anciens, maintenant,

qui a plus d'un an, et qui tourne toujours aujourd'hui,

qui s'étend maintenant.

D'accord. Donc là, on a parlé un peu, effectivement,

small-model, medium-model et large-model.

C'est quoi, si on doit rentrer un peu dans la technique,

le nombre de paramètres d'un petit modèle pour vous ?

C'est combien de paramètres ?

C'est toujours un peu relatif, ça a évolué,

mais je dirais que, de l'ordre de la dizaine de milliards de paramètres,

je considère que c'est des petits modèles,

typiquement petits, suffisamment petits,

pour que ça puisse tourner sur des ordinateurs individuels.

D'ailleurs, pour des contextes de sensibilité très élevés,

je conseille de plutôt utiliser son ordinateur,

comme ça, il n'y a pas de problème de...

ni traitement, ni transfert de données.

Et après, dans la gamme moyenne,

c'est tout ce qui est, on va dire, 30, 70, voilà, moyen.

Ça, vous faites tourner aussi des modèles de ce type-là ?

Oui, ça, on en a, oui.

À vrai dire, c'est peut-être même la majeure partie de la...

Enfin, je n'ai pas les stats en tête, la récente,

mais c'est une grande proportion de l'utilisation aujourd'hui

de l'infrastructure, c'est ces modèles-là, de la moyenne.

Et à partir de la... Au-delà de la centaine,

enfin, de l'ordre de grandeur,

vous avez remarqué, je fais à peu près des ordres de grandeur, là.

Centaines de milliards.

Centaines de milliards de paramètres, voire plus.

Là, on rentre dans les vraiment...

Ça, il faut comprendre qu'il faut avoir une infrastructure un peu dédiée,

beaucoup de mémoires RAM dédiées pour que ça puisse tourner correctement,

que ça puisse avoir des temps de réponses correctes.

Mais surtout, c'est des questions de choix.

C'est-à-dire, aujourd'hui, dans l'infrastructure,

je parle un peu de matériel,

on dédie deux cartes de type Nvidia H200,

qui nous permettent de faire tourner.

Vous avez commencé par des H100, vous m'aviez dit.

Deux cartes H100, c'est le début du projet, ça ?

Le début du projet, même avant, des cartes V100 pour le test,

donc des cartes d'anciennes générations.

Et oui, effectivement, aujourd'hui, on fait tourner deux cartes H200 en permanence.

Et on a jusqu'à de 0 à 6 cartes H100 disponibles

suivant les demandes, enfin les projets.

Et donc, la quantité de mémoires associées,

on peut l'agréger quelque part pour offrir des très grands modèles.

Mais forcément, si je mets un très gros modèle de type Kimi 2.5

sur l'infrastructure, c'est possible techniquement,

mais je ne mets rien d'autre.

C'est ça, il va prendre toutes les ressources.

Il va prendre toutes les ressources, et puis surtout,

si je veux servir un nombre d'usagers conséquents,

il faut que je garde un peu de marge pour qu'on puisse servir tout le monde.

Alors, c'est des cartes qui sont onéreuses,

mais en même temps, quand vous décrivez finalement cette infrastructure,

on n'a pas l'impression que c'est le data center énorme.

Et ça suffit finalement pour faire déjà tourner toutes ces expérimentations.

Voilà, là, vous m'avez parlé de huit cartes en tout.

Et huit cartes graphiques avec, j'imagine,

les serveurs qui vont bien derrière, la RAM qui va bien derrière pour faire tourner.

Ce n'est pas 8000 hectares de data center qui sont nécessaires

pour finalement faire tourner tout ça pour une communauté complète éducative.

En fait, la question, c'est quel périmètre on essaie d'adresser,

parce qu'à l'Université de Rennes, on est 3000, 4000 personnels.

Si j'en parle des étudiants, là, on est plutôt vers 38 000.

Ils ont tous accès ?

Alors non, justement, c'est réservé aux personnels aujourd'hui.

Bon, en toute transparence, on le fait quand même avec des étudiants,

mais encadré par des personnels, des enseignants qui sont impartis.

Dans le cadre de leur cursus, quoi.

Oui, voilà, c'est ça.

Donc, c'est quand même possible pour les étudiants,

mais pas de façon, enfin, en tout cas, de façon moins ouverte que pour les personnels.

Et oui, la question, c'est, en fait, le pic d'usage simultané,

c'est-à-dire combien de personnes vont avoir dans la journée ?

À quelle heure ?

Voilà, à quelle heure ?

On a des stats.

C'est quoi l'heure d'usage dans l'université ?

Au niveau des personnels, effectivement, vers 9 heures, il y a un pic.

D'accord, OK.

Et en fin de matinée, depuis l'après-midi, fin de journée aussi.

OK, OK.

Et puis, bon, je dirais que c'est de façon un peu grossière.

Donc, on ne sait pas vraiment ce que j'en fond,

parce qu'on s'est engagé, justement, à ne pas regarder les données,

sauf au cas de problèmes de sécurité ou problèmes juridiques.

Mais, du coup, c'est ce qu'on constate.

Et globalement, on est sur un volume de 4 000,

alors 4 000, 5 000 au jour des personnes qui utilisent l'infrastructure.

Et là, on va dire, la métrique moyenne, c'est de dire qu'il y a 1 %

de cette population-là qui va générer un pic d'usage simultané,

c'est-à-dire, dans la même seconde, solliciter l'infrastructure.

Bon, ça, ça passe, quoi.

Mais finalement, ça passe.

Sur le nombre de cartes qu'on a, ça passe.

Mais après, c'est toujours pas rien, si je mets 20 masters en génie logiciel.

Forcément, ils vont tous être tapés sur les trucs un peu forts.

C'est ça, qui sollicitent par API, avec des outils automatisés tout de suite.

Tout dépend des utilisateurs du moment, quoi.

C'est ça. Et on a quand même beaucoup de profils utilisateurs

un peu particuliers, qui sont très orientés informatiques

et donc qui ont des besoins souvent un peu conséquents.

Avant de devenir exigeant, il va falloir un petit peu muscler l'infra.

Je pense qu'il faut réfléchir ensemble,

et de se dire qu'est-ce qu'on veut proposer et pour quelle raison.

C'est-à-dire que moi, je veux...

Ou des horaires, des horaires. Chacun prend un cycle.

C'est ce qu'on a fait au début.

C'est-à-dire que la journée, on avait ouvert de façon large.

Et la nuit, on avait justement passé des travaux en mode batch

pour des équipes qui ont typiquement, sur les travaux en cybersécurité,

qui passaient la nuit, du coup, de façon prioritaire.

Et oui, il y a cette question-là de partage,

mais comme tous les communs, c'est-à-dire partage de ressources mutualisées,

il s'agit de s'accorder une règle de vie commune

qui permet à tout le monde de fonctionner.

Et après, là, ce qu'on essaie de faire,

c'est de dire, finalement, par rapport aux besoins,

je parle en particulier sur le besoin d'assistance à la programmation,

de quelle taille de modèle on a besoin,

qu'est-ce qu'on a besoin comme capacité, finalement,

et on essaie de trouver le plus petit modèle

qui a moins d'impact possible sur l'infra par rapport au service rendu.

Oui, on l'a pas redit, mais enfin, encore une fois,

vous faites très attention à ça, c'est-à-dire que vous essayez,

à chaque fois, d'avoir le bon usage au bon endroit,

avec, finalement, la bonne optimisation des ressources

pour rester frugal dans l'usage global qui en est fait.

Oui, c'est ça. Ce que je prends souvent comme parallèle,

c'est de dire aux gens, si vous allez chercher votre baguette de pain

à la boulangerie d'à côté, est-ce que vous prenez un camion de 33 tonnes

pour transporter votre baguette

et que vous mettez dans la remorque à revenir chez vous ?

Ça c'est une partie de l'accompagnement, que vous faites beaucoup aussi

Vous avez déjà évoqué, là, mais...

C'est ça de se dire, en fait, on a un panel entre la trottinette,

la voiture, les baskets, et puis le camion de 33 tonnes.

Quand est-ce qu'on choisit quoi pour faire quoi, en fait ?

Et forcément, c'est plus dur parce qu'en face,

on a des services de grand public qui sont en permanence

sur des camions de 33 tonnes qui sont capables de tout faire,

mais personnes s'en aperçoit.

C'est ça, et ils le vendent pas cher, en plus.

Donc là, vous avez fait ce projet-là,

vous avez beaucoup communiqué sur les gains, sur les difficultés.

Tout d'un coup, vous découvrez qu'il y a, en fait, beaucoup de gens qui font ça,

notamment dans la communauté éducative de l'enseignement supérieur et de la recherche.

Et du coup, ça rentre en liaison et, tout d'un coup,

vous avez envie tous de mutualiser, finalement, vos questions, vos avancées.

Et ça donne lieu à la création, finalement, d'un collectif

et d'un nouveau projet plus vaste, plus mutualisé, qui s'appelle ILAS.

Est-ce que vous pouvez nous parler un peu d'ILAS, en quelques mots ?

Effectivement, pour revenir un peu sur la genèse,

on a rapidement discuté avec les collègues de Centrale SUPELEC Paris-Saclay,

qui avaient un peu déployé aussi ce type de système

et qui avaient aussi réfléchi à la question de la répartition,

typiquement pour les PICS dont je parlais,

qui sont vraiment le problème dimensionnant ici pour ce type de solution,

qui avaient réfléchi à un mécanisme de répartition

avec ce qu'on appelle un dispatcher, donc une garde de triage,

qui permet de router les requêtes vers le serveur le moins chargé

pour traiter la requête en question.

Du coup, on s'est rencontré à un moment,

parce que moi, je cherchais justement à contourner ce problème-là

de qualité de service d'une part,

tout en essayant de garder un bon niveau de sécurité,

c'est-à-dire, je veux bien que mes requêtes par tailleur pourraient être traitées,

mais il faut que ce soit des gens en face à qui je peux faire confiance.

Et donc, on s'est rencontré avec plusieurs établissements.

Au début, on était cinq.

Donc, en plus de nous deux, il y avait les collègues de Reims,

Reims-Champagne-Ardennes, les collègues de Lille,

Paris 1, Panthéon-Sorbonne.

On s'est dit, finalement, c'est intéressant de voir

si ça peut passer à l'échelle, est-ce qu'on peut mutualiser nos serveurs

et rendre service à nos communautés,

parce que statistiquement, les PICS qu'on a, qu'on rencontre,

ils ne sont pas au même moment tous.

Et on a intérêt à être capable de, à la fois, diversifier l'offre de modèles,

parce qu'on est plusieurs à le porter,

et en même temps, être capable de s'épauler quand il y a des problèmes,

donc, un peu plus de résilience, en fait.

Aujourd'hui, vous êtes 17, épaulés aussi par le ministère,

et donc financés aussi, en partie, par le ministère d'Incédement Super et de la Recherche,

pour aller plus loin dans cette recherche de mutualisation.

Et, grosso modo, finalement, les services sont à peu près les mêmes

que RAGaRenn, où ça va un peu plus loin.

Qu'est-ce qui... C'est quoi les services et les solutions qui diffèrent entre les deux ?

Qu'est-ce que ça vient rajouter ?

D'une part, on a plus de puissance de calcul.

On a un ordre de grandeur en dessous,

donc, dix fois plus de cartes au total sur l'ensemble de la communauté.

On est en train de dimensionner pour voir qu'est-ce que ça représente

pour passer à l'échelle du pays.

Et en termes de services, on a une service un peu plus complète

que ce que, moi, je proposais au niveau de l'université,

c'est-à-dire, non seulement des services d'inférence pure,

comme on avait déjà avec RAGaRenn,

mais aussi des services de transcription, de la voie vers le texte,

qui intéressent beaucoup, notamment pour les comptes rendus de réunion, par exemple.

Et, prochainement, là, ce qu'on a déjà commencé à lancer en 2026,

un portail d'applications, des applications développées, par exemple,

par les collègues de l'enseignement supérieur,

ou des applications open-source.

C'est là où on retrouve TIPS.

C'est là où on retrouve Aristote, le projet qui fait de la vidéo vers du quiz, c'est ça ?

Oui, c'est ça qui permet, on va dire, d'enrichir les vidéos.

Et aussi des offres à tech, des offres du commerce,

parce qu'on pense qu'il y a des segments sur lesquels on n'ira, nous, jamais,

en termes de, voilà, en chacun, à chacun de ses métiers, quelque part.

Et donc, du coup, on a l'ambition d'avoir ce portail-là

qui permet d'avoir une offre de service

adossée à la puissance de calcul qu'on propose.

L'Agence de mutualisation des universités

et des établissements d'enseignement supérieur et de recherche

a fait une annonce récente, l'AMU, d'un partenariat avec Mistral.

C'est quoi, du coup, le lien entre l'AMU

et finalement Ilyas, est-ce que ce que vous faites en termes de mutualisation,

est-ce qu'il y a un lien déjà connecté ?

Comment ça se met en musique, tout ça ?

Oui, en fait, d'ailleurs, c'est disponible sur le replay

de la conférence d'ouverture.

Oui, en février.

Oui, c'est ça. On offre...

Enfin, on vient exporter l'expertise technique dans le projet.

Et la première partie de l'offre qui consiste à ouvrir en mode API

un modèle de langage commercial, Mistral Medium 3,

c'est fait sur les infrastructures d'Ilyas aujourd'hui.

Et ça, l'idée, c'est de dire que les modèles open source sont bien,

notamment s'ils sont spécialisés, notamment s'ils sont fine tuned,

notamment s'ils sont en lien avec un RAG.

Mais quand même, de temps en temps, il y a des usages un peu généralistes

et donc un peu des usages, on va dire, tchat, GPT-like.

Et pour le coup, c'est intéressant de pouvoir mettre à disposition

ce type de modèle-là, toujours de manière maîtrisée.

Il y a d'une part, effectivement, avoir des modèles commerciaux

qui sont à l'état de l'art, dans le top 5 mondial.

C'est ça.

Et d'autre part aussi, une offre de services.

Par exemple, je parlais de services en termes de portail qu'on propose.

Bientôt, on aura une version le chat-entreprise

dédiée à l'enseignement supérieur

qui sera disponible via le portail Ilyas.

Grâce au projet AMU, dans lequel on collabore,

qui est piloté par l'AMU, sous l'impulsion du ministère,

mais qui permettra du coup d'offrir un aperçu,

parce que c'est quand même réservé à quelques milliers de utilisateurs,

mais pas à tout le monde,

un aperçu de ce que pourrait être un usage généraliste,

mais adapté à des cas d'usage spécifiques à l'enseignement supérieur.

Ça permet de ne pas s'entendre dire

qu'ils sont sympas, mais qu'ils sont un peu limités.

Là, pour le coup, s'il y a un besoin généraliste,

il peut être assouvi par ce biais-là, de manière maîtrisée.

Oui, il y a d'une part ce type de réponse.

Néanmoins, la sécurisation dont on parlait au début

des garanties importantes à ce niveau-là,

et quelque part une certaine...

On disait au début, maîtrisée.

Une certaine maîtrise dans le sens où on a une pluralité de modèles

et on ne repose pas sur un unique fournisseur

qui nous fournit toute la verticale clé en main.

On l'a évoqué tout à l'heure,

vous avez eu des échanges avec des universités américaines.

À un peu contre-intuitif, vous avez aperçu qu'ils étaient un peu comme vous.

Ils essayaient de chercher des solutions

qui n'étaient pas forcément celles du marché ou celles des grands fournisseurs.

Oui, justement, je parlais d'Aries National State University.

On a eu la chance d'organiser une visite avec la légation française

lors du congrès du COS, donc à l'automne dernier.

Et lors de ces visites-là, Aries National State University,

on a passé une heure à discuter de leur plateforme,

Create a High Boulder, qui permet de créer en fait...

On remettra le lien.

Oui, voilà, c'est ça, qui permet de créer en fait

des fonctionnalités de rags, d'assistance, d'agents antiques, etc.

Mais ils ont développé eux-mêmes, en interne,

qui s'appuient sur des modèles ouverts et des modèles commerciaux.

Et de façon un peu singulière,

par rapport à leur annonce 2024 de partenaires avec Open AI,

la première plateforme qu'ils mettent en avance, c'est la leur.

Ils ont commencé par le partenariat, puis ils se sont dit

« Peut-être qu'on pourrait faire aussi des choses de l'autre côté. »

Et il y a les deux, finalement. On n'a pas beaucoup parlé des coûts,

mais de ce que vous m'avez expliqué en préparant cette émission,

c'est que les coûts des infras que vous avez mutualisés avec ILA,

c'étaient des coûts qui existaient déjà,

et que vous venez rajouter une couche supplémentaire d'usage, d'expérimentation.

Et donc, il est un peu lissé, finalement.

Il n'y a pas un nouveau coût,

il n'y a pas de grands investissements supplémentaires

par rapport à une infra-existente.

Mais c'est vrai qu'on a déjà les data centers,

les data centers régionaux qui sont labellisés depuis maintenant quelques années,

on a déjà les personnels,

et donc, en fait, on vient rajouter un nouveau plan de service.

Oui, nous, quelque part, on a déjà les bons ingrédients,

quelque part, pour supporter notre propre trajectoire.

Et pour conclure, est-ce que je pourrais vous poser une question piège ?

Est-ce qu'on pourrait tirer des ponts entre le monde universitaire

et les collectivités locales, pour justement mutualiser, encore une fois,

ces infras et ces expérimentations ?

Qu'est-ce que vous en pensez ?

Je pense que c'est une piste intéressante,

d'autant plus qu'on a signé un partenariat avec Rennes Métropole, nous-mêmes,

pendant trois ans, pour qu'ils puissent utiliser la Garenne.

Ça nous permet, d'une part, de croiser les regards,

parce qu'on a souvent des objectifs stratégiques très convergents,

en particulier orientés vers la transition écologique.

Et donc, trouver une trajectoire diagénérative

qui nous paraît soutenable, de façon un peu conjointe,

en termes de territoire, c'est hyper intéressant.

Et donc, oui, d'un point de vue stratégique, c'est intéressant.

Écoutez, merci, c'est une belle conclusion. C'est une conclusion de perspective et positive.

Merci beaucoup, Olivier, pour ce partage

de vos belles expérimentations mutualisées et d'intérêt général.

Merci beaucoup.

Merci de l'invitation.

Et merci à vous, chers auditeurs.

Cette émission vous a plu, usé de votre grand pouvoir.

Likez cet épisode Manipuler les algorithmes

pour nous aider à diffuser ce contenu plus loin.

Vous restez sur 93.1 FM sur Cause Commune.

Et on se dit à bientôt.