Les applications réelles et implications éthiques de l’IA dans l’administration

J’ai eu l’honneur d’être l’hôte de cette rencontre dans nos bureaux, réunissant des membres de l’administration communale et cantonale, dans des domaines aussi variés que les impôts, la police, la santé, les hautes écoles, les services environnementaux ou encore l’aide aux réfugiés. Un panel d’invité·e·s très divers en termes de parcours et de familiarité avec l’intelligence artificielle.

L’IA et ses bouleversements sur l'emploi

Notre première invitée était Laura Tocmacov, spécialiste de l’IA et de l’obsolescence programmée. Depuis 2017, elle est CEO et fondatrice d'Impact IA, association visant une utilisation positive de l’IA. Elle a vite su poser le décor: l’intelligence artificielle est plus qu’un outil. Ses défis sont à la hauteur de ceux que nous pose notre humanité.

Entre les premiers vols en avion et la première mission lunaire il y a 66 ans. Avec l’IA, l’évolution est encore plus rapide. Les IA génératives ont littéralement explosé. En quelques mois, il y a eu autant d’utilisateurs de ChatGPT que Netflix, qui avait mis 10 ans. Parmi les nombreux bouleversements, il y a ceux sur l’emploi. On trouve à ce sujet devant deux camps opposés. D’un côté, ceux qui disent que des emplois et des métiers disparaîtront à cause de l’IA. De l’autre, ceux qui se focalisent au contraire sur les nouveaux métiers qu'elle implique.

Tout le monde est pourtant d’accord, les transformations professionnelles se déroulent très vite, voire trop vite. Outre les nouveaux métiers, il y aura un aspect de formation et de montée en compétence. Plutôt que de réfléchir en termes d’IA ou pas d’IA dans telle ou telle tâche professionnelle, on peut avoir une “intelligence hybride”, soit une collaboration avec l’intelligence artificielle.

l’IA soulève des questions au niveau mondial, aux réponses devant être locales, ouvertes et inclusives.

Laura a aussi mis en évidence que l’IA dans l’administration doit être Open Source (200% d’accord). Il faut éviter d’être tributaires des grandes entreprises étrangères, notamment de la Silicon Valley. Cette IA doit également être diverse, ne peut pas se faire sans les citoyen·ne·s et sans que les droits fondamentaux soient respectés.

L’intelligence artificielle soulève des problèmes au niveau mondial, mais les réponses se doivent d’être locales. Encore une fois, la diversité et l’approche orientée utilisateur·trice est clé. En ne pensant que code, on court à la catastrophe. Ce n’est pas nous qui allons la contredire sur ces points!

On n’est pas près de remplacer un comique par une IA? Ou bien?

Un des thèmes aussi rapidement survolé par Laura était celui de la créativité humaine et de l’IA. En attendant que ce soit cette dernière qui nous fasse rire (volontairement), nous avons fait appel à Lord Betterave. L’humoriste fribourgeois nous avait bien fait rigoler avec une chronique radio sur notre outil FribourgGPT il y a quelques mois. Nous avons eu envie de l’inviter à se moquer un peu de nous, et on a été servis.

Après cet intermède comique qui a fait monter l’applaudimètre d’un cran, Hannes a eu la lourde tâche de conclure. C’était spécial de faire cette présentation dans cette ville, où l’aventure Liip a commencé, proche de l’Université de Fribourg, il y a bien quelques années (quand on aime, on ne compte pas).

Une approche d’innovation sans permission et ouverte ne datant pas d'hier

Notre approche d’entrepreneuriat progressiste ne date pas d’hier et Hannes nous a ramené en 2007. Bien avant la hype autour de l’IA générative, a eu lieu le lancement du premier de ce qui allait devenir une longue série d’iPhone. Ça a été une révolution, un peu autoproclamée par feu Steve Jobs, mais convenons que le terme n’a pas été galvaudé. Qui disait smartphone, disait aussi apps conçues pour mobile. Qu’est-ce qui allait alors devenir de nous et de nos sites internet?

Nous avons très vite développé une app de navigation, reposant sur le GPS, offrant des données liées aux transports publics. Nous avons emprunté des données des CFF et avons open sourcé un outil permettant d’accéder à ces données publiques. Un outil qui, encore à l’heure actuelle, compte pas moins de trois milliards de requêtes par jour.

C’est dans cette même approche d’innovation “sans permission” et ouverte (Open Source et Open Data) que nous avons abordé l’intelligence artificielle. Très vite, nous avons joué avec les outils d’IA générative en nous disant, pourquoi ne pas les utiliser pour faciliter l’accès aux informations publiques pour les administré·e·s. Sans attendre la permission des autorités fribourgeoises, mais en empruntant ses données mises en ligne à disposition du public. FribourgGPT était né.

Dans une base de données, nous avons intégré toutes les données du site fr.ch, grâce à ce que l’on appelle génération augmentée de récupération. Avec une question posée, on identifie les documents pertinents dans la base de données. Notre outil IA génère une réponse sourcée à la question, dans la langue où la question a été posée, même si le site web ne la traite pas. Cet environnement est “safe enough to try”, de par la qualité du site web en termes de fiabilité de l’information.

La technologie est toujours pleine de biais, de préjugés. Comment s’assurer que nos valeurs, nos idées et nos règles y sont reflétées? Il faut de l’Open Source, on ne le répétera jamais assez. Nous avions commencé par les outils GPT4 d’OpenAI sortis les premiers. Désormais, sur la base de nos données fribourgeoises, nous avons perfectionné FribourgGPT et mis en place un outil comparatif, avec GPT4 Turbo, et les solutions Open Source, le français Mixtral et LLaMA de Meta.

Nous avons d’ailleurs profité de notre audience pour procéder en direct à quelques tests de questions et réponses. Et, vous pouvez le faire aussi: fribourg-oss.gpt.liip.ch

Des prototypes tels que celui-ci sont cruciaux. Essayons et apprenons pour s’améliorer, conscient·e·s des risques et des enjeux de l’IA. Lors des discussions, nous avons échangé autour d’applications concrètes dans des domaines tels que la fiscalité, la recherche ou la circulation routière.

Et maintenant, on fait quoi?

Malgré la variété des problématiques, une question revenait: on fait quoi concrètement? À cette question essentielle, nous répondons que c’est bien de commencer par un petit projet interne, avant de monter en compétences et d’en faire profiter la population. On croit souvent que seule la quantité de données est importante. Avoir des données de qualité est tout aussi crucial et cela, l’administration n’en manque pas. Mais avant tout, première étape: on en parle ensemble, pour identifier les possibilités et les défis. C’est d’ailleurs ce que nous avons continué à faire durant le reste de la soirée.