Sommaire :
Genèse du projet de recherche
Réunion de différentes entités de Sorbonne Université et de la start-up Kap Code
Publié le 25 oct. 2023 à 8:02
Le projet de recherche réunit trois entités de Sorbonne Université – le Celsa, le SCAI et LIP6 – ainsi que la start-up Kap Code. Son objectif est de créer un outil de détection des fausses informations. Cette initiative est née à la suite de la crise du Covid, qui a provoqué une augmentation des fausses informations. L’Association nationale de la recherche (ANR) a donc lancé d’importants projets de recherche impliquant les sciences sociales, représentées par le Celsa, et l’informatique en intelligence artificielle, spécialité du SCAI. L’objectif initial était de développer un outil de détection pour aider les journalistes à identifier les informations erronées et fallacieuses parmi le flot de données qu’ils reçoivent.
Cependant, cette collaboration interdisciplinaire présente certaines difficultés, car les sciences sociales et l’informatique n’utilisent pas les mêmes langages et méthodes. Malgré cela, elle peut mener à des expériences opérationnelles grâce à l’expertise technique du SCAI et à la capacité du Celsa à décrypter les problématiques du marché. De plus, la deuxième phase du projet se déroule en partenariat avec le laboratoire de recherche en informatique de Sorbonne Université (LIP6) et la start-up Kap Code, spécialisée dans les sciences de la donnée.
Enjeux de l’intelligence artificielle générative et du machine learning
Utilisation de ChatGPT et difficulté de détection
Depuis les concours d’entrée aux écoles de journalisme, il est constaté que les étudiants utilisent ChatGPT, un outil capable de produire des textes de grande qualité tout en restant difficilement détectable. Ainsi, il est crucial de former les journalistes à utiliser ces technologies de manière appropriée et de leur fournir des outils pour détecter les contenus générés par l’intelligence artificielle.
Initialement, l’objectif était de développer un outil de détection, afin d’aider les journalistes.
En résumé, il s’agit de trouver une solution à cet enjeu. De plus, certaines entreprises du secteur des médias et du contenu utilisent déjà l’IA générative. Certaines d’entre elles ont même publié des offres d’emploi pour recruter des journalistes chargés de piloter des générateurs de contenu. Cependant, cela pose la question de savoir si un journaliste doit être responsable de ces outils de génération de contenu. À l’inverse, il est possible d’utiliser l’intelligence artificielle générative au service des rédactions et des journalistes, notamment pour collecter et interpréter de grandes quantités de données, à condition qu’ils soient formés à leur utilisation et à la détection.
Secteurs également concernés par l’IA générative
Outre les métiers de l’information, l’utilisation des intelligences artificielles génératives concerne également d’autres secteurs. Les agences marketing, les sociétés de production de contenus, etc. font partie des organisations qui utilisent ces technologies pour donner à leurs contenus plus d’originalité. Le travail expérimental en cours vise à développer un outil modélisable et reproductible, bien qu’il ne soit pas encore achevé. Cependant, cette expérience a accéléré la formation des journalistes du Celsa sur l’IA.
SCAI : le centre de recherche en IA de Sorbonne Université
Le SCAI (Sorbonne Center for Artificial Intelligence), fondé en 2019 et situé sur le campus de Jussieu, combine recherche et formation en associant les facultés de lettres, de santé et de sciences et ingénierie dans des projets interdisciplinaires.
