{"id":576,"date":"2024-12-20T08:04:41","date_gmt":"2024-12-20T07:04:41","guid":{"rendered":"https:\/\/wp.unil.ch\/iaunil2\/?p=576"},"modified":"2025-07-08T18:22:38","modified_gmt":"2025-07-08T16:22:38","slug":"lia-generative-comprendre-ses-mecanismes-pour-mieux-lutiliser","status":"publish","type":"post","link":"https:\/\/wp.unil.ch\/iaunil\/lia-generative-comprendre-ses-mecanismes-pour-mieux-lutiliser\/","title":{"rendered":"IA g\u00e9n\u00e9rative : comprendre ses m\u00e9canismes pour mieux en faire un usage critique et \u00e9clair\u00e9"},"content":{"rendered":"\n<div class=\"wp-block-group has-global-padding is-content-justification-left is-layout-constrained wp-container-core-group-is-layout-5b3d42a2 wp-block-group-is-layout-constrained\">\n<div class=\"wp-block-group has-background has-ubuntu-font-family has-global-padding is-layout-constrained wp-container-core-group-is-layout-86f7a7ce wp-block-group-is-layout-constrained\" style=\"background-color:#d5e4e7;margin-bottom:var(--wp--preset--spacing--30);padding-top:var(--wp--preset--spacing--30);padding-right:var(--wp--preset--spacing--30);padding-bottom:var(--wp--preset--spacing--30);padding-left:var(--wp--preset--spacing--30);font-style:italic;font-weight:500\">\n<p>Le Professeur Beno\u00eet Garbinato partage son analyse sur les m\u00e9canismes des intelligences artificielles g\u00e9n\u00e9ratives. Il revient sur leur fonctionnement fond\u00e9 sur des probabilit\u00e9s, la part essentielle de l\u2019intervention humaine dans leur entra\u00eenement, ainsi que les implications \u00e9thiques et p\u00e9dagogiques de leur utilisation. Son message est clair : ces outils sont puissants, mais doivent \u00eatre compris pour \u00eatre utilis\u00e9s \u00e0 bon escient \u2014 notamment dans le cadre de l\u2019enseignement sup\u00e9rieur, o\u00f9 ils bousculent d\u00e9j\u00e0 les m\u00e9thodes d\u2019\u00e9valuation.<\/p>\n<\/div>\n\n\n\n<p style=\"font-size:clamp(0.875rem, 0.875rem + ((1vw - 0.2rem) * 0.708), 1.3rem);\">Le Professeur Bono Garbinato du d\u00e9partement des syst\u00e8mes d&rsquo;information des facult\u00e9s HEC de l&rsquo;UNIL partage son analyse sur les IA g\u00e9n\u00e9ratives, leur fonctionnement et leurs implications pour l&rsquo;enseignement. Ing\u00e9nieur de formation dipl\u00f4m\u00e9 de l&rsquo;EPFL, le Professeur Garbinato a travaill\u00e9 plusieurs ann\u00e9es dans l&rsquo;industrie avant de rejoindre le monde acad\u00e9mique en 2004. Bien que l&rsquo;intelligence artificielle ne soit pas son domaine de sp\u00e9cialit\u00e9, sa solide formation en algorithmique lui permet d&rsquo;apporter un regard \u00e9clair\u00e9 sur ces technologies.<\/p>\n<\/div>\n\n\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\" style=\"margin-top:var(--wp--preset--spacing--40);margin-bottom:var(--wp--preset--spacing--40)\"><div class=\"wp-block-embed__wrapper\">\n<iframe loading=\"lazy\" title=\"IA g\u00e9n\u00e9ratives et enseignement sup\u00e9rieur : entretien avec le professeur Beno\u00eet Garbinato\" width=\"500\" height=\"281\" src=\"https:\/\/www.youtube.com\/embed\/lRHeGsnT-SQ?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe> \n<\/div><\/figure>\n\n\n\n<div class=\"wp-block-group is-layout-flow wp-block-group-is-layout-flow\" style=\"padding-top:var(--wp--preset--spacing--20);padding-bottom:var(--wp--preset--spacing--20)\">\n<h2 class=\"wp-block-heading\">Un syst\u00e8me bas\u00e9 sur les probabilit\u00e9s<\/h2>\n\n\n\n<p>Le Professeur Garbinato explique que le fonctionnement d&rsquo;un mod\u00e8le de langage comme ChatGPT repose sur un principe similaire \u00e0 celui des syst\u00e8mes de pr\u00e9diction de texte des smartphones : \u00ab\u00a0C&rsquo;est tr\u00e8s simplifi\u00e9 mais c&rsquo;est le m\u00eame type d&rsquo;algorithme que vous avez sur votre t\u00e9l\u00e9phone lorsque vous essayez d&rsquo;\u00e9crire un message et que le logiciel vous sugg\u00e8re la fin de vos phrases.\u00a0\u00bb La diff\u00e9rence principale r\u00e9side dans l&rsquo;\u00e9chelle : ChatGPT est entra\u00een\u00e9 sur une masse de donn\u00e9es consid\u00e9rablement plus importante et prend en compte des millions de param\u00e8tres.<\/p>\n\n\n\n<p>Un point crucial soulev\u00e9 par le chercheur est que ces syst\u00e8mes n&rsquo;ont aucune compr\u00e9hension r\u00e9elle de ce qu&rsquo;ils g\u00e9n\u00e8rent : \u00ab\u00a0ChatGPT n&rsquo;a aucune notion de ce qui est vrai, faux, de ce qui est logique, pas logique. Par contre, il a une notion de ce qui fait un discours plausible, fluide.\u00a0\u00bb<\/p>\n<\/div>\n\n\n\n<div class=\"wp-block-group is-layout-flow wp-block-group-is-layout-flow\" style=\"padding-top:var(--wp--preset--spacing--20);padding-bottom:var(--wp--preset--spacing--20)\">\n<h2 class=\"wp-block-heading\">L&rsquo;intervention humaine dans le nettoyage des donn\u00e9es<\/h2>\n\n\n\n<p>L&rsquo;entretien met en lumi\u00e8re un aspect moins connu du d\u00e9veloppement de ces IA : le travail humain n\u00e9cessaire pour \u00ab\u00a0nettoyer\u00a0\u00bb les donn\u00e9es d&rsquo;entra\u00eenement. Pour \u00e9viter que ChatGPT ne reproduise les biais et contenus probl\u00e9matiques pr\u00e9sents sur Internet, une \u00ab\u00a0armada de gens\u00a0\u00bb est employ\u00e9e pour filtrer le corpus de textes utilis\u00e9. Cette r\u00e9alit\u00e9 soul\u00e8ve des questions \u00e9thiques, notamment concernant les conditions de travail de ces personnes, souvent pay\u00e9es \u00e0 tr\u00e8s bas salaire dans des pays en d\u00e9veloppement.<\/p>\n\n\n\n<p>Le professeur cite l&rsquo;exemple de Microsoft qui avait d\u00fb rapidement d\u00e9sactiver son IA Tay en 2017-2018 apr\u00e8s qu&rsquo;elle soit devenue \u00ab\u00a0raciste, misogyne, complotiste\u00a0\u00bb en seulement 24 heures d&rsquo;exposition aux contenus de Twitter. Cette exp\u00e9rience a d\u00e9montr\u00e9 la n\u00e9cessit\u00e9 d&rsquo;un filtrage pr\u00e9alable des donn\u00e9es d&rsquo;entra\u00eenement.<\/p>\n<\/div>\n\n\n\n<div class=\"wp-block-group is-layout-flow wp-block-group-is-layout-flow\" style=\"padding-top:var(--wp--preset--spacing--20);padding-bottom:var(--wp--preset--spacing--20)\">\n<h2 class=\"wp-block-heading\">Implications pour l&rsquo;enseignement<\/h2>\n\n\n\n<p>En tant qu&rsquo;enseignant, le Professeur Garbinato voit ces outils comme \u00ab\u00a0absolument fabuleux quand on sait ce qu&rsquo;on fait avec.\u00a0\u00bb Il souligne toutefois l&rsquo;importance de pouvoir porter un jugement qualitatif sur ce qu&rsquo;ils produisent. Cette \u00e9volution technologique l&rsquo;am\u00e8ne \u00e0 repenser ses m\u00e9thodes d&rsquo;\u00e9valuation : \u00ab\u00a0V\u00e9rifier une connaissance purement par c\u0153ur n&rsquo;a plus aucun int\u00e9rr. Par contre, comprendre comment un bout de code fonctionne, quels sont ses probl\u00e8mes ou ses vuln\u00e9rabilit\u00e9s, \u00e7a demande de l&rsquo;intelligence.\u00a0\u00bb<\/p>\n\n\n\n<p>Il conseille \u00e0 ses coll\u00e8gues enseignants de se concentrer sur la compr\u00e9hension profonde plut\u00f4t que sur la simple restitution de connaissances, puisque les IA peuvent d\u00e9sormais \u00ab\u00a0r\u00e9gurgiter de fa\u00e7on absolument cr\u00e9dible toutes sortes de discours, sachant que derri\u00e8re il n&rsquo;y a aucune compr\u00e9hension.\u00a0\u00bb<\/p>\n<\/div>\n\n\n\n<div class=\"wp-block-group is-layout-flow wp-block-group-is-layout-flow\" style=\"padding-top:var(--wp--preset--spacing--20);padding-bottom:var(--wp--preset--spacing--20)\">\n<h2 class=\"wp-block-heading\">Perspectives d&rsquo;\u00e9volution<\/h2>\n\n\n\n<p>Concernant l&rsquo;avenir de ces technologies, le professeur observe que le cycle d&rsquo;engouement initial commence \u00e0 retomber. Il rappelle que la v\u00e9ritable innovation de ChatGPT \u00e9tait moins technologique que sociale, avec sa mise \u00e0 disposition du grand public.<\/p>\n\n\n\n<p>Pour l&rsquo;avenir, il \u00e9voque les recherches en cours, notamment chez Google, visant \u00e0 associer aux mod\u00e8les de langage un \u00ab\u00a0mod\u00e8le de v\u00e9rit\u00e9 logique\u00a0\u00bb : \u00ab\u00a0Le jour o\u00f9 on associe ces deux choses, on fera un pas suppl\u00e9mentaire. [&#8230;] On pourra non seulement faire g\u00e9n\u00e9rer un texte fluide, comme on sait faire aujourd&rsquo;hui, mais en plus on pourra avoir certaines garanties sur le fait que le discours qui nous est produit est logiquement bien construit.\u00a0\u00bb<\/p>\n\n\n\n<p>En conclusion, le Professeur Garbinato insiste sur l&rsquo;importance de ne pas consid\u00e9rer la technologie comme de la magie. Il encourage les utilisateurs \u00e0 toujours v\u00e9rifier les informations g\u00e9n\u00e9r\u00e9es par ces syst\u00e8mes, m\u00eame lorsqu&rsquo;elles semblent plausibles : \u00ab\u00a0M\u00eame si le discours est fluide, m\u00eame si le discours est tr\u00e8s bien construit dans sa logique, allez v\u00e9rifier les faits, faites du cross-checking, regardez s&rsquo;il y a plusieurs sources qui disent la m\u00eame chose, avant d&rsquo;en conclure que c&rsquo;est fluide, c&rsquo;est cr\u00e9dible, donc c&rsquo;est vrai.\u00a0\u00bb<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"<p>Professeur \u00e0 HEC Lausanne, Beno\u00eet Garbinato d\u00e9crypte le fonctionnement des IA g\u00e9n\u00e9ratives et insiste sur la n\u00e9cessit\u00e9 d\u2019un regard critique face \u00e0 leurs usages, limites et implications \u00e9thiques.<\/p>\n","protected":false},"author":108,"featured_media":1901,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[6],"tags":[],"class_list":{"0":"post-576","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-ia-toutes"},"_links":{"self":[{"href":"https:\/\/wp.unil.ch\/iaunil\/wp-json\/wp\/v2\/posts\/576","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/wp.unil.ch\/iaunil\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/wp.unil.ch\/iaunil\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/wp.unil.ch\/iaunil\/wp-json\/wp\/v2\/users\/108"}],"replies":[{"embeddable":true,"href":"https:\/\/wp.unil.ch\/iaunil\/wp-json\/wp\/v2\/comments?post=576"}],"version-history":[{"count":5,"href":"https:\/\/wp.unil.ch\/iaunil\/wp-json\/wp\/v2\/posts\/576\/revisions"}],"predecessor-version":[{"id":2161,"href":"https:\/\/wp.unil.ch\/iaunil\/wp-json\/wp\/v2\/posts\/576\/revisions\/2161"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/wp.unil.ch\/iaunil\/wp-json\/wp\/v2\/media\/1901"}],"wp:attachment":[{"href":"https:\/\/wp.unil.ch\/iaunil\/wp-json\/wp\/v2\/media?parent=576"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/wp.unil.ch\/iaunil\/wp-json\/wp\/v2\/categories?post=576"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/wp.unil.ch\/iaunil\/wp-json\/wp\/v2\/tags?post=576"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}