Vous utilisez peut⁠-⁠être l’IA tous les jours. Savez⁠-⁠vous ce qui se passe à l’intérieur ?

Deviner la suite

Comment une IA comme ChatGPT trouve⁠-⁠t⁠-⁠elle quoi répondre ?

Elle devine le mot suivant. Puis le suivant. Puis le suivant.

Voilà pourquoi, à l’écran, ses réponses s’écrivent mot à mot. Elle ne cherche pas une réponse toute faite dans une base de données : elle la construit au fur et à mesure.

À vous de jouer : choisissez chaque mot, comme la machine.

Une réponse, du premier au dernier mot, c’est une longue suite de paris.

Chaque mot est choisi parce qu’il est probable, pas parce qu’il est vrai.

Qu’est⁠-⁠ce qui vous intrigue maintenant ?

• Plus profond Comment sait⁠-⁠elle quel mot est probable ? comment ça marche
• Plus large Si elle devine, peut⁠-⁠elle se tromper ? ce que ça change
• Pratique Ma façon de demander change⁠-⁠t⁠-⁠elle la réponse ? ce que j’en fais

L’entraînement

Comment sait⁠-⁠elle quel mot est probable ?

Elle a lu une quantité immense de textes en s’exerçant à deviner le mot suivant. Des milliers de milliards de fois.

Ces textes viennent surtout du Web public, de livres et d’articles.

Choisissez combien elle a lu, et regardez ses paris changer.

Elle n’a pas appris des faits un par un. Elle a appris les habitudes du langage.

Ensuite, des personnes l’ont ajustée pour qu’elle réponde comme un assistant poli et utile.

Qu’est⁠-⁠ce qui vous intrigue maintenant ?

• Plus profond Est⁠-⁠ce qu’elle lit les mots comme nous ? comment ça marche
• Plus large Est⁠-⁠ce qu’elle est neutre ? ce que ça change
• Pratique Où vont les mots que je tape ? ce que j’en fais

Les morceaux

Est⁠-⁠ce qu’elle lit les mots comme nous ?

Non. Elle découpe le texte en morceaux, et chaque morceau devient un numéro.

Les spécialistes appellent ces morceaux des jetons (tokens). C’est jeton par jeton qu’elle devine la suite.

Choisissez un mot, ou tapez le vôtre, et regardez⁠-⁠le se découper.

La machine ne voit jamais de lettres. Seulement des numéros de morceaux.

En français, le même sens demande souvent plus de morceaux qu’en anglais.

Qu’est⁠-⁠ce qui vous intrigue maintenant ?

• Plus profond Comment des numéros peuvent⁠-⁠ils avoir du sens ? comment ça marche
• Plus large Est⁠-⁠ce qu’elle est neutre ? ce que ça change
• Pratique Ma façon de demander change⁠-⁠t⁠-⁠elle la réponse ? ce que j’en fais

La carte du sens

Comment des numéros peuvent⁠-⁠ils avoir du sens ?

Chaque morceau devient un point sur une immense carte. Les mots de sens voisin s’y retrouvent côte à côte.

La vraie carte a des milliers de directions. On l’aplatit ici pour la voir.

Choisissez un mot pour voir ses voisins. Puis ajoutez⁠-⁠en un nouveau.

Pour la machine, le sens, c’est le voisinage.

Qui a dessiné cette carte ? Les textes qu’elle a lus.

Qu’est⁠-⁠ce qui vous intrigue maintenant ?

• Plus profond Comment sait⁠-⁠elle de quelle « souris » on parle ? comment ça marche
• Plus large Est⁠-⁠ce qu’elle est neutre ? ce que ça change
• Pratique Ma façon de demander change⁠-⁠t⁠-⁠elle la réponse ? ce que j’en fais

Le contexte

Comment sait⁠-⁠elle de quelle « souris » on parle ?

Chaque mot regarde les mots qui le précèdent, et s’en sert pour préciser son sens.

Les spécialistes appellent ce mécanisme l’attention.

Changez de phrase et regardez « souris » changer de sens.

Le contexte décide du sens. Les mots que vous choisissez comptent.

Avant chaque nouveau mot, la machine relit tout ce qui précède, y compris votre demande.

Qu’est⁠-⁠ce qui vous intrigue maintenant ?

• Plus profond Pourquoi la même question donne⁠-⁠t⁠-⁠elle des réponses différentes ? comment ça marche
• Plus large Si elle devine, peut⁠-⁠elle se tromper ? ce que ça change
• Pratique Ma façon de demander change⁠-⁠t⁠-⁠elle la réponse ? ce que j’en fais

Le hasard dosé

Pourquoi la même question donne⁠-⁠t⁠-⁠elle des réponses différentes ?

Parce qu’elle tire au sort parmi les mots probables. Un réglage dose la part de surprise.

Ce réglage s’appelle la température.

Réglez la surprise, puis lancez plusieurs fois.

Une autre réponse n’est pas plus vraie. C’est un autre tirage.

Si deux réponses se contredisent, c’est un signal : vérifiez.

Qu’est⁠-⁠ce qui vous intrigue maintenant ?

• Plus profond Comment sait⁠-⁠elle quel mot est probable ? comment ça marche
• Plus large Si elle devine, peut⁠-⁠elle se tromper ? ce que ça change
• Pratique Comment savoir quand je peux m’y fier ? ce que j’en fais

Plausible, pas vrai

Si elle devine, peut⁠-⁠elle se tromper ?

Oui. Elle vise ce qui sonne juste, pas ce qui est vrai. Et elle dit souvent le vrai comme le faux avec le même aplomb.

On appelle ces inventions des hallucinations.

Relisez le résumé : choisissez chaque détail absent du message.

Une phrase bien tournée n’est pas une phrase vérifiée.

Plus un détail semble précis et pratique, plus il vaut la peine d’être vérifié.

Qu’est⁠-⁠ce qui vous intrigue maintenant ?

• Plus profond Comment sait⁠-⁠elle quel mot est probable ? comment ça marche
• Plus large Est⁠-⁠ce qu’elle est neutre ? ce que ça change
• Pratique Comment savoir quand je peux m’y fier ? ce que j’en fais

Vérifier

Comment savoir quand je peux m’y fier ?

Posez⁠-⁠vous trois questions : qu’est⁠-⁠ce que je risque ? D’où ça vient ? Comment je vérifie ?

Vérifier ne prend pas toujours du temps. Ça dépend de l’enjeu.

Pour chaque usage, choisissez le bon niveau de vérification.

Plus l’enjeu est grand, plus la vérification compte. À la fin, c’est vous qui signez.

L’IA peut proposer. La décision, elle, reste humaine.

Qu’est⁠-⁠ce qui vous intrigue maintenant ?

• Plus profond Pourquoi la même question donne⁠-⁠t⁠-⁠elle des réponses différentes ? comment ça marche
• Plus large Si elle devine, peut⁠-⁠elle se tromper ? ce que ça change
• Pratique Ma façon de demander change⁠-⁠t⁠-⁠elle la réponse ? ce que j’en fais

Les biais

Est⁠-⁠ce qu’elle est neutre ?

Non. Elle reflète ce qu’elle a lu, avec ses déséquilibres.

Une grande part de ses lectures vient de l’extérieur du Québec, surtout en anglais.

Changez ce qu’elle a lu et regardez sa réponse changer.

Ce qu’on lui donne à lire façonne ce qu’elle dit, et pour qui elle parle.

Les mêmes déséquilibres touchent les genres, les cultures, les métiers. Gardez l’œil ouvert.

Qu’est⁠-⁠ce qui vous intrigue maintenant ?

• Plus profond Comment sait⁠-⁠elle quel mot est probable ? comment ça marche
• Plus large Qui fabrique ces machines, et où ? ce que ça change
• Pratique Comment savoir quand je peux m’y fier ? ce que j’en fais

Vos données

Où vont les mots que je tape ?

Ils quittent votre appareil pour les serveurs d’une entreprise, souvent à l’étranger. Ils y sont généralement conservés, au moins un temps.

Selon le service et vos réglages, ils peuvent aussi servir à entraîner les prochaines versions de l’IA. Sur plusieurs services gratuits, c’est le réglage par défaut.

Avant d’envoyer, choisissez ce qui ne devrait pas partir.

Ce que vous n’envoyez pas ne peut pas fuir.

Au Québec, la Loi 25 oblige les organisations à évaluer les risques avant d’envoyer des renseignements personnels hors du Québec.

Qu’est⁠-⁠ce qui vous intrigue maintenant ?

• Plus profond Comment sait⁠-⁠elle quel mot est probable ? comment ça marche
• Plus large Qui fabrique ces machines, et où ? ce que ça change
• Pratique Comment savoir quand je peux m’y fier ? ce que j’en fais

Qui la fabrique

Qui fabrique ces machines, et où ?

Surtout de grandes entreprises, aux États⁠-⁠Unis et en Chine. Mais une partie de l’histoire s’est écrite ici.

Des équipes de recherche de Montréal, de Toronto et d’Edmonton ont posé des bases de l’IA moderne.

Et vos données, où vont⁠-⁠elles ? Changez l’emplacement du serveur, puis le pays de l’entreprise, et regardez quelles règles s’appliquent.

Savoir où vivent vos données, et qui les contrôle, c’est savoir quelles règles les protègent.

En 2017, le Canada a été le premier pays à se doter d’une stratégie nationale en IA.

Qu’est⁠-⁠ce qui vous intrigue maintenant ?

• Plus profond Comment sait⁠-⁠elle quel mot est probable ? comment ça marche
• Plus large Est⁠-⁠ce qu’elle est neutre ? ce que ça change
• Pratique Où vont les mots que je tape ? ce que j’en fais

Bien demander

Ma façon de demander change⁠-⁠t⁠-⁠elle la réponse ?

Oui. De votre situation, elle ne sait que ce que vous lui écrivez.

Elle ne voit ni votre classe, ni votre équipe, ni vos contraintes. Sauf si vous les décrivez.

Ajoutez des précisions une à une et regardez la réponse s’ajuster.

Une bonne demande n’a rien de magique. C’est du contexte.

Et le contexte utile n’a presque jamais besoin de noms.

Qu’est⁠-⁠ce qui vous intrigue maintenant ?

• Plus profond Comment sait⁠-⁠elle de quelle « souris » on parle ? comment ça marche
• Plus large Si elle devine, peut⁠-⁠elle se tromper ? ce que ça change
• Pratique Où vont les mots que je tape ? ce que j’en fais