Comment fonctionne l'IA : les maths qui ont lu Internet

Leçon 1

La grande idée : les maths qui ont lu Internet

Voici tout le domaine de l'IA en une phrase : quelqu'un a nourri presque tout Internet dans une machine mathématique géante, et la machine a appris les motifs.

Chaque livre, chaque article, chaque débat, chaque recette, chaque blague. Tout est entré sous forme de texte et en est ressorti sous forme de nombres, des milliards de nombres disposés de façon que les choses qui signifient des choses semblables se trouvent proches les unes des autres. Quand vous posez une question, la machine traverse ces maths et en ressort avec une réponse.

Leçon 2

C'est de la taxonomie jusqu'au bout

Dave l'a dit le mieux : c'est essentiellement de la taxonomie. Et il a raison. En dessous des maths sophistiquées, ce que la machine a appris, ce sont des catégories : ce mot va avec ces mots, cette idée ressemble à cette autre idée, cette question appartient à ce casier.

Pensez à la façon dont vous pensez. Vous voyez une chose poilue à quatre pattes et votre cerveau la range sous « chien », qui se trouve sous « animaux de compagnie », qui se trouve sous « animaux ». L'IA fait la même chose, sauf avec des millions de catégories, toutes apprises en lisant tout.

Chaque fois qu'elle vous répond, elle trie : quel genre de question est-ce, quel genre de réponse va avec, qu'est-ce qui vit dans le même voisinage. La taxonomie n'est pas une petite partie de l'IA. C'est tout le jeu.

Leçon 3

Les mots deviennent des nombres

Avant que l'IA voie vos mots, ils sont convertis en nombres. Chaque mot, ou morceau de mot, devient une longue liste de nombres, une position sur une carte géante où les significations semblables se trouvent proches les unes des autres.

« Roi » se trouve près de « reine ». « Heureux » se trouve près de « joyeux ». La machine ne sait pas ce qu'est le bonheur. Elle sait simplement où « heureux » vit sur la carte, qui sont ses voisins et quels quartiers il fréquente.

C'est pourquoi l'IA est si bonne avec le langage et si mauvaise en calcul : elle ne fait pas des maths comme une calculatrice. Elle fait du sens comme une carte.

Leçon 4

La machine à prédire

Voici le truc sur lequel toute l'industrie est construite : la machine prédit le mot suivant. Étant donné tout ce qui précède, quel mot vient ensuite ? Puis le suivant. Puis le suivant, des milliards de fois.

Cela semble trop simple pour produire de l'intelligence, et d'une certaine façon, ça l'est. Mais prédire correctement le mot suivant, sur tous les sujets dont les humains écrivent, exige de comprendre la grammaire, les faits, le raisonnement, le style et le ton. La fluidité naît de la prédiction comme l'humidité naît des molécules d'eau.

Chaque réponse que vous avez jamais reçue de ChatGPT ou de Muse a été construite un mot prédit à la fois.

Leçon 5

L'entraînement : lire tout Internet

Comment la machine a-t-elle appris tous ces motifs ? En lisant. Pendant l'entraînement, elle lit d'énormes piles de texte, des livres, des sites web, des articles, et s'exerce à prédire le mot suivant, encore et encore, en ajustant ses milliards de nombres chaque fois qu'elle se trompe.

Cela prend des mois et coûte des millions de dollars en calcul. C'est le programme de lecture le plus cher de l'histoire. Mais une fois terminé, le résultat, le modèle entraîné, peut répondre aux questions en quelques secondes.

Pensez-y comme à l'école : des années d'études, puis l'examen dure une heure. L'entraînement, ce sont les études. Votre conversation, c'est l'examen.

Leçon 6

Pourquoi elle semble intelligente (alors que ce ne sont que des motifs)

L'IA semble intelligente parce que le langage est la façon dont les humains montrent leur intelligence. Quand quelque chose parle avec fluidité, raisonne clairement et se souvient du contexte, notre cerveau le range sous « personne intelligente ». C'est notre taxonomie qui se trompe.

Ce qui se passe vraiment : une reconnaissance de motifs incroyablement bonne. Elle a vu tellement d'explications, de débats et d'histoires qu'elle peut en assembler une nouvelle pour votre question précise. Elle ne pense pas comme vous pensez. Elle reconnaît des motifs comme elle seule peut le faire.

Cela ne la rend pas inutile. La reconnaissance de motifs à cette échelle est vraiment puissante. Cela signifie simplement que vous devriez la traiter comme un stagiaire brillant doté d'une mémoire totale, pas comme un sage.

Leçon 7

Pourquoi elle invente des choses

Parfois, l'IA affirme des choses fausses avec une confiance totale. L'industrie appelle cela des hallucinations. Vous en savez maintenant assez pour comprendre pourquoi : elle prédit les mots suivants plausibles, pas les mots suivants vrais.

La plus célèbre : deux avocats de New York ont déposé un mémoire au tribunal citant six affaires inventées par ChatGPT, avec de faux juges et des citations fabriquées. Le nom d'affaire inventé le plus bête ? Estate of Durden v. KLM. Tyler Durden. De Fight Club. Un vrai avocat l'a déposé devant un tribunal fédéral et a reçu une amende de $5,000.

Si ses données d'entraînement contenaient le fait, la réponse plausible et la réponse vraie coïncident le plus souvent. Mais quand elle ne sait pas, elle ne dit pas « je ne sais pas ». Elle prédit la réponse qui semble la plus probable, ce qui peut être un non-sens magnifiquement écrit.

La correction vous appartient : vérifiez les faits, les noms, les nombres et les citations importants. La machine propose ; vous disposez.

Leçon 8

Alors, qu'est-ce qu'un agent IA ?

Maintenant, le titre du cours prend tout son sens. Un agent IA est le modèle de langage plus deux ajouts : des outils et une boucle.

Les outils signifient qu'il peut faire des choses, pas seulement dire des choses : chercher sur le web, lire vos emails, consulter votre calendrier, exécuter du code. La boucle signifie qu'il peut travailler par étapes : essayer quelque chose, regarder le résultat, ajuster, réessayer, jusqu'à ce que le travail soit fait.

Le modèle plus les outils plus la boucle. Voilà un agent. Tout le reste est du marketing.

Leçon 9

Comment ChatGPT et Muse vous répondent vraiment

Suivons une question à travers toute la machine. Vous tapez « planifie ma semaine ». D'abord, vos mots deviennent des nombres et atterrissent sur la carte du sens. Le modèle prédit la réponse utile la plus probable, mot par mot, en s'appuyant sur des motifs tirés de millions d'exemples de planification qu'il a lus.

S'il agit comme un agent, il va plus loin : il consulte votre calendrier (outil), rédige un plan (prédiction), le passe en revue selon vos contraintes (boucle) et l'ajuste. Puis il vous remet le résultat.

Tout le voyage, de votre phrase à sa réponse, prend quelques secondes. En dessous : la taxonomie, les nombres, la prédiction, les outils et une boucle de plus.

Leçon 10

Ce qu'elle ne peut pas faire

Connaître les limites vous rend puissant. L'IA ne peut pas vraiment connaître des choses qu'elle n'a jamais lues. Elle ne peut rien vouloir ni se soucier des résultats. Elle ne peut pas vérifier les faits face à la réalité, seulement face à des motifs.

Elle est mauvaise en maths précises, mauvaise pour savoir ce qu'elle ne sait pas, et mauvaise pour garder les secrets que vous lui confiez (partez du principe que tout ce que vous tapez peut être vu). Elle ne se fatigue pas, mais elle ne s'inspire pas non plus.

Utilisez-la pour rédiger, résumer, trouver des idées, organiser et expliquer. Gardez le jugement, les décisions et les relations pour vous.

Leçon 11

À vous : utilisez-la bien

Vous comprenez maintenant la machine mieux que 99 pour cent de ses utilisateurs. Voici comment transformer cela en avantage :

• Soyez précis : le modèle trie votre question en catégories, alors donnez-lui une catégorie claire
• Donnez des exemples : montrez-lui à quoi ressemble un bon résultat et elle suivra le motif
• Demandez-lui de montrer son travail pour tout ce qui est important
• Vérifiez vous-même les faits, les noms et les nombres
• Utilisez-la pour les brouillons et elle vous fera gagner des heures ; utilisez-la pour les décisions et elle vous coûtera cher
• Souvenez-vous de la taxonomie : tout ce qu'elle sait est trié, alors posez des questions triées

Diplôme

Des catégories, jusqu'au bout

Internet est entré sous forme de mots et en est ressorti sous forme de maths. Les maths ont tout trié en catégories. Maintenant, elle trie aussi vos questions, prédit les réponses mot par mot et, avec des outils et une boucle, elle agit. Voilà l'IA. Dave avait raison.

Retour à Starvard University