Chat GPT : La température, facteur de créativité

Tous ceux qui ont déjà travaillé avec Chat GPT constatent que plus on veut approfondir le sujet, Chat GPT finit toujours par renvoyer la même réponse. Cela prend un peu de temps, mais à un moment donné, il est inutile de continuer à discuter avec l'IA. L'une des raisons en est le paramètre température, qui apporte un peu de créativité ou plutôt le flou nécessaire dans le comportement de réponse. Comme ce paramètre n'a pas la valeur 1 (pas de flou), il faut un certain temps pour arriver à ce point.

Stephen Wolfram le décrit ainsi : if we always pick the highest-ranked word, we’ll typically get a very plat essay, that never seems to show any de créativité. Nous avons besoin d'un peu de hasard, c'est-à-dire d'un paramètre qui permette à l'IA d'utiliser également un terme moins probable comme jeton sélectionné.

Que signifie la température dans l'IA

La température est un paramètre de l'intelligence artificielle qui influence la diversité et la qualité des textes et autres contenus générés. La température détermine donc le nombre de fois qu'un terme moins bien noté doit être utilisé dans la réponse. Une température de 0,8 est une valeur fréquemment utilisée. Passionnant, car la valeur de 0,8 selon Wolfram n'a pas de fondement scientifique, mais s'appuie sur des valeurs empiriques tirées de la pratique. Il s'agit donc d'une valeur subjective qui continue à être déterminée par des personnes. Mais ce n'est pas non plus un hasard, je pense, si la température suit également la règle des 80/20, le principe de Pareto. Stephen Wolfram poursuit the concept of température is there because exponential distributions familiar from statistical physics happen to be being used, but there’s no physique connection—at least so far as we know.

Cependant, l'utilisation d'une température de 0,8 a également des implications éthiques. Les systèmes d'IA peuvent avoir tendance à générer des informations erronées ou des contenus racistes, sexistes ou autres discriminations en utilisant une température plus élevée. Cela s'explique par le fait que la plus grande diversité de textes générés peut inclure des contenus inappropriés ou problématiques. C'est pourquoi il est important que les développeurs d'IA et les chercheurs prennent la température de manière responsable et s'assurent que les textes générés sont éthiques et justes.

Créativité, vérification et recherche

Chez c-rex.net, nous utilisons l'IA depuis longtemps à différents endroits. Bien sûr, nous utilisons le Co Pilot dans le développement de logiciels. Il nous génère du code et, depuis peu, nous utilisons également le chat GPT dans nos articles de blog. Mais ce n'est pas Co Pilot qui développe le logiciel c-rex.net chez nous, ni Chat GPT qui écrit le blog et le site web pour nous. Nous utilisons de plus en plus ces deux systèmes comme soutien dans notre travail quotidien. Ils nous font gagner du temps dans le travail fastidieux mais néanmoins stupide d'écrire du code source ou de rédiger des textes grammaticalement propres et compréhensibles.

Le développement rapide des technologies d'automatisation est particulièrement visible dans le domaine de la traduction. Un domaine dans lequel la créativité n'est de toute façon plus vraiment souhaitée depuis longtemps, ni même vécue entre-temps. Au lieu de traduire manuellement des textes dans différentes langues avec l'aide de systèmes de mémoire de traduction, nous pouvons aujourd'hui simplement utiliser n'importe quel moteur de TA à l'aide des scénarios d'automatisation de c-rex.net. Nous définissons simplement les langues que nous souhaitons prendre en charge et l'automatisation fait le reste. Dans différents projets, nous avons constaté que l'on recourt de plus en plus souvent à la traduction automatique et que les propositions de l'IA sont simplement "approuvées" lors du processus de post-édition. Ce n'est pas la seule raison pour laquelle nous avons chaque jour de moins en moins de raisons de compter sur l'aide humaine dans le processus de traduction. L'argument du coût prend de plus en plus d'importance, en particulier lorsqu'on le considère dans le triangle conflictuel du coût, de la qualité et du temps.

Comme dans le processus de traduction, nous n'aurons plus besoin à l'avenir de développeursdéveloppeusesdéveloppeurs et développeusesdéveloppeur·se·s qui ne savent qu'écrire du code ou qui maîtrisent un langage de programmation particulier. Nous n'aurons plus besoin à l'avenir de rédacteurs techniquerédactrices techniquerédacteurs et rédactrices techniquerédacteur·rice·s technique qui ne maîtrisent que la rédaction et la grammaire. Du moins, ces exigences ne sont plus requises comme qualifications de base dans les descriptions de poste.

Mais ce dont nous aurons de plus en plus besoin, ce sont expertsexpertesexperts et expertesexpert·e·stes qui connaissent en profondeur les technologies et les concepts, qui peuvent évaluer si la réponse d'un système est correcte ou du moins plausible. Pour cela, il faut être capable de faire des recherches. Enfin et surtout, nous avons besoin de créativité, ou plutôt d'une température chaude, qui nous donne de nouvelles idées et nous permet d'innover.

Conclusion

Utilisons donc des systèmes comme Chat GPT, DeepL et Co Pilot pour ce qu'ils sont : de meilleurs moteurs de recherche et aides à l'écriture qui peuvent et vont nous décharger de beaucoup de travail stupide et moins créatif. Continuons à automatiser cela pour rester compétitifs et aller de l'avant.

Mais cela suppose aussi que nous soyons prêts à nous donner plus d'ampleur et de profondeur. C'est un travail difficile pour rester compétitif face aux soutiens mécaniques. On peut volontiers douter que nous y parvenions, et il est d'autant plus important que nous commencions enfin à créer des bases sociales pour en amortir les effets négatifs : Digitalisation et le revenu de base inconditionnel !?.