IA : le fondateur de TalimAI appelle à exercer sa « pensée critique

Au rendez-vous de la confiance

Le degré de confiance en l’IA est aujourd’hui limité. Même si les « hallucinations » reculent, les IA continuent d’ « affabuler » en présentant les choses comme la réalité du fait de l’excellence de la forme. Se pose également un problème de « répétabilité » des résultats : parce que les IA progressent, la même question posée en des temps différents donne des réponses différentes, ce qui pose des problèmes de « certitude » du comportement des agents IA. Ceci, d’autant plus que l’on ne sait toujours pas exactement comment les algorithmes déterminent les comportements.

Pensée critique

À partir de sa propre expérience de recours à l’IA Claude pour la préparation de son intervention, Antoine Carrière souligne qu’une cinquantaine d’échanges auront été nécessaires pour améliorer les premières propositions de l’IA. Si le bilan d’usage lui apparaît positif, il souligne que l‘outil l’aura « beaucoup plus aidé à organiser [ses] pensées qu’à organiser le plan de [sa] présentation ou à [lui] donner des contenus spécifiques. » Au final, l’IA aura permis de dépasser le stade de la « page blanche » mais nécessite l’exercice de sa « pensée critique » pour ne pas se laisser emmener dans une mauvaise direction. Et d’avertir : « il ne faut pas se laisser convaincre par la forme, toujours belle et polie, car le contenu va en général manquer de pertinence. »