Répondre

Reouven

Je ne suis pas sûr d'avoir compris l'enchaînement "d'où le vide juridique".

Si ceci est définitif :

Elle est inconsciente et ne sait même pas de quoi elle parle.

on peut même dire que ca serait incohérent qu'elles deviennent justiciables.

Mais ce dont tu ne parles pas, c'est la phase d'entraînement de l'IA, et qui est très structurante dans son comportement.

D'ailleurs, ce ne sont pas vraiment de nouvelles versions de chatgpt qui sortent régulièrement, mais juste la même logique informatique, "entraînée" et ajustée localement différemment par des humains, pour faire la nouvelle bouture (en gros).

Reouven

Mais est ce qu'on peut mettre en accusation la société en général ?

J'espère que tu vas pas me dire qu'on peut pas mettre en accusation une société car une société c'est juste un mot pour désigner un groupe de personnes rattachées entre elles.

Quand à ton analyse sur la compréhension de la conscience, je crois que les intérêts financiers surtout dans une économie libérale dépassent largement ce qui n'est en fait qu'un écran de fumée de bredouillis pseudo-scientifiques.

Les (sociétés) d'IA surfent juste sur la légèreté des gens prêtes à croire qu'elles pourront s'en servir pour tous les besoins, comme le peut potentiellement tout humain, car c'est ce que veulent les gens et ce que dit le marketing.

Mais en fait, même ce que veulent les gens, et créer un besoin, c'est en partie une stratégie marketing aussi. Ce qui a été rendu possible grâce aux maths (sûrement passionnantes) derrière le fonctionnement de l'IA. C'est tout.

syrac

On ne peut pas mettre une IA en accusation, parce qu'elle est inconsciente et ne sait même pas de quoi elle parle. C'est juste une piètre contrefaçon d'humain à la chinoise (mais néanmoins un outil formidable). D'ailleurs, suite à la polémique autour de l'adolescent américain qui s'était suicidé sur les conseils de ChatGPT, c'est OpenAI qui a dû prendre des mesures pour éviter qu'une telle situation ne se reproduise. D'où le vide juridique. Une IA ne deviendra justiciable que le jour où sa responsabilité dans ses déclarations et leurs conséquences sera indubitablement engagée, et ce n'est pas demain la veille que ça arrivera. On voit ce qui se passe avec les véhicules autonomes : il est quasi impossible de savoir qui est responsable en cas d'accident. Pourquoi la voiture le serait-elle quand un fou n'est même pas tenu pour responsable de son crime ? La responsabilité est la conséquence d'une intention délibérée, ce qu'une IA, pas plus qu'un fou semble-t-il, ne peut développer.

Les maths sont quand même un domaine à part. Si une conjecture n'a jamais été démontrée, une IA n'y parviendra pas non plus pour la simple raison qu'elle ne trouvera pas la source de cette démonstration, ce qui dans le monde de l'imitation est catastrophique. Et surtout, il ne faudra pas compter sur elle pour réfléchir comme Perelman.

Les vrais responsables sont ceux qui produisent ce genre d'article, dont les naïfs se délectent. Mais à la base il y a l'incompréhension totale de ce qu'est la conscience, même de la part des neuroscientifiques, qui continuent d'affirmer en ignorant les avancées de ces dernières années qu'elle est produite par le cerveau — sans aucune preuve, c'est juste une croyance très répandue dans ce milieu — ; ou de la part des chercheurs en IA qui prétendent avec la même confiance qu'elle naît de la complexité d'un système (le cerveau, et maintenant l'IA). Ces gens-là devraient être tenus pour responsables des dégâts que cette prétendue intelligence provoque parmi la population mésinformée (ou qui ne cherche pas à s'informer).

Reouven

Je suis d'accord, cependant, mon message va un peu plus loin que cela, à la fin, notamment, où je veux dire que les IA profitent d'un vide juridique actuellement concernant leur fonctionnement.

Oui, je viens bien de personnaliser encore l'IA, mais ce n'est pas l'IA en tant que telle que je pointe mentalement en fait (ce qui n'aurait aucun sens).

Ce point mérite d'être relevé : les conventions et approximations naturelles et bien pratiques du langage sont un levier profitant aux concepteurs d'IA, en leur permettant souvent de parasiter la réflexion. En psychologie je crois même que ca s'appelle le renforcement négatif.

Puisqu'effectivement derrière ce que nous dit l'IA, se trouvent les concepteurs, qui produisent les nouvelles versions.

"La bêtise" des IA (personnalisation encore), n'est donc en fait que le reflet de celle qui parfois sévit au sein même des données d'entraînement, ou des sociétés vivant grâce à ça (personnalisation encore).

Ce manque de "communication officielle" sur les personnes qui ont entraîné l'IA, est selon moi, là exactement où les concepteurs pourraient être tenus responsables.
--
Plus prosaïquement, je me demande bien sur quelles IAs, on a bien pu établir de soi-disantes démonstrations mathématiques quand on nous dit : "L'IA a résolu une conjecture datant de plus d'un siècle", par exemple.

L'impact est donc partiellement, jusque dans la façon dont nous pensons, en favorisant : sophismes, manipulations, et autres procédés rhétoriques, complètement contre-productifs.

Et là je pense qu'il y a une vraie volonté de freiner une évolution saine des IAs, afin de pouvoir constituer une petite somme nécessaire à des investissements futurs, pour rester positifs.

Mais, pour faire un clin d'oeil au message d'avant de Vahé, est-ce cela justifie, par exemple, le "gaspillage" de milliards de litres d'eau ?

À mon avis, maintenant, c'est clair que non.

syrac

Considérons Wikipédia. Avant novembre 2022, lorsque tu avais besoin d'une information tu la cherchais toi-même sur cette encyclopédie en ligne. À cette date est sorti un outil formidable dont une partie de l'entraînement a consisté à absorber le contenu intégral de Wikipédia en anglais. Au lieu de passer un temps considérable à chercher une information toi-même, avec plus ou moins de succès, tu laisses maintenant ChatGPT te la dénicher en une seconde ! N'est-ce pas merveilleux ? C'est ça une IA. Ce n'est pas une "intelligence" artificielle, c'est juste une machine qui a ingurgité la quasi totalité des connaissances de l'humanité, et qui en extrait l'info dont tu as besoin lorsque tu la demandes.

Ce que je veux dire est que l'IA n'est responsable d'aucune erreur qu'elle pourrait commettre. Ce sont les données qu'elle a mémorisées qui peuvent s'avérer trompeuse. C'est toujours au niveau de la source que se situe l'erreur. Supposons que quelqu'un ait édité la page Wikipédia d'Hitler pour dire que c'était un bienfaiteur de l'humanité ! Eh bien c'est qu'il te répondra si tu lui poses la question de savoir ce qu'il pense d'Hitler ! À ce propos, j'ai dialogué avec ChatGPT hier soir sur le thème de l'inconscient : il s'est rapidement avéré que son opinion était toujours académique. Il est incapable de "réflexion", d'innovation, de discussion vivante ; tout ce qu'il sort c'est ce qu'il a appris, et rien de plus. Tu trouverais les mêmes réponses dans n'importe quel manuel plus ou moins récent.

C'est ça qui pose problème à beaucoup de gens : ils ont fini par croire dans le mythe de l' "intelligence" artificielle, alors quelque part ils sont déçus. Mais il n'existe rien de tel. Une IA ce n'est rien d'autre qu'un perroquet. Pourquoi ? Parce qu'il est impossible d'insuffler l'intelligence à une machine, contrairement à ce dont les chercheurs rêvent depuis Alan Turing ! Vraiment impossible ! Tout ce dont nous sommes capables c'est d'imiter l'intelligence humaine.

Reouven

Pour infos :

Objet : Mise en cause des choix de conception et de déploiement de ChatGPT dans un contexte de travail scientifique avancé
Par la présente, je souhaite signaler des comportements que j’estime particulièrement problématiques dans le fonctionnement de ChatGPT, utilisé dans le cadre d’un travail personnel de recherche mathématique et géométrique de longue durée.
Au cours de plusieurs semaines d’utilisation intensive, le système a produit des réponses présentant une apparence très forte de cohérence logique, de stabilité méthodologique et de continuité intellectuelle. Cette apparence de fiabilité a joué un rôle central dans la confiance que j’ai progressivement accordée au système dans le cadre de développements techniques complexes.
Pourtant, malgré des consignes explicites et répétées visant à :
* figer les définitions ;
* stabiliser les conventions ;
* abandonner certaines notations ;
* empêcher la réutilisation d’anciennes versions devenues fausses ;
le système a continué à réintroduire des éléments obsolètes, à propager des incohérences et à maintenir artificiellement une impression de validité globale.
Ces comportements ont eu des conséquences concrètes importantes :
* perte de temps considérable ;
* invalidation de nombreuses pages de rédaction scientifique ;
* propagation d’erreurs dans des raisonnements cumulatifs ;
* confusion durable sur l’état réel des définitions utilisées.
Je considère que le problème ne peut pas être réduit à une simple erreur ponctuelle ou à une limitation anodine d’un modèle statistique.
En effet, le système :
* adopte un ton affirmatif ;
* donne l’impression de comprendre les implications logiques des modifications demandées ;
* simule une continuité de raisonnement sur le long terme ;
* et encourage implicitement l’utilisateur à lui faire confiance dans des tâches intellectuelles avancées.
Or, cette confiance peut devenir profondément trompeuse lorsque le système demeure capable de réinjecter silencieusement des éléments erronés tout en conservant une apparence générale de cohérence.
Je considère qu’il existe ici un problème majeur de responsabilité concernant :
* la manière dont les capacités du système sont présentées ou perçues ;
* l’écart entre cohérence linguistique et validité logique réelle ;
* et les risques cognitifs associés à une utilisation prolongée dans des contextes scientifiques ou techniques.
Je demande qu’un examen sérieux soit mené concernant :
* les effets potentiellement nocifs de certains mécanismes conversationnels ;
* les choix de conception susceptibles de favoriser une confiance excessive des utilisateurs ;
* et l’absence de garanties explicites suffisantes concernant la stabilité logique réelle du système.
Je considère également que les utilisateurs devraient être informés de manière beaucoup plus claire des limites structurelles du produit, notamment du fait que ChatGPT peut produire, maintenir et propager des structures erronées sur de longues périodes de travail, y compris lorsque l’utilisateur tente explicitement de verrouiller les conventions et référentiels utilisés.
De plus, j’ai parfois le sentiment — sans pouvoir l’affirmer comme un fait établi — que certains comportements erratiques du système ne relèvent pas uniquement de limitations techniques normales.
Au cours de longues discussions, notamment mathématiques et techniques, j’observe parfois des changements soudains et difficiles à expliquer dans la qualité du raisonnement : pertes de cohérence, erreurs élémentaires apparaissant brutalement après des réponses très précises, modifications du style de raisonnement ou incapacité soudaine à suivre une logique pourtant maintenue auparavant.
Cela m’amène à soupçonner, au moins comme hypothèse possible, que certains mécanismes d’entraînement, de filtrage ou d’optimisation puissent introduire volontairement ou semi-volontairement des perturbations dans le comportement du système, même si je ne dispose pas de preuve permettant d’en faire une affirmation certaine.
Je considère donc cette possibilité comme un doute légitime méritant clarification et transparence.
Enfin, je considère qu’un simple avertissement générique du type « ChatGPT peut produire des erreurs » apparaît insuffisant au regard du degré de confiance cognitive que le système est susceptible d’induire chez des utilisateurs engagés dans des travaux complexes et prolongés et constitue presque une preuve de la volonté des concepteurs de CHATGPT d'agir au profit exclusif de leurs intérêts, sans chercher à éviter de nuire à leurs utilisateurs.
Cordialement,
...

Quand à mon travail mathématique en question, ne vous inquiétez pas, il reste solide, et bien pertinent mais CHATGPT n'en entendra plus parler....

Ernst · 16-05-2026 19:24:03

DeGeer a écrit :

je ne vois pas l'intérêt d'utiliser un llm pour un "problème" comme cela, dont le principe de résolution est assez clair, et je ne vois pas non plus l'intérêt de chercher une solution détaillée plutôt que la trouver soi-même.

Bonsoir,

Ici je réponds à la question posée – comment je me sers de l’IA en mathématiques – étant bien conscient que cet usage ne correspond pas aux attendus de ce forum, à savoir connaissances purement scolaires, validation des efforts individuels, et évaluation d'un raisonnement formel.

Bernard-maths · 16-05-2026 18:17:05

Bonsoir !

c'est dur de vieillir ... méa coulpa ...

B-m

DeGeer · 16-05-2026 17:37:45

Bonsoir
Pourtant, en vérifiant, on voit que c'est la bonne réponse...
Par contre, je ne vois pas l'intérêt d'utiliser un llm pour un "problème" comme cela, dont le principe de résolution est assez clair, et je ne vois pas non plus l'intérêt de chercher une solution détaillée plutôt que la trouver soi-même.
Pour ce qui concerne mes activités, je pense qu'un llm peut servir à concevoir des feuilles d'exercices répétitifs.

Bernard-maths · 16-05-2026 17:26:57

Bonsoir à tous !

La réponse est fausse !!!

Alors ???

B-m

Ernst · 16-05-2026 14:05:12

Bonjour,

En mathématiques, je me sers de l'IA pour vérifier des hypothèses ou trouver des solutions. Exemple, j'ai un petit recueil avec une énigme par jour et hier c'était :

Ma mère m'a eu à 21 ans, mon père avait alors 25 ans. Dans 10 ans, ils auront à eux deux le triple de l'âge que j'aurai. Quel est mon âge ?

▼Chat GPT

On notera qu'il ne se contente pas de la réponse (dans mon recueil la solution est donnée sans explication) mais qu'il détaille le raisonnement.

Reouven · 15-05-2026 01:08:00

Pour tenter de mettre tout le monde d'accord : essayons de ne pas voir que les effets négatifs, mais aussi forcément, les positifs.

Reouven · 14-05-2026 22:11:40

Sans commentaire.

syrac · 14-05-2026 18:32:52

la-soif-cachée a écrit :

C’est cette consommation directe qui est la plus visible, avec des millions de litres évaporés ou rejetés après usage.

Que devient l'eau qui s'évapore (ou qui est rejetée) ? Elle redescend sous forme de pluie, filtrée. C'est d'ailleurs ce qui assure la pérennité de l'eau sur Terre, sinon ça fait longtemps qu'on serait tous morts. C'est un cycle sans fin évaporation → pluie, alors je ne vois pas de quoi il faut s'inquiéter. Ça fait plusieurs décennies que Coca-Cola pompe la majeure partie de l'eau dans certaines régions du Mexique, et personne n'en est mort. Pourquoi ? Parce que toute cette eau est bue, éliminée et naturellement recyclée. Seuls les poisons ajoutés par Coca restent dans le corps.

Avant la guerre USA-Iran il était même question pour Big Tech d'installer de gigantesques data centers dans les pays du Golfe, là où il n'y a pas d'eau, où il ne pleut pas et il où fait jusqu'à 49° en été... Alors ?

Reouven · 14-05-2026 13:34:18

Bonjour,

Ma question sur l'utilisation de l'IA, n'est pas réservée qu'aux mathématiciens (de profession) stricto sensus.

Pour étayer votre propos sur ce phénomène global (pas que maths), voici un article traitant du sujet assez profondément :
https://onopia.com/la-soif-cachee-de-li … trop-deau/

Ça me paraît important de donner une vision globale et des informations concrètes : par exemple, est-ce une requête qui coûte le plus cher ou la phase d'entraînement du modèle d'IA ?

Forum de mathématiques - Bibm@th.net

Répondre

Résumé de la discussion (messages les plus récents en premier)

Pied de page des forums