top of page

IA, IA, IN ou IN? (versão em francês)

Pedro Pereira de Paula - Ingénieur électricien, master et doctorat de l'École Polytechnique de l'USP. Post-doctorat à l'université de Grenoble, France. A travaillé à l'IEE-USP, à l'IPT, au CTMSP (développement de la propulsion électrique des navires) et actuellement au CR IPEN. Professeur d'université (actuellement à l'Inst. Mauá et au PECE/POLI) et consultant dans le domaine des machines électriques. Auteur du livre "Manifeste pour une assemblée constituante exclusive du peuple brésilien".



Il y a une vingtaine d'années, j'ai installé un programme d'échecs sur mon ordinateur. Je ne suis pas un fanatique, encore moins un grand joueur, mais j'aimais jouer de temps en temps avec mes amis et ma famille. Lorsque j'ai installé le programme, je n'avais pas joué depuis un certain temps, je n'étais pas entraîné et j'ai perdu contre ce programme comme un débutant. Un jour, après avoir perdu environ 15 fois de suite contre ce programme, je pense que j'ai été inspiré et après environ 10 coups - toutes les pièces étaient encore sur l'échiquier - j'ai mis mon adversaire numérique en difficulté. J'ai joué un coup avec ma reine qui m'a donné une bonne chance de mettre le malheureux en échec et mat. Qu'a-t-il fait? Il a volé! Il a créé et placé un pion supplémentaire, correctement protégé, devant ma reine. Au jeu d'échecs, il y a 8 pions et après ce vol flagrant, il s'est retrouvé avec 9 pions sur l'échiquier.


J'ai sauvegardé le fichier numérique de ce jeu et l'ai envoyé à la société américaine propriétaire du programme qui m'a répondu avec les habituelles excuses boiteuses. Cela n'était jamais arrivé auparavant, nous sommes désolés, nous nous excusons pour la gêne occasionnée et nous allons résoudre ce problème. Je n'ai pu que supprimer le programme de mon ordinateur et jeter le disque d'installation à la poubelle.


L'intelligence artificielle (IA) a fait couler beaucoup d'encre ces derniers temps. J'ai écrit ce texte pour faire quelques commentaires à ce sujet. J'en profite également pour parler un peu de l'intelligence naturelle (IN) et de l'ignorance naturelle (IN). Et pourquoi ne pas parler aussi de l'ignorance artificielle (IA)?


Je pense qu'il est pertinent d'apporter quelques contributions au débat sur la base de mon expérience personnelle en tant qu'adulte sexagénaire, ayant fait ses études primaires et secondaires dans d'excellentes écoles publiques de Sorocaba, État de São Paulo, Brésil, avec un diplôme en génie électrique, une maîtrise et un doctorat dans ce domaine, ainsi qu'un post-doctorat développé dans une université française pendant un an. Je suis enseignant depuis 1976. J'ai travaillé comme enseignant dans l'enseignement primaire et secondaire. J'ai été professeur de génie électrique dans une université privée. Aujourd'hui, j'enseigne seulement dans le cadre de cours post-diplôme. Je travaille depuis 42 ans dans le domaine de la R&D (recherche et développement) des machines électriques et de leurs applications. Depuis ma première année à l'université, en 1976, j'utilise systématiquement les ordinateurs - et les méthodes de calcul - comme outils de travail. Dans ma vie personnelle et professionnelle, j'ai eu de nombreuses occasions de voyager au Brésil et à l'étranger, y compris deux fois où j'ai vécu en France (pendant mes séjours à l'université).


J'ai présenté ce résumé de ma vie pour illustrer l'idée que mes activités sont basées sur des études systématiques qui requièrent du dévouement et de la discipline pour leur réalisation, en plus d'aimer naturellement ce domaine de travail. Je crois qu'il n'est pas possible de travailler sur, par exemple, des moteurs à réluctance variable si je n'aime pas le sujet, si je ne me sens pas à l'aise pour travailler avec des calculs, des simulations informatiques, des tests de laboratoire, en lisant les auteurs les plus divers qui traitent du sujet, en plus d'écrire sur mes propres résultats. C'est la seule façon de travailler efficacement et de contribuer à l'état de l'art dans un domaine donné. Pas avec des contributions sporadiques et accidentelles.


Quoi qu'il en soit, dans mon cas, pour obtenir une connaissance raisonnable de n'importe quel sujet, il m'a fallu beaucoup de temps et de travail. Mes connaissances sont le résultat d'un travail systématique et d'un dévouement aux sujets qui m'intéressent. Si un certain sujet ne suscite pas mon intérêt, dans le meilleur des cas, les connaissances que je pourrai acquérir ne seront jamais que des égratignures à la surface d'un lac aux eaux calmes.


Je crois en la science, je base mon travail sur la science, l'ensemble des connaissances acquises par l'humanité et qui fournit les meilleures réponses que l'on puisse apporter aux innombrables questions de notre existence. Les scientifiques sur le terrain affirment que le cerveau humain est le résultat d'un processus évolutif. À la naissance, l'être humain a un organe à l'intérieur de sa tête qui devra être correctement stimulé et entraîné pour que l'individu puisse s'insérer dans le monde, dans la société. C'est ainsi que j'ai passé mes décennies d'existence. Je suis né, j'ai grandi et j'ai été élevé au milieu des livres, avec tous les stimuli et le goût de la lecture. L'ensemble des connaissances que j'ai acquises s'est construit, brique par brique, petit à petit, en temps voulu et complété par des activités culturelles, sportives et de loisirs, en comptant sur le confort de mon foyer et l'amour de ma famille.


La situation actuelle des enfants, des adolescents et des jeunes me semble totalement antagoniste avec les scénarios auxquels nous étions exposés il y a encore quelques décennies et dans lesquels le cerveau humain développait ses processus évolutifs. En bref, il y a quelques décennies, lorsqu'ils n'étaient pas à l'école, les enfants couraient dans les rues, criaient, jouaient, interagissaient intensément dans les jeux de plein air les plus divers, tombaient, se relevaient ou étaient ramassés par leurs compagnons, se blessaient, se salissaient et donnaient des coups de pied dans les torrents de pluie et aujourd'hui, ils sont confinés dans leurs chambres privées, isolés, seuls, piégés dans les écrans des téléphones portables, des tablettes, des ordinateurs et des télévisions et regardent passivement des scènes d'un monde inexistant, irréel.


La passivité est antagoniste de l'évolution. La passivité est synonyme de régression. Dans la mesure où les enfants, les adolescents et les jeunes sont maintenus dans ces conditions, confinés dans leurs chambres privés, l'échec éducatif sera certainement garanti, l'échec total dans la possibilité de développer toute forme d'intelligence naturelle (IN) sera certainement garanti, le maintien et l'approfondissement de l'ignorance naturelle (IN) seront assurés. Il n'y a pas d'échappatoire. Je pars du principe qu'un individu isolé dans ses quartiers ne trouvera probablement pas de raisons d'évoluer, ne trouvera pas les stimulations que nous recevons en vivant avec de vraies personnes, avec des personnes avec lesquelles nous avons ou développons certaines affinités. Je crois que l'être humain est un être social, qui dépend des interactions pour trouver son espace, pour trouver le sens même de son existence. Seule une posture active face à la vie, avec une utilisation intensive du cerveau, qui place l'individu face à des situations de défi (en d'autres termes, face à la vie elle-même), permet au cerveau de disposer des conditions nécessaires pour s'entraîner, s'utiliser, se développer et évoluer. Je pense que l'une des phrases attribuées à Albert Einstein nous aide à comprendre ce fait: "la vie est comme une bicyclette, pour garder l'équilibre, il faut continuer à pédaler".


Dans un article récemment publié, on apprend que les gouvernements de Taïwan et de Chine ont promulgué des lois interdisant l'accès aux médias numériques aux enfants de moins de 24 mois et limitant l'accès aux enfants et adolescents jusqu'à 18 ans. Un article de BBC News Brazil indique que pour le neuroscientifique Michel Desmurget, qui a publié un livre sur la façon dont les appareils numériques affectent gravement - et pour le pire - le développement neuronal des enfants et des jeunes, ces derniers sont désormais "abrutis par des divertissements stupides, privés de langage, incapables de réfléchir sur le monde, mais heureux de leur sort".


Dans une interview récente et très éclairante sur le sujet de l'IA, le professeur Miguel Nicolelis a cité quelques exemples des conséquences de l'utilisation intensive des médias numériques. Il a indiqué que les Finlandais envisagent d'abolir l'utilisation intensive des ordinateurs dans les processus éducatifs des élèves, car ils ont conclu que les médias numériques ont des effets délétères. Il a également mentionné une baisse systématique et constante des résultats des tests de QI des élèves américains, ainsi qu'une diminution significative de leur vocabulaire. Il a également indiqué que les chauffeurs de taxi londoniens plus âgés, qui ont toujours utilisé des cartes et des guides pour s'orienter, ont certaines fonctions cérébrales plus développées que les chauffeurs plus jeunes qui utilisent les applications disponibles sur les téléphones portables. Il a également raconté une conversation avec un ami suisse qui a fait remarquer que les étudiants d'aujourd'hui ne maîtrisent plus les outils que nous, les plus âgés, avons appris dans nos écoles, comme le calcul des racines carrées, l'utilisation de règles à calcul et d'autres méthodes.


Quoi qu'il en soit, il s'agit là de quelques exemples montrant que certains types d'effets sont provoqués dans notre cerveau par l'utilisation intensive des médias numériques.


J'ai vu des jeunes s'inquiéter de leur avenir, douter de leur capacité à trouver des places dans un marché du travail de plus en plus occupé par des machines et des systèmes informatiques. Je ne vais pas proposer ici des solutions comme celles que des groupes d'ouvriers anglais ont adoptées aux XVIIIe et XIXe siècles lorsqu'ils ont cassé les machines qui les remplaçaient dans leur travail. Je crois que, dans le contexte actuel, les jeunes qui développent leurs processus de formation devraient être encouragés à faire ce que nous faisons depuis des dizaines, des centaines ou des milliers d'années, c'est-à-dire étudier, travailler et affronter les différentes situations que la vie nous impose en utilisant intensivement notre cerveau, qui, de cette manière, nous permet de mieux assurer le succès de la survie et de l'évolution. Enfin, c'est l'attitude active et altière face à la vie qui assure le développement, le renforcement et la qualification de l'individu face aux innombrables défis qu'il devra relever tout au long de son existence.


Je ne pense pas qu'il y ait beaucoup de possibilités de prédire l'avenir, d'avoir une idée de ce que sera l'avenir, des technologies qui prévaudront ou s'imposeront à nos sociétés. Le fait est que chaque individu, en particulier ceux qui sont en cours de formation, devrait être fortement encouragé et stimulé à développer au maximum son cerveau. Notez, cher lecteur, l'intervalle de temps de plus en plus court entre le moment où une nouvelle découverte scientifique devient une sorte de produit disponible sur le marché, qui était d'environ 100 ans au début du 19e siècle, et quelques années aujourd'hui.


Bien sûr, il y a des connaissances scientifiques à l'horizon qui, si elles sont réellement dominées et rendues viables pour une utilisation à grande échelle, comme la fusion nucléaire, les supraconducteurs et l'informatique quantique, favoriseront de véritables révolutions dans les aspects les plus divers de notre vie en société. Nous ne savons pas quand ces connaissances, ou d'autres encore que nous n'entrevoyons même pas, seront dominées et disponibles.


Je ne veux pas entrer dans un débat scientifique sur l'IA, mais à notre connaissance, il n'existe pas encore de machine capable de poser des questions originales à partir de sa propre expérience cognitive et analytique. Après tout, quelqu'un a dit un jour que l'on peut juger de l'intelligence d'une personne par les questions qu'elle pose, et non par les réponses qu'elle donne. Quelqu'un connaît-il une machine qui a posé une question comme celles qu'Einstein s'est posées en développant ses travaux scientifiques et qui ont complètement changé notre compréhension de l'univers? Ou même, une question beaucoup plus simple que celles mentionnées?


Je pose ces questions de cette manière parce que j'ai vu des gens, même un peu effrayés, supposer que les réponses offertes par les machines dotées de ces technologies d'IA sont les références universelles de la vérité. Les choses ne se passent pas exactement ainsi, les machines "intelligentes" ne sont que des machines dotées d'une grande puissance de traitement qui utilisent des méthodes statistiques pour offrir les meilleures réponses possibles sur la base de la "connaissance" interne de leurs bases de données, de leur histoire stockée dans leurs systèmes de mémoire. Ce ne sont pas des machines qui "regardent" vers l'avenir, ce sont des machines qui fonctionnent uniquement sur la base du passé. Ce ne sont pas des machines capables d'apporter des réponses originales aux problèmes posés.


Un autre aspect à souligner est que les machines "intelligentes" fonctionnent sur la base de méthodes informatiques utilisant des algorithmes qui peuvent être traduits en procédures étape par étape, procédures créées par les individus qui les ont développées. Des individus humains, donc, avec toutes les vertus et tous les défauts humains. Imaginez que vous voyagiez à bord d'un avion dans une région soumise à de fortes turbulences et que quelque chose de grave et d'anormal se produise. En qui placeriez-vous le mieux vos espoirs de survie? Un pilote expérimenté aux commandes de l'avion ou un algorithme génétique développé par un professionnel qui n'est pas dans l'avion?



Pour ma part, je n'ai aucun doute, je parierais sur le pilote expérimenté. Prenons, par exemple, le cas du pion supplémentaire dans le jeu d'échecs. Le professionnel qui a développé le programme, pour une raison quelconque, a simplement oublié de mettre des instructions de programme interdisant strictement la création de pions ou de toute autre pièce supplémentaire pour se défendre contre l'éventualité d'une défaite. Je ne porte pas de jugement de valeur, je ne fais que souligner la faillibilité humaine, on ne peut pas penser à tout, on ne peut pas prévoir (et programmer) toutes les situations, surtout celles dont personne n'imagine l'existence et qui, si elles se présentent à nous, nécessitent d'avoir un pilote expérimenté aux commandes.


L'autre jour, j'ai demandé à un collègue, avec lequel je développe des projets d'application de machines à réluctance variable, de consulter ces portails d'IA disponibles sur internet sur ce sujet spécifique avec une question portant sur les niches de marchés possibles pour ce type d'équipement. Les réponses étaient une collection de non-sens, très éloignés de la réalité. Bien sûr, quelqu'un pourrait faire valoir qu'il s'agit d'un sujet très spécifique et que les programmes d'IA n'ont pas encore eu le temps d'évoluer pour présenter des réponses mieux fondées, plus conformes à la réalité. Bien sûr que si, car les programmes évoluent et apprennent avec les utilisateurs, avec les questions qui leur sont posées, et c'est un point important dans le débat sur le sujet de cet article.


L'utilisation intensive des outils d'intelligence artificielle disponibles peut conduire à une accommodation des utilisateurs dans la mesure où ils considèrent les résultats présentés comme corrects, irréprochables et adaptés à leurs besoins. Ainsi, un certain nombre d'utilisateurs peuvent simplement adopter une position passive face à leurs objets de travail ou d'étude et accepter tout ce qui vient comme réponses des systèmes d'intelligence artificielle, acceptant passivement sans effectuer aucune sorte d'analyse critique. Dans la mesure où l'utilisateur s'engage sur la voie d'une acceptation dénuée de sens critique, son propre cerveau finira par subir les conséquences de cet accommodement, il s'étiolera par un usage insuffisant, dans la mesure où il n'aura plus à jouer des rôles complexes et inédits.


Ce scénario se reflétera dans les questions posées par les utilisateurs qui sont complaisants et manquent de sens critique. Les questions des utilisateurs sont le reflet de leur capacité de travail, de leur compréhension du monde qui les entoure et aussi, dans le cas d'utilisateurs accommodants, elles auront un degré de complexité moindre, entraînant une simplification des façons d'aborder les problèmes, entraînant une simplification des questions présentées, entraînant par conséquent une simplification des approches des programmes d'IA, qui seront contaminés par la détérioration des connaissances des utilisateurs imaginée ici. Les programmes d'intelligence artificielle (IA) contaminés par des systèmes ou des conditions d'utilisation présentant de telles caractéristiques délétères seront affectés, et auront tendance à être des programmes qui développeront une ignorance artificielle (IA) pouvant conduire à une déchéance, voire à une faillite, non seulement des programmes mais aussi des êtres humains qui les utilisent. L'ignorance artificielle peut être observée, par exemple, dans les réponses obtenues à propos des moteurs à réluctance variable. En bref, c'est un peu comme prendre dans ses bras un noyé, condition dans laquelle tout le monde coule.


Les théories scientifiques existantes ne sont pas l'expression d'une vérité absolue et incontestable. Les théories scientifiques sont des théories cosmologiques, comme l'a dit le professeur Miguel Nicolelis, elles sont en quelque sorte des méthodes que le cerveau développe pour trouver des explications plausibles, des compréhensions raisonnables du monde (ou de l'univers) dans lequel il est inséré, afin de contribuer au succès de l'évolution et de la survie de l'individu. Regardez, par exemple, le monde décrit par la mécanique classique jusqu'à la fin du 19ème siècle et la véritable révolution provoquée par la théorie de la relativité d'Albert Einstein à partir du début du 20ème siècle.


Cela signifie que les théories scientifiques peuvent expliquer des "parties" de la vérité absolue, laissant d'énormes lacunes dans la compréhension du tout universel. La reconnaissance de ce fait apporte aux scientifiques la certitude des doutes, la certitude des énormes limites de la connaissance humaine. Ce fait doit être dûment pris en considération afin d'évaluer la précision avec laquelle un certain aspect de la vie peut être préalablement déterminé ou compris. Au-delà d'un certain point, il restera la certitude du doute, il restera la certitude des lacunes contenues dans la tentative de compréhension d'une situation donnée, ce qui conduira à une remise en cause des fondements scientifiques en cause. Ce questionnement finit par déboucher sur de nouvelles questions qui contribuent à l'évolution des théories elles-mêmes, de la précision qu'elles ont à prédire certains types de résultats ou encore à montrer de nouvelles voies qui conduisent à une amélioration de la connaissance cosmologique ou même à la création de théories complètement nouvelles.


Les erreurs commises par les êtres humains recèlent également un énorme potentiel de contribution à l'évolution des connaissances. Il faut être prêt à reconnaître les erreurs commises et avoir l'humilité de les admettre et de chercher à les corriger si nécessaire.


Tous ces aspects mentionnés ne peuvent être abordés que par des êtres humains, des êtres dotés d'une intelligence aiguë et d'un sens profond de la curiosité.


Pour conclure ce texte, il est clair qu'il est nécessaire de souligner et de reconnaître l'importance des machines et des systèmes informatiques dans le développement de l'homme, ses conditions de confort, de travail, de santé et même de longévité. Il est également clair qu'il est important de ne pas utiliser ces systèmes d'intelligence artificielle pour contrôler le lancement de missiles avec des têtes nucléaires, pour contrôler des systèmes qui peuvent lancer des produits chimiques nocifs dans l'environnement et d'autres systèmes similaires.


Sans aucun doute, les contributions des développements scientifiques et technologiques sont extrêmement pertinentes. Cependant, il est fondamental de souligner que l'action humaine est unique, indispensable et irremplaçable dans la construction et l'entretien de notre monde, qui est le reflet de ce que nous sommes en tant que société.


São Paulo, 15 de abril de 2023.




Note: traduit du portugais avec l'aide de www.DeepL.com/Translator (version gratuite).




10 visualizações

Comments


bottom of page