les intelligences artificielles

Les intelligences artificielles, ce sont selon le dictionnaire Larousse l'"ensemble de théories et de techniques mises en œuvre en vue de réaliser des machines capables de simuler l'intelligence humaine". Les intelligences artificielles sont-elles dangereuses ? Doit-on continuer à en produire de plus en plus puissantes ? Sauront-elles un jour développer leur propre créativité ? Auront-elles un jour leur propre conscience ? Comment réorganiser le monde du travail avec des robots et des humains ? Doit-on en avoir peur ?
Dépasseront-elles un jour l'Homme ? Nous envahiront-elles ?

Pour l'instant on est trèèèèès loin de tout ça.

Déjà première question : en quoi peuvent-elles être dangeureuses ?

Deuxième question : ça veut dire quoi "nous dépasser" ?

Troisième question : Qu'entends-tu par IA "puissante" ?

Et pour la conscience.... J'en doute fort. Je veux pas entrer dans un débat théologique, mais les IA ne font que suivre un protocole et ne sont pas réellement douées de reflexion, elles raisonnent juste à base de "si.. alors..." , on est loin d'avoir des émotions.

Et enfin, là je veux entrer dans un débat : est-ce mal ?
Je veux dire, imaginons que les IA soient utilisées partout, de la vie quotidienne jusque dans les hautes sphères de l'état, que ce soit les IA qui décident des meilleures lois, les IA qui font la stratégie en guerre etc... Que l'on soit vraiment dépendant des IA...
Est-ce un problème pour autant ?

ok mon grand, questions très importantes également. tu vas pouvoir t'attendre à une réponse longue haha

OK mes zamis donc je vais vous donner mon avis sur les intelligences artificielles. Ou en clair, pourquoi on devrait s’en inquiéter selon moi (comme ça ça vous donne déjà des indices sur ma position.) Avant tout, j’aimerais préciser qu’il s’agit de ma réponse personnelle, c’est l’idée que je me suis faite du sujet après avoir recouru à, eh bien mon expérience personnelle tout d’abord, mais aussi à des articles de la presse, des vidéos de vulgarisation scientifique (je vous mettrai tous les liens en bas ou dans un autre message), des livres que j’ai lus (pareil, les refs en bas ou au moment où j’en parlerai), des vieux souvenirs d’un cours de philo que j’avais eu en terminale en fin d’année (d’ailleurs le prof nous avait imprimé un graphique très intéressant qui montrait les estimations des évolutions possibles des intelligences artificielles en fonction du temps mais je n’ai pas réussi à le retrouver sur Internet. On apprenait par exemple que dans un futur très proche (20, 50 ans ? Je sais plus exactement) des intelligences artificielles pourraient créer leurs propres musiques avec un haut potentiel commercial évidemment lol, ou d’opérer des patients en chirurgie sans direction de l’Homme… enfin bref plein de choses dont je reparlerai) et de discussions que j’ai pu avoir avec des potes.    

(Le côté historique de tout ça est également très intéressant, on apprend plein de choses, mais c’est pas trop la question… néanmoins je vous invite à vous renseigner haha)

(J’espère aussi que la longueur de ma réponse ne va pas vous décourager et que vous aussi allez quand même essayer de répondre !)
                                                                                                 

Tout d’abord, que sont les intelligences artificielles ?    
(Et pourquoi « les » ?)
Dans l’encyclopédie Larousse, on trouve cette définition : « Ensemble de théories et de techniques mises en œuvre en vue de réaliser des machines capables de simuler l'intelligence humaine. » Il y a de nombreuses technologies qui fonctionnent parfois sur des principes assez différents les uns des autres qui cherchent donc à reproduire des schémas de l’intelligence humaine, ou naturelle en quelque sorte, que l’on retrouve chez nous les humains ((:, ce qui explique pourquoi on parle d’elles au pluriel.

Est-ce qu’un jour elles sauront parfaitement imiter l’intelligence humaine, à un tel point que même un Homme ne saura pas distinguer une machine créée par un de ses semblables, d’un autre de ses semblables ?    
On verra ça plus tard (suspense hahaha...)                  
                                                                                   
Aujourd’hui, on ne s’en rend pas forcément compte, mais les intelligences artificielles (que l’on appellera IA dans la suite pour simplifier les choses) sont déjà partout dans nos vies, surtout dans notre culture.
Elles sont présentes dans tous les domaines : médecine, astrophysique, informatique… N’oublions pas que de base, elles ont été créées pour nous apporter de l’aide ! Ainsi, nous avons pu grâce à elles faire de nombreux progrès encore plus rapidement dans des domaines très variés, et leur application en médecine permet notamment de sauver des vies !
Certes, elles présentent d’autres nombreux avantages, comme le fait qu’elles peuvent réaliser des tâches dangereuses ou impossibles à l’être humain, mais sont-ce vraiment des avantages ? A part le fait de nous faciliter à faire la cuisine et à nettoyer nos habitations, est-ce que, dans notre quotidien à nous, qui ne sommes pas (encore) des scientifiques, elles nous sont vraiment utiles ? Si on continue comme ça, ne va-t-on pas vers un remplacement des humains par les machines ? (on voit ça plus tard aussi mdr)
Bon en fait on ne s’en rend pas forcément compte, mais on vit déjà avec.

De plus en plus de personnes ont des téléphones portables sophistiqués avec Google dont on ne peut pas se passer (et dont il est très dur de se débarrasser en fait), et je pense que vous avez déjà tous fait l’expérience de parler d’une chose que vous aimeriez, et de retrouver des publicités de cette chose ensuite sur d’autres appareils. Une fois, j’étais chez un pote et il me montrait des vidéos trop nulles sur youtube où c’était genre un vieux qui parlait de l’Afrique du Sud, une vidéo toute pétée qui avait 16 vues, qu’on pourrait penser totalement en dehors des algorithmes du géant, mais en fait, quand je suis rentrée chez moi, j’avais des propositions de cette vidéo dans mon fil youtube… Ce qui fait qu’on est en permanence surveillés, même si notre micro est éteint, même si la localisation est désactivée…
Donc a priori, elles ne sont pas dangereuses, ton tel ne va pas manger ton cerveau cette nuit. Il ne faut pas non plus s’imaginer ce qu’on peut voir dans les films de science-fiction, on sait se contrôler et on les utilise à bon escient. (mmmh non on se fait utiliser par elles pour les grandes entreprises capitalistes rr)

Quoique… j’ai l’impression que l’être humain cherche lui-même à se faire peur. Déjà, pourquoi on veut absolument faire des intelligences artificielles qui nous ressemblent physiquement ? Je parle souvent de Lil Miquela et de ses collègues sur insta : ce sont des IA qui ont absolument tout d’une personne lambda, elles sont même à fond dans les normes de la société, font de la publicité, appartiennent à des partis politiques, Lil Miquela fait des sons écoutés par des milliers de personnes… Et elles nous ressemblaient tellement que pendant deux ans, personne n’a vraiment su si c’étaient des vraies personnes ou non. A l’époque il y avait des youtubeurs qui l’appelaient et qui diffusaient leurs appels en vidéo pour montrer à leurs abonnés que c’était trop chelou… Et maintenant que le verdict est tombé, cela semble normal, c’est accepté, c’est entré dans les mœurs. Vu que le projet a plutôt bien marché, maintenant il y a carrément des sociétés qui veulent créer leur propre robot humanoïde, donc on en voit apparaître de plus en plus… La société capitaliste…

Le test ultime c'est le test de Turing, donc daphnir m'avait parlé : ce test permet d'évaluer l'efficacité d'une IA à imiter une conversation humaine. Un humain parle avec une machine et un autre humain doit deviner qui est l'Homme, "qui" est la machine.

Bref, j’avais en tête un autre problème. En termes de statistiques, on se rend compte  que les machines sont beaucoup plus efficaces que les humains et surtout, commettent moins d’erreurs. C’est aussi pour ça qu’on veut les développer. Mais imaginons  qu’une IA soit en train de faire une greffe de cœur à un patient et qu’elle se trompe… Alors est-ce que c’est de sa faute ? Ou de celle de l’ingénieur ? Doit-on la blâmer, peut-on la condamner ? Y aura-t-il, dans un futur peut-être plus proche qu’on ne le croît, un tribunal pour les IA ?                                    
Ça nous paraît un peu absurde comme ça et on n’y croit pas trop, mais en fait ces questions débouchent sur une autre question plus large : les IA sauront-elles développer  une conscience ? Des goûts, une créativité ? Effectivement, si on considère qu’on peut blâmer une IA, cela signifie qu’on lui donne une importance et qu’on l’élève au rang d’une personne normale, au final, d’un humain qui se comporte en société, d’un humain qui peut faire des erreurs (l’erreur est humaine comme on dit!)… Et quand même, une des caractéristiques de l’être humain et ce qui le différencie des animaux, c’est le fait que nous bénéficions d’une conscience réfléchie (qu’on appelle aussi (enfin peut-être que ce sont des choses différentes ? Je ne suis pas spécialiste, je ne sais pas) conscience phénoménale, conscience autoréfléxive ou métacognition), c’est-à-dire que nous sommes conscients et le savons. Nous sommes conscients d’être conscients. A la différence des animaux, qui ont des formes de consciences différentes des nôtres… Certains animaux, comme les corbeaux ou les dauphins, se reconnaissent par exemple dans des miroirs, d’autres pas, du coup il y aurait plusieurs niveaux de « conscience » et le plus élevé correspondrait au nôtre. Mais les animaux ne sont pas des machines, alors je ne sais pas si une comparaison entre notre notion de conscience et la faculté qu’auraient les machines d’apprendre de manière autonome serait envisageable. Cependant…

Revenons à la définition d’une IA. Son but est d’imiter l’intelligence humaine.  Pour rappel, « artificiel » signifie « produit par le travail de l'homme et non par la nature ». L’intelligence humaine est donc produite par la nature, et l’artificielle par l’homme. L’homme cherche donc à imiter la nature. Comment procède-t-il ?
Il y a eu beaucoup d’études sur les comportements humains, les interactions sociales, la neurologie, tout ce qui concerne le cerveau humain… Donc si on étudie tout ça pour tenter de reproduire une « conscience » (puisque la tendance actuelle semble chercher à reproduire une intelligence humaine, cela voudrait aussi dire donner une conscience aux machines?), est-ce que cela résulte du fait que notre conscience réside dans notre cerveau ? Et en fait, est-ce que ce qu’on appelle la conscience, n’est pas, au final, notre cerveau ?
Oui, vous le voyez venir, il y a un autre problème là-dessous et je cherche la meilleure manière de le soulever en douceur.

Dans les cours de biologie animale que j’ai à la fac, on nous a parlé un peu de la mémoire. On nous apprend qu’il s’agit de l’amélioration de l’efficacité de la transmission de synapses (ce sont les connexions entre les neurones) existantes, ou bien de réarrangements de connexions synaptiques, de façon à stocker des informations de façon plus ou moins durable. Ouioui, cela veut donc bien dire que la mémoire, tous nos souvenirs, sont matériels et qu’ils se situent dans notre cerveau. Ça peut paraître assez déroutant, parce que la plupart des gens ont l’intuition qu’il existe une sorte d’entité extérieure à notre corps qui abrite toutes nos pensées, qu’on appelle l’esprit ou l’âme (autre rappel, âme vient de anima en latin qui signifie « être animé », donc vivant, il y a quelque chose qui anime un corps et c’est ce qui fait la différence entre un caillou et un ver de terre). Je ne dis pas directement que la mémoire, notre esprit et notre conscience sont liés mais en fait, par ce que je viens d’expliquer, on comprend que l’exemple de la mémoire est une preuve que le monde est uniquement matériel (il n’y aurait pas d’esprits, tout est dans notre cerveau (?)), et si tout est matériel, la conscience l’est aussi. Bon là on est un peu partis dans un cours de philo, pour plus de précisions sur ce qu’est exactement la conscience je vous renvoie à vos cours lol (pour celles et ceux qui n’ont pas encore eu cette chance, je pense qu’il y a des vidéos sur Internet qui l’expliquent très bien). C’est ce qu’on appelle le matérialisme ou le physicalisme . Le monde n’est que particules entrant en interaction les unes avec les autres, ce qui fait augmenter son désordre.

Perso je suis pas trop d’accord avec ça, j’ai plutôt tendance à penser de manière non rationnelle qu’il existe bien autre chose que le monde matériel. Je posterai peut-être un autre message pour expliquer pourquoi je pense ça, mais je ne le fais pas là sinon ça va être beaucoup trop long (comme si ça l’était pas déjà…)

La communauté philosophique actuelle penche beaucoup en faveur de la théorie du physicalisme, et plus particulièrement du physicalisme fonctionnaliste (vous pourrez ressortir ça au prochain repas de famille en visio). (je balance des infos pour que vous alliez faire vos recherches aussi)

Bref, en somme, si le monde n’est seulement que de la matière, ça devrait faciliter les choses pour créer des formes d’intelligences non naturelles. (Autre chose me vient à l’esprit : est-ce qu’on peut dire que les IA sont vivantes ? D’après ce que j’ai dit précédemment, on doit être sûrs qu’elles ont une âme pour dire qu’elles sont animées sont vivantes…) Mais hahaha je n’ai toujours pas répondu à ma sous-question qui était : si les IA n’ont pas encore de conscience, en auront-elles un jour avec tous les progrès technologiques au milieu desquels nous vivons ?
                                                                                           
On va se pencher un peu plus sur comment les IA fonctionnent et pourquoi on peut ainsi leur donner le titre d’ « intelligence ».
Voici un extrait du livre de Mickaël Launay qui raconte comme l’IA baptisée AlphaGo va battre le champion du monde du jeu de Go, Lee Sedol : « Jamais encore un ordinateur n’a battu un humain de ce niveau. Le go est réputé pour être l’un des jeux les plus difficiles à apprendre à une machine. Sa stratégie demande aux joueurs une importante dose d’intuition et de créativité. Or, si les machines sont très fortes en calcul, il est bien plus difficile de trouver des algorithmes simulant des comportements instinctifs. D’autres jeux célèbres, comme les échecs, sont bien plus calculatoires. C’est la raison pour laquelle l’ordinateur Deep Blue était parvenu à battre le champion russe d’échecs Gary Kasparov dès 1997 […] Sur d’autres jeux comme les dames, les ordinateurs sont même parvenus à mettre au point une stratégie imbattable. Plus aucun humain ne peut espérer battre un ordinateurs aux dames. » Après ce passage, il raconte comment AlphaGo a joué un coup qui avait étonné tout le monde, mais qui s’était avéré déterminant dans sa victoire. Ce coup étonnant est-il donc créatif ? « Comment un ordinateur, qui pourtant ne fait que suivre un algorithme écrit par des humains peut-il faire preuve de créativité ? La réponse à cette question se trouve dans de nouveaux types d’algorithmes d’apprentissage.[…] [Les programmeurs] lui ont appris à apprendre à jouer ! » AlphaGo s’est donc entraîné à jouer contre lui-même et est devenu autonome. Mine de rien, ça reste quand même très mathématique. Sa stratégie : « ne pas réfléchir de manière systématique, mais peser les futurs possibles selon leurs probabilités. » C’est ouf ! On appelle ça l’apprentissage automatique ou le « machine learning ».
Je me demande encore quelque chose. Les IA ont forcément un algorithme de base, créé par un ingénieur. Elles vont donc se baser sur cet algorithme pour continuer à apprendre. Ce que je me demande, c’est : est-ce que cet algorithme ne va pas donner une direction à l’expérience d’une IA ? Et est-ce qu’elle ne pourrait pas développer une subjectivité à partir de cet algorithme ? (jsp si vous avez compris, mais j’aimerais tellement qu’un chercheur puisse me répondre)

Le problème, c’est que dans notre société on cherche toujours le profit. Alors ok, AlphaGo c’est amusant, mais ça suffit un peu les jeux, il y en a qui ont décidé de passer la vitesse supérieure. Les drones pour la reconnaissance faciale, ça existe déjà. L’année dernière pendant un discours de Merkel il y a failli avoir un attentat juste avec un drone… Et il y a beaucoup d’attaques de ce type en Arabie Saoudite par exemple. Les armes deviennent autonomes. On peut tuer à distance sans se lever de son canapé.
En 2018, l'Institut supérieur coréen des sciences et technologie (KAIST) et le fabricant d’armes Hanwha Systems ont voulu développer ces armes à l’échelle nationale, ils ont même créé des centres de recherche dédiés à ça mais il y a eu un appel au boycott et ça n’a pas (encore) été réalisé. (le titre de l’article comprend l’expression « robot tueur », ça ça fait flipper quand même) On sait tous que les États se courent après, à qui aura l’arme atomique en premier, qui aura tel avion avec telles performances… A mon avis il doit déjà y avoir des recherches en cours à ce propos, financées par des organisations pas très sympathiques, voire peut-être des États, mais on ne le sait pas, c’est pas médiatisé. (Juste comme ça, la France est le troisième pays producteur et exportateur d’armes dans le monde, et on vend encore des armes dans des pays où on sait très bien qu’elles seront utilisées contre les lois et les droits des Hommes……..)

Donc voilà on a déjà plein d’IA super puissantes capables de nous battre à des jeux (AlphaGo, Deep Blue), de devenir nos potes (Lil Miquela, Bermuda et ses potes), de faire de la musique, de peindre des tableaux, mais qui aussi peuvent permettre notre surveillance pour revendre nos données personnelles (puis nous tuer en ayant juste vu une photo de nous, pourquoi pas ouais), puis prédire ou deviner des choses sur nous qu’on ne soupçonnait même pas...

Le problème avec la surveillance c’est notre liberté. Comme dans certaines villes en Chine là, où les gens sont constamment surveillés et avec des points, donc soit ils se comportent comme des « citoyens exemplaires », ce que veut l’État, soit ils se cachent, vivent dans l’obscurité juste parce qu’ils n’ont pas traversé au passage piéton, ou payé leur loyer à temps. Et dans ce cas c’est comme s’ils ne faisaient plus partie de la société, avec leurs points en moins, on les prive encore plus de liberté, etc etc c’est un cercle vicieux. On est des humains et on le restera toujours, on n’a pas besoin d’être enfermés pour vivre, ‘fin c’est contre notre nature quoi.

Mais on ne peut pas tout contrôler et il va falloir s’adapter aux nouvelles technologies que l’on va créer (parce qu’évidemment on ne va pas s’arrêter, il y a des enjeux politiques, économiques, même sociaux…) Comme je l’ai déjà dit au début, les IA vont faciliter le travail des Hommes, et en même temps le rendre beaucoup moins accessible. On l’a déjà vu, les IA pourront tout faire, elles pourront nous remplacer même dans la chirurgie et la recherche, donc à terme, il n’y aura plus de travail pour nous les humains. Bien sûr ça va prendre du temps, mais on va d’abord voir disparaître tous les métiers pénibles, qui demandent de la main d’œuvre, puis je sais pas moi les caissiers caissières, les chauffeurs chauffeuses de camion, les profs... (d’ailleurs petit aparté : durant le confinement des profs se sont un peu rebellés et n’ont pas voulu faire de visioconférences etc parce qu’ils estimaient que déjà, ils n’avaient pas été formés pour donc ils n’avaient pas à le faire, mais surtout que si c’était efficace, il leur serait demandé de travailler plus que de cette manière, ce qui permettrait par exemple au prof d’avoir 500 élèves en face de lui au lieu de 30… pas besoin de salle de classe, pas besoin d’autant de profs…) et les IA vont certes générer de nouveaux métiers, mais sur le long terme on peut s'attendre à un remplacement assez important. Il ne restera que des métiers à haute responsabilité ou essentiels au maintien de notre société.
Donc dans les décennies à venir, je pense qu’on va assister à une véritable métamorphose du monde du travail, et qu’on devrait déjà commencer à prévoir comment empêcher un trop fort taux de chômage et tout ce qui va avec, pour pouvoir vivre en harmonie avec elles. Jusque là nous les avons créées donc nous étions bénéfiques pour elles, mais maintenant elles sont capables de se former toutes seules...
Quand les IA se seront assez améliorées toutes seules, elles occuperont tous les postes, elles se rendront compte qu’en fait, les humains sont totalement inutiles et leur sont même nocifs ? Quand elles pourront se passer de nous pour « vivre », qu’est-ce qu’elles feront de nous, puisqu’elles auront déjà accès à tous les pouvoirs ? De manière très rationnelle, elles chercheront sans doute à nous éliminer. C’est ce qu’on appelle la singularité technologique, dont Stephen Hawking avait très peur. Et je trouve également que ça suffit à faire flipper.
                                                                                                                                               
Petit bilan : on doit déjà s’inquiéter pour notre futur proche avec toute la surveillance, a publicité qui est faite autour, mais surtout à cause de la place trop importante qu’elles vont prendre dans notre société. On n’est évidemment pas prêts, notre système économique non plus. Les robots pourraient dépasser la population humaine en nombre d’individus d’ici 2048, selon le futurologue Ian Pearson. « Les chercheurs de OpenAI, la firme de recherche sur l’IA créée par Elon Musk, Peter Thiel et Sam Altman, ont découvert que l’un de leurs réseaux de neurones était parvenu à apprendre seul à analyser les sentiments, sans être entraîné à le faire. » selon un article d’artificiel.net. Je pense qu’on peut appeler ça une forme de conscience, même si on  a tous l’impression que la conscience est réservée aux humains… Ça nous imite à la perfection parce que jusque là on est leur modèle, mais quand elles vont faire des trucs de ouf méga ingénieux comme le fameux coup 37 de AlphaGo durant son match avec Lee Sedol….. on ne va même pas comprendre ce qui va se passer, on va vite se faire dominer. Quant à la manière dont on va se faire éliminer de la planète quand les IA en auront marre de nous… honnêtement j’ai du mal à me projeter et je veux pas trop imaginer. Peut-être qu’elles seront reconnaissantes envers quelques humains ?
Yez bon bah je vais m’arrêter au bout d’un moment hein

(non) Je viens encore de penser à un truc. Si en fait, le monde est divisé en deux entités qui sont l’esprit et la matière, on est d’accord pour dire que nous, humains, auront l’esprit en plus que les IA ne pourront pas avoir (puisqu’elles sont uniquement faites de  matière et que l’esprit et la matière sont indépendants… sauf si elles trouvent le truc qui relie notre corps à notre esprit… mmh encore un truc sur lequel beaucoup réfléchir) donc elles ne seront qu’une somme de particules, et non un tout… donc elles ne seraient ni vivantes ni conscientes… ce délire de matérialisme me pose beaucoup de problèmes. Vous en pensez quoi ?                                                                                                
                                                                                 
                                                                                                                                                               



J’ai pas vraiment rédigé ça dans les règles de l’art de la dissertation mais bon, on peut dire que c’est un écrit argumenté et je serai ravie de recevoir des réactions ((: (ça m’a pris un peu de temps quand même mdr) Mon développement est un peu long mais si j’ai écrit tout ça c’est parce que je pense que c’est important pour comprendre où je veux en venir (( :
Dézolée si c’est un peu brouillon, j’ai mis des couleurs j’espère que ça aide

Vu que je pose quand même beaucoup de questions j’ai hâte de voir vos avis, et je vais aussi répondre de manière simple et concise à [Vous devez être inscrit et connecté pour voir ce lien] hahaha mais dans le prochain message sinon pcq j’ai peur de faire des bugs et que mon message s’efface. d'abord faut que je vous mette des liens d'articles aussi.

Ce n'est qu'une ébauche de ce que je pense en ce moment, mais je vais essayer de me renseigner un peu plus.




             yolo petit test

Daphnir a écrit:Pour l'instant on est trèèèèès loin de tout ça.

Déjà première question : en quoi peuvent-elles être dangeureuses ?

Deuxième question : ça veut dire quoi "nous dépasser" ?

Troisième question : Qu'entends-tu par IA "puissante" ?

Et pour la conscience.... J'en doute fort. Je veux pas entrer dans un débat théologique, mais les IA ne font que suivre un protocole et ne sont pas réellement douées de reflexion, elles raisonnent juste à base de "si.. alors..." , on est loin d'avoir des émotions.

Et enfin, là je veux entrer dans un débat : est-ce mal ?
Je veux dire, imaginons que les IA soient utilisées partout, de la vie quotidienne jusque dans les hautes sphères de l'état, que ce soit les IA qui décident des meilleures lois, les IA qui font la stratégie en guerre etc... Que l'on soit vraiment dépendant des IA...
Est-ce un problème pour autant ?

ok maintenant il est temps de répondre à tes questions hahaha
En quoi peuvent-elles être dangereuses ? Elles sont dangereuses pour notre liberté car nous sommes sans cesse surveillés (reconnaissance faciale, Google, Alexa...), elles sont dangereuses quand des personnes mal intentionnées (terroristes) en sont en possession et ont le pouvoir d'agir (drones tueurs), elles sont dangereuses car elles menacent la suppression de nombreux emplois, elles vont accentuer des inégalités entre "les riches" et "les pauvres" et sur le long terme, elles sont dangereuses pour notre espèce.
Ça veut dire quoi "nous dépasser" ? Quand je dis "nous dépasser", je pense par là qu'elles vont devenir plus intelligentes que nous et le sont déjà : l'exemple d'AlphaGo, qui est certes spécialisée mais que plus personne ne peut espérer battre. Elles sauront faire beaucoup de choses dont nous ne sommes pas capables, et sont plus fortes que nous dans beaucoup de domaines. Plus rapides, ne font pas d'erreurs, plus efficaces, plus rentables...
Qu'entends-tu par IA "puissante" ? Puissante, qui est capable de nous dépasser et qui est beaucoup plus efficace que nous, qui va à terme exercer une certaine autorité sur nous et qui va avoir une grande influence sur l'humanité.
Est-ce mal ? Ce n'est pas fondamentalement mal, il y a énormément d'avantages, je pense notamment à la médecine. Dans le présent, on n'est pas dans un équilibre parfait avec les IA mais elles nous sont bénéfiques, on ne peut pas le nier. Cependant, si on regarde vers le futur avec les indices qu'on a d'aujourd'hui, on se rend compte que se dirige (pas de manière volontaire) vers quelque chose qui est assez mauvais pour nous... déjà avec la surveillance (donc c'est mal quand les personnes qui s'en servent le font mal) mais aussi avec la singularité technologique de Stephen Hawking...
Si elles régissent notre monde, nous n'avons plus de liberté. Peut-être que ça nous rendrait plus heureux, mais on ne peut pas vivre dans un monde enfermé, comme ça, en sachant dès notre naissance comment on va vivre... La dépendance n'est pas une bonne chose, surtout si elles deviennent assez puissantes pour se débarrasser de nous.

liens d'articles à lire :
[Vous devez être inscrit et connecté pour voir ce lien]

j'ai l'impression de n'avoir répondu à aucune de mes questions du coup je vais encore lire des trucs et je vais essayer de regarder des reportages (mais j'ai déjà trop de reportages à regarder   )

ohlala je me posais beaucoup de questions, j'avais oublié que j'avais déjà creusé pas mal ce sujet mdr
bref pour dire qu'en ce moment on en reparle surtout au niveau du design, des arts graphiques etc. ; les ia sont en train de faire le travail des humains qui se font licencier donc y'a genre des pétitions contre les ia et tout

après [Vous devez être inscrit et connecté pour voir ce lien] j'ai des potes artistes qui se servent des ia pour leur création et qui auront peut-être un autre pdv sur le sujet si ça t'intéresse

Ebi-chan a écrit:après [Vous devez être inscrit et connecté pour voir ce lien] j'ai des potes artistes qui se servent des ia pour leur création et qui auront peut-être un autre pdv sur le sujet si ça t'intéresse

je veux bien ! mon avis a un peu changé depuis la dernière fois que j'ai écrit mais plus pour d'autres raisons haha
il faut que je me renseigne aussi sur la différence entre un "simple" algorithme et une intelligence artificielle, à partir de quel moment l'algorithme est suffisamment puissant/autonome/que sais-je pour pouvoir être qualifié d'ia

A vrai dire je n'ai pas trop grande idée sur le domaine, je ne m'y étais jamais trop intéressée avant d'assister à une conférence dernièrement où ils ont abordé le sujet de l'influence de l'AI sur la médecine.. Ils ont mentionné qu'aux USA, ca s'est super développé au point où les radiologues par exemple seront bientôt complètement remplacés et n'auront aucun rôle important dans les prochaines décennies.. On note aussi qu'au Japon et Chine les robots occupent plusieurs postes de travail, et c'est ça ce qui est à craindre à mon avis ! La population grandit de jour en jour, et plusieurs personnes auront besoin d'occuper certains postes.
Néanmoins, on va pas cacher le fait que ça a beaucoup d'avantages aussi ! Et je rejoins [Vous devez être inscrit et connecté pour voir ce lien] sur son avis, je trouve pas que ça peut être dangereux vu c'est programmé, ils ne réfléchissent pas, donc ca ne peut pas présenter un danger.

Esther a écrit:A vrai dire je n'ai pas trop grande idée sur le domaine, je ne m'y étais jamais trop intéressée avant d'assister à une conférence dernièrement où ils ont abordé le sujet de l'influence de l'AI sur la médecine.. Ils ont mentionné qu'aux USA, ca s'est super développé au point où les radiologues par exemple seront bientôt complètement remplacés et n'auront aucun rôle important dans les prochaines décennies.. On note aussi qu'au Japon et Chine les robots occupent plusieurs postes de travail, et c'est ça ce qui est à craindre à mon avis ! La population grandit de jour en jour, et plusieurs personnes auront besoin d'occuper certains postes.
Néanmoins, on va pas cacher le fait que ça a beaucoup d'avantages aussi ! Et je rejoins [Vous devez être inscrit et connecté pour voir ce lien] sur son avis, je trouve pas que ça peut être dangereux vu c'est programmé, ils ne réfléchissent pas, donc ca ne peut pas présenter un danger.

si les robots nous remplacent et font notre travail, pq on veut nous faire travailler plus et plus longtemps (réf à la réforme des retraites)
pour la médecine aussi l'argument c'est toujours ça permet de sauver des vies etc. donc il faut foncer, sauf qu'en médecine tout est hyper contrôlé, on pèse toujours le pour et le contre avant de se lancer
sauf qu'on fait pas du tout ça dans les autres domaines qui utilisent des IA
donc évidemment il y a des avantages mais c'est rien comparé à tous les inconvénients que ça engendre. (on peut toujours trouver des avantages, même aux pires trucs !)
vouloir continuer à créer toujours plus, plus, plus, toujours plus d'ia et de technologies en général c'est penser qu'on peut utiliser les ressources de la terre de manière infinie, c'est continuer à rendre désirable ce qui détruit la planète et le vivant, c'est continuer à formater le monde dans lequel on vit, formater nos désirs, c'est continuer à créer des pubs ciblées pour conforter nos addictions, c'est plus de surveillance (bientôt la reconnaissance faciale dans les caméras de la grande ville où j'habite), c'est... pas ouf en général je trouve
(comme je le disais y'a qq années les ia peuvent aussi apprendre à apprendre donc mh pas sûre que ça restera toujours inoffensif de toutes façons. puis on fait toujours plus de "progrès" en temps de guerre, quand on cherche une nouvelle arme par exemple, etc. y'a pas longtemps j'ai entendu parler d'un test, je me demande si c'était pas un prototype de chatgpt ou quoi, qui en fait au bout de quelques heures de mise en service recrachait déjà des trucs nazis etc.)
bref est-ce que c'est un monde souhaitable