Documentation suite à l'atelier sur l'intelligence artificielle
Petite sélection de liens internet au sujet de l'IA.
INTELLIGENCE ARTIFICIELLE
Mars 2024
INTELLIGENCE ARTIFICIELLE
Mars 2024
L’IA est un sujet extrêmement complexe, en mouvement très rapide et continu depuis quelques années (même s’il ne date pas d’hier - que ce soit à travers la fiction ou la science réelle). C’est un objet de fantasmes réels ou non.
Il est donc difficile d’en parler tellement les informations, évolutions et avis sont variés et nombreux… et sujet à péremption rapide !
Cette présentation générale composée de nombreux liens Internet a servi de support à deux ateliers numériques début 2024. Elle n’est en aucun cas exhaustive.
Présentation
https://fr.wikipedia.org/wiki/Intelligence_artificielle
Intelligence artificielle forte :
"Le concept d'intelligence artificielle forte fait référence à une machine capable non seulement de produire un comportement intelligent, notamment de modéliser des idées abstraites, mais aussi d'éprouver une impression d'une réelle conscience, de « vrais sentiments » (notion dont la définition n'est pas universelle), et « une compréhension de ses propres raisonnements ».
Même si une intelligence artificielle forte n'était guère possible, une IA peut être de plus en plus perçue comme forte par une majorité d'individus parallèlement à l'arrivée des IA génératives, dont les LLM (de l'anglais large language model) comme ChatGPT ou Google Bard [Note : renommé « Gemini » depuis], et les outils de génération d'images comme Midjourney, DALL-E ou Stable Diffusion. En effet, le champ d'applications de ces outils est beaucoup large qu'auparavant : création, synthèse, traduction de textes, composition d'images, de vidéos à partir de prompts, textes descriptifs. Il devient ainsi de plus en plus difficile pour un être humain de distinguer des créations humaines de celles provenant d'une IA générative."
[ Wikipédia ]
https://www.cobbai.com/blog/intelligence-artificielle-definition
Les IAs génératives, qu’est-ce que c’est ?
https://fr.wikipedia.org/wiki/Intelligence_artificielle_g%C3%A9n%C3%A9rative
L'intelligence artificielle générative ou IA générative (IAg ou GenAI) est un type de système d'intelligence artificielle (IA) capable de générer du texte, des images ou d'autres médias en réponse à des invites (ou prompts en anglais)
Ce sont des intelligences statistiques et analytiques. Elles ne créent pas vraiment, elles simulent mais ne ressentent pas, et elles n’ont aucun esprit critique.
Quelques IAs génératives parmi les plus connues, pour du texte et de l’image :
| ChatGPT Chat Generative Pre-trained Transformer |
Générateur de texte | Répondre à des questions. Tenir des conversations. Générer du code informatique, écrire, traduire, synthétiser des textes Il peut le faire en tenant compte du contexte, et de contraintes tel que le style d'écriture. Création de petits jeux ludiques mais limités. Données pas toujours fiables, nécessité de souvent vérifier derrière lui. Respect du NSFW (pas de contenu adulte). |
OpenAi Entreprise américaine centrée sur les recherches IA |
Linux, IOS, Windows Android |
https://chat.openai.com/ |
| DALL E |
Générateur d'image |
Générer des images à partir d’une description en langage naturel. Apporter facilement des modifications réalistes et ciblées aux images. Créer différentes variations d’une image, en s’inspirant d'un original. |
OpenAi Entreprise américaine centrée sur les recherches IA |
Microsoft Bing | https://www.bing.com/images/create/une-jeune-sorcic3a8re-qui-habite-dans-le-ciel2c-elle-o/1-65bcb420e0cd4096ad022e1dcc16c129?FORM=GENCRE |
| Midjourney | Générateur d'image | Créer des illustrations à partir d’un texte descriptif - Réaliste/Normal/Anime/Animation 3D | Laboratoire Midjourney | Discord, Windows Android et iOS (niji journey) |
https://www.midjourneyai.ai/fr/app?prompt=Une%20goutte%20d%27eau |
| Stable Diffusion |
Générateur d'image |
Générer des images numériques photoréalistes | Stability AI | Navigateur | https://stablediffusionweb.com/fr/app/image-generator |
Il en existe évidemment bien d’autres, pour ces domaines ou d’autres (traduction, son et musique, voix, vidéo, etc.). On peut par exemple citer SORA de OpenAi (les mêmes que chatGPT) pour la génération de vidéos :
Débats de société, partis pris, etc., des émissions en parlent
Sujet brûlant soulevant des myriades de questions, de partisans et d’anti… Beaucoup de discussions, débats et disputes plus ou moins fortes sur Internet, où tout le monde à son avis. Pourtant nombreux sont ceux qui ne savent pas réellement tout ce que cette technologie implique (et comment elle fonctionne) ...
Arte – l'IA, une révolution numérique ?
https://www.youtube.com/watch?v=663YRhkVqgw&list=WL&index=28&t=2s&ab_channel=28minutes-ARTE
Jeu vidéo et IA : petit retour au début sur le développement de l’IA avant la vague actuelle
https://www.youtube.com/watch?v=pIV6eBNPXzM&ab_channel=Silence%2Conjoue%21
Thinkerview – IA : notre futur assistant ou nouveau maître ? Avec Justine Cassel ou Cédric Villani
https://www.youtube.com/watch?v=GeYs3k5Y-Rg&ab_channel=Thinkerview
Sur Tout Apprendre (gratuit pour les inscrits des médiathèques), deux documentaires à voir, qui parlent des données de masse et des algorithmes, composants fonctionnels majeurs de développement de l’IA :
- Algorithmes, vers un monde manipulé
- Bienvenue à Dataland
Enjeux
Enjeux technologiques, économiques, étatiques, etc.
Comme tout science qui se développe, il y a concurrence (entreprises, états…) pour être le 1er et ainsi avoir l’avantage/la supériorité (économique, militaire…), etc.
Les investissements sont colossaux – exemple pour Google :
Enjeux sociaux (et sociétaux/politiques) :
Destruction d'emplois (logique de l'automatisation poussée à outrance, même dans les domaines créatifs, habituellement purement humains).
Ex : L’entreprise Dreamworks, celles de Jeu vidéo qui ne le disent pas et tout un tas d’autres actuellement ou prochainement.
L’IA implique potentiellement des bouleversements majeurs à venir comme durant l’ère de l’automatisation industrielle (Fordisme, Taylorisme…) au début du XXème siècle, avec la destruction de nombreux métiers.
A travers l’Histoire, les nouvelles technologies sacrifient des métiers et en développent d’autres, les gens sont contraints de s’adapter. Pourtant, dans le cas de l’IA, énormément de métiers pourraient être touchés et c’est là peut-être une première.
Certains pensent que seules certaines tâches seront prises en main par les IAs (certaines parties d’un métier donc) plutôt que tout le métier en lui-même, ce qui, pour eux, permettraient de gagner du temps en se concentrant sur les tâches les plus importantes ou « humaines ».
Les artistes, forts touchés par l’apparition des IAs génératives comme Midjourney, contre attaquent légalement sur leurs droits (cf. droits d’auteurs bafoués ci-dessous) et des universités créent des protections sur les images pour qu'elles ne soient pas utilisables par les robots (cf. Protéger et empoisonner ses créations visuelles dans ce document)...
Ces grands changements nous mèneront-ils vers un avenir meilleur ou au contraire, cela ira-t-il de mal en pis ? Beaucoup d’inconnues – on aura peut-être la réponse dans 10- 20 -30 ans…
En attendant, la période de transition pourrait être extrêmement difficile : si vous êtes touchés ou l’un de vos proches l’est, comment réagiriez-vous ?
Comment présentement gérer ces changements forts (voire violents) afin d’éviter la précarisation des personnes innombrables qui perdront leur emploi ? Quelles réponses politiques ou de sociétés à l’échelle mondiale pour accompagner cette transition, alors que tout ne va pas pour le mieux dans le monde de façon globale (économies, enrichissement et castes, guerres, dictatures, enjeux climatiques, etc.)
Enjeux philosophiques :
Qu’est ce qui fait l’être humain ?
IA = Déshumanisation ? Déposséder l'humain de sens ?
Perte de l'envie et du besoin de créer ? Si une machine peut le faire à sa place en quelques minutes ou secondes, pourquoi apprendre une discipline, créer soi-même des images, des histoires, quelles que soient leur forme ? Combien auront encore la motivation de se lancer dans certaines disciplines ?
Si tout ce que peut faire l'être humain est remplaçable par une IA, y compris sa faculté d'imaginer et de créer, ce qui donne sens à la vie de beaucoup de gens et probablement par extension à la société en général, à quoi sert cet humain ? Ce qui ne sert plus et n'a plus de sens ne finit-il pas inexorablement par s'éteindre ?
Et cela sera sans compter l'appauvrissement créatif possible des IA. Car sans artiste humain et donc sans humanité nouvelle (l’humain se renouvelle en permanence) à copier/plagier, ne risquent-elles alors pas de tourner en boucle, se phagocytant elles-mêmes ?
Problèmes éthiques :
- Faire de l’argent en licenciant à tout va (le profit avant tout, peu importe les hommes).
- Droits d’auteur bafoués illégalement : les robots IA se nourrissent de contenus disponibles sur Internet sous droits d’auteur, sans demander l’autorisation. Certaines productions artistiques d’IA sont des plagiats clairs d’œuvres protégées. Dans le cadre d’une image, on peut aussi demander à une IA de recopier le style de l’artiste voulu pour produire une nouvelle image... ce que ne peut faire l’IA qu’en ayant absorbé la production dudit l’artiste, généralement sans consentement...
De façon plus globale, l’IA collecte et utilise des tonnes de données (textes, images, informations, vidéos…) pour fonctionner, données qui peuvent être personnelles (si vous avez accepté certaines conditions d’utilisation de services numériques sans tout bien lire par exemple…).
HugginChat, une IA textuelle (chatbot) française opensource qui ne récupère pas vos données personnelles ? https://www.lesnumeriques.com/intelligence-artificielle/hugginchat-un-chatgpt-performant-gratuit-libre-et-qui-ne-veut-pas-de-vos-donnees-personnelles-n218346.html
- Nombreuses personnes qui n’ont pas conscience et/ou connaissance des implications de cette technologie. Ils l’utilisent sans vraiment savoir ce qu’il y a derrière et les conséquences qu’elle peut avoir.
- Fake news à outrance… le contenu d’Internet laisse peu à peu la place à un monde « fake » d’informations douteuses (cf. par exemple sur les réseaux sociaux les contenus sponsorisés type « il l’a fait de ses propres mains… » en montrant des œuvres artisanales quasi impossibles à réaliser réellement, ou bien les avant/après perte de poids qui sont des photos de personnes créées par AI…) ou de fausses validations (faux like ou commentaires de faux comptes créés par des bots, etc.). plus bas « Le bon et le mauvais en vrac ».
https://nypost.com/2023/04/05/how-frightening-new-ai-midjourney-creates-realistic-fake-art/
https://www.gearrice.com/update/these-images-of-adorable-wooden-sculptures-are-actually-ai-creations-designed-to-mislead/
https://www.youtube.com/watch?app=desktop&v=RZBFIYtAKOA&ab_channel=ClintRoseCarving
- IA – le bon et le mauvais, en vrac :
C’est amusant : création d’images irréalistes, étranges ou de photos de célébrités mis dans des situations improbables – comme avec le Pape par exemple. Détournements politiques… Si cela peut parfois faire rêver ou rigoler, est-ce vraiment nécessaire étant donné que l’humain le faisait déjà auparavant ? Le gros avantage est que l’IA le fait à la carte, quand on le veut et comme on le veut – enfin plus ou moins (« je veux un chat qui danse sur le toit d’un building new yorkais sous la pluie avec un incendie au loin, dans un style art déco»).
Gestion des tâches pénibles (plutôt que créatives). Mais qu’en est-il des emplois concernés liés à ces tâches ? (cf. enjeux sociaux ci-dessus)
Certaines sciences « positives » en profitent, utiles sur des domaines cruciaux : santé, climat, qualité de vie, recherche scientifique… Les IA, dans certains domaines, permettent de résoudre des problèmes ou de trouver des solutions plus rapidement que l’humain.
Exemple : Médecine prédictive, personnalisée (meilleurs diagnostics), de précision (assistance des médecins pour détecter des maladies ou problèmes)
Mais comme toute technologie, elles peuvent être utilisées à des fins malveillantes ou dangereuses (activités criminelles, militaires, surveillance de masse, etc.). Voir aussi les biais d’IA, plus loin.
Noie les textes, informations, images humaines, pensées et créées longuement, dans un océan de contenus IA (sur le site de créations visuelles Deviant Art par exemple). Cela en devient presque étouffant. Il y avait déjà beaucoup de bruit (énormément d’informations et de contenus non pertinents) sur Internet, c’est encore pire maintenant. Ces contenus sont souvent faux – cf. Problèmes éthiques ci-dessus – ou de qualité discutable. Comment alors trouver de l’humain et du qualitatif dans tout cela ?
Les enfants et la facilité d’user des IA plutôt que d’apprendre soi-même : si toute leur production est générée par IA, quelles compétences acquièrent-ils ? Savoir utiliser une IA ? D’autres le sauront aussi. Adaptation du corps enseignant à ces changements.
Biais d’IA dangereux (militaires, choix compliqués ou immoraux…)
Discrimination, racisme, sexisme et autres, selon les données que l’IA a ingurgitées et le renforcement dont elle a profité (les IA sont souvent basées sur les statistiques : si biais il y a, biais elles apprendront)
https://www.cobbai.com/blog/intelligence-artificielle-racisme-misogynie-fascisme
Etant donné que les IA ne pensent pas mais se basent sur des modèles statistiques qu’elles reproduisent bêtement, elles sont complètement dépourvues d’esprit critique et de bon sens dès que la situation se révèle un peu complexe – un jugement humain est souvent nécessaire, pour renforcer ses modèles statistiques (le biais reste donc possible).
Enfin elles sont sujettes à erreur (si les sources dans lesquelles elles piochent sont erronées).
Test : Afin de développer l’IA d’une nouvelle voiture autonome, vous êtes chargé de définir sa moralité. Que feriez-vous si…
https://www.moralmachine.net/hl/fr
Ne pas/plus comprendre le comportement de l’IA et ses décisions
Problème de compréhension de la logique des IA statistiques/d’apprentissage automatique (même chose que les algorithmes de recommandation). Celles-ci risquent donc de prendre des décisions dangereuses, à risque ou autres.
Des difficultés mais des nécessités de contrôler autant que possible code, données, algorithmes et de comprendre comment ils fonctionnent (aussi valables pour les IA) :
https://framablog.org/2023/05/15/ouvrir-le-code-des-algorithmes-oui-mais-1-2/
https://framablog.org/2023/05/22/ouvrir-le-code-des-algorithmes-oui-mais-2-2/
Scénarios catastrophe dus à l’IA : https://fr.wikipedia.org/wiki/Risque_de_catastrophe_plan%C3%A9taire_li%C3%A9_%C3%A0_l%27intelligence_artificielle_g%C3%A9n%C3%A9rale
Coût écologique très élevé + baisse de qualité avec le temps ?
Le coût financier (et écologique) d’entretien et d’utilisation des serveurs est d’autant plus énorme qu’ils sont utilisés par un nombre croissant d’individus… ce qui peut aussi dégrader le service et l’ « intelligence » de l’IA (cf. lien vidéo ci-dessous). L’apprentissage par renforcement peut aussi être défaillant ou tourner en boucle sur les mêmes données (qui s’auto alimentent), etc.
https://www.youtube.com/watch?v=rAG5YtBsBTw&list=WL&index=47&ab_channel=Underscore_
https://www.radiofrance.fr/franceculture/podcasts/le-journal-de-l-eco/le-cout-environnemental-de-l-ia-est-colossal-et-sous-evalue-3781962
La France, l’Europe, les services publics…
https://www.economie.gouv.fr/strategie-nationale-intelligence-artificielle
https://digital-strategy.ec.europa.eu/fr/policies/european-approach-artificial-intelligence
L’IA Act, première législation au monde réalisée fin 2023/début 2024 par l’Europe :
https://digital-strategy.ec.europa.eu/fr/policies/european-approach-artificial-intelligence
De façon plus générale, se posera à un moment la question de comment les établissements publics intègrent l’IA dans leur métier, mais aussi la façon dont l’Etat et tous les services publics répondront aux enjeux cités précédemment ou encore aux problèmes éthiques soulevés.
La médiation numérique autour des IA (comme en médiathèque par exemple) en est un exemple que nous pouvons déjà évoquer car diverses interrogations surgissent déjà sur le « comment en parler ? » :
Présenter les IA ? Former à leur sujet ? S’amuser avec ? Les critiquer ?
Les avis divergent selon les médiathécaires et le sujet est si jeune, déjà si vaste et, à raison, si sensible qu’il est impossible d’en saisir encore toutes les implications et d’en posséder toutes les clés…
Faut-il donner les moyens d’utiliser une technologie qui n’est pas éthique ou questionne beaucoup ?
Ou simplement interroger et voir ?
Des artistes en lutte, d’autres qui s’en emparent – et au fond la question de ce qu’est l’Art :
Levée de bouclier de nombreux artistes qui craignent pour leur emploi, à raison (cf. plus haut), ou encore le pillage illégal de leurs œuvres par les robots IA.
Les défenseurs de l’IA comparent ça, entre autres, à l’arrivée de la photographie où une levée de bouclier des artistes similaire avait eu lieu à l’époque, sans que ça n’ait eu de conséquences au final. D’autres disent que ce n’est qu’un outil comme l’a été Photoshop en son temps, ce qui est extrêmement discutable (et sujet à mauvaise foi).
Questionnement en fond de ce qu’est l’Art, la production artistique, etc.
François Baranger : https://www.numerama.com/tech/1221908-les-ia-generent-des-images-mais-pas-de-lart.html
Des écoles d’art qui essaient de suivre, ne pas être débordées par la technologie, et font ainsi des choix, discutables ou non :
https://www.gobelins.fr/actualites/IA-generative-et-creation-artistique
https://www.gobelins.fr/actualites/lintelligence-artificielle-enseignements-GOBELINS
Quelques guides pratiques pour « gérer » l’IA :
Détecter l'usage d'IAs d’images :
A l’œil nu ?
Des mains et doigts anormaux, des détails qui clochent, des rendus étranges par endroits, etc.
Repérer des structures ou des effets qui font un peu forcés dans le cadre d’une photo (qui pourraient induire une retouche trop peu subtile pour être réaliste).
S’habituer au rendu sériel de ces images – on parvient à sentir que c’est de l’IA à force, sans entrer dans les détails, ou du moins a-t-on un doute.
Mais… dans quelle mesure ces détails resteront-ils encore perceptibles tandis que la technologie continuera son avancée ?
Le doute doit se faire en permanence désormais, et mieux vaut se fier aux sources sûres et officielles (qui peuvent pourtant, elles aussi, être victimes de l’IA ou être détournées pour de la propagande idéologique…)
Outil de détection d’une image IA (qui peut quand même se tromper, parfois) :
https://hivemoderation.com/ai-generated-content-detection
Meta (Facebook, Instagram…) va prévenir l’usage d’IA autant que possible ?
Détecter du texte écrit par IA : https://www.zerogpt.com/
Hivemoderation le fait aussi : https://hivemoderation.com/ai-generated-content-detection
Protéger et Empoisonner ses créations visuelles : Glaze (outil « défensif ») et Nightshade (outil « offensif ») sont développés par des chercheurs de l’université de Chicago. Si appliquer les deux aux images que l’on crée est conseillé, la base reste Glaze. Nightshade peut en effet altérer quelque peu, pour le spectateur, les images qui l’utilisent.
Comme les antivirus, ces outils sont amenés à évoluer et être constamment mis à jour pour lutter contre l’évolution des IA.
https://glaze.cs.uchicago.edu/webglaze.html (sur invitation uniquement, pour les artistes d’images)
https://nightshade.cs.uchicago.edu/downloads.html
Conclusion :
Inévitable ?
Un modèle de société qui risque de changer énormément mais à quel prix ? (social et donc humain…)
Et l’Art dans tout ça ? Redéfinition ? Quelles vocations pour demain ?
Bon courage pour les temps à venir…
Écrit par Charlotte Lecolle