Newsletter Tech Readers #81 : Edition spéciale ChatGPT, GPT-4 et les Large Language Models (LLMs)
Cher·e·s Tech Leaders,
Cette édition est un dossier complet dédié aux avancées récentes dans le domaine des IA génératives et des Large Language Models, ainsi qu'à leurs implications technologiques, commerciales, sociales et éthiques. Nous avons essayé d’éviter le sensationnalisme et de vous sélectionner des articles de fond, afin d’avoir une approche la plus rationnelle et pragmatique possible.
La newsletter contient plusieurs articles résumés sur les modèles de langage, notamment les fondations des modèles, l'histoire de ChatGPT et les modèles multimodaux. Certains articles portent sur les risques, les limites et les considérations éthiques liés à ces modèles, notamment la propriété des plates-formes d'IA, les travailleurs précaires des pays du Sud qui sous-traitent les tâches pour les modèles de langage, la désinformation dans le journalisme, l'impact sur l'économie et les inégalités.
Au sommaire, vous trouverez :
• Un état des lieux pour comprendre l'essentiel et saisir les enjeux
• Risques, limitations et autres considérations éthiques
• Applications et impact Tech / Business / Société
• Par où commencer ? Stratégies d'implémentation technique, POC et business models
Nous espérons que cette newsletter vous offrira une vision globale de l'IA, de ses implications et de son potentiel pour transformer notre monde.
Bonne lecture,
Aline Paponaud, Laurent Ach, Ludi Akué, Pierre Vannier… et ChatGPT
Un état des lieux pour comprendre l'essentiel et saisir les enjeux
On the Opportunities and Risks of Foundation Models
20 minutes, proposé par Laurent Ach
Si vous ne deviez lire qu’un seul article de cette newsletter, choisissez celui-là. Ce rapport écrit par le Center for Research on Foundation Models de Stanford University analyse les modèles récents de génération de langage et d’images et les usages et risques liés à leur utilisation en fonction des domaines d’application. Un article de leur blog présente par ailleurs un travail pour répertorier et relier tous les foundations models développés jusqu’à présent, avec une représentation sous forme de graphe interactif
ChatGPT is everywhere. Here’s where it came from
5 minutes, proposé par Laurent Ach
ChatGPT qui est apparu comme une innovation majeure de l’intelligence artificielle repose sur plusieurs avancées technologiques dans les réseaux de neurones artificiels et le deep learning depuis les années 80. Cet article fait référence à la publication scientifique Attention Is All You Need qui est à l’origine de l’architecture Transformers sur laquelle reposent les récents modèles de langage (Large Language Models).
What you need to know about multimodal language models
8 minutes, proposé par Laurent Ach
Explications sur la manière dont des modèles de langages peuvent inclure d’autres modalités que le texte comme les images, la vidéo, l’audio ou des interactions physiques pour leur permettre de produire des résultats mieux ancrés dans une réalité dont le langage ne rend pas compte de manière assez complète. PaLM-E est un exemple d’embodied multimodal language model qui relie des actions robotiques à des commandes en langage naturel.
Risques, limitations et autres considérations éthiques
Who Owns the Generative AI Platform?
16 minutes, proposé par Didier Girard
Belle initiative pour classer les types d’acteurs du domaine de l’IA et tenter d’identifier les possibles niches de revenu. L’affaire est complexe, des découvertes révolutionnaires qui ne rendent pas riche, la non-adhérence des modèles aux technologies sous-jacentes.. Bref, selon les données disponibles, il n'est pas certain que les IA génératives connaissent une dynamique où un seul gagnant rafle tout.
ChatGPT is about to revolutionize the economy. We need to decide what that looks like.
15 minutes, proposé par Pierre Vannier
Toujours plus d’inégalités alliées à une concentration des pouvoirs réservés aux Big Tech ; Est-ce vraiment cela que nous souhaitons comme effets de la révolution AI / GPT / LLM sur nos sociétés et nos économies ? Serons-nous spectateurs de cette potentielle “fin du travail” comme l’avait prédit Jérémy Rifkin ? Cette disruption globale sera-t-elle notre porte de sortie ou bien sonnera-t-elle le glas des civilisations humaines ?
Enquête : derrière l’IA, les travailleurs précaires des pays du Sud
12 minutes, proposé par Ludi Akué
Une enquête sur un échantillon d’une vingtaine d’entreprises parisiennes qui sous-traitent (principalement à Madagascar) les tâches chronophages mais cruciales pour le bon fonctionnement de leur IA. Des chercheurs cherchent à rendre ces travailleurs visibles pour améliorer leurs conditions de travail.
A fake news frenzy : why ChatGPT could be disastrous for truth in journalism
7 minutes, proposé par Laurent Ach
La journaliste Emily Bell s’inquiète de l’usage qui sera fait de ChatGPT pour produire du contenu sans l’engagement envers la vérité qu’on peut exiger des journalistes. Ce genre de modèles présente des risques de dérives comparables à celles qu’on a observées avec les réseaux sociaux et la désinformation dont ils ont été responsables avec les conséquences dramatiques que l’on connaît.
Applications et impacts tech / Business / Societé
Bill Gates on AI and the rapidly evolving future of computing
55 minutes, proposé par Ludi Akué
Quand Bill Gates nous dit que nous sommes en train de vivre une révolution, son avis mérite d’être considéré. Dans ce podcast, interviewé par l’actuel CTO de Microsoft, il dresse un portrait global de l’écosystème et partage sa vision d’une nouvelle ère, notamment lorsqu’on sera capable d’embarquer les modèles sur des devices.
10 Ways GPT-4 Is Impressive but Still Flawed
11 minutes, proposé par Laurent Ach
Une liste factuelle de types de questions auxquelles GPT-4 répond mieux que GPT-3.5 et de celles auxquelles il ne sait pas répondre ou répond avec des hallucinations.
Building the New Bing
7 minutes, proposé par Laurent Ach
Cet article présente Prometheus, la technologie développée par Microsoft pour intégrer GPT-3.5 dans Bing. Une fonctionnalité qui combine génération de langage et recherche d’informations sur le web, pour permettre dans une version actuellement en Beta de Bing de donner des réponses directes à des requêtes des utilisateurs, tout en référençant les sources d’information sur lesquelles elles reposent.
GitHub Copilot gets a new ChatGPT-like assistant to help developers write and fix code
5 minutes, proposé par Aline Paponaud
Etes-vous prêts à devenir CTO de vous-même avec une armée de ChatGPT qui travaillent pour vous dans l’IDE ? Cet article donne le vertige, ChatGPT intégré dans Github, ça parait tellement logique, mais ça veut dire une toute nouvelle façon de travailler… un chatbot dans son IDE, qui “semble” comprendre le code, peut décrire une PR, générer des tests, expliquer un bout de code, refactorer… IBM, Microsoft et Jetbrains en ont rêvé du temps d'Eclipse, VisualStudio, Idea, il y a 10 ans, GitHub le fait… ah mais c’est Microsoft. Chapeau, accrochez-vous.
Par où commencer ? Stratégies d'implémentation technique, POC et Business Model
Beyond the ChatGPT hype: Five recommendations for formulating and executing an AI-enabled product strategy
10 minutes, proposé par Ludi Akué
Et si on arrêtait une minute la hype pour réfléchir à comment explorer techniquement GPT et autres LLMs. Cet article de ThoughtWorks, que l’on ne présente plus, fait partie d’une série qui donne des guidelines pragmatiques pour commencer à développer des cas d’utilisation.
Top 70+ Generative AI Applications / Use Cases in 2023
33 minutes, proposé par Aline Paponaud
Cet article rassemble plus de 70 applications d'IA générative qui peuvent être utilisées de manière générale ou pour des usages spécifiques. De quoi vous donner des idées d’expérimentation. Si ce sont des nouvelles idées de business models qui vous intéressent, cette réponse de ChatGPT est pour vous.
Implementing an event-driven serverless story generation application with ChatGPT and DALL-E
6 minutes, proposé par Guillaume Postaire
Un tuto très complet qui combine de belles fonctionnalités serverless et text-to-speech Amazon, l’event-driven development et les IA génératives. Rien de mieux pour se mettre le pied à l’étrier sur toutes ces technologies et faire connaissance avec les API d’OpenAI. A vous de jouer !
Actualités Tech.Rocks
Comment héberger et faire communiquer nos logiciels médicaux entre eux ?
Meetup virtuel - le 06.04 proposé par Tech.Rocks
Hébergement de données de santé (HDS) : état des lieux et les bonnes pratiques pour se lancer. Comment faire en sorte que nos différents logiciels médicaux communiquent entre eux ? Retour D'expérience de Julie Dumons pour Resilience et Stanislas Girard pour Padok, échanges animés par Jean-Marc Charles pour Hokla.
Green IT : en vrai, maintenant !
Meetup présentiel - le 13.04 proposé par Tech.Rocks
Le numérique fait désormais partie intégrante de notre quotidien. Son empreinte carbone, déjà très importante, ne cesse de croitre. Elle augmenterait de 6% tous les ans et cette augmentation serait plus rapide que la plupart des autres secteurs économiques. Des retours d'exépriences et apprentissages concrets par Bertrand Martin pour Sentry Software et Benoit Petit pour Hubbo, échanges animés par Ludi Akué pour Lunii.
Lancement du job board Tech.Rocks
Un accès aux offres d'emploi destinées aux tech leaders !
Ce vendredi, Tech.Rocks lance son job board ! Nous diffuserons des offres uniquement destinées aux tech leaders et les relaierons auprès de la communauté régulièrement, au travers du canal Slack “career-techleader-opportunities”. À l’occasion du lancement, nous vous offrons 30 jours pour diffuser vos offres sur le job board Tech.Rocks Pour nous partager votre offre, C'est par ici !
