Le vulgarisateur EGO a récemment publié une vidéo intitulée Le problème existentiel de l’usine à trombones, explorant un concept bien connu dans le domaine de l’intelligence artificielle (IA) : le Paperclip Problem. Ce scénario hypothétique illustre les risques liés à une IA mal alignée sur les valeurs humaines (l’alignement vise à l’amélioration de la cohérence entre les intentions des créateurs et le résultat donné par l’outil). Bien que la vidéo soit pertinente et bien illustrée, elle présente deux limites majeures : l’absence de définition claire des notions d’IA et de super-intelligence. Cette omission, loin d’être anodine, reflète un enjeu fondamental du débat entre deux philosophies autour de l’IA : les doomers (qui recherchent une diminution des avancées en mettant en avant les risques sous-jacents à cette technologie) et les accélérationnistes (qui cherchent à accélérer l’évolution de l’IA pour permettre la découverte de solutions aux autres problématiques de notre monde).
Image générée par l’IA
Une généralisation excessive du concept d’IA
L’une des principales failles de l’argumentation réside dans la généralisation du terme « IA ». Il est souvent utilisé comme une entité unique, alors qu’il englobe en réalité un ensemble hétérogène de technologies aux fonctionnements et finalités très variés. Cette confusion mène à un biais cognitif bien documenté : le biais de représentativité. En d’autres termes, nous avons tendance à attribuer à l’ensemble du domaine de l’IA les capacités spécifiques de certaines de ses branches.
Les récentes avancées en IA concernent principalement les modèles de génération, notamment les Transformers (pour le texte) et les modèles de Diffusion (pour l’image, l’audio et la vidéo). L’impact du non-alignement de ces technologies est souvent très visible, comme en témoigne la controverse autour de Google Gemini et son supposé « wokisme ». Pourtant, ces modèles ne font que maximiser la reproduction d’un style humain en fonction des données et des instructions fournies.D’autres formes d’IA fonctionnent différemment, à l’image de Web Diplomacy AI, qui repose sur un réseau d’agents intelligents spécialisés. Dans ce cas, l’IA n’est pas une entité monolithique, mais un ensemble d’agents distincts, chacun avec ses propres forces et limites. Cette diversité dans les approches de l’IA démontre l’importance de préciser de quelle IA il est question avant d’en tirer des conclusions générales.
Les limites de l’hypothèse de la super-intelligence
Le second point problématique de la vidéo concerne l’absence de définition de la super-intelligence. Ce concept fait débat au sein des communautés spécialisées. Certains philosophes des technologies estiment que les sociétés humaines, en elles-mêmes, constituent déjà une forme de super-intelligence. L’exemple du crayon dans I, Pencil de Leonard Read illustre bien cette idée : aucun individu ne peut, seul, fabriquer un crayon, mais la société, grâce à son organisation collective, en est capable. Une autre définition possible de la super-intelligence repose sur la capacité à surpasser l’humain dans certaines tâches. Si tel est le critère retenu, alors nos machines actuelles, capables d’exécuter des calculs complexes en une fraction de seconde, sont déjà des super-intelligences.
Ces définitions posent toutefois un problème majeur : l’anthropomorphisation. Nous avons tendance à projeter des intentions humaines sur ces technologies, comme nous le faisons en percevant des visages dans des formes aléatoires (phénomène de paréidolie). Or, une IA ne ressent ni peur ni désir ; elle suit simplement un ensemble d’instructions définies par des humains.
L’analogie de l’usine à trombones illustre bien cette confusion. Dans ce scénario, l’IA est décrite comme maximisant la production de trombones au détriment de tout autre objectif. Pourtant, chaque choix effectué dans ce cadre l’est par des concepteurs humains, bien avant que l’IA ne soit mise en action. L’illusion d’un but intrinsèque à l’IA provient de notre tendance à lui attribuer une conscience et une finalité qui ne sont, en réalité, que des projections humaines.
Vers une approche raisonnée de l’IA
En biologie, un phénomène similaire existe avec la théorie de l’évolution. La sélection naturelle est souvent perçue comme un processus intentionnel favorisant les traits « bénéfiques », alors qu’il ne s’agit en réalité que d’un mécanisme statistique réduisant la prévalence des traits diminuant les chances de reproduction. Ainsi, nul besoin d’une finalité prédéterminée pour expliquer l’évolution du vivant.
De la même manière, l’IA évolue sous l’impulsion de ses concepteurs et des usages qu’ils lui attribuent. Plutôt que d’opposer doomers et accélérationnistes, il semble plus pertinent d’adopter une posture mesurée : apprécier l’innovation et ses promesses, tout en restant vigilants quant à ses impacts sociaux et environnementaux. Une approche raisonnée et durable de l’IA est essentielle pour éviter des dérives potentiellement dommageables.
Loin d’une vision alarmiste ou d’un optimisme aveugle, il est nécessaire de poser des définitions claires et de mener une réflexion approfondie sur les implications réelles de l’IA, afin d’en faire un levier de progrès au service de la société.
Si vous avez des questions sur votre projet IA, nous sommes là pour y répondre !
La maintenance et les développements applicatifs d’une entreprise du CAC 40 sont assurés par différents prestataires, sur plusieurs continents. Les contrats ont été signés par différentes entités, parfois pour des besoins identiques. Les services concernés sont basés sur différentes technologies dont certaines peu répandues (Documentum…). L’ensemble correspond à des ressources dédiées, avec un engagement de résultat faible. Certaines expertises sont difficiles à trouver sur le marché et à stabiliser. Le Client souhaite aussi réduire fortement ses coûts.
Solution
Notre intervention, entièrement en anglais, permet de définir des objectifs forts et partagés, puis de mettre en forme l’ensemble du « package RFP ». Notre accompagnement définit et structure la démarche et anime les intervenants sur 3 continents (Amérique du sud, Europe et Asie). Nous faisons monter les équipes en compétence sur les meilleures pratiques (pricing model de TMA, SLA, pénalités, delivery model, gouvernance). L’accompagnement se poursuit jusqu’à la contractualisation, la livraison des annexes du Contrat et le cadrage de la transition.
Bénéfices
Le client a pu constater :
Les bienfaits d’une approche volontariste pour son projet de transition, avec un accompagnement au changement très important, jusqu’aux métiers.
La rationalisation de la relation avec ses fournisseurs
Le bénéfice d’un modèle de service à la fois industriel, s’appuyant sur des centres d’experts, et adapté selon la complexité des solutions et la criticité métier (le « one size fits all » ne marche pas)
Un niveau d’engagement fort sur l’amélioration continue et la satisfaction utilisateurs
Une baisse des coûts globale supérieure à 30% (à iso périmètre)
Les autres success stories qui peuvent vous intéresser
21 octobre 2020
Pilotage & Performance Opérationnelle et Contractuelle
Un acteur public en phase de privatisation désire profiter d’une remise sur le marché des contrats d’infogérance du support informatique des utilisateurs du groupe et de ses filiales pour débuter un programme de transformation digitale des services et des usages.
La rationalisation des contrats, l’uniformisation de l’expérience utilisateur et la mise en commun des procédures et moyens à disposition est une voie non encore explorée, et devient le défi principal d’un plan de transformation qui se veut rassembleur et adapté à des besoins d’une approche de groupe.
Notre valeur
Notre première étape a été de rassembler les différentes IT équipes autour d’une même table et de définir ensemble la portée voulue de la transformation ; déterminer quels pourraient être les axes de convergence, les particularités à ne pas oublier ni mettre de côté et les exigences de tous.
En nous appuyant sur cette première étape, nous avons divisé le périmètre global attendu en plusieurs sujets propres, bien distincts, en cherchant à toucher les sujets propres aux collaborateurs et en gardant avant tout en ligne de mire une expérience utilisateur commune, peu importe que le collaborateur dépende du groupe, ou d’une de ses filiales.
Nous avons alors mené autant d’ateliers que de sujets découpés, en nous assurant à chaque fois de faire ressortir les approches propres à tout le monde, de signaler les particularités à respecter et en permettant aux différents responsables d’identifier de la manière la plus naturelle possible des axes de transformation commune.
Pour terminer, nous avons pu dessiner avec eux un premier plan de transformation groupe, permettant à tous les acteurs de se projeter ensemble et sachant quels éléments aller chercher en premier lieu dans l’appel d’offres en cours.
Bénéfice
Avec cette approche de co-construction, les acteurs des différentes directions IT ont pu ensemble travailler à créer un plan de transformation qui s’attaque à des problématiques communes, en respectant les besoins et spécificités propres à chacun.
Ces ateliers ont été l’occasion de tracer une nouvelle voie orientée vers la satisfaction de l’ensemble des utilisateurs, permettant de reléguer l’approche technique en second plan et de remettre les collaborateurs au centre de l’attention.
Le plan une fois dessiné, permet, d’un point de vue des moyens mis en œuvre, de préparer la transformation attendue en suivant trois mots d’ordre simples et clair :
Rassembler
Rationnaliser
Transformer
Les autres success stories qui peuvent vous intéresser
21 octobre 2020
Pilotage & Performance Opérationnelle et Contractuelle
Afin d’anticiper la fin de vie de Windows 7, un prestataire déjà en place chez notre client organise le déploiement de postes migrés sous Windows 10. Cependant, le modèle économique mis en place sur ce projet est inadapté au contexte client et entraîne de nombreux surcoûts. De plus, au fil des migrations, la qualité de service reportée n’est pas celle attendue et le planning convenu des déploiements n’est pas respecté. Ce manque de visibilité autour de ce projet engendre alors beaucoup d’insatisfaction côté métier.
Nous sommes intervenus auprès de la Direction des Projets IT en charge des projets de déploiement afin de les accompagner sur cette problématique et de trouver, avec eux, une solution adaptée.
Notre Valeur
Notre expérience sur ce type de prestation dans des environnements similaires et notre approche méthodologique nous a permis de :
Mettre en lumière les points faibles et failles du contrat en cours,
Redéfinir une stratégie de sourcing, d’achat et un modèle financier répondant mieux aux besoins de notre client tout en respectant les contraintes auxquelles il doit faire face,
Rédiger l’ensemble du dossier de consultation,
Piloter le cycle complet de consultation en accompagnant et impliquant l’équipe projet responsable des projets de déploiement,
Clarifier les besoins et contraintes client/prestataire via un processus de co-construction prévu à l’appel d’offres,
Accompagner notre client dans le choix du prestataire le plus adapté à son environnement,
Définir l’approche pour la transition et le pilotage du contrat.
Bénéfices
Cet accompagnement tout au long du cycle de consultation a permis à notre client de bénéficier d’un nouveau contrat de prestation aligné sur les standards du marché et de mettre également en place un nouveau modèle opérationnel de déploiement.
Ces éléments combinés permettent de sécuriser le pilotage de son prestataire et des services qui lui sont confiés, de respecter les contraintes fortes liées au contexte de notre client tout en assurant que ses besoins seront remplis. Le tout avec des tarifs inférieurs de 25% aux tarifs précédemment obtenus.
Les autres success stories qui peuvent vous intéresser
