Un café géré par l’IA fait des bourdes : la réalité rattrape le fantasme
À Stockholm, un café a confié ses décisions d’embauche, ses entretiens et sa gestion quotidienne à une intelligence artificielle. Le résultat ? Des bourdes à répétition qui font la une de la presse. Et honnêtement, c’est exactement ce que j’attendais.
Ce n’est pas un cas isolé d’IA qui dérape. C’est le symptôme d’une tendance beaucoup plus large : l’idée que l’IA peut fonctionner en « pilote automatique », prendre des décisions complexes sans supervision humaine, et remplacer le jugement dans des contextes où la nuance compte. Spoiler : ça ne marche pas. Et ça ne marchera probablement jamais comme on l’imagine.
Pourquoi cette expérience était vouée à l’échec
Gérer un café, c’est gérer de l’humain. Recruter quelqu’un, c’est évaluer des compétences techniques, certes, mais aussi une personnalité, une capacité d’adaptation, une motivation réelle. C’est lire entre les lignes d’un CV. C’est détecter l’inconfort dans une réponse. C’est poser la question de suivi qui va révéler si le candidat bluffe ou pas.
Les modèles IA actuels — même les meilleurs comme Claude 3.7 Sonnet ou GPT-4 — sont excellents pour traiter de l’information structurée. Ils peuvent analyser des centaines de CV, extraire des compétences, identifier des patterns. Mais ils ne comprennent pas ce qu’ils lisent. Ils ne ressentent pas l’humain derrière les mots.
Quand je travaille avec Claude au quotidien, je constate cette limite constamment. Claude peut m’aider à rédiger une offre d’emploi percutante, à générer une grille d’évaluation, à synthétiser des retours d’entretiens. Mais il ne peut pas décider à ma place si cette personne va s’intégrer dans l’équipe. Il ne peut pas évaluer si son enthousiasme est authentique ou simulé.
Et surtout : il ne peut pas assumer la responsabilité de cette décision.
Les trois problèmes fatals de l’IA autonome en contexte humain
1. L’absence de contexte situationnel
Une IA ne sait pas qu’aujourd’hui, trois employés sont en arrêt maladie et que vous avez désespérément besoin de quelqu’un qui peut commencer demain, même s’il n’a que 70% des compétences requises. Elle ne sait pas que le dernier candidat embauché s’est avéré catastrophique et que cette fois, vous privilégiez la fiabilité sur la créativité.
Les décisions humaines sont contextuelles. L’IA traite des données.
2. L’incapacité à gérer l’ambiguïté
Dans un entretien, un candidat dit : « J’ai quitté mon dernier emploi pour des raisons personnelles. » C’est ambigu. Ça peut vouloir dire burnout, conflit avec le management, problème familial, envie de changement… Un recruteur humain va creuser avec délicatesse. Une IA va soit ignorer l’information, soit l’interpréter littéralement, soit appliquer une règle générique inadaptée.
Quand je demande à Claude d’analyser des feedbacks clients pour mon SaaS, il me donne d’excellentes synthèses. Mais parfois, il classe un commentaire comme « positif » alors qu’il contient clairement du sarcasme. L’ironie, le sous-entendu, le non-dit : l’IA ne les capte pas vraiment.
3. L’absence de responsabilité morale
Qui est responsable quand l’IA refuse un excellent candidat parce qu’il a un trou dans son CV ? Quand elle embauche quelqu’un qui se révèle être un harceleur ? Quand elle discrimine involontairement sur la base de biais présents dans ses données d’entraînement ?
L’IA ne peut pas être tenue responsable. Et tant qu’on ne peut pas la tenir responsable, on ne devrait pas lui confier de décisions qui affectent la vie des gens.
Ce que cette histoire révèle sur l’utilisation intelligente de l’IA
Là où je vois une opportunité, c’est dans l’IA assistante, pas autonome.
Voici comment j’utiliserais Claude dans un processus de recrutement pour un café (ou n’importe quelle entreprise) :
Avant l’entretien :
Voici le CV d'un candidat pour un poste de barista.
Analyse son parcours et génère 5 questions spécifiques
pour valider ses compétences relationnelles et sa capacité
à gérer le stress pendant les coups de feu du matin.Claude va me sortir des questions pertinentes, adaptées au profil. Ça me fait gagner 20 minutes. Mais c’est moi qui décide de les poser ou non, de les reformuler, d’en ajouter selon le feeling de l’entretien.
Pendant l’entretien :
Je prends des notes rapides. Après l’entretien, je demande à Claude :
Voici mes notes d'entretien :
[notes]
Structure-les en grille d'évaluation selon nos critères :
compétences techniques, soft skills, motivation, fit culturel.
Identifie les points à clarifier lors du 2e entretien.Claude organise l’information, repère les incohérences, me signale ce que j’ai oublié de creuser. Mais c’est moi qui prends la décision finale.
Après plusieurs entretiens :
Voici mes notes sur 5 candidats.
Fais une analyse comparative selon nos critères.
Présente les forces et faiblesses de chacun.Claude me donne une vue d’ensemble objective. Mais c’est moi qui choisis, en intégrant le contexte, mon intuition, les besoins immédiats de l’équipe.
L’erreur fondamentale : confondre « IA avancée » et « IA autonome »
Le problème, c’est que les entreprises confondent ces deux concepts.
Oui, Claude est incroyablement avancé. Oui, il peut traiter des tâches complexes. Oui, il peut raisonner, analyser, synthétiser. Mais avancé ne veut pas dire autonome.
Un pilote de ligne est hyper qualifié. Son avion dispose d’un pilote automatique sophistiqué. Mais il reste dans le cockpit. Il surveille. Il intervient quand nécessaire. Il prend les décisions critiques.
L’IA, c’est pareil. Elle doit rester l’outil de l’humain, pas son remplacement.
Les secteurs où cette confusion fait des ravages
Le recrutement n’est pas le seul domaine où cette erreur se répète :
Service client : Des chatbots qui répondent à côté, frustrent les clients, et dégradent l’expérience au lieu de l’améliorer. Alors qu’un chatbot bien conçu devrait qualifier la demande et router vers l’humain compétent, pas essayer de tout résoudre seul.
Santé : Des IA qui donnent des conseils médicaux approximatifs. Une étude récente montre que 50% des conseils santé donnés par les chatbots IA sont trompeurs. Pourquoi ? Parce qu’on leur demande de diagnostiquer au lieu de documenter pour préparer la consultation avec le médecin.
Finance : Des algorithmes de crédit qui refusent des prêts sans explication, reproduisant et amplifiant des biais discriminatoires. Alors qu’ils devraient évaluer le risque et expliquer les facteurs pour qu’un humain décide.
Ce qui marche vraiment : l’IA comme co-pilote
Dans ma pratique quotidienne avec Claude, voici ce qui fonctionne :
- Préparation : Claude prépare, structure, organise. Je décide.
- Analyse : Claude traite de gros volumes d’informations. Je valide et interprète.
- Génération : Claude produit des premières versions. Je révise, j’adapte, je personnalise.
- Révision : Claude détecte des erreurs, des incohérences. Je juge de leur importance.
Ce modèle de collaboration homme-IA est bien plus puissant que n’importe quelle tentative d’autonomie complète.
La vraie question : pourquoi on veut tant que l’IA soit autonome ?
Je pense que c’est un fantasme de réduction des coûts mal compris. On se dit : « Si l’IA fait tout, je n’ai plus besoin d’employer quelqu’un. » Sauf que ça ne marche pas comme ça.
L’IA ne remplace pas l’humain. Elle augmente l’humain. Un recruteur avec Claude peut traiter 3 fois plus de candidatures avec la même qualité. Mais il reste indispensable.
Les entreprises qui réussissent avec l’IA ne sont pas celles qui virent tout le monde et mettent des bots à la place. Ce sont celles qui forment leurs équipes à utiliser l’IA pour être plus efficaces, plus rapides, plus pertinentes.
Le café de Stockholm n’est pas un échec technique, c’est un échec stratégique
Le problème n’est pas que l’IA n’était pas assez bonne. Le problème, c’est qu’on lui a confié une mission pour laquelle elle n’est pas conçue.
C’est comme utiliser un marteau pour visser : ce n’est pas la qualité du marteau qui est en cause, c’est le choix de l’outil.
Alors oui, continuez à utiliser Claude, GPT-4, ou n’importe quel autre modèle avancé. Mais utilisez-les intelligemment. En co-pilote, pas en pilote automatique.
Et la prochaine fois qu’un consultant vous propose de « laisser l’IA gérer tout le processus », pensez à ce café de Stockholm. Et demandez-vous : est-ce que je veux vraiment confier des décisions humaines à un système qui ne comprend pas les humains ?
La réponse devrait être non.
Vous utilisez Claude ou d’autres IA dans votre entreprise ? Partagez en commentaire : où tracez-vous la ligne entre assistance et autonomie ? Quelles tâches vous ne confieriez jamais entièrement à une IA ?
