Colloque organisé par l’Institut Psychanalyse et Management
et par l’Université Paris I Panthéon Sorbonne
sur le thème
LES BIAIS DE l’INTELLIGENCE HUMAINE
ET DE L’INTELLIGENCE ARTIFICIELLE
Paris, 25 et 26 novembre 2021
IAE de Paris-Sorbonne Business School
Appel à communicationsSoumission au choix en Français ou en Anglais. Pour les autres langues (Allemand, Italien... etc.), les soumissions sont à faire en Français ou en Anglais L'appel à Communications est ouvert. Vous pouvez également le télécharger sur le site Web de l'I.P&M : http://ip-m.com/ CALL NDL2 Colloque IPM-IAE Paris Annexe Francais
Des biais décisionnels aux biais algorithmiques. Les apports de la perspective psychanalytique dans l’étude des biais cognitifs, perceptuels, émotionnels, individuels et collectifs, perçus dans le cadre des organisations digitales. Éclairage de la décision et des processus d’innovations. La transformation digitale est désormais le creuset de l’innovation au sein des organisations. Elle contribue néanmoins à la diffusion de biais décisionnels et cognitifs. Ces biais impactent la décision et des processus d’innovation au sein des organisations digitales. Le colloque a pour objet de réunir des contributions sur cette thématique apportant un éclairage soutenu par les apports de la psychanalyse. Il vise à réunir des articles explorant la problématique des biais algorithmiques dans l’articulation Psychanalyse & Management. Ces biais sont encore peu connus. À dessein, on peut évoquer les biais liés à la programmation des algorithmes, les biais économiques, les biais visant à orienter les comportements. La multiplication des biais algorithmiquesLe fonctionnement des organisations repose de plus en plus sur des processus automatisés et des systèmes digitaux relevant de l’Intelligence Artificielle, qui font appel à algorithmes, notamment « apprenants ». Mais ces derniers sont souvent perçus comme étant grevés de divers « biais », qui peuvent nuire à la neutralité, la loyauté et l’équité des traitements. Ces biais surviennent « lorsque les heuristiques et les données des algorithmes sont influencées par les valeurs des humains impliqués dans leurs collectes, leurs sélections et/ou leurs utilisations » (Nissenbaum, 2001). Ils peuvent ainsi influencer les résultats des moteurs de recherche, des traitements de données d’apprentissage, des services des réseaux sociaux, des profilages d’individus ou d’organisations... Ces biais font l’objet de classifications diverses (Caliskan, Bryson et Narayanan, 2017, Lambrecht et Tucker 2017, d’Ignazio et Klein, 2020), qui distinguent généralement les « biais des programmeurs » (d’ancrage, de confirmation...), les « biais statistiques » (de méthode, de sélection, d’endogénéité...), les « biais lexicaux », les « biais de recommandation »... Lorsqu’ils faussent des applications d’apprentissage automatique (deep learning) relevant de la justice prédictive ou de la finance prédictive, ces biais peuvent entraîner de graves dysfonctionnements dans les organisations et/ou les comportements. Les apports de la finance comportementale (FC)Les études récentes sur les biais algorithmiques s’inspirent de travaux plus anciens sur les biais cognitifs, perceptuels, émotionnels et collectifs. Depuis les années 1970, la FC observe les biais psychologiques des prises de décision des investisseurs et des intermédiaires financiers. Leurs décisions sont soumises à des logiques assujetties à des rationalités substantielle, limitée et/ou procédurale. Les biais de la décision financière présentent quatre principales formes, selon Tversky et Kahneman (1979). Leur première expression est fondée sur l’heuristique « de disponibilité », qui recouvre les biais cognitifs de familiarité, de conservatisme et de confirmation (Heath et Tversky (1991), Huberman (2001), Strong et Xu (2003). Ainsi, l’heuristique dite « de perspectives » recouvre différentes perceptions fallacieuses du risque : « l’erreur du parieur » ; l’oubli des corrélations entre les options possibles... La récurrence de ces biais cognitifs a pour conséquence de reconduire des décisions et de reproduire des comportements passés face à des situations de gestion nouvelles. La seconde forme de la FC porte sur les excès d’optimisme et de confiance, sur l’aversion aux pertes et aux regrets, ainsi que sur l’effet statu quo. L’investisseur victime du biais d’optimisme a tendance à croire que ce qui est bon pour lui se produira inévitablement (Bernazi, Kahneman et Thaler, 1999). Dans certains cas, il se conditionne par des « discours auto-réalisateurs » (ou « exposés performatifs »), qui lui donnent l’illusion de contrôler les événements, selon l’heuristique ancienne dite de la « pensée magique » (Skinner, 1948). Ce biais, fréquemment observé, explique pourquoi certains acteurs socio-économiques persévèrent dans les situations d’échec. L’excès de confiance, qui constitue la forme la plus répandue de déviance du jugement, entraîne chez le décideur l’illusion qu’il « comprend la situation » et est capable d’en interpréter la tendance. La troisième forme recouvre les biais émotionnels, les affects sentimentaux et les humeurs. Ces expériences ont été répertoriées par Weiner et Graham (1989) en huit classes (fierté, satisfaction, joie, honte, culpabilité, humiliation, peur, envie), induisant des comportements différents face à des situations identiques. Une forme trouve sa source dans « l’heuristique d’affectivité » mise à jour par Slovic et al. (1978) et basée sur une perception biaisée du risque. La quatrième forme porte sur les biais de conformité qui affectent, selon Hong, Kubik et Stein (1994), les décideurs les plus sociables : influencés par les normes sociales, ils sont les plus enclins à adopter des « comportements moutonniers », par effet d’imitation ou de suivisme des acteurs du marché réputés les plus influents, les mieux informés ou les plus nombreux. Ces comportements expliqueraient notamment certains phénomènes « d’exubérance irrationnelle », comme les effets de mode financière, les bulles spéculatives et certains krachs boursiers. Les apports de l’intelligence émotionnelle (IE)L’IE vise à comprendre et à piloter les comportements organisationnels, considérés comme irrationnels ou inefficients, en empruntant des concepts à la psychologie du travail et à la sociologie des organisations, mais surtout, à la psychanalyse du management. L’IE est définie par Mayer et Salovey (1997) comme « l’habileté à percevoir et à exprimer les émotions, à les intégrer à sa propre pensée, à comprendre et à raisonner avec les émotions, ainsi qu’à réguler ses propres émotions et celles d’autrui ». Les travaux de Goleman (1995) montrent que l’IE constitue un levier efficace de socialisation et efficient de management. Mais le concept d’IE est controversé : l’intelligence relève du cognitif, tandis que l’émotion relève de l’affectif, défini comme le « caractère générique du plaisir, de la douleur et des émotions » (Assoun, 1997). Cette polysémie de l’IE, située à l’interface de la cognition et de l’émotion, a favorisé la construction de divers modèles destinés à mieux comprendre et à tester l’activité mentale dans ses multiples dimensions : modèle multifactoriel de l’intelligence de Thurstone et Spearman, facteurs irrationnels de l’activité mentale de Thorndike, Weschler et Lautrey, manifestations des intelligences intra- et extra-personnelles de Gardner, figures de l’intelligence de Huteau... Ce foisonnement a même entraîné la remise en question de la notion de « biais » (Kinjal Dave, 2019). Le traitement des biais et le retour de la confianceTrois types de pratiques sont en mesure de réduire – sinon de supprimer – les différents biais ou effets identifiés précédemment. Le premier consiste à encadrer la prise de décision, son exécution et son contrôle, par une « structure décisionnelle » adaptée (Thaler et Benartzi, 2004). Le second relève du développement personnel. Fishoff (1982) considère que les biais cognitifs sont généralement plus faciles à réduire que les biais affectifs et émotionnels, qui devraient être logiquement éliminés par l’expérience. La troisième catégorie de procédures réside dans les modes d’apprentissage collectif de la décision. Ces derniers passent par des formations pratiques à l’IE, avec une identification des biais et une expérimentation de leurs parades, par des routinisations des processus décisionnels, notamment au sein de communautés de pratiques (Lave et Wenger, 1991). L’efficience de ces pratiques conditionne le retour de la confiance des investisseurs boursiers, des parties prenantes des entreprises, des usagers des logiciels d’IA... La confiance engendre « des niveaux de coopération bien supérieurs à ce que prévoit l’application stricte du principe de rationalité » (Orléan, 1994) et elle constitue un puissant facteur de développement personnel (en renforçant la confiance en soi). La confiance est toutefois une problématique pour le psychanalyste à l’aune des relations transférentielles (Askofaré, 2009). Le transfert désigne le processus par lequel les désirs inconscients s’actualisent sur les objets, en raison de leur emprise, dès lors que leur usage en sollicite la répétition inconsciente. Il apparaît le plus souvent comme un mécanisme de résistance. Sur le long terme, le processus peut engendrer la défiance, suivant un phénomène de nature « énantiodromique » selon Héraclite. Ce terme signifie courir en sens contraire, ressuscité par les travaux du psychanalyste Jung (1916), pour désigner une tendance immanente de l’inconscient. Trois composantes de nature psychique et intrapsychique sont généralement attribuées à la confiance : conative, cognitive et affective. La première correspond à une attitude de prise de risque dans une relation d’échange (Morgan et Hunt, 1994). La seconde se réfère à la croyance en la compétence d’un partenaire ou d’un système jugé crédible et fiable (Gurviez et Korchia, 2002). La troisième repose sur la reconnaissance de la bienveillance ou de la disponibilité du partenaire (Ganesan, 1994) et de son intégrité, sa loyauté ou son honnêteté (Moorman et al. 1992). Les éclairages et les apports de la psychanalyseL’appel à contributions se positionne dans le champ Psychanalyse & Management. Concernant la psychanalyse, nous soulignons que son développement et de son application se sont largement étendues au champ des organisations, des groupes et des institutions. La psychanalyse, inaugurée par les travaux de S. Freud, poursuivie et développée par ses successeurs, a ouvert de nouvelles perspectives épistémologiques dans ses champs d’applications, notamment pour l’analyse du fonctionnement des groupes, des organisations et des institutions et des cultures. Nous citerons notamment le développement et les apports réalisés par le courant de la psychanalyse en extension (Kaës, 2013). La psychanalyse s’étend également au champ de la psychologie sociale. Les travaux de recherche en management font largement référence aux travaux de Lewin. Au regard de la thématique du colloque et pour la publication, il convient de souligner quelques points fondamentaux apportés par son éclairage, que nous étayons à titre indicatif sur trois perspectives.
Les apports attendus du colloqueLa digitalisation des processus et la diversification des algorithmes orientent la décision et les processus d’innovations au sein des organisations – par exemple sous l’effet du développement du télétravail depuis la crise sanitaire. Cette perspective ouvre de nouveaux champs de recherche dans les registres de la gouvernance et du management des organisations, étendus aux comportements au travail de leurs différents acteurs (Sunstein et Thaler, 2008 ; Sunstein et Reid Hastie, 2015). Le développement de l’IA - notamment du machine learning et du deep learning - s’accompagne de nouveaux types de biais dont les natures, les origines et les effets sont encore méconnus. Les communications attendues dans le cadre du colloque programmé en 2021 contribueront à enrichir la réflexion sur les apports de la psychanalyse, et plus largement des sciences de la psyché et de leurs disciplines périphériques (sociologie critique, anthropologie et ethnopsychanalyse, sciences du langage, sémiologie...), dans l’étude des biais décisionnels et algorithmiques, ainsi que plus largement, dans le profilage de « l’homme-machine » ou de « l’homme augmenté ». Au titre des attendus, le colloque souhaite recueillir des contributions importantes sur le thème de l’économie et du management de l’innovation. Le développement digital est proposé désormais comme le fer de lance de l’innovation et de la décision, dans ces différents points de vue, technologique, organisationnel, managérial. Ce thème est d’actualité. Toutefois au-delà de son opportunité, il soulève des controverses, particulièrement au regard de son emprise sur le développement humain. À cet égard, l’enjeu est de montrer que l’innovation peut contribuer à lever les buttées à l’obstacle épistémologique que les crises successives mettent en exergue. Références bibliographiquesASKOFARE, S. (2009), « Quelle doctrine du contrôle ? », Mensuel de l'École de psychanalyse des Forums du Champ lacanien, n° 44. ASSOUN P-L (1997), Psychanalyse, PUF. BENARTZI S., THALER R. (2001) “Naïve Diversification Strategies in Retirement Saving Plans”, American Economic Review, 91, 79-98. BENARTZI S., THALER R. (2001) “Excessive Extrapolation and the Allocation of Accounts to Company Stock”, Journal of Finance, 56, 1747-1764. BENARTZI S., KAHNEMAN D., THALER R. (1999), “Optimism and Overconfidence in Asset allocation Decisions”, News.morningstar.com. CALISKAN A., JOANNA J. BRYSON & ARVIND NARAYANAN (2017), « Semantics derived automatically from language corpora contain human-like biases », Science. FESTINGER L.A. (1957), A Theory of Cognitive Dissonance, Stanford University Press. GOETZMAN W., PELES N. (1997), « Cognitive Dissonance and mutual fund Investors », Journal of Financial Research, 20, 145-158. GOLEMAN D. (1995), Emotional Intelligence, Bantam. GRAHAM J.R, HARVEY C.R. (2001), “The theory and Practice of Corporate Finance”, Journal of Financial Economics, vol 60, 187-243. GREENFINCH P, « Main Behavioural Finance Concepts », https://pgreenfinch.pagesperso-orange.fr/, 2005. HEATH C., TVERSKY A. (1991) “Preferences and beleefs: ambiguity and competence in choice under uncertainty”, Journal of Risk and Uncertainty, 4, 5-28. HIGGS MJ., DULEWICZ V, (2002), Making Sense of Emotional Intelligence, 2nd ed, Windsor. D'IGNAZIO , LAUREN F. KLEIN C. (2020), « 2. Collect, Analyze, Imagine, Teach », dans Data Feminism, MIT Press. KAËS R., (2012), Le Malêtre, Paris, Dunod KAËS R., (2013), « L’extension de la psychanalyse. Introduction à quelques problèmes épistémologiques », Cahiers de Psychologie clinique, n° 40, pp. 47-69 KINJAL D. (2019), « Systemic Algorithmic Harms », Data & Society, 31 mai 2019. LAVE L., WENGER K. (1991), Legitimate Peripheral Participation, Cambridge University Press. LAMBRECHT A & TUCKER C. (2017), « Algorithmic discrimination ? : apparent algorithmic bias in the serving of stem ads », Unpublished manuscript, Massachusetts Institute of Technology MAYER ET AL. (1998), Emotional Intelligence in everyday Life, a Scientific Inquiry, Psychology Press, p.133-149. MOORMAN C., ZALTMAN G. (1992), “The dynamics of trust within and between organizations”, Journal of Marketing research, 29, pp.314-318. NISSENBAUM H., « How computer systems embody values », Computer, vol. 34, no 3, mars 2001, p. 120–119 ORLEAN A. (dir.), (1994), Analyse économique des conventions, Paris, PUF. SLOVIC P.(1978), “Analyzing the Expert judge”, Journal of applied Psychology, 53,255-263. SUNSTEIN & HASTIE R. (2015), Wiser : Getting Beyond Groupthink to Make Groups Smarter, HBR Press. THALER R.H., BENARTZI S (2004),”Save more to-morrow: using Behaviral Economics to increase Employee Saving”, Journal of Political Economy, 112 (1), 164-167. THALER R. H., TVERSKY A., KAHNEMAN D, SCHWARTZ A. (1997), “The effect of Myopia and loss Aversion on risk Taking ; an experimental test“, Quaterly Journal of Economics, 112(2), 647-661. THALER R.H, SUNSTEIN C.R.(2008), Nudge: Improving decisions about health, wealth and happiness, New haven, Yale. WEINER B., GRAHAM S. (1989), “Understanding the Motivational Role of Affect : Life-span Research from an Attributional Perspective“, Cognition and Emotion, 3 (4), 401-419. PublicationsLes communications les meilleures seront proposées pour publication dans les revues suivantes. Les modalités précises de soumission seront communiquées à l’issue de la pré-sélection pour tenir compte des dispositions propres à chaque revue. SVP : Veuillez à ce titre prendre connaissance des conditions générales de soumission, d’évaluation et participation au colloque (Appel à Communications Annexe, p.8).
Comité Scientifique
|
Personnes connectées : 1 | Vie privée |