En tant que progéniteurs de l’intelligence artificielle, la façon dont nous prenons soin de cette technologie de changement de paradigme et la développons déterminera comment elle se développera aux côtés de l’humanité.

Il y a de nombreux chemins devant l’IA et la société, et selon ce que nous allons, nous pouvons nous retrouver sur le chemin de la paix et de la prospérité ou vers une sombre dystopie, entre lesquels il y aura plusieurs zones d’ombre.

Zia Hahn, Fondation Rockefeller
Zia Khan

« Nous devons maintenant créer une nouvelle institution qui puisse continuer à être un jardinier de l’IA, car l’IA quittera bientôt la maison et nous espérons qu’elle deviendra un membre fructueux de la société » – Zia Khan

Zia Khan, vice-présidente principale de l’innovation à la Fondation Rockefeller, rapporte Sociable que l’IA sera profondément intégrée dans toute l’expérience humaine, et comme nous choisirons de la gérer, nous définirons notre avenir avec elle.

Alors que les accords de Bretton Woods ont établi les institutions réglementaires de la Banque mondiale et du Fonds monétaire international, le Fonds Rockefeller cherche à «développer une structure de gouvernance de l’IA pratique, inspirée de Bretton Woods».

En octobre, la Fondation a réuni les technologues, économistes, philosophes et penseurs les plus brillants qui ont été inspirés pour créer une collection d’idées et ont appelé à l’action dans un rapport: «AI + 1: Façonner notre avenir intégré». sur leurs discussions.

« La conversation n’a pas toujours été facile », a déclaré Khan, « mais c’était fondamentalement une conversation fantastique, et le domaine dans lequel nous avons atterri était le besoin de gestion de l’IA. »

Si rien n’est fait, les IA peuvent être dirigées par plusieurs élites avec leurs propres agendas, ou les IA elles-mêmes peuvent gagner plus d’autonomie par rapport aux super-esprits artificiels, donc quiconque contrôle les IA, comment ils sont gouvernés et par l’autorité de qui ils le font est un sérieux problème pour l’avenir de l’humanité grâce à cette technologie révolutionnaire.

«AI est un adolescent qui va quitter la maison […] L’adolescent commence à exprimer son individualité « – Zia Khan

Je demande à Khan et s’il pouvait personnifier l’IA en tant qu’enfant, et les gens en tant que parents, à quel stade de la vie l’IA se trouverait-elle maintenant? Il se laisse aller.

«Si j’avais deviné, j’aurais dit qu’IA est un adolescent qui va quitter la maison», dit-il.

«Quand il était dans le laboratoire, les scientifiques ont plus ou moins fourni l’IA, l’ont nourrie et ont pris soin d’elle.

«Un adolescent commence à exprimer son individualité – c’est un peu indiscipliné. Nous avons vu des applications qui n’étaient pas géniales. Certains problèmes se posent comme la reconnaissance faciale, dont nous savons qu’il nous faut faire face, mais à mon avis, il va quitter la maison.

« Je pense que cette propagation explosive dans la société est sur le point de se produire », a ajouté le vice-président principal de Rockefeller.

Maintenant, l’IA peut être comparée à un adolescent, mais contrairement aux humains, sa croissance sera exponentielle et à la vitesse de l’éclair.

« La chose la plus intéressante à propos de la technologie est que nous en apprenons davantage sur les gens en comprenant la technologie » – Zia Khan

Poursuivant la métaphore de l’éducation des enfants, voulons-nous prendre soin de notre progéniture artificielle en tant que charpentiers – définir toutes les règles tôt et suivre le plan – ou voulons-nous être comme des jardiniers, permettant aux algorithmes de prospérer dans des cadres donnés, en essayant de les élever et de maintenir les limites?

«Je vois que nous devons maintenant créer une nouvelle institution qui puisse continuer à être un jardinier de l’IA parce que l’IA quittera bientôt la maison et nous espérons qu’elle deviendra un membre fructueux de la société, mais il y a de nombreuses façons dont les gens peuvent aller si ils quittent la maison », a déclaré Khan.

Une nouvelle agence de gestion de l’IA devrait être créée pour le vice-président principal de la Fondation Rockefeller, mais à quoi cela pourrait-il ressembler?

La gouvernance de l’IA devrait-elle à l’avenir être menée sur un vote démocratique du peuple ou sous la direction de philanthropes, de technologues ou d’autres organisations dotées de poches et de programmes profonds?

«Nous avons besoin d’une sorte de mécanisme politique pour décider des objectifs que nous voulons avoir en tant que société si l’intégration est l’IA», – Zia Khan

Bien que Khan admette qu’il n’a pas toutes les réponses à la question de savoir qui doit se tenir derrière les institutions qui gèrent l’IA, il est sûr qu’elles faire besoin d’exister.

Revenant à la métaphore de l’adolescent, il dit: «Si quelqu’un quitte la maison, il peut faire beaucoup de choses. Ils peuvent aller à l’université. Ils peuvent hocher la tête. Ils peuvent être des entrepreneurs […] mais nous nous attendons toujours à ce qu’ils suivent certaines lois fondamentales concernant les objectifs que nous considérons en tant que société.

« Nous avons besoin d’une sorte de mécanisme politique pour décider quels objectifs nous voulons avoir en tant que société, s’ils incluent l’IA, et comment pouvons-nous nous assurer que la technologie atteint ces objectifs? »

Et c’est l’un des plus grands débats qui circulent actuellement dans les cercles de l’IA et mis en évidence dans le rapport AI + 1: gestion basée sur des règles ou résultat?

Concentrez-vous trop sur les règles, vous pouvez alors obtenir des résultats inattendus. Il y a quelques années, Microsoft a dû tuer son chatbot AI après moins de 24 heures, il est devenu un raciste au langage déraisonnable, et plus récemment, OpenAI a créé un jeu de cache-cache virtuel, mais l’IA a violé de manière inattendue les lois simulées du programme de physique pour gagner.

En se concentrant sur les résultats, les règles peuvent être pliées et pliées dans certains cadres qui sont régis et guidés par ce que le vice-président senior de la Fondation Rockefeller considère nécessaire pour créer une nouvelle institution.

« Je pense que l’IA est gonflée dans certains cas et sous-estimée dans d’autres », – Zia Khan.

Il existe actuellement de nombreuses idées fausses sur ce que l’IA peut et ne peut pas faire, mais comme le note Khan, plus nous étudions l’IA, plus nous en apprenons sur nous-mêmes.

«Ce qui est vraiment intéressant à propos de la technologie, c’est que nous en apprenons davantage sur les gens en comprenant la technologie», a-t-il déclaré.

«Par exemple, vous n’avez toujours pas de robot qui puisse vraiment ouvrir la porte. Quelqu’un a dit un jour que lorsque les robots tueurs arrivent, tout ce que vous avez à faire est de fermer la porte. Vous voyez toutes ces vidéos folles de robots faisant des sauts périlleux et de la gymnastique – c’est un problème relativement simple – mais la friction?! ils ne peuvent pas le supporter. « 

Il a ajouté que « c’est en étudiant les robots que nous avons appris que notre sens du toucher est environ mille fois plus sensible qu’on ne le pensait auparavant – semblable à l’ouïe et semblable à l’odorat ».

Mais en ce qui concerne la prise de décision, l’intelligence artificielle se débrouille désormais très bien avec des tâches intuitives auxquelles nous ne pensons pas particulièrement, telles que la reconnaissance de langues, d’images et de comptage.

D’un autre côté, la conscience humaine occupe notre esprit de nombreuses pensées tout en jonglant avec de nombreuses émotions à un moment donné.

« Parce que nous comprenons mieux l’IA, nous comprenons en fait la conscience humaine » – Zia Khan

Selon Khan, c’est ce que l’IA ne peut pas faire actuellement, et la gestion de nombreux processus de pensée est similaire à la «fonction exécutive» que seuls les humains possèdent actuellement.

«Parce que nous comprenons mieux l’IA, nous comprenons en fait la conscience humaine et comprenons le rôle des émotions dans l’aide à notre cognition», a-t-il déclaré.

« Ce sont des frontières intéressantes que nous apprenons sur l’esprit humain et le corps humain au fur et à mesure que l’IA se développe. »

Plus nous comprenons les machines, plus nous nous comprenons, et de nombreuses entreprises qui travaillent avec l’IA appliquent ce qu’elles ont appris et développé pour bénéficier directement à la société de manière vraiment unique.

Certains groupes ont constaté que leurs solutions intelligentes pour une industrie peuvent s’avérer utiles dans une autre.

Par exemple, la Fondation Rockefeller travaille avec un groupe appelé DataKind – une «organisation fantastique» qui a «une armée de scientifiques bénévoles qui veulent appliquer leurs compétences aux problèmes sociaux», dit Khan.

«Ils identifient certains problèmes sociaux et demandent à des groupes de bénévoles de les aider à développer des outils et des applications.

Le vice-président principal de Rockefeller a cité le travail de DataKind en Haïti comme exemple où l’équipe a pu optimiser les itinéraires d’élimination des déchets tout en maximisant le nombre de ramassages à l’aide de l’IA, qui à son tour pourrait être appliquée aux travailleurs de la santé en Afrique qui peuvent mieux optimiser leurs itinéraires entre les communautés.

«Chaque fois que nous pouvons trouver quelque chose où une solution peut être appliquée à un autre problème, cela ne fait qu’accroître l’efficacité de la façon dont nous pouvons résoudre tous les problèmes que nous essayons de résoudre», a déclaré Khan.

« Tous ces systèmes d’IA ont des problèmes de biais, et c’est quelque chose dont nous commençons vraiment à nous inquiéter » – Zia Khan

Bien que les algorithmes puissent être redistribués à de nombreuses fins, des problèmes surviennent lorsqu’ils transmettent un biais de code inhérent.

«Tous ces systèmes de propriété intellectuelle ont un problème de biais», dit Khan, ajoutant. «C’est ce dont nous commençons vraiment à nous inquiéter. À bien des égards, ces outils peuvent simplement reproduire et amplifier les préjugés humains que nous avons.

La Fondation Rockefeller a récemment créé la Fondation Lacuna de 4 millions de dollars, qui vise spécifiquement à combler les lacunes et les biais de données pour les solutions d’IA afin de «mobiliser des ensembles de données étiquetés qui abordent les problèmes urgents à faible et moyen revenu dans le monde».

«La Fondation Lacuna est conçue pour identifier les opportunités où nous pouvons financer des ensembles de données étiquetés qui complètent les données de formation disponibles pour les algorithmes afin que ces algorithmes puissent s’entraîner eux-mêmes et éliminer le biais», a déclaré Khan.

«COVID a révélé de nombreux problèmes très profonds et importants» – Zia Khan

Alors que l’IA imprègne chaque branche et aspect de la société, les préjugés deviendront un problème majeur, mais au-delà des préjugés, cette technologie a le pouvoir de fournir de la nourriture, des vêtements et un abri à chaque personne sur terre, en fonction de la manière dont elle est utilisée et gérée.

L’arrivée de la pandémie de coronavirus a accéléré le débat sur la manière dont l’IA peut au mieux servir l’humanité et la société dans son ensemble.

Pour Khan: « Quelque chose comme la crise COVID nous donne l’opportunité de reconsidérer de grands changements de paradigme. »

«Dans un sens, le COVID a exposé de nombreux problèmes vraiment profonds et importants, et je pense que cela a accru la pertinence de réfléchir à de nouvelles solutions», a-t-il déclaré.

«L’urgence actuelle de cette crise nécessite une nouvelle réflexion, et je pense qu’il existe des opportunités de déployer et d’appliquer l’IA pour aider dans ces cas.

«Cela nous aidera à découvrir ce que l’intelligence artificielle peut faire, et nous espérons que nous surveillerons et gérerons les risques», a-t-il ajouté.

« La destruction créée par COVID dans une variété de domaines nous donne l’occasion de reconsidérer les paradigmes vraiment basiques » – Zia Khan

L’IA sera une technologie qui se développe dans la société, et le vice-président principal de Rockefeller estime que la gestion de l’IA sera directement liée à l’économie.

« Je pense qu’il y a un lien entre la façon dont nous pensons à la réglementation de l’IA et une grande partie de la réflexion qui se passe dans l’économie », a-t-il déclaré.

«Je pense que les gens comprennent que nous avons besoin d’une nouvelle forme d’économie. Le paradigme économique néolibéral de maximisation de la valeur pour les actionnaires, quels que soient les coûts et la nature, etc., ne fonctionne tout simplement pas.

«Je pense que nous devons réfléchir attentivement à la valeur des données, à la manière dont nous tenons compte de la valeur des données, et je pense que cela conduira à la façon dont nous envisageons la réglementation et la gestion de l’IA, mais également des règles et réglementations économiques plus larges. marché et le rôle du gouvernement. Je pense qu’à l’avenir, ils seront plus étroitement liés », a-t-il ajouté.

« La façon dont nous envisageons la gestion de l’IA sera combinée avec la façon dont nous pensons aux modèles économiques » – Zia Khan

Pour Khan: « La destruction créée par COVID dans diverses directions nous donne l’opportunité de repenser les paradigmes vraiment basiques, et la façon dont nous pensons à la gestion de l’IA sera combinée avec la façon dont nous pensons aux modèles économiques. »

Adolescent IA sur le point de quitter la maison. Va-t-il disparaître et apprendre à faire ce qu’il y a de mieux pour la société, ou notre propre expérience la façonnera-t-elle en une force rebelle de destruction?

Selon le vice-président senior de l’innovation de la Fondation Rockefeller, la voie à suivre est de créer un système de gestion qui oriente l’IA vers un avenir prospère pour l’humanité.

La course aux armements « donnera aux entreprises et aux gouvernements la possibilité de pirater les gens »: Yuval Harari du WEF

L’immortalité numérique et le livre des morts

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *