jeudi 15 décembre 2016

Prés. Obama: intelligence artificielle (IA), cybersécurité et avenir du monde

Peut-être trop peu trop tard pour son application par le Président sortant 2016, Barack Obama, mais un contenu intéressant sur sa position sur l'intelligence artificielle (IA) et la cybersécurité en lien avec les valeurs et l'avenir du monde.


Avec la possible infiltration des réseaux et communications des Démocrates durant la course présidentielle 2016 (finale remportée par Donald J. Trump contre Hillary Clinton), il me semble approprié de vous présenter ce bref extrait d'une entrevue réalisée par le Président Obama en août 2016, où il aborde l'Intelligence artificielle (IA) sous l'aspect des décisions humaines assistées, et de la cybersécurité. À noter que l'input de l'aspect moral humain peut être bon ou mauvais, le tout dépendant des valeurs appliquées et de qui les applique (socialistes, marxistes, activistes environnementaux, intérêts militaires ou économiques et autres, développeurs informatiques, fonctionnaires de l'État partisans d'un parti politique, etc.). Il me semble par conséquent important, que la nouvelle administration qui entrera en fonction en début de 2017, valide les balises en la matière (Congrès, Président élu, ...).   

Intelligence artificielle (IA): Quelles valeurs et normes sociétales édicteront les algorithmes de programmation?  


Prés. Barack Obama, 24 août 2016. Crédits photo : Wired.com, 2016


Le spécialiste de la cybersécurité (sécurité des réseaux informatiques) de renommée internationale, Bruce Schreier, a souligné dans un post, une entrevue portant sur l'intelligence artificielle à laquelle a participé le président Obama. L'entrevue fait ressortir entre autres comme exemples, une préoccupation de cyberattaques dans la sphère des armements nucléaires, ou dans la domination des marchés boursiers par rapport à ceux qui n'ont pas accès à une technologie avancée d'intelligence artificielle.

La rencontre s'est tenue dans la salle Roosevelt de la Maison Blanche, le 24 août 2016. Elle démontre une conscience réelle du président Obama sur la question de la cybersécurité dans le contexte des avancées de l'intelligence artificielle (IA, ordinateurs avec des capacités d'apprendre) à connecter avec les responsabilités sociales (oui mais selon quelles valeurs, là aussi on peut errer). C'est ce que l'on désigne dans le milieu, extended intelligence; soit l'apport des valeurs sociales dans la sphère de l' IA. L'IA assiste l'intelligence humaine, tandis que celle-ci établit les valeurs attendues dans ledit apprentissage-machine.

Le président préfère aborder les enjeux de l'intelligence artificielle sur les décisions et actions qui peuvent être réalisées dans l'immédiat ou un future proche, et non selon les théories de la science fiction. Certaines choses sont prioritaires et immédiatement applicables.

Traduction libre d'un bref extrait de l'entrevue du président Barack Obama réalisée par Wired.com le 24 août 2016 (1) :


«Laissez-moi débuter avec, ce que je crois, est l'enjeu le plus immédiat -un
problème [déjà] soluble dans cette catégorie d' IA et nous devons en prendre compte. Si vous avez un ordinateur qui peut résoudre un jeu très complexe avec une grande quantité de paramètres, alors développer un algorithme qui vous permet de maximiser vos profits sur le New York Stock Exchange [2]  est probablement à porter de vue. Et si une personne ou une organisation y parvient en premier, ils pourraient faire chuter le marché boursier assez rapidement, ou au moins ils pourraient soulever des questions sur l'intégrité des marchés financiers 
«De même, il pourrait y avoir un algorithme qui dit "Va infiltrer les codes nucléaires et détermine comment lancer certains missiles". Si c'est son seul rôle, s'il est en auto-apprentissage et si c'est un algorithme vraiment fonctionnel [efficace], alors vous avez des problèmes. Je crois que ma directive à mon équipe de sécurité est ne vous préoccupez pas à propos des machines prenant le contrôle sur le monde. Concentrez-vous sur les capacités des acteurs non étatiques ou hostiles à pénétrer des systèmes et dans ce sens, ce n'est pas conceptuellement différent de beaucoup de travail de cybersécurité que nous faisons. Cela signifie seulement que nous allons devoir être meilleurs, parce que ceux qui déploient ces systèmes sont en train de devenir encore plus efficaces actuellement » [Ndt : avec l'intelligence artificielle ou IA]

Le président Obama, contrarié par les faibles investissements de l'État en ce domaine se montre en faveur pour davantage d'investissements publics en la matière, avec une réappropriation plus importante en dehors des mains de l'industrie. Faisant un parallèle avec la course à la Lune et à l'espace dans les années 1960-70, il mentionne que le Gouvernement pourrait réinvestir dans la recherche essentielle en établissant ses normes et objectifs. Il nous rappelle que les fonds investis en recherche d'alors pourraient représenter 80 milliards de dollars annuellement, en dollars actualisés.

Une question majeure à surveiller en Intelligence artificielle (décisions assistées): Qui peut ou doit déterminer les normes sociétales décisionnelles?


Dans ce genre d'enjeux, chacun se voit, ou voit son clan, porteur des «vraies» bonnes valeurs qui doivent diriger le monde; de ce que Platon appelait la «vie bonne».  Il y a encore le débat public vs privé et l'on sait le Président Obama, plutôt de tendance socialiste. On semble souhaiter chez les intervenants de l'entrevue, une réappropriation dans la sphère de la recherche académique avec davantage de fonds et de normes de l'État. Mais vous aurez compris qu'il reste un enjeu majeur ici: qui peut ou doit déterminer les normes sociétales décisionnelles, considérant que l'intelligence artificielle devrait être assez généralisée pour nous assister dans un horizon d' environ 10 ans, ce qui nous mènerait vers 2026-2027. Pour les socialistes et marxistes, ce serait un gouvernement à leur image. De même pour les capitalistes. Et on peut décliner ainsi, toutes les idéologies en compétition ou complémentaires.
_______________

1.  Barack Obama, Neural Nets, Self Driving Car, And The Future Of The World. Wired.com Extraits d'une Interview réalisée le 24 août 2016 mettant ne présence Scott Daddich
«OBAMA: Let me start with what I think is the more immediate concern—it’s a solvable problem in this category of specialized AI, and we have to be mindful of it. If you’ve got a computer that can play Go, a pretty complicated game with a lot of variations, then developing an algorithm that lets you maximize profits on the New York Stock Exchange is probably within sight. And if one person or organization got there first, they could bring down the stock market pretty quickly, or at least they could raise questions about the integrity of the financial markets. 
«Then there could be an algorithm that said, “Go penetrate the nuclear codes and figure out how to launch some missiles.” If that’s its only job, if it’s self-teaching and it’s just a really effective algorithm, then you’ve got problems. I think my directive to my national security team is, don’t worry as much yet about machines taking over the world. Worry about the capacity of either nonstate actors or hostile actors to penetrate systems, and in that sense it is not conceptually different than a lot of the cybersecurity work we’re doing. It just means that we’re gonna have to be better, because those who might deploy these systems are going to be a lot better now.»

2.     Principale plateforme d'échanges de la Bourse de New York

Aucun commentaire: