NESTOR présente

Les romans-photos

de la recherche !

Par Jean-François Dars & Anne Papillault

photo André Kertész

L’IMPRÉVISIBLE / THE UNFORESEEN

Des bons rapports de l’automation et de l’humain.

The beneficial rapport between humans and automation.

Michel Volle
14 Juil, 2016
Tapuscrit...

Michel Volle –Le pilote automatique d’un avion de ligne maintient celui-ci dans la position très instable qui permet d’économiser le carburant, qui est un poste essentiel de dépense pour une compagnie aérienne : et pour y parvenir, il ingère les données que fournissent les capteurs et il tripote continuellement les ailerons. Et cette manœuvre serait pour un pilote humain aussi difficile que de maintenir une assiette en équilibre sur la pointe d’une épingle, c’est-à-dire qu’elle serait en fait impossible. Et la programmation de l’automate a donc introduit dans la Nature une possibilité nouvelle. Voici un autre exemple : si l’on automatise une centrale nucléaire en programmant la réponse à tous les incidents prévisibles, il se produira quand même des incidents imprévisibles car la Nature est plus complexe que ce que l’on peut prévoir. On estime qu’un tel incident se produira en moyenne une fois tous les trois ans. Et durant ce délai, les opérateurs de la salle de contrôle n’auraient rien à faire, au bout de trois ans ils auraient perdu toute capacité d’initiative. La bonne solution consiste donc à sous-automatiser délibérément la centrale, de telle sorte que ces opérateurs aient de temps en temps quelque chose à faire. Ainsi, ils seront capables d’agir lorsque se produira un incident que personne n’avait pu prévoir.

Une conclusion s’impose donc : comme tout ce qui est répétitif est prévisible, les tâches répétitives physiques ou mentales ont vocation à être automatisées. Le travail humain va se concentrer dans ce qui, n’étant pas prévisible, demande du discernement et de l’initiative, c’est-à-dire dans la conception des nouveaux produits et la relation de service avec des clients. La main-d’œuvre sera ainsi remplacée par un cerveau d’œuvre, et il est facile de se représenter ce que cela implique pour l’emploi, pour les compétences et l’organisation des entreprises. L’intelligence que le programme confère à l’automate, c’est la mise en conserve d’une « intelligence à effet différé », celle du programmeur, et non une prétendue « intelligence artificielle ». La puissance des processeurs, la rapidité d’accès des mémoires et le débit des réseaux procurent une rapidité extrême à cette « intelligence », mais un automate ne peut rien faire d’autre que ce que son programmeur a anticipé. Il ne peut ni répondre à des imprévus, ni interpréter toutes les situations que la complexité sans limites de la Nature physique, sociale et humaine peut présenter. Il faut donc qu’il soit associé dans l’action à l’ « intelligence à effet immédiat », que les êtres humains ont héritée de leurs ancêtres chasseurs-cueilleurs.

L’alliage du cuivre et de l’étain a introduit un être nouveau dans le monde de la Nature : cela a fait émerger l’âge du bronze. L’alliage du fer et du carbone a fait émerger l’âge de l’acier. Le couple que forment le cerveau humain et l’ordinateur présente lui aussi des propriétés qui diffèrent de celles de ses composants : il fait lui aussi émerger une anthropologie spécifique avec toutes ses dimensions, économique, psychologique, sociologique, culturelle, etc.. C’est pourquoi il est utile de se représenter ce que pourrait être une société informatisée, ou, comme on dit, numérique, qui serait par hypothèse parvenue à l’efficacité en ce qui concerne le bien-être de la population. Ce modèle pose à l’horizon de la pensée et de l’action un repère qui permet de s’orienter afin de marcher droit, comme disait Descartes, au lieu de tourner indéfiniment en rond dans la forêt de la crise.

04 min 01 sec

Transcript...

Michel Volle – The automatic pilot of a passenger aircraft keeps it in a state that is very stable but that minimises fuel consumption which is a major cost for an airline. In order to do this, it takes in data from sensors and continually adjusts the ailerons. For a human pilot, doing this would be as difficult as balancing a plate on the tip of a pin, that is to say, all but impossible. We can say that the automatic pilot program has expanded the realm of what is possible. Consider another example: if one automates a nuclear power station by programming a response to all the foreseeable incidents, it will nevertheless encounter unforeseen incidents because real life is more complex than can be foreseen. It is reckoned that such an incident arises on average once every three years. And during this period, the operators of the control room have nothing to do so that at the end of the three years, they will have lost all capacity for initiative. The best way to deal with this is therefore deliberately to automate the control room only in part, so that the operators have something to do from time to time. In this way, they will be able to act when an incident arises that nobody could foresee.
This leads us to a conclusion: as all that is repetitive is foreseeable, repetitive tasks that are physical or mental should be automated. The role of humans should concentrate on that which, not being foreseeable, requires judgement and initiative, that is to say in the formulation of new products and in relations with customers. Handicraft will therefore be replaced by mental work, and it is easy to guess what this will mean for jobs, for skills and for the organization of businesses. The intelligence that a computer program confers on an automated system is the encapsulation of an ‘intelligence at one remove’, that of the programmer, and not a supposed ‘artificial intelligence’. The power of processors, the speed with which memory can be accessed and the capacity of networks makes this ‘intelligence’ extremely rapid, but such an automated system can do no more than what its programmer anticipated. It cannot respond to the unforeseen, nor interpret all the situations that will arise from the unlimited complexity of physical, social and human circumstance. It must therefore work in tandem with the ‘intelligent reaction to crisis’ that human beings have inherited from the hunter-gatherer ancestors.
Alloying copper and tin led to a new reality in our world: it led to the Bronze Age. Combining iron with carbon led to the Iron Age. The combination of the human mind and computers also leads to properties that differ from those of each constituent: it leads to a particular anthropology that we see in all its aspects, economic, psychological, sociological, cultural, etc. This is why it is useful to consider how we should think about an information society, i.e. one that is digitized, that might be hypothetically ideal as far as the well-being of the population is concerned. As far as thought and action are concerned, this way of looking at things lets us establish a marker on the horizon to which we can aim, as Descartes might say, rather than go round in never-ending circles in the labyrinths of crisis.

04 min 01 sec

Économiste, statisticien et informaticien, avec une longue expérience allant du chiffrage du programme commun de gouvernement de la gauche après 1981 jusqu’à l’organisation des systèmes d’information de grandes entreprises publiques, Michel Volle prolonge sa réflexion à partir du site volle.com où il affine les contours d’un futur structuré autour des principes de l’e-conomie, ou iconomie. Une vision de l’organisation collective qui permettrait d’échapper à la spirale des contradictions modernes, grâce à une utilisation contrôlée du développement exponentiel annoncé en économie informatisée.

Michel Volle is an economist, statistician and information expert whose wide experience includes the program of mass digitisation launched by the socialist government of 1981 to the organisation of information systems for major public companies. Here he expands on his thoughts laid out on the website volle.com where he traces the contours of a future structured around the principles of the information economy, or iconomy. This is a vision of collective organisation that would let us escape from the spiral of modern contradictions, thanks to the controlled utilisation of the exponential development that the information economy has brought us.