"Il faut nous y préparer : demain, robots, agents conversationnels (chatbots) et autres poupées humanoïdes vont détecter nos émotions avec de plus en plus d'acuité. Si nous sommes malheureux, ils nous remonteront le moral ; si nous sommes seuls, en difficulté, ils se feront aidants. Ces « amis artificiels » vont prendre une place grandissante dans la société.
Or ils n'ont ni émotions ni sentiments, ni hormones de désir et de plaisir, ni intentions propres. À l'instar de l'avion qui ne bat pas des ailes comme un oiseau pour voler, nous construisons des machines capables d'imiter sans ressentir, de parler sans comprendre et de raisonner sans conscience. Si leur rôle peut être extrêmement positif, notamment dans le domaine de la santé, les risques de manipulation sont par ailleurs réels : dépendance affective, isolement, perte de liberté, amplification des stéréotypes (80 % de ces artefacts ont des voix, des noms - Alexa, Sofia - et des corps de femmes, qui en font des assistantes serviles ou des robots sexuels)...
Seront-ils un prolongement de nous-mêmes ? Jusqu'où irons-nous pour programmer une émergence de conscience artificielle ? Et l'éthique dans tout ça ? Mêlant technologie, philosophie et neurosciences, Laurence Devillers pose les questions centrales de responsabilité sur l'application de ces robots « émotionnels » au sein de la société et les enjeux qu'ils représentent pour notre dignité humaine."
Les robots fascinent et cristallisent les peurs avec l'angoisse d'être un jour dominés, voir supplantés par eux. Leur irruption dans nos vies nécessite une réflexion éthique. Si les robots apprennent seuls comme des enfants, il est souhaitable de les programmer avec des valeurs morales, des règles de vie en société et de contrôler leur apprentissage.En imaginant des solutions pragmatiques combinant avancées technologiques et réflexions philosophiques, Des robots et des hommes a pour but d'expliquer à partir des mythes et fantasmes qui l'entoure, l'intelligence artificielle des robots et de préparer demain en proposant que ces futurs compagnons empathiques suivent des commandements éthiques. Laurence Devillers illustre son propos à l'aide de récits de fiction qui se déroulent dans un avenir proche, montrant l'impact sociétal que ces objets pas comme les autres auront sur nos sociétés.
Que souhaitons-nous faire de ces machines artificiellement intelligentes et affectives dans notre société ? Comment vont-elles nous transformer ? Les robots nous promettent-ils le meilleur ou le pire des mondes ?
Demain, un robot président ?
Nous vivons une accélération fulgurante des technologies numériques et d'Intelligence Artificielle (IA) qui adressent tous les sujets du quotidien et de la société et participent à notre environnement social, culturel et politique. Des masses d'informations numérisées (le big data) sont traitées algorithmiquement par des machines à des vitesses et dans des grandeurs inhumaines. Il est temps que les politiques prennent conscience de la profondeur des influences et mutations induites par le numérique et l'IA sur l'humain et la société. Qui pourra maîtriser ces mondes numériques tentaculaires ? Quels choix faire en politique pour se servir de l'IA et non être asservie à travers elle ? Ce livre numérique se veut un véritable manifeste qui pose 12 questions centrales sur le déploiement de ces technologies et appellent à des réponses de tous les politiques en campagne.
Laurence Devillers est professeure à Sorbonne Université en informatique appliquée aux sciences humaines et sociales, et dirige au CNRS la chaire de recherche en intelligence artificielle HUMAAINE en apprentissage machine, détection des émotions et interaction homme machine, manipulation et éthique. Elle est également membre du Comité national pilote d'éthique du numérique, et l'auteure de Des robots et des hommes : mythes, fantasmes et réalité (Plon, 2017).
"Les crises sont des moments stratégiques où les pouvoirs peuvent se redistribuer. Le Covid-19 nous confronte à des réalités nouvelles comme la dépendance à l'industrie chinoise, mais aussi la montée en puissance des géants américains du numérique dans le domaine de la santé. Ces entreprises sont des alliés, mais cette situation d'urgence ne doit pas devenir pour elles l'occasion de prendre sur nos vies un trop grand pouvoir. Pour la scientifique Laurence Devillers, nos gouvernements doivent prendre conscience que ces diverses dépendances nous aliènent et font obstacle au dynamisme de notre économie. Nous avons besoin de transparence et de pédagogie sur les outils du numérique pour relancer notre économie dans l'après-crise.
Présentation de la collection : Et après ? Notre monde post-coronavirus ne sera sans doute plus le même. Quel sera le rôle de l'État ? Doit-on remettre en cause la mondialisation ? Doit-on se méfier ou s'appuyer davantage sur les scientifiques ? Autant de questions, et bien d'autres, sur lesquelles il faudra se pencher.
Les Éditions de l'Observatoire, depuis leur création, ont l'ambition d'anticiper et de créer les débats d'idées. Nous continuons donc notre mission dans cette période propre à la réflexion en publiant de courts livres numériques qui amorcent déjà les thèmes de ce « monde d'après ». Nos auteurs ont répondu présents, conscients de former au sein de leur maison d'édition une véritable communauté de pensée.
Muriel Beyer
Directrice des Éditions de l'Observatoire"
This book presents lectures given at the 8th International Workshop on Spoken Dialog Systems. As agents evolve in terms of their ability to carry on a dialog with users, several qualities are emerging as essential components of a successful system. Users do not carry on long conversations on only one topic-they tend to switch between several topics. Thus the authors are observing the emergence of multi-domain systems that enable users to seamlessly hop from one domain to another. The systems have become active social partners. Accordingly, work on social dialog has become crucial to active and engaging human-robot/agent interaction. These new systems call for a coherent framework that guides their actions as chatbots and conversational agents. Human-Robot/Agent assessment mechanisms naturally lend themselves to this task. As these systems increasingly assist humans in a multitude of tasks, the ethics of their existence, their design and their interaction with users are becoming crucial issues. This book discusses the essential players and features involved, such as chat-based agents, multi-domain dialog systems, human-robot interaction, social dialog policy, and advanced dialog system architectures.
These proceedings presents the state-of-the-art in spoken dialog systems with applications in robotics, knowledge access and communication. It addresses specifically: 1. Dialog for interacting with smartphones; 2. Dialog for Open Domain knowledge access; 3. Dialog for robot interaction; 4. Mediated dialog (including crosslingual dialog involving Speech Translation); and,5. Dialog quality evaluation. These articles were presented at the IWSDS 2012 workshop.