Peut-on faire confiance à un robot ?

Quand ils seront enfin là — et à n'en pas douter, ils arrivent — ces robots qui font déjà largement partie de notre quotidien pourront-ils faire le mal ? Peut-être. Auront-ils la capacité de dépasser les limites de leur programmation pour nuire aux hommes, voilà la véritable question.

Même si cette problématique semble tout droit sortie d'un roman de science fiction, elle est néanmoins primordiale pour les spécialistes de la robotique. Certes, il est encore trop tôt pour craindre que les robots se révoltent et asservissent ou anéantissent l'humanité. Il faudrait déjà qu'on ait réussi à doter les machines d'une INTELLIGENCE ARTIFICIELLE. Un but qu'on atteindra dans 20 ans selon les chercheurs — qui disaient déjà la même chose il y a 10 ans. Alors ignorance ou cette avancée majeure pourrait-elle se produire plus tôt que prévu ?

Après tout, on utilise depuis longtemps des robots en médecine ou dans différents domaines de l'industrie. Il est donc temps de s'interroger sur la sécurité de cette collaboration entre l'homme et la machine.

C'est pourquoi existe en Grande-Bretagne ROBOSAFE, un projet [financé par l'EPSRC (Engineering and Physical Sciences Research Council)] conjoint des Bristol Robotics Laboratory (BRL) qui réunit les universités de Bristol, du Hertfordshire, de Liverpool et de West of England et leurs partenaires industriels, British Automation & Robot Association (BARA)  et RU Robots Limited.

L'objet de cette recherche est de comprendre non seulement si on peut mettre au point des robots inoffensifs pour leur utilisateurs mais aussi de déterminer s'ils pourraient, de façon délibérée, mettre en péril leurs collaborateurs humains.

De fait, sans IA, les robots sont esclaves de leur programmation. Mais la complexité de cette programmation tout autant que leur interaction avec des intelligences non-artificielles imprévisibles (vous et moi) implique qu'on puisse leur faire confiance en toutes circonstances.

Comment être sûr à 100% ? Voici ce qu'en disent les responsables de ROBOSAFE.

Le développement d'assistants robotiques est freiné par l'absence d'un cadre de sûreté cohérent et crédible. En conséquence, ses applications restent confinés aux laboratoires de recherche ou, dans la pratique, à des scénarios dans lesquels leur interaction avec des êtres humains est limitée à dessein, c'est à dire le transport, la surveillance ou le divertissement.

Le programme de recherche devrait permettre de faire sortir l'assistant robot de ces sphères où il reste pour l'heure confiné. Les scientifiques doivent d'abord comprendre les véritables limites comportementales du robot. Le professeur MICHAEL FISHER de l'Université de Liverpool :

L'évaluation de la fiabilité du robot doit tenir compte d'un large éventail de problèmes, de l'analyse de sécurité comportementale à la manière dont on perçoit cette opération en passant par la fiabilité physique de l'interaction entre humain et robot.

Bristol Robotics Laboratory

Les résultats du projet sont susceptibles de servir de base à la révolution qui nous attend dans les décennies à venir. Que vous le vouliez ou non, les robots seront bientôt omniprésents.

Il n'est pas encore trop tard pour rappeler les lois de la robotique énoncées par le visionnaire ISAAC ASIMOV en 1942...

1. Un robot ne peut porter atteinte à un être humain, ni, restant passif, le laisser exposé au danger.
2. Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres sont en contradiction avec la Première loi.
3. Un robot doit protéger son existence tant que cette protection n'est pas en contradiction avec la Première ou la Deuxième loi.

SOURCE  :  npr.org