L'IA est-elle vraiment effrayante ?

Quelqu'un aurait-il une bonne analyse ou un ouvrage de référence sur le sujet ? Je peux recommander « Life 3.0 » de Max Tegmark, mais il date d'il y a sept ans et n'est plus aussi effrayant…

Le « parrain de l'IA » réduit les risques que cette technologie anéantisse l'humanité au cours des 30 prochaines années.

Geoffrey Hinton estime à 10-20 % la probabilité que l'IA entraîne l'extinction de l'humanité d'ici trente ans, compte tenu de la rapidité des changements.

Le scientifique informatique britanno-canadien souvent présenté comme le « parrain » de l'intelligence artificielle a réduit les chances que l'IA anéantisse l'humanité au cours des trois prochaines décennies, avertissant que le rythme d'évolution de cette technologie est « beaucoup plus rapide » que prévu.

Le professeur Geoffrey Hinton, qui a reçu cette année le prix Nobel de physique pour ses travaux sur l'IA , a déclaré qu'il y avait « 10 à 20 % » de chances que l'IA conduise à l'extinction de l'humanité au cours des trois prochaines décennies.

Auparavant, Hinton avait déclaré qu'il y avait 10 % de chances que cette technologie entraîne une catastrophe pour l'humanité.

Interrogé sur les ondes de l'émission Today de BBC Radio 4 quant à savoir s'il avait modifié son analyse d'une potentielle apocalypse liée à l'IA et de la probabilité d'une sur dix que cela se produise, il a répondu : « Pas vraiment, 10 à 20 %. »

L'estimation de Hinton a incité le rédacteur invité de Today, l'ancien chancelier Sajid Javid, à dire « vous progressez », ce à quoi Hinton a répondu : « Au contraire. Voyez-vous, nous n'avons jamais eu à faire face à des choses plus intelligentes que nous auparavant. »

Il a ajouté : « Et combien d’exemples connaissez-vous d’une entité plus intelligente contrôlée par une entité moins intelligente ? Il y en a très peu. Il y a la mère et son bébé. L’évolution a déployé des efforts considérables pour permettre au bébé de contrôler sa mère, mais c’est à peu près le seul exemple que je connaisse. »

Hinton, né à Londres et professeur émérite à l'Université de Toronto, a déclaré que les humains seraient comme des tout-petits comparés à l'intelligence des systèmes d'IA très puissants.

« J’aime me dire : imaginez-vous avec un enfant de trois ans. Nous serons ces enfants de trois ans », a-t-il déclaré.

L'IA peut être définie de manière générale comme un ensemble de systèmes informatiques effectuant des tâches qui requièrent généralement l'intelligence humaine.

L'an dernier, Hinton a fait la une des journaux après avoir démissionné de son poste chez Google afin de s'exprimer plus ouvertement sur les risques liés au développement incontrôlé de l'IA, craignant que des personnes mal intentionnées n'utilisent cette technologie à des fins malveillantes. L'une des principales préoccupations des défenseurs de la sécurité de l'IA est que la création d'une intelligence artificielle générale, ou de systèmes plus intelligents que les humains, pourrait rendre cette technologie incontrôlable et constituer une menace existentielle.

Se remémorant où il pensait que le développement de l'IA en serait lorsqu'il a commencé à travailler sur cette technologie, Hinton a déclaré : « Je ne pensais pas que nous en serions là aujourd'hui. Je pensais qu'à un moment donné, nous y parviendrions. »